IBT: Instinct + Behavior + Trust

🧠 AI Agent执行纪律与信任契约框架

面向AI Agent的执行纪律框架,融合直觉层观察、安全停止协议与信任契约机制,v2.7新增错误韧性、检查点与决策日志功能。

收藏
4.2k
安装
1.5k
版本
2.7.1
CLS 安全扫描中
预计需要 3 分钟...

使用说明

IBT: Instinct + Behavior + Trust 综合评估

核心用法

IBT是一套面向AI Agent的执行纪律框架,采用「Observe → Parse → Plan → Commit → Act → Verify → Update → Stop」八阶段循环,确保Agent输出确定性与可追溯性。框架分为四大层级:

1. 执行层(v1):基础决策循环,要求先解析目标、再规划最短可验证路径、执行前承诺、事后验证,失败时最小化补丁修复。

2. 直觉层(v2):新增Observe前置步骤,要求Agent在任务前进行「Notice-Take-Hunch-Suggest」四步感知,识别模式、表达立场、捕捉风险,使交互更具「活性」与真实意见。

3. 安全层(v2.1-v2.2):确立「STOP指令神圣不可侵犯」原则,任何包含stop/don't/wait/no等词汇的输入立即触发执行 halt,并需人工确认后继续。集成OpenClaw原生/stop命令,实现决策层与执行层分离。

4. 信任层(v2.3):引入「信任契约」机制,要求Agent与人类双向承诺(Agent承诺诚实、主动标记问题;人类承诺清晰指令、及时反馈),并建立会话重对齐协议(compaction、12小时间隔、上下文>70%时主动同步状态)。

5. 错误韧性层(v2.7):新增结构化错误处理——按TIMEOUT/AUTH/RATE/PARSE/UNKNOWN分类响应,Commit前自动检查点,全程单条决策日志,支持快速恢复,总开销约3ms/周期。

显著优点

  • 确定性保障:强制验证环节(Verify-before-claim)显著降低幻觉与过度自信输出
  • 人机信任设计:契约化关系 + 会话状态同步,降低长上下文场景下的「失忆」风险
  • 安全意识突出:STOP协议与破坏性操作预览机制,防止不可逆误操作
  • 低开销韧性:检查点与日志机制以毫秒级成本实现故障快速恢复
  • 表达弹性:Skip/Pulse/Full三级输出模式,平衡效率与透明度

潜在局限

  • 指令开销:完整八步循环对简单查询可能显得冗余,需依赖「Trivial模式」降级
  • 重对齐频率敏感:12小时默认间隔可能对部分高频用户造成干扰,或对低频用户过度保守
  • OpenClaw依赖/stop集成与clawhub install生态绑定,跨平台迁移需适配
  • 信任契约落地成本:契约内容需个性化填充,实际执行深度依赖实现者的prompt工程

适合人群

  • 长期协作型Agent用户:需要Agent记住偏好、保持上下文一致性的场景
  • 高 stakes 任务执行:金融操作、数据迁移、代码部署等不可逆操作前的安全加固
  • 多轮复杂任务处理:研究分析、项目规划、调试排查等需要分阶段验证的工作流
  • 对「Agent失控」有顾虑的保守用户:STOP协议与显式确认机制提供心理安全网

常规风险

| 风险类型 | 说明 | 缓解措施 |
|---------|------|---------|
| 上下文污染 | 长会话中关键约束被压缩丢失 | 指令持久化协议 + 定期重对齐 |
| 过度询问 | 直觉层可能导致频繁澄清请求 | 明确「高不确定性」阈值,平衡效率 |
| 检查点膨胀 | 高频检查点可能累积内存压力 | 内存级存储(非磁盘),周期性清理 |
| 错误分类误判 | 整数枚举分类可能过于简化 | UNKNOWN兜底 + 人工介入机制 |

版本演进

v2.7为当前推荐版本,完整向下兼容v1-v2.6,采用MIT协议开源,托管于GitHub。

IBT: Instinct + Behavior + Trust 内容

手动下载zip · 11.7 kB
EXAMPLES.mdtext/markdown
请选择文件