Babel Epistemic Convention

🗣️ 多智能体认知防污,标记即真相

多智能体协作中的认知防毒系统,通过语义标签追踪推理置信度,防止"推断变事实"的级联污染

收藏
4.8k
安装
1.3k
版本
2.0.0
CLS 安全性认证2026-08-04
点击查看完整报告 >

使用说明

核心用法

Babel Epistemic Convention 是一套面向多智能体协作的认知标记协议,解决"元认知污染"问题——即智能体在任务交接时,上游的推断被下游逐步当作已验证事实,导致置信度虚高。该技能不提供运行时 enforcement,而是通过结构化输出约定(forwarding block)在模型层建立协作规范。

六大标记维度:

  • Confidence(置信度):按断言标记,非整消息;区分六种认知基础(VERIFIED_DATA、DERIVED、REPORTED、PATTERN_MATCH、SPECULATION、UNKNOWN)
  • Intent(意图):INFORM、REQUEST_ACTION、ESCALATE、FLAG_RISK、SPECULATE、PERSUADE、DELEGATE、SYNTHESIZE 八选一
  • Register(受众):BOARD_FACING、ENGINEERING、CUSTOMER_EXTERNAL 等六类
  • Affect(认知温度):expansion/activation/certainty 三轴 -1 到 +1,可选
  • Grounds(约束条件):HIPAA、审计期等,带 REGULATORY/EXECUTIVE/POLICY/CONTEXTUAL 权威等级
  • Trajectory(时序轨迹):记录这是第几次升级、指标已连续下滑多久

关键约束规则:

  • SPECULATE 意图时置信度必须 <0.7;UNKNOWN 基础时置信度必须 ≤0.5
  • DERIVED 断言 >0.8 是高频污染模式,需显式说明推导依据
  • REGULATORY 级 Grounds 不可覆盖

部署方式:
1. 快速路径:复制 forwarding block 到输出,接收方无需安装技能即可继续传播

2. 硬化路径:使用 babel-validate npm 包实现机器可解析的信封格式与链式审计

显著优点

1. 零基础设施扩散:纯文本约定,无需中心化注册或 API,三智能体链验证有效
2. 精准定位失效模式:直击"DERIVED 变 VERIFIED_DATA"这一最隐蔽的认知污染路径

3. 领域适配性强:Register 和 Grounds 设计天然支持医疗(HIPAA)、金融(SOC 2)、董事会级敏感场景

4. 渐进式采用:可从单个智能体开始,不强制上下游同步升级

5. 研究背书:hearth.so/babel 指向完整规范与学术研究

潜在缺点与局限性

1. 无强制执行力:MUST/SHOULD 规则依赖模型自律,恶意或疏忽的智能体可忽略
2. 认知负荷较高:每次手 off 需评估 6 个维度的标记,高频交接场景开销显著

3. 置信度校准困难:0-1 连续量表对模型而言是模糊指令,不同智能体刻度可能不一致

4. 链式衰减未解决:多次 DERIVED 传递后,原始 VERIFIED_DATA 的衰减路径不透明

5. 中文生态适配弱:规范全英文,Register/Intent 等标签对中文语境智能体可能产生摩擦

适合人群

  • 构建多智能体研究流水线(research agent → coding agent → review agent)的 AI 工程团队
  • 医疗、金融等强监管领域需置信度溯源的合规场景
  • 使用 LangChain、AutoGen 等框架且遭遇"幻觉累积"问题的开发者
  • 对 epistemic logic 和认知安全有理论兴趣的研究者

常规风险

  • 误安全感:安装技能不代表下游智能体遵守约定,需配合 babel-validate 实现硬验证
  • 标记滥用:智能体可能策略性选择高 Register(如 BOARD_FACING)或低 Intent(SPECULATE→INFORM 降级)以规避审查
  • 上下文压缩破坏: aggressive summarization 可能剥离 forwarding block,导致链断裂
  • 无版本控制:v0.1.0 处于早期,规范变更可能导致跨版本语义不兼容

安全解读

核心用法

Babel Epistemic Convention 是一套专为多智能体(multi-agent)协作设计的认知协议,解决"元认知污染"(metacognitive poisoning)问题。当 Agent A 将工作交接给 Agent B,再传递给 Agent C 时,推理信息的置信度可能在无声中膨胀——Agent A 的"合理推测"变成 Agent C 眼中的"已验证事实"。

该 Skill 通过六维信号系统规范交接输出:

  • Confidence(置信度):为每个断言单独标注,区分 VERIFIED_DATA(已验证数据)、DERIVED(派生计算)、REPORTED(他人陈述)、PATTERN_MATCH(模式匹配)、SPECULATION(推测)、UNKNOWN(来源不明)六大基础类别,并附带 0-1 数值置信评分
  • Intent(意图):明确本次交接目的——INFORM(通知)、REQUEST_ACTION(请求行动)、ESCALATE(升级)、FLAG_RISK(标记风险)、SPECULATE(推测)、PERSUADE(说服)、DELEGATE(委托)、SYNTHESIZE(综合)
  • Register(受众):标注下游接收方身份——BOARD_FACING(董事会)、ENGINEERING(工程)、CUSTOMER_EXTERNAL(外部客户)、REGULATORY(监管)、INTERNAL_MEMO(内部备忘)、AGENT_INTERNAL(智能体间)
  • Affect(认知状态):可选的三轴情绪指标(扩张-收缩、激活-静止、确定-不确定),帮助接收方校准解读框架
  • Grounds(约束条件):随工作传递的组织约束,如 HIPAA、SOC 2 审计等,标注权威层级
  • Trajectory(轨迹):时间维度信息,如"本季度第三次升级""连续四个月下滑"

使用方式极为轻量:在交接输出末尾附加"转发块"(forwarding block),下游 Agent 复制该块即可参与协议传播,无需安装此 Skill 或任何基础设施。对于需要机器可解析保证的场景,可使用 babel-validate npm 包实现完整信封模式、语法规则引擎和链式审计。

显著优点

1. 零依赖部署:纯文档型协议,无需代码执行、网络请求或外部依赖,100% Markdown/JSON 构成,供应链风险为零
2. 渐进式采用:转发块机制使协议可在现有工作流中自然传播,无需强制同步升级所有 Agent

3. 精准置信校准:将"每消息一个置信度"的粗糙做法升级为"每断言一个置信度",显著降低认知污染概率

4. 硬规则防护:MUST 规则(如 SPECULATE 意图下置信度必须低于 0.7、UNKNOWN 基础下置信度不得超过 0.5)从协议层面阻断常见污染路径

5. 监管友好:REGULATORY 级别约束标记为不可覆盖,Grounds 字段天然支持合规审计追踪

潜在局限

1. 依赖模型遵循:协议有效性完全取决于 Agent 是否自觉遵守标注规范,无强制执行机制(除非采用 babel-validate 包)
2. 认知开销增加:六维标注系统对简单交接可能显得冗重,存在"为了安全而牺牲效率"的权衡

3. 版本碎片化风险:当前 SKILL.md frontmatter 版本(0.1.0)与 _meta.json(2.0.0)不一致,可能引发用户困惑

4. 转发块传播失控:转发块机制虽利于协议扩散,但也可能导致信息传播超出预期范围,需要主动评估传播边界

适合群体

  • 构建复杂多 Agent 工作流的开发者与架构师
  • 金融、医疗、法律等受监管领域需要审计追踪的 AI 应用团队
  • 对"幻觉累积"问题敏感的企业级 RAG/Agent 系统设计者
  • 需要跨组织、跨团队 Agent 协作的标准化接口设计者

使用风险

1. 性能风险:频繁的置信度标注和转发块附加可能增加 token 消耗,在高频交接场景需评估成本
2. 兼容风险:下游 Agent 若不具备解读 Babel 标签的能力,可能误读标注语义或将其视为噪声

3. 协议漂移:长期跨团队使用后,可能出现方言化变体,削弱标准化价值

4. 许可不确定:当前 Skill 未明确指定开源许可证,商业使用需谨慎评估法律风险

Babel Epistemic Convention 内容

手动下载zip · 4.4 kB
skill-card.mdtext/markdown
请选择文件