核心用法
Governed Agents 是一套用于监督AI子代理执行质量的验证框架,解决LLM常见但危险的"幻觉成功"问题——即代理声称任务已完成,但实际输出缺失或错误。
双轨验证架构
确定性验证(Coding Tasks):针对代码任务提供4层硬门控:
- Files Gate:必需文件存在且非空
- Tests Gate:测试命令退出码为0
- Lint Gate:无代码风格错误
- AST Gate:Python语法解析通过
任一失败即判定为幻觉,声誉分强制降至-1.0。
LLM委员会(Open-Ended Tasks):针对研究、分析等开放任务设计3层流水线:
1. Structural Gate(<1秒):字数、必填章节检测,失败即短路
2. Grounding Gate(5-30秒):URL可达性、引用验证
3. LLM Council(30-120秒):N个独立评审员多数投票
声誉系统
采用指数移动平均(EMA,α=0.3)动态评分,分数区间[-1.0, +1.0]映射至5级监督强度:
- >0.8:完全自主 | >0.6:标准监督 | >0.4:需检查点 | >0.2:强制Opus模型 | ≤0.2:任务阻断
任务类型配置
预置research/analysis/strategy/writing/planning五类配置文件,自动匹配门控组合与最小字数要求。
显著优点
1. 零依赖设计:纯Python标准库,无外部包风险
2. 经济短路:第一层失败即终止,避免昂贵LLM调用
3. 多引擎支持:可驱动Codex 5.3 CLI或OpenClaw代理
4. 状态持久化:~/.openclaw/workspace/.state/存储声誉数据
潜在局限
- Python专属:AST门控仅限Python文件,其他语言需扩展
- 委员会成本:开放任务验证涉及多次LLM调用,高频率使用成本显著
- 网络依赖:Grounding Gate需要外网访问验证引用
- 声誉冷启动:新代理需积累历史才能脱离严格监督
适合人群
- 运行多代理系统的开发团队
- 需要自动QA的AI代码生成工作流
- 对幻觉错误零容忍的生产环境
- 希望量化代理可信度的AI编排平台
常规风险
| 风险类型 | 说明 | 缓释措施 |
|---------|------|---------|
| 子进程执行 | 调用pytest/ruff等CLI | 依赖宿主机环境隔离 |
| 网络外连 | HEAD请求验证URL | 仅限验证阶段,无数据上传 |
| 状态持久化 | 写入`~/.openclaw/workspace/` | 标准用户目录权限 |
| 模型成本 | LLM Council多次调用 | 第一层短路机制 |
安全评级:S(高确定性验证+零依赖+经济短路设计)
来源可信度:T2(OpenClaw生态官方技能,37项测试覆盖)