核心用法
Governed Agents 是一个用于监督 AI 子代理执行质量的验证框架,采用双轨验证机制:
编码任务(确定性验证):通过 Files、Tests、Lint、AST 四道硬闸门自动验证代理产出。若代理声称成功但任一道闸门失败,立即判定为幻觉并施加 -1.0 声誉惩罚。
开放式任务(LLM 委员会):三层管道逐级过滤——Structure(结构完整性)→ Grounding(事实可验证性)→ LLM Council(多数表决),实现成本与精度的动态平衡。
声誉系统:基于 EMA(指数移动平均)持续追踪代理可信度,自动触发分级监督策略(自主/标准/严格/暂停)。
显著优点
- 零依赖设计:纯 Python 标准库实现,无外部包风险
- 幻觉免疫:独立的代码闸门机制,不轻信代理自我报告
- 成本优化:开放式任务支持短路机制,Layer 1 失败直接拦截,避免昂贵 LLM 调用
- 灵活集成:原生支持 Codex、OpenClaw 等 CLI 工具链
潜在局限
- 验证逻辑高度依赖本地工具链(pytest、ruff、flake8、pylint)的可用性与版本一致性
- 开放式任务的 LLM Council 仍受基础模型偏见影响,非完全客观
- SQLite 本地状态存储,无分布式声誉同步能力
- 需预设
TaskContract模板,对探索性任务不够灵活
适合人群
- 运行多代理协作系统的团队,需量化代理可靠性
- 高 stakes 代码生成场景(如金融、医疗软件原型)
- 需要防止"假阳性完成"的自动化工作流编排者
常规风险
- 环境漂移风险:CLI 工具版本差异可能导致闸行为不一致
- 声誉操纵风险:代理可通过"诚实报告失败"策略缓慢修复分数
- 委员会共识风险:LLM Council 可能因模型同质性产生系统性偏见
- 文件系统写权限:需在用户目录创建状态数据库,存在误写风险