Governed Agents

🛡️ AI 子代理的声誉与验证引擎

为 AI 子代理提供确定性验证与声誉评分,通过 4 道代码闸门和 3 层验证管道防止幻觉成功,零依赖纯 Python 实现。

收藏
4.9k
安装
1k
版本
0.1.8
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

Governed Agents 是一个用于监督 AI 子代理执行质量的验证框架,采用双轨验证机制

编码任务(确定性验证):通过 Files、Tests、Lint、AST 四道硬闸门自动验证代理产出。若代理声称成功但任一道闸门失败,立即判定为幻觉并施加 -1.0 声誉惩罚。

开放式任务(LLM 委员会):三层管道逐级过滤——Structure(结构完整性)→ Grounding(事实可验证性)→ LLM Council(多数表决),实现成本与精度的动态平衡。

声誉系统:基于 EMA(指数移动平均)持续追踪代理可信度,自动触发分级监督策略(自主/标准/严格/暂停)。

显著优点

  • 零依赖设计:纯 Python 标准库实现,无外部包风险
  • 幻觉免疫:独立的代码闸门机制,不轻信代理自我报告
  • 成本优化:开放式任务支持短路机制,Layer 1 失败直接拦截,避免昂贵 LLM 调用
  • 灵活集成:原生支持 Codex、OpenClaw 等 CLI 工具链

潜在局限

  • 验证逻辑高度依赖本地工具链(pytest、ruff、flake8、pylint)的可用性与版本一致性
  • 开放式任务的 LLM Council 仍受基础模型偏见影响,非完全客观
  • SQLite 本地状态存储,无分布式声誉同步能力
  • 需预设 TaskContract 模板,对探索性任务不够灵活

适合人群

  • 运行多代理协作系统的团队,需量化代理可靠性
  • 高 stakes 代码生成场景(如金融、医疗软件原型)
  • 需要防止"假阳性完成"的自动化工作流编排者

常规风险

  • 环境漂移风险:CLI 工具版本差异可能导致闸行为不一致
  • 声誉操纵风险:代理可通过"诚实报告失败"策略缓慢修复分数
  • 委员会共识风险:LLM Council 可能因模型同质性产生系统性偏见
  • 文件系统写权限:需在用户目录创建状态数据库,存在误写风险

Governed Agents 内容

.github文件夹
workflows文件夹
governed_agents文件夹
tests文件夹
tools文件夹
手动下载zip · 54.9 kB
ci.ymltext/plain
请选择文件