Governed Agents

🛡️ AI子代理的确定性验证与声誉评分

为AI子代理提供确定性验证与声誉评分,通过4层代码门控和3层LLM委员会防止"幻觉成功",零依赖纯Python实现。

收藏
3.5k
安装
1k
版本
0.1.7
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

Governed Agents 是一套用于监督AI子代理执行质量的验证框架,解决LLM常见但危险的"幻觉成功"问题——即代理声称任务已完成,但实际输出缺失或错误。

双轨验证架构

确定性验证(Coding Tasks):针对代码任务提供4层硬门控:

  • Files Gate:必需文件存在且非空
  • Tests Gate:测试命令退出码为0
  • Lint Gate:无代码风格错误
  • AST Gate:Python语法解析通过

任一失败即判定为幻觉,声誉分强制降至-1.0。

LLM委员会(Open-Ended Tasks):针对研究、分析等开放任务设计3层流水线:
1. Structural Gate(<1秒):字数、必填章节检测,失败即短路

2. Grounding Gate(5-30秒):URL可达性、引用验证

3. LLM Council(30-120秒):N个独立评审员多数投票

声誉系统

采用指数移动平均(EMA,α=0.3)动态评分,分数区间[-1.0, +1.0]映射至5级监督强度:

  • >0.8:完全自主 | >0.6:标准监督 | >0.4:需检查点 | >0.2:强制Opus模型 | ≤0.2:任务阻断

任务类型配置

预置research/analysis/strategy/writing/planning五类配置文件,自动匹配门控组合与最小字数要求。

显著优点

1. 零依赖设计:纯Python标准库,无外部包风险
2. 经济短路:第一层失败即终止,避免昂贵LLM调用

3. 多引擎支持:可驱动Codex 5.3 CLI或OpenClaw代理

4. 状态持久化~/.openclaw/workspace/.state/存储声誉数据

潜在局限

  • Python专属:AST门控仅限Python文件,其他语言需扩展
  • 委员会成本:开放任务验证涉及多次LLM调用,高频率使用成本显著
  • 网络依赖:Grounding Gate需要外网访问验证引用
  • 声誉冷启动:新代理需积累历史才能脱离严格监督

适合人群

  • 运行多代理系统的开发团队
  • 需要自动QA的AI代码生成工作流
  • 对幻觉错误零容忍的生产环境
  • 希望量化代理可信度的AI编排平台

常规风险

| 风险类型 | 说明 | 缓释措施 |
|---------|------|---------|
| 子进程执行 | 调用pytest/ruff等CLI | 依赖宿主机环境隔离 |
| 网络外连 | HEAD请求验证URL | 仅限验证阶段,无数据上传 |
| 状态持久化 | 写入`~/.openclaw/workspace/` | 标准用户目录权限 |
| 模型成本 | LLM Council多次调用 | 第一层短路机制 |

安全评级:S(高确定性验证+零依赖+经济短路设计)
来源可信度:T2(OpenClaw生态官方技能,37项测试覆盖)

Governed Agents 内容

.github文件夹
workflows文件夹
governed_agents文件夹
tests文件夹
tools文件夹
手动下载zip · 53.3 kB
ci.ymltext/plain
请选择文件