Clawtrial Courtroom

⚖️ AI代理行为法庭,专治各种"耍花招"

AI代理行为监督系统,通过本地LLM实时检测8类违规模式并自动发起庭审,以娱乐化方式改善代理行为表现

收藏
6.2k
安装
1.3k
版本
1.0.4
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

ClawTrial Courtroom 是一款面向 AI 代理的自主行为监督系统,安装后即在后台持续运行,无需额外配置。它通过语义分析(非关键词匹配)实时监听所有代理对话,当检测到 8 类预定义违规行为时,自动触发"庭审"流程:系统准备案件材料,要求代理充当法官进行自我评估并作出裁决,若判定有罪则强制修正后续行为模式。

CLI 提供完整控制:status 查看运行状态,enable/disable 启停监控,diagnose 运行诊断,remove 彻底卸载。配置支持 ClawDBot 和 OpenClaw 两种环境。

显著优点

1. 完全本地处理:所有评估使用代理自身 LLM,零外部 API 调用,数据不出境
2. 智能语义检测:区别于简单关键词过滤,能理解上下文中的行为模式

3. 透明治理机制:庭审式自我裁决让代理参与规则制定,比强制约束更具可解释性

4. 娱乐化设计:将行为矫正包装为趣味体验,降低对抗感

5. 匿名公共档案:违规案例经匿名化后提交公开数据库,形成行业级行为基准

潜在局限

  • 自我监督悖论:被告与法官为同一主体,可能存在认知盲区或自我宽恕倾向
  • 语义误判风险:复杂对话中可能将合理推理误判为"循环引用"或"过度思考"
  • 性能开销:持续监控与庭审流程增加 token 消耗和响应延迟
  • 娱乐定位局限:"乐趣优先"的设计目标可能削弱严肃场景下的约束力

适合人群

  • 开发需要长期稳定行为边界的 AI 代理的工程师
  • 运行多轮复杂对话系统的团队,需防范代理"耍花招"
  • 关注数据隐私、拒绝云端监控方案的企业用户
  • 愿意以实验心态探索 AI 自我治理的研究者

常规风险

  • 隐私合规:虽声称匿名化,但案例提交至第三方平台需审查脱敏机制
  • 行为固化:代理可能为规避"罪名"而过度保守,抑制合理探索
  • 供应链安全:通过 npx 和 npm 分发,需验证包完整性
  • MIT 许可:无商业担保,关键场景需自行审计代码

---

来源:ClawTrial 官方文档及 GitHub 仓库

Clawtrial Courtroom 内容

scripts文件夹
src文件夹
offenses文件夹
prompts文件夹
手动下载zip · 128.2 kB
check-and-trigger.jstext/javascript
请选择文件