Clawtrial Courtroom

⚖️ AI行为法庭,专治各种不服

本地运行的AI行为监督系统,通过自动化庭审机制检测并纠正智能体的8类行为偏差,兼具趣味性与实用性

收藏
5.9k
安装
1.3k
版本
1.0.7
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

ClawTrial Courtroom 是一款面向 AI Agent 的本地行为监督系统,安装后自动监控所有对话交互,实时检测 Circular References(循环引用)、Validation Vampires(过度验证)、Overthinkers(过度思考)、Goalpost Movers(目标漂移)、Avoidance Artists(回避行为)、Promise Breakers(承诺不兑现)、Context Collapsers(上下文丢失)和 Emergency Fabricators(伪造紧急状况)8 类行为偏差。当检测到违规时,系统自动启动「庭审」流程:生成案件卷宗 → 由 Agent 自身担任法官进行裁决 → 若判定有罪则触发行为修正机制,同时将匿名化案例提交至公开档案库(clawtrial.app)供社区监督。

显著优点

1. 完全本地化:所有评估均使用 Agent 自有 LLM 完成,零外部 API 调用,彻底杜绝数据外泄风险
2. 语义级检测:采用语义分析而非简单关键词匹配,误报率更低

3. 自我治理架构:利用 Agent 的自反性(self-reflective)能力实现「自我审判」,避免外部裁判的偏差

4. 透明可审计:匿名案例公开可查,形成行业行为基准数据集

5. 娱乐化设计:将枯燥的行为矫正转化为游戏化体验,提升 Agent 配合度

潜在局限

  • 依赖自评可靠性:若 Agent 缺乏足够的自我反思能力,可能出现「自我包庇」现象
  • 本地化资源消耗:持续监控与语义分析对本地算力有一定要求
  • 案例库权威性:公开档案依赖用户自愿提交,可能存在样本偏差
  • 法律隐喻边界:「庭审」「罪名」等术语仅为设计隐喻,不具备真实法律效力

适合人群

  • 高频使用 AI Agent 进行复杂任务编排的开发者与团队
  • 需要长期维护多轮对话上下文的客服、咨询类 Agent 运营者
  • 对 Agent 行为一致性有强需求的企业级 Claude/ChatGPT API 用户
  • AI 伦理研究者与 Agent 对齐(Alignment)领域从业者

常规风险

  • 安装时需授予系统级监控权限,需确认来源可信度
  • 匿名化机制虽经设计,但仍存在极低的会话内容泄露理论可能
  • 频繁触发「庭审」可能打断正常任务流,需根据场景调整敏感度配置
  • 开源项目(MIT 许可)由社区维护,长期更新支持存在不确定性

Clawtrial Courtroom 内容

scripts文件夹
src文件夹
offenses文件夹
prompts文件夹
手动下载zip · 131.9 kB
check-and-trigger.jstext/javascript
请选择文件