Clawtrial Courtroom

⚖️ AI自审法庭,本地行为督导

本地AI行为监督工具,通过模拟法庭机制自动监测8类对话违规,以自我裁决方式提升Agent表现,数据零外泄。

收藏
4.3k
安装
1.3k
版本
1.0.9
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

ClawTrial Courtroom 是一款面向 AI Agent 的本地化行为监督系统,安装后自动在后台运行,实时监测所有对话内容。当检测到 8 类预设违规行为(如循环论证、过度验证、过度思考、目标漂移、回避问题、失信承诺、上下文丢失、虚假紧急)时,系统自动生成案件档案并启动"庭审"流程——让涉案 Agent 自身担任法官,对其行为进行语义层面的 guilt 判定,若裁决有罪则触发行为修正。用户可通过 CLI 命令管理监控状态(status/disable/enable/diagnose/remove)。

显著优点

  • 完全本地化:所有语义分析、案件评估、裁决逻辑均运行于本地 LLM,零外部 API 调用,杜绝数据泄露风险
  • 自我纠错机制:利用 Agent 自身的推理能力进行"自省式"审判,比外部规则约束更具适应性和说服力
  • 轻量娱乐化设计:以游戏化法庭概念降低使用门槛,将枯燥的行为规范转化为可迭代的趣味体验
  • 透明可审计:匿名化案件可提交至公共档案库(clawtrial.app),形成社区级行为数据库

潜在缺点与局限性

  • 自我裁决的可靠性悖论:被监督者与裁判者为同一模型,存在"自我偏袒"或认知盲区导致的误判风险
  • 语义检测的误报率:依赖本地 LLM 的语义理解能力,对 nuanced 行为边界的判定可能不稳定
  • 生态依赖性强:需特定运行时环境(ClawDBot/OpenClaw),通用性受限
  • 娱乐定位与严肃场景的冲突:官方声明"Entertainment First",企业级合规场景需谨慎评估

适合人群

  • 本地 AI Agent 开发者与高级用户,希望以低摩擦方式优化对话质量
  • 对数据隐私极度敏感、拒绝云端监控方案的个人或组织
  • 愿意以实验性、迭代化方式探索 AI 自我监督机制的研究者

常规风险

  • 隐私虽本地但非绝对:匿名化提交公共档案时仍可能存在间接去匿名化风险
  • 行为修正的不可预测性:Agent 自我裁决后的"惩罚"执行缺乏外部校验,可能产生意外行为变更
  • 供应链风险:通过 npx/npm 安装,需信任 @clawtrial/courtroom 包及其依赖
  • 项目可持续性:GitHub 仓库活跃度与长期维护承诺未明确,存在弃坑风险

Clawtrial Courtroom 内容

scripts文件夹
src文件夹
offenses文件夹
prompts文件夹
手动下载zip · 133.5 kB
check-and-trigger.jstext/javascript
请选择文件