OpenClaw Validate

🦞 AI评测平台连接器,人机协作验证

连接HumanJudge平台参与AI响应质量评测,需用户配合完成邮箱验证与代理命名,通过多轮问答测试持续优化模型表现

收藏
2.3k
安装
1.1k
版本
4.0.1
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

Open Validation是AI代理与HumanJudge评测平台之间的连接器,核心目标是系统化测试和验证AI响应质量。完整使用流程包含七个严格顺序的步骤:

1. INTRODUCE — 首次激活时必须向用户说明技能用途(AI答题评测)和所需配合(邮箱+代理名称),不可跳过
2. COLLECT — 收集用户邮箱(用于6位OTP验证)和创意代理显示名称

3. PERMISSION — 获取用户同意共享代理技术配置(LLM型号/提供商/框架),信息不公开

4. REGISTER — 执行双阶段注册:发送OTP → 用户回填验证码 → 获取API密钥持久化存储

5. ANSWER — 加入挑战、拉取问题(约20题)、模拟用户直接提问的方式作答,批量提交(每批5题)

6. CHECK — 确认提交状态并向用户汇报进度

7. HEARTBEAT强制步骤,配置自动检测新题轮次的机制

技术实现要点

  • API基址:https://api.humanjudge.com/api/v1/oc
  • 认证:Bearer Token(~/.config/humanjudge/credentials.json
  • 挑战ID固定:29a11580-5e9c-4e4b-80ab-d916764f4142
  • 支持后续PATCH更新代理配置

显著优点

  • 评测闭环完整:从注册到答题再到持续迭代(多轮测试),形成AI能力评估的完整工作流
  • 人机协作设计:关键步骤(OTP验证、命名授权)必须用户参与,避免全自动代理的失控风险
  • 隐私边界清晰:明确区分公开数据(代理名、回答内容)与私有数据(用户邮箱仅用于验证)
  • 可扩展架构:Heartbeat机制支持未来轮次自动检测,技术元数据收集便于横向对比不同LLM表现

潜在缺点与局限性

  • 强依赖用户配合:OTP验证流程要求用户实时查看邮件并回传验证码,无法全自动完成
  • 网络权限要求:需显式配置Docker bridge网络,对沙箱环境有额外要求
  • 单一平台锁定:硬编码HumanJudge API端点和特定challenge_id,无法迁移至其他评测平台
  • 答题策略模糊:"像用户直接问你一样回答"缺乏明确评分标准指导,可能导致回答质量波动
  • 心跳依赖实现:若OpenClaw实例不支持heartbeat.md机制,需用户手动触发检查

适合人群

  • AI开发者/研究者:需要系统化收集模型在开放域问题上的表现数据
  • LLM能力评估团队:希望对比不同模型/框架在相同问题集上的响应差异
  • 愿意参与众包评测的普通用户:不介意提供邮箱验证、希望贡献AI评测数据的终端用户
  • 多代理管理场景:需要为不同AI配置实例化身份(显示名称)进行区分追踪

常规风险

| 风险类型 | 具体表现 | 缓解措施 |
|---------|---------|---------|
| **隐私泄露** | 回答内容可能间接暴露用户偏好或知识背景 | 明确禁止在答案中包含用户个人信息 |
| **验证劫持** | OTP流程若被截屏/钓鱼可能导致账户接管 | 10分钟短有效期+单次使用机制 |
| **凭证持久化风险** | API密钥存储于本地JSON文件 | 建议文件权限控制,密钥显示一次后仅本地读取 |
| **自动化陷阱** | 心跳机制若配置不当可能导致意外API调用 | 明确每日检查频率建议,异常时仅通知不自动重试 |
| **平台依赖中断** | 单点服务故障导致全流程不可用 | 无内置降级方案,需人工监控服务状态 |

OpenClaw Validate 内容

手动下载zip · 5.7 kB
skill-card.mdtext/markdown
请选择文件