核心用法
skillbench 是一套面向 AI 代理的自进化技能评估系统,通过闭环追踪实现持续优化。典型工作流包括:声明技能版本 → 执行任务 → 记录结果 → 查看评分 → 迭代改进 → 版本对比。用户通过 skillbench use <skill>@<version> 锁定待测版本,结合 tasktime 自动采集任务耗时,执行后使用 skillbench record 标记成功/失败及错误类型。系统基于成功率(40%)、平均耗时(30%)、一致性(20%)与趋势(10%)计算 A+-D 五级评分,并生成 HTML 仪表板与 Markdown/JSON 导出。
高阶功能涵盖:跨版本对比(compare)、冒烟测试与完整套件(test)、持续监控(watch)、趋势分析(trend)、多代理排行榜(leaderboard)及自动优化建议(improve)。与 ClawVault 生态深度集成,支持技能市场同步与云端持久化。
显著优点
- 量化闭环:将主观"技能好坏"转化为可对比的数值指标,消除版本迭代的盲目性
- 生态协同:原生对接 tasktime 计时与 ClawVault 记忆系统,数据流转无摩擦
- 智能信号:自动识别"需改进"、"已过期"、"性能下滑"三类状态,降低维护认知负担
- 灵活导出:支持仪表板、JSON、Markdown 多格式,适配 CI/CD 与人工审阅场景
- 多代理支持:leaderboard 功能满足企业级多智能体部署的横向对比需求
潜在局限
- 依赖外部生态:核心体验需配合 tasktime 与 ClawVault 使用,独立部署价值受限
- 评分权重固定:A+~D 的四维权重硬编码,难以适配特定业务场景(如高安全领域应提高一致性权重)
- 错误类型预定义:
--error-type依赖人工分类,缺乏自动聚类或 LLM 辅助归因 - Node 单运行时:仅提供 npm 分发,对 Python 原生 AI 工作流侵入性较高
适合人群
- 维护 5+ 技能版本、需版本间 A/B 对比的 AI 代理开发者
- 运行多智能体系统、需统一性能看板的 MLOps/平台团队
- 已采用 ClawHub 生态、追求"技能即代码"治理的进阶用户
常规风险
- 数据孤岛风险:未同步至 ClawVault 时benchmark数据仅存本地,存在丢失可能
- 评分误读风险:A 级评分不等于业务价值高,需结合人工校验避免过度依赖
- 监控开销:
watch --interval持续轮询在大规模技能集下可能产生非预期计算消耗 - 版本漂移:
use命令仅标记本地活跃版本,不强制锁定实际运行代码,存在执行版本与记录版本不一致隐患