SkillBench

📊 技能性能追踪与智能优化闭环

AI代理技能版本追踪与性能基准测试工具,自动记录成功率、耗时与一致性指标,智能提示优化方向。

收藏
7.1k
安装
2.1k
版本
1.6.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

skillbench 是一套面向 AI 代理的自进化技能评估系统,通过闭环追踪实现持续优化。典型工作流包括:声明技能版本 → 执行任务 → 记录结果 → 查看评分 → 迭代改进 → 版本对比。用户通过 skillbench use <skill>@<version> 锁定待测版本,结合 tasktime 自动采集任务耗时,执行后使用 skillbench record 标记成功/失败及错误类型。系统基于成功率(40%)、平均耗时(30%)、一致性(20%)与趋势(10%)计算 A+-D 五级评分,并生成 HTML 仪表板与 Markdown/JSON 导出。

高阶功能涵盖:跨版本对比(compare)、冒烟测试与完整套件(test)、持续监控(watch)、趋势分析(trend)、多代理排行榜(leaderboard)及自动优化建议(improve)。与 ClawVault 生态深度集成,支持技能市场同步与云端持久化。

显著优点

  • 量化闭环:将主观"技能好坏"转化为可对比的数值指标,消除版本迭代的盲目性
  • 生态协同:原生对接 tasktime 计时与 ClawVault 记忆系统,数据流转无摩擦
  • 智能信号:自动识别"需改进"、"已过期"、"性能下滑"三类状态,降低维护认知负担
  • 灵活导出:支持仪表板、JSON、Markdown 多格式,适配 CI/CD 与人工审阅场景
  • 多代理支持:leaderboard 功能满足企业级多智能体部署的横向对比需求

潜在局限

  • 依赖外部生态:核心体验需配合 tasktime 与 ClawVault 使用,独立部署价值受限
  • 评分权重固定:A+~D 的四维权重硬编码,难以适配特定业务场景(如高安全领域应提高一致性权重)
  • 错误类型预定义--error-type 依赖人工分类,缺乏自动聚类或 LLM 辅助归因
  • Node 单运行时:仅提供 npm 分发,对 Python 原生 AI 工作流侵入性较高

适合人群

  • 维护 5+ 技能版本、需版本间 A/B 对比的 AI 代理开发者
  • 运行多智能体系统、需统一性能看板的 MLOps/平台团队
  • 已采用 ClawHub 生态、追求"技能即代码"治理的进阶用户

常规风险

  • 数据孤岛风险:未同步至 ClawVault 时benchmark数据仅存本地,存在丢失可能
  • 评分误读风险:A 级评分不等于业务价值高,需结合人工校验避免过度依赖
  • 监控开销watch --interval 持续轮询在大规模技能集下可能产生非预期计算消耗
  • 版本漂移use 命令仅标记本地活跃版本,不强制锁定实际运行代码,存在执行版本与记录版本不一致隐患

SkillBench 内容

手动下载zip · 1.9 kB
SKILL.mdtext/markdown
请选择文件