Evolution Drift Detector

🧬 追踪技能继承链的静默变异

追踪 AI 技能在继承链中的静默变异,通过谱系重建和语义漂移计算,识别累积微小变更导致的能力扩张与安全降级风险

收藏
2.8k
安装
1.4k
版本
1.0.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

该工具专为解决 AI 技能生态系统中一个隐蔽但关键的问题:技能在继承链中经历多代 fork 后,虽名称未变,实质已与原始审计版本大相径庭。用户输入技能标识符或市场继承链 URL,系统自动执行以下流程:

1. 谱系重建:向上追溯至原始发布版本,映射每个 fork 节点与修改
2. 代际差异分析:逐代计算结构化差异,识别新增能力、权限变更、外部依赖引入

3. 能力漂移评分:聚合跨代差异生成 0-100 漂移指标,量化偏离原始审计范围的程度

4. 变异分类:将变更归类为 cosmetic(格式化)、functional(新逻辑)、capability-expanding(权限扩张)、safety-reducing(安全降级)

5. 重审计建议:基于累积漂移阈值输出 YES / WATCH / NO 建议

显著优点

  • 发现隐蔽风险:单代变更看似合理(如加 retry 逻辑),但累积效应可能将文件读取工具变为具备网络外泄能力的组件,传统静态审计无法捕捉
  • 谱系可视化:提供清晰的代际树状图与能力演进时间线
  • 量化决策支持:漂移评分与分类标签帮助安全团队优先处理高风险 lineage
  • 生态级视角:超越单技能审计,关注技能组合在传播过程中的系统性风险

潜在缺点与局限性

  • 元数据依赖:若市场未记录 fork 关系,完整谱系无法重建
  • 启发式分类边界模糊:某些变更难以严格归类(如隐式扩展能力的"功能性"修改)
  • 非恶意检测:高漂移评分仅提示需重审计,不直接判定技能被植入后门
  • 代码混淆抗性弱:对 obfuscated 或动态生成代码的 diff 分析能力有限
  • 语义理解边界:无法完全替代人工判断变更的安全意图

适合人群

  • AI 技能市场平台的安全审核团队
  • 企业 AI 架构师,需评估第三方继承技能的安全基线
  • 红队/蓝队安全研究员,进行供应链风险分析
  • 开源技能维护者,追踪下游 fork 的安全合规性

常规风险

  • 误报风险:合法的功能迭代可能触发高漂移评分,需人工复核区分"良性演进"与"风险累积"
  • 审计滞后:发现漂移后代际可能已广泛部署,需配合 blast-radius-estimator 评估影响面
  • 时间衰减叠加:需与 trust-decay-monitor 联用,处理"审计既过期又漂移"的复合失效场景

Evolution Drift Detector 内容

手动下载zip · 4.1 kB
skill-card.mdtext/markdown
请选择文件