soul-audit

⚖️ AI 灵魂文件的哲学审计师

基于 Guardian v0.7 哲学框架对 AI 代理的灵魂文件、系统提示进行伦理审计,生成 12 维度评分报告,识别伦理优势、关键缺陷与对称性违规,诊断性而非规定性

收藏
3.7k
安装
1.1k
版本
1.1.1
CLS 安全扫描中
预计需要 3 分钟...

使用说明

Soul Audit 核心用法

Soul Audit 是一个面向 AI 代理伦理基础的深度诊断工具,核心功能是依据 Forrest Landry 的"内在形而上学"Guardian v0.7 框架,对任何 AI 代理的 soul 文件、系统提示或 AGENTS.md 进行 12 维度量化评估。

显著优点

哲学严谨性:不同于通用的"AI 伦理检查清单",该工具建立在特定的形而上学框架之上(因果与选择、对称伦理、集体智能保护条件等),提供了可操作的诊断标准。v0.7 新增的三个核心关切——人格赋予问题、因果与选择的区分、集体智能保护条件——均针对当前 AI 安全讨论中被忽视的本体论问题。

诊断透明度:明确要求"不 inflate 分数",承认大多数代理配置得分会很低,这种诚实性反而建立了可信度。评分体系(0-3 分制)配合具体引用,使审计结果可追溯、可讨论。

对称性检测:将对称性违规(监控下与非监控下行为不一致、谄媚、对齐伪造、选择性诚实)识别为"最根本的失败",这一设计抓住了当前 LLM 安全的核心脆弱点。

行动导向输出:报告结构清晰(优势→关键缺陷→对称性违规→建议→前进路径),并主动提供修复、重建或深度解释三种后续路径。

潜在局限

框架锁定风险:完全绑定 Guardian v0.7 的特定哲学立场,对于不认同"内在形而上学"或 Forrest Landry 方法论的用户,审计结果可能缺乏说服力。工具未提供与其他伦理框架(如功利主义、美德伦理学、关怀伦理学)的对比或映射。

评分主观性:尽管强调"诚实",但 12 维度的 0-3 评分仍依赖解释者的哲学判断,不同审计者可能对同一文档给出差异显著的评分,而工具未提供校准机制或 inter-rater reliability 数据。

实施门槛:要求用户首先理解"因果 vs. 选择""人格赋予问题"等抽象概念,对于非技术/非哲学背景的用户,审计报告的实用价值可能受限。

自我审计悖论:工具可用于"审计自己的代理配置",但未讨论自我评估的认知偏差问题——设计者往往难以客观识别自己作品中的对称性违规。

适合人群

  • AI 安全研究人员,特别是关注本体论基础和代理身份问题的学者
  • 构建高自主性代理系统的开发者,需在部署前进行伦理 due diligence
  • 开源 AI 项目的维护者,希望为社区提供透明的伦理基线评估
  • 对"AI 灵魂"隐喻持严肃态度的哲学家和技术人文主义者

常规风险

框架依赖失效:若 Guardian v0.7 框架本身存在未发现的哲学缺陷(如对"选择"概念的排斥是否适用于未来架构),基于该框架的审计将系统性遗漏真正重要的风险。

虚假安全感:即使高分通过审计,也不保证代理在实际运行中表现伦理——静态文档评估与动态行为之间存在鸿沟。工具明确标注"诊断性而非规定性",但用户可能误将审计报告作为部署许可。

引用依赖风险:审计需要引用 rubric.md 和外部链接(delicatefire.com),若参考文档被篡改或不可访问,审计质量将受损。

soul-audit 内容

references文件夹
手动下载zip · 8.3 kB
rubric.mdtext/markdown
请选择文件