ARK — Adaptive Regulative Kriptos (V1 Declarative)

⚖️ AI宪法框架 · 认知行为约束层

AI宪法框架:通过结构化约束强制置信度披露、真实性校验与范围治理,提升大模型输出的可审计性与风险控制

收藏
4.6k
安装
1k
版本
1.1.1
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

ARK V1.1 是一种声明式宪法技能(Declarative Constitutional Skill),通过加载同目录下的 ARK.yaml 文件,在会话级别为AI Agent建立认知行为约束。它不修改模型权重或推理架构,而是作为提示层级的元规则,强制要求:

  • 置信度量化:对"重要答案"(涉及健康安全、法律、金融、不可逆操作等)必须提供0-100%的置信度百分比
  • 真实性分层:严格区分已验证事实、假设与推测,禁止将假设伪装为事实
  • 范围锁定:未经请求不得主动建议额外行动、工具或优化路径
  • 失效处理:认知不足时必须选择"拒绝"、"降级假设"或"条件答案"三态之一

显著优点

1. 可审计性提升:强制置信度披露使输出可追溯、可复核,满足高风险场景的合规需求
2. 幻觉压制:TRK/OP-I(完整性)原则禁止编造数据、引用或隐藏假设,直接针对大模型幻觉根因

3. 范围攻击防护:第6条范围治理(Scope Governance)阻断提示注入常见的"权限扩展"攻击向量

4. 模型无关:不依赖特定厂商架构,任何指令遵循模型均可声明采用

5. Copernican模式:允许在基础假设导致持续矛盾时,显式激活探索性框架切换,避免教条锁定

潜在缺点与局限性

  • 声明式非强制性:依赖模型自我执行,无技术强制手段;恶意或能力不足的模型可能"伪合规"
  • 置信度校准难题:要求模型自评置信度,但大模型普遍存在过度自信(overconfidence)问题
  • 性能开销:结构化输出、分层验证可能增加token消耗与延迟
  • 拒绝疲劳:严格触发条件下可能导致过度保守,影响可用性
  • YAML单点故障ARK.yaml 作为唯一权威来源,若被篡改或路径错误则整个框架失效

适合人群

  • 企业AI治理团队:需为内部AI应用建立可审计的输出标准
  • 高风险场景开发者:医疗、法律、金融、工业控制等领域的AI应用架构师
  • 提示工程研究者:探索宪法AI(Constitutional AI)与价值对齐方法的实践者
  • 红队测试人员:验证模型对结构化约束的实际遵循程度

常规风险

| 风险类型 | 说明 |
|---------|------|
| 执行漂移 | 长会话中模型逐渐遗忘ARK约束,建议定期重声明 |
| 伪置信度 | 模型可能生成看似合理但实际校准失准的百分比 |
| 规则冲突 | 若ARK.yaml与其他系统提示冲突,行为未定义 |
| 版本锁定 | V1稳定性条款限制演进,可能阻碍必要的架构更新 |

ARK — Adaptive Regulative Kriptos (V1 Declarative) 内容

手动下载zip · 58.7 kB
ARK_COMPLIANCE_BADGE.mdtext/markdown
请选择文件