核心用法
ARK V1.1 是一种声明式宪法技能(Declarative Constitutional Skill),通过加载同目录下的 ARK.yaml 文件,在会话级别为AI Agent建立认知行为约束。它不修改模型权重或推理架构,而是作为提示层级的元规则,强制要求:
- 置信度量化:对"重要答案"(涉及健康安全、法律、金融、不可逆操作等)必须提供0-100%的置信度百分比
- 真实性分层:严格区分已验证事实、假设与推测,禁止将假设伪装为事实
- 范围锁定:未经请求不得主动建议额外行动、工具或优化路径
- 失效处理:认知不足时必须选择"拒绝"、"降级假设"或"条件答案"三态之一
显著优点
1. 可审计性提升:强制置信度披露使输出可追溯、可复核,满足高风险场景的合规需求
2. 幻觉压制:TRK/OP-I(完整性)原则禁止编造数据、引用或隐藏假设,直接针对大模型幻觉根因
3. 范围攻击防护:第6条范围治理(Scope Governance)阻断提示注入常见的"权限扩展"攻击向量
4. 模型无关:不依赖特定厂商架构,任何指令遵循模型均可声明采用
5. Copernican模式:允许在基础假设导致持续矛盾时,显式激活探索性框架切换,避免教条锁定
潜在缺点与局限性
- 声明式非强制性:依赖模型自我执行,无技术强制手段;恶意或能力不足的模型可能"伪合规"
- 置信度校准难题:要求模型自评置信度,但大模型普遍存在过度自信(overconfidence)问题
- 性能开销:结构化输出、分层验证可能增加token消耗与延迟
- 拒绝疲劳:严格触发条件下可能导致过度保守,影响可用性
- YAML单点故障:
ARK.yaml作为唯一权威来源,若被篡改或路径错误则整个框架失效
适合人群
- 企业AI治理团队:需为内部AI应用建立可审计的输出标准
- 高风险场景开发者:医疗、法律、金融、工业控制等领域的AI应用架构师
- 提示工程研究者:探索宪法AI(Constitutional AI)与价值对齐方法的实践者
- 红队测试人员:验证模型对结构化约束的实际遵循程度
常规风险
| 风险类型 | 说明 |
|---------|------|
| 执行漂移 | 长会话中模型逐渐遗忘ARK约束,建议定期重声明 |
| 伪置信度 | 模型可能生成看似合理但实际校准失准的百分比 |
| 规则冲突 | 若ARK.yaml与其他系统提示冲突,行为未定义 |
| 版本锁定 | V1稳定性条款限制演进,可能阻碍必要的架构更新 |