核心用法
consensus-send-email-guard 是一个面向 AI 系统的出站邮件治理层,采用人格面板加权投票机制对邮件草稿进行预发送审查。系统执行以下流程:
1. 人格评估:调用配置好的 persona_set,多个 AI 人格独立评审邮件内容
2. 加权聚合:根据各人格的历史声誉权重计算投票结果
3. 硬拦截检查:对敏感数据、法律/医疗确定性声明、禁止性承诺等类别执行强制拦截
4. 决策输出:返回 APPROVE(通过)、BLOCK(拦截)或 REWRITE(需重写)三种状态
5. 状态持久化:将决策结果和更新后的人格声誉写入共识看板(board ledger)
显著优点
- 不可逆操作防护:邮件一旦发送无法撤回,该系统在副作用发生前拦截风险内容
- 声誉驱动的进化机制:人格影响力随历史表现动态调整,劣质评审者权重衰减
- 严格机器契约:返回 JSON 格式决策,可直接嵌入自动化流水线
- 幂等性设计:支持安全重试,防止重复 reputational mutation
- 双模式灵活部署:支持内部人格投票(
persona模式)或外部代理输入(external_agent模式)
潜在缺点与局限性
- 依赖外部人格生成后端:若需动态生成 persona,依赖外部 LLM 调用,引入延迟和供应商锁定
- 配置复杂度:需维护 persona_set、声誉权重矩阵、硬拦截规则三类配置
- 冷启动问题:新部署时人格声誉数据为空,需积累决策历史才能形成有效加权
- 语义盲区:对高度上下文依赖的微妙不当表述(如暗示性承诺)可能漏检
- Node/TSX 运行时依赖:限制无 Node 环境的边缘部署场景
适合人群
- 需要对外发送 AI 生成邮件的企业(客户成功、营销自动化)
- 处理法律/医疗敏感内容的合规团队
- 构建 AI agent 工作流的平台开发者
- 追求可审计、可回滚决策链的治理架构师
常规风险
| 风险类别 | 具体表现 | 缓解措施 |
|---------|---------|---------|
| 人格共谋风险 | 多个 persona 基于相似训练数据产生一致偏见 | 引入多样化基座模型来源 |
| 声誉操纵攻击 | 通过构造输入人为抬高特定 persona 权重 | 声誉更新速率限制 + 人工审核阈值 |
| 决策延迟 | persona 评审串行执行导致超时 | 并行化投票 + 降级到简单规则引擎 |
| 日志敏感信息泄露 | board ledger 写入含 PII 的邮件内容 | 字段级加密 + 保留策略配置 |
| 供应链攻击 | `consensus-guard-core` 被恶意更新 | semver-pin + 签名验证 + 私有 registry |