consensus-send-email-guard

🛡️ AI邮件发送前的智能风控闸门

AI邮件发送前的多重人格委员会审核系统,通过加权投票机制拦截幻觉承诺与敏感信息泄露,输出机器可解析的审批决策。

收藏
2.9k
安装
961
版本
1.1.6
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

consensus-send-email-guard 是一个面向 AI 系统的出站邮件治理层,采用人格面板加权投票机制对邮件草稿进行预发送审查。系统执行以下流程:

1. 人格评估:调用配置好的 persona_set,多个 AI 人格独立评审邮件内容
2. 加权聚合:根据各人格的历史声誉权重计算投票结果

3. 硬拦截检查:对敏感数据、法律/医疗确定性声明、禁止性承诺等类别执行强制拦截

4. 决策输出:返回 APPROVE(通过)、BLOCK(拦截)或 REWRITE(需重写)三种状态

5. 状态持久化:将决策结果和更新后的人格声誉写入共识看板(board ledger)

显著优点

  • 不可逆操作防护:邮件一旦发送无法撤回,该系统在副作用发生前拦截风险内容
  • 声誉驱动的进化机制:人格影响力随历史表现动态调整,劣质评审者权重衰减
  • 严格机器契约:返回 JSON 格式决策,可直接嵌入自动化流水线
  • 幂等性设计:支持安全重试,防止重复 reputational mutation
  • 双模式灵活部署:支持内部人格投票(persona 模式)或外部代理输入(external_agent 模式)

潜在缺点与局限性

  • 依赖外部人格生成后端:若需动态生成 persona,依赖外部 LLM 调用,引入延迟和供应商锁定
  • 配置复杂度:需维护 persona_set、声誉权重矩阵、硬拦截规则三类配置
  • 冷启动问题:新部署时人格声誉数据为空,需积累决策历史才能形成有效加权
  • 语义盲区:对高度上下文依赖的微妙不当表述(如暗示性承诺)可能漏检
  • Node/TSX 运行时依赖:限制无 Node 环境的边缘部署场景

适合人群

  • 需要对外发送 AI 生成邮件的企业(客户成功、营销自动化)
  • 处理法律/医疗敏感内容的合规团队
  • 构建 AI agent 工作流的平台开发者
  • 追求可审计、可回滚决策链的治理架构师

常规风险

| 风险类别 | 具体表现 | 缓解措施 |
|---------|---------|---------|
| 人格共谋风险 | 多个 persona 基于相似训练数据产生一致偏见 | 引入多样化基座模型来源 |
| 声誉操纵攻击 | 通过构造输入人为抬高特定 persona 权重 | 声誉更新速率限制 + 人工审核阈值 |
| 决策延迟 | persona 评审串行执行导致超时 | 并行化投票 + 降级到简单规则引擎 |
| 日志敏感信息泄露 | board ledger 写入含 PII 的邮件内容 | 字段级加密 + 保留策略配置 |
| 供应链攻击 | `consensus-guard-core` 被恶意更新 | semver-pin + 签名验证 + 私有 registry |

consensus-send-email-guard 内容

examples文件夹
src文件夹
tests文件夹
手动下载zip · 25.5 kB
email-input.jsonapplication/json
请选择文件