Causal Inference

核心能力

Causal Inference 为智能体构建轻量级因果推理层，核心突破在于将「动作执行」重新定义为「对因果模型的显式干预」，并强制要求附带预测效果、不确定性区间与可证伪的审计追踪。

显著优点

1. 干预级规划：区别于传统模式匹配，能回答「若将会议A改期，是否会引发连锁反应」「上午9点与晚6点发跟进邮件，哪个回复率更高」等反事实问题，支持真正的决策优化。

2. 可解释调试：工作流失败时，可沿因果图回溯定位断裂链路，计算「最小干预集」以预防同类失败，实现从「现象归因」到「机制修复」的跨越。

3. 分布迁移鲁棒性：当API/工具变更时，因果模型比相关性预测器具有更好的泛化能力，降低环境变化导致的性能衰减。

4. 量化安全决策：通过预期效用计算与不确定性边界设定，在高风险场景（如删除邮件、财务交易）自动触发拒绝或人工 escalation 机制。

潜在局限

• 数据门槛：有效估计处理效应需要50-100条以上带标签的动作日志，冷启动阶段可靠性受限
• 模型简化：初期采用简化因果图（10-30个可观测变量），可能遗漏未测量混杂因子
• 计算成本：do-calculus 形式化推断在复杂图中计算开销显著
• 领域特异性：邮件、日历等域的因果图需分别构建，跨域迁移需重新校准

适合人群

• 高频执行重复性干预动作（邮件跟进、会议调度、客户触达）的自动化工作流
• 需要解释失败根因并持续迭代优化策略的Agent系统
• 对动作安全性有硬性约束、要求可审计决策链的企业级部署

常规风险

| 风险类型 | 具体表现 | 缓解机制 |

|---------|---------|---------|

| 过度自信 | 样本不足时估计方差被低估 | 强制不确定性阈值（max_uncertainty: 0.3） |

| 保护变量误触 | 自动执行删除/取消/交易类高风险动作 | YAML配置的显式白名单与人工审批流程 |

| 因果图误设 | 遗漏关键混杂变量导致虚假效应 | 保留「可证伪审计追踪」，支持事后检验与图结构更新 |

核心功能

Causal Inference 是一套轻量级因果推理层，让Agent能够基于干预（intervention）和反事实（counterfactual）进行决策，而非简单的相关模式匹配。核心能力包括：

• 干预级规划：预测"若将会议改期，是否会引发连锁反应"或"早9点 vs 晚6点发跟进邮件，哪个回复率更高"
• 反事实调试：工作流失败时，追溯因果链路断裂点，计算最小修复干预
• 分布偏移鲁棒性：当API/工具变更时，因果模型比相关预测器更具泛化能力
• 安全量化决策：行动前量化预期收益与不确定性，高不确定或预期损害时拒绝执行

显著优点

科学方法论基础：基于do-calculus和潜在结果框架，避免"相关即因果"的常见陷阱，预测具备可证伪性。

完整审计追踪：每个行动生成结构化事件记录（pre_state/post_state/outcome），形成可验证的预测-结果对比闭环，支持模型迭代。

渐进式部署友好：从最简单的邮件跟进场景（10个变量、50-100条记录）即可启动，无需大规模标注数据。

零外部依赖风险：纯Python标准库实现，无网络请求、无第三方包，供应链攻击面为零。

领域可扩展：邮件、日历、工作流等场景通过独立的因果图定义，架构清晰解耦。

局限性与注意事项

数据积累门槛：有效的因果效应估计需要50-100条结构化行动记录，冷启动阶段建议采用探索性策略或人工标注。

因果图构建依赖专家知识：初始的变量选择和边方向（如send_time → reply_prob）需要领域理解，错误设定可能导致偏差。

T3来源可信度：维护者为个人开发者，无组织背书，建议部署前进行额外代码审查，关注后续更新。

输入验证待加强：当前JSON参数仅依赖异常处理，缺乏严格schema验证，存在注入风险（RISK-003）。

隐私权限管理：本地日志存储需用户手动配置文件权限（建议0600），无自动权限管理机制。

适合人群

• 需要优化重复性工作流（邮件跟进、会议调度）的自动化用户
• 希望系统化调试Agent失败而非试错的高级用户
• 重视决策可解释性与安全性的企业场景
• 具备基础因果推断知识、愿意投入初期配置的技术用户

常规风险

| 风险类型 | 等级 | 说明 |

|---------|------|------|

| 数据泄露 | 低 | 纯本地存储，但需关注日志文件权限设置 |

| 供应链攻击 | 极低 | 零第三方依赖，仅Python标准库 |

| 决策偏差 | 中 | 因果图设定错误或小样本估计偏差可能导致次优决策 |

| 过度自信 | 中 | 低不确定性阈值可能让Agent在信息不足时贸然行动 |

| 输入注入 | 低 | JSON参数缺乏schema验证，需防范恶意构造数据 |