Causal Inference

核心用法

Causal Inference 是一套轻量级因果推理层，旨在为AI代理的每一个高层级行动赋予因果预测能力。它不依赖相关性模式匹配，而是通过显式建模干预（interventions）和反事实（counterfactuals）来预测行动后果。

核心工作流

1. 行动前：记录预状态，查询因果模型预测结果，若不确定性或风险过高则向用户确认
2. 行动时：记录行动、上下文和时间戳
3. 结果观测后：更新日志、重建因果图、重新估计处理效应

关键组件

• 行动日志：结构化记录所有行动的前状态、后状态、结果及观测时间
• 因果图：按领域（邮件/日历/消息/任务）定义10-30个可观测变量间的因果关系
• 效应估计：使用回归或倾向得分匹配计算干预变量的处理效应
• 决策策略：基于预期效用和不确定性边界过滤行动，拒绝高风险操作

数据回填机制

支持从Gmail、日历、WhatsApp/Discord/Slack等历史数据自动重建行动-结果对，实现冷启动：

gog gmail list --sent --after 2024-01-01 --format json > /tmp/sent_emails.json
python3 scripts/backfill_email.py /tmp/sent_emails.json

显著优点

1. 反事实学习能力：不仅记录"发生了什么"，更能回答"如果当时做了X会怎样"
2. 领域泛化架构：统一的因果框架覆盖邮件沟通、会议调度、任务管理、社媒互动等场景
3. 不确定性显式建模：设置30%不确定性阈值，避免代理在信息不足时盲目行动
4. 渐进式改进：从简单回归起步，随数据积累可升级至do-calculus形式化推断
5. 安全兜底机制：定义受保护变量（删除邮件、财务交易等），强制人工确认

潜在缺点与局限性

1. 冷启动依赖历史数据：若用户历史数据稀疏或格式混乱，回填质量受限
2. 因果图需人工先验：初始变量选择和因果方向依赖领域知识，错误设定会导致偏差
3. 观测数据局限：无法真正随机化干预，始终面临未观测混淆变量风险
4. 计算成本：do-calculus识别和估计在高维图上可能计算密集
5. 延迟反馈问题：邮件回复、会议成效等结果观测周期长，慢速学习

适合人群

• 高频数字工作者：日均处理20+邮件、多会议协调的职场人士
• 数据驱动决策者：希望量化"何时发送跟进邮件效果最佳"等具体问题的用户
• AI代理开发者：为个人助手、自动化工作流系统嵌入因果推理模块的工程师
• 效率优化追求者：愿意投入初期配置成本以换取长期决策质量提升的用户

常规风险

| 风险类型 | 描述 | 缓解措施 |

|---------|------|---------|

| 预测过度自信 | 有限历史数据导致方差低估 | 强制不确定性阈值、贝叶斯 credible intervals |

| 因果错配 | 混淆变量未控制使效应估计有偏 | 敏感性分析、阴性对照 |

| 行为操纵 | 模型被优化至最大化回复率而非真实价值 | 显式效用函数设计、人工价值对齐检查 |

| 隐私泄露 | 邮件内容、日历详情存储于本地日志 | 本地存储、差分隐私脱敏选项 |

| 自动化偏见 | 用户过度依赖代理建议 | 保留关键决策人工确认环节 |

核心用法

Causal Inference 是一个轻量级因果推理框架，专为 AI Agent 的行为优化设计。它不依赖简单的相关性匹配，而是通过显式的因果模型来预测干预效果（"如果我做 X，会发生什么？"）。

触发场景：任何高级别操作均可触发——发送邮件、消息、日历变更、文件操作、API 调用、购买、部署等。特别适用于：

• 计划干预时机（"现在发还是晚点发？"）
• 调试失败原因（"为什么没收到回复？"）
• 预测行动结果
• 回填历史数据进行分析
• 复盘过往行动效果

核心工作流：
1. 事前：记录 pre_state，查询模型预测结果，高不确定性时请求用户确认
2. 事中：执行行动并记录
3. 事后：观察 outcome，更新因果模型

数据基础设施：

• Action Log（memory/causal/action_log.jsonl）：结构化存储所有行动及结果
• 领域因果图：邮件、日历、消息、任务四大领域，各含 10-30 个可观测变量
• 效应估计：从简单回归逐步升级到 do-演算

快速启动：支持从历史数据回填（Gmail、Calendar、WhatsApp），无需冷启动。

显著优点

• 决策科学化：超越直觉，用反事实推理优化行动时机和方式
• 自我改进：持续从行动-结果对中学习，模型越用越准
• 领域覆盖全：内置邮件、日历、消息、任务四大高频场景
• 隐私优先：所有数据处理本地完成，零第三方依赖
• 零依赖：仅使用 Python 标准库，无供应链风险
• 可审计：每个预测都有可证伪的记录，支持事后复盘

局限性与风险

• 依赖外部 CLI：需预装 gog（Google）和 wacli（WhatsApp）工具，未文档化安装配置要求
• 输入验证不足：JSON 回填脚本缺乏严格的 Schema 验证，malformed 数据可能导致错误
• 数据膨胀：action_log.jsonl 持续追加，无内置轮换或清理机制
• 隐私告知缺失：首次运行时未明确告知用户数据收集范围和存储位置
• 冷启动依赖：初期数据不足时，模型预测可靠性较低
• 复杂因果推断待完善：当前以简单回归为主，do-演算等高级方法需手动升级

适合人群

• 高频处理邮件/日程的职场人士，希望优化回复率和会议效率
• 对个人数据分析和自我量化（Quantified Self）感兴趣的用户
• 需要系统化复盘沟通策略的销售、运营、创业者
• 注重隐私、偏好本地优先架构的技术用户

常规风险

• 误操作风险：虽设有"保护变量"机制（删除邮件、取消会议、新联系人首次发送、金融交易需确认），但初期配置不当可能导致意外执行
• 模型过拟合：个人历史数据有限，容易过度拟合特殊情境，泛化到新场景效果下降
• 因果混淆：观测数据中混杂因素难以完全消除，估计的"因果效应"可能有偏
• 依赖工具风险：gog/wacli 的安全性和稳定性不受本 Skill 控制，工具更新可能导致功能中断