核心用法
Self-Improvement 是一套面向AI智能体的持续学习框架,通过结构化文件系统实现经验积累与行为优化:
1. 会话启动:自动加载 soul.md(核心行为原则)、lessons.md(经验规则)、playbook.md(成熟工作流)、session-log.md(近期学习记录)
2. 响应前检查:针对多步骤、工具调用或新类型任务,强制自检信心度、历史教训、可用 playbook
3. 错误记录:实时捕获推理错误、幻觉、意图误解、效率低下、工具误用等问题,区分自检发现与用户反馈
4. 会话收尾:写入 session-log,维护 mistakes.md(超50条或90天自动归档)
5. 文件轮转:mistakes-[year].md 归档,保留模式规则和高危条目
显著优点
- 复利效应:错误转化为结构化数据,避免重复踩坑
- 轻量设计:6个核心文件,规则清晰无冗余
- 主动防御:响应前自检机制在错误发生前拦截
- 用户反馈闭环:区分自检/用户报告,强化信号权重
- 自动化运维:自动归档、会话级摘要,降低维护成本
潜在局限
- 文件依赖:依赖外部存储,分布式/无状态环境需适配
- 主观判断:"非平凡任务"定义依赖实现,可能漏检
- 无冲突解决:
soul.md覆盖默认规则,但未定义规则间冲突处理 - 缺乏量化:无改进效果度量指标,难以评估ROI
- 冷启动问题:新场景无历史数据时,前几轮易重复犯错
适合人群
- 长期运行的自主Agent(客服、coding assistant、研究助手)
- 需要行为一致性承诺的企业级AI部署
- 追求"越用越聪明"产品体验的场景
常规风险
- 文件损坏:持久化文件丢失导致经验断层
- 负向学习:错误提取的"教训"可能固化偏见
- 过度保守:历史错误过度抑制,导致不必要的不确定性声明
- 隐私泄露:mistakes.md 可能包含用户敏感信息,需访问控制