Three Tier Memory

🧠 AI代理的三级记忆持久化引擎

三级记忆管理系统,整合滑动窗口、自动摘要与向量检索,为AI代理提供完整的短期/中期/长期记忆持久化方案。

收藏
4.3k
安装
1.2k
版本
1.0.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

Memory Manager 是一套为 AI 代理设计的三级记忆管理框架,通过命令行工具 memory_manager.py 实现完整的记忆生命周期管理。其工作流程遵循「感知→编码→存储→检索」的认知科学模型:

初始化与配置:运行 init 命令创建记忆目录结构,通过 config.yaml 灵活配置三层记忆参数。短期记忆窗口默认保留最近10条消息(约2000 tokens),中期摘要在token超过4000时触发,采用轻量模型(如glm-4-flash)生成压缩摘要,长期记忆则基于ChromaDB实现本地化向量存储。

运行时机制:对话启动阶段先执行语义检索,将相关长期记忆注入上下文;对话过程中自动维护FIFO滑动窗口,超限时触发摘要生成;会话结束后关键信息自动向量化入库。这种分层设计兼顾了实时性(短期)、效率(中期)与持久性(长期)的平衡。

显著优点

1. 架构清晰的分层设计:借鉴计算机存储体系的三级缓存思想,短期记忆保障对话连贯性,中期记忆解决上下文爆炸问题,长期记忆实现真正的知识积累,三层协同而非简单堆叠。

2. 成本优化的摘要策略:明确区分「推理模型」与「摘要模型」,用廉价API处理压缩任务,在功能与成本间取得务实平衡。

3. 本地化优先的部署:ChromaDB作为默认向量后端,无需外部服务即可运行,降低数据隐私风险与网络依赖。

潜在局限

1. 摘要的信息损耗:自动摘要不可逆地丢弃细节,对于需要精确回溯的场景(如法律、医疗对话)可能产生幻觉风险。

2. 向量检索的语义漂移:依赖embedding模型的语义理解能力,专业领域术语或新兴概念可能出现检索失配。

3. 配置复杂度:三层参数的联动调优需要一定的工程经验,默认配置未必适配所有应用场景。

适合人群

  • 开发具备长期陪伴能力的AI代理的工程师
  • 需要构建个人知识库的对话系统开发者
  • 研究记忆机制与上下文优化的AI研究人员

常规风险

| 风险类型 | 说明 | 缓解建议 |
|---------|------|---------|
| 隐私泄露 | 长期记忆持久化存储敏感对话 | 本地加密+定期审计+敏感信息过滤 |
| 记忆污染 | 错误摘要污染长期知识库 | 摘要人工审核机制+版本回滚能力 |
| 检索幻觉 | 不相关记忆被注入导致回复偏离 | 提高min_relevance阈值+检索结果过滤 |
| 存储膨胀 | 向量库无限增长影响性能 | TTL机制+定期压缩与归档 |

Three Tier Memory 内容

references文件夹
scripts文件夹
手动下载zip · 7.9 kB
references.mdtext/markdown
请选择文件