Chromadb Memory Pub

🧠 本地向量记忆,零云端依赖

memory榜 #4

基于 ChromaDB 与本地 Ollama 嵌入的零依赖长期记忆方案,自动召回相关上下文,数据完全本地化存储

收藏
22.8k
安装
4.7k
版本
1.1.1
CLS 安全性认证2026-07-01
点击查看完整报告 >

使用说明

核心用法

ChromaDB Memory 是 OpenClaw 生态的本地向量记忆插件,通过 ChromaDB 存储语义记忆,配合 Ollama 本地嵌入模型(默认 nomic-embed-text)实现完全离线的长期记忆能力。用户每轮对话时,插件自动将当前消息嵌入为 768 维向量,查询 ChromaDB 集合中相似度超过阈值(默认 0.5)的历史片段,并以 <chromadb-memories> 标签注入 Agent 上下文,无需手动调用。

配置需指定 ChromaDB 服务地址、集合 ID/名称、Ollama 端点及嵌入模型。支持 autoRecall 开关控制自动召回,也可通过 chromadb_search 工具手动检索。安装依赖 Docker 部署 ChromaDB(端口 8100)及本地 Ollama 服务。

显著优点

  • 完全本地化:零云端 API 依赖,嵌入、存储、检索均在本地完成,隐私敏感场景友好
  • 低延迟嵌入:Ollama 本地推理避免网络往返,适合高频率调用
  • 自动上下文注入:每轮对话无缝召回相关记忆,降低用户操作心智负担
  • 可调阈值机制:通过 minScoreautoRecallResults 精细控制噪声与召回率的平衡
  • 生态兼容性:标准 ChromaDB 协议,可使用任意 ChromaDB 兼容索引器导入文档

潜在缺点与局限性

  • 运维复杂度:需同时维护 ChromaDB 容器与 Ollama 服务,对非技术用户门槛较高
  • 硬件依赖:本地嵌入模型消耗 GPU/CPU 资源,低配设备可能出现延迟
  • 无内置索引工具:文档需通过外部工具预先写入 ChromaDB,插件本身不提供数据导入能力
  • token 开销:每轮固定增加约 275 tokens,极长对话场景需关注上下文窗口消耗
  • 召回质量波动:纯向量相似度检索缺乏重排序机制,复杂语义关联可能漏召

适合人群

  • 对数据隐私有强要求、拒绝云端记忆方案的企业/个人用户
  • 已具备 Docker 运维能力、拥有本地 GPU 资源的开发者
  • 需要为 Agent 构建持久化知识库的知识管理场景(如个人笔记、本地文档问答)

常规风险

  • 服务可用性:ChromaDB 或 Ollama 进程异常将直接导致记忆功能失效,需监控服务健康
  • 数据持久化:ChromaDB 容器默认存储配置若未挂载卷,重启后数据丢失
  • 版本兼容性:Ollama 模型版本与 ChromaDB 客户端版本需匹配,升级时需同步验证
  • 阈值调参成本minScore 设置不当会导致上下文污染或记忆沉默,需反复迭代

安全解读

核心用法

ChromaDB Memory 是一款面向 OpenClaw 框架的长期语义记忆插件,实现「对话即检索」的自动化记忆机制。用户仅需部署本地 ChromaDB 向量数据库与 Ollama 嵌入服务,插件即可在每次对话前自动将用户消息向量化,查询相似历史记录并注入上下文,使 AI 具备跨会话的持久记忆能力。

典型工作流
1. 部署 ChromaDB(Docker:chromadb/chroma:latest 映射 8100 端口)

2. 本地拉取嵌入模型 ollama pull nomic-embed-text

3. 配置 OpenClaw 插件,指定 collectionId 与端点地址

4. 启用 autoRecall 后,每次用户消息自动触发:嵌入 → 向量检索 → 上下文注入

手动模式:关闭 autoRecall 后,可通过 chromadb_search 工具按需检索,灵活控制 token 消耗。

---

显著优点

| 维度 | 优势 |
|------|------|
| **隐私安全** | 100% 本地运行,数据永不离开用户设备,无第三方 API 调用 |
| **零依赖风险** | 纯 TypeScript 实现,无 npm 依赖包,彻底规避供应链攻击 |
| **低使用成本** | 无需 OpenAI/Anthropic 等付费嵌入 API,Ollama 完全免费 |
| **自动化体验** | autoRecall 机制透明无感,每轮自动召回 3 条相关记忆(可配置) |
| **灵活调参** | minScore 阈值、召回数量、开关控制均可按需调整 |

---

潜在缺点与局限性

1. 基础设施门槛:需用户自行维护 ChromaDB + Ollama 双服务,对非技术用户不够友好
2. 首次配置复杂:涉及 Docker、curl 查询 collectionId、JSON 配置文件编辑等多步骤

3. 记忆质量依赖嵌入模型nomic-embed-text(768维)在中文场景表现弱于商业模型,可能影响召回精度

4. 无内置文档索引:需用户自行解决「如何向 ChromaDB 灌入文档」的问题,插件本身不提供索引工具

5. HTTP 明文传输:本地服务默认 HTTP,未强制 TLS,局域网环境存在嗅探风险(需用户自行配置 HTTPS)

---

适合人群

  • 隐私敏感型用户:医疗、法律、科研等领域,数据不能上云
  • 本地 AI 极客:已搭建 Ollama + 本地 LLM 生态,希望扩展记忆能力
  • 企业内网部署:需完全离线运行的内部知识库问答系统
  • 成本控制者:希望彻底消除 API 调用费用

不适合:追求开箱即用、无技术背景的普通用户;需要跨设备同步记忆的场景(纯本地架构限制)

---

常规风险

| 风险类别 | 说明 | 缓解建议 |
|----------|------|----------|
| 服务可用性 | ChromaDB/Ollama 进程崩溃导致记忆功能失效 | 配置 systemd/docker-compose 自动重启 |
| 配置错误 | 错误的 collectionId 或端口导致查询失败 | 启动前验证 curl 连通性 |
| 记忆污染 | 低质量历史数据污染上下文,干扰回答 | 定期清理 ChromaDB collection,调整 minScore |
| Token 膨胀 | autoRecall 每轮约 +275 token,长对话累积 | 监控上下文窗口,适时开启新会话 |
| 局域网暴露 | 默认 HTTP + localhost 绑定,若改为 0.0.0.0 需防火墙防护 | 绑定 127.0.0.1 或配置本地 TLS |

---

综合评估

ChromaDB Memory 代表了开源社区对「AI 记忆私有化」的成熟解决方案。其核心价值在于将向量检索的复杂度封装为透明配置,让用户在保持数据主权的同时,获得近似商业 RAG 产品的体验。S 级安全评级与 T2 级来源可信度为其生产环境部署提供了信心保障。唯一门槛在于用户需具备基础的基础设施运维能力——一旦跨越,便是零订阅费、零隐私顾虑的长期记忆基础设施。

Chromadb Memory Pub 内容

scripts文件夹
手动下载zip · 7.6 kB
index.tstext/plain
请选择文件