核心用法
RAGLite 是一个本地优先的RAG缓存系统,并非模型记忆或聊天上下文的替代品。它为AI Agent提供持久化存储和检索非训练数据的能力,特别适用于本地/私有知识管理(学校作业、个人笔记、医疗记录、内部手册等)。
使用流程分为三步:
1. Condense(蒸馏):将原始文档转换为结构化Markdown,去除冗余信息,保留核心价值
2. Index(索引):使用Chroma向量数据库存储蒸馏后的内容,支持多集合管理
3. Query(查询):混合检索模式——向量相似度搜索 + ripgrep关键词匹配
默认使用OpenClaw引擎进行文档蒸馏,也可通过--engine参数指定其他引擎。
显著优点
- 隐私优先:敏感数据完全保留在本地机器/网络,无需上传至第三方服务
- 成本优化:"先压缩再嵌入"策略减少token消耗,降低prompt成本,提升检索可靠性
- 开源生态:基于Chroma + ripgrep构建,无需托管向量数据库
- 可审计性:蒸馏后的Markdown人类可读,支持版本控制
- 可扩展性:本地方案可平滑迁移至托管数据库,避免早期过度架构
潜在缺点与局限性
- 环境依赖:需要Python 3.11+、Chroma服务、ripgrep等前置条件,配置门槛较高
- 本地资源限制:大规模文档集受限于单机存储和计算能力
- 维护负担:需自行管理Chroma服务可用性、版本更新和故障排查
- 引擎依赖:默认依赖OpenClaw Gateway,需确保网关可达性和认证配置
适合人群
- 对数据隐私有严格要求的个人用户和企业(医疗、法律、金融等领域)
- 需要反复查询固定知识库但不想支付云端RAG服务费用的开发者
- 希望构建可审计、可版本控制的本地知识管理系统的技术团队
- 已有本地AI基础设施(如OpenClaw Gateway)的用户
常规风险
- 服务可用性:Chroma服务未启动或网络配置错误将导致索引和查询失败
- 数据一致性:
--skip-existing和--skip-indexed参数虽能加速处理,但可能造成源文档更新后索引未及时同步 - 安全风险:
.raglite/缓存目录包含元数据和运行统计,需注意访问权限管理 - Token成本:若OpenClaw Gateway按token计费,大规模文档蒸馏可能产生意外费用
- 检索质量:混合检索依赖ripgrep的文本匹配能力,对复杂语义理解的召回率可能低于纯向量方案