核心用法
RAGLite 采用三步式工作流构建本地知识库:
1. Condense(蒸馏):使用 OpenClaw 引擎将原始文档转换为低冗余的结构化 Markdown,去除无关内容,保留关键信息
2. Index(索引):将蒸馏后的内容嵌入到本地 Chroma 向量数据库集合中
3. Query(查询):支持混合检索——向量相似度匹配(Chroma)+ 关键词匹配(ripgrep)
主要命令包括 ./scripts/raglite.sh run 完成完整流水线,以及 ./scripts/raglite.sh query 执行检索查询。输出包含 .tool-summary.md、.execution-notes.md 等可审计的人工可读文件,以及 .raglite/ 元数据缓存。
显著优点
- 本地优先隐私:敏感数据完全保留在本地机器/网络,无需上传至第三方服务
- 成本优化:蒸馏后再嵌入,减少 tokens 消耗和存储冗余,降低推理成本
- 技术栈简洁:基于开源组件 Chroma + ripgrep,无需托管向量数据库
- 可审计性:中间生成的 Markdown 文件人工可读、支持版本控制
- 可扩展性:本地方案可平滑迁移至托管数据库,避免早期过度工程
- 混合检索:结合语义理解和精确关键词匹配,提升召回准确率
潜在缺点与局限性
- 基础设施依赖:需自行维护 Chroma 服务(默认
127.0.0.1:8100)和 Python 3.11+ 环境 - 本地算力限制:大规模文档集可能受限于单机内存和 CPU/GPU 资源
- 维护成本:对比托管 SaaS,需自行处理备份、扩容和故障恢复
- ripgrep 平台限制:关键词搜索依赖外部二进制,Windows 环境配置较复杂
- 无实时协作:单机架构天然不支持多用户并发编辑场景
适合人群
- 重视数据隐私的个人用户(学生、研究人员、医疗记录管理)
- 需要处理内部敏感文档的企业/团队(runbooks、合规资料)
- 希望降低 LLM API 调用成本的开发者
- 已有本地 AI 基础设施(如 OpenClaw Gateway)的技术用户
常规风险
- 服务可用性:Chroma 或 OpenClaw Gateway 未启动时流程中断
- 环境配置复杂度:TOKEN 环境变量、端口冲突、Python 依赖版本可能引发配置问题
- 数据持久化:
.raglite/缓存目录需纳入备份策略,避免重建成本 - 权限边界:本地服务默认无认证,多用户场景需注意网络隔离