核心用法
RAGLite 是一套本地优先的检索增强生成(RAG)缓存系统,专为重复查询私有知识设计。其工作流程分为三步:
1. Condense(蒸馏):将原始文档转换为结构化的 Markdown,去除冗余内容,保留关键信息
2. Index(索引):使用 Chroma 向量数据库对蒸馏后的内容进行嵌入存储
3. Query(查询):支持混合检索——向量相似度搜索(Chroma)+ 关键词匹配(ripgrep)
典型使用场景
- 个人知识库管理(笔记、学习资料)
- 敏感数据处理(医疗记录、内部运维手册)
- 本地化文档检索,避免将数据上传至第三方服务
技术栈
- 向量数据库:Chroma(开源、本地部署)
- 关键词搜索:ripgrep(高性能文本搜索)
- 蒸馏引擎:默认 OpenClaw,可自定义
显著优点
| 优势 | 说明 |
|------|------|
| **隐私优先** | 数据完全保留在本地机器/网络,杜绝云端泄露风险 |
| **成本可控** | 压缩后再嵌入,减少 token 消耗和存储开销 |
| **可审计性** | 蒸馏后的 Markdown 人类可读,支持版本控制 |
| **架构灵活** | 采用开源组件,后期可无缝迁移至托管数据库 |
| **混合检索** | 向量+关键词双路召回,提升检索准确率 |
潜在缺点与局限性
- 运维复杂度:需自行维护 Chroma 服务和 Python 环境
- 功能边界:明确不替代模型记忆或聊天上下文,仅为外部知识缓存
- 硬件依赖:本地嵌入计算对机器性能有一定要求
- 生态局限:相比商用 RAG 服务(如 Pinecone、Weaviate),功能集成度较低
适合人群
- 隐私敏感用户:研究人员、医疗从业者、企业内网管理员
- 技术爱好者:愿意自建工具链的开发者
- 成本控制者:希望避免按量付费的 SaaS 向量数据库
常规风险
- 数据备份:本地存储需自行制定备份策略
- 服务可用性:Chroma 服务中断将导致检索功能失效
- 权限管理:多人共享场景下需额外配置访问控制
- 模型依赖:蒸馏质量受所选引擎(OpenClaw)能力影响