Llm Memory V9

🧠 为LLM注入持久记忆的本地向量引擎

为LLM提供本地记忆检索与向量搜索能力,支持混合查询改写、结果融合及缓存优化,默认手动调用不干预宿主人格。

收藏
4.6k
安装
1.5k
版本
6.7.7
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

LLM Memory Integration 是一个为大型语言模型提供记忆增强的本地工具集,采用双包架构设计。核心功能包括:

  • 记忆检索:基于向量相似度(ANN)与全文检索(FTS)的混合搜索
  • 查询改写:自动拼写纠正、同义词扩展以提升召回率
  • 结果融合:多源结果重排序与LLM辅助摘要生成
  • 缓存层:查询缓存与近似缓存降低重复调用成本

提供三种使用方式:Python SDK(推荐)、CLI工具、直接调用底层模块。默认工作模式为手动调用,记忆结果仅作为辅助上下文注入,不主动改写宿主的对话风格或系统人格。

显著优点

1. 架构灵活:公开安全包开箱即用(FTS + 纯Python ANN),私有增强包可选升级(原生扩展/GPU加速,10-1000x性能提升)
2. 安全可控:v6.7.7移除REST API端点,纯本地操作无网络服务暴露,通过ClawHub安全扫描

3. 数据便携:支持JSON/JSONL/CSV格式的导入导出

4. MIT-0许可:完全开源,商业使用零限制

潜在缺点与局限性

  • 性能分层:免费版本在10万级向量搜索时延迟可达1000ms,生产级性能需授权安装私有包
  • 外部依赖:必须配置EMBEDDING_API_KEY,核心功能依赖第三方Embedding API
  • 无主动记忆:需显式调用add()存储记忆,不会自动捕获对话历史
  • SQLite单文件:大规模场景下可能遇到并发瓶颈

适合人群

  • 需要为自托管LLM添加记忆能力的开发者
  • 重视数据隐私、偏好本地优先架构的团队
  • 已拥有Embedding API资源(OpenAI/Cohere/自托管)的用户

常规风险

| 风险类型 | 说明 | 缓解措施 |
|---------|------|---------|
| API密钥泄露 | `EMBEDDING_API_KEY`存储于环境变量 | 使用密钥管理服务,避免硬编码 |
| 记忆数据敏感 | 本地SQLite文件可能包含用户隐私数据 | 启用文件系统加密,限制目录权限 |
| 私有包授权 | 可选增强包需用户明确授权安装 | 审查私有包来源(CNB仓库)后再授权 |

来源与可信度

由ClawHub平台托管(xkzs2007维护),MIT-0开源许可,活跃维护(v6.7.7近期发布安全加固)。属于T2来源——开源可信,但需自行审计代码,无企业背书。

Llm Memory V9 内容

config文件夹
src文件夹
api文件夹
compat文件夹
core文件夹
scripts文件夹
core文件夹
templates文件夹
tests文件夹
手动下载zip · 183.1 kB
coverage_thresholds.jsonapplication/json
请选择文件