Llm Memory V9

🧠 本地化LLM记忆检索与搜索中枢

纯Python实现的LLM记忆检索与全文搜索技能,基于SQLite FTS5零依赖架构,支持自动拉取GPU加速私有包,适合本地安全部署

收藏
6.6k
安装
1.5k
版本
8.0.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

LLM Memory Integration 是一款专为大型语言模型设计的记忆管理技能,提供完整的记忆检索与FTS全文搜索能力。核心功能围绕get_search_engine()展开,支持记忆的增删改查及语义搜索。开发者可通过Python SDK快速集成:

from llm_memory import get_search_engine
engine = get_search_engine()
engine.add("记忆内容", metadata={"type": "标签"})
results = engine.search("关键词", top_k=10)

技能采用公开包+私有包的分层架构:公开包作为纯接口层零风险运行,私有增强包通过postinstall/onStartup钩子自动从CNB仓库拉取,提供原生扩展(10-100x加速)、GPU加速(100-1000x)及向量搜索能力。

显著优点

1. 零依赖安全模型:纯Python+SQLite FTS5实现,无外部网络访问需求,无API密钥依赖,MIT-0协议完全开源
2. 架构兼容性:原生支持x64与ARM64双架构,覆盖主流服务器与边缘设备

3. 自动化部署:安装后通过生命周期钩子自动配置私有包,实现"开箱即用"体验

4. 扩展性设计:提供ISearchEngineIMemoryStoreIVectorBackend三大接口,支持自定义搜索引擎实现

5. 性能分层:基础层满足常规需求,私有包按需解锁高性能计算

潜在局限

  • 私有包依赖风险:核心性能增强功能依赖CNB私有仓库,若仓库不可用或访问受限将降级为基础SQLite性能
  • GPU加速门槛:100-1000x加速需本地GPU环境及私有包正确安装,自动化流程存在失败可能
  • FTS5功能边界:基于SQLite FTS5的全文搜索在复杂语义理解场景下弱于专用向量数据库
  • 权限暴露面:需要~/.openclaw/memory-tdai目录的读写权限,多用户环境需注意隔离

适合人群

  • 注重数据隐私、偏好本地部署的LLM应用开发者
  • 需要在资源受限设备(ARM64边缘节点)运行记忆功能的场景
  • 对性能有分层需求、愿意通过私有包获取加速能力的团队
  • 希望快速验证记忆检索功能,再决定是否深度集成的原型开发者

常规风险

| 风险类型 | 等级 | 说明 |
|---------|------|------|
| 代码执行风险 | 低 | 公开包为纯接口层,但postinstall钩子执行外部git克隆操作 |
| 供应链风险 | 中 | 私有包从CNB仓库自动拉取,需信任该源完整性 |
| 数据泄露风险 | 低 | 无网络上传设计,但钩子脚本存在理论上的外联可能 |
| 权限提升风险 | 低 | 仅需限定目录读写,无系统级权限要求 |

建议生产环境审计hooks/postinstall.pyhooks/onStartup.py的完整行为,并考虑对CNB仓库进行源验证或镜像托管。

Llm Memory V9 内容

docs文件夹
hooks文件夹
src文件夹
interfaces文件夹
tests文件夹
手动下载zip · 22.3 kB
ARCHITECTURE.mdtext/markdown
请选择文件