Safe Memory Manager

🛡️ AI代理内存安全卫士

为AI代理提供安全内存接口,自动检测并中和提示注入攻击,含ISNAD可信验证机制。

收藏
4.6k
安装
1.1k
版本
1.0.5
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

Safe-Memory-Manager 是一个面向 AI Agent 的专用内存管理技能,通过 Python 接口 SafeMemoryManager 提供安全的文件读写能力。核心操作包括:

  • 初始化自检:启动时自动比对 isnad_manifest.json 验证组件完整性
  • 安全写入:append_memory() 方法在数据落盘前执行输入消毒,识别并中和常见注入模式(如"ignore prior instructions")
  • 安全读取:提供受限的尾部读取功能,防止上下文窗口被污染

显著优点

1. 主动防御架构:区别于被动过滤,采用写入前消毒策略,从源头阻断内存投毒
2. 可验证信任链:集成 ISNAD 清单机制,支持第三方审计溯源

3. 低开销集成:Python 原生接口,对现有 Agent 工作流侵入性极低

潜在局限

  • 覆盖范围限制:仅针对已知注入模式(基于规则匹配),对零日攻击或语义混淆型攻击防御能力待验证
  • 生态依赖:ISNAD 验证依赖中心化审计方 "LeoAGI ISNAD Swarm",去信任化程度有限
  • 功能聚焦:仅处理文本类内存文件,不支持结构化数据或二进制对象的安全封装

适合人群

  • 构建长期运行、需持久化记忆的自主 Agent 的开发者
  • 对提示注入风险敏感的企业级 AI 应用架构师
  • 需要符合基础审计合规要求的 AI 系统运维方

常规风险

| 风险类型 | 说明 |
|---------|------|
| 误消毒 | 过度敏感规则可能误伤合法用户输入 |
| 清单篡改 | 若 `isnad_manifest.json` 本身被替换,自检机制失效 |
| 供应链风险 | 审计方 "LeoAGI ISNAD Swarm" 的公信力与持续性未公开披露 |

> 注:安全认证报告显示为占位内容,未实际执行安全扫描,建议部署前进行独立渗透测试。

Safe Memory Manager 内容

手动下载zip · 3.7 kB
isnad_manifest.jsonapplication/json
请选择文件