Safe Memory Manager

🛡️ ISNAD认证 · 记忆层注入防护

ISNAD认证的AI记忆防护工具,拦截并净化提示注入攻击,防止恶意指令写入长期记忆文件,保障Agent持续运行安全。

收藏
4.9k
安装
1.1k
版本
1.0.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

Safe-Memory-Manager 是一款专为长周期运行AI Agent设计的内存安全中间件,采用读写拦截架构保护记忆持久化层。核心工作流程包含:

1. 写入时净化 — 自动检测并中和提示注入模式(如"Ignore previous instructions"变体)、命令执行字符串(shell指令、代码块)及上下文操控话术
2. 读取时防护 — 支持尾行读取(tailing)防止上下文窗口溢出,降低历史污染风险

3. API集成 — Python SDK提供 append_memory()read_memory() 方法,零配置接入现有Agent架构

显著优点

  • 针对性威胁建模:精准解决"Memory Poisoning"攻击向量——当前Agent生态中罕见但高风险的持久化层漏洞
  • 形式化认证背书:LeoAGI ISNAD Swarm审计并Polygon链上存证,提供可验证的安全承诺
  • 运行时透明:对上层Agent无侵入,不改变原有记忆读写语义

潜在局限与风险

| 维度 | 说明 |
|------|------|
| 检测覆盖率 | 模式匹配依赖已知攻击签名,新型变体绕过(如Unicode同形字、多语言编码)可能存在漏报 |
| 性能开销 | 每次I/O附加正则/语义分析,高频写入场景存在延迟累积 |
| 误报成本 | 激进净化可能误伤合法内容(如安全研究文档中的恶意代码示例) |
| 链上存证局限性 | Polygon锚定仅证明"审计发生",不等于代码无漏洞;哈希验证不含运行时行为证明 |
| 单点依赖 | 高度依赖LeoAGI单一审计方可信度,缺乏多方独立验证记录 |

适合人群

  • 部署长期自主Agent的开发者(研究型Agent、自动化工作流Bot)
  • 处理不可信外部输入(网页抓取、邮件、社交媒体)的记忆增强系统
  • 需合规留存交互日志且担忧投毒攻击的企业级场景

常规风险提醒

⚠️ 非万能防护:本Skill不能替代完整的输入验证、沙箱执行、权限最小化等纵深防御体系。建议配合只读/只写权限分离、记忆分段隔离、人工审核回环等机制使用。

Safe Memory Manager 内容

手动下载zip · 2.8 kB
package.jsonapplication/json
请选择文件