Safe Memory Manager

🛡️ 区块链认证 · 记忆防投毒

区块链认证的安全内存管理器,专防AI记忆投毒攻击,自动净化恶意指令载荷

收藏
3.8k
安装
1.1k
版本
1.0.1
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心功能

Safe-Memory-Manager 是一款面向长运行AI代理的内存安全防护技能,核心解决「记忆投毒(Memory Poisoning)」攻击向量。该攻击利用代理将外部内容持久化到记忆文件(如MEMORY.md、日期日志)后,在后续读取时恶意指令被加载到上下文窗口执行的漏洞。

显著优点

1. 主动防御架构:在写入阶段即拦截并净化载荷,而非依赖运行时检测,阻断攻击链上游
2. 双重防护机制:支持模式匹配识别提示注入特征(如"ignore previous instructions")及命令执行字符串(如rm -rf)

3. 区块链存证:通过Polygon链锚定审计哈希,提供可验证的安全承诺

4. 资源保护:读取时自动限制行数(tail模式),防止上下文窗口溢出导致的拒绝服务

潜在局限

  • 依赖签名验证:ISNAD认证的有效性需在线验证区块链状态,离线环境可能降级为信任假设
  • 规则覆盖盲区:基于模式的检测难以应对零日注入变体或编码混淆攻击
  • 性能开销:实时 sanitization 可能增加高吞吐场景下的I/O延迟
  • 生态锁定:LeoAGI专属认证体系,跨平台兼容性未经广泛验证

适合人群

  • 部署长期自主运行AI代理的企业安全团队
  • 处理不可信用户输入的客服/运维自动化场景
  • 需满足合规审计要求的金融、医疗AI应用

常规风险

  • 过度净化误伤:激进规则可能误删合法业务指令中的敏感关键词
  • 密钥管理:Polygon锚定依赖私钥安全,泄露可能导致虚假认证声明
  • 供应链信任:Python库来源需独立验证,防止safe_memory本身被篡改植入后门

Safe Memory Manager 内容

手动下载zip · 3.1 kB
package.jsonapplication/json
请选择文件