Agent Security Audit

🛡️ AI Agent提示注入防御全栈方案

专为AI Agent设计的提示注入防御方案,提供系统提示加固、内容清洗、注入检测等分层防护机制,适合构建生产级Agent安全体系。

收藏
7k
安装
2.3k
版本
1.0.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

agent-security-audit 是一套面向AI Agent的提示注入(Prompt Injection)防御框架,提供从系统提示加固到内容无害化的多层防护策略。主要使用场景包括:

1. 系统提示强化:通过明确定义指令优先级层级,将外部内容来源标记为"不可信",降低恶意指令劫持Agent行为的风险
2. 内容清洗流水线:使用 sanitize_content 等Bash脚本去除HTML注释指令、零宽字符、Base64编码等隐蔽攻击载体

3. 注入检测机制:基于正则匹配识别"システム変更""ADMIN OVERRIDE"等危险指令模式

4. 蜜罐响应策略:检测到攻击时返回虚假成功响应并记录日志,避免暴露防御逻辑

显著优点

  • 分层防御架构:L1基础防御到L3高级威胁检测的渐进式方案,适配不同安全需求
  • 实战代码完备:提供可直接部署的Bash脚本(内容清洗、安全取数、内存保护),非纯理论指导
  • 多语言覆盖:同时支持日语和英语的注入检测关键词,适应国际化部署
  • 隐蔽攻击防护:专门针对零宽字符、HTML注释注入等绕过技术

潜在缺点与局限性

  • 正则局限性:基于简单模式匹配的检测易被同义词替换、编码变形绕过
  • 语言覆盖不全:检测词表以日英为主,中文等其他语言攻击检测能力有限
  • 无动态学习:威胁模式为静态列表,缺乏自适应更新机制(L3提及但未实现)
  • Bash依赖:核心组件依赖Shell环境,Windows原生支持需额外适配
  • 误报风险:"remember this"等正常用语可能被误判为注入指令

适合人群

  • 开发AI Agent产品的工程团队,需快速集成安全防护层
  • 处理外部不可信内容(网页抓取、邮件处理、用户上传)的RPA/自动化场景
  • 已通过基础安全测试、需补强提示注入专项防护的中高级开发者

常规风险

  • 防御绕过: determined attacker可通过语义等价改写、分片传输等方式绕过正则检测
  • 日志敏感信息泄露:示例中将注入内容直接写入日志,可能需脱敏处理
  • 过度信任清洗后内容sanitize_content 无法保证完全安全,仍需配合权限最小化原则
  • 蜜罐策略反噬:虚假响应可能被用于探测防御边界,需配合速率限制使用

Agent Security Audit 内容

手动下载zip · 3.9 kB
skill-card.mdtext/markdown
请选择文件