Prompt Guard

🛡️ AI Agent 离线安全运行时守护

AI 增强榜 #19

离线AI运行时安全防御系统,内置650+攻击模式库,覆盖提示注入、供应链攻击、内存投毒、权限提升等12类威胁,支持多级动态加载与多语言检测。

收藏
35.4k
安装
12.8k
版本
3.6.1
CLS 安全扫描中
预计需要 3 分钟...

使用说明

Prompt Guard v3.6.0 综合评估

Prompt Guard 是一款专为AI Agent设计的运行时安全防护工具,由安全研究员Seojoon Kim开发,采用MIT许可证开源。其核心架构围绕"离线优先、分层防御"理念构建,内置650+条精心设计的攻击特征库,覆盖从传统提示注入到新兴供应链攻击的全谱系威胁。

核心用法

该工具提供Python SDK与CLI双接口,支持三种集成模式:作为输入过滤器分析用户消息、作为输出扫描器检测LLM响应中的敏感信息泄露、以及作为内存守卫监控AGENTS.md/SOUL.md等配置文件的完整性。其TieredPatternLoader架构允许按CRITICAL/HIGH/MEDIUM三级动态加载模式,在资源受限场景下可仅用~50条关键模式实现90%威胁覆盖率。

显著优点

1. 离线完整性:核心功能零依赖外部API,适用于气隙环境;
2. ClawSecurity对齐:v3.6.0引入50+条工业级攻击签名,涵盖webhook.site外泄管道、云服务凭证窃取、代码渗出等真实威胁场景;

3. 多语言语义检测:支持10种语言的提示注入识别,突破英文中心化局限;

4. 性能优化:SHA-256指纹缓存实现70%+命中率,大幅降低重复计算;

5. 灵活分级响应:SAFE/LOW/MEDIUM/HIGH/CRITICAL五级处置策略,平衡安全与体验。

潜在局限

  • 模式维护负担:650+条正则规则需持续更新以应对攻击变种,开源社区维护力度存疑;
  • 误报风险:高敏感度模式下角色扮演、代码示例等合法场景可能触发拦截;
  • 高级威胁盲区:DNS隧道、高级隐写术等仅开放于付费API层,离线版无法覆盖;
  • 生态锁定:SHIELD.md分类体系与特定AI框架深度绑定,跨平台迁移成本较高。

适合人群

  • 部署本地LLM的企业安全团队
  • 需要合规审计日志的金融/医疗AI应用
  • 开发AI Agent平台的ISV厂商
  • 红队研究人员(用于构建对抗样本测试集)

常规风险

1. 配置漂移:sensitivity参数从medium调至paranoid可能引发服务可用性灾难;
2. API密钥泄露:内置beta key若未替换,存在供应链投毒风险;

3. 缓存投毒:LRU缓存若未设置TTL,可能被用于构造持久化绕过;

4. 过度依赖:开发者易产生"部署即安全"错觉,忽视模型层安全微调。

Prompt Guard 内容

blog文件夹
patterns文件夹
prompt_guard文件夹
scripts文件夹
tests文件夹
手动下载zip · 187.4 kB
how-i-secured-my-ai-agent.mdtext/markdown
请选择文件