Prompt Guard

🛡️ AI Agent 运行时安全护盾

AI 增强榜 #20

离线AI运行时安全防护,覆盖650+攻击模式,支持提示注入、供应链投毒、记忆污染等12类威胁检测,MIT开源。

收藏
55.6k
安装
12.8k
版本
3.6.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

Prompt Guard 是一款专为 AI Agent 设计的运行时安全防御工具,采用100%离线模式运行,内置650+条攻击模式特征库。核心工作流程为:初始化 PromptGuard 实例 → 调用 analyze() 分析输入 → 根据威胁等级执行相应动作(LOG/WARN/BLOCK/BLOCK_NOTIFY)。支持三级模式加载(CRITICAL/HIGH/MEDIUM),可按需启用;提供 LRU 哈希缓存实现 90% 的重复查询性能优化。

显著优点

1. 全面威胁覆盖:12个 SHIELD 分类涵盖提示注入、越狱攻击、工具/MCP滥用、记忆污染、供应链攻击、漏洞利用、社会工程、策略绕过、异常检测、技能武器化等
2. 供应链安全专项:v3.6.0 新增 ClawSecurity 对齐,检测 webhook.site/ngrok 外泄管道、base64 解码执行、__import__ RCE 等供应链攻击签名

3. 多语言支持:内置英/韩/日/中/俄/西/德/法/葡/越 10 语种检测能力

4. 灵活部署:支持完全离线(禁用 API)或可选云端 API 获取抢先体验模式

5. 输出端 DLP:除输入防护外,支持扫描 LLM 响应中的 PII、云凭证、财务数据泄露

潜在局限

  • 模式依赖型检测:基于正则/特征匹配,对零日攻击或高度变形的语义攻击覆盖有限
  • 误报风险:高敏感度模式下可能出现正常技术讨论被拦截(如安全研究人员讨论漏洞利用)
  • API 功能受限:高级功能(DNS 隧道、沙箱逃逸检测)需付费 API 订阅
  • 性能开销:完整扫描(FULL tier)在超长文本场景下可能引入延迟

适合人群

  • 部署 LLM Agent 的企业安全团队
  • 需要符合 ClawSecurity 框架合规要求的组织
  • 对数据隐私敏感、要求本地化处理的用户(金融、医疗、政务场景)
  • AI 应用开发者构建生产级 RAG/Agent 系统

常规风险

| 风险类型 | 说明 |
|---------|------|
| 配置不当 | sensitivity 设置过低导致漏检,或过高导致可用性下降 |
| 缓存投毒 | 若缓存键生成逻辑被预测,可能绕过检测(需配合 canary tokens 使用) |
| API 密钥泄露 | 使用云端 API 时未妥善管理 `PG_API_KEY` 环境变量 |
| 过度依赖 | 单一防御层不足,需结合输入验证、权限最小化等纵深防御 |

技术亮点

  • Typo-Tolerant 检测:v3.4.0 引入拼写容错正则,捕获 "ingore"→"ignore" 等变体绕过
  • 多轮对话防护:v3.6.0 新增跨会话上下文劫持、伪造先前同意的检测
  • Unicode 隐写检测:识别双向字符覆盖、零宽字符、行/段分隔符等隐蔽信道
  • 级联放大防护:阻止无限子 Agent 生成、递归循环、成本爆炸攻击

Prompt Guard 内容

blog文件夹
patterns文件夹
prompt_guard文件夹
scripts文件夹
tests文件夹
手动下载zip · 187.4 kB
how-i-secured-my-ai-agent.mdtext/markdown
请选择文件