Prompt Guard

🛡️ Token优化的LLM防火墙

AI 增强榜 #20

专为LLM设计的提示词注入防御系统,通过分层模式加载与哈希缓存实现70-90%令牌优化,覆盖11类SHIELD安全威胁。

收藏
60.3k
安装
12.8k
版本
3.1.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

Prompt Guard是一款面向大语言模型的提示词注入防御工具,采用分层架构设计。核心工作流程包括:通过PromptGuard.analyze()接口接收用户输入,利用SHA-256哈希实现消息级缓存复用,并基于三层模式库(CRITICAL/HIGH/MEDIUM)进行威胁检测。支持CLI快速检测、YAML灵活配置及Python API深度集成,同时提供输出侧DLP扫描能力。

显著优点

1. 极致令牌效率:Tiered Pattern Loading实现首次请求70%令牌削减,LRU哈希缓存使重复请求降低90%消耗
2. 分级威胁响应:五级 severity(SAFE至CRITICAL)映射差异化处置动作,避免过度拦截

3. 生态兼容:原生支持HiveFence威胁情报网络、SHIELD标准输出格式及MCP协议防护

4. 多语言覆盖:内置10种语言注入检测,突破英语中心局限

5. 模块化架构:Critical/High/Medium三层模式独立加载,支持quick_scanescalate_to_full动态升降级

潜在局限

  • 作者权威性存疑:开发者Seojoon Kim的公开安全背景未经验证,缺乏知名安全机构背书
  • 模式库黑盒:500+具体检测模式仅通过外部YAML文件加载,SKILL.md未披露核心规则细节
  • 缓存安全风险:SHA-256哈希可能遭遇碰撞攻击,1000条LRU容量在高并发场景下命中率存疑
  • 误报控制paranoid灵敏度模式未提供基线测试数据

适合人群

  • 部署自托管LLM应用的中小团队
  • 需平衡安全与成本的Token敏感型业务
  • 已采用SHIELD/MCP生态的技术架构

常规风险

1. 配置误用pattern_tier: critical过度精简可能漏检MEDIUM级攻击
2. 输出DLP盲区scan_output()依赖正则匹配,对语义级信息泄露防护有限

3. 供应链风险:外部YAML模式文件需独立审计,运行时加载引入文件系统攻击面

4. 缓存穿透:构造哈希碰撞输入可绕过检测机制

Prompt Guard 内容

blog文件夹
patterns文件夹
prompt_guard文件夹
scripts文件夹
tests文件夹
手动下载zip · 159.6 kB
how-i-secured-my-ai-agent.mdtext/markdown
请选择文件