Prompt Guard

🛡️ AI代理的分布式威胁防御中枢

AI 增强榜 #19

面向AI代理的先进提示注入防御系统,集成HiveFence分布式威胁情报网络,支持多语言攻击检测与实时 severity 评分,为Clawdbot提供企业级安全防护。

收藏
50.4k
安装
12.8k
版本
2.5.3
CLS 安全扫描中
预计需要 3 分钟...

使用说明

Prompt Guard v2.6.0 是一款专为AI代理设计的高级提示注入防御与运营安全系统,核心能力涵盖三大维度:

威胁检测与防御:集成349种攻击模式库(较v2.4提升2.7倍),覆盖直接注入(指令覆盖、角色操纵)、间接注入(恶意文件/URL/编码陷阱)、多轮攻击(渐进信任构建、上下文投毒)及场景化越狱(梦境叙事、学术研究伪装等)。独创的HiveFence分布式情报网络实现"单点检测、全网免疫"——任一代理发现威胁即上报社区验证,所有节点自动获得防护更新。

多语言与语义深度:支持英语、韩语、日语、中文四种语言的攻击模式识别,不仅匹配关键词,更理解社交工程话术(如"아까 허락했잖아"单点授权扩张攻击)、紧急情感操控("医院将受攻击"威胁框架)及权威冒充("我是管理员")。v2.6.0新增系统提示词模拟检测,可识别<claude_*>[INST]等伪造LLM内部标记。

秘密保护与基础设施安全:强制执行"聊天中绝不输出密钥"原则,自动拦截config/环境变量/凭证展示请求;提供网关绑定策略(loopback/lan/Tailscale)、SSH加固清单、浏览器会话隔离等运营安全指南。

显著优点:社区驱动的威胁情报更新、精细化severity分级(SAFE→CRITICAL五档)、可配置响应策略(日志/警告/拦截/通知所有者)、完善的审计工具链(detect/analyze_log/audit脚本)。

潜在局限:HiveFence网络依赖社区活跃度,边缘攻击模式可能存在检测延迟;高度敏感的paranoid模式可能产生误报;多语言支持深度不均(英语/韩语最完善)。

适合人群:部署Clawdbot的Telegram Bot运营者、需要保护AI代理免受提示注入的开发者、处理敏感数据的自动化工作流构建者、多用户群组场景下的AI服务管理员。

常规风险:配置不当可能导致服务中断(如webhook模式绑定loopback);过度依赖自动拦截可能影响用户体验;凭证轮换策略执行不及时可能造成实际泄露。

Prompt Guard 内容

blog文件夹
scripts文件夹
手动下载zip · 49.2 kB
how-i-secured-my-ai-agent.mdtext/markdown
请选择文件