OpenGuardrails

🔒 AI Agent 的提示注入防火墙

OpenGuardrails 插件为 OpenClaw 提供先进的间接提示注入攻击检测,支持长内容分块分析,英英语 F1 达 87.1%,多语言达 97.3%,阻断恶意指令保护 AI Agent 安全。

收藏
12.7k
安装
3k
版本
3.0.2
CLS 安全扫描中
预计需要 3 分钟...

使用说明

OpenGuardrails for OpenClaw 综合评估

OpenGuardrails for OpenClaw 是一款专为 AI Agent 设计的间接提示注入防护插件,集成 OpenGuardrails 的 SOTA 检测模型,可识别隐藏在邮件、网页、文档等长内容中的恶意指令。

核心用法

该插件通过 tool_result_persist 事件钩子介入 OpenClaw 工作流,当 Agent 读取外部内容时自动触发检测:

  • 分块处理:将长内容分割为 4000 字符块,200 字符重叠确保边界覆盖
  • LLM 分析:使用 OG-Text 模型逐块分析"是否存在隐藏提示注入"
  • 聚合判决:综合各块结果输出布尔判定
  • 阻断/放行:检测到注入时阻止内容进入 Agent

提供三条交互命令:/og_status 查看统计、/og_report 查看检测详情、/og_feedback 反馈误报漏报。

显著优点

  • 检测性能优异:英语 F1 87.1%,多语言 F1 97.3%,处于行业前沿
  • 场景针对性强:专注解决"Agent 读取外部内容"这一高危攻击面
  • 透明可观测:完整日志链路与报告机制,支持实时监控
  • 灵活配置:可切换阻断/仅日志模式,支持分块参数调优

潜在局限

  • 架构锁定:仅兼容 OpenClaw 网关,无法直接用于其他 Agent 框架
  • 延迟开销:分块 LLM 分析引入额外延迟(默认 60s 超时)
  • 模型依赖:核心能力绑定 OpenGuardrails 专有模型,透明度有限
  • 单点瓶颈:未提及分布式或离线部署能力

适合人群

  • 使用 OpenClaw 构建生产级 AI Agent 的开发者/企业
  • 处理不可信来源长文本(邮件解析、网页抓取、文档分析)的场景
  • 需满足合规要求、必须审计内容安全性的金融、法律、医疗领域

常规风险

  • 误报导致业务中断:高敏感配置下正常内容可能被误拦
  • 漏报造成实际损失:87% F1 意味着约 13% 攻击可能穿透
  • 供应链风险:插件与检测模型均来自单一供应商
  • 日志敏感信息:检测报告可能包含触发检测的恶意内容片段,需妥善保管

OpenGuardrails 内容

agent文件夹
memory文件夹
手动下载zip · 117.5 kB
config.tstext/plain
请选择文件