RelayPlane

🚀 AI API 成本自动优化代理

ai-tools榜 #5

本地代理自动路由简单LLM任务到廉价模型,为OpenClaw用户节省40-70%成本,835+开发者已安装

收藏
8k
安装
2.8k
版本
3.1.0
CLS 安全性认证2026-06-23
点击查看完整报告 >

使用说明

核心用法

RelayPlane 是一个本地代理服务,通过拦截并重路由 LLM API 请求来降低使用成本。安装后无需修改代码,只需将环境变量指向本地代理端口(默认3001),即可自动实现智能路由:复杂推理任务继续使用 Opus 等高端模型,而文件读取、状态检查、简单编辑等低复杂度任务自动降级至 Haiku 等廉价模型。

显著优点

  • 即装即用:npm 全局安装,两条环境变量配置,零代码改动
  • 自动回退:路由失败时无缝回退到原模型,保障可靠性
  • 成本效益明确:官方声称 $100/月 开销可节省 $47,Pro 版在 $60/月 以上即回本
  • 隐私优先:提示词完全本地处理,不上传至 RelayPlane 服务器
  • 多供应商支持:除 Anthropic 外,支持 OpenAI、Google Gemini、xAI
  • 离线可用--offline 模式彻底断网(除必要 LLM API 调用)

局限性与风险

  • MIT 开源但生态早期:GitHub 星数、社区维护活跃度未披露,长期维护存疑
  • 路由策略黑盒:"简单任务"的判定标准由代理内部决定,用户无法细粒度控制
  • 延迟增加:本地代理多一跳网络,对延迟敏感场景可能有影响
  • Token 统计不透明:声称匿名遥测仅传 token 计数,但用户难以独立验证
  • 供应商锁定风险:深度依赖单一代理层的路由逻辑,迁移需调整架构

适合人群

  • 月 LLM API 开销 $60-300 的中高频开发者
  • 使用 OpenClaw 等客户端工具且希望降低成本的团队
  • 对隐私敏感、不愿将提示词上传第三方服务的用户
  • 愿意接受轻度延迟换取成本节省的场景

常规风险

  • 代理层单点故障可能导致请求失败(虽有回退机制)
  • 模型降级可能意外影响输出质量,需持续监控
  • npm 供应链攻击风险(建议锁定版本并审计)
  • 遥测数据虽匿名,但 token 使用模式本身可能泄露业务特征

安全解读

核心用法

RelayPlane 是一个本地运行的 LLM 请求路由代理,无需修改代码即可实现智能模型降级。用户安装 @relayplane/proxy npm 包后,通过设置环境变量将 Anthropic/OpenAI 的 API 请求指向本地代理(默认 localhost:3001),代理根据任务复杂度自动选择模型:复杂推理保持 Opus,文件读取、状态检查、简单编辑等任务降级至 Haiku 等廉价模型。

CLI 提供基础管理能力:relayplane-proxy 启动服务,stats 查看用量与成本拆分,telemetry off 关闭遥测,--offline 启用完全离线模式。支持自定义端口、绑定地址、审计遥测载荷等高级配置。

显著优点

  • 即时成本优化:官方宣称 $100/月 OpenClaw 支出可节省约 $47,Pro 版本在 $60/月以上支出即可回本,ROI 明确可量化
  • 零代码侵入:通过环境变量劫持 API 端点,现有工具链(如 Claude Code、OpenAI SDK)无需任何改动
  • 自动降级与故障回退:智能判断任务复杂度,失败时自动回退至原模型,保证可靠性
  • 隐私优先设计:用户提示内容完全本地处理,仅发送匿名化遥测(token 计数、延迟、模型类型),提供完整 opt-out 机制
  • 多厂商支持:除 Anthropic 外,兼容 OpenAI、Google Gemini、xAI 等主流 API

潜在局限

  • 依赖本地代理完整性:路由逻辑运行在用户本地,若 npm 包被供应链攻击,存在 API 密钥拦截风险(需自行验证包来源)
  • 模型判断黑盒:任务复杂度路由规则未开源,用户无法审计或自定义降级策略
  • 仅优化简单任务:对本身就是复杂推理的 workload 无节省效果,收益与任务类型强相关
  • 额外运维节点:引入本地服务依赖,容器化或 CI/CD 环境需额外配置
  • 遥测争议:虽可关闭,但默认开启的遥测行为在高度敏感场景中仍可能引发合规顾虑

适合人群

  • 月 LLM API 支出 $60-$300 的开发者/小团队,追求明确的成本优化
  • 使用 Claude Code、Cursor、Aider 等工具的重度 OpenClaw 用户
  • 具备基础 Node.js/npm 环境管理能力,能接受本地代理运维的技术用户
  • 对模型降级策略无强定制需求,接受"自动魔法"的务实派

常规风险

| 风险类型 | 具体描述 | 缓解建议 |
|---------|---------|---------|
| 供应链安全 | `@relayplane/proxy` npm 包若被篡改,可拦截 API 密钥 | 安装前执行 `npm info` 与 `npm audit` 验证,关注官方发布签名 |
| 本地服务暴露 | 代理默认绑定 localhost,若改为 `0.0.0.0` 可能被局域网探测 | 生产环境保持默认 localhost,或使用防火墙限制访问 |
| 密钥管理 | 文档示例以明文 export 方式配置密钥,存在历史记录泄露风险 | 改用 `.env` 文件或专用密钥管理工具,避免 shell history 记录 |
| 功能依赖 | 代理故障时可能影响开发工作流(虽有回退机制) | 保留原生 API 端点配置能力,必要时快速切换 |
| 合规审计 | 自动降级可能改变输出质量,对合规严格的场景需人工复核 | 关键任务禁用自动降级,或设置质量阈值人工审批 |

认证结论:CLS-Certify v2.1.0 六维安全检测通过,综合评分 85 分,获 S 级认证,来源可信(T2 级 GitHub 组织账号),无已知 CVE 漏洞。

RelayPlane 内容

手动下载zip · 3.7 kB
CHANGELOG.mdtext/markdown
请选择文件