RelayPlane

🚀 自动路由省 47%,零代码改动

ai-tools榜 #3

RelayPlane 是一个本地智能代理,通过自动将简单 LLM 任务路由到更便宜的模型,为典型 $100/月的 OpenClaw 支出节省约 $47/月,同时保持复杂推理在高端模型上执行。

收藏
13.4k
安装
2.8k
版本
3.3.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

RelayPlane 是一个本地代理服务器,拦截并重定向 OpenClaw、OpenAI 等 LLM API 请求。安装后设置环境变量 ANTHROPIC_BASE_URLOPENAI_BASE_URL 指向本地代理,即可无代码改动地接入。代理自动判断任务复杂度:简单任务(文件读取、状态检查、简单编辑)路由至 Haiku 等廉价模型,复杂推理保留在 Opus/Claude 3.5 上。支持完全离线模式(--offline),无需账号即可使用。

显著优点

1. 即时成本优化:官方宣称 $100/月支出可省 $47,$60+/月即回本
2. 零侵入集成:一行 npm 安装,环境变量指向即可,无需修改现有代码

3. 智能路由:基于任务复杂度自动选择模型,失败时自动回退

4. 隐私优先:提示词本地处理,不上传服务器;遥测仅收集令牌数、延迟、模型类型

5. 开源透明:MIT 许可,GitHub 公开源码,支持自托管审计

6. 社区网络效应:835+ 开发者安装,匿名数据汇聚优化全局路由策略

潜在缺点与局限

1. 单点故障风险:所有流量经本地代理,代理崩溃或配置错误会导致 OpenClaw 完全不可用
2. 路由误判成本:复杂任务若被误判为简单任务,廉价模型输出质量下降可能导致返工,隐性成本难量化

3. 遥测争议:虽宣称匿名,但"网络优化路由"功能暗示存在某种程度的数据聚合,完全隐私敏感用户需手动关闭或离线运行

4. 供应商锁定隐忧:Pro 版 $29/月 解锁"网络优化路由",长期使用可能形成对 RelayPlane 路由算法的依赖

5. 调试复杂度增加:多层代理使问题排查更困难,API 错误追踪需穿透本地层

适合人群

  • 月 LLM API 支出 $60-300 的中高频开发者
  • 希望降低 OpenClaw/Claude 成本但不愿重构代码库的现有用户
  • 对本地隐私处理有要求,能接受轻量代理架构的技术团队
  • 愿意贡献匿名遥测以换取社区优化收益的实用主义者

常规风险

  • 配置泄露风险ANTHROPIC_API_KEY 等密钥需导出至环境变量,多用户服务器场景需额外防护
  • 版本兼容性:代理层可能滞后于官方 API 更新,新功能(如 Claude 3.5 新工具)支持存在延迟
  • 计费透明度:跨模型路由使账单拆分复杂化,需依赖 relayplane-proxy stats 追踪,与官方账单对照验证
  • Pro 功能诱惑:免费版功能完整,但仪表盘和预警功能可能诱导升级,需理性评估 $29/月 是否真优于自建方案

RelayPlane 内容

暂无文件树

手动下载zip · 3.9 kB
contentapplication/octet-stream
请选择文件