核心用法
RelayPlane 是一个本地代理服务，通过拦截和智能路由 LLM 请求来优化成本。用户安装 CLI 后启动本地代理服务器，将 SDK 的 base URL 指向 localhost:3001，即可在 API 调用中使用路由别名（如 rp:auto、rp:cost、rp:best）自动选择最优模型。
主要命令：
/relayplane proxy start/stop- 启停代理服务/relayplane stats- 查看用量统计与节省金额/relayplane models- 列出可用路由模式/relayplane telemetry off- 关闭遥测
显著优点
1. 成本优化显著：声称可降低 40-60% API 费用，通过将简单查询路由至 GPT-4o-mini、Claude Haiku 等廉价模型实现
2. 零代码集成：无需修改应用逻辑，仅通过环境变量切换 base URL 即可接入
3. 灵活路由策略：提供 auto（智能）、cost（最便宜）、fast（最低延迟）、best（最高质量）、balanced（平衡）五种模式
4. 隐私优先设计：API 密钥仅在本地使用，绝不传输至 RelayPlane 服务器；可完全离线运行（RELAYPLANE_OFFLINE=1）
5. 透明遥测：默认收集匿名元数据（模型、token 数、延迟、成本），但明确承诺不收集 prompts、responses、文件路径或用户身份，且可随时关闭
潜在缺点与局限性
1. 额外架构复杂度：引入本地代理层增加故障点，需监控代理健康状态
2. 延迟开销：路由决策和本地转发可能增加数十毫秒延迟
3. 智能路由黑箱：rp:auto 的具体路由逻辑未完全公开，用户难以审计为何选择某模型
4. 成本监控责任：代理本身不产生费用但转发真实请求，用户仍需自行跟踪用量防止账单失控
5. 免费版功能受限：云仪表板、团队功能、预算控制需付费订阅（$29-$99/月）
适合人群
- 高频 LLM 调用者：日均消耗 $10+ API 费用的开发团队
- 成本敏感型应用：如客服机器人、内容生成等可接受偶尔质量折让的场景
- 多模型策略用户：已在混用 OpenAI、Anthropic、Google 模型的技术团队
- 隐私合规要求者：需要确保数据不出境、密钥不上传云端的组织
常规风险
| 风险类型 | 说明 | 缓解措施 |
|---------|------|---------|
| 凭证泄露 | Node 脚本读取环境变量中的 API 密钥 | 验证代码开源性，使用 `RELAYPLANE_OFFLINE=1` 审计网络调用 |
| 意外超支 | 代理转发导致预期外的高成本模型调用 | 设置用量上限，定期运行 `/relayplane stats` |
| 代理单点故障 | 本地服务崩溃导致应用请求失败 | 实现 fallback 逻辑，监控代理状态 |
| 路由误判 | 简单任务被错误路由至昂贵模型或反之 | 从 `rp:cost` 等确定性模式开始测试 |
| 遥测争议 | 默认开启数据收集可能引发合规顾虑 | 启动前执行 `relayplane-proxy telemetry off` |