核心用法
iblai-router 是面向 OpenClaw 生态的零依赖智能代理层,部署在客户端与 Anthropic API(或 OpenRouter 等兼容端点)之间。通过 systemd 服务常驻端口 8402,注册为 iblai-router/auto 模型后,所有请求经 14 维度加权评分器实时路由至 LIGHT/MEDIUM/HEAVY 三档最便宜可用模型。
关键配置入口:
config.json热重载,无需重启服务- 支持 Claude 全系原生及 OpenAI/Google 模型(经 OpenRouter 透传)
- 关键词列表与权重边界可自定义,适配特定业务负载
典型接入场景:
- 定时任务(Cron jobs):后台批量处理,成本敏感
- 子代理(Subagents):多步骤推理中自动降级非关键步骤
- 全局/会话级回退:与固定高端模型(如 Opus)主从搭配
显著优点
1. 成本优化明确:自动降级策略可将背景任务 API 费用降低 60-90%,高频场景下节省显著
2. 零侵入设计:标准 OpenAI 兼容 API 格式,下游无需改造
3. 极低延迟开销:<1ms 评分决策,对实时交互无感知影响
4. 热配置能力:保存即生效,支持 A/B 调参与渐进上线
5. 多厂商兼容:通过 OpenRouter 聚合 Anthropic/OpenAI/Google 模型池,避免 vendor lock-in
潜在缺点与局限
- 关键词规则维护成本:14 维评分依赖人工定义的关键词列表,业务语义漂移后需持续调优
- 无自动反馈闭环:当前版本未集成响应质量回检,无法自优化路由决策
- 单点代理风险:本地 systemd 服务故障将导致路由层失效,需配合健康检查与降级策略
- 非 Anthropic 模型功能受限:经 OpenRouter 路由时,部分原生特性(如 tool use 细节、特定 system prompt 行为)可能存在兼容层损耗
- 安全边界模糊:作为本地代理,请求解密后重新签名,若配置不当可能扩大密钥暴露面
适合人群
- OpenClaw 重度用户:已构建复杂 agent 工作流,需规模化成本控制
- 多模型策略团队:希望统一接口管理 Claude/Haiku/GPT 混合池,简化客户端配置
- DevOps/SRE 运维者:具备 systemd 与本地服务治理能力,能维护路由层可用性
- 成本敏感型产品:后台任务占比高,可接受轻量规则维护换取费用优化
常规风险
| 风险类别 | 说明 | 缓解建议 |
|---------|------|---------|
| 配置漂移 | 热重载机制可能引入未经验证的配置错误 | 配置变更接入 git 版本控制,关键修改前执行 dry-run |
| 密钥管理 | systemd 环境变量存储 API key,多用户系统存在横向泄露风险 | 优先使用 secret management 工具(如 systemd-creds 或外部 KMS)注入 |
| 路由误判 | 关键词评分无法捕获复杂语义,可能导致简单任务误调重型模型或反之 | 建立采样审计机制,定期复盘路由决策与实际成本/质量匹配度 |
| 供应商锁定转移 | OpenRouter 作为中间层引入额外依赖与定价不确定性 | 保留原生 Anthropic 直连能力作为逃生通道 |
| 服务可用性 | 本地代理单点故障影响所有路由流量 | 配合进程监控(如 systemd watchdog)与客户端超时降级策略 |