Iblai Openclaw Router

🔄 智能路由降本,14维秒级选模

14维加权路由智能选模,零依赖代理自动匹配最便宜可用模型,单次<1ms开销,为OpenClaw场景节省API成本。

收藏
3.2k
安装
1.1k
版本
1.0.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

iblai-router 是面向 OpenClaw 生态的零依赖智能代理层,部署在客户端与 Anthropic API(或 OpenRouter 等兼容端点)之间。通过 systemd 服务常驻端口 8402,注册为 iblai-router/auto 模型后,所有请求经 14 维度加权评分器实时路由至 LIGHT/MEDIUM/HEAVY 三档最便宜可用模型。

关键配置入口

  • config.json 热重载,无需重启服务
  • 支持 Claude 全系原生及 OpenAI/Google 模型(经 OpenRouter 透传)
  • 关键词列表与权重边界可自定义,适配特定业务负载

典型接入场景

  • 定时任务(Cron jobs):后台批量处理,成本敏感
  • 子代理(Subagents):多步骤推理中自动降级非关键步骤
  • 全局/会话级回退:与固定高端模型(如 Opus)主从搭配

显著优点

1. 成本优化明确:自动降级策略可将背景任务 API 费用降低 60-90%,高频场景下节省显著
2. 零侵入设计:标准 OpenAI 兼容 API 格式,下游无需改造

3. 极低延迟开销:<1ms 评分决策,对实时交互无感知影响

4. 热配置能力:保存即生效,支持 A/B 调参与渐进上线

5. 多厂商兼容:通过 OpenRouter 聚合 Anthropic/OpenAI/Google 模型池,避免 vendor lock-in

潜在缺点与局限

  • 关键词规则维护成本:14 维评分依赖人工定义的关键词列表,业务语义漂移后需持续调优
  • 无自动反馈闭环:当前版本未集成响应质量回检,无法自优化路由决策
  • 单点代理风险:本地 systemd 服务故障将导致路由层失效,需配合健康检查与降级策略
  • 非 Anthropic 模型功能受限:经 OpenRouter 路由时,部分原生特性(如 tool use 细节、特定 system prompt 行为)可能存在兼容层损耗
  • 安全边界模糊:作为本地代理,请求解密后重新签名,若配置不当可能扩大密钥暴露面

适合人群

  • OpenClaw 重度用户:已构建复杂 agent 工作流,需规模化成本控制
  • 多模型策略团队:希望统一接口管理 Claude/Haiku/GPT 混合池,简化客户端配置
  • DevOps/SRE 运维者:具备 systemd 与本地服务治理能力,能维护路由层可用性
  • 成本敏感型产品:后台任务占比高,可接受轻量规则维护换取费用优化

常规风险

| 风险类别 | 说明 | 缓解建议 |
|---------|------|---------|
| 配置漂移 | 热重载机制可能引入未经验证的配置错误 | 配置变更接入 git 版本控制,关键修改前执行 dry-run |
| 密钥管理 | systemd 环境变量存储 API key,多用户系统存在横向泄露风险 | 优先使用 secret management 工具(如 systemd-creds 或外部 KMS)注入 |
| 路由误判 | 关键词评分无法捕获复杂语义,可能导致简单任务误调重型模型或反之 | 建立采样审计机制,定期复盘路由决策与实际成本/质量匹配度 |
| 供应商锁定转移 | OpenRouter 作为中间层引入额外依赖与定价不确定性 | 保留原生 Anthropic 直连能力作为逃生通道 |
| 服务可用性 | 本地代理单点故障影响所有路由流量 | 配合进程监控(如 systemd watchdog)与客户端超时降级策略 |

Iblai Openclaw Router 内容

scripts文件夹
手动下载zip · 23.2 kB
install.shtext/x-shellscript
请选择文件