free-model-router-laodao

🔄 免费模型智能路由,Token自由无忧

本地代理智能路由免费大模型,支持自动故障切换与配置零侵入,实现Token自由

收藏
3.8k
安装
1.2k
版本
1.5.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心功能与用法

free-model-router 是 OpenClaw 的免费模型智能路由服务,通过三层架构实现安全透明的模型调度:

Layer 1(本地层):用户 → OpenClaw → 127.0.0.1:5678 本地 Router,数据不离开本机
Layer 2(模型层):本地 Router → OpenRouter/NVIDIA NIM 等外部 Provider,承载实际对话

Layer 3(控制层):与 freemodel 服务器同步 provider 列表、健康状态,不含任何对话内容

核心特性

  • 配置零侵入:仅在 setup 时向 openclaw.json 写入一次配置,运行期间不再触碰
  • 自动轮询与故障切换:Round-Robin 策略在各 provider 主模型间轮询,故障时自动降级
  • 幂等安装:多次执行无副作用,自动保留用户手动配置的主备模型和 API Key
  • 事件通知系统:模型切换、故障等事件定时推送,无事件时静默运行

配置流程

1. 启动 Router 并初始化
2. 注册定时任务(事件检查 + 每日状态汇报)

3. 引导设置多 Provider API Key(推荐多 provider 策略)

4. 关键步骤:主动选择设为主模型或备用模型,否则技能不生效

5. 可选切换主备模型

安全设计

  • 对话内容仅经过 Layer 2 转发至外部 Provider,Layer 3 控制服务器不收集、不传输、不存储任何提示词或响应
  • 设备指纹采用 SHA256 不可逆哈希
  • 数据上报默认关闭,完全可控
  • 配置自动备份(最多3份)+ 失败自动回滚

局限性

  • 依赖第三方免费模型 provider,可用性和稳定性不可控
  • 免费模型随时可能下架或转收费
  • 需要用户主动提供 Provider API Key,存在初始配置成本
  • 本地 Router 需持续运行,占用本地资源

适合人群

  • 需要降低 LLM 使用成本的开发者/研究者
  • 希望实现 Token 自由的 OpenClaw 重度用户
  • 愿意承担免费模型不稳定性的技术爱好者
  • 重视隐私、希望对话数据本地化处理的用户

风险提醒

  • 第三方依赖风险:OpenRouter、NVIDIA NIM 等 provider 的服务条款和隐私政策独立适用
  • 模型质量波动:免费模型性能参差不齐,故障切换可能导致响应质量变化
  • 网络暴露:虽仅监听本地回环,但需警惕本地环境中的其他潜在风险
  • 推荐码系统:完全自愿,不影响核心功能

free-model-router-laodao 内容

core文件夹
admin文件夹
public文件夹
css文件夹
js文件夹
references文件夹
scripts文件夹
手动下载zip · 120.3 kB
style.csstext/plain
请选择文件