核心用法
AI Model Router 是一款轻量级模型路由工具,通过自动检测本地模型(如 Ollama、LM Studio)与云端模型(内置 7 种),根据任务复杂度与隐私需求智能选择执行模型。用户可通过 CLI 或 Python API 调用,支持一键路由、强制指定模型、JSON 输出及配置持久化。
显著优点
1. 自动检测与零配置启动:无需手动配置即可识别本地模型,开箱即用。
2. 隐私优先机制:检测到 API 密钥、密码、Token、邮箱、信用卡等敏感信息时,强制切换至本地模型,数据不出境。
3. 任务复杂度评分系统:基于关键词加权评分(如 "microservices" +10 分,"what is" -3 分),阈值 5 分自动区分简单/复杂任务,平衡成本与性能。
4. 极小代码体积:核心路由引擎仅约 200 行 Python,维护与审计成本低。
潜在缺点与局限性
- 评分规则固定:内置关键词权重可能无法覆盖所有行业场景,复杂任务误判为简单任务时性能受限。
- 云端模型依赖网络:复杂任务需调用云端 API,存在网络延迟与服务商可用性风险。
- 本地模型能力天花板:轻量本地模型处理高难度推理任务时效果可能不如云端大模型。
- 无加密传输说明:文档未明确本地与云端通信是否强制 TLS,需用户自行验证。
适合人群
- 注重数据隐私的开发者与企业用户
- 需要平衡 AI 调用成本与质量的团队
- 已部署本地模型(Ollama/LM Studio)且希望无缝扩展云端能力的用户
- 对代码简洁性有要求、希望快速审计底层逻辑的技术用户
常规风险
| 风险类型 | 说明 |
|---------|------|
| 隐私泄露 | 评分系统可能误判,敏感数据意外发送至云端;建议关键场景使用 `--force primary` |
| 服务中断 | 云端模型 API 故障时复杂任务失败;需配置 fallback 或本地备用方案 |
| 成本失控 | 复杂任务自动调用高价云端模型,高频使用可能产生意外费用 |
| 本地模型安全 | 本地模型文件与配置若权限管理不当,存在被篡改风险 |