LLM Supervisor

🔄 智能双模切换,限流无忧开发

Developer Tools榜 #39

智能切换云端与本地Ollama模型,应对API限流,代码生成需人工确认保障安全。

收藏
7.6k
安装
3k
版本
0.1.1
CLS 安全性认证2026-07-01
点击查看完整报告 >

使用说明

核心用法

LLM Supervisor 是一个自动化的模型切换管理工具,主要用于解决云端大语言模型(Anthropic/OpenAI)在遇到速率限制或服务器过载时的服务中断问题。当检测到相关错误时,系统会自动将请求路由到本地运行的 Ollama 实例(默认使用 qwen2.5:7b 模型),确保开发工作流的连续性。

显著优点

  • 服务高可用:无缝的故障转移机制,避免因 API 限流导致的工作流中断
  • 隐私保护:本地处理敏感代码或数据,减少云端传输风险
  • 成本控制:本地模型零 API 调用费用,适合高频开发场景
  • 灵活控制:支持 /llm status/llm switch cloud/local 等手动命令,用户可随时干预

潜在缺点与局限性

  • 模型能力降级:qwen2.5:7b 与 Claude/GPT-4 级别模型存在明显的代码质量差距,复杂任务可能失败
  • 本地算力依赖:需要具备 GPU 或充足 RAM 的机器才能流畅运行 7B 参数模型
  • 首次配置成本:需预先安装配置 Ollama 环境,对非技术用户不够友好
  • 延迟体验:本地推理速度通常慢于云端 API,影响交互流畅度

适合人群

  • 高频使用 OpenClaw 的开发者,经常触达 API 配额上限
  • 对代码隐私有严格要求的企业内网开发场景
  • 希望降低 LLM 调用成本的独立开发者或小团队

常规风险

  • 本地代码安全风险:虽然设置了 CONFIRM LOCAL CODE 的强制确认机制,但用户一旦确认,低质量本地模型生成的代码可能引入隐蔽 bug 或安全漏洞
  • 模型一致性风险:云端与本地输出风格差异可能导致项目代码风格不统一
  • 本地服务可用性:Ollama 进程崩溃或未启动时,自动切换将失败

安全解读

LLM Supervisor 是一款为 OpenClaw 设计的智能模型切换工具,核心功能是在检测到 Anthropic/OpenAI 等云服务商的速率限制或过载错误时,自动将请求降级至本地 Ollama 模型(默认 qwen2.5:7b),并在执行本地代码生成任务前强制要求用户输入 "CONFIRM LOCAL CODE" 确认,有效防范模型降级导致的代码质量风险。

核心用法:用户可通过 /llm status 查看当前模式,/llm switch cloud/local 手动切换。Skill 会在云端返回 429 错误时自动触发本地降级,无需人工干预。本地代码生成被严格管控,必须显式确认才能继续。

显著优点:安全设计严谨,无危险函数调用(无 eval/exec/system),网络访问仅限本地 Ollama(127.0.0.1:11434),无数据外泄风险;权限申请精简合理,与功能完全匹配;代码开源透明(MIT 许可),便于审计;依赖干净,仅使用 OpenClaw SDK 类型定义。

潜在局限:自动切回云端的逻辑缺失,需用户手动执行 /llm switch cloud;速率限制检测逻辑较简单,仅覆盖 HTTP 429 和基础关键词;冷却期机制已定义但未实际启用;日志中 lastError 字段可能记录敏感信息。

适合人群:频繁遭遇云 LLM 速率限制、对数据隐私敏感、希望在本地保留代码生成能力的开发者;具备 Ollama 本地部署能力的用户;重视安全确认机制的团队。

常规风险:本地模型(7B 参数)代码生成质量可能显著低于云端大模型,确认机制虽提供缓冲但仍需用户自行判断代码安全性;Ollama 本地服务未运行时 Skill 将失效;确认短语若被简化为短单词可能被误触。

LLM Supervisor 内容

commands文件夹
dist文件夹
commands文件夹
hooks文件夹
hooks文件夹
types文件夹
@openclaw文件夹
手动下载zip · 10.4 kB
llm.tstext/plain
请选择文件