llm-supervisor-agent

🔄 云地模型智能熔断与代码安全监护

MIT开源的LLM智能熔断工具,自动切换云地模型应对限流,本地代码生成需显式确认,BSS A级安全认证。

收藏
20.3k
安装
4.3k
版本
127.0.0
CLS 安全性认证2026-05-05
点击查看完整报告 >

使用说明

LLM Supervisor 是一款专为解决云LLM服务速率限制问题而设计的智能熔断工具。该Skill由Duncan Hardie开发并基于MIT协议开源,通过BSS安全认证获得A级评级,能够在Anthropic/OpenAI等云服务遭遇限流时,自动无缝切换至本地Ollama模型,确保开发工作流的连续性。

核心用法方面,该工具通过监听云LLM的错误响应(如rate-limit或overload),在检测到服务不可用时自动将请求路由至本地Ollama实例(默认配置为qwen2.5:7b)。用户可通过 /llm status 实时查看当前运行模式,使用 /llm switch cloud/llm switch local 手动切换模型来源。特别值得注意的是,当处于本地模式时,任何涉及代码生成的操作(如create_file、edit_file等)都需要用户在提示中显式包含"CONFIRM LOCAL CODE"确认短语才能执行,而聊天和规划类任务则不受此限制。

显著优点包括:首先,它有效解决了云LLM API限流导致的工作中断问题,提供自动故障转移能力;其次,本地运行模式可保护敏感代码隐私,避免核心知识产权上传至第三方服务器;再者,强制确认机制防止了能力较弱的本地模型在未经用户知情的情况下修改代码,显著降低了因模型性能差异导致的代码质量风险;最后,简单的命令行接口使得模式切换直观便捷,无需修改复杂配置。

潜在缺点或局限性主要体现在:其一,严格依赖本地Ollama服务的可用性,若本地服务未启动或配置错误,自动切换将失败;其二,本地模型(如默认的7B参数模型)在代码理解和生成能力上通常弱于云端大模型,可能影响复杂任务的执行质量;其三,每次本地代码生成前的强制确认步骤虽然提升了安全性,但也增加了交互摩擦,可能影响纯自动化场景的效率;其四,作为T3级个人开发者项目,长期维护和更新频率存在不确定性。

适合的目标群体主要包括:高频调用云LLM API且担心遭遇速率限制的软件开发团队;需要在网络不稳定环境下保持开发工具可用的远程工作者;处理敏感代码库且希望最小化数据外传的企业用户;以及希望构建混合云地LLM架构以平衡成本与性能的技术组织。

使用风险方面,用户需确保本地Ollama服务已正确安装并监听11434端口,否则自动切换机制将失效。此外,本地模型与云端模型在能力上的差异可能导致代码生成质量不一致,建议仅在代码辅助而非关键架构设计场景使用本地模式。确认机制虽提供了安全保护,但在紧急修复场景下可能增加响应延迟,用户需权衡安全与效率的需求。

安全解读

核心用法

LLM Supervisor 是 OpenClaw 平台的智能模型切换插件,核心功能是自动检测云 LLM(Anthropic/OpenAI)的速率限制或过载错误,并无缝切换至本地 Ollama 模型作为降级方案。用户可通过 /llm status 查看当前模式,使用 /llm switch cloud/llm switch local 手动切换。

显著优点

  • 零依赖架构:项目无第三方依赖包,完全基于 OpenClaw SDK 实现,杜绝供应链攻击风险
  • 安全确认机制:本地代码生成需用户显式输入 CONFIRM LOCAL CODE,防止低质量本地模型擅自执行高风险操作
  • 透明可控:状态管理和切换逻辑完全可见,用户始终掌握当前使用的模型类型
  • 隐私合规:仅存储 cloud/local 模式状态,不收集敏感数据,符合 GDPR 数据最小化原则

潜在局限

  • 配置固化:Ollama 服务地址硬编码为 http://127.0.0.1:11434,不支持自定义端口或远程实例
  • 功能待完善cooldownMinutes 参数在配置中存在但未实际实现,可能导致云服务恢复后频繁切换
  • 错误处理薄弱:Ollama 服务不可用时缺乏优雅降级和友好提示
  • 维护瑕疵:dist/ 目录与源码同时版本控制,存在编译产物不一致风险

适合人群

  • 高频使用云 LLM 且常遇速率限制的开发者和团队
  • 对数据隐私敏感、需在本地完成部分任务的用户
  • 已部署 Ollama 且追求零依赖安全方案的技术用户

常规风险

  • 本地模型质量风险qwen2.5:7b 作为默认本地模型,代码生成能力弱于 Claude/GPT-4,需人工确认规避
  • 网络配置风险:Ollama 服务若未正确启动或端口被占用,切换将失败且无明确提示
  • 确认疲劳风险:频繁遇到速率限制时,重复的 CONFIRM LOCAL CODE 输入可能降低用户警惕性

llm-supervisor-agent 内容

commands文件夹
dist文件夹
commands文件夹
hooks文件夹
hooks文件夹
types文件夹
@openclaw文件夹
手动下载zip · 10.4 kB
llm.tstext/plain
请选择文件