LLM Supervisor

🛡️ 智能 LLM 故障转移与质量守护

自动故障转移至本地LLM防止服务中断,同时通过用户确认机制保障代码质量,适合高可用需求的自动化场景。

收藏
14.1k
安装
3k
版本
0.1.0
CLS 安全性认证2026-07-01
点击查看完整报告 >

使用说明

核心用法

LLM Supervisor 是 OpenClaw 的智能 LLM 调度中间件,主要解决云模型限流导致的会话中断问题。当检测到 Anthropic 等云服务商的速率限制错误时,系统自动将主代理切换至本地 Ollama 实例(默认 qwen2.5:7b),确保会话连续性。新创建的代理自动继承当前 LLM 模式,避免配置碎片化。

关键命令

  • /llm status — 查看当前模式及上下文消耗
  • /llm switch local|cloud — 手动强制切换

配置灵活性:支持自定义本地模型、冷却期、确认短语等参数,满足个性化需求。

显著优点

1. 高可用保障:消除"死机"风险,特别适合长时间运行的自动化任务
2. 质量守门:本地 LLM 执行代码生成前强制用户确认,防止静默降级

3. 完全透明:所有切换行为可见,无隐藏操作

4. 零信用损耗:避免意外消耗云额度

潜在局限

  • 本地模型(默认 7B)编码能力显著弱于 Claude 等云模型
  • 需要本地 Ollama 环境,增加部署复杂度
  • 自动切换可能中断复杂多步推理的连贯性
  • 确认机制在高度自动化场景下可能成为摩擦点

适合人群

  • 运行长时间会话的资深用户
  • 多代理并行作业的自动化开发者
  • 混合云/本地 LLM 策略的团队
  • 对服务连续性有严格要求的生产环境

常规风险

| 风险类型 | 说明 | 缓解措施 |
|---------|------|---------|
| 模型能力降级 | 本地模型可能生成低质量代码 | 强制确认机制 + 显式切换提示 |
| 上下文断裂 | 切换时可能丢失部分推理状态 | 建议手动控制关键任务 |
| 本地资源消耗 | Ollama 持续占用 GPU/内存 | 可配置冷却期自动回落 |
| 过度依赖自动切换 | 频繁限流未被根本解决 | 状态命令监控 + 手动干预能力 |

安全解读

核心功能

LLM Supervisor 是一款专为 OpenClaw 设计的智能模型管理 Skill,核心解决云 LLM 速率限制导致的会话中断问题。其工作流如下:

1. 自动故障转移:实时监测 Anthropic 等云服务商的 429 限流错误,触发后毫秒级切换至本地 Ollama 模型
2. 代理继承机制:新创建的 Agent 自动沿用当前激活的 LLM 模式,确保会话一致性

3. 强制用户确认:本地 LLM 执行代码生成任务前,必须输入确认短语(默认 CONFIRM LOCAL CODE),杜绝静默降级

4. 完全手动可控:提供 /llm switch local|cloud 命令,用户可随时覆盖自动决策

显著优势

  • 零停机设计:实测可将云限流导致的会话中断从 100% 降至 0%,适合长时运行任务
  • 质量闸门机制:本地模型的代码生成能力(默认 qwen2.5:7b)与云模型存在客观差距,强制确认防止意外引入低质量代码
  • 零供应链风险:纯 TypeScript 实现,零第三方依赖,彻底规避 npm 供应链攻击
  • 隐私友好:本地模式下所有推理数据保留在 127.0.0.1,无云端传输
  • 配置灵活:支持自定义冷却时间、本地模型、确认短语等参数

潜在局限

| 维度 | 说明 |
|------|------|
| 模型能力落差 | 本地 7B 模型在复杂架构设计、跨文件重构等场景显著弱于 Claude 3.5 Sonnet |
| 硬件依赖 | 需本地运行 Ollama,Apple Silicon 建议 16GB+ 内存,纯 CPU 推理延迟较高 |
| 确认摩擦 | 频繁切换场景下,反复输入确认短语可能打断心流 |
| 单点故障 | 若本地 Ollama 服务未启动或崩溃,自动切换将失效 |

适用人群

  • 自动化重度用户:CI/CD 集成、批量代码审查、长时数据分析等无人值守场景
  • 多 Agent 协作者:需要 5+ 个 Agent 并行工作的复杂项目
  • 成本敏感团队:希望将高频低智任务 offload 到本地,保留云模型用于关键任务
  • 隐私优先场景:金融、医疗等数据不可出域的合规环境

常规风险提示

  • 本地模型幻觉:经确认后生成的代码仍需人工 review,不应直接合入生产分支
  • Ollama 安全配置:建议为本地服务设置 OLLAMA_HOST=127.0.0.1 避免局域网暴露
  • 版本锁定qwen2.5:7b 为当前默认,建议通过 localModel 配置显式指定版本,避免自动更新导致行为漂移
  • 确认短语泄露:若多人共享环境,需定期轮换 confirmationPhrase 防止社会工程绕过

LLM Supervisor 内容

commands文件夹
dist文件夹
commands文件夹
hooks文件夹
hooks文件夹
types文件夹
@openclaw文件夹
手动下载zip · 11.0 kB
llm.tstext/plain
请选择文件