GLM Autoroute

🚦 智能模型路由 · 成本与性能平衡

GLM模型智能路由系统,自动将轻量任务分配给GLM-4.7,复杂任务动态升级至GLM-5,兼顾成本与性能

收藏
4.7k
安装
1.4k
版本
1.2.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

GLM Autoroute 是专为智谱AI(ZAI)GLM系列模型设计的二元路由调度系统,通过sessions_spawn机制实现轻量/重量任务的智能分流。主会话默认运行于GLM-4.7(zai/glm-4.7),仅在必要时通过子会话触发GLM-5(zai/glm-5),任务完成后自动降级回原模型。

路由决策矩阵:

  • GLM-4.7:简单问答、日常闲聊、文件速查、状态检查、格式化任务、定时心跳检测(Cron Jobs仅限简单场景)
  • GLM-5(强制升级):任何编码任务、分析调试、多步推理、深度研究、关键决策、架构设计、复杂规划

关键约束规则

  • 「DO NOT」清单明确禁止用GLM-4.7执行代码、分析、推理、研究
  • 存疑时遵循「When in doubt → GLM-5」原则
  • 所有输出须标注模型来源,如(GLM-5)(GLM-4.7)

内存管理策略(双层架构):

  • MEMORY.md:仅写入关键洞察、决策、经验教训(精简长期记忆)
  • 详细报告:按任务类型写入专用文件(research/code/等目录),代码仅存文件不输出(除非用户明确要求)

显著优点

1. 成本优化显著:轻量任务常驻GLM-4.7,避免重量级模型过度调用,降低Token消耗
2. 响应速度分层:简单查询毫秒级响应,复杂任务才启用深度推理

3. 会话隔离安全sessions_spawn创建独立子会话,GLM-5任务崩溃不影响主会话

4. 记忆结构清晰:强制区分「精简长期记忆」与「完整任务档案」,避免上下文污染

5. 决策规则明确:黑白清单式设计,降低路由误判概率

潜在局限与风险

1. 路由误判成本:若将本应GLM-5的任务路由至GLM-4.7,可能导致低质量输出甚至错误执行
2. 会话切换开销:频繁spawn/terminate带来额外延迟,高频轻量任务累积 overhead

3. 内存文件碎片化:多任务场景下research/code/目录可能迅速膨胀,需人工维护

4. 模型黑箱依赖:路由规则基于硬编码清单,未动态评估任务实际复杂度

5. 代码可见性受限:默认隐藏代码实现,用户需主动索取才能查看,增加调试摩擦

适合人群

  • 高频调用API、关注成本控制的开发者与自动化运维团队
  • 需要区分「快速响应」与「深度思考」场景的智能体架构师
  • 多任务并行、需会话隔离防崩溃的生产环境
  • 偏好结构化记忆管理(非单一大上下文)的高级用户

常规风险提示

  • 严格遵守「DO NOT」清单:GLM-4.7的编码/分析禁令是硬性安全边界,违规可能导致代码生成错误或逻辑漏洞
  • Cron Jobs特殊处理:定时任务默认走GLM-4.7,但若含推理需求必须手动升级
  • Heartbeat检查陷阱:简单心跳用GLM-4.7,但若夹杂复杂分析需显式路由至GLM-5
  • 文件路径管理sessions_spawn产生的报告需规范命名(YYYY-MM-DD-topic.md),避免覆盖冲突

GLM Autoroute 内容

手动下载zip · 3.7 kB
package.jsonapplication/json
请选择文件