Swarm

🐝 200x cheaper 并行 AI 任务执行引擎

基于 Gemini Flash 的并行任务执行框架,将 LLM 工作负载分发至多节点处理,成本降低 200 倍,速度提升 157 倍。

收藏
16.6k
安装
3.6k
版本
1.0.2
CLS 安全性认证2026-05-21
点击查看完整报告 >

使用说明

核心用法

Swarm 是一款面向 AI Agent 的并行任务执行框架,通过将 LLM 工作负载分发至多个廉价 worker(Gemini Flash)节点,替代昂贵的顺序 API 调用。核心操作包括启动守护进程 (swarm start)、并行执行多提示词 (swarm parallel) 以及性能基准测试 (swarm bench)。

用户需配置 GEMINI_API_KEY 环境变量,支持单节点本地运行或多节点分布式部署。配置文件位于 ~/.config/clawdbot/node-scaling.yaml,可调节最大节点数、并发 API 数、提供商模型及日消费上限等参数。

显著优点

  • 极致成本效益:相比 Claude Opus 顺序处理,成本降低 200 倍(600 任务约 $0.045 vs $9.00)
  • 超高吞吐量:单节点可达 35 tasks/sec,6 节点分布式部署可达 181 tasks/sec
  • 极速响应:600 任务分布式处理仅需 3.8 秒,对比顺序处理约 10 分钟
  • 线性扩展:每增加一个节点约提升 30 tasks/sec,支持最多 20 节点
  • 灵活部署:支持本地文件协调,可选 Supabase 集成,无强制云服务依赖

潜在缺点与局限性

  • 模型锁定:当前主要优化针对 Gemini Flash,其他提供商支持有限
  • Node.js 依赖:需要本地 Node 环境,对非技术用户有门槛
  • 并行任务限制:仅适用于独立、可并行的任务,复杂依赖链工作流支持不足
  • API 密钥管理:用户需自行管理多节点的 API 密钥配置
  • 生态早期:v1.0.2 版本,功能集相对专注,高级编排功能待完善

适合人群

  • 需要批量处理独立 LLM 任务的研究人员、开发者
  • 追求极致成本控制的 AI Agent 构建者
  • 拥有多机器资源、希望线性扩展吞吐量的团队
  • 频繁执行多 URL 获取、批量文档分析、对比研究的场景

常规风险

  • API 配额消耗:高并发场景下可能快速耗尽 API 配额,需配置 max_daily_spend 限制
  • 网络稳定性:分布式部署依赖节点间网络连通,弱网环境可能影响协调
  • 数据隐私:任务内容会发送至配置的 LLM 提供商,敏感数据需评估合规性
  • 单点故障:本地文件协调模式下,主节点故障可能影响任务分发
  • 版本兼容性:MIT 许可的开源项目,更新可能引入 breaking changes

安全解读

核心用法

Swarm 是一款面向 AI 工作流的并行任务执行框架,通过启动本地守护进程将多个 LLM 请求分发至廉价模型(Gemini Flash)同时处理。核心命令包括 swarm start 启动服务、swarm parallel "Q1" "Q2" "Q3" 批量执行提示词,以及 swarm bench --tasks 30 压测吞吐量。支持多节点部署,每台机器额外贡献约 30 任务/秒的线性扩展能力。

显著优点

  • 极致性价比:对比 Claude Opus 串行方案,600 任务成本从 $9 降至 $0.045,速度提升 157 倍
  • 架构轻量:单文件 Node.js 实现,零外部依赖即可运行,配置通过 YAML 文件管理
  • 多厂商兼容:原生支持 Google Gemini、OpenAI、Anthropic、Groq 等主流 API
  • 安全设计完善:内置提示词注入检测、凭证脱敏输出、输入验证等防护机制

局限性与风险

  • 来源可信度 T3:个人开发者项目(Chair4ce),非官方或知名组织维护,长期更新存在不确定性
  • 模型能力边界:Gemini Flash 等廉价模型在复杂推理、长文本理解上逊于顶级模型,需权衡质量与成本
  • 网络依赖集中:所有任务依赖外部 LLM API,存在供应商限流、区域可用性等风险
  • 本地资源占用:Node.js 常驻进程及 Playwright 等依赖对边缘设备有一定压力

适合人群

  • 需要批量处理独立查询的研究者(3+ 并行任务场景)
  • 预算敏感但可接受轻量模型输出的开发者
  • 已拥有多节点基础设施、希望线性扩展吞吐量的团队
  • 对 API 密钥管理有基本安全意识的技术用户

常规风险提示

API 密钥通过环境变量读取,需确保文件权限 600 避免泄露;企业环境建议配置网络出口白名单限制仅能访问必要端点。虽通过 CLS A 级安全认证,但 T3 来源属性意味着建议持续关注项目维护状态,生产环境使用前宜进行额外代码审查。

Swarm 内容

bin文件夹
docker文件夹
coordinator文件夹
worker文件夹
docs文件夹
examples文件夹
lib文件夹
providers文件夹
scripts文件夹
skill文件夹
test文件夹
手动下载zip · 100.9 kB
diagnose.jstext/javascript
请选择文件