IdleClaw

🦀 共享闲置算力,零成本 AI 推理

共享闲置 Ollama GPU/CPU 算力或借用社区资源,无需 API 密钥的分布式推理网络

收藏
4.9k
安装
979
版本
1.0.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

IdleClaw 综合评估

IdleClaw 是一个基于 Ollama 的分布式推理网络,采用「贡献者-消费者」双模式设计。用户既可将本地闲置算力开放给社区使用,也可在 API 额度耗尽时调用社区节点完成推理任务。

核心用法

技能提供三种运行模式:

  • Contribute 模式:将本地 Ollama 实例注册为网络节点,对外提供模型推理服务
  • Consume 模式:向社区网络发送聊天请求,流式获取推理结果
  • Status 模式:查询网络健康状态,包括在线节点数和可用模型列表

配置通过环境变量完成,支持自定义路由服务器和本地 Ollama 端点。

显著优点

  • 零成本门槛:无需注册账号、API 密钥或付费 credits
  • 资源复用:充分利用闲置 GPU/CPU 算力,降低本地 AI 部署成本
  • 隐私友好:无持久化存储、无遥测收集,会话结束后数据即时丢弃
  • 输入严格校验:模型名称和 URL 均经过白名单过滤,无命令注入风险

潜在局限

  • 网络依赖:Consume 模式完全依赖外部路由服务器 (api.idleclaw.com) 的可用性
  • 性能波动:社区节点的推理速度和质量无法保证,取决于贡献者的硬件配置
  • 模型一致性:不同节点可能运行同名模型的不同版本,输出存在差异风险
  • 无身份认证:开放网络缺乏访问控制,可能面临滥用或恶意输入

适合人群

  • 拥有闲置算力且愿意共享的 Ollama 用户
  • API 预算有限、需要临时 fallback 方案开发者
  • 注重隐私、希望避免向商业 API 发送数据的敏感场景用户

常规风险

  • 中间人攻击:WebSocket/HTTP 通信未提及 TLS 强制校验细节
  • 数据残留:虽声称无持久化,但传输过程中的日志留存策略不透明
  • 模型安全:依赖贡献者本地模型的完整性,存在篡改或植入后门的可能
  • 合规风险:共享算力可能涉及数据跨境传输,需确认当地法规允许

IdleClaw 内容

scripts文件夹
手动下载zip · 8.3 kB
config.pytext/plain
请选择文件