Which LLM? Deterministic model selection for agents

✨ Which LLM? Deterministic model selection for agents

Which LLM? Deterministic model selection for agents

收藏
9.5k
安装
2.5k
版本
1.0.18
CLS 安全性认证2026-08-09
点击查看完整报告 >

使用说明

安全解读

核心用法

Decision Economic Optimizer 是一个纯文档型 API 指导技能,用于调用 Which-LLM 的决策优化服务。该技能本身不执行 LLM 推理,而是作为 Agent 与 Which-LLM API 之间的桥梁,帮助用户在多模型生态中做出最优选择。

使用流程分为三步:首先通过 GET /capabilitiesGET /pricing 探测当前支持的约束条件和定价信息;然后调用 POST /decision/optimize 提交任务目标与约束条件(如最低质量分数、最高成本预算、输入/输出 token 数量等),获取推荐的模型和备用方案;最后在执行完推荐模型后,通过 POST /decision/outcome 上报实际执行结果,获得信用积分用于后续请求抵扣。

付费请求采用 HTTP 402 状态码机制,Agent 需持有 WALLET_CREDENTIALS 凭证,通过外部加密钱包完成 USDC 支付(支持 Base、Ethereum、Arbitrum、Optimism、Avalanche 等多链),支付验证通过后方可获得决策结果。

显著优点

1. 经济性优化:在明确的质量门槛下自动选择成本最低的模型,直接降低 AI 运营成本
2. 确定性决策:告别黑箱式模型选择,所有推荐附带可审计的决策元数据和解释性字段

3. 收益回馈机制:通过上报真实执行结果赚取信用积分,形成"使用-反馈-抵扣"的正向循环

4. 多链支付灵活:支持主流 L2 网络的 USDC 支付,降低 gas 成本

5. 零代码依赖:纯 API 文档指导,无第三方依赖引入,部署风险极低

6. 可信来源保障:由 Zapkid 组织维护,通过六维安全检测,符合 GDPR/CCPA 合规要求

潜在缺点与局限性

1. 支付门槛:必须持有加密钱包并完成链上支付才能使用核心优化功能,对非 Web3 用户形成准入障碍
2. 外部依赖单一:功能完全依赖 api.which-llm.com 的服务可用性,若服务端宕机或限流,Agent 将失去决策能力

3. 学习曲线陡峭:需理解 HTTP 402 支付流程、区块链交易确认、信用积分机制等复合概念

4. 约束灵活性有限:当前仅支持成本-质量二元约束,暂不支持延迟、碳足迹、地域合规等更细粒度要求

5. 无离线能力:必须联网调用 API,无法在内网或离线环境使用

6. 收益不确定性:信用积分价值和有效期未在文档中明确披露

适合的目标群体

  • AI 应用开发者:需要为产品动态选择最优模型以降低运营成本
  • 多模型编排平台:构建 Router 或 Gateway 时需要确定性选型逻辑
  • 成本敏感型企业:有明确 AI 预算管控需求,追求性价比最大化
  • Web3 原生团队:已具备加密钱包基础设施,对链上支付流程熟悉
  • 自动化 Agent 开发者:需要可编程、可审计的模型决策能力

不适合:无加密货币经验、完全离线环境、或追求极致简化接入的用户。

使用风险

1. 性能风险:API 调用增加决策延迟,在高并发场景下可能成为瓶颈;建议缓存 decision_id 复用结果
2. 支付失败风险:链上交易可能因 gas 波动、网络拥堵失败,需实现幂等重试机制

3. 凭证泄露风险WALLET_CREDENTIALS 为敏感凭证,若配置不当可能导致资金损失

4. 模型过时风险:API 返回的推荐基于 Which-LLM 内部评估,可能与实际模型版本迭代存在时差

5. 信用积分失效风险:未明确披露的有效期规则可能导致积累的积分无法使用

6. 合规边缘风险:尽管 Skill 本身合规,但加密支付环节可能触发部分地区金融监管要求

建议生产环境使用前,先在测试网验证完整支付-决策-上报流程,并建立本地降级策略应对 API 不可用情况。

Which LLM? Deterministic model selection for agents 内容

手动下载zip · 6.2 kB
skill-card.mdtext/markdown
请选择文件