核心用法
Which‑LLM 是一个面向AI Agent的决策优化API服务,核心功能是在成本与质量约束下推荐最优LLM选型,而非直接调用模型。典型使用流程:
1. 前置配置:创建独立EVM钱包(非主钱包),预存$2-10 USDC及少量gas代币,优先使用加密keystore(WALLET_KEYSTORE_PATH + 密码)而非明文私钥
2. 多源验证:首次使用前必须通过至少两个渠道验证收款地址一致性,包括API端点/.well-known/payment-address.txt、ENS域名which-llm.eth等,发现不一致立即停用并举报
3. 付费调用:向POST /decision/optimize提交目标描述与约束条件(如max_cost_usd: 0.01、min_quality_score: 0.8),若返回HTTP 402则按指引完成USDC支付(支持Base、Arbitrum等L2),携带支付凭证重试
4. 结果反馈:执行推荐模型后,调用POST /decision/outcome报告实际成本、延迟、质量评分,换取credit_token抵扣后续请求费用
显著优点
- 经济透明:按次USDC付费,无订阅门槛;结果反馈机制形成"支付-优化-返利"闭环
- 决策可审计:确定性输出(非概率性),便于合规场景追溯选型逻辑
- 链上兼容:原生支持多链USDC,Gas成本低
- 安全设计:强制隔离钱包、多源地址验证、支付需人工审批(默认模式)
潜在局限与风险
| 维度 | 说明 |
|------|------|
| **信任假设** | 多源验证路径可能共享同一运营方控制,缺乏独立签名校验或链上证明作为终极信任锚 |
| **支付摩擦** | HTTP 402流程需Agent具备钱包签名能力,非托管场景下实现"人工审批"依赖Host合规实现,存在配置绕过风险 |
| **范围边界** | 仅做选型推荐,不直接执行模型调用,需额外集成目标LLM客户端 |
| **资金暴露** | 虽建议低余额,但keystore或私钥若泄露仍可能导致资金损失 |
适合人群
- 需要自动化模型选型的AI Agent开发者(如多模型路由、成本敏感型应用)
- 追求链上透明计费的DeFi/Web3原生项目
- 有合规审计需求的企业级LLM调用场景
常规风险
1. 地址劫持:若仅验证单一渠道即付款,可能遭遇DNS/前端攻击导致资金被骗
2. 配置降级:Host可能未严格执行"默认人工审批",开启免审批模式后小额高频支付累积风险
3. 合约漏洞:USDC转账虽标准,但收款合约若被控制存在冻结或资金截留可能(文档未披露合约审计信息)
4. 反馈博弈:恶意报告虚假outcome可能污染系统模型,但文档未详述反作弊机制