Agent Lens

🔍 AI API 成本监控与优化专家

开源AI API监控工具,自动追踪Token消耗与成本,支持多Provider实时分析与优化建议。

收藏
7.7k
安装
2.1k
版本
2.17.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

Agent Lens 综合评估

Agent Lens 是一款专为 AI 应用开发者设计的成本可观测性工具,核心能力聚焦于 LLM API 调用的全链路追踪与成本优化。该工具通过三种灵活的集成方式(装饰器、上下文管理器、直接记录)捕获每一次 API 调用的输入/输出 Token 数、延迟及模型信息,并内置覆盖 OpenAI、Anthropic、Google、DeepSeek 等主流厂商的定价数据,实现成本的实时估算与可视化分析。

核心用法

开发者可通过 pip install 快速部署,使用 agent-lens stats 查看全局统计,agent-lens cost 识别高消费模型,agent-lens report --by model 进行多维度下钻。Python SDK 提供 @track 装饰器实现零侵入埋点,tiktoken 集成支持调用前 Token 预计算,帮助用户在发送请求前预估成本。

显著优点

  • 多 Provider 支持:内置 10+ 主流模型定价,未知模型亦可追踪(成本显示为"—")
  • 零外部依赖:纯 SQLite 本地存储(~/.agent-lens/traces.db),无云服务泄露风险
  • 成本优化闭环:自动识别 GPT-4o → GPT-4o-mini(10 倍差价)等降级替代方案
  • CLI 生态完整:支持 JSON/CSV 导出、历史清理、演示数据生成等运维操作

潜在局限

  • 格式耦合:Token 自动提取仅适配 OpenAI 标准响应格式,Claude/Gemini 等需手动赋值
  • 定价偏差:使用厂商标价计算,企业折扣协议价与实际账单可能存在差距
  • 存储管理:长期运行数据库持续增长,需手动执行 clean 命令维护

适合人群

  • 多模型并行的高频 API 用户(月均调用 >1 万次)
  • 需要向团队/客户展示 Token 成本的 SaaS 开发者
  • 处于成本优化阶段的 AI Agent 项目负责人

常规风险

  • 隐私合规:SQLite 文件默认存储于用户主目录,共享服务器需注意权限隔离
  • 估算误差:流式响应、特殊计费项(如推理 Token)可能未被完全覆盖
  • 版本维护:定价数据依赖社区更新,新型号可能存在滞后

总体而言,Agent Lens 是 AI 工程化链路中成本治理的有效补充,适合作为 Langfuse、Helicone 等商业方案的开源轻量替代。

Agent Lens 内容

手动下载zip · 3.6 kB
skill-card.mdtext/markdown
请选择文件