核心用法
Agent Lens 是一款专为AI Agent设计的LLM API监控与成本分析工具,支持OpenAI、Anthropic、Google、DeepSeek等主流厂商。提供三种集成方式:装饰器模式(最简便,自动提取Token)、上下文管理器(灵活手动控制)、直接记录(完全自定义)。CLI工具集包含统计概览、成本排行、最近调用、导出报表等功能。
显著优点
1. 零侵入集成:通过@track装饰器实现自动埋点,无需修改业务代码
2. 多厂商支持:内置GPT-4o、Claude 3.5/4、Gemini 2.x、DeepSeek等20+模型定价数据
3. 本地优先:SQLite存储于~/.agent-lens/,无云端依赖,数据隐私可控
4. 成本优化闭环:从监控→分析→建议替代方案(如gpt-4o→gpt-4o-mini可降本10倍)
5. 灵活扩展:支持手动Token注入、自定义埋点、全局快捷函数
潜在局限
- 自动Token提取仅兼容OpenAI格式响应,非标准API需手动赋值
- 成本估算采用官方标价,企业折扣场景存在偏差
- 长期运行需手动清理数据库,无自动归档机制
- 缺少实时告警功能,仅支持事后分析
适合人群
- 多Agent系统的运维开发者
- 需要控制LLM预算的中小团队
- 进行Prompt成本A/B测试的AI工程师
- 需向管理层汇报API支出的技术负责人
常规风险
- 数据累积风险:SQLite无自动清理,长期运行可能占用磁盘空间
- 成本估算误差:促销价/批量折扣未纳入计算,仅供参考
- Token计数偏差:部分模型使用tiktoken近似值,非官方精确保留