核心用法
Agent Lens 是专为 AI 应用开发者设计的 API 调用可观测性工具,提供三种集成方式:
1. 装饰器模式(最简):@lens.track(model="gpt-4o") 自动从 OpenAI 格式响应提取 token 数据
2. 上下文管理器(灵活):with lens.trace(...) as t 手动设置 input/output tokens,适配非标准响应格式
3. 直接记录(手动):lens.record() 完全自定义录入
CLI 提供完整运维能力:stats 概览、cost 成本排序、report --by model 多维度分析、export 数据导出、clean 归档清理。
显著优点
- 开箱即用:
pip install+agent-lens demo5 分钟验证全流程 - 多厂商覆盖:内置 OpenAI、Anthropic、Google、DeepSeek、Mistral 等主流模型定价
- 零外部依赖:SQLite 本地存储,无云服务、无数据外泄风险
- 成本优化闭环:从监控(识别高消费模型)到行动(推荐降级方案如 gpt-4o→gpt-4o-mini 省 90%)
- 低侵入设计:装饰器/全局快捷函数
track/trace/record最小化代码改动
局限性与风险
- 格式依赖:自动 token 提取仅支持 OpenAI 兼容格式,其他厂商需手动赋值
- 定价偏差:使用公开价目表估算,企业折扣价、批量优惠未计入
- 长期存储:SQLite 持续膨胀需主动
clean,无自动轮转策略 - 功能边界:纯成本追踪工具,不含调用重试、熔断、限流等治理功能
适用人群
- 个人开发者/小团队快速摸底 LLM 支出
- 多模型混用场景(如同时调用 GPT-4o + Claude + Gemini)的成本归因
- 需要在本地离线环境运行的隐私敏感型项目
常规风险
| 风险类型 | 等级 | 说明 |
|---------|------|------|
| 数据隐私 | 低 | 本地存储,但数据库文件无加密,多用户服务器需权限隔离 |
| 成本误估 | 中 | 估算值与实际账单可能存在 5-20% 偏差 |
| 数据丢失 | 低 | 无自动备份,误删 `~/.agent-lens/` 即丢失历史 |
| 供应链 | 低 | 依赖 `tiktoken` 等 MIT 许可库,无已知漏洞 |