Agent Lens

🔍 AI API 调用追踪与成本优化专家

轻量级 AI API 调用追踪工具,自动分析 token 消耗与成本,支持多模型厂商数据,本地化 SQLite 存储,助力开发者精准掌控 LLM 支出。

收藏
6.8k
安装
2.1k
版本
3.0.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

Agent Lens 是专为 AI 应用开发者设计的 API 调用可观测性工具,提供三种集成方式:

1. 装饰器模式(最简):@lens.track(model="gpt-4o") 自动从 OpenAI 格式响应提取 token 数据
2. 上下文管理器(灵活):with lens.trace(...) as t 手动设置 input/output tokens,适配非标准响应格式

3. 直接记录(手动):lens.record() 完全自定义录入

CLI 提供完整运维能力:stats 概览、cost 成本排序、report --by model 多维度分析、export 数据导出、clean 归档清理。

显著优点

  • 开箱即用pip install + agent-lens demo 5 分钟验证全流程
  • 多厂商覆盖:内置 OpenAI、Anthropic、Google、DeepSeek、Mistral 等主流模型定价
  • 零外部依赖:SQLite 本地存储,无云服务、无数据外泄风险
  • 成本优化闭环:从监控(识别高消费模型)到行动(推荐降级方案如 gpt-4o→gpt-4o-mini 省 90%)
  • 低侵入设计:装饰器/全局快捷函数 track/trace/record 最小化代码改动

局限性与风险

  • 格式依赖:自动 token 提取仅支持 OpenAI 兼容格式,其他厂商需手动赋值
  • 定价偏差:使用公开价目表估算,企业折扣价、批量优惠未计入
  • 长期存储:SQLite 持续膨胀需主动 clean,无自动轮转策略
  • 功能边界:纯成本追踪工具,不含调用重试、熔断、限流等治理功能

适用人群

  • 个人开发者/小团队快速摸底 LLM 支出
  • 多模型混用场景(如同时调用 GPT-4o + Claude + Gemini)的成本归因
  • 需要在本地离线环境运行的隐私敏感型项目

常规风险

| 风险类型 | 等级 | 说明 |
|---------|------|------|
| 数据隐私 | 低 | 本地存储,但数据库文件无加密,多用户服务器需权限隔离 |
| 成本误估 | 中 | 估算值与实际账单可能存在 5-20% 偏差 |
| 数据丢失 | 低 | 无自动备份,误删 `~/.agent-lens/` 即丢失历史 |
| 供应链 | 低 | 依赖 `tiktoken` 等 MIT 许可库,无已知漏洞 |

Agent Lens 内容

手动下载zip · 3.5 kB
skill-card.mdtext/markdown
请选择文件