Agent Lens

🔍 AI 成本透明化,每一 token 尽在掌握

轻量级 LLM 成本追踪工具,支持多供应商 API 调用监控、token 用量分析与成本优化建议,本地 SQLite 存储无需云端。

收藏
4.8k
安装
2.1k
版本
2.17.1
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

Agent Lens 是一款面向 AI 应用开发者的开源成本监控工具,通过三种集成方式追踪 LLM API 调用:装饰器模式(@lens.track)、上下文管理器(with lens.trace)和直接记录(lens.record)。支持 OpenAI、Anthropic、Google、DeepSeek 等主流供应商的定价模型,自动提取 token 用量并生成成本报告。

主要功能模块

  • 实时监控:追踪每次 API 调用的输入/输出 token、延迟、状态码
  • 成本分析:CLI 提供 stats/cost/top 等命令,支持按模型/代理/时间维度聚合
  • 优化建议:内置模型降级策略(如 gpt-4o → gpt-4o-mini 可省 90% 成本)
  • 数据导出:支持 JSON/CSV 格式导出,便于财务对账

显著优点

1. 零侵入集成:装饰器模式仅需 2 行代码即可接入现有代码库
2. 完全本地化:SQLite 存储于 ~/.agent-lens/,无数据出境风险

3. 多供应商统一:内置 10+ 主流模型定价表,自动换算成本

4. 轻量无依赖:核心功能仅依赖标准库 + tiktoken,安装包体积小

局限性与风险

| 局限 | 说明 |
|------|------|
| 自动提取受限 | 仅 OpenAI 兼容格式自动解析 token,其他需手动赋值 |
| 定价静态更新 | 依赖内置价目表,厂商调价后可能产生估算偏差 |
| 单机架构 | 无分布式/多机聚合能力,适合个人/小团队 |
| 数据膨胀 | 长期运行需手动 `clean` 清理,无自动归档策略 |

适合人群

  • 独立开发者:快速诊断"为什么我的 API 账单这么高"
  • AI 应用团队:建立成本基线,优化模型选型决策
  • 预算敏感项目:需要量化不同 prompt 策略的成本影响

常规风险提示

  • 估算非结算:工具显示为列表价估算,实际账单可能含折扣/分层计价
  • token 计数差异:tiktoken 与厂商实际计费可能存在 ±1-2% 偏差
  • 数据隐私:虽本地存储,但数据库文件无加密,共享环境需注意权限

技术可靠性

作者 GitHub 账号 lrg913427-dot 为新注册用户(数字后缀命名模式),项目 Stars 数未知,MIT 协议开源。代码结构清晰但缺乏 CI/CD 与测试覆盖率公开信息,建议生产环境使用前审计数据写入逻辑。

Agent Lens 内容

手动下载zip · 3.7 kB
skill-card.mdtext/markdown
请选择文件