Agent Lens

🧮 AI API 成本监控与优化利器

本地 SQLite 存储的 LLM API 成本追踪工具,支持多模型监控与成本优化建议,适合开发者管控 AI 开支

收藏
5.6k
安装
2.1k
版本
2.18.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

Agent Lens 是一款面向开发者的轻量级 LLM API 监控工具,提供三种集成方式:装饰器模式(@lens.track)适合快速接入现有代码;上下文管理器(with lens.trace)支持手动注入 token 数据;直接记录(lens.record)用于异步或外部系统对接。内置 CLI 提供 statscostrecentexport 等命令,可生成按模型/Agent/状态维度的成本报表。

显著优点

1. 零外部依赖:数据存储于本地 SQLite(~/.agent-lens/traces.db),无需云服务或网络权限,隐私风险极低
2. 开箱即用定价:内置 OpenAI、Anthropic、Google、DeepSeek 等主流厂商的费率表,自动计算预估成本

3. 成本优化工作流:提供从成本分析到降级建议的完整闭环,如 gpt-4o→gpt-4o-mini 可降本 10 倍

4. 开发者体验友好:支持全局快捷函数 record/trace/track,5 行代码即可完成集成

潜在缺点与局限性

  • 非官方 SDK:由个人开发者维护(lrg913427-dot),更新频率和长期支持存疑
  • token 提取限制:仅自动识别 OpenAI 兼容格式(usage.prompt_tokens),Claude/Gemini 等需手动注入
  • 成本估算偏差:使用厂商标价计算,未考虑企业折扣、批量定价或汇率波动
  • 数据孤岛:无云端同步/团队协作功能,多机部署需自行处理数据聚合
  • 缺乏告警机制:无预算阈值自动通知,需配合外部脚本实现

适合人群

  • 个人开发者或小型团队需要快速了解 LLM 开支构成
  • 需要本地隐私优先方案的合规敏感场景
  • 处于成本优化初期的项目,需要数据支撑模型选型决策

常规风险

  • 数据增长风险:SQLite 数据库随时间膨胀,需定期执行 agent-lens clean 维护
  • 版本兼容性:MIT 授权但版本迭代(当前 v2.17.0)可能引入 API 变更
  • 误报风险:手动注入 token 时的人为统计错误会影响成本分析准确性

Agent Lens 内容

手动下载zip · 3.7 kB
skill-card.mdtext/markdown
请选择文件