OEE AI Cost Tracker

🐾 AI 成本一目了然

开源AI成本追踪工具,自动记录API调用并生成消费报告,支持智能路由建议降低开销,纯Python标准库实现。

收藏
2.6k
安装
1.2k
版本
1.0.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

核心用法

AI Cost Tracker 是一款轻量级开源工具,用于追踪和优化大语言模型 API 调用成本。用户通过导入 tracker.py 库的 log_usage 函数,在代码中埋点记录每次调用的模型名称、输入/输出 token 数及任务类型,数据以 JSONL 格式持久化存储。随后可通过 report.py 命令行工具生成多维度消费报告,支持按模型、时间段、任务场景聚合分析,并基于内置 pricing.json 价格数据库提供低成本模型替换建议。

显著优点

1. 零依赖轻量化:纯 Python 3.10+ 标准库实现,无需额外安装包,部署门槛极低
2. 隐私优先:数据本地存储,不依赖外部服务,无需 API 密钥

3. 灵活可扩展:JSONL 日志格式便于与其他工具集成,定价数据可手动更新适配新模型

4. 成本优化导向:内置路由建议功能,帮助用户在任务复杂度与模型成本间做权衡

潜在局限

  • 需手动埋点:非自动拦截式监控,要求开发者在调用点显式插入日志代码
  • 定价维护成本:依赖手动更新 pricing.json,若提供商调价或推出新模型可能滞后
  • 无实时预警:仅支持事后分析,缺乏预算阈值实时告警机制
  • 单机架构:未提供多机/多用户场景下的数据聚合方案

适合人群

  • 个人开发者或小团队管理多模型 API 密钥场景
  • 需要精细化成本归因的 AI 应用构建者
  • 希望量化不同模型 ROI 的实验性项目

常规风险

数据存储于本地文件系统,需自行保障日志文件的备份与访问控制;若用于生产环境,建议定期归档历史数据防止单文件过大影响性能。

OEE AI Cost Tracker 内容

手动下载zip · 5.8 kB
pricing.jsonapplication/json
请选择文件