CostHQ

💰 企业级AI成本管控与SOC2审计

企业级AI会话成本追踪工具,支持预算控制、本地模型计费与SOC2合规审计,提供Web仪表盘与语义缓存代理降本增效。

收藏
11.9k
安装
3.7k
版本
4.0.0
CLS 安全扫描中
预计需要 3 分钟...

使用说明

CostHQ 综合评估

核心用法

CostHQ 是一款专为AI Agent工作流设计的会话成本追踪与审计工具。通过 cs CLI 命令集,开发者可在多步骤任务全程实现精细化成本管控:

  • 会话生命周期管理cs start 开启追踪(支持 --close-stale 清理崩溃会话),cs end 结束并生成摘要
  • 多维度成本记录:支持云端模型(OpenAI、Anthropic等)按token计费,以及Ollama/vLLM等本地模型按GPU时长计费
  • 语义缓存代理:内置代理服务器拦截重复请求,通过 OPENAI_BASE_URL 路由实现成本节省
  • 企业级Web仪表盘:提供KPI概览、实时命令中心、SOC2合规审计链查看、团队身份管理等功能

显著优点

1. 企业合规能力突出:v3.3.0+ 内置SOC2审计所需的防篡改加密哈希链,自动记录会话启停、数据重置、AI调用等关键事件
2. 本地模型生态完整:突破纯云端计费局限,支持自托管模型按计算时长($GPU/hr)折算成本

3. Agent原生设计:所有命令支持 --json 结构化输出,完美适配自动化工作流

4. 主动预算防御:可在任务执行前通过 cs status 预判成本,避免预算超支

潜在局限

  • 依赖原生编译模块:SQLite组件需要C/C++构建工具链,Windows/macOS/Linux各平台配置门槛不同
  • Node.js版本限制:要求18+版本,旧环境需升级
  • 企业功能闭源:SOC2审计日志、团队身份管理等核心功能需Pro授权
  • 数据本地存储:会话数据库默认存于 ~/.costhq/sessions.db,多机协作需额外同步机制

适合人群

  • AI工程团队:需要量化Agent运行成本、优化模型选型策略
  • 合规敏感型企业:筹备SOC2认证、需完整AI系统审计追踪
  • 混合架构用户:同时使用云端API与本地Ollama/vLLM部署
  • 成本优化驱动型组织:希望借助语义缓存和精细计费降低AI支出

常规风险

  • 数据完整性风险--close-stale 参数若使用不当可能误终止有效会话
  • 审计链断裂:非Enterprise版本无法保证日志防篡改特性
  • 缓存代理配置:错误路由 OPENAI_BASE_URL 可能导致请求失败或缓存未命中
  • 本地模型计费偏差:GPU时长到成本的换算依赖用户自行维护的费率配置

CostHQ 内容

手动下载zip · 4.1 kB
skill-card.mdtext/markdown
请选择文件