I

inferock-bench

本地审计大模型成本、用量与失败调用收据生成

free
最后更新 2026/9/10
访问网站

关于 inferock-bench

一个在本地运行的 LLM 成本追踪代理，支持 OpenAI、Anthropic、Gemini Developer API，以及固定的 OpenRouter 端点。它测量经 localhost 路由的调用，写入本地事件记录，并通过随附的 @inferock/measure grading code 呈现收据，帮助审计 AI/LLM 账单、测量 Claude 或 GPT 的 token 使用量，并核对失败 API 调用是否计费。

适合人群

AI/LLM 应用开发者
需要审计 AI/LLM 账单的团队

适合场景

审计 AI/LLM 账单

测量 Claude 或 GPT 的 token 使用量

核对失败 API 调用是否计费

在本地记录并呈现 API 调用收据

功能特性

本地代理路由

将调用经 localhost 路由并写入本地事件记录。

账单与用量审计

用于审计 AI/LLM 账单和测量 Claude 或 GPT 的 token 使用量。

失败调用计费核对

帮助回答失败 API 调用是否计费。

收据呈现

通过随附的 @inferock/measure grading code 呈现收据。

优点

  • 覆盖 OpenAI、Anthropic、Gemini Developer API 和固定 OpenRouter 端点。
  • Provider 密钥仅附加到提供商请求，收据在本地生成。

缺点

  • 无法审计绕过本地代理的流量。
  • 无法限制未观测调用的提供商支出，也无法在没有匹配发票时解释月度账单。

价格方案

Free

$0local benchmark
  • 本地基准测试使用

* 价格信息仅供参考，请以inferock-bench官网最新公告为准。

常见问题

不能审计绕过本地代理的流量。
仓库明确说明，没有匹配发票时无法解释月度账单。

工具信息

开发商inferock-bench
发布日期2026/9/10
定价模式free
访问网站