I
inferock-bench
在本機稽核大型語言模型成本、用量與失敗呼叫收據生成
free
最後更新 2026/9/10
關於 inferock-bench
一個在本機執行的 LLM 成本追蹤代理，支援 OpenAI、Anthropic、Gemini Developer API，以及固定的 OpenRouter 端點。它測量經由 localhost 路由的呼叫、寫入本機事件紀錄，並透過隨附的 @inferock/measure grading code 呈現收據，協助稽核 AI/LLM 帳單、測量 Claude 或 GPT 的權杖使用量，以及核對失敗的 API 呼叫是否計費。
適合人群
AI/LLM 應用程式開發者
需要稽核 AI/LLM 帳單的團隊
適合場景
稽核 AI/LLM 帳單
測量 Claude 或 GPT 的權杖使用量
核對失敗的 API 呼叫是否計費
在本機記錄並呈現 API 呼叫收據
功能特性
本機代理路由
將呼叫經由 localhost 路由，並寫入本機事件紀錄。
帳單與用量稽核
用於稽核 AI/LLM 帳單，以及測量 Claude 或 GPT 的權杖使用量。
失敗呼叫計費核對
協助確認失敗的 API 呼叫是否計費。
收據呈現
透過隨附的 @inferock/measure grading code 呈現收據。
優點
- 涵蓋 OpenAI、Anthropic、Gemini Developer API 與固定的 OpenRouter 端點。
- 供應商金鑰僅附加至供應商請求；收據在本機產生。
缺點
- 無法稽核繞過本機代理的流量。
- 無法限制未觀測呼叫的供應商支出，也無法在沒有相符發票時解釋每月帳單。
價格方案
Free
$0本地基準測試
- 本地基準測試使用
* 價格資訊僅供參考，請以inferock-bench官網最新公告為準。
常見問題
無法稽核繞過本機代理的流量。
儲存庫明確說明，沒有相符發票時，無法解釋每月帳單。
工具資訊
開發商inferock-bench
釋出日期2026/9/10
定價模式free