I
inferock-bench
LLM 비용, 사용량 및 실패 호출 영수증의 로컬 감사·생성
free
최종 업데이트 2026. 9. 10.
inferock-bench 소개
로컬에서 실행되는 LLM 비용 추적 프록시로, OpenAI, Anthropic, Gemini Developer API 및 고정된 OpenRouter 엔드포인트를 지원합니다. localhost를 통해 라우팅된 호출을 측정하고 로컬 이벤트 기록에 쓰며, 포함된 @inferock/measure grading code로 영수증을 표시하여 AI/LLM 청구서 감사, Claude 또는 GPT 토큰 사용량 측정, 실패한 API 호출의 과금 여부 확인을 돕습니다.
적합한 사용자
AI/LLM 애플리케이션 개발자
AI/LLM 청구서를 감사해야 하는 팀
적합한 활용 장면
AI/LLM 청구서 감사
Claude 또는 GPT 토큰 사용량 측정
실패한 API 호출의 과금 여부 확인
API 호출 영수증을 로컬에 기록하고 표시
기능
로컬 프록시 라우팅
호출을 localhost를 통해 라우팅하고 로컬 이벤트 기록에 씁니다.
청구 및 사용량 감사
AI/LLM 청구서를 감사하고 Claude 또는 GPT 토큰 사용량을 측정하는 데 사용합니다.
실패 호출 과금 확인
실패한 API 호출에 요금이 부과되는지 확인하는 데 도움이 됩니다.
영수증 표시
포함된 @inferock/measure grading code로 영수증을 표시합니다.
장점
- OpenAI, Anthropic, Gemini Developer API 및 고정된 OpenRouter 엔드포인트를 지원합니다.
- 공급자 키는 공급자 요청에만 추가되며 영수증은 로컬에서 생성됩니다.
단점
- 로컬 프록시를 우회하는 트래픽은 감사할 수 없습니다.
- 관측되지 않은 호출의 공급자 지출을 제한할 수 없으며 일치하는 인보이스가 없으면 월별 청구액을 설명할 수 없습니다.
요금제
Free
$0로컬 벤치마크
- 로컬 벤치마크 사용
* 가격 정보는 참고용입니다. 최신 안내는 inferock-bench 공식 웹사이트를 확인하세요.
자주 묻는 질문
로컬 프록시를 우회하는 트래픽은 감사할 수 없습니다.
저장소에는 일치하는 인보이스가 없으면 월별 청구액을 설명할 수 없다고 명시되어 있습니다.
도구 정보
개발사inferock-bench
출시일2026. 9. 10.
가격free