inferock-bench
تدقيق محلي لتكاليف LLM واستخدامه وإنشاء إيصالات الاستدعاءات الفاشلة
نبذة عن inferock-bench
وكيل وكيل لتتبع تكاليف LLM يعمل محليًا ويدعم OpenAI وAnthropic وGemini Developer API ونقاط نهاية OpenRouter الثابتة. يقيس الاستدعاءات التي يتم توجيهها عبر localhost، ويسجل أحداثًا محلية، ويعرض الإيصالات باستخدام @inferock/measure grading code المرفق، مما يساعد على تدقيق فواتير AI/LLM وقياس استخدام رموز Claude أو GPT والتحقق مما إذا كانت استدعاءات API الفاشلة تُحتسب.
الأنسب لـ
أفضل حالات الاستخدام
تدقيق فواتير AI/LLM
قياس استخدام رموز Claude أو GPT
التحقق مما إذا كانت استدعاءات API الفاشلة تُحتسب
تسجيل إيصالات استدعاءات API وعرضها محليًا
الميزات
توجيه عبر الوكيل المحلي
يوجه الاستدعاءات عبر localhost ويسجلها في سجل أحداث محلي.
تدقيق الفوترة والاستخدام
لتدقيق فواتير AI/LLM وقياس استخدام رموز Claude أو GPT.
التحقق من فوترة الاستدعاءات الفاشلة
يساعد على تحديد ما إذا كانت استدعاءات API الفاشلة تُحتسب.
عرض الإيصالات
يعرض الإيصالات باستخدام @inferock/measure grading code المرفق.
المزايا
- يدعم OpenAI وAnthropic وGemini Developer API ونقاط نهاية OpenRouter الثابتة.
- تُرفق مفاتيح المزود بطلبات المزود فقط؛ وتُنشأ الإيصالات محليًا.
القيود
- لا يمكن تدقيق حركة المرور التي تتجاوز الوكيل المحلي.
- لا يمكن تقييد إنفاق المزود على الاستدعاءات غير المرصودة أو تفسير الفواتير الشهرية من دون فاتورة مطابقة.
خطط التسعير
Free
- الاستخدام للمعيار المحلي
* معلومات التسعير للاطلاع فقط. يُرجى الرجوع إلى أحدث إعلان على الموقع الرسمي لـ inferock-bench.