Banana
استضافة لاستدلال نماذج الذكاء الاصطناعي على وحدات GPU مع التوسع التلقائي وأدوات النشر وتحليلات تشغيلية مدمجة.
نبذة عن Banana
Banana هي منصة لاستضافة الاستدلال مخصصة لفرق الذكاء الاصطناعي التي تشغّل أعباء عمل نماذج عالية الإنتاجية على وحدات GPU. تضبط المنصة نسخ GPU تلقائيًا مع تغير الطلب، وتعتمد تسعيرًا يمرر تكلفة الحوسبة كما هي، مع الجمع بين تكاليف البنية التحتية ورسوم ثابتة للمنصة. تجمع المنصة النشر والتشغيل في سير عمل واحد من خلال التكامل مع GitHub وCI/CD وواجهة CLI وعمليات النشر المتدرج والتتبع والسجلات القابلة للبحث وتحليلات الطلبات وتحليلات الأعمال. يمكن للفرق فحص حركة البيانات وزمن الاستجابة والأخطاء ونسبة الاستخدام واستعمال نقاط النهاية والإنفاق، بينما تدعم API مفتوحة وحزم SDK وواجهة CLI أتمتة النشر. تستخدم Banana أيضًا إطار Potassium HTTP المفتوح المصدر لإنشاء واجهات خلفية مخصصة ضمن حاويات، مما يتيح للمطورين استخدام مكتبات مثل PyTorch وTensorFlow وHugging Face Transformers. تدعم خطة الفريق المدرجة ما يصل إلى 10 أعضاء و5 مشاريع و50 وحدة GPU تعمل بالتوازي. أما المؤسسات التي تحتاج إلى SAML SSO أو حدود أكبر لوحدات GPU أو قوائم انتظار قابلة للتخصيص أو وحدات GPU لمسار البناء أو دعم مخصص، فتُوجَّه إلى خطة المؤسسات.
الميزات
توسيع نطاق استدلال النماذج
شغّل خدمات استدلال عالية الإنتاجية مع ضبط نسخ GPU تلقائيًا وفق تغير الطلب على الطلبات.
تشغيل نقاط النهاية الإنتاجية
راقب حركة البيانات وزمن الاستجابة والأخطاء ونسبة الاستخدام واستعمال نقاط النهاية والإنفاق من واجهات التشغيل في المنصة.
أتمتة مسارات عمل النشر
استخدم API المفتوحة وحزم SDK وواجهة CLI والتكامل مع GitHub وCI/CD وعمليات نشر الفروع والبيئات لإدارة الإصدارات.
إنشاء واجهات خلفية مخصصة للنماذج
ضع تطبيقات Potassium التي تستخدم مكتبات مثل PyTorch وTensorFlow وHugging Face Transformers في حاويات.
المزايا
- يمكن للتوسع التلقائي لنسخ GPU مواءمة السعة مع تغير الطلب على الطلبات.
- يقلل GitHub وCI/CD وCLI والنشر المتدرج والسجلات والتتبع من تشتت سير العمل.
- تربط تحليلات الطلبات والأعمال نشاط نقاط النهاية بالأداء والإنفاق.
القيود
- تبلغ تكلفة خطة الفريق $1200 شهريًا قبل إضافة رسوم الحوسبة.
- تقتصر خطة الفريق على 10 أعضاء و5 مشاريع و50 وحدة GPU تعمل بالتوازي.
- تتطلب ميزات SAML SSO وحدود GPU الأعلى وقوائم الانتظار القابلة للتخصيص والدعم المخصص خطة المؤسسات.
خطط التسعير
الفريق
- 10 أعضاء في الفريق
- 5 مشاريع
- 50 وحدة GPU متوازية كحد أقصى
- أنواع GPU مخصصة
- التسجيل والبحث
- التوسع التلقائي وفق نسبة الاستخدام
- تحليلات الطلبات
- تحليلات الأعمال
- عمليات نشر الفروع
- البيئات
المؤسسات
- كل ما تتضمنه خطة الفريق
- SAML SSO
- API للأتمتة
- حدود أعلى لوحدات GPU المتوازية
- قوائم انتظار استدلال قابلة للتخصيص
- وحدات GPU لمسار البناء
- دعم مخصص
* معلومات التسعير للاطلاع فقط. يُرجى الرجوع إلى أحدث إعلان على الموقع الرسمي لـ Banana.