Soup CLI
CLI متكامل للتدريب اللاحق للنماذج وتقييمها وبوابات إصدارها
نبذة عن Soup CLI
يجمع Soup CLI سير عمل التدريب اللاحق في أداة سطر أوامر واحدة: يفحص البيانات قبل التدريب، ويختار الطرق وفق القواعد وينشئ الإعداد، ويشتق التقييمات من البيانات المملوكة، ويطبق البوابة عند كل حفظ، ويصحح اختراق المكافأة ذاتياً أثناء التشغيل. يدعم 23 طريقة و163 وصفة و17 صيغة تكميم؛ ويمكن بث نموذج أساسي مجمد طبقة تلو الأخرى من ذاكرة CPU أو NVMe إلى ذاكرة GPU وتكميمه إلى 4-bit. ينشئ soup eval مجموعات تقييم مثبتة بـ SHA، بينما يرفض soup ship النماذج التي تتحسن نتيجتها في المهام لكن تتضرر معرفتها العامة.
الأنسب لـ
أفضل حالات الاستخدام
فحص بيانات التدريب وإنشاء الإعداد قبله
ضبط النماذج على أجهزة محدودة الذاكرة
بناء تقييمات دون اتصال من البيانات المملوكة
التحقق من المعرفة العامة للنموذج قبل الإصدار
الميزات
فحص البيانات وإنشاء الإعداد
يفحص البيانات قبل التدريب، ويختار الطرق وفق القواعد، وينشئ إعداد التدريب.
البث عبر الطبقات والتكميم
يبث النموذج الأساسي المجمد من ذاكرة CPU أو NVMe، طبقة مفكك واحدة في كل مرة، مع دعم التكميم 4-bit.
اشتقاق التقييم من البيانات المملوكة
يشتق مجموعات تقييم مثبتة بـ SHA من البيانات المملوكة ويطبق البوابة عند كل حفظ.
بوابة إصدار النموذج
يسجل soup ship النتائج في 8 مجموعات غير متصلة بالإنترنت، ويرفض النماذج التي تتحسن نتيجتها في المهام بينما تتضرر معرفتها العامة.
المزايا
- مجاني ومرخص بموجب Apache-2.0
- يعمل دون اتصال بالإنترنت ومن دون تسجيل أو بطاقة ائتمان
- يغطي طرقاً ووصفات وصيغ تكميم متعددة
- يمكن تقديم أدلة بوابة الإصدار
القيود
- تقرأ عملية التنفيذ المرجعية للبث عبر الطبقات الطبقات بنحو 1.52 مرة
- لا توجد بيانات tok/s مقاسة لخسارة التفضيل
خطط التسعير
Free
- ترخيص Apache-2.0
- تشغيل دون اتصال بالإنترنت
- لا يتطلب تسجيلاً
- لا يتطلب بطاقة ائتمان
* معلومات التسعير للاطلاع فقط. يُرجى الرجوع إلى أحدث إعلان على الموقع الرسمي لـ Soup CLI.