Cerebrium
Serverlose CPU- und GPU-Infrastruktur zur Bereitstellung und automatischen Skalierung von Echtzeit-KI-Workloads.
Über Cerebrium
Cerebrium ist eine serverlose KI-Infrastruktur für die Bereitstellung von Sprachagenten, großen Sprachmodellen, Bild- und Videopipelines sowie anderen containerisierten Workloads auf CPU- und GPU-Rechenressourcen. Teams können Python-Anwendungen oder eigene Dockerfiles einbringen, Frameworks wie vLLM, SGLang oder TensorRT auswählen und Workloads skalieren, ohne Kubernetes betreiben zu müssen. Die Plattform ist für Echtzeit-Produktionsdienste konzipiert: Sie wirbt mit Kaltstarts in weniger als einer Sekunde, bedarfsgerechter automatischer Skalierung, globalen Regionen und sekundengenauer Rechenleistung, sodass für stark schwankenden Datenverkehr keine dauerhaft reservierte Kapazität erforderlich ist. Sprachteams können Spracherkennung, LLM und Sprachsynthese am selben Standort betreiben, um Netzwerkstationen zu reduzieren. Medien- und LLM-Teams können hingegen moderne NVIDIA- und AMD-Beschleuniger auswählen. Die Einführung setzt weiterhin voraus, dass das Entwicklungsteam die Verantwortung für Container, Zustandsendpunkte, Laufzeitkonfiguration, Modellverhalten und Nutzungskosten übernimmt. Der kostenlose Hobby-Arbeitsbereich eignet sich für begrenzte Tests. Standard und individuell angebotene Enterprise-Tarife erweitern die Optionen für Anwendungen, Benutzerplätze, Aufbewahrung, Parallelität, Support und Compliance. Cerebrium dokumentiert außerdem Praktiken zur Einhaltung von SOC 2 Type I, HIPAA, GDPR und ISO; Berichte sind über das Trust Center verfügbar.
Funktionen
Echtzeit-Sprachagenten
Stellen Sie Spracherkennungs-, LLM- und Sprachsynthesedienste am selben Standort bereit, um Sprachinteraktionen mit niedriger Latenz zu ermöglichen.
Bereitstellung großer Sprachmodelle
Führen Sie vLLM, SGLang, TensorRT oder einen eigenen Inferenz-Stack mit automatischer GPU-Skalierung über globale Regionen hinweg aus.
Bild- und Videopipelines
Skalieren Sie stoßweise anfallende Generierungs- und Verarbeitungsworkloads auf bedarfsgerechter NVIDIA- oder AMD-GPU-Infrastruktur.
Bereitstellung eigener Container
Stellen Sie vorhandene Python-Dienste oder kompilierte Anwendungen über ein eigenes Dockerfile mit ausdrücklich definierten Zustands- und Bereitschaftsendpunkten bereit.
Vorteile
- Sekundengenaue Rechenleistung vermeidet Kosten für ungenutzte Kapazität und eignet sich für Workloads mit ungleichmäßigem Datenverkehr.
- Eigene Dockerfiles unterstützen portable Python- oder kompilierte Dienste, statt Teams auf eine feste Modelllaufzeit zu beschränken.
- Globale automatische Skalierung und gemeinsam betriebene CPU- und GPU-Workloads unterstützen latenzkritische Sprach-, LLM- und Medienanwendungen.
- Die veröffentlichten Praktiken zur Einhaltung von SOC 2 Type I, HIPAA, GDPR und ISO bieten eine konkrete Vertrauensgrundlage für die Prüfung.
Nachteile
- Bei nutzungsbasierter Rechenleistung hängt die endgültige Rechnung vom Workload-Volumen und den ausgewählten CPU- oder GPU-Ressourcen ab.
- Bei eigenen Containern müssen Teams Ports, Startbefehle, Zustandsprüfungen, Abhängigkeiten und das Anwendungsverhalten konfigurieren.
- Hobby ist auf drei bereitgestellte Anwendungen, drei Benutzerplätze, sieben Tage Protokollaufbewahrung und eine geringere CPU- und GPU-Parallelität beschränkt.
- Standard beschränkt Arbeitsbereiche auf zehn Benutzerplätze, 30 Tage Protokollaufbewahrung, eine CPU-Parallelität von 1000 und eine GPU-Parallelität von 30; darüber hinaus ist Enterprise erforderlich.
Preispläne
Hobby
- Unbegrenzte Projekte
- 3 bereitgestellte Anwendungen
- 3 Benutzerplätze
- 7 Tage Protokollaufbewahrung
- CPU-Parallelität bis 500
- GPU-Parallelität bis 5
- Community-Support
Standard
- Unbegrenzte Projekte
- Unbegrenzte bereitgestellte Anwendungen
- 10 Benutzerplätze
- 30 Tage Protokollaufbewahrung
- CPU-Parallelität bis 1000
- GPU-Parallelität bis 30
- Privater Slack-Kanal
Enterprise
- Mengenrabatte
- Unbegrenzte Anzahl gleichzeitig genutzter GPUs
- Dedizierter Slack-Support
- Persönlich betreute Einführung
- Dienstleistungen im Bereich maschinelles Lernen
- Unbegrenzte Protokollaufbewahrung
* Die Preisangaben dienen nur zur Orientierung. Bitte beachten Sie die aktuellen Informationen auf der offiziellen Website von Cerebrium.