Runpod Serverless vs Modal: Soll eine Bildinferenz-API mit einer Job-Schnittstelle oder Python-Funktionen beginnen?

Containerbasierte Job-Endpunkte und Python-Funktionsdeployments für eine eigene Bildinferenz-API mit stark schwankender Last: Rechenkosten umrechnen und Warmkapazität sowie Ressourcen anhand derselben Bereitstellungsziele bewerten.

Quelle: docs.runpod.io
November 2, 2026
5 min

Ein Python-Team möchte ein eigenes Bildinferenzmodell an ein Geschäftssystem anbinden. Tagsüber treffen gelegentlich viele Anfragen auf einmal ein, nachts gibt es kaum Nutzung. Runpod Serverless und Modal können beide bedarfsgerecht skalieren. Zuerst sollte jedoch die Form der Bereitstellung feststehen: Wer bereits einen deploybaren Container hat und direkt einen Job-Endpunkt nutzen möchte, sollte zunächst Runpod prüfen. Wer Funktionen und Ressourcen in Python organisieren und asynchrone Jobs in die Anwendung einbetten möchte, sollte zunächst Modal prüfen. In beiden Fällen muss die endgültige Entscheidung auf tatsächlichen Rechnungen für eine Konfiguration beruhen, die das Latenzziel erfüllt. Er enthält keine eigenen Deployment-Tests.

Zwei Integrationswege für dieselbe Inferenzaufgabe

Ein Analyseszenario: Das Geschäftssystem übermittelt ein Bild und Parameter, der Dienst führt dasselbe Modell aus und liefert das Ergebnis zurück. Asynchrones Warten ist akzeptabel, der Jobstatus muss aber abfragbar sein. Die offizielle Runpod-Dokumentation unterscheidet queue-based und load balancing. Queue-basierte Endpunkte verwenden einen Handler, unterstützen asynchrone /run- und synchrone /runsync-Aufrufe sowie automatische Wiederholungen bei Fehlern. Load-Balancing-Endpunkte greifen direkt auf einen eigenen HTTP-Dienst zu, benötigen keinen Handler und bieten nicht dieselben automatischen Wiederholungen. Ein vorhandenes Docker-Image kann als Ausgangspunkt dienen. Ein vorhandener HTTP-Dienst bedeutet jedoch nicht, dass er sich ohne Codeänderung an den Queue-Endpunkt anbinden lässt.

Modals Dokumentation zur Jobverarbeitung zeigt einen anderen Weg: eine Function deployen, Jobs mit .spawn übermitteln und Ergebnisse mit FunctionCall.get abrufen. FastAPI kann die Schnittstellen für Übermittlung und Abfrage kapseln. Laut Dokumentation lassen sich Ergebnisse nach Abschluss sieben Tage lang abrufen; langfristige Geschäftsaufzeichnungen gehören daher weiterhin ins eigene System. Für ein Python-Team vereint dieser Ansatz Aufrufe, Ressourcen und Jobverarbeitung in einer Codebasis. Dafür muss es die Verbindung zwischen Plattform-SDK und Anwendungsschnittstellen pflegen. Weder Runpods standardisierter Job-Zugang noch Modals Funktionsaufrufe ersetzen fachliche Jobkennungen, Ergebnisspeicherung und den Umgang mit doppelten Übermittlungen.

Sekundenpreise erklären nur einen Teil der Rechnung

Laut Runpods Abrechnungsdokumentation wird ein Worker vom Start bis zum vollständigen Stopp berechnet, auf ganze Sekunden aufgerundet. Modellinitialisierung, Anfrageverarbeitung und Wartezeit vor dem Abschalten können Rechenkosten verursachen. Für heruntergefahrene, gestoppte Worker fallen keine Rechenkosten an. Modals Skalierungsdokumentation erklärt, dass Functions standardmäßig auf null skalieren können. Mit min_containers, buffer_containers und scaledown_window lässt sich Kapazität vorhalten; mehr Warmkapazität erhöht die Kosten. Ob eine selten genutzte Anwendung die anfängliche Wartezeit toleriert, verändert somit auf beiden Plattformen das Budget. Aus dem Begriff serverless folgt nicht, dass nur die wenigen Sekunden der Bilderzeugung bezahlt werden.

Runpods aktuelle Serverless-Preisliste fasst L40, L40S, 6000 Ada und MIG 48GB in einer Gruppe für 1,75 US-Dollar pro Stunde zusammen. Das ist weder der Preis einer einfachen Pods-Instanz noch eine Zusage, jedes Mal eine L40S zu erhalten. Modal listet die L40S-GPU mit 0,000542 US-Dollar pro Sekunde, CPU separat mit 0,0000131 US-Dollar pro physischem Kern und Sekunde sowie Arbeitsspeicher mit 0,00000222 US-Dollar pro GiB und Sekunde. Laut Modals Ressourcendokumentation gilt bei CPU und Arbeitsspeicher jeweils der höhere Wert aus angeforderter Menge und tatsächlicher Nutzung.

Angenommen, auf jeder Plattform entstehen 100 abrechenbare Stunden für eine einzelne GPU. Die Rechenkosten der genannten Runpod-Gruppe betragen dann 175 US-Dollar. Bei Modal kostet allein die L40S-GPU 195,12 US-Dollar. Werden im selben Zeitraum ein physischer CPU-Kern und 8 GiB Arbeitsspeicher berechnet, kommen 4,716 und 6,3936 US-Dollar hinzu: insgesamt rund 206,23 US-Dollar. Dieses Beispiel vereinheitlicht nur die Zeiteinheiten. Es belegt weder gleichen Durchsatz noch, dass Runpod zwangsläufig günstiger ist. GPU-Modell innerhalb der Gruppe, Initialisierung, Warmkapazität und parallele Verarbeitung verändern die abrechenbare Zeit für denselben Satz von Jobs. Speicher, Netzwerk, Steuern, Tarife und Guthaben sind ebenfalls nicht enthalten.

Erst die Bereitstellung abnehmen, dann Kosten je brauchbarem Ergebnis vergleichen

Neben dem Preis gilt es vor allem einen Irrtum auszuräumen: Ein schneller Containerstart bedeutet nicht automatisch ein schnelles erstes Modellergebnis. Modals Cold-Start-Dokumentation trennt den Containerstart von der Einsatzbereitschaft nach dem Import von Abhängigkeiten, dem Ausführen des Initialisierungscodes und dem Laden des Modells. Auch Runpods Abrechnungsdokumentation rechnet das Laden des Modells vor der Einsatzbereitschaft des Handlers zum Cold Start. Auf beiden Plattformen sollte die Zeit von der Übermittlung aus dem Geschäftssystem bis zum nutzbaren Ergebnis erfasst werden, nicht nur ein einzelner Zeitabschnitt der Plattform.

Führen Sie einen begrenzten Abnahmetest durch: Modellversion, Präzision, Bildabmessungen, Batch, GPU-Modell und Region festlegen und dieselben Anfragen wiedergeben. Abgedeckt werden fortlaufende Aufrufe, der erste Aufruf nach langer Inaktivität und ein plötzlicher Parallelitätsanstieg. Lässt sich Runpods Ressourcengruppe nicht auf dasselbe Modell festlegen, muss der Durchlauf als Ressourcengruppenvergleich und nicht als Test mit identischer GPU bezeichnet werden. Prüfen Sie außerdem, ob Wiederholungen nach Fehlern doppelte Ergebnisse erzeugen und ob Ausgaben nach Jobabschluss zuverlässig gespeichert werden. Teilen Sie die jeweiligen Kosten einschließlich Initialisierung, Warmkapazität und Hilfsressourcen durch die Anzahl erfolgreicher Ergebnisse, die dieselben Qualitäts- und Latenzanforderungen erfüllen. So entsteht ein für die Beschaffung aussagekräftiger Stückpreis.

Ist das vorhandene Lieferartefakt bereits ein Container und passt ein Job-Interface mit Übermittlung und anschließender Abfrage zum Geschäftsprozess, sollten Runpods Queue-Endpunkte zuerst validiert werden. Entwickelt das Team Vorverarbeitung, Inferenz und Ergebnisverarbeitung hauptsächlich in Python weiter und möchte funktionsbasierten Deployment-Code pflegen, sollte Modal zuerst validiert werden. Sind selbst bei geringer Last sofortige Antworten nötig, müssen beide Vorschläge die Kosten vorgehaltener Warmkapazität enthalten. Öffentliche Preise reichen zur Budget- und Versuchsplanung, ersetzen aber keine Abnahme mit diesem Modell und diesem Verkehrsmuster.

Hinweis zum Inhalt:Dieser Artikel basiert auf öffentlich verfügbaren Informationen und dient als Orientierung bei der Auswahl von Tools. Funktionen, Preise und zugehörige Richtlinien können sich jederzeit ändern; maßgeblich sind die aktuellen offiziellen Angaben.

Originalquelle:docs.runpod.io