How Much To Run AI 自托管大模型成本计算器
Kostenrechner für selbst gehostete Open-Weight-LLMs, der eigene Hardware, gemietete GPUs und Cloud-APIs vergleicht
Über How Much To Run AI 自托管大模型成本计算器
Kostenrechner für das Self-Hosting von Open-Weight-LLMs: Wähle Modelle wie Kimi, GLM, DeepSeek oder Qwen und vergleiche die Betriebskosten auf eigener Hardware oder auf gemieteten GPUs. Mit Gesamtleistungsaufnahme, Laufzeit und Preis pro kWh erhältst du eine Schätzung der Stromkosten; dieses Ergebnis ersetzt die Gesamtkostenschätzung für eigene Hardware und darf nicht mit ihr addiert werden. Kosten für gehostete APIs werden anhand gespeicherter Tarife und der monatlichen Gesamtmenge an tokens geschätzt, wobei Spitzen- und Nebenzeiten tarife ein Intervall ergeben. Der Modellkatalog enthält 72 Modelle, von denen 2–3 nebeneinander verglichen werden können; die Felder stammen aus datierten Katalog-Einträgen. Die Seite mit den Credit-Paketen listet drei Stufen – Starter $10, Pro $100 und Volume $1,000 –, die derzeit als nicht kaufbar gekennzeichnet sind.
Am besten geeignet
Beste Einsatzszenarien
Monatliche Stromkosten für den Betrieb offener Modelle auf eigenen Servern schätzen
Break-even zwischen gekauften GPU-Hardware- und gemieteten Cloud-GPUs vergleichen
Monatliche Kostenspanne für gehostete APIs nach Abrechnung pro token schätzen
Mehrere Kandidatenmodelle in der Auswahlphase nebeneinander vergleichen
Funktionen
Stromkosten der gesamten Maschine schätzen
Berechnet die Stromkosten der gesamten Maschine aus eingegebener Leistung, Laufzeit und Preis pro kWh; das Ergebnis ersetzt die Gesamtkostenschätzung für eigene Hardware und darf nicht mit ihr addiert werden.
Eigene Hardware und Miete im Vergleich
Stellt gekaufte Hardware neben gemietete GPU und gehostete API; bei zuordenbarem öffentlichem Cloud-Preis wird der Break-even gegenüber der Miete ausgewiesen.
Modellkatalog und Parallelvergleich
Der Modellkatalog enthält 72 Modelle, von denen 2–3 verglichen werden können; die Felder stammen aus datierten Katalog-Einträgen, unterschiedliche API-Abrechnungseinheiten werden getrennt dargestellt.
Credit-Stufen im Überblick
Starter $10 (100,000 credits), Pro $100 (1,000,000 credits), Volume $1,000 (10,000,000 credits); Credits verfallen nicht und sind auf der Seite als nicht kaufbar gekennzeichnet.
Vorteile
- Einfache Eingabe: Leistung, Laufzeit und Strompreis genügen für die Stromkosten der gesamten Maschine
- Deckt zugleich drei Bezugsgrößen ab: eigene Hardware, gemietete GPU und gehostete API
- Modellkatalog mit 72 Modellen, davon 2–3 parallel vergleichbar
- Der Kostenrechner ist kostenlos nutzbar
Nachteile
- Die Credit-Paket-Seite kennzeichnet Starter, Pro und Volume derzeit als nicht kaufbar
- Hardware ohne zuordenbaren öffentlichen Cloud-Preis liefert keinen Break-even gegenüber Miete