Grok 4.6 auswählen: Die Bedrock-Aufrufregion ist nicht zwingend der Inferenzort
Drei fiktive Wartungstickets helfen bei der Wahl zwischen Mantle in Oregon und Converse auf Runtime. Prüfen Sie Daten- und Validierungsgrenzen vor Tokenpreisen.
Wer Bedrock aus Nord-Virginia aufruft, kann daraus nicht auf den Ort der Inferenz schließen. Trennen Sie bei Grok 4.6 zwei Fragen: In welchen Regionen dürfen die Daten verarbeitet werden? Muss der Dienst das Antwortformat erzwingen, oder kann die Anwendung es prüfen? Sind beide Anforderungen verbindlich, prüfen Sie die Kombination vor dem Preis.
Was die beiden Endpunkte bieten
Der AWS-Startbeitrag beschreibt zwei Bedrock-Endpunkte für dasselbe xAI-Modell. Laut Modellkarte für Grok 4.6 bietet bedrock-mantle im kommerziellen AWS in Oregon Inferenz innerhalb von us-west-2 sowie strukturierte Ausgabe nach JSON Schema. Ein bestehender AWS-SDK-Prozess kann Converse auf bedrock-runtime beibehalten. Grok 4.6 bietet dort aber nur regionsübergreifende Inferenz und keine entsprechende serverseitig erzwungene strukturierte Ausgabe. Selbst US Geo aus Nord-Virginia kann nach Ohio oder Oregon weiterleiten. GovCloud ist hier nicht Gegenstand des Vergleichs.
Mit drei Papierfällen entscheiden
Verwenden Sie fiktive Reparaturtickets. Die Antwort darf nur ticket_id und category enthalten; als Kategorie gelten power, display oder other. Entwerfen Sie eine korrekte Antwort, eine mit einem Zusatzfeld und eine mit battery als Kategorie. Legen Sie vor jedem Modellaufruf die erlaubten Ziele fest und prüfen Sie, dass der Parser die erste Antwort annimmt und die anderen einer menschlichen Prüfung zuführt, statt sie zu übernehmen. Halten Sie für Mantle Oregon und die serverseitige Schema-Vorgabe fest, für Runtime Converse, alle möglichen Ziele des gewählten Inferenzprofils und die Anwendungsvalidierung. Das erzwungene Format sagt nichts über die Richtigkeit der Einordnung aus: Ticketnummer und Begründung müssen weiter geprüft werden.
Die AWS-Preisseite verweist für Grok 4.6 auf die Modellkarte. Annahme: Standard-Tarif, 10 Millionen nicht zwischengespeicherte Eingabe- und 1 Million Ausgabetokens, keine Wiederholungen oder sonstigen Kosten. Je Million kosten Eingabe/Ausgabe bei In-Region und Geo 2,20/6,60 USD, insgesamt 28,60 USD; bei Global 2,00/6,00 USD, insgesamt 26,00 USD. Das ist eine Modellrechnung, weder Rechnung noch Messung. Der niedrigere Global-Preis zählt erst, wenn sämtliche Zielregionen zulässig sind und das Team Validierung, Zurückweisung und Prüfung abdecken kann.
Sind Inferenz ausschließlich in Nord-Virginia und ein serverseitiges Schema Pflicht oder müssen Converse und serverseitiges Schema zusammen verfügbar sein, ist keiner der beiden Endpunkte ein direkter Ersatz. Behalten Sie die bisherige Lösung oder prüfen Sie ein anderes Modell gegen beide Anforderungen. Ist Oregon erlaubt und das Ausgabeformat entscheidend, prüfen Sie zuerst Mantle. Muss Converse bleiben, bewerten Sie Runtime erst nach Freigabe der Zielregionen und des Umgangs mit fehlerhaften Antworten.
Hinweis zum Inhalt:Dieser Artikel basiert auf öffentlich verfügbaren Informationen und dient als Orientierung bei der Auswahl von Tools. Funktionen, Preise und zugehörige Richtlinien können sich jederzeit ändern; maßgeblich sind die aktuellen offiziellen Angaben.
Originalquelle:aws.amazon.com