
Inception
Schnelle Diffusions-Sprachmodelle für logisches Schlussfolgern, Programmierung, Sprache, Support und andere Anwendungen, bei denen die Latenz entscheidend ist.
Über Inception
Inception entwickelt Mercury, eine Familie von Diffusions-Sprachmodellen für Anwendungen, bei denen die Antwortzeit das Benutzererlebnis prägt. Mercury 2 kombiniert logisches Schlussfolgern, Werkzeugnutzung, strukturierte Ausgabe und ein Kontextfenster von 128K. Laut Inception erreichen seine Modelle auf handelsüblichen NVIDIA-GPUs mehr als 1,000 Token pro Sekunde. Mercury Edit 2 ist ein kleineres, auf Programmierung ausgerichtetes Modell mit einem Kontextfenster von 32K für Autovervollständigung und Arbeitsabläufe zur nächsten Bearbeitung. Beide Modelle werden tokenbasiert abgerechnet und bieten eine OpenAI-kompatible API. Das kann den Integrationsaufwand für Teams verringern, die diese Schnittstelle bereits verwenden. Inception bietet den Zugriff außerdem über AWS Bedrock und Azure Foundry an. Feinabstimmung, private Bereitstellungen, individuelle SLA und bevorzugter Support sind dagegen Gegenstand von Verkaufsgesprächen für Unternehmen. Für Käufer sind die Abwägungen konkret: Teams erhalten eine ungewöhnlich niedrige Generierungslatenz und eine vertraute API-Kompatibilität, müssen jedoch das Verhalten von Diffusionsmodellen anhand ihrer eigenen Arbeitslasten bewerten, getrennte Kosten für Ein- und Ausgabe berücksichtigen und zwischen dem breiteren Funktionsumfang von Mercury 2 und dem engeren Programmierfokus von Mercury Edit 2 wählen.
Funktionen
Echtzeit-Sprachagenten
Nutzen Sie Mercury 2 für reaktionsschnelle Sprachinteraktionen, bei denen sich die Latenz des Schlussfolgerns auf den Gesprächsfluss auswirkt.
Schnelle Programmierabläufe
Führen Sie mit Mercury 2 Programmieriterationen und Unteragenten für Arbeitsabläufe aus, einschließlich Werkzeugnutzung und strukturierter Ausgabe.
Codebearbeitung mit niedriger Latenz
Nutzen Sie Mercury Edit 2 für Autovervollständigung und Vorschläge zur nächsten Bearbeitung in latenzempfindlichen Entwicklerwerkzeugen.
Vorteile
- Die Kompatibilität mit der OpenAI API kann die erforderlichen Änderungen an einer bestehenden Modellintegration reduzieren.
- Mercury 2 kombiniert ein Kontextfenster von 128K mit logischem Schlussfolgern, Werkzeugnutzung und strukturierter Ausgabe.
- Die Tokenpreise werden für Eingabe, zwischengespeicherte Eingabe und Ausgabe getrennt veröffentlicht.
Nachteile
- Nutzungsabhängige Gebühren fallen getrennt für Eingabe-, zwischengespeicherte Eingabe- und Ausgabe-Token an.
- Mercury Edit 2 besitzt ein Kontextfenster von 32K und ist enger auf Programmierung ausgerichtet als Mercury 2.
- Private Bereitstellungen, Feinabstimmung, individuelle SLA und bevorzugter Support erfordern ein Verkaufsgespräch.
Preispläne
Mercury 2
- Kontextfenster von 128K
- Logisches Schlussfolgern
- Werkzeugnutzung
- Strukturierte Ausgabe
Mercury Edit 2
- Kontextfenster von 32K
- Autovervollständigung
- Nächste Bearbeitung
* Die Preisangaben dienen nur zur Orientierung. Bitte beachten Sie die aktuellen Informationen auf der offiziellen Website von Inception.