
Inception
Des modèles de langage à diffusion rapides pour le raisonnement, le développement, la voix, l’assistance et d’autres applications où la latence est déterminante.
À propos de Inception
Inception développe Mercury, une famille de modèles de langage à diffusion conçus pour les applications où le temps de réponse façonne l’expérience utilisateur. Mercury 2 réunit le raisonnement, l’utilisation d’outils, la sortie structurée et une fenêtre contextuelle de 128K ; selon Inception, ses modèles dépassent 1,000 jetons par seconde sur des GPU NVIDIA du commerce. Mercury Edit 2 est un modèle plus compact et spécialisé dans le développement, doté d’une fenêtre contextuelle de 32K pour les flux de travail d’autocomplétion et de modification suivante. Les deux modèles utilisent une tarification basée sur les jetons et proposent une API compatible avec OpenAI, ce qui peut réduire le travail d’intégration pour les équipes qui utilisent déjà cette interface. Inception propose également un accès via AWS Bedrock et Azure Foundry, tandis que l’ajustement fin, les déploiements privés, les SLA personnalisés et l’assistance prioritaire sont présentés comme des sujets à aborder avec le service commercial pour les entreprises. Pour les acheteurs, les compromis sont concrets : les équipes bénéficient d’une latence de génération exceptionnellement faible et d’une compatibilité familière avec l’API, mais elles doivent évaluer le comportement des modèles à diffusion sur leurs propres charges de travail, tenir compte de la facturation distincte des entrées et des sorties, et choisir entre l’éventail fonctionnel plus large de Mercury 2 et la spécialisation plus étroite de Mercury Edit 2 dans le développement.
Fonctionnalités
Agents vocaux en temps réel
Utilisez Mercury 2 pour des interactions vocales réactives lorsque la latence du raisonnement affecte la fluidité de la conversation.
Flux de développement rapides
Exécutez des itérations de développement et des sous-agents de flux de travail avec Mercury 2, notamment avec l’utilisation d’outils et la sortie structurée.
Modification de code à faible latence
Utilisez Mercury Edit 2 pour l’autocomplétion et les suggestions de modification suivante dans les outils de développement sensibles à la latence.
Avantages
- La compatibilité avec l’API OpenAI peut réduire les modifications nécessaires à une intégration de modèle existante.
- Mercury 2 associe une fenêtre contextuelle de 128K au raisonnement, à l’utilisation d’outils et à la sortie structurée.
- Les tarifs par jeton sont publiés séparément pour les entrées, les entrées en cache et les sorties.
Limites
- Les frais basés sur l’utilisation s’appliquent séparément aux jetons d’entrée, d’entrée en cache et de sortie.
- Mercury Edit 2 dispose d’une fenêtre contextuelle de 32K et se concentre davantage sur le développement que Mercury 2.
- Les déploiements privés, l’ajustement fin, les SLA personnalisés et l’assistance prioritaire nécessitent un échange avec le service commercial.
Formules tarifaires
Mercury 2
- Fenêtre contextuelle de 128K
- Raisonnement
- Utilisation d’outils
- Sortie structurée
Mercury Edit 2
- Fenêtre contextuelle de 32K
- Autocomplétion
- Modification suivante
* Les informations tarifaires sont données à titre indicatif. Consultez les dernières annonces sur le site officiel de Inception.