Groq
Inférence IA rapide via GroqCloud, avec une tarification à l’usage propre à chaque modèle et une infrastructure fondée sur des LPU.
À propos de Groq
Groq est un service cloud d’inférence IA reposant sur l’architecture LPU de l’entreprise. Les développeurs utilisent GroqCloud pour exécuter les modèles ouverts pris en charge, tandis que Groq exploite l’infrastructure d’inférence sous-jacente. Le catalogue tarifaire indique le débit ainsi que des tarifs distincts pour les jetons d’entrée et de sortie, ce qui permet aux équipes de comparer la réactivité attendue et le coût de l’API avant de choisir un modèle. Les familles de modèles répertoriées comprennent GPT OSS, Llama et Qwen, tandis que certains modèles sont réservés aux entreprises. L’utilisation de la synthèse vocale est facturée selon le nombre de caractères. Les ressources communautaires et le chat de la GroqCloud Developer Console sont proposés pour aider les développeurs, et les équipes d’entreprise peuvent contacter Groq au sujet de charges de travail d’inférence particulières. La documentation relative à la sécurité et à la conformité est disponible dans le Groq Trust Center. Les signalements de vulnérabilités sont traités par l’intermédiaire du programme HackerOne privé de Groq.
Fonctionnalités
Inférence LLM rapide
Exécutez des modèles de langage ouverts pris en charge sur l’infrastructure cloud de Groq fondée sur des LPU, avec des chiffres de débit publiés.
Tarification de l’API à l’usage
Payez séparément les jetons d’entrée et de sortie, selon des tarifs propres à chaque modèle et publiés par million de jetons.
Choix de modèles
Choisissez parmi des modèles tels que GPT OSS, Llama et les variantes de Qwen selon vos besoins en matière de vitesse, de contexte et de coût.
Avantages
- Les tarifs par jeton publiés pour chaque modèle facilitent la comparaison des coûts d’API.
- Le débit élevé de jetons annoncé convient aux flux d’applications sensibles au temps de réponse.
- La prise en charge de plusieurs familles de modèles permet aux équipes d’arbitrer entre vitesse, contexte et coût.
Limites
- Les frais d’entrée et de sortie varient selon le modèle ; les estimations de coût doivent donc tenir compte des volumes de jetons propres à la charge de travail.
- Certains modèles sont réservés aux entreprises et nécessitent de contacter Groq avant leur adoption.
- La disponibilité et la compatibilité des modèles se limitent au catalogue pris en charge par GroqCloud.
Formules tarifaires
À la demande
- GPT OSS 20B : $0.075 en entrée et $0.30 en sortie par 1M de jetons
- Llama 3.1 8B Instant : $0.05 en entrée et $0.08 en sortie par 1M de jetons
- Qwen 3.6 27B : $0.60 en entrée et $3.00 en sortie par 1M de jetons
Modèles réservés aux entreprises
- Demande d’accès pour entreprise
- Minimax M2.7 est répertorié comme réservé aux entreprises
- Tarification convenue avec Groq
* Les informations tarifaires sont données à titre indicatif. Consultez les dernières annonces sur le site officiel de Groq.