Groq
Inferencia de IA rápida mediante GroqCloud, con precios por uso específicos para cada modelo e infraestructura basada en LPU.
Acerca de Groq
Groq es un servicio de inferencia de IA en la nube basado en la arquitectura LPU de la empresa. Los desarrolladores utilizan GroqCloud para ejecutar los modelos abiertos compatibles, mientras Groq opera la infraestructura de inferencia subyacente. El catálogo de precios muestra el rendimiento junto con tarifas separadas para los tokens de entrada y salida, de modo que los equipos pueden comparar la capacidad de respuesta prevista y el coste de la API antes de elegir un modelo. Las familias de modelos incluidas abarcan GPT OSS, Llama y Qwen, aunque algunos modelos están limitados al acceso empresarial. El uso de texto a voz se factura según el número de caracteres. Los recursos de la comunidad y el chat de GroqCloud Developer Console están disponibles como ayuda para desarrolladores, y los equipos empresariales pueden contactar con Groq para consultar cargas de trabajo de inferencia específicas. La documentación de seguridad y cumplimiento se proporciona mediante Groq Trust Center. Los informes de vulnerabilidades se gestionan a través del programa privado de HackerOne de Groq.
Funciones
Inferencia de LLM rápida
Ejecuta modelos de lenguaje abiertos compatibles en la infraestructura en la nube de Groq basada en LPU, con cifras de rendimiento publicadas.
Precios de API por uso
Paga por separado los tokens de entrada y salida, con tarifas específicas para cada modelo publicadas por millón de tokens.
Selección de modelos
Elige entre modelos como GPT OSS, Llama y variantes de Qwen para diferentes requisitos de velocidad, contexto y coste.
Ventajas
- Las tarifas por token publicadas para cada modelo facilitan la comparación de los costes de la API.
- El elevado rendimiento de tokens publicado es adecuado para flujos de aplicaciones sensibles al tiempo de respuesta.
- La compatibilidad con varias familias de modelos permite a los equipos equilibrar la velocidad, el contexto y el coste.
Limitaciones
- Los cargos de entrada y salida varían según el modelo, por lo que las estimaciones de costes requieren volúmenes de tokens específicos de la carga de trabajo.
- Algunos modelos son exclusivos para empresas y exigen contactar con Groq antes de adoptarlos.
- La disponibilidad y compatibilidad de los modelos se limitan al catálogo admitido por GroqCloud.
Planes de precios
Bajo demanda
- GPT OSS 20B: $0.075 de entrada y $0.30 de salida por 1M de tokens
- Llama 3.1 8B Instant: $0.05 de entrada y $0.08 de salida por 1M de tokens
- Qwen 3.6 27B: $0.60 de entrada y $3.00 de salida por 1M de tokens
Modelos exclusivos para empresas
- Consulta de acceso empresarial
- Minimax M2.7 figura como exclusivo para empresas
- Precios acordados con Groq
* La información de precios es solo orientativa. Consulta el anuncio más reciente en el sitio web oficial de Groq.