Groq
Inferência rápida de IA por meio do GroqCloud, com preços por uso específicos para cada modelo e infraestrutura baseada em LPU.
Sobre Groq
O Groq é um serviço de inferência de IA na nuvem desenvolvido sobre a arquitetura LPU da empresa. Os desenvolvedores usam o GroqCloud para executar modelos abertos compatíveis, enquanto o Groq opera a infraestrutura de inferência subjacente. O catálogo de preços apresenta a taxa de processamento e tarifas separadas para tokens de entrada e saída, permitindo que as equipes comparem a capacidade de resposta esperada e o custo da API antes de escolher um modelo. As famílias de modelos listadas incluem GPT OSS, Llama e Qwen, embora alguns modelos sejam restritos ao acesso empresarial. O uso de conversão de texto em fala é cobrado pelo número de caracteres. Os recursos da comunidade e o chat no GroqCloud Developer Console estão disponíveis para dar suporte aos desenvolvedores, e as equipes empresariais podem entrar em contato com o Groq sobre cargas de trabalho de inferência específicas. A documentação de segurança e conformidade é disponibilizada pelo Groq Trust Center. Os relatos de vulnerabilidades são tratados pelo programa privado do Groq no HackerOne.
Funcionalidades
Inferência rápida de LLM
Execute modelos de linguagem abertos compatíveis na infraestrutura de nuvem do Groq baseada em LPU, com taxas de processamento publicadas.
Preços de API por uso
Pague separadamente pelos tokens de entrada e saída, com tarifas específicas para cada modelo publicadas por milhão de tokens.
Escolha de modelos
Escolha entre modelos como GPT OSS, Llama e variantes do Qwen para diferentes requisitos de velocidade, contexto e custo.
Vantagens
- As tarifas por token publicadas para cada modelo facilitam a comparação dos custos da API.
- A alta taxa de processamento de tokens publicada é adequada para fluxos de aplicativos sensíveis ao tempo de resposta.
- A compatibilidade com várias famílias de modelos permite que as equipes equilibrem velocidade, contexto e custo.
Limitações
- As cobranças de entrada e saída variam de acordo com o modelo, portanto as estimativas de custo exigem volumes de tokens específicos para cada carga de trabalho.
- Alguns modelos são exclusivos para empresas e exigem contato com o Groq antes da adoção.
- A disponibilidade e a compatibilidade dos modelos são limitadas ao catálogo aceito pelo GroqCloud.
Planos de preços
Sob demanda
- GPT OSS 20B: $0.075 de entrada e $0.30 de saída por 1M de tokens
- Llama 3.1 8B Instant: $0.05 de entrada e $0.08 de saída por 1M de tokens
- Qwen 3.6 27B: $0.60 de entrada e $3.00 de saída por 1M de tokens
Modelos exclusivos para empresas
- Consulta de acesso empresarial
- Minimax M2.7 listado como exclusivo para empresas
- Preços definidos com o Groq
* As informações de preços são apenas indicativas. Consulte o anúncio mais recente no site oficial de Groq.