Guia de escolha do Grok 4.6: a região que chama o Bedrock pode não executar a inferência
Três chamados fictícios ajudam a decidir entre o Mantle em Oregon e o Runtime para manter o Converse. Compare as fronteiras dos dados e o custo de validação.
Chamar o Bedrock do norte da Virgínia não significa que a inferência ocorre ali. Para escolher o Grok 4.6, separe dois critérios: as regiões que podem processar os dados e o formato de resposta. O serviço deve impor esse formato ou o aplicativo pode validá-lo? Se ambos forem exigências rígidas, verifique se uma mesma rota serve antes de olhar o preço.
O que cada endpoint permite manter
O anúncio da AWS descreve dois endpoints do Bedrock para o mesmo modelo da xAI. Segundo a ficha do Grok 4.6, no AWS comercial, o bedrock-mantle em Oregon faz inferência dentro de us-west-2 e aceita saída estruturada por JSON Schema. Se o fluxo atual usa Converse no AWS SDK, o bedrock-runtime mantém essa interface. Para o Grok 4.6, porém, ele só oferece inferência entre regiões e não impõe a mesma saída estruturada no servidor. Uma chamada US Geo do norte da Virgínia também pode ir para Ohio ou Oregon. A comparação não se aplica à GovCloud.
Decida com três casos no papel
Use três chamados fictícios de reparo. Só podem ser devolvidos ticket_id e category; a categoria deve ser power, display ou other. Escreva uma resposta correta, outra com um campo extra e outra com categoria battery. Antes de chamar o modelo, anote os destinos permitidos e confira se o analisador aceita a primeira e rejeita as outras duas para revisão humana. Desenhe o Mantle com Oregon e o esquema imposto pelo servidor; o Runtime com Converse, todos os destinos possíveis do perfil escolhido e a validação do aplicativo. Formato válido não prova que a classificação esteja correta: confira o ID do chamado e o motivo da categoria.
A página de preços da AWS indica a ficha do modelo para as tarifas do Grok 4.6. Suponha nível Standard, 10 milhões de tokens de entrada sem cache e 1 milhão de saída, sem novas tentativas nem outras cobranças. Na mesma região ou com Geo, entrada/saída custam 2,20/6,60 USD por milhão, num total de 28,60 USD. Global custa 2,00/6,00 USD por milhão, num total de 26,00 USD. É uma estimativa, não uma fatura ou medição. O preço menor do Global só importa quando a política permite seus destinos e a equipe consegue lidar com validação, rejeições e revisão.
Se a inferência precisar ficar no norte da Virgínia com o esquema aplicado pelo servidor, ou se tanto Converse quanto esse esquema forem obrigatórios, nenhuma opção substitui diretamente a atual. Mantenha a implementação ou verifique outro modelo contra os dois requisitos. Com Oregon permitido e formato obrigatório, investigue primeiro o Mantle. Quando Converse precisar ficar, avalie o Runtime só depois de aprovar destinos entre regiões e tratamento de respostas rejeitadas.
Nota sobre o conteúdo:Este artigo foi elaborado com base em informações públicas e serve como referência para a escolha de ferramentas. Os recursos, os preços e as políticas relacionadas podem mudar a qualquer momento; consulte as informações oficiais mais recentes.
Fonte original:aws.amazon.com