Grok 4.6 선택 가이드: Bedrock 호출 리전과 추론 리전은 같지 않을 수 있다
가상의 수리 티켓 세 건으로 Oregon Mantle과 Converse를 유지하는 Runtime을 비교합니다. 토큰 단가보다 데이터 경계와 검증 부담을 먼저 봅니다.
북부 버지니아에서 Bedrock을 호출한다고 현지에서 추론한다고 단정할 수는 없습니다. Grok 4.6을 고를 때는 데이터를 처리해도 되는 리전과 응답 형식 요건을 나눠 보세요. 서비스가 형식을 강제해야 하는지, 애플리케이션이 검증할 수 있는지 먼저 정합니다. 둘 다 필수라면 가격을 보기 전에 같은 경로가 두 조건을 충족하는지 확인하세요.
두 엔드포인트에서 유지할 수 있는 것
AWS 출시 글은 동일한 xAI 모델을 위한 두 Bedrock 엔드포인트를 설명합니다. Grok 4.6 모델 카드에서 상용 AWS Oregon의 bedrock-mantle은 us-west-2 리전 내부에서 추론하며 JSON Schema 구조화 출력을 지원합니다. 기존 AWS SDK 파이프라인에서 Converse를 쓴다면 bedrock-runtime에서 이 API를 유지할 수 있습니다. 단, 이 엔드포인트에서는 Grok 4.6이 교차 리전 추론만 지원하고 같은 서버 측 구조화 출력은 제공하지 않습니다. 북부 버지니아에서 US Geo를 호출해도 Ohio나 Oregon으로 라우팅될 수 있습니다. 여기서는 상용 AWS만 다루며 GovCloud에는 적용하지 않습니다.
가상의 티켓 세 건으로 판단하기
가상의 장비 수리 티켓을 만들고 응답 필드는 ticket_id와 category만 허용합니다. 범주는 power, display, other만 가능합니다. 정상 응답, 필드가 하나 더 있는 응답, 범주가 battery인 응답을 하나씩 적으세요. 모델을 호출하기 전에 허용 목적지를 정하고 파서가 첫 응답은 받아들이되 나머지는 거부해 사람이 검토하는지 확인합니다. Mantle 구성에는 Oregon과 서버 측 Schema를, Runtime 구성에는 Converse와 선택한 추론 프로필의 모든 후보 리전 및 애플리케이션 검증을 적습니다. 형식을 강제해도 분류의 정확성을 보장하지 않으므로 티켓 ID와 분류 근거는 별도로 확인합니다.
AWS 요금 페이지의 Grok 4.6 요금은 모델 카드에서 확인할 수 있습니다. Standard, 캐시하지 않은 입력 1,000만 토큰과 출력 100만 토큰, 재시도나 기타 비용이 없는 경우를 가정합니다. 100만 토큰당 입력/출력 단가는 동일 리전과 Geo에서 각각 미화 2.20/6.60달러로 총 28.60달러, Global은 2.00/6.00달러로 총 26.00달러입니다. 청구서나 실측이 아닌 예산 예시입니다. 정책이 Global 목적지를 허용하고 검증·거부 처리·검토 비용을 감당할 수 있을 때만 낮은 단가가 의미가 있습니다.
북부 버지니아에서만 추론하면서 서버 측 Schema가 필요하거나, Converse와 서버 측 Schema가 동시에 필수라면 두 엔드포인트 중 어느 것도 바로 대체할 수 없습니다. 기존 구현을 유지하거나 양쪽 요건을 만족하는 다른 모델을 확인하세요. Oregon이 허용되고 응답 형식이 중요하면 Mantle부터, Converse가 필수라면 교차 리전 목적지와 예외 처리 방안이 승인된 뒤 Runtime을 검토하세요.
콘텐츠 안내:이 글은 공개 자료를 바탕으로 정리한 도구 선택 참고 자료입니다. 제품 기능, 가격 및 관련 정책은 수시로 변경될 수 있으니 최신 공식 정보를 확인해 주세요.
원문 출처:aws.amazon.com