Grok 4.6 选用指南:调用 Bedrock 的区域,不一定是推理发生的区域

用三条虚构工单判断该选 Oregon Mantle,还是用 Runtime 保留 Converse;比较数据边界和验证成本,不只比较单价。

来源: aws.amazon.com
2026年11月17日
3 min

一个团队从北弗吉尼亚调用模型,不等于推理就在北弗吉尼亚。选 Grok 4.6 时,先把两件事分开:允许哪些区域处理数据,返回格式是由服务端约束,还是由应用验证。若两者都有硬要求,先检查能否同时满足;不要先选较便宜的路由。

两条入口,保留的东西不同

AWS 的发布说明把同一个 xAI 模型放在两条 Bedrock 入口上。按 Grok 4.6 模型卡,商业 AWS 的 Oregon bedrock-mantle 可在 us-west-2 区域内推理,支持 JSON Schema 结构化输出。若已有 AWS SDK 的 Converse 管道,bedrock-runtime 可以保留这一接口,但 Grok 4.6 在该入口只能跨区域推理,不提供同样的服务端结构化输出。即使从北弗吉尼亚发往 US Geo,模型卡还列出 Ohio 和 Oregon 为可能目的地。这里讨论商业 AWS,不把这些结论套用到 GovCloud。

用三条纸面工单决定

拿三条虚构的设备维修工单,只允许返回 ticket_id 和 category;后一项只能是 power、display 或 other。第一条样例正常,第二条模拟多出一个字段,第三条模拟返回类别 battery。先不调用模型:写明允许的目的区域,验证解析器接受第一条、拒绝后两条并交人工复核。再画两张候选配置:Mantle 标明 Oregon 与服务端 Schema;Runtime 标明 Converse、实际推理配置的全部候选地区和应用校验。服务端格式约束也不能证明分类正确,应用仍需核对工单编号和分类依据。

AWS 计费页将 Grok 4.6 的费率引到模型卡。假设 Standard、1,000 万未缓存输入 token 和 100 万输出 token,不算重试或其他费用。按每百万 token 的输入/输出费率,区域内和 Geo 都是 2.20/6.60 美元,合计 28.60 美元;Global 是 2.00/6.00 美元,合计 26.00 美元。这是纸面预算,不是账单或实测。地区政策允许 Global 且能承担校验、拒收和复核,较低单价才有意义。

只能在北弗吉尼亚推理又必须用服务端 Schema,或必须同时保留 Converse 和服务端 Schema,就不要把这两条入口当成替代关系:保留现有实现,或另找经核实符合两条硬条件的模型。允许 Oregon 且输出契约重要,优先核查 Mantle;需要保留 Converse、政策允许相关跨区目的地且异常可兜底,再评估 Runtime。

内容说明:本文基于公开资料整理,仅供工具选型参考。产品功能、价格及相关政策可能随时调整,请以官方最新信息为准。

原文出处:aws.amazon.com