OpenRouter と Together AI:モデル API を切り替える前に、ルーティング、直接接続、請求を区別する

プロバイダーをまたぐ切り替えやフォールバックが必要なら OpenRouter を検証する価値が高い。Together のモデルや専用リソースを既に選んでいるなら、直接接続の方がサービス経路を明確にしやすい。選択時はパラメーターの有効性、フォールバック範囲、BYOK 料金、専用レプリカのコストを併せて確認し、token 単価だけで比べてはいけない。

ソース: openrouter.ai
2026年11月12日
11 min

アプリケーションには既にチャットモデルを組み込んでおり、今度は要約、質問応答、ツール呼び出しにそれぞれモデルを選びたいとする。OpenRouter は複数の推論プロバイダーの選択肢、共通の接続先、フォールバックの入口を保持したいチームに適する。Together AI は対応モデルを既に選定し、推論アカウントを直接管理したい、あるいは専用デプロイを購入したいチームにより適する。いずれも具体的なリクエストの受け入れ検証が前提であり、「OpenAI API 互換」を動作が完全に同じという意味に捉えてはいけない。

両者は重ならないモデル倉庫でもない。Together 自体が OpenRouter のプロバイダーの1つである。同じモデルが OpenRouter 経由で Together にルーティングされることも、アプリケーションから Together に直接接続することもある。本当に選ぶのは、誰が上流を選択し、実行経路をどう固定し、どの層で請求が発生するかだ。本稿は 2026 年 11 月 10 日に確認した公式資料に基づく分析で、レイテンシー、可用性、出力品質の実測を含まない。

アドレス変更後も、パラメーターが実際に有効か確認する

ストリーミング応答、ツール呼び出し、固定形式の出力が必要なアプリケーションを想定する。移行の受け入れ検証では、同じ代表的な入力群を使ってこれらの動作と使用量フィールドを確認すべきであり、1回成功しただけでトラフィックを増やすべきではない。双方のモデル識別子、バージョン、エンドポイントもそれぞれ確認し、表示名だけを比べてはいけない。

Together の互換性の説明では、OpenAI クライアントで Together のキーと https://api.together.ai/v1 を利用できる。ただし service_tier、store、metadata、prediction は受理されても無視され、seed はベストエフォートであり、レプリカ、バージョン、負荷条件をまたぐ決定性を保証しないと明記されている。これらのパラメーターの実際の効果に依存するなら、直接接続でも対応が必要だ。成功応答は制約が有効になった証拠ではない。

OpenRouter には上流選択の層がさらにある。プロバイダールーティングのドキュメントは、渡したパラメーターに対応しないプロバイダーを除外する require_parameters: true を提供する。パラメーター対応をルーティング条件にできるが、モデルの生成結果が業務要件を満たす保証にはならない。厳密な検証はアプリケーション側に残し、ルーティングの絞り込み失敗も処理すべき結果として扱い、成功率を戻すために黙って制約を緩めてはいけない。

プロバイダーの固定は、自動フォールバックの余地を狭める

OpenRouter の同じドキュメントは、優先指定と制限を区別する。order は優先順、only は許可するプロバイダーの制限で、allow_fallbacks はデフォルトで有効だ。受け入れ検証済みの特定プロバイダーだけを使う必要があるなら、候補を明示的に制限し、フォールバック規則を設定するべきだ。プロバイダー名が複数のエンドポイントバリエーションを含む場合もあるため、テストではブランド名だけでなく、選択したエンドポイントを確認する必要がある。

Together への直接接続は外部プロバイダーの選択を Together に固定するが、serverless で専用ハードウェアや固定レイテンシーを得ることにはならない。serverless の説明には、高負荷でレート制限が発生し得ること、応答時間はモデルや需要で変わることが記されている。予約したハードウェアを直接管理したいなら、dedicated endpoint を別途評価するべきだ。取引先の固定とデプロイリソースの固定は、異なる調達判断である。

例えば、質問応答では検証済みの代替モデルを許容できても、ツール呼び出しでは同じパラメーター規約を守らなければならない場合がある。OpenRouter のモデルフォールバックは models リストに従い別のモデルを順次試せる。これは同じモデルでプロバイダーを変更するのとは異なる。「代替可能なプロバイダー」と「代替可能なモデル」のリストを別々に管理し、最終応答の model を確認すべきだ。業務上の受け入れ検証をしていない代替モデルを、呼び出せるというだけで本番のフォールバックリストに入れてはいけない。

再試行ではレート制限、支払い問題、業務上の失敗を区別する

Together は 429 ではリクエストレートを下げてバーストを分散し、503 では短時間待って再試行し、指数バックオフを使うよう勧めている。エラーの説明は 402 をクレジット枯渇または支出上限到達に分類する。この種の支払い問題は再試行を続けても復旧せず、アプリケーションにはアラートと明確な失敗応答が必要だ。

OpenRouter は設定範囲内のプロバイダーやモデルへのフォールバックを担い、代替呼び出しをアプリケーションが自前で組み立てる作業を減らせる。ただしフォールバックにもユーザーの待ち時間を使い、答えが返っても業務検証を通るとは限らない。どちらの経路にも全体のタイムアウトと再試行上限を設け、ツール呼び出しによる外部操作の重複を防ぐべきだ。ここで述べるのは推奨する受け入れ条件であり、実施済みの障害訓練ではない。

請求照合では推論料金、プラットフォーム料金、稼働レプリカを分ける

OpenRouter の料金ページによれば、推論はプロバイダーの定価で課金され、プラットフォーム料金はクレジット購入時に徴収される。Standard は 5.5%、Business は 8% だ。したがってモデルの token 単価が同じでも、チャージの総支出が同じとはいえない。照合では推論消費、チャージ手数料、適用税を分けて記録するべきであり、クレジット購入の現金支出は、その月に全額消費したことも意味しない。

BYOK はさらに別の請求経路だ。OpenRouter BYOK ドキュメントと料金ページによれば、Standard と Business には毎月、定価での推論コスト 25,000 米ドル分の BYOK 手数料無料枠が含まれる。超過分は同じモデル・同じプロバイダーの OpenRouter 上の定価コストの 5% が OpenRouter 残高から差し引かれる。Enterprise の枠は個別協議となる。上流は引き続き推論料金を直接請求するため、この無料枠は上流の請求を免除せず、リクエスト回数で計算するものでもない。

例えば、ある月の BYOK の定価推論コストが 30,000 米ドルで、上記の 25,000 米ドル枠が適用されるなら、超過 5,000 米ドルに対する BYOK 手数料は 250 米ドルとなる。この例には、上流の推論請求、手数料支払い用のクレジット購入で発生する費用や税は含まれない。また、上流との契約割引がこの手数料の定価ベースの計算基礎を変えるという意味でもない。BYOK 失敗時に OpenRouter の共有エンドポイントへの切り替えを許すかも確認し、実際の支払い経路が想定とずれないようにすべきだ。

Together への直接接続のテキスト serverless は従量課金である。一方、専用推論の料金は稼働中のレプリカごとの分数で課金され、リクエストがなくても稼働中のレプリカには料金が発生する。したがって dedicated の GPU 時間単価を serverless の100万 token 当たり単価と直接比較してはいけない。まず業務トラフィックで必要なレプリカ数、稼働時間、アイドル比率を測定し、費用に見合うか計算するべきだ。本稿は専用デプロイが本質的に安いとは仮定しない。

実行経路を決めてから、合格結果1件当たりのコストを比べる

モデルやプロバイダーを頻繁に切り替え、承認済みルーティング集合を管理する意思があるなら OpenRouter を優先して検証する。主なトラフィックで Together のモデルを使うことが決まっており、その使用量、サポート、専用リソースに直接アクセスしたいなら Together を優先する。両経路を残してもよいが、「OpenRouter から Together へのルーティング」と「Together への直接接続」は別々に記録しなければ、障害分析と費用比較が混ざってしまう。

本番投入前に同じ入力群で、モデルとプロバイダーの識別情報、必須パラメーター、フォールバック後の形式、総待ち時間、請求フィールドをそれぞれ確認する。業務検証に合格した結果をコストの分母にし、失敗と再試行の消費も記録する。こうして比較できるのは、置き換え可能に見える2つの API アドレスではなく、アプリケーションが本当に必要とするサービスのコストである。

内容説明:本記事は公開情報をもとに整理した、ツール選定の参考情報です。機能、料金、関連ポリシーは随時変更される場合があります。最新の公式情報をご確認ください。

元の出典:openrouter.ai