Runpod Serverless vs Modal:画像推論APIはジョブ用インターフェースとPython関数のどちらから選ぶべきか

アクセスの波が大きい独自の画像推論APIについて、コンテナ型ジョブエンドポイントとPython関数によるデプロイを比較。計算料金を換算し、同じ提供目標でウォーム容量とリソースのコストを検討する。

ソース: docs.runpod.io
2026年11月2日
7 min

Pythonチームが独自の画像推論モデルを業務システムにつなぐとする。日中は時折リクエストが集中するが、夜はほぼ利用されない。Runpod ServerlessもModalも需要に応じてスケールできるが、選定ではまず提供方法を決めたい。デプロイ可能なコンテナがあり、そのままジョブエンドポイントを利用したいならRunpodを優先して検討する。Pythonで関数とリソースを構成し、非同期ジョブをアプリケーションに組み込みたいならModalを優先する。どちらも、遅延目標を満たした構成の実際の請求額で最終判断する必要がある。本稿は2026年11月10日に確認した公式資料に基づく分析であり、デプロイの実測は行っていない。

同じ推論ジョブに対する二つの接続方法

分析用のシナリオを設定する。業務システムが画像とパラメーターを送信し、サービスが同じモデルを実行して結果を返す。非同期で待つことは許容するが、ジョブの状態を問い合わせる必要がある。Runpodの公式エンドポイント文書はqueue-basedとload balancingを区別している。前者はhandlerを使い、/runによる非同期呼び出しと/runsyncによる同期呼び出し、失敗時の自動再試行に対応する。後者は独自のHTTPサービスに直接アクセスする方式で、handlerは不要だが、同じ自動再試行は提供されない。既存のDockerイメージからデプロイできても、HTTPサービスがあるだけでコードを変更せずキュー型エンドポイントにつなげられるとは限らない。

Modalのジョブ処理文書が示すのは、Functionをデプロイし、.spawn()でジョブを送信し、FunctionCall.get()で結果を取得する方法だ。FastAPIで送信と照会のインターフェースを包むこともできる。文書では完了後7日間結果を取得できるとされているため、長期の業務記録は自社のシステムに保存する必要がある。Pythonチームにとって、呼び出し、リソース、ジョブ処理を同じコードベースにまとめられる一方、プラットフォームのSDKとアプリケーションのインターフェースの連携を保守する必要がある。Runpodの標準ジョブ入口もModalの関数呼び出しも、業務側のジョブ識別子、結果保存、重複送信への対応を代替するものではない。

秒単価で分かるのは請求額の一部

Runpodの課金文書では、workerの起動から完全停止までが課金対象となり、秒単位で切り上げられる。モデルの初期化、リクエスト処理、停止前の待機にも計算料金が発生しうる。スケールダウンして停止したworkerには計算料金がかからない。Modalのスケーリング文書では、Functionはデフォルトでゼロまで縮小できるが、min_containers、buffer_containers、scaledown_windowで容量を保持でき、ウォーム容量を増やせばコストも増えると説明されている。低頻度の業務で初回の待ち時間を許容できるかどうかは、両方の予算を左右する。「serverless」という言葉だけから、画像生成にかかった数秒だけ支払うと考えてはいけない。

現在のRunpod Serverless料金表では、L40、L40S、6000 Ada、MIG 48GBが1時間1.75米ドルの同じグループにまとめられている。これはPodsの基本インスタンス料金ではなく、毎回L40Sが割り当てられる保証でもない。ModalのL40S GPUは1秒0.000542米ドルで、別途CPUは物理コア当たり毎秒0.0000131米ドル、メモリはGiB当たり毎秒0.00000222米ドルと記載されている。Modalのリソース文書によれば、CPUとメモリは要求量と実使用量の大きい方で課金される。

両方で単一GPUの課金時間が100時間発生すると仮定する。Runpodの上記グループの計算料金は175米ドルとなる。ModalはL40S GPUだけで195.12米ドル。同じ期間の課金対象CPUが物理1コア、メモリが8 GiBなら4.716米ドルと6.3936米ドルを加え、小計は約206.23米ドルになる。この例は時間単位をそろえただけで、スループットが同じともRunpodが必ず安いとも証明していない。グループ内のGPU機種、初期化、ウォーム容量、並行処理によって、同じジョブ群を完了するための課金時間は変わる。ストレージ、ネットワーク、税金、プラン、クレジットも含めていない。

まず提供結果を検証し、合格した結果当たりの費用を比べる

価格以外で特に避けたい誤解は、「コンテナの起動が速ければ、モデルの最初の結果も速い」というものだ。Modalのコールドスタート文書は、コンテナ起動と、依存関係のインポート、初期化コードの実行、モデル読み込み後の準備完了を明確に分けている。Runpodの課金文書も、handlerが準備できる前のモデル読み込みをコールドスタートに含めている。両方とも、業務システムの送信から利用可能な結果を取得するまでの時間を測り、プラットフォームが示す一部分の時間だけを見ないようにする。

小規模な受け入れ検証を行う。モデルのバージョン、精度、画像サイズ、batch、GPU機種、リージョンを固定し、同じリクエスト群を再生する。連続呼び出し、長時間リクエストがなかった後の初回呼び出し、突発的な同時リクエストを含める。Runpodのリソースグループで同じ機種に固定できなければ、その回はリソースグループ比較と表記し、同一GPUテストとは呼ばない。失敗時の再試行で結果が重複しないか、ジョブ終了後に成果物を確実に保存できるかも確認する。初期化、ウォーム容量、補助リソースを含む各費用を、同じ品質・遅延要件を満たした成功結果数で割ることで、調達判断に役立つ単価になる。

既存の成果物がコンテナで、業務が送信後に照会するジョブインターフェースに合うなら、Runpodのキュー型エンドポイントを先に検証したい。前処理、推論、結果処理を主にPythonで改善しており、関数ベースのデプロイコードを保守する意思があるなら、Modalを先に検証したい。低トラフィックでも即時応答が必要なら、どちらの案にもウォーム容量の維持費を入れる。公開料金は予算と実験を計画する材料にはなるが、このモデルとこのトラフィックに対する受け入れ検証の代わりにはならない。

内容説明:本記事は公開情報をもとに整理した、ツール選定の参考情報です。機能、料金、関連ポリシーは随時変更される場合があります。最新の公式情報をご確認ください。

元の出典:docs.runpod.io