自前ホストGPU vs クラウドLLM API 損益分岐計算機
専用GPUが従量課金クラウドAPIより安くなる1日あたりのリクエスト数と月間トークン閾値を算出します。プロンプトキャッシュ割引、稼働時間、選択したGPUクラスタが必要なtok/sスループットを物理的に維持できるかも同時に判定します。
ワークロード量・API単価・GPUコスト入力
アクセラレータ & 統合メモリ仕様マトリクス一覧
| アクセラレータ / システム | クラウド目安 $/h | 30日間 専用GPUコスト | 損益分岐リクエスト数 / 日 | 推定デコード速度 |
|---|---|---|---|---|
| RTX 3090 24GB | $0.29/hr | $209/mo | 14,061 req/d | OOM (TP≥2) |
| RTX 4090 24GB | $0.44/hr | $317/mo | 21,334 req/d | OOM (TP≥2) |
| RTX 5090 32GB | $0.79/hr | $569/mo | 38,304 req/d | OOM (TP≥2) |
| Apple M-Max 64GB | $0.22/hr | $158/mo | 10,667 req/d | 14.6 tok/s |
| Mac Studio 128GB | $0.32/hr | $230/mo | 15,516 req/d | 14.6 tok/s |
| Mac Studio 192GB | $0.48/hr | $346/mo | 23,273 req/d | 21.4 tok/s |
| NVIDIA A100 80GB | $1.49/hr | $1073/mo | 72,243 req/d | 61.3 tok/s |
| NVIDIA H100 80GB | $2.39/hr | $1721/mo | 115,879 req/d | 100.7 tok/s |
稼働率とプロンプトキャッシュが損益分岐曲線を動かす理由
従量課金のクラウドAPIはアイドル時の待機コストがゼロで、反復システムプロンプトには最大75〜90%の割引が効くため、スパイク中心の低稼働ワークロードでは常時稼働のレンタルGPUより大幅に安くなります。
一方、定常バッチ処理、コーディングエージェント、高並列RAGトラフィックで RTX 4090、A100、H100 の稼働率が1日の約25〜35%を超えると、固定時間課金が百万出力トークン課金を急速に下回ります。460以上のプロバイダーの最新API料金は DevToken で直接比較できます。