Break-Even-Rechner: Dedizierte GPU vs. Cloud-LLM-API
Ermitteln Sie das genaue tägliche Anfragevolumen und die monatliche Tokenschwelle, ab der dedizierte GPUs günstiger sind als nutzungsbasierte Cloud-APIs — unter Berücksichtigung von Prompt-Caching-Rabatten, aktiven Mietstunden und der realen tok/s-Durchsatzgrenze Ihres GPU-Clusters.
Workload-Volumen, API-Preise & GPU-Kosten
Vollständige Spezifikationsmatrix für Beschleuniger & Unified Memory
| Beschleuniger / System | Typischer Cloud-$/Std. | 30-Tage-Kosten dedizierte GPU | Break-Even-Anfragen / Tag | Gesch. Decode-Rate |
|---|---|---|---|---|
| RTX 3090 24GB | $0.29/hr | $209/mo | 14,061 req/d | OOM (TP≥2) |
| RTX 4090 24GB | $0.44/hr | $317/mo | 21,334 req/d | OOM (TP≥2) |
| RTX 5090 32GB | $0.79/hr | $569/mo | 38,304 req/d | OOM (TP≥2) |
| Apple M-Max 64GB | $0.22/hr | $158/mo | 10,667 req/d | 14.6 tok/s |
| Mac Studio 128GB | $0.32/hr | $230/mo | 15,516 req/d | 14.6 tok/s |
| Mac Studio 192GB | $0.48/hr | $346/mo | 23,273 req/d | 21.4 tok/s |
| NVIDIA A100 80GB | $1.49/hr | $1073/mo | 72,243 req/d | 61.3 tok/s |
| NVIDIA H100 80GB | $2.39/hr | $1721/mo | 115,879 req/d | 100.7 tok/s |
Warum Auslastung und Prompt-Caching die Break-Even-Kurve verschieben
Tokenbasierte Cloud-APIs verursachen keine Leerlaufkosten und rabattieren wiederkehrende System-Prompts um 75–90 %, wodurch schwankende Workloads mit geringer Grundlast auf verwalteten Endpunkten deutlich günstiger sind als rund um die Uhr gemietete GPUs.
Sobald kontinuierliche Hintergrund-Pipelines, Coding-Agenten oder hochparalleler RAG-Traffic eine RTX 4090, A100 oder H100 über ~25–35 % des Tages auslasten, unterbieten feste Stundensätze rasch die Abrechnung pro Million Ausgabe-Tokens. Aktuelle API-Tarife von über 460 Anbietern vergleichen Sie direkt auf DevToken.