Calculateur de seuil de rentabilité : GPU dédié vs API Cloud LLM
Identifiez le volume quotidien exact de requêtes et le seuil mensuel de tokens à partir desquels des GPU dédiés deviennent plus avantageux que les API Cloud facturées au token — en tenant compte des remises de cache de prompt, des heures actives de location et de la capacité physique de votre cluster GPU à soutenir le débit en tok/s requis.
Volume de charge, tarifs API et coûts GPU
Matrice complète des spécifications d’accélérateurs et de mémoire unifiée
| Accélérateur / Système | Tarif cloud typique $/h | Coût GPU dédié (30 jours) | Requêtes/jour au seuil d’équilibre | Débit décodage est. |
|---|---|---|---|---|
| RTX 3090 24GB | $0.29/hr | $209/mo | 14,061 req/d | OOM (TP≥2) |
| RTX 4090 24GB | $0.44/hr | $317/mo | 21,334 req/d | OOM (TP≥2) |
| RTX 5090 32GB | $0.79/hr | $569/mo | 38,304 req/d | OOM (TP≥2) |
| Apple M-Max 64GB | $0.22/hr | $158/mo | 10,667 req/d | 14.6 tok/s |
| Mac Studio 128GB | $0.32/hr | $230/mo | 15,516 req/d | 14.6 tok/s |
| Mac Studio 192GB | $0.48/hr | $346/mo | 23,273 req/d | 21.4 tok/s |
| NVIDIA A100 80GB | $1.49/hr | $1073/mo | 72,243 req/d | 61.3 tok/s |
| NVIDIA H100 80GB | $2.39/hr | $1721/mo | 115,879 req/d | 100.7 tok/s |
Pourquoi le taux d’utilisation et le cache de prompt déplacent le seuil de rentabilité
Les API Cloud facturées au token n’entraînent aucun coût à vide et accordent 75 à 90 % de remise sur les prompts système répétés, rendant les charges sporadiques bien plus économiques sur des points de terminaison gérés que sur des GPU loués 24h/24.
Dès que des pipelines continus en arrière-plan, des agents de code ou un trafic RAG fortement concurrent maintiennent une RTX 4090, une A100 ou une H100 occupée plus de ~25 à 35 % de la journée, le calcul horaire fixe bat rapidement la facturation au million de tokens générés. Comparez les tarifs en direct de plus de 460 fournisseurs d’API directement sur DevToken.