Apple Mac Studio M4 Max (128 GB Unified Memory) — Modèles compatibles, contexte maximal et débits tok/s

Mémoire physique: 128 Go
Default / Tuned Usable: 96.0 / 112.6 Go
Bande passante mémoire: 546 GB/s
Calcul FP16: 36.4 TFLOPS
Tarif cloud typique $/h / CapEx: $0.32/hr · $4,499
TDP / Native FP8: 120W · FP16/INT4

Charger dans le calculateur VRAM → Générer une config vLLM / Ollama → Comparer GPU auto-hébergé vs API →

Simulateur interactif de charge sur Mac Studio 128GB

Modèle prédéfini à poids ouverts (ou personnalisé)

Nombre d’unités multi-GPU (1× à 8× Mac Studio 128GB)

Quantification des poids (bpw)

Précision du cache KV

Longueur du contexte (tokens) 32,768 tokens

Répartition mémoire et plafond de bande passante

Tient confortablement

Poids du modèle: 77.4% KV: 19.4% Overhead: 3.2%

Mémoire totale requise

51.51 Go

Allocation par périphérique: 51.51 / 128 Go

Poids du modèle

39.86 Go

KV: 10.00 Go

Décodage estimé (1 flux)

6.0 tok/s

Débit estimé en batch: 6.0 tok/s

Contexte max avant OOM

232,758

tokens

3. Mémoire unifiée Apple Silicon et borne supérieure de bande passante au décodage

macOS plafonne par défaut la mémoire GPU verrouillée vers 96.0 Go (75 %) ; augmenter iogpu.wired_limit_mb débloque jusqu’à 112.6 Go (88 %).

sudo sysctl iogpu.wired_limit_mb=115343

Sur les systèmes macOS Apple Silicon, l’allocation GPU verrouillée par défaut s’arrête vers 75 % de la RAM physique unifiée sauf ajustement via sysctl iogpu.wired_limit_mb (modélisé jusqu’à un plafond sûr de 88 % préservant la stabilité du système). La vitesse de décodage autorégressif est bornée par la bande passante mémoire externe effective divisée par les octets des paramètres actifs plus les octets actifs du cache KV lus à chaque étape, vérifiée toutes les 12 heures par le pipeline automatisé de VRAMLab.

Matrice de compatibilité des LLM à poids ouverts sur 1× Mac Studio 128GB (contexte 32K)

Compatibilité et débit de décodage mono-flux estimé en tok/s pour FP16, Q8_0 et Q4_K_M sur une seule unité
Modèle et famille	FP16	Q8_0	Q4_K_M	Meilleure quantif. confortable	Contexte max (Q4_K_M)	Débit décodage (Q4_K_M)
DeepSeek-R1 (671B MoE) 671B · MLA	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	—	—	—
DeepSeek-V3-0324 (671B MoE) 671B · MLA	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	—	—	—
DeepSeek-R1-Distill-Llama-70B 70.6B · GQA	Mémoire insuffisante (OOM)	Tient confortablement	Tient confortablement	Q8_0	232,758 tokens	6.0 tok/s
DeepSeek-R1-Distill-Qwen-32B 32.8B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	380,989 tokens	11.3 tok/s
Qwen3-235B-A22B (MoE) 235B · GQA	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	—	—	—
Qwen3-30B-A3B (MoE) 30.5B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	1,030,582 tokens	61.6 tok/s
Qwen3-32B 32.8B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	380,989 tokens	11.3 tok/s
Qwen3-14B 14.8B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	678,186 tokens	22.4 tok/s
Qwen3-8B 8.2B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	781,489 tokens	32.8 tok/s
QwQ-32B (Reasoning) 32.8B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	380,989 tokens	11.3 tok/s
Qwen2.5-Coder-32B-Instruct 32.8B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	380,989 tokens	11.3 tok/s
Qwen2.5-72B-Instruct 72.7B · GQA	Mémoire insuffisante (OOM)	Tient confortablement	Tient confortablement	Q8_0	228,757 tokens	5.9 tok/s
Llama 4 Maverick (400B / 17B-128E MoE) 402B · GQA	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	—	—	—
Llama 4 Scout (109B / 17B-16E MoE) 109B · HYBRID_SWA	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	Tient confortablement	Q8_0	265,971 tokens	24.3 tok/s
Llama 3.3 70B Instruct 70.6B · GQA	Mémoire insuffisante (OOM)	Tient confortablement	Tient confortablement	Q8_0	232,758 tokens	6.0 tok/s
Llama 3.1 405B Instruct 405B · GQA	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	—	—	—
Llama 3.1 8B Instruct 8.03B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	879,985 tokens	35.1 tok/s
Gemma 3 27B IT (Multimodal) 27.4B · HYBRID_SWA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	203,278 tokens	16.3 tok/s
Gemma 3 12B IT (Multimodal) 12.2B · HYBRID_SWA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	286,706 tokens	32.5 tok/s
Mistral Small 3.1 (24B) 24B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	643,122 tokens	16.1 tok/s
Mistral Large 2411 (123B) 123B · GQA	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	Tient confortablement	Q6_K	120,821 tokens	3.7 tok/s
Codestral 22B 22.2B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	464,273 tokens	15.3 tok/s
Devstral Small (24B SWE Agent) 23.6B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	644,647 tokens	16.3 tok/s
GLM-4-32B-0414 32B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	1,048,576 tokens	15.0 tok/s
GLM-4-9B-0414 9.4B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	1,048,576 tokens	45.7 tok/s
Microsoft Phi-4 (14B) 14.7B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	542,853 tokens	20.6 tok/s
Microsoft Phi-4-mini-instruct (3.8B) 3.84B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	899,947 tokens	48.5 tok/s
Cohere Command A (111B) 111B · HYBRID_SWA	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	Tient confortablement	Q5_K_M	194,714 tokens	4.6 tok/s