Apple Silicon M-Series Max (64 GB Unified Memory) — Modèles compatibles, contexte maximal et débits tok/s

Mémoire physique: 64 Go
Default / Tuned Usable: 48.0 / 56.3 Go
Bande passante mémoire: 546 GB/s
Calcul FP16: 32.8 TFLOPS
Tarif cloud typique $/h / CapEx: $0.22/hr · $3,499
TDP / Native FP8: 95W · FP16/INT4

Charger dans le calculateur VRAM → Générer une config vLLM / Ollama → Comparer GPU auto-hébergé vs API →

Simulateur interactif de charge sur Apple M-Max 64GB

Modèle prédéfini à poids ouverts (ou personnalisé)

Nombre d’unités multi-GPU (1× à 8× Apple M-Max 64GB)

Quantification des poids (bpw)

Précision du cache KV

Longueur du contexte (tokens) 32,768 tokens

Répartition mémoire et plafond de bande passante

Tient confortablement

Poids du modèle: 67% KV: 28.9% Overhead: 4.1%

Mémoire totale requise

27.66 Go

Allocation par périphérique: 27.66 / 64 Go

Poids du modèle

18.52 Go

KV: 8.00 Go

Décodage estimé (1 flux)

11.3 tok/s

Débit estimé en batch: 11.3 tok/s

Contexte max avant OOM

150,303

tokens

3. Mémoire unifiée Apple Silicon et borne supérieure de bande passante au décodage

macOS plafonne par défaut la mémoire GPU verrouillée vers 48.0 Go (75 %) ; augmenter iogpu.wired_limit_mb débloque jusqu’à 56.3 Go (88 %).

sudo sysctl iogpu.wired_limit_mb=57672

Sur les systèmes macOS Apple Silicon, l’allocation GPU verrouillée par défaut s’arrête vers 75 % de la RAM physique unifiée sauf ajustement via sysctl iogpu.wired_limit_mb (modélisé jusqu’à un plafond sûr de 88 % préservant la stabilité du système). La vitesse de décodage autorégressif est bornée par la bande passante mémoire externe effective divisée par les octets des paramètres actifs plus les octets actifs du cache KV lus à chaque étape, vérifiée toutes les 12 heures par le pipeline automatisé de VRAMLab.

Matrice de compatibilité des LLM à poids ouverts sur 1× Apple M-Max 64GB (contexte 32K)

Compatibilité et débit de décodage mono-flux estimé en tok/s pour FP16, Q8_0 et Q4_K_M sur une seule unité
Modèle et famille	FP16	Q8_0	Q4_K_M	Meilleure quantif. confortable	Contexte max (Q4_K_M)	Débit décodage (Q4_K_M)
DeepSeek-R1 (671B MoE) 671B · MLA	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	—	—	—
DeepSeek-V3-0324 (671B MoE) 671B · MLA	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	—	—	—
DeepSeek-R1-Distill-Llama-70B 70.6B · GQA	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	Nécessite sysctl wired_limit	Q5_K_M	48,209 tokens	6.0 tok/s
DeepSeek-R1-Distill-Qwen-32B 32.8B · GQA	Mémoire insuffisante (OOM)	Tient confortablement	Tient confortablement	Q8_0	150,303 tokens	11.3 tok/s
Qwen3-235B-A22B (MoE) 235B · GQA	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	—	—	—
Qwen3-30B-A3B (MoE) 30.5B · GQA	Mémoire insuffisante (OOM)	Tient confortablement	Tient confortablement	Q8_0	415,417 tokens	61.6 tok/s
Qwen3-32B 32.8B · GQA	Mémoire insuffisante (OOM)	Tient confortablement	Tient confortablement	Q8_0	150,303 tokens	11.3 tok/s
Qwen3-14B 14.8B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	309,087 tokens	22.4 tok/s
Qwen3-8B 8.2B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	371,379 tokens	32.8 tok/s
QwQ-32B (Reasoning) 32.8B · GQA	Mémoire insuffisante (OOM)	Tient confortablement	Tient confortablement	Q8_0	150,303 tokens	11.3 tok/s
Qwen2.5-Coder-32B-Instruct 32.8B · GQA	Mémoire insuffisante (OOM)	Tient confortablement	Tient confortablement	Q8_0	150,303 tokens	11.3 tok/s
Qwen2.5-72B-Instruct 72.7B · GQA	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	Nécessite sysctl wired_limit	Q5_K_M	44,207 tokens	5.9 tok/s
Llama 4 Maverick (400B / 17B-128E MoE) 402B · GQA	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	—	—	—
Llama 4 Scout (109B / 17B-16E MoE) 109B · HYBRID_SWA	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	—	—	—
Llama 3.3 70B Instruct 70.6B · GQA	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	Nécessite sysctl wired_limit	Q5_K_M	48,209 tokens	6.0 tok/s
Llama 3.1 405B Instruct 405B · GQA	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	—	—	—
Llama 3.1 8B Instruct 8.03B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	418,612 tokens	35.1 tok/s
Gemma 3 27B IT (Multimodal) 27.4B · HYBRID_SWA	Nécessite sysctl wired_limit	Tient confortablement	Tient confortablement	FP16 / BF16	84,214 tokens	16.3 tok/s
Gemma 3 12B IT (Multimodal) 12.2B · HYBRID_SWA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	132,915 tokens	32.5 tok/s
Mistral Small 3.1 (24B) 24B · GQA	Nécessite sysctl wired_limit	Tient confortablement	Tient confortablement	FP16 / BF16	274,023 tokens	16.1 tok/s
Mistral Large 2411 (123B) 123B · GQA	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	—	—	—
Codestral 22B 22.2B · GQA	Nécessite sysctl wired_limit	Tient confortablement	Tient confortablement	Q8_0	200,631 tokens	15.3 tok/s
Devstral Small (24B SWE Agent) 23.6B · GQA	Nécessite sysctl wired_limit	Tient confortablement	Tient confortablement	Q8_0	275,548 tokens	16.3 tok/s
GLM-4-32B-0414 32B · GQA	Mémoire insuffisante (OOM)	Tient confortablement	Tient confortablement	Q8_0	638,777 tokens	15.0 tok/s
GLM-4-9B-0414 9.4B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	1,048,576 tokens	45.7 tok/s
Microsoft Phi-4 (14B) 14.7B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	247,574 tokens	20.6 tok/s
Microsoft Phi-4-mini-instruct (3.8B) 3.84B · GQA	Tient confortablement	Tient confortablement	Tient confortablement	FP16 / BF16	438,573 tokens	48.5 tok/s
Cohere Command A (111B) 111B · HYBRID_SWA	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	Mémoire insuffisante (OOM)	—	—	—