Apple Silicon M-Series Max (64 GB Unified Memory) — Lauffähige Modelle, maximaler Kontext & tok/s-Richtwerte

Physischer Speicher: 64 GB
Default / Tuned Usable: 48.0 / 56.3 GB
Speicherbandbreite: 546 GB/s
FP16-Rechenleistung: 32.8 TFLOPS
Typischer Cloud-$/Std. / CapEx: $0.22/hr · $3,499
TDP / Native FP8: 95W · FP16/INT4

Im VRAM-Rechner öffnen → vLLM- / Ollama-Config erzeugen → Eigene GPU vs. API vergleichen →

Interaktiver Workload-Simulator auf Apple M-Max 64GB

Open-Weight-Modellvorlage (oder benutzerdefiniert)

Multi-Device-Anzahl (1× bis 8× Apple M-Max 64GB)

Gewichtsquantisierung (bpw)

KV-Cache-Präzision

Kontextlänge (Tokens) 32,768 Tokens

Speicheraufschlüsselung & Bandbreitenlimit

Passt komfortabel

Modellgewichte: 67% KV: 28.9% Overhead: 4.1%

Gesamter Speicherbedarf

27.66 GB

Belegung pro Gerät: 27.66 / 64 GB

Modellgewichte

18.52 GB

KV: 8.00 GB

Gesch. Einzelstream-Decode

11.3 tok/s

Gesch. Batch-Durchsatz: 11.3 tok/s

Max. Kontext vor OOM

150,303

Tokens

3. Apple Silicon Unified Memory & obere Schranke der Decode-Bandbreite

macOS begrenzt den verdrahteten GPU-Speicher standardmäßig auf rund 48.0 GB (75 %); eine Erhöhung von iogpu.wired_limit_mb schaltet bis zu 56.3 GB (88 %) frei.

sudo sysctl iogpu.wired_limit_mb=57672

Auf macOS-Systemen mit Apple Silicon endet die standardmäßige verdrahtete GPU-Zuweisung bei rund 75 % des physischen Unified RAM, sofern sie nicht per sysctl iogpu.wired_limit_mb angehoben wird (modelliert bis zu einer stabilen Obergrenze von 88 %). Die autoregressive Decode-Geschwindigkeit wird durch die effektive externe Speicherbandbreite geteilt durch aktive Parameter-Bytes plus pro Schritt gelesene KV-Cache-Bytes begrenzt und alle 12 Stunden durch die automatisierte Verifikationspipeline von VRAMLab geprüft.

Open-Weight-LLM-Kompatibilitätsmatrix auf 1× Apple M-Max 64GB (32K Kontext)

Passstatus und geschätzte Einzelstream-Decode-Rate in tok/s für FP16, Q8_0 und Q4_K_M auf einem einzelnen Gerät
Modell & Familie	FP16	Q8_0	Q4_K_M	Beste komfortable Quant.	Max. Kontext (Q4_K_M)	Decode-Tempo (Q4_K_M)
DeepSeek-R1 (671B MoE) 671B · MLA	Zu wenig Speicher (OOM)	Zu wenig Speicher (OOM)	Zu wenig Speicher (OOM)	—	—	—
DeepSeek-V3-0324 (671B MoE) 671B · MLA	Zu wenig Speicher (OOM)	Zu wenig Speicher (OOM)	Zu wenig Speicher (OOM)	—	—	—
DeepSeek-R1-Distill-Llama-70B 70.6B · GQA	Zu wenig Speicher (OOM)	Zu wenig Speicher (OOM)	Erfordert sysctl wired_limit	Q5_K_M	48,209 Tokens	6.0 tok/s
DeepSeek-R1-Distill-Qwen-32B 32.8B · GQA	Zu wenig Speicher (OOM)	Passt komfortabel	Passt komfortabel	Q8_0	150,303 Tokens	11.3 tok/s
Qwen3-235B-A22B (MoE) 235B · GQA	Zu wenig Speicher (OOM)	Zu wenig Speicher (OOM)	Zu wenig Speicher (OOM)	—	—	—
Qwen3-30B-A3B (MoE) 30.5B · GQA	Zu wenig Speicher (OOM)	Passt komfortabel	Passt komfortabel	Q8_0	415,417 Tokens	61.6 tok/s
Qwen3-32B 32.8B · GQA	Zu wenig Speicher (OOM)	Passt komfortabel	Passt komfortabel	Q8_0	150,303 Tokens	11.3 tok/s
Qwen3-14B 14.8B · GQA	Passt komfortabel	Passt komfortabel	Passt komfortabel	FP16 / BF16	309,087 Tokens	22.4 tok/s
Qwen3-8B 8.2B · GQA	Passt komfortabel	Passt komfortabel	Passt komfortabel	FP16 / BF16	371,379 Tokens	32.8 tok/s
QwQ-32B (Reasoning) 32.8B · GQA	Zu wenig Speicher (OOM)	Passt komfortabel	Passt komfortabel	Q8_0	150,303 Tokens	11.3 tok/s
Qwen2.5-Coder-32B-Instruct 32.8B · GQA	Zu wenig Speicher (OOM)	Passt komfortabel	Passt komfortabel	Q8_0	150,303 Tokens	11.3 tok/s
Qwen2.5-72B-Instruct 72.7B · GQA	Zu wenig Speicher (OOM)	Zu wenig Speicher (OOM)	Erfordert sysctl wired_limit	Q5_K_M	44,207 Tokens	5.9 tok/s
Llama 4 Maverick (400B / 17B-128E MoE) 402B · GQA	Zu wenig Speicher (OOM)	Zu wenig Speicher (OOM)	Zu wenig Speicher (OOM)	—	—	—
Llama 4 Scout (109B / 17B-16E MoE) 109B · HYBRID_SWA	Zu wenig Speicher (OOM)	Zu wenig Speicher (OOM)	Zu wenig Speicher (OOM)	—	—	—
Llama 3.3 70B Instruct 70.6B · GQA	Zu wenig Speicher (OOM)	Zu wenig Speicher (OOM)	Erfordert sysctl wired_limit	Q5_K_M	48,209 Tokens	6.0 tok/s
Llama 3.1 405B Instruct 405B · GQA	Zu wenig Speicher (OOM)	Zu wenig Speicher (OOM)	Zu wenig Speicher (OOM)	—	—	—
Llama 3.1 8B Instruct 8.03B · GQA	Passt komfortabel	Passt komfortabel	Passt komfortabel	FP16 / BF16	418,612 Tokens	35.1 tok/s
Gemma 3 27B IT (Multimodal) 27.4B · HYBRID_SWA	Erfordert sysctl wired_limit	Passt komfortabel	Passt komfortabel	FP16 / BF16	84,214 Tokens	16.3 tok/s
Gemma 3 12B IT (Multimodal) 12.2B · HYBRID_SWA	Passt komfortabel	Passt komfortabel	Passt komfortabel	FP16 / BF16	132,915 Tokens	32.5 tok/s
Mistral Small 3.1 (24B) 24B · GQA	Erfordert sysctl wired_limit	Passt komfortabel	Passt komfortabel	FP16 / BF16	274,023 Tokens	16.1 tok/s
Mistral Large 2411 (123B) 123B · GQA	Zu wenig Speicher (OOM)	Zu wenig Speicher (OOM)	Zu wenig Speicher (OOM)	—	—	—
Codestral 22B 22.2B · GQA	Erfordert sysctl wired_limit	Passt komfortabel	Passt komfortabel	Q8_0	200,631 Tokens	15.3 tok/s
Devstral Small (24B SWE Agent) 23.6B · GQA	Erfordert sysctl wired_limit	Passt komfortabel	Passt komfortabel	Q8_0	275,548 Tokens	16.3 tok/s
GLM-4-32B-0414 32B · GQA	Zu wenig Speicher (OOM)	Passt komfortabel	Passt komfortabel	Q8_0	638,777 Tokens	15.0 tok/s
GLM-4-9B-0414 9.4B · GQA	Passt komfortabel	Passt komfortabel	Passt komfortabel	FP16 / BF16	1,048,576 Tokens	45.7 tok/s
Microsoft Phi-4 (14B) 14.7B · GQA	Passt komfortabel	Passt komfortabel	Passt komfortabel	FP16 / BF16	247,574 Tokens	20.6 tok/s
Microsoft Phi-4-mini-instruct (3.8B) 3.84B · GQA	Passt komfortabel	Passt komfortabel	Passt komfortabel	FP16 / BF16	438,573 Tokens	48.5 tok/s
Cohere Command A (111B) 111B · HYBRID_SWA	Zu wenig Speicher (OOM)	Zu wenig Speicher (OOM)	Zu wenig Speicher (OOM)	—	—	—