Apple Mac Studio M2/M3 Ultra (192 GB Unified Memory) — Modelli eseguibili, contesto massimo e prestazioni in tok/s

Memoria fisica: 192 GB
Default / Tuned Usable: 144.0 / 169.0 GB
Banda di memoria: 800 GB/s
Calcolo FP16: 54.4 TFLOPS
Tariffa cloud tipica $/h / CapEx: $0.48/hr · $5,999
TDP / Native FP8: 175W · FP16/INT4

Apri nel calcolatore VRAM → Genera config vLLM / Ollama → Confronta GPU self-hosted vs API →

Simulatore interattivo dei carichi di lavoro su Mac Studio 192GB

Preset modello open-weight (o personalizzato)

Numero multi-dispositivo (da 1× a 8× Mac Studio 192GB)

Quantizzazione dei pesi (bpw)

Precisione KV Cache

Lunghezza contesto (token) 32,768 token

Ripartizione memoria e limite di banda passante

Entra comodamente

Pesi del modello: 77.4% KV: 19.4% Overhead: 3.2%

Memoria totale richiesta

51.51 GB

Allocazione per dispositivo: 51.51 / 192 GB

Pesi del modello

39.86 GB

KV: 10.00 GB

Decodifica stimata (singolo flusso)

8.8 tok/s

Throughput batch stimato: 8.8 tok/s

Contesto max prima di OOM

417,308

token

3. Memoria unificata Apple Silicon e limite superiore di banda in decodifica

macOS limita di default la memoria GPU wired a circa 144.0 GB (75%); aumentando iogpu.wired_limit_mb si sbloccano fino a 169.0 GB (88%).

sudo sysctl iogpu.wired_limit_mb=173015

Sui sistemi macOS con Apple Silicon, l’allocazione GPU wired predefinita si ferma intorno al 75% della RAM fisica unificata salvo modifica tramite sysctl iogpu.wired_limit_mb (modellata fino a un tetto sicuro dell’88% che tutela la stabilità del sistema operativo). La velocità di decodifica autoregressiva è limitata dalla banda effettiva della memoria esterna divisa per i byte dei parametri attivi più i byte attivi della KV cache letti ad ogni passo, verificata ogni 12 ore dalla pipeline automatizzata di VRAMLab.

Matrice di compatibilità LLM open-weight su 1× Mac Studio 192GB (contesto 32K)

Stato di compatibilità e tok/s stimati in decodifica singolo flusso per FP16, Q8_0 e Q4_K_M su singolo dispositivo
Modello e famiglia	FP16	Q8_0	Q4_K_M	Migliore quant. comoda	Contesto max (Q4_K_M)	Velocità decod. (Q4_K_M)
DeepSeek-R1 (671B MoE) 671B · MLA	Memoria esaurita (OOM)	Memoria esaurita (OOM)	Memoria esaurita (OOM)	—	—	—
DeepSeek-V3-0324 (671B MoE) 671B · MLA	Memoria esaurita (OOM)	Memoria esaurita (OOM)	Memoria esaurita (OOM)	—	—	—
DeepSeek-R1-Distill-Llama-70B 70.6B · GQA	Richiede sysctl wired_limit	Entra comodamente	Entra comodamente	Q8_0	417,308 token	8.8 tok/s
DeepSeek-R1-Distill-Qwen-32B 32.8B · GQA	Entra comodamente	Entra comodamente	Entra comodamente	FP16 / BF16	611,676 token	16.5 tok/s
Qwen3-235B-A22B (MoE) 235B · GQA	Memoria esaurita (OOM)	Memoria esaurita (OOM)	Al limite (>90% usabile)	Q5_K_M	177,059 token	24.0 tok/s
Qwen3-30B-A3B (MoE) 30.5B · GQA	Entra comodamente	Entra comodamente	Entra comodamente	FP16 / BF16	1,048,576 token	90.2 tok/s
Qwen3-32B 32.8B · GQA	Entra comodamente	Entra comodamente	Entra comodamente	FP16 / BF16	611,676 token	16.5 tok/s
Qwen3-14B 14.8B · GQA	Entra comodamente	Entra comodamente	Entra comodamente	FP16 / BF16	1,047,285 token	32.8 tok/s
Qwen3-8B 8.2B · GQA	Entra comodamente	Entra comodamente	Entra comodamente	FP16 / BF16	1,048,576 token	48.1 tok/s
QwQ-32B (Reasoning) 32.8B · GQA	Entra comodamente	Entra comodamente	Entra comodamente	FP16 / BF16	611,676 token	16.5 tok/s
Qwen2.5-Coder-32B-Instruct 32.8B · GQA	Entra comodamente	Entra comodamente	Entra comodamente	FP16 / BF16	611,676 token	16.5 tok/s
Qwen2.5-72B-Instruct 72.7B · GQA	Richiede sysctl wired_limit	Entra comodamente	Entra comodamente	Q8_0	413,306 token	8.6 tok/s
Llama 4 Maverick (400B / 17B-128E MoE) 402B · GQA	Memoria esaurita (OOM)	Memoria esaurita (OOM)	Memoria esaurita (OOM)	—	—	—
Llama 4 Scout (109B / 17B-16E MoE) 109B · HYBRID_SWA	Memoria esaurita (OOM)	Entra comodamente	Entra comodamente	Q8_0	573,553 token	35.6 tok/s
Llama 3.3 70B Instruct 70.6B · GQA	Richiede sysctl wired_limit	Entra comodamente	Entra comodamente	Q8_0	417,308 token	8.8 tok/s
Llama 3.1 405B Instruct 405B · GQA	Memoria esaurita (OOM)	Memoria esaurita (OOM)	Memoria esaurita (OOM)	—	—	—
Llama 3.1 8B Instruct 8.03B · GQA	Entra comodamente	Entra comodamente	Entra comodamente	FP16 / BF16	1,048,576 token	51.4 tok/s
Gemma 3 27B IT (Multimodal) 27.4B · HYBRID_SWA	Entra comodamente	Entra comodamente	Entra comodamente	FP16 / BF16	322,342 token	23.9 tok/s
Gemma 3 12B IT (Multimodal) 12.2B · HYBRID_SWA	Entra comodamente	Entra comodamente	Entra comodamente	FP16 / BF16	440,497 token	47.7 tok/s
Mistral Small 3.1 (24B) 24B · GQA	Entra comodamente	Entra comodamente	Entra comodamente	FP16 / BF16	1,012,221 token	23.6 tok/s
Mistral Large 2411 (123B) 123B · GQA	Memoria esaurita (OOM)	Al limite (>90% usabile)	Entra comodamente	Q6_K	288,593 token	5.5 tok/s
Codestral 22B 22.2B · GQA	Entra comodamente	Entra comodamente	Entra comodamente	FP16 / BF16	727,915 token	22.5 tok/s
Devstral Small (24B SWE Agent) 23.6B · GQA	Entra comodamente	Entra comodamente	Entra comodamente	FP16 / BF16	1,013,745 token	23.9 tok/s
GLM-4-32B-0414 32B · GQA	Entra comodamente	Entra comodamente	Entra comodamente	FP16 / BF16	1,048,576 token	22.0 tok/s
GLM-4-9B-0414 9.4B · GQA	Entra comodamente	Entra comodamente	Entra comodamente	FP16 / BF16	1,048,576 token	66.9 tok/s
Microsoft Phi-4 (14B) 14.7B · GQA	Entra comodamente	Entra comodamente	Entra comodamente	FP16 / BF16	838,132 token	30.2 tok/s
Microsoft Phi-4-mini-instruct (3.8B) 3.84B · GQA	Entra comodamente	Entra comodamente	Entra comodamente	FP16 / BF16	1,048,576 token	71.1 tok/s
Cohere Command A (111B) 111B · HYBRID_SWA	Memoria esaurita (OOM)	Entra comodamente	Entra comodamente	Q8_0	425,400 token	6.7 tok/s