Apple Mac Studio M2/M3 Ultra (192 GB Unified Memory) — 動作可能モデル・最大コンテキスト & tok/s ベンチマーク

物理メモリ: 192 GB
Default / Tuned Usable: 144.0 / 169.0 GB
メモリ帯域幅: 800 GB/s
FP16 演算性能: 54.4 TFLOPS
クラウド目安 $/h / CapEx: $0.48/hr · $5,999
TDP / Native FP8: 175W · FP16/INT4

VRAM計算機で開く → vLLM / Ollama 設定を生成 → 自前GPU vs API を比較 →

Mac Studio 192GB インタラクティブ負荷シミュレーター

オープンウェイトモデル（またはカスタム）

マルチデバイス構成（1×〜8× Mac Studio 192GB）

重み量子化 (bpw)

KVキャッシュ精度

コンテキスト長 (tokens) 32,768 トークン

メモリ内訳 & メモリ帯域幅上限

余裕で収容可能

モデル重み: 77.4% KV: 19.4% Overhead: 3.2%

必要メモリ合計

51.51 GB

デバイスあたり割当量: 51.51 / 192 GB

モデル重み

39.86 GB

KV: 10.00 GB

推定単一ストリーム速度

8.8 tok/s

推定バッチ総スループット: 8.8 tok/s

OOM到達前の最大コンテキスト

417,308

トークン

3. Apple Silicon 統合メモリ上限とデコード帯域幅の上界モデル

macOSのGPUワイヤード上限は既定で約 144.0 GB（75%）です。iogpu.wired_limit_mb の引き上げで最大 169.0 GB（88%）まで解放できます。

sudo sysctl iogpu.wired_limit_mb=173015

macOSのApple Silicon環境では、sysctl iogpu.wired_limit_mb で上書きしない限り既定のGPUワイヤード割当は物理統合RAMの約75%で頭打ちになります（OS安定性を保つ安全上限として最大88%までモデル化）。自己回帰デコード速度は実効外部メモリ帯域幅を1ステップあたりの有効パラメータ読出バイト数＋有効KVキャッシュ読出バイト数で割った上界で求まり、VRAMLabの12時間自動検証パイプラインにより継続検証されます。

1× Mac Studio 192GB オープンウェイトLLM互換マトリクス（32K コンテキスト）

単一デバイスでの FP16・Q8_0・Q4_K_M 収容判定と推定単一ストリーム tok/s
モデル & ファミリー	FP16	Q8_0	Q4_K_M	最適量子化	最大コンテキスト (Q4_K_M)	デコード速度 (Q4_K_M)
DeepSeek-R1 (671B MoE) 671B · MLA	メモリ不足 (OOM)	メモリ不足 (OOM)	メモリ不足 (OOM)	—	—	—
DeepSeek-V3-0324 (671B MoE) 671B · MLA	メモリ不足 (OOM)	メモリ不足 (OOM)	メモリ不足 (OOM)	—	—	—
DeepSeek-R1-Distill-Llama-70B 70.6B · GQA	sysctl wired_limit 要調整	余裕で収容可能	余裕で収容可能	Q8_0	417,308 トークン	8.8 tok/s
DeepSeek-R1-Distill-Qwen-32B 32.8B · GQA	余裕で収容可能	余裕で収容可能	余裕で収容可能	FP16 / BF16	611,676 トークン	16.5 tok/s
Qwen3-235B-A22B (MoE) 235B · GQA	メモリ不足 (OOM)	メモリ不足 (OOM)	ギリギリ収容 (>90%使用)	Q5_K_M	177,059 トークン	24.0 tok/s
Qwen3-30B-A3B (MoE) 30.5B · GQA	余裕で収容可能	余裕で収容可能	余裕で収容可能	FP16 / BF16	1,048,576 トークン	90.2 tok/s
Qwen3-32B 32.8B · GQA	余裕で収容可能	余裕で収容可能	余裕で収容可能	FP16 / BF16	611,676 トークン	16.5 tok/s
Qwen3-14B 14.8B · GQA	余裕で収容可能	余裕で収容可能	余裕で収容可能	FP16 / BF16	1,047,285 トークン	32.8 tok/s
Qwen3-8B 8.2B · GQA	余裕で収容可能	余裕で収容可能	余裕で収容可能	FP16 / BF16	1,048,576 トークン	48.1 tok/s
QwQ-32B (Reasoning) 32.8B · GQA	余裕で収容可能	余裕で収容可能	余裕で収容可能	FP16 / BF16	611,676 トークン	16.5 tok/s
Qwen2.5-Coder-32B-Instruct 32.8B · GQA	余裕で収容可能	余裕で収容可能	余裕で収容可能	FP16 / BF16	611,676 トークン	16.5 tok/s
Qwen2.5-72B-Instruct 72.7B · GQA	sysctl wired_limit 要調整	余裕で収容可能	余裕で収容可能	Q8_0	413,306 トークン	8.6 tok/s
Llama 4 Maverick (400B / 17B-128E MoE) 402B · GQA	メモリ不足 (OOM)	メモリ不足 (OOM)	メモリ不足 (OOM)	—	—	—
Llama 4 Scout (109B / 17B-16E MoE) 109B · HYBRID_SWA	メモリ不足 (OOM)	余裕で収容可能	余裕で収容可能	Q8_0	573,553 トークン	35.6 tok/s
Llama 3.3 70B Instruct 70.6B · GQA	sysctl wired_limit 要調整	余裕で収容可能	余裕で収容可能	Q8_0	417,308 トークン	8.8 tok/s
Llama 3.1 405B Instruct 405B · GQA	メモリ不足 (OOM)	メモリ不足 (OOM)	メモリ不足 (OOM)	—	—	—
Llama 3.1 8B Instruct 8.03B · GQA	余裕で収容可能	余裕で収容可能	余裕で収容可能	FP16 / BF16	1,048,576 トークン	51.4 tok/s
Gemma 3 27B IT (Multimodal) 27.4B · HYBRID_SWA	余裕で収容可能	余裕で収容可能	余裕で収容可能	FP16 / BF16	322,342 トークン	23.9 tok/s
Gemma 3 12B IT (Multimodal) 12.2B · HYBRID_SWA	余裕で収容可能	余裕で収容可能	余裕で収容可能	FP16 / BF16	440,497 トークン	47.7 tok/s
Mistral Small 3.1 (24B) 24B · GQA	余裕で収容可能	余裕で収容可能	余裕で収容可能	FP16 / BF16	1,012,221 トークン	23.6 tok/s
Mistral Large 2411 (123B) 123B · GQA	メモリ不足 (OOM)	ギリギリ収容 (>90%使用)	余裕で収容可能	Q6_K	288,593 トークン	5.5 tok/s
Codestral 22B 22.2B · GQA	余裕で収容可能	余裕で収容可能	余裕で収容可能	FP16 / BF16	727,915 トークン	22.5 tok/s
Devstral Small (24B SWE Agent) 23.6B · GQA	余裕で収容可能	余裕で収容可能	余裕で収容可能	FP16 / BF16	1,013,745 トークン	23.9 tok/s
GLM-4-32B-0414 32B · GQA	余裕で収容可能	余裕で収容可能	余裕で収容可能	FP16 / BF16	1,048,576 トークン	22.0 tok/s
GLM-4-9B-0414 9.4B · GQA	余裕で収容可能	余裕で収容可能	余裕で収容可能	FP16 / BF16	1,048,576 トークン	66.9 tok/s
Microsoft Phi-4 (14B) 14.7B · GQA	余裕で収容可能	余裕で収容可能	余裕で収容可能	FP16 / BF16	838,132 トークン	30.2 tok/s
Microsoft Phi-4-mini-instruct (3.8B) 3.84B · GQA	余裕で収容可能	余裕で収容可能	余裕で収容可能	FP16 / BF16	1,048,576 トークン	71.1 tok/s
Cohere Command A (111B) 111B · HYBRID_SWA	メモリ不足 (OOM)	余裕で収容可能	余裕で収容可能	Q8_0	425,400 トークン	6.7 tok/s