アーキテクチャ対応 LLM VRAM & KVキャッシュ計算機
検証済みオープンウェイトLLM 28種のGPU・Apple Silicon必要メモリを0msで正確に算出。MoEの総パラメータ対アクティブパラメータ、DeepSeek MLAの潜在KV圧縮、ハイブリッド・スライディングウィンドウ層、マルチGPUテンソル並列まで厳密に反映します。
- 検証済みオープンウェイト構造 28種（12時間同期）
- GPU & Apple Silicon メモリプロファイル 15種
- 100%ブラウザ内計算 · 0ms · ログイン不要
インタラクティブ VRAM・KVキャッシュ・デコード速度ワークベンチ
専用GPUサービング・ワークベンチへ移動
GGUF & config.json インスペクター
数GB超の.ggufやconfig.jsonをFile.sliceとDataViewで0msローカル解析。アップロード不要でVRAM計算へ即連携。
サービング設定ジェネレーター
実際のLLM VRAM計算からOOMを防ぐvLLM・SGLangコマンド、Ollama設定、Docker Compose、Kubernetes YAMLを生成。
GPU vs クラウドAPI 損益分岐点
月額GPUコストとクラウドLLM APIトークン料金、キャッシュ割引、物理tok/sスループット上限を比較し損益分岐点を算出。
オープンウェイトLLM VRAM早見表（28モデル @ Q4_K_M & FP16）
検索条件に一致するモデルがありません。
| モデル & ファミリー | 構造 & アテンション | 常駐 / アクティブ | FP16 (8K ctx) | Q4_K_M (32K ctx) | 推奨最小ハードウェア | 詳細 |
|---|---|---|---|---|---|---|
|
DeepSeek-R1 (671B MoE)
DeepSeek · MIT
|
MOE MLA | 671B / 37B | 1289.2 GB | 393.7 GB | 8× NVIDIA H100 80GB | VRAMガイド → |
|
DeepSeek-V3-0324 (671B MoE)
DeepSeek · MIT
|
MOE MLA | 671B / 37B | 1289.2 GB | 393.7 GB | 8× NVIDIA H100 80GB | VRAMガイド → |
|
DeepSeek-R1-Distill-Llama-70B
DeepSeek · MIT
|
DENSE GQA | 70.6B | 139.3 GB | 52.5 GB | NVIDIA A100 80GB | VRAMガイド → |
|
DeepSeek-R1-Distill-Qwen-32B
DeepSeek · MIT
|
DENSE GQA | 32.8B | 66.1 GB | 28.3 GB | RTX 5090 32GB | VRAMガイド → |
|
Qwen3-235B-A22B (MoE)
Qwen · Apache-2.0
|
MOE GQA | 235B / 22B | 453.5 GB | 143.7 GB | Mac Studio 192GB | VRAMガイド → |
|
Qwen3-30B-A3B (MoE)
Qwen · Apache-2.0
|
MOE GQA | 30.5B / 3.3B | 60.3 GB | 21.8 GB | RTX 3090 24GB | VRAMガイド → |
|
Qwen3-32B
Qwen · Apache-2.0
|
DENSE GQA | 32.8B | 66.1 GB | 28.3 GB | RTX 5090 32GB | VRAMガイド → |
|
Qwen3-14B
Qwen · Apache-2.0
|
DENSE GQA | 14.8B | 30.9 GB | 14.8 GB | RTX 4060 Ti 16GB | VRAMガイド → |
|
Qwen3-8B
Qwen · Apache-2.0
|
DENSE GQA | 8.2B | 18.0 GB | 10.4 GB | RTX 3060 12GB | VRAMガイド → |
|
QwQ-32B (Reasoning)
Qwen · Apache-2.0
|
DENSE GQA | 32.8B | 66.1 GB | 28.3 GB | RTX 5090 32GB | VRAMガイド → |
|
Qwen2.5-Coder-32B-Instruct
Qwen · Apache-2.0
|
DENSE GQA | 32.8B | 66.1 GB | 28.3 GB | RTX 5090 32GB | VRAMガイド → |
|
Qwen2.5-72B-Instruct
Qwen · Qwen License
|
DENSE GQA | 72.7B | 143.4 GB | 53.7 GB | NVIDIA A100 80GB | VRAMガイド → |
|
Llama 4 Maverick (400B / 17B-128E MoE)
Meta Llama · Llama 4 Community
|
MOE GQA | 402B / 17.2B | 774.0 GB | 241.0 GB | Mac Studio 512GB | VRAMガイド → |
|
Llama 4 Scout (109B / 17B-16E MoE)
Meta Llama · Llama 4 Community
|
MOE HYBRID_SWA | 109B / 17.2B | 211.8 GB | 67.2 GB | NVIDIA A100 80GB | VRAMガイド → |
|
Llama 3.3 70B Instruct
Meta Llama · Llama 3.3 Community
|
DENSE GQA | 70.6B | 139.3 GB | 52.5 GB | NVIDIA A100 80GB | VRAMガイド → |
|
Llama 3.1 405B Instruct
Meta Llama · Llama 3.1 Community
|
DENSE GQA | 405B | 782.8 GB | 253.2 GB | Mac Studio 512GB | VRAMガイド → |
|
Llama 3.1 8B Instruct
Meta Llama · Llama 3.1 Community
|
DENSE GQA | 8.03B | 17.6 GB | 9.8 GB | RTX 3060 12GB | VRAMガイド → |
|
Gemma 3 27B IT (Multimodal)
Google Gemma · Gemma Terms
|
DENSE HYBRID_SWA | 27.4B | 54.8 GB | 20.1 GB | RTX 3090 24GB | VRAMガイド → |
|
Gemma 3 12B IT (Multimodal)
Google Gemma · Gemma Terms
|
DENSE HYBRID_SWA | 12.2B | 25.3 GB | 10.5 GB | RTX 3060 12GB | VRAMガイド → |
|
Mistral Small 3.1 (24B)
Mistral · Apache-2.0
|
DENSE GQA | 24B | 48.5 GB | 20.2 GB | RTX 3090 24GB | VRAMガイド → |
|
Mistral Large 2411 (123B)
Mistral · Mistral Research
|
DENSE GQA | 123B | 240.4 GB | 84.2 GB | RTX PRO 6000 96GB | VRAMガイド → |
|
Codestral 22B
Mistral · Mistral Non-Production
|
DENSE GQA | 22.2B | 45.6 GB | 21.2 GB | RTX 3090 24GB | VRAMガイド → |
|
Devstral Small (24B SWE Agent)
Mistral · Apache-2.0
|
DENSE GQA | 23.6B | 47.7 GB | 19.9 GB | RTX 3090 24GB | VRAMガイド → |
|
GLM-4-32B-0414
Zhipu GLM · MIT
|
DENSE GQA | 32B | 63.1 GB | 21.8 GB | RTX 3090 24GB | VRAMガイド → |
|
GLM-4-9B-0414
Zhipu GLM · MIT
|
DENSE GQA | 9.4B | 19.5 GB | 7.9 GB | RTX 3060 12GB | VRAMガイド → |
|
Microsoft Phi-4 (14B)
Microsoft Phi · MIT
|
DENSE GQA | 14.7B | 31.0 GB | 16.0 GB | RTX 3090 24GB | VRAMガイド → |
|
Microsoft Phi-4-mini-instruct (3.8B)
Microsoft Phi · MIT
|
DENSE GQA | 3.84B | 9.4 GB | 7.3 GB | RTX 3060 12GB | VRAMガイド → |
|
Cohere Command A (111B)
Cohere · CC-BY-NC-4.0
|
DENSE HYBRID_SWA | 111B | 215.8 GB | 68.9 GB | NVIDIA A100 80GB | VRAMガイド → |
主要GPU & Apple Silicon 容量ガイド
RTX 3090 24GB
コンシューマーGPU · 24 GB
RTX 4090 24GB
コンシューマーGPU · 24 GB
RTX 5090 32GB
コンシューマーGPU · 32 GB
Apple M-Max 64GB
Apple Silicon 統合メモリ · 64 GB
Mac Studio 128GB
Apple Silicon 統合メモリ · 128 GB
Mac Studio 192GB
Apple Silicon 統合メモリ · 192 GB
NVIDIA A100 80GB
データセンターGPU · 80 GB
NVIDIA H100 80GB
データセンターGPU · 80 GB
なぜ単純な「10億パラメータあたり2GB」の概算は本番環境で破綻するのか
大雑把な経験則は、現代のオープンウェイト推論を左右する3つの主要因を見落としています。GGUFスーパーブロック量子化のスケール係数（Q4_K_Mの実効平均は4.00ではなく4.85 bits/weight）、長大コンテキストや連続バッチ処理の同時スロットに伴うKVキャッシュ膨張、そしてMixture-of-Experts（MoE）において全671Bや235BパラメータがVRAMに常駐しつつトークン生成ごとに37Bや22Bのみが読み出される挙動です。
VRAMLabは検証済みのTransformer構造寸法から各モデルを計算し、Multi-Head Attention (MHA)、Grouped-Query Attention (GQA)、DeepSeek Multi-head Latent Attention (MLA)、ローカル/グローバル併用スライディングウィンドウを明示的に分岐させることで、vLLM、SGLang、Ollama、llama.cppの実際のメモリ消費と一致する容量計画を導き出します。
よくある質問
DeepSeek MLAは標準的なGQAと比べてどのようにKVキャッシュVRAMを削減しますか？
Multi-head Latent Attentionは、各層で 2 × H_kv × head_dim テンソルを保持する代わりに、KeyとValueを共有の低ランク潜在ベクトル（kv_lora_rank = 512 + qk_rope_head_dim = 64 など）へ射影します。これにより非圧縮MHA比で長文脈KVキャッシュメモリを90%以上削減します。
Mixture-of-Experts (MoE) モデルは大量のVRAMを要するのにデコードが速いのはなぜですか？
PCIeやSSDへのスラッシングを防ぐため全ルーティング対象エキスパートをGPUまたは統合メモリに常駐させる必要があり、VRAM容量は総パラメータ数（例：Qwen3-235B-A22Bなら235B）に比例します。一方、デコードのtok/sはトークンごとの有効パラメータ（22B）のメモリ帯域幅に律速されるため、メモリに収まれば32B密モデル並みの速度が出ます。
Apple SiliconのmacOSで統合RAMを100%使い切る前にOOMが発生するのはなぜですか？
macOSはカーネルおよびデスクトップ描画用に iogpu.wired_limit_mb で統合メモリを確保しているためです（初期値は物理RAMの約75%）。RAMの75%〜88%を使用するモデルでは、Ollamaやllama.cppの起動前に sysctl で iogpu.wired_limit_mb を引き上げる必要があります。
VRAMLabのアーキテクチャ寸法データはどこから取得していますか？
12時間周期の自動アーキテクチャ検証パイプラインが公式オープンウェイトリリースのTransformer設定数値を検証し、静的HTMLへ事前コンパイルしています。実行時の外部API通信やユーザーテレメトリは一切不要です。