Répertoire VRAM et dimensionnement matériel des LLM à poids ouverts (28 modèles)

Charger dans le calculateur VRAM → Inspecteur GGUF → Générer une config vLLM / Ollama → Comparer les tarifs API en direct sur DevToken →

Référence rapide VRAM des LLM à poids ouverts (28 modèles @ Q4_K_M et FP16)

Affichage de 28 sur 28 modèles

Architectures LLM à poids ouverts vérifiées avec paramètres résidents, mécanisme d’attention et besoins VRAM de base
Modèle et famille	Topologie et attention	Résidents / Actifs	FP16 (ctx 8K)	Q4_K_M (ctx 32K)	Palier pratique minimal	Détails
DeepSeek-R1 (671B MoE) DeepSeek · MIT	MOE MLA	671B / 37B	1289.2 Go	393.7 Go	8× NVIDIA H100 80GB	Guide VRAM →
DeepSeek-V3-0324 (671B MoE) DeepSeek · MIT	MOE MLA	671B / 37B	1289.2 Go	393.7 Go	8× NVIDIA H100 80GB	Guide VRAM →
DeepSeek-R1-Distill-Llama-70B DeepSeek · MIT	DENSE GQA	70.6B	139.3 Go	52.5 Go	NVIDIA A100 80GB	Guide VRAM →
DeepSeek-R1-Distill-Qwen-32B DeepSeek · MIT	DENSE GQA	32.8B	66.1 Go	28.3 Go	RTX 5090 32GB	Guide VRAM →
Qwen3-235B-A22B (MoE) Qwen · Apache-2.0	MOE GQA	235B / 22B	453.5 Go	143.7 Go	Mac Studio 192GB	Guide VRAM →
Qwen3-30B-A3B (MoE) Qwen · Apache-2.0	MOE GQA	30.5B / 3.3B	60.3 Go	21.8 Go	RTX 3090 24GB	Guide VRAM →
Qwen3-32B Qwen · Apache-2.0	DENSE GQA	32.8B	66.1 Go	28.3 Go	RTX 5090 32GB	Guide VRAM →
Qwen3-14B Qwen · Apache-2.0	DENSE GQA	14.8B	30.9 Go	14.8 Go	RTX 4060 Ti 16GB	Guide VRAM →
Qwen3-8B Qwen · Apache-2.0	DENSE GQA	8.2B	18.0 Go	10.4 Go	RTX 3060 12GB	Guide VRAM →
QwQ-32B (Reasoning) Qwen · Apache-2.0	DENSE GQA	32.8B	66.1 Go	28.3 Go	RTX 5090 32GB	Guide VRAM →
Qwen2.5-Coder-32B-Instruct Qwen · Apache-2.0	DENSE GQA	32.8B	66.1 Go	28.3 Go	RTX 5090 32GB	Guide VRAM →
Qwen2.5-72B-Instruct Qwen · Qwen License	DENSE GQA	72.7B	143.4 Go	53.7 Go	NVIDIA A100 80GB	Guide VRAM →
Llama 4 Maverick (400B / 17B-128E MoE) Meta Llama · Llama 4 Community	MOE GQA	402B / 17.2B	774.0 Go	241.0 Go	Mac Studio 512GB	Guide VRAM →
Llama 4 Scout (109B / 17B-16E MoE) Meta Llama · Llama 4 Community	MOE HYBRID_SWA	109B / 17.2B	211.8 Go	67.2 Go	NVIDIA A100 80GB	Guide VRAM →
Llama 3.3 70B Instruct Meta Llama · Llama 3.3 Community	DENSE GQA	70.6B	139.3 Go	52.5 Go	NVIDIA A100 80GB	Guide VRAM →
Llama 3.1 405B Instruct Meta Llama · Llama 3.1 Community	DENSE GQA	405B	782.8 Go	253.2 Go	Mac Studio 512GB	Guide VRAM →
Llama 3.1 8B Instruct Meta Llama · Llama 3.1 Community	DENSE GQA	8.03B	17.6 Go	9.8 Go	RTX 3060 12GB	Guide VRAM →
Gemma 3 27B IT (Multimodal) Google Gemma · Gemma Terms	DENSE HYBRID_SWA	27.4B	54.8 Go	20.1 Go	RTX 3090 24GB	Guide VRAM →
Gemma 3 12B IT (Multimodal) Google Gemma · Gemma Terms	DENSE HYBRID_SWA	12.2B	25.3 Go	10.5 Go	RTX 3060 12GB	Guide VRAM →
Mistral Small 3.1 (24B) Mistral · Apache-2.0	DENSE GQA	24B	48.5 Go	20.2 Go	RTX 3090 24GB	Guide VRAM →
Mistral Large 2411 (123B) Mistral · Mistral Research	DENSE GQA	123B	240.4 Go	84.2 Go	RTX PRO 6000 96GB	Guide VRAM →
Codestral 22B Mistral · Mistral Non-Production	DENSE GQA	22.2B	45.6 Go	21.2 Go	RTX 3090 24GB	Guide VRAM →
Devstral Small (24B SWE Agent) Mistral · Apache-2.0	DENSE GQA	23.6B	47.7 Go	19.9 Go	RTX 3090 24GB	Guide VRAM →
GLM-4-32B-0414 Zhipu GLM · MIT	DENSE GQA	32B	63.1 Go	21.8 Go	RTX 3090 24GB	Guide VRAM →
GLM-4-9B-0414 Zhipu GLM · MIT	DENSE GQA	9.4B	19.5 Go	7.9 Go	RTX 3060 12GB	Guide VRAM →
Microsoft Phi-4 (14B) Microsoft Phi · MIT	DENSE GQA	14.7B	31.0 Go	16.0 Go	RTX 3090 24GB	Guide VRAM →
Microsoft Phi-4-mini-instruct (3.8B) Microsoft Phi · MIT	DENSE GQA	3.84B	9.4 Go	7.3 Go	RTX 3060 12GB	Guide VRAM →
Cohere Command A (111B) Cohere · CC-BY-NC-4.0	DENSE HYBRID_SWA	111B	215.8 Go	68.9 Go	NVIDIA A100 80GB	Guide VRAM →

Parcourir par famille de modèles et architecture

DeepSeek (4)

32.8B – 671B · MLA, GQA

DeepSeek-R1 (671B MoE) · DeepSeek-V3-0324 (671B MoE) · DeepSeek-R1-Distill-Llama-70B · DeepSeek-R1-Distill-Qwen-32B

Qwen (8)

8.2B – 235B · GQA

Qwen3-235B-A22B (MoE) · Qwen3-30B-A3B (MoE) · Qwen3-32B · Qwen3-14B · Qwen3-8B

Meta Llama (5)

8.03B – 405B · GQA, HYBRID_SWA

Llama 4 Maverick (400B / 17B-128E MoE) · Llama 4 Scout (109B / 17B-16E MoE) · Llama 3.3 70B Instruct · Llama 3.1 405B Instruct · Llama 3.1 8B Instruct

Google Gemma (2)

12.2B – 27.4B · HYBRID_SWA

Gemma 3 27B IT (Multimodal) · Gemma 3 12B IT (Multimodal)

Mistral (4)

22.2B – 123B · GQA

Mistral Small 3.1 (24B) · Mistral Large 2411 (123B) · Codestral 22B · Devstral Small (24B SWE Agent)

Zhipu GLM (2)

9.4B – 32B · GQA

GLM-4-32B-0414 · GLM-4-9B-0414

Microsoft Phi (2)

3.84B – 14.7B · GQA

Microsoft Phi-4 (14B) · Microsoft Phi-4-mini-instruct (3.8B)

Cohere (1)

111B – 111B · HYBRID_SWA

Cohere Command A (111B)

Comment chaque fiche modèle calcule la précision et les plafonds de contexte

Chaque page modèle précalcule les allocations exactes (poids + cache KV + espace d’exécution) en FP16, FP8, Q8_0, Q6_K, Q5_K_M, Q4_K_M, AWQ INT4 et IQ4_XS face aux GPU grand public, à la mémoire unifiée Apple Silicon et aux accélérateurs HBM de centre de données, avec un simulateur interactif de quantification et de contexte.

Les estimations approximatives ignorent trois variables dominantes de l’inférence moderne à poids ouverts : les facteurs d’échelle des super-blocs GGUF (où Q4_K_M atteint en moyenne 4.85 bits/poids au lieu de 4.00), la croissance du cache KV sur les longues fenêtres de contexte et les requêtes simultanées en batch continu, ainsi que le routage Mixture-of-Experts où l’intégralité des 671B ou 235B paramètres réside en VRAM alors que seuls 37B ou 22B sont lus par token généré.

VRAMLab évalue chaque modèle à partir de sa géométrie Transformer vérifiée — en distinguant explicitement l’attention multi-têtes (MHA), l’attention à requêtes groupées (GQA), l’attention latente multi-têtes de DeepSeek (MLA) et les empilements hybrides locaux/globaux à fenêtre glissante — afin d’aligner vos plans de capacité sur les allocations réelles de vLLM, SGLang, Ollama et llama.cpp.