Inspecteur local d’en-têtes binaires .gguf et config.json (zéro envoi)

Déposez n’importe quel fichier de poids .gguf de 4 Go à 200 Go ou un fichier Transformer config.json directement depuis votre disque. VRAMLab découpe uniquement les 16 premiers Mio dans la mémoire locale du navigateur via DataView pour extraire le nombre exact de couches, les dimensions GQA/MLA, les limites de contexte et les types de quantification en moins de 5 ms — aucun octet ne quitte votre machine.

Sélectionnez un fichier modèle local ou chargez un en-tête d’exemple vérifié

Lit uniquement les octets 0..16,777,216 via File.slice() — les fichiers .gguf de plus de 100 Go s’ouvrent instantanément sans copier l’intégralité des poids en RAM.

Ou testez immédiatement avec des en-têtes binaires synthétiques :

Qwen3-32B-Q4_K_M.gguf (GGUF v3) analysé dans la mémoire locale du navigateur — 0 octet envoyé.

Métadonnées d’architecture et de quantification extraites

Qwen3-32B-Instruct · MOSTLY_Q4_K_M
Métadonnées d’architecture et de quantification extraites
Clé d’en-tête Valeur extraite
general.architecture qwen3
general.name Qwen3-32B-Instruct
gguf.version v3
gguf.tensor_count 707
gguf.quantization MOSTLY_Q4_K_M
qwen3.block_count 64
qwen3.embedding_length 5120
qwen3.attention.head_count 64
qwen3.attention.head_count_kv 8
qwen3.context_length 40960

Projection VRAM instantanée depuis l’en-tête extrait

28.28 / 24 Go
Mémoire insuffisante (OOM) · OOM
28.28 / 32 Go
Ajusté (>90 % utile) · 39.4 tok/s
27.66 / 128 Go
Tient confortablement · 11.3 tok/s
28.28 / 80 Go
Tient confortablement · 77.9 tok/s

Fonctionnement de l’analyse binaire GGUF v2/v3 sans envoi

Le conteneur binaire GGUF stocke toutes les métadonnées du modèle immédiatement après la signature ASCII de 4 octets ("GGUF" / 0x46554747), l’entier de version 32 bits, le nombre de tenseurs 64 bits et le nombre de paires KV 64 bits — bien avant les blocs de tenseurs quantifiés de plusieurs gigaoctets. En ne découpant que les 16 premiers Mio avec la File API du navigateur, VRAMLab décode les clés UTF-8, les scalaires typés et la taille des tableaux du tokenizer sans lire les poids.

Pour les checkpoints FP16, BF16, FP8 ou AWQ distribués en fragments safetensors, déposer le fichier config.json associé extrait hidden_size, num_hidden_layers, num_key_value_heads, kv_lora_rank, n_routed_experts et sliding_window_pattern afin de dimensionner vos clusters vLLM ou SGLang avant de télécharger des centaines de gigaoctets de poids.

VRAMLab évalue chaque modèle à partir de sa géométrie Transformer vérifiée — en distinguant explicitement l’attention multi-têtes (MHA), l’attention à requêtes groupées (GQA), l’attention latente multi-têtes de DeepSeek (MLA) et les empilements hybrides locaux/globaux à fenêtre glissante — afin d’aligner vos plans de capacité sur les allocations réelles de vLLM, SGLang, Ollama et llama.cpp.