Lokaler .gguf- & config.json-Binärheader-Inspektor (ohne Upload)

Ziehen Sie eine 4 GB bis 200 GB große .gguf-Gewichtsdatei oder eine Transformer-config.json direkt von Ihrer Festplatte hinein. VRAMLab liest im Browser per DataView lediglich die ersten 16 MiB im lokalen Arbeitsspeicher, um Schichtanzahl, GQA-/MLA-Dimensionen, Kontextlimits und Quantisierungstypen in unter 5 ms zu extrahieren — kein einziges Byte verlässt Ihr Gerät.

Lokale Modelldatei auswählen oder geprüften Beispiel-Header laden

Liest nur die Bytes 0..16,777,216 über File.slice() — selbst über 100 GB große .gguf-Dateien öffnen sich sofort, ohne die gesamten Gewichte in den RAM zu kopieren.

Oder sofort mit synthetischen Binär-Headern testen:

Qwen3-32B-Q4_K_M.gguf (GGUF v3) lokal im Browserspeicher geparst — 0 Bytes hochgeladen.

Extrahierte Architektur- & Quantisierungsmetadaten

Qwen3-32B-Instruct · MOSTLY_Q4_K_M
Extrahierte Architektur- & Quantisierungsmetadaten
Header-Schlüssel Extrahierter Wert
general.architecture qwen3
general.name Qwen3-32B-Instruct
gguf.version v3
gguf.tensor_count 707
gguf.quantization MOSTLY_Q4_K_M
qwen3.block_count 64
qwen3.embedding_length 5120
qwen3.attention.head_count 64
qwen3.attention.head_count_kv 8
qwen3.context_length 40960

Sofortige VRAM-Projektion aus dem extrahierten Header

28.28 / 24 GB
Zu wenig Speicher (OOM) · OOM
28.28 / 32 GB
Knapp (>90 % nutzbar) · 39.4 tok/s
27.66 / 128 GB
Passt komfortabel · 11.3 tok/s
28.28 / 80 GB
Passt komfortabel · 77.9 tok/s

So funktioniert das lokale GGUF-v2/v3-Binärparsing ohne Upload

Der binäre GGUF-Container speichert sämtliche Modellmetadaten unmittelbar nach der 4-Byte-ASCII-Kennung ("GGUF" / 0x46554747), der 32-Bit-Versionsnummer, der 64-Bit-Tensoranzahl und der 64-Bit-KV-Paaranzahl — weit vor den viele Gigabyte großen quantisierten Tensorblöcken. Durch das Ausschneiden der ersten 16 MiB über die Browser-File-API dekodiert VRAMLab UTF-8-Schlüssel, typisierte Skalare und Tokenizer-Feldlängen, ohne Tensor-Nutzdaten einzulesen.

Bei FP16-, BF16-, FP8- oder AWQ-Checkpoints im safetensors-Format liest das Ablegen der zugehörigen config.json die Felder hidden_size, num_hidden_layers, num_key_value_heads, kv_lora_rank, n_routed_experts und sliding_window_pattern aus, sodass Sie vLLM- oder SGLang-Cluster dimensionieren können, bevor Sie Hunderte Gigabyte an Gewichten herunterladen.

VRAMLab berechnet jedes Modell anhand seiner verifizierten Transformer-Geometrie — mit expliziter Unterscheidung zwischen Multi-Head Attention (MHA), Grouped-Query Attention (GQA), DeepSeek Multi-head Latent Attention (MLA) und hybriden lokalen/globalen Sliding-Window-Schichten —, damit Ihre Kapazitätsplanung exakt mit realen Allokationen in vLLM, SGLang, Ollama und llama.cpp übereinstimmt.