Inspector local de cabeceras binarias .gguf y config.json (sin subidas)

Arrastre cualquier archivo de pesos .gguf de 4 GB a 200 GB o un config.json de Transformer directamente desde su disco. VRAMLab lee solo los primeros 16 MiB en la memoria local del navegador mediante DataView para extraer recuentos exactos de capas, dimensiones GQA/MLA, límites de contexto y tipos de cuantización en menos de 5 ms: ningún byte sale de su equipo.

Seleccione un archivo de modelo local o cargue una cabecera de muestra verificada

Lee únicamente los bytes 0..16,777,216 mediante File.slice(): los archivos .gguf de más de 100 GB se abren al instante sin copiar todos los pesos en RAM.

O pruebe de inmediato con cabeceras binarias sintéticas:

Analizado Qwen3-32B-Q4_K_M.gguf (GGUF v3) en la memoria local del navegador — 0 bytes subidos.

Metadatos extraídos de arquitectura y cuantización

Qwen3-32B-Instruct · MOSTLY_Q4_K_M
Metadatos extraídos de arquitectura y cuantización
Clave de cabecera Valor extraído
general.architecture qwen3
general.name Qwen3-32B-Instruct
gguf.version v3
gguf.tensor_count 707
gguf.quantization MOSTLY_Q4_K_M
qwen3.block_count 64
qwen3.embedding_length 5120
qwen3.attention.head_count 64
qwen3.attention.head_count_kv 8
qwen3.context_length 40960

Proyección instantánea de VRAM a partir de la cabecera extraída

28.28 / 24 GB
Memoria insuficiente (OOM) · OOM
28.28 / 32 GB
Ajustado (>90 % útil) · 39.4 tok/s
27.66 / 128 GB
Cabe con holgura · 11.3 tok/s
28.28 / 80 GB
Cabe con holgura · 77.9 tok/s

Cómo funciona el análisis binario GGUF v2/v3 sin subidas

El contenedor binario GGUF almacena todos los metadatos del modelo inmediatamente después de la marca mágica ASCII de 4 bytes ("GGUF" / 0x46554747), el entero de versión de 32 bits, el recuento de tensores de 64 bits y el recuento de pares KV de 64 bits, mucho antes de los bloques de tensores cuantizados de varios gigabytes. Al cortar solo los primeros 16 MiB con la File API del navegador, VRAMLab decodifica claves UTF-8, escalares tipados y longitudes de arreglos del tokenizador sin leer las cargas útiles de tensores.

Para checkpoints FP16, BF16, FP8 o AWQ distribuidos como fragmentos safetensors, soltar el archivo config.json adjunto extrae hidden_size, num_hidden_layers, num_key_value_heads, kv_lora_rank, n_routed_experts y sliding_window_pattern para dimensionar clústeres de vLLM o SGLang antes de descargar cientos de gigabytes de pesos.

VRAMLab evalúa cada modelo a partir de su geometría Transformer verificada —ramificando explícitamente entre atención multicabeza (MHA), atención de consulta agrupada (GQA), atención latente multicabeza de DeepSeek (MLA) y pilas híbridas locales/globales de ventana deslizante— para que la planificación de capacidad coincida con las asignaciones reales de vLLM, SGLang, Ollama y llama.cpp.