Inspetor Local de Cabeçalhos Binários .gguf e config.json (Zero Upload)

Arraste qualquer arquivo de pesos .gguf de 4 GB a 200 GB ou config.json de Transformer direto do disco. O VRAMLab lê apenas os primeiros 16 MiB na memória local do navegador via DataView para extrair contagens exatas de camadas, dimensões GQA/MLA, limites de contexto e tipos de quantização em menos de 5ms — zero bytes saem da sua máquina.

Selecione um Arquivo Local de Modelo ou Carregue um Cabeçalho de Exemplo

Lê apenas os bytes 0..16.777.216 via File.slice() — arquivos .gguf acima de 100 GB abrem instantaneamente sem copiar os pesos completos para a RAM.

Ou teste imediatamente com cabeçalhos binários sintéticos:

Qwen3-32B-Q4_K_M.gguf (GGUF v3) analisado na memória local do navegador — 0 bytes enviados.

Metadados Extraídos de Arquitetura e Quantização

Qwen3-32B-Instruct · MOSTLY_Q4_K_M
Metadados Extraídos de Arquitetura e Quantização
Chave do Cabeçalho Valor Extraído
general.architecture qwen3
general.name Qwen3-32B-Instruct
gguf.version v3
gguf.tensor_count 707
gguf.quantization MOSTLY_Q4_K_M
qwen3.block_count 64
qwen3.embedding_length 5120
qwen3.attention.head_count 64
qwen3.attention.head_count_kv 8
qwen3.context_length 40960

Projeção Instantânea de VRAM a partir do Cabeçalho Extraído

28.28 / 24 GB
Memória Insuficiente (OOM) · OOM
28.28 / 32 GB
Ajuste Apertado (>90% Útil) · 39.4 tok/s
27.66 / 128 GB
Cabe com Folga · 11.3 tok/s
28.28 / 80 GB
Cabe com Folga · 77.9 tok/s

Como Funciona a Análise Binária GGUF v2/v3 Sem Upload

O contêiner binário GGUF armazena todos os metadados do modelo logo após a assinatura ASCII de 4 bytes ("GGUF" / 0x46554747), o inteiro de versão de 32 bits, a contagem de tensores de 64 bits e a contagem de pares KV de 64 bits — muito antes dos blocos de tensores quantizados de vários gigabytes. Fatiando apenas os primeiros 16 MiB com a File API do navegador, o VRAMLab decodifica chaves UTF-8, escalares tipados e tamanhos de vocabulário sem ler os tensores.

Para checkpoints FP16, BF16, FP8 ou AWQ distribuídos em fragmentos safetensors, soltar o config.json correspondente extrai hidden_size, num_hidden_layers, num_key_value_heads, kv_lora_rank, n_routed_experts e sliding_window_pattern para dimensionar clusters vLLM ou SGLang antes de baixar centenas de gigabytes de pesos.

O VRAMLab avalia cada modelo a partir da geometria verificada do seu transformer — diferenciando explicitamente Multi-Head Attention (MHA), Grouped-Query Attention (GQA), DeepSeek Multi-head Latent Attention (MLA) e pilhas híbridas de janela deslizante local/global — para que o planejamento de capacidade reflita alocações reais no vLLM, SGLang, Ollama e llama.cpp.