本地 .gguf 与 config.json 二进制文件头解析器(零上传)

直接从磁盘拖入任意 4 GB 至 200 GB 的 .gguf 权重文件或 Transformer config.json。VRAMLab 仅通过 DataView 在本地浏览器内存中切片读取前 16 MiB,不到 5ms 即可提取精确层数、GQA/MLA 维度、上下文上限与量化类型——全程 0 字节离开您的设备。

选择本地模型文件或加载已核验示例文件头

通过 File.slice() 仅读取 0..16,777,216 字节——上百 GB 的 .gguf 文件也能瞬间打开,无需将完整权重拷贝进内存。

或立即使用合成二进制文件头进行测试:

已在本地浏览器内存中解析 Qwen3-32B-Q4_K_M.gguf(GGUF v3)— 上传 0 字节。

提取的架构与量化元数据

Qwen3-32B-Instruct · MOSTLY_Q4_K_M
提取的架构与量化元数据
文件头字段 提取数值
general.architecture qwen3
general.name Qwen3-32B-Instruct
gguf.version v3
gguf.tensor_count 707
gguf.quantization MOSTLY_Q4_K_M
qwen3.block_count 64
qwen3.embedding_length 5120
qwen3.attention.head_count 64
qwen3.attention.head_count_kv 8
qwen3.context_length 40960

基于提取文件头的即时显存预估

28.28 / 24 GB
显存不足 (OOM) · OOM
28.28 / 32 GB
紧凑可运行 (>90% 可用上限) · 39.4 tok/s
27.66 / 128 GB
轻松容纳 · 11.3 tok/s
28.28 / 80 GB
轻松容纳 · 77.9 tok/s

零上传 GGUF v2/v3 二进制解析的工作原理

GGUF 二进制容器将全部模型元数据紧接在 4 字节 ASCII 魔数("GGUF" / 0x46554747)、32 位版本号、64 位张量计数和 64 位 KV 键值对计数之后存放,远在数十 GB 的量化张量数据块之前。借助浏览器 File API 仅切片前 16 MiB,VRAMLab 无需读取张量负载即可解码 UTF-8 键名、强类型标量与分词器词表长度。

对于以 safetensors 分片发布的 FP16、BF16、FP8 或 AWQ 检查点,只需拖入配套的 config.json,即可提取 hidden_size、num_hidden_layers、num_key_value_heads、kv_lora_rank、n_routed_experts 与 sliding_window_pattern,在下载数百 GB 权重前先行完成 vLLM 或 SGLang 集群容量选型。

VRAMLab 从经过核验的 Transformer 几何结构出发评估每款模型,显式区分多头注意力(MHA)、分组查询注意力(GQA)、DeepSeek 多头潜在注意力(MLA)以及局部/全局混合滑动窗口层,使容量规划与 vLLM、SGLang、Ollama 和 llama.cpp 的真实显存分配完全一致。