로컬 .gguf & config.json 바이너리 헤더 분석기 (업로드 제로)
디스크에서 4 GB~200 GB .gguf 가중치 파일이나 Transformer config.json을 바로 드롭하세요. VRAMLab은 DataView로 브라우저 로컬 메모리에서 앞쪽 16 MiB만 슬라이스하여 5ms 이내에 정확한 레이어 수, GQA/MLA 차원, 컨텍스트 한도 및 양자화 형식을 추출합니다 — 외부로 전송되는 데이터는 0바이트입니다.
로컬 모델 파일 선택 또는 검증된 샘플 헤더 불러오기
File.slice()로 0..16,777,216 바이트만 읽으므로 100GB 이상의 .gguf 파일도 전체 가중치를 RAM에 복사하지 않고 즉시 열립니다.
또는 합성 바이너리 헤더로 즉시 테스트:
로컬 브라우저 메모리에서 Qwen3-32B-Q4_K_M.gguf (GGUF v3) 파싱 완료 — 업로드 0바이트.
추출된 아키텍처 & 양자화 메타데이터
Qwen3-32B-Instruct · MOSTLY_Q4_K_M| 헤더 키 | 추출된 값 |
|---|---|
general.architecture |
qwen3 |
general.name |
Qwen3-32B-Instruct |
gguf.version |
v3 |
gguf.tensor_count |
707 |
gguf.quantization |
MOSTLY_Q4_K_M |
qwen3.block_count |
64 |
qwen3.embedding_length |
5120 |
qwen3.attention.head_count |
64 |
qwen3.attention.head_count_kv |
8 |
qwen3.context_length |
40960 |
추출된 헤더 기반 즉시 VRAM 예측
업로드 없는 GGUF v2/v3 바이너리 파싱 원리
GGUF 바이너리 컨테이너는 4바이트 ASCII 매직("GGUF" / 0x46554747), 32비트 버전 정수, 64비트 텐서 개수, 64비트 KV 쌍 개수 바로 뒤에 모든 모델 메타데이터를 배치하며, 이는 수 기가바이트 규모의 양자화 텐서 블록보다 훨씬 앞에 위치합니다. 브라우저 File API로 첫 16 MiB만 슬라이스하여 VRAMLab은 텐서 본문을 읽지 않고도 UTF-8 키, 타입 스칼라, 토크나이저 배열 길이를 디코딩합니다.
safetensors 샤드로 배포되는 FP16, BF16, FP8 또는 AWQ 체크포인트의 경우 함께 제공되는 config.json만 드롭하면 hidden_size, num_hidden_layers, num_key_value_heads, kv_lora_rank, n_routed_experts, sliding_window_pattern을 추출해 수백 기가바이트의 가중치를 내려받기 전에 vLLM이나 SGLang 클러스터 규모를 산정할 수 있습니다.
VRAMLab은 검증된 Transformer 기하 구조를 바탕으로 Multi-Head Attention (MHA), Grouped-Query Attention (GQA), DeepSeek Multi-head Latent Attention (MLA), 로컬/글로벌 하이브리드 슬라이딩 윈도우를 구분하여 계산하므로 실제 vLLM, SGLang, Ollama, llama.cpp 메모리 할당과 정확히 일치합니다.