Nanbeige4.2 3B 필요 사양: VRAM과 돌아가는 GPU
Nanbeige4.2 3B, 어떤 모델인가요
Nanbeige4.2 3B는 Nanbeige LLM Lab이 2026년 7월에 공개한 작은 에이전트용 모델입니다. 같은 층을 되풀이해 쓰는 구조(Looped Transformer)로 파라미터를 늘리지 않고 용량을 키웠다고 설명합니다. 생각 모드는 기본으로 켜져 있고 enable_thinking으로 끌 수 있습니다. 공식 지원 언어는 영어와 중국어이고, Apache 2.0 라이선스라 상업적으로도 쓸 수 있습니다.
모델 정보
- 파라미터
- 4.17B
- 어텐션
- 풀 어텐션
- 최대 컨텍스트
- 262,144 토큰
- 공개일
- 2026-07-21
GGUF 파일
| 양자화 | 파일 크기 | 품질 | 배포처 |
|---|---|---|---|
| Q2_K | 1.85GB | 손실 큼 | 커뮤니티 GGUF · bartowski |
| IQ4_XS | 2.44GB | 균형 | 커뮤니티 GGUF · bartowski |
| Q4_K_M기준 | 2.68GB | 균형 | 커뮤니티 GGUF · bartowski |
| Q8_0 | 4.43GB | 준무손실 | 커뮤니티 GGUF · bartowski |
양자화·컨텍스트별 필요 메모리
| 양자화 | 4k | 8k | 16k | 32k | 64k | 128k | 256k |
|---|---|---|---|---|---|---|---|
| Q2_K | 3.0 | 3.7 | 5.3 | 8.4 | 14.6 | 27.0 | 51.8 |
| IQ4_XS | 3.4 | 4.2 | 5.8 | 8.9 | 15.1 | 27.5 | 52.3 |
| Q4_K_M | 3.7 | 4.4 | 6.0 | 9.1 | 15.3 | 27.7 | 52.5 |
| Q8_0 | 5.2 | 5.9 | 7.5 | 10.6 | 16.8 | 29.2 | 54.0 |
Nanbeige4.2 3B, 어떤 GPU에서 돌아갈까?
판정 읽는 법
- 쾌적
- GPU에 전부 올라가고 20 tok/s 이상
- 원활
- GPU에 전부 올라가고 8~20 tok/s, MoE 전문가를 시스템 RAM에 두고 20 tok/s 이상, 또는 GPU에 90% 이상 올라가고 8 tok/s 이상
- 겨우 가능
- 2~8 tok/s, CPU 전용, GPU에 90% 미만, 또는 MoE 전문가를 RAM에 두고 20 tok/s 미만
- 불가
- 메모리에 안 들어가거나 2 tok/s 미만
옆으로 밀면 모든 열을 볼 수 있습니다.
| 하드웨어 | 판정 | 속도 | 양자화 | 메모리 | 실행 방식 | 컨텍스트 | 참고 | 가격 |
|---|---|---|---|---|---|---|---|---|
| GeForce RTX 5090 | 쾌적 | 추정 204.8 tok/s143.3–266.2이론 추정 ±30% | Q4_K_M | 5.0 / 32.0GB | 풀 GPU | 최대 128k | — | 2026-08-09 기준 실거래가 US$4,200(약 557만 원) |
| Radeon RX 7900 XTX | 쾌적 | 추정 119.1 tok/s83.4–154.8이론 추정 ±30% | Q4_K_M | 5.0 / 24.0GB | 풀 GPU | 최대 64k | — | 출시가 US$999(약 132만 원) |
| GeForce RTX 3090 Ti | 쾌적 | 추정 115.2 tok/s80.6–149.7이론 추정 ±30% | Q4_K_M | 5.0 / 24.0GB | 풀 GPU | 최대 64k | — | 출시가 US$1,999(약 265만 원) |
| GeForce RTX 4090 | 쾌적 | 추정 115.2 tok/s80.6–149.7이론 추정 ±30% | Q4_K_M | 5.0 / 24.0GB | 풀 GPU | 최대 64k | — | 2026-08-09 기준 실거래가 US$2,755(약 365만 원) |
| Apple M5 Ultra · 96GB | 쾌적 | 추정 114.3 tok/s80.0–148.5이론 추정 ±30% | Q4_K_M | 4.7 / 67.2GB | 통합 메모리 | 최대 64k | — | — |
| GeForce RTX 5080 | 쾌적 | 추정 109.7 tok/s76.8–142.6이론 추정 ±30% | Q4_K_M | 5.0 / 16.0GB | 풀 GPU | 최대 64k | — | 2026-08-09 기준 실거래가 US$1,256(약 166만 원) |
| GeForce RTX 3090 | 쾌적 | 추정 106.9 tok/s74.9–139.0이론 추정 ±30% | Q4_K_M | 5.0 / 24.0GB | 풀 GPU | 최대 64k | — | 2026-08-09 기준 실거래가 US$1,050(약 139만 원) |
| GeForce RTX 3080 12GB | 쾌적 | 추정 104.2 tok/s72.9–135.5이론 추정 ±30% | Q4_K_M | 5.0 / 12.0GB | 풀 GPU | 최대 32k | — | 출시가 US$799(약 106만 원) |
| GeForce RTX 5070 Ti | 쾌적 | 추정 102.4 tok/s71.7–133.1이론 추정 ±30% | Q4_K_M | 5.0 / 16.0GB | 풀 GPU | 최대 64k | — | 2026-08-09 기준 실거래가 US$949(약 126만 원) |
| GeForce RTX 5080 Laptop | 쾌적 | 추정 102.4 tok/s71.7–133.1이론 추정 ±30% | Q4_K_M | 5.0 / 16.0GB | 풀 GPU | 최대 64k | — | — |
| GeForce RTX 5090 Laptop | 쾌적 | 추정 102.4 tok/s71.7–133.1이론 추정 ±30% | Q4_K_M | 5.0 / 24.0GB | 풀 GPU | 최대 64k | — | — |
| Radeon RX 7900 XT | 쾌적 | 추정 99.2 tok/s69.5–129.0이론 추정 ±30% | Q4_K_M | 5.0 / 20.0GB | 풀 GPU | 최대 64k | — | 출시가 US$899(약 119만 원) |
| GeForce RTX 3080 10GB | 쾌적 | 추정 86.8 tok/s60.8–112.9이론 추정 ±30% | Q4_K_M | 5.0 / 10.0GB | 풀 GPU | 최대 32k | — | 출시가 US$699(약 93만 원) |
| GeForce RTX 4080 Super | 쾌적 | 추정 84.1 tok/s58.9–109.3이론 추정 ±30% | Q4_K_M | 5.0 / 16.0GB | 풀 GPU | 최대 64k | — | 출시가 US$999(약 132만 원) |
| GeForce RTX 4080 | 쾌적 | 추정 81.9 tok/s57.3–106.5이론 추정 ±30% | Q4_K_M | 5.0 / 16.0GB | 풀 GPU | 최대 64k | — | 출시가 US$1,199(약 159만 원) |
| Radeon RX 9070 | 쾌적 | 추정 80.0 tok/s56.0–104.0이론 추정 ±30% | Q4_K_M | 5.0 / 16.0GB | 풀 GPU | 최대 32k | — | 2026-08-09 기준 실거래가 US$639(약 85만 원) |
| Radeon RX 9070 XT | 쾌적 | 추정 80.0 tok/s56.0–104.0이론 추정 ±30% | Q4_K_M | 5.0 / 16.0GB | 풀 GPU | 최대 32k | — | 2026-08-09 기준 실거래가 US$689(약 91만 원) |
| Radeon RX 7800 XT | 쾌적 | 추정 77.4 tok/s54.2–100.6이론 추정 ±30% | Q4_K_M | 5.0 / 16.0GB | 풀 GPU | 최대 32k | — | 출시가 US$499(약 66만 원) |
| GeForce RTX 4070 Ti Super | 쾌적 | 추정 76.8 tok/s53.7–99.8이론 추정 ±30% | Q4_K_M | 5.0 / 16.0GB | 풀 GPU | 최대 32k | — | 출시가 US$799(약 106만 원) |
| GeForce RTX 5070 | 쾌적 | 추정 76.8 tok/s53.7–99.8이론 추정 ±30% | Q4_K_M | 5.0 / 12.0GB | 풀 GPU | 최대 32k | — | 2026-08-09 기준 실거래가 US$629(약 83만 원) |
| GeForce RTX 5070 Ti Laptop | 쾌적 | 추정 76.8 tok/s53.7–99.8이론 추정 ±30% | Q4_K_M | 5.0 / 12.0GB | 풀 GPU | 최대 32k | — | — |
| Apple M3 Ultra · 96GB | 쾌적 | 추정 76.2 tok/s53.3–99.1이론 추정 ±30% | Q4_K_M | 4.7 / 67.2GB | 통합 메모리 | 최대 32k | — | — |
| Apple M5 Max (40-core GPU) · 48GB | 쾌적 | 추정 76.2 tok/s53.3–99.0이론 추정 ±30% | Q4_K_M | 4.7 / 33.6GB | 통합 메모리 | 최대 32k | — | — |
| Apple M2 Ultra · 64GB | 쾌적 | 추정 74.4 tok/s52.1–96.8이론 추정 ±30% | Q4_K_M | 4.7 / 44.8GB | 통합 메모리 | 최대 32k | — | — |
| GeForce RTX 2080 Ti | 쾌적 | 추정 70.4 tok/s49.3–91.5이론 추정 ±30% | Q4_K_M | 5.0 / 11.0GB | 풀 GPU | 최대 32k | — | 출시가 US$999(약 132만 원) |
| Apple M4 Max (40-core GPU) · 48GB | 쾌적 | 추정 67.7 tok/s47.4–88.1이론 추정 ±30% | Q4_K_M | 4.7 / 33.6GB | 통합 메모리 | 최대 32k | — | — |
| GeForce RTX 4090 Laptop | 쾌적 | 추정 65.8 tok/s46.1–85.6이론 추정 ±30% | Q4_K_M | 5.0 / 16.0GB | 풀 GPU | 최대 32k | — | — |
| GeForce RTX 4070 | 쾌적 | 추정 57.6 tok/s40.3–74.9이론 추정 ±30% | Q4_K_M | 5.0 / 12.0GB | 풀 GPU | 최대 32k | — | 출시가 US$599(약 79만 원) |
| GeForce RTX 4070 Super | 쾌적 | 추정 57.6 tok/s40.3–74.9이론 추정 ±30% | Q4_K_M | 5.0 / 12.0GB | 풀 GPU | 최대 32k | — | 출시가 US$599(약 79만 원) |
| Apple M5 Max (32-core GPU) · 36GB | 쾌적 | 추정 57.1 tok/s39.9–74.2이론 추정 ±30% | Q4_K_M | 4.7 / 25.2GB | 통합 메모리 | 최대 32k | — | — |
| GeForce GTX 1080 Ti | 쾌적 | 추정 55.3 tok/s38.7–71.9이론 추정 ±30% | Q4_K_M | 5.0 / 11.0GB | 풀 GPU | 최대 32k | — | 출시가 US$699(약 93만 원) |
| GeForce RTX 3070 | 쾌적 | 추정 51.2 tok/s35.8–66.5이론 추정 ±30% | Q4_K_M | 5.0 / 8.0GB | 풀 GPU | 최대 16k | — | 출시가 US$499(약 66만 원) |
| GeForce RTX 5060 | 쾌적 | 추정 51.2 tok/s35.8–66.5이론 추정 ±30% | Q4_K_M | 5.0 / 8.0GB | 풀 GPU | 최대 16k | — | 2026-08-09 기준 실거래가 US$339(약 45만 원) |
| GeForce RTX 5060 Ti 16GB | 쾌적 | 추정 51.2 tok/s35.8–66.5이론 추정 ±30% | Q4_K_M | 5.0 / 16.0GB | 풀 GPU | 최대 16k | — | 2026-08-09 기준 실거래가 US$569(약 75만 원) |
| GeForce RTX 5060 Ti 8GB | 쾌적 | 추정 51.2 tok/s35.8–66.5이론 추정 ±30% | Q4_K_M | 5.0 / 8.0GB | 풀 GPU | 최대 16k | — | 2026-08-09 기준 실거래가 US$429(약 57만 원) |
| Apple M4 Max (32-core GPU) · 36GB | 쾌적 | 추정 50.9 tok/s35.6–66.1이론 추정 ±30% | Q4_K_M | 4.7 / 25.2GB | 통합 메모리 | 최대 16k | — | — |
| GeForce RTX 4080 Laptop | 쾌적 | 추정 49.4 tok/s34.6–64.2이론 추정 ±30% | Q4_K_M | 5.0 / 12.0GB | 풀 GPU | 최대 16k | — | — |
| Intel Arc B580 | 쾌적 | 추정 43.9 tok/s30.7–57.1이론 추정 ±30% | Q4_K_M | 5.0 / 12.0GB | 풀 GPU | 최대 16k | — | 2026-08-09 기준 실거래가 US$290(약 38만 원) |
| GeForce RTX 3060 12GB | 쾌적 | 추정 41.1 tok/s28.8–53.5이론 추정 ±30% | Q4_K_M | 5.0 / 12.0GB | 풀 GPU | 최대 16k | — | 2026-08-09 기준 실거래가 US$250(약 33만 원) |
| Radeon RX 9060 XT 16GB | 쾌적 | 추정 39.9 tok/s28.0–51.9이론 추정 ±30% | Q4_K_M | 5.0 / 16.0GB | 풀 GPU | 최대 16k | — | 2026-08-09 기준 실거래가 US$449(약 60만 원) |
| Apple M5 Pro · 24GB | 쾌적 | 추정 38.1 tok/s26.7–49.5이론 추정 ±30% | Q4_K_M | 4.7 / 16.8GB | 통합 메모리 | 최대 16k | — | — |
| NVIDIA DGX Spark · 64GB | 쾌적 | 추정 34.8 tok/s24.3–45.2이론 추정 ±30% | Q4_K_M | 4.7 / 48.2GB | 통합 메모리 | 최대 8k | — | 128GB 구성 출시가 US$3,999(약 530만 원) |
| Ryzen AI Max+ 395 (Strix Halo) · 32GB | 쾌적 | 추정 34.3 tok/s24.0–44.5이론 추정 ±30% | Q4_K_M | 4.7 / 22.4GB | 통합 메모리 | 최대 8k | — | 128GB 구성 출시가 US$1,999(약 265만 원) |
| Apple M4 Pro · 24GB | 쾌적 | 추정 33.9 tok/s23.7–44.0이론 추정 ±30% | Q4_K_M | 4.7 / 16.8GB | 통합 메모리 | 최대 8k | — | — |
| GeForce RTX 4060 Ti 16GB | 쾌적 | 추정 32.9 tok/s23.0–42.8이론 추정 ±30% | Q4_K_M | 5.0 / 16.0GB | 풀 GPU | 최대 8k | — | 출시가 US$499(약 66만 원) |
| GeForce RTX 4060 Ti 8GB | 쾌적 | 추정 32.9 tok/s23.0–42.8이론 추정 ±30% | Q4_K_M | 5.0 / 8.0GB | 풀 GPU | 최대 8k | — | 출시가 US$399(약 53만 원) |
| GeForce RTX 4060 | 쾌적 | 추정 31.1 tok/s21.8–40.4이론 추정 ±30% | Q4_K_M | 5.0 / 8.0GB | 풀 GPU | 최대 8k | — | 출시가 US$299(약 40만 원) |
| GeForce RTX 4060 Laptop | 원활 | 추정 29.3 tok/s20.5–38.0이론 추정 ±30% | Q4_K_M | 5.0 / 8.0GB | 풀 GPU | 최대 16k |
| — |
| GeForce RTX 4070 Laptop | 원활 | 추정 29.3 tok/s20.5–38.0이론 추정 ±30% | Q4_K_M | 5.0 / 8.0GB | 풀 GPU | 최대 16k |
| — |
| GeForce RTX 3050 8GB | 원활 | 추정 25.6 tok/s17.9–33.3이론 추정 ±30% | Q4_K_M | 5.0 / 8.0GB | 풀 GPU | 최대 16k |
| 출시가 US$249(약 33만 원) |
| Apple M5 · 16GB | 원활 | 추정 19.1 tok/s13.3–24.8이론 추정 ±30% | Q4_K_M | 4.7 / 11.2GB | 통합 메모리 | 최대 16k | — | — |
| Apple M6 · 16GB | 원활 | 추정 19.1 tok/s13.3–24.8이론 추정 ±30% | Q4_K_M | 4.7 / 11.2GB | 통합 메모리 | 최대 16k | — | — |
| Apple M4 · 16GB | 원활 | 추정 14.9 tok/s10.4–19.4이론 추정 ±30% | Q4_K_M | 4.7 / 11.2GB | 통합 메모리 | 최대 8k | — | — |
| DDR5-6000 듀얼채널 CPU · 16GB | 겨우 가능 | 추정 7.8 tok/s5.5–10.2이론 추정 ±30% | Q4_K_M | RAM 4.2GB | CPU 전용 | 최대 32k | — | — |
| DDR5-5600 듀얼채널 CPU · 16GB | 겨우 가능 | 추정 7.3 tok/s5.1–9.5이론 추정 ±30% | Q4_K_M | RAM 4.2GB | CPU 전용 | 최대 32k | — | — |
| DDR4-3200 듀얼채널 CPU · 16GB | 겨우 가능 | 추정 4.2 tok/s2.9–5.4이론 추정 ±30% | Q4_K_M | RAM 4.2GB | CPU 전용 | 최대 16k | — | — |
생각 모드가 있는 모델은 생각하는 데 토큰을 더 쓰기 때문에 속도 기준을 1.5배 엄격하게 잡습니다(30 / 12 / 3 tok/s). 생각 모드를 끄고 쓰면 실제로는 한 단계 위일 수 있습니다.
원화 금액은 미국 달러 가격을 2026-10-21 환율(1달러 1,326원)로 단순 환산한 참고값이라 국내 판매가와 다를 수 있습니다.
가장 싸게 돌릴 수 있는 GPU
- 쾌적GeForce RTX 3060 12GB2026-08-09 기준 실거래가 US$250(약 33만 원), 속도 추정 41.1 tok/s (28.8–53.5, 이론 추정 ±30%)
Nanbeige4.2 3B 벤치마크 결과
이 모델로 잰 공개 벤치마크 결과는 아직 없습니다.
자주 묻는 질문
Nanbeige4.2 3B 실행에 VRAM이 얼마나 필요한가요?
Q4_K_M 파일은 2.68GB입니다. 8k 컨텍스트로 그래픽카드에 올리면 약 4.4GB가 필요합니다(가중치 2.39GB, KV 캐시 1.5GB, 연산 버퍼 0.6GB). 가장 작은 파일(Q2_K (품질 손실 큼))은 약 3.7GB가 필요합니다. 파일 일부는 그래픽카드에 올라가지 않습니다. llama.cpp는 입력 임베딩 표를 시스템 RAM에 둡니다. 맥은 파일 전체로 계산해서 조금 더 필요합니다.
Nanbeige4.2 3B, 원활하게 돌아가는 가장 싼 GPU는 무엇인가요?
쾌적하게 돌리는 가장 싼 GPU는 GeForce RTX 3060 12GB입니다. 실거래가는 2026-08-09 기준 US$250(약 33만 원)이고, 속도는 추정 41.1 tok/s (28.8–53.5, 이론 추정 ±30%)입니다.
Nanbeige4.2 3B, 8GB·16GB·24GB GPU에서 돌아가나요?
Q4_K_M·8k 컨텍스트 기준 카드별 판정입니다. GeForce RTX 4060: 쾌적, 추정 31.1 tok/s (21.8–40.4, 이론 추정 ±30%); GeForce RTX 5060 Ti 16GB: 쾌적, 추정 51.2 tok/s (35.8–66.5, 이론 추정 ±30%); GeForce RTX 3090: 쾌적, 추정 106.9 tok/s (74.9–139.0, 이론 추정 ±30%).
속도는 메모리 대역폭으로 계산한 추정치를 공개 벤치마크로 보정한 값입니다. 모든 수치에는 오차 범위와 신뢰 라벨을 함께 표시합니다. 실제 속도는 드라이버, 백엔드, 컨텍스트 길이, 발열에 따라 달라집니다.