Qwen3.5 4B 필요 사양: VRAM과 돌아가는 GPU
Qwen3.5 4B, 어떤 모델인가요
Qwen3.5 4B는 Qwen 팀이 2026년 3월에 9B·2B·0.8B와 함께 공개한 소형 dense 모델입니다. 텍스트와 함께 이미지·영상도 입력받고, 기본으로 생각한 뒤에 답합니다. 생각 모드는 enable_thinking을 false로 두면 끌 수 있고, 기본 컨텍스트는 262,144 토큰입니다. 모델 카드에 따르면 201개 언어·방언을 지원하고, Apache 2.0 라이선스라 상업적으로도 쓸 수 있습니다.
모델 정보
- 파라미터
- 4.66B
- 어텐션
- 하이브리드 어텐션(일부 층만 풀 어텐션)
- 최대 컨텍스트
- 262,144 토큰
- 공개일
- 2026-02-27
같은 계열의 다른 크기
| 모델 | 파라미터 | 기준 양자화 | 필요 메모리(8k) | GeForce RTX 4060 | GeForce RTX 5060 Ti 16GB | GeForce RTX 3090 |
|---|---|---|---|---|---|---|
| Qwen3.5 4B지금 보는 모델 | 4.66B | Q4_K_M | 3.6GB | 쾌적 | 쾌적 | 쾌적 |
| Qwen3.5 9B | 9.65B | Q4_K_M | 6.0GB | 쾌적 | 쾌적 | 쾌적 |
| Qwen3.5 27B | 27.78B | Q4_K_M | 17.2GB | 겨우 가능 | 겨우 가능 | 쾌적 |
| Qwen3.5 35B-A3B | 총 35.95B · 활성 3B (MoE) | Q4_K_M | 22.3GB | 원활 | 원활 | 쾌적 |
| Qwen3.5 122B-A10B | 총 125.09B · 활성 10B (MoE) | Q4_K_M | 76.6GB | 불가 | 불가 | 불가 |
GGUF 파일
| 양자화 | 파일 크기 | 품질 | 배포처 |
|---|---|---|---|
| UD-Q2_K_XL | 2.12GB | 손실 큼 | 커뮤니티 GGUF · unsloth |
| IQ4_XS | 2.64GB | 균형 | 커뮤니티 GGUF · unsloth |
| Q4_K_M기준 | 2.83GB | 균형 | 커뮤니티 GGUF · unsloth |
| Q8_0 | 4.61GB | 준무손실 | 커뮤니티 GGUF · unsloth |
일부 저장소는 Unsloth Dynamic(UD) 변형만 배포합니다. 크기는 실제로 내려받는 파일 기준입니다.
양자화·컨텍스트별 필요 메모리
| 양자화 | 4k | 8k | 16k | 32k | 64k | 128k | 256k |
|---|---|---|---|---|---|---|---|
| UD-Q2_K_XL | 2.7 | 2.9 | 3.2 | 3.9 | 5.3 | 8.1 | 13.5 |
| IQ4_XS | 3.2 | 3.4 | 3.7 | 4.4 | 5.8 | 8.5 | 14.0 |
| Q4_K_M | 3.4 | 3.6 | 3.9 | 4.6 | 6.0 | 8.7 | 14.2 |
| Q8_0 | 5.1 | 5.3 | 5.7 | 6.3 | 7.7 | 10.5 | 16.0 |
Qwen3.5 4B, 어떤 GPU에서 돌아갈까?
판정 읽는 법
- 쾌적
- GPU에 전부 올라가고 20 tok/s 이상
- 원활
- GPU에 전부 올라가고 8~20 tok/s, MoE 전문가를 시스템 RAM에 두고 20 tok/s 이상, 또는 GPU에 90% 이상 올라가고 8 tok/s 이상
- 겨우 가능
- 2~8 tok/s, CPU 전용, GPU에 90% 미만, 또는 MoE 전문가를 RAM에 두고 20 tok/s 미만
- 불가
- 메모리에 안 들어가거나 2 tok/s 미만
옆으로 밀면 모든 열을 볼 수 있습니다.
| 하드웨어 | 판정 | 속도 | 양자화 | 메모리 | 실행 방식 | 컨텍스트 | 참고 | 가격 |
|---|---|---|---|---|---|---|---|---|
| GeForce RTX 5090 | 쾌적 | 추정 404.8 tok/s356.3–453.4보정된 추정 ±12% | Q4_K_M | 4.2 / 32.0GB | 풀 GPU | 최대 256k | — | 2026-08-09 기준 실거래가 US$4,200(약 557만 원) |
| Radeon RX 7900 XTX | 쾌적 | 추정 235.5 tok/s207.2–263.7보정된 추정 ±12% | Q4_K_M | 4.2 / 24.0GB | 풀 GPU | 최대 256k | — | 출시가 US$999(약 132만 원) |
| GeForce RTX 3090 Ti | 쾌적 | 추정 227.7 tok/s200.4–255.1보정된 추정 ±12% | Q4_K_M | 4.2 / 24.0GB | 풀 GPU | 최대 256k | — | 출시가 US$1,999(약 265만 원) |
| GeForce RTX 4090 | 쾌적 | 추정 227.7 tok/s200.4–255.1보정된 추정 ±12% | Q4_K_M | 4.2 / 24.0GB | 풀 GPU | 최대 256k | — | 2026-08-09 기준 실거래가 US$2,755(약 365만 원) |
| Apple M5 Ultra · 96GB | 쾌적 | 추정 225.9 tok/s180.7–271.1보정된 추정 ±20% | Q4_K_M | 3.7 / 67.2GB | 통합 메모리 | 최대 256k | — | — |
| GeForce RTX 5080 | 쾌적 | 추정 216.9 tok/s190.9–242.9보정된 추정 ±12% | Q4_K_M | 4.2 / 16.0GB | 풀 GPU | 최대 256k | — | 2026-08-09 기준 실거래가 US$1,256(약 166만 원) |
| GeForce RTX 3090 | 쾌적 | 추정 211.5 tok/s186.1–236.8보정된 추정 ±12% | Q4_K_M | 4.2 / 24.0GB | 풀 GPU | 최대 256k | — | 2026-08-09 기준 실거래가 US$1,050(약 139만 원) |
| GeForce RTX 3080 12GB | 쾌적 | 추정 206.0 tok/s181.3–230.8보정된 추정 ±12% | Q4_K_M | 4.2 / 12.0GB | 풀 GPU | 최대 128k | — | 출시가 US$799(약 106만 원) |
| GeForce RTX 5070 Ti | 쾌적 | 추정 202.4 tok/s178.1–226.7보정된 추정 ±12% | Q4_K_M | 4.2 / 16.0GB | 풀 GPU | 최대 256k | — | 2026-08-09 기준 실거래가 US$949(약 126만 원) |
| GeForce RTX 5080 Laptop | 쾌적 | 추정 202.4 tok/s178.1–226.7보정된 추정 ±12% | Q4_K_M | 4.2 / 16.0GB | 풀 GPU | 최대 256k | — | — |
| GeForce RTX 5090 Laptop | 쾌적 | 추정 202.4 tok/s178.1–226.7보정된 추정 ±12% | Q4_K_M | 4.2 / 24.0GB | 풀 GPU | 최대 256k | — | — |
| Radeon RX 7900 XT | 쾌적 | 추정 196.2 tok/s172.7–219.8보정된 추정 ±12% | Q4_K_M | 4.2 / 20.0GB | 풀 GPU | 최대 256k | — | 출시가 US$899(약 119만 원) |
| GeForce RTX 3080 10GB | 쾌적 | 추정 171.7 tok/s151.1–192.3보정된 추정 ±12% | Q4_K_M | 4.2 / 10.0GB | 풀 GPU | 최대 128k | — | 출시가 US$699(약 93만 원) |
| GeForce RTX 4080 Super | 쾌적 | 추정 166.3 tok/s146.3–186.2보정된 추정 ±12% | Q4_K_M | 4.2 / 16.0GB | 풀 GPU | 최대 256k | — | 출시가 US$999(약 132만 원) |
| GeForce RTX 4080 | 쾌적 | 추정 162.0 tok/s142.5–181.4보정된 추정 ±12% | Q4_K_M | 4.2 / 16.0GB | 풀 GPU | 최대 256k | — | 출시가 US$1,199(약 159만 원) |
| Radeon RX 9070 | 쾌적 | 추정 158.2 tok/s139.2–177.2보정된 추정 ±12% | Q4_K_M | 4.2 / 16.0GB | 풀 GPU | 최대 256k | — | 2026-08-09 기준 실거래가 US$639(약 85만 원) |
| Radeon RX 9070 XT | 쾌적 | 추정 158.2 tok/s139.2–177.2보정된 추정 ±12% | Q4_K_M | 4.2 / 16.0GB | 풀 GPU | 최대 256k | — | 2026-08-09 기준 실거래가 US$689(약 91만 원) |
| Radeon RX 7800 XT | 쾌적 | 추정 153.1 tok/s134.7–171.4보정된 추정 ±12% | Q4_K_M | 4.2 / 16.0GB | 풀 GPU | 최대 256k | — | 출시가 US$499(약 66만 원) |
| GeForce RTX 4070 Ti Super | 쾌적 | 추정 151.8 tok/s133.6–170.0보정된 추정 ±12% | Q4_K_M | 4.2 / 16.0GB | 풀 GPU | 최대 256k | — | 출시가 US$799(약 106만 원) |
| GeForce RTX 5070 | 쾌적 | 추정 151.8 tok/s133.6–170.0보정된 추정 ±12% | Q4_K_M | 4.2 / 12.0GB | 풀 GPU | 최대 128k | — | 2026-08-09 기준 실거래가 US$629(약 83만 원) |
| GeForce RTX 5070 Ti Laptop | 쾌적 | 추정 151.8 tok/s133.6–170.0보정된 추정 ±12% | Q4_K_M | 4.2 / 12.0GB | 풀 GPU | 최대 128k | — | — |
| Apple M3 Ultra · 96GB | 쾌적 | 추정 150.7 tok/s120.5–180.8보정된 추정 ±20% | Q4_K_M | 3.7 / 67.2GB | 통합 메모리 | 최대 256k | — | — |
| Apple M5 Max (40-core GPU) · 48GB | 쾌적 | 추정 150.6 tok/s120.5–180.7보정된 추정 ±20% | Q4_K_M | 3.7 / 33.6GB | 통합 메모리 | 최대 256k | — | — |
| Apple M2 Ultra · 64GB | 쾌적 | 추정 147.2 tok/s117.7–176.6보정된 추정 ±20% | Q4_K_M | 3.7 / 44.8GB | 통합 메모리 | 최대 256k | — | — |
| GeForce RTX 2080 Ti | 쾌적 | 추정 139.2 tok/s122.5–155.9보정된 추정 ±12% | Q4_K_M | 4.2 / 11.0GB | 풀 GPU | 최대 128k | — | 출시가 US$999(약 132만 원) |
| Apple M4 Max (40-core GPU) · 48GB | 쾌적 | 추정 133.9 tok/s107.1–160.7보정된 추정 ±20% | Q4_K_M | 3.7 / 33.6GB | 통합 메모리 | 최대 256k | — | — |
| GeForce RTX 4090 Laptop | 쾌적 | 추정 130.1 tok/s114.5–145.7보정된 추정 ±12% | Q4_K_M | 4.2 / 16.0GB | 풀 GPU | 최대 256k | — | — |
| GeForce RTX 4070 | 쾌적 | 추정 113.9 tok/s100.2–127.5보정된 추정 ±12% | Q4_K_M | 4.2 / 12.0GB | 풀 GPU | 최대 128k | — | 출시가 US$599(약 79만 원) |
| GeForce RTX 4070 Super | 쾌적 | 추정 113.9 tok/s100.2–127.5보정된 추정 ±12% | Q4_K_M | 4.2 / 12.0GB | 풀 GPU | 최대 128k | — | 출시가 US$599(약 79만 원) |
| Apple M5 Max (32-core GPU) · 36GB | 쾌적 | 추정 112.8 tok/s90.3–135.4보정된 추정 ±20% | Q4_K_M | 3.7 / 25.2GB | 통합 메모리 | 최대 256k | — | — |
| GeForce GTX 1080 Ti | 쾌적 | 추정 109.3 tok/s76.5–142.1이론 추정 ±30% | Q4_K_M | 4.2 / 11.0GB | 풀 GPU | 최대 128k | — | 출시가 US$699(약 93만 원) |
| GeForce RTX 3070 | 쾌적 | 추정 101.2 tok/s89.1–113.4보정된 추정 ±12% | Q4_K_M | 4.2 / 8.0GB | 풀 GPU | 최대 64k | — | 출시가 US$499(약 66만 원) |
| GeForce RTX 5060 | 쾌적 | 추정 101.2 tok/s89.1–113.4보정된 추정 ±12% | Q4_K_M | 4.2 / 8.0GB | 풀 GPU | 최대 64k | — | 2026-08-09 기준 실거래가 US$339(약 45만 원) |
| GeForce RTX 5060 Ti 16GB | 쾌적 | 추정 101.2 tok/s89.1–113.4보정된 추정 ±12% | Q4_K_M | 4.2 / 16.0GB | 풀 GPU | 최대 128k | — | 2026-08-09 기준 실거래가 US$569(약 75만 원) |
| GeForce RTX 5060 Ti 8GB | 쾌적 | 추정 101.2 tok/s89.1–113.4보정된 추정 ±12% | Q4_K_M | 4.2 / 8.0GB | 풀 GPU | 최대 64k | — | 2026-08-09 기준 실거래가 US$429(약 57만 원) |
| Apple M4 Max (32-core GPU) · 36GB | 쾌적 | 추정 100.6 tok/s80.5–120.7보정된 추정 ±20% | Q4_K_M | 3.7 / 25.2GB | 통합 메모리 | 최대 128k | — | — |
| GeForce RTX 4080 Laptop | 쾌적 | 추정 97.6 tok/s85.9–109.3보정된 추정 ±12% | Q4_K_M | 4.2 / 12.0GB | 풀 GPU | 최대 128k | — | — |
| Intel Arc B580 | 쾌적 | 추정 86.8 tok/s69.5–104.2보정된 추정 ±20% | Q4_K_M | 4.2 / 12.0GB | 풀 GPU | 최대 128k | — | 2026-08-09 기준 실거래가 US$290(약 38만 원) |
| GeForce RTX 3060 12GB | 쾌적 | 추정 81.3 tok/s71.6–91.1보정된 추정 ±12% | Q4_K_M | 4.2 / 12.0GB | 풀 GPU | 최대 128k | — | 2026-08-09 기준 실거래가 US$250(약 33만 원) |
| Radeon RX 9060 XT 16GB | 쾌적 | 추정 79.0 tok/s69.5–88.5보정된 추정 ±12% | Q4_K_M | 4.2 / 16.0GB | 풀 GPU | 최대 128k | — | 2026-08-09 기준 실거래가 US$449(약 60만 원) |
| Apple M5 Pro · 24GB | 쾌적 | 추정 75.3 tok/s60.2–90.4보정된 추정 ±20% | Q4_K_M | 3.7 / 16.8GB | 통합 메모리 | 최대 128k | — | — |
| NVIDIA DGX Spark · 64GB | 쾌적 | 추정 68.7 tok/s55.0–82.5보정된 추정 ±20% | Q4_K_M | 3.7 / 48.2GB | 통합 메모리 | 최대 64k | — | 128GB 구성 출시가 US$3,999(약 530만 원) |
| Ryzen AI Max+ 395 (Strix Halo) · 32GB | 쾌적 | 추정 67.8 tok/s54.2–81.3보정된 추정 ±20% | Q4_K_M | 3.7 / 22.4GB | 통합 메모리 | 최대 64k | — | 128GB 구성 출시가 US$1,999(약 265만 원) |
| Apple M4 Pro · 24GB | 쾌적 | 추정 67.0 tok/s53.6–80.4보정된 추정 ±20% | Q4_K_M | 3.7 / 16.8GB | 통합 메모리 | 최대 64k | — | — |
| GeForce RTX 4060 Ti 16GB | 쾌적 | 추정 65.1 tok/s57.3–72.9보정된 추정 ±12% | Q4_K_M | 4.2 / 16.0GB | 풀 GPU | 최대 64k | — | 출시가 US$499(약 66만 원) |
| GeForce RTX 4060 Ti 8GB | 쾌적 | 추정 65.1 tok/s57.3–72.9보정된 추정 ±12% | Q4_K_M | 4.2 / 8.0GB | 풀 GPU | 최대 64k | — | 출시가 US$399(약 53만 원) |
| GeForce RTX 4060 | 쾌적 | 추정 61.5 tok/s54.1–68.8보정된 추정 ±12% | Q4_K_M | 4.2 / 8.0GB | 풀 GPU | 최대 64k | — | 출시가 US$299(약 40만 원) |
| GeForce RTX 4060 Laptop | 쾌적 | 추정 57.8 tok/s50.9–64.8보정된 추정 ±12% | Q4_K_M | 4.2 / 8.0GB | 풀 GPU | 최대 64k | — | — |
| GeForce RTX 4070 Laptop | 쾌적 | 추정 57.8 tok/s50.9–64.8보정된 추정 ±12% | Q4_K_M | 4.2 / 8.0GB | 풀 GPU | 최대 64k | — | — |
| GeForce RTX 3050 8GB | 쾌적 | 추정 50.6 tok/s44.5–56.7보정된 추정 ±12% | Q4_K_M | 4.2 / 8.0GB | 풀 GPU | 최대 64k | — | 출시가 US$249(약 33만 원) |
| Apple M5 · 16GB | 쾌적 | 추정 37.7 tok/s30.1–45.2보정된 추정 ±20% | Q4_K_M | 3.7 / 11.2GB | 통합 메모리 | 최대 16k | — | — |
| Apple M6 · 16GB | 쾌적 | 추정 37.7 tok/s30.1–45.2보정된 추정 ±20% | Q4_K_M | 3.7 / 11.2GB | 통합 메모리 | 최대 16k | — | — |
| Apple M4 · 16GB | 원활 | 추정 29.4 tok/s23.5–35.3보정된 추정 ±20% | Q4_K_M | 3.7 / 11.2GB | 통합 메모리 | 최대 128k |
| — |
| DDR5-6000 듀얼채널 CPU · 16GB | 겨우 가능 | 추정 15.5 tok/s12.4–18.6보정된 추정 ±20% | Q4_K_M | RAM 3.1GB | CPU 전용 | 최대 256k |
| — |
| DDR5-5600 듀얼채널 CPU · 16GB | 겨우 가능 | 추정 14.5 tok/s11.6–17.4보정된 추정 ±20% | Q4_K_M | RAM 3.1GB | CPU 전용 | 최대 256k |
| — |
| DDR4-3200 듀얼채널 CPU · 16GB | 겨우 가능 | 추정 8.3 tok/s6.6–9.9보정된 추정 ±20% | Q4_K_M | RAM 3.1GB | CPU 전용 | 최대 128k | — | — |
생각 모드가 있는 모델은 생각하는 데 토큰을 더 쓰기 때문에 속도 기준을 1.5배 엄격하게 잡습니다(30 / 12 / 3 tok/s). 생각 모드를 끄고 쓰면 실제로는 한 단계 위일 수 있습니다.
원화 금액은 미국 달러 가격을 2026-10-21 환율(1달러 1,326원)로 단순 환산한 참고값이라 국내 판매가와 다를 수 있습니다.
가장 싸게 돌릴 수 있는 GPU
- 쾌적GeForce RTX 3060 12GB2026-08-09 기준 실거래가 US$250(약 33만 원), 속도 추정 81.3 tok/s (71.6–91.1, 보정된 추정 ±12%)
Qwen3.5 4B 벤치마크 결과
이 모델로 잰 공개 벤치마크 결과는 아직 없습니다.
자주 묻는 질문
Qwen3.5 4B 실행에 VRAM이 얼마나 필요한가요?
Q4_K_M 파일은 2.83GB입니다. 8k 컨텍스트로 그래픽카드에 올리면 약 3.6GB가 필요합니다(가중치 2.74GB, KV 캐시 0.3GB, 연산 버퍼 0.6GB). 가장 작은 파일(UD-Q2_K_XL (품질 손실 큼))은 약 2.9GB가 필요합니다. 파일 일부는 그래픽카드에 올라가지 않습니다. llama.cpp는 입력 임베딩 표를 시스템 RAM에 두고, 이 모델의 MTP(다중 토큰 예측) 블록은 아직 쓰지 않아 불러오지 않습니다. 맥은 파일 전체로 계산해서 조금 더 필요합니다.
Qwen3.5 4B, 원활하게 돌아가는 가장 싼 GPU는 무엇인가요?
쾌적하게 돌리는 가장 싼 GPU는 GeForce RTX 3060 12GB입니다. 실거래가는 2026-08-09 기준 US$250(약 33만 원)이고, 속도는 추정 81.3 tok/s (71.6–91.1, 보정된 추정 ±12%)입니다.
Qwen3.5 4B, 8GB·16GB·24GB GPU에서 돌아가나요?
Q4_K_M·8k 컨텍스트 기준 카드별 판정입니다. GeForce RTX 4060: 쾌적, 추정 61.5 tok/s (54.1–68.8, 보정된 추정 ±12%); GeForce RTX 5060 Ti 16GB: 쾌적, 추정 101.2 tok/s (89.1–113.4, 보정된 추정 ±12%); GeForce RTX 3090: 쾌적, 추정 211.5 tok/s (186.1–236.8, 보정된 추정 ±12%).
속도는 메모리 대역폭으로 계산한 추정치를 공개 벤치마크로 보정한 값입니다. 모든 수치에는 오차 범위와 신뢰 라벨을 함께 표시합니다. 실제 속도는 드라이버, 백엔드, 컨텍스트 길이, 발열에 따라 달라집니다.