EXAONE 4.0 1.2B 필요 사양: VRAM과 돌아가는 GPU

모델 정보

파라미터
1.28B
어텐션
풀 어텐션
최대 컨텍스트
65,536 토큰
공개일
2025-07-11

GGUF 파일

등록된 EXAONE 4.0 1.2B 양자화 파일(작은 파일부터)
양자화파일 크기품질배포처
IQ4_XS0.75GB균형공식 GGUF · LGAI-EXAONE
Q4_K_M기준0.81GB균형공식 GGUF · LGAI-EXAONE
Q6_K1.05GB준무손실공식 GGUF · LGAI-EXAONE
Q8_01.36GB준무손실공식 GGUF · LGAI-EXAONE

양자화·컨텍스트별 필요 메모리

가중치 + f16 KV 캐시 + 연산 버퍼(GB). Windows에서 GPU가 화면 출력도 맡는다면 약 0.6GB를 더하세요.
양자화4k8k16k32k64k
IQ4_XS1.51.82.43.65.9
Q4_K_M1.61.92.53.65.9
Q6_K1.82.12.73.96.2
Q8_02.12.43.04.26.5

EXAONE 4.0 1.2B, 어떤 GPU에서 돌아갈까?

판정 읽는 법

쾌적
GPU에 전부 올라가고 20 tok/s 이상
원활
GPU에 전부 올라가고 8~20 tok/s, MoE 전문가를 시스템 RAM에 두고 20 tok/s 이상, 또는 GPU에 90% 이상 올라가고 8 tok/s 이상
겨우 가능
2~8 tok/s, CPU 전용, GPU에 90% 미만, 또는 MoE 전문가를 RAM에 두고 20 tok/s 미만
불가
메모리에 안 들어가거나 2 tok/s 미만

옆으로 밀면 모든 열을 볼 수 있습니다.

Q4_K_M·8k 컨텍스트 기준 GPU·맥·CPU 54종을 판정·속도 순으로 정렬했습니다
하드웨어판정속도양자화메모리실행 방식컨텍스트참고가격
GeForce RTX 5090
쾌적
추정 955.1 tok/s840.5–1,069.8보정된 추정 ±12%
Q4_K_M2.5 / 32.0GB풀 GPU최대 64k—실거래가 US$4,200 (2026-08-09 기준)
Radeon RX 7900 XTX
쾌적
추정 570.2 tok/s501.7–638.6보정된 추정 ±12%
Q4_K_M2.5 / 24.0GB풀 GPU최대 64k—출시가 US$999
GeForce RTX 3090 Ti
쾌적
추정 537.3 tok/s472.8–601.7보정된 추정 ±12%
Q4_K_M2.5 / 24.0GB풀 GPU최대 64k—출시가 US$1,999
GeForce RTX 4090
쾌적
추정 537.3 tok/s472.8–601.7보정된 추정 ±12%
Q4_K_M2.5 / 24.0GB풀 GPU최대 64k—실거래가 US$2,755 (2026-08-09 기준)
GeForce RTX 5080
쾌적
추정 511.7 tok/s450.3–573.1보정된 추정 ±12%
Q4_K_M2.5 / 16.0GB풀 GPU최대 64k—실거래가 US$1,256 (2026-08-09 기준)
GeForce RTX 3090
쾌적
추정 498.9 tok/s439.0–558.8보정된 추정 ±12%
Q4_K_M2.5 / 24.0GB풀 GPU최대 64k—실거래가 US$1,050 (2026-08-09 기준)
GeForce RTX 3080 12GB
쾌적
추정 486.1 tok/s427.8–544.4보정된 추정 ±12%
Q4_K_M2.5 / 12.0GB풀 GPU최대 64k—출시가 US$799
GeForce RTX 5070 Ti
쾌적
추정 477.6 tok/s420.3–534.9보정된 추정 ±12%
Q4_K_M2.5 / 16.0GB풀 GPU최대 64k—실거래가 US$949 (2026-08-09 기준)
GeForce RTX 5080 Laptop
쾌적
추정 477.6 tok/s420.3–534.9보정된 추정 ±12%
Q4_K_M2.5 / 16.0GB풀 GPU최대 64k——
GeForce RTX 5090 Laptop
쾌적
추정 477.6 tok/s420.3–534.9보정된 추정 ±12%
Q4_K_M2.5 / 24.0GB풀 GPU최대 64k——
Radeon RX 7900 XT
쾌적
추정 475.1 tok/s418.1–532.1보정된 추정 ±12%
Q4_K_M2.5 / 20.0GB풀 GPU최대 64k—출시가 US$899
GeForce RTX 3080 10GB
쾌적
추정 405.1 tok/s356.5–453.7보정된 추정 ±12%
Q4_K_M2.5 / 10.0GB풀 GPU최대 64k—출시가 US$699
GeForce RTX 4080 Super
쾌적
추정 392.3 tok/s345.2–439.4보정된 추정 ±12%
Q4_K_M2.5 / 16.0GB풀 GPU최대 64k—출시가 US$999
Radeon RX 9070
쾌적
추정 383.1 tok/s337.1–429.0보정된 추정 ±12%
Q4_K_M2.5 / 16.0GB풀 GPU최대 64k—실거래가 US$639 (2026-08-09 기준)
Radeon RX 9070 XT
쾌적
추정 383.1 tok/s337.1–429.0보정된 추정 ±12%
Q4_K_M2.5 / 16.0GB풀 GPU최대 64k—실거래가 US$689 (2026-08-09 기준)
GeForce RTX 4080
쾌적
추정 382.2 tok/s336.3–428.0보정된 추정 ±12%
Q4_K_M2.5 / 16.0GB풀 GPU최대 64k—출시가 US$1,199
Radeon RX 7800 XT
쾌적
추정 370.6 tok/s326.1–415.1보정된 추정 ±12%
Q4_K_M2.5 / 16.0GB풀 GPU최대 64k—출시가 US$499
GeForce RTX 4070 Ti Super
쾌적
추정 358.2 tok/s315.2–401.2보정된 추정 ±12%
Q4_K_M2.5 / 16.0GB풀 GPU최대 64k—출시가 US$799
GeForce RTX 5070
쾌적
추정 358.2 tok/s315.2–401.2보정된 추정 ±12%
Q4_K_M2.5 / 12.0GB풀 GPU최대 64k—실거래가 US$629 (2026-08-09 기준)
GeForce RTX 5070 Ti Laptop
쾌적
추정 358.2 tok/s315.2–401.2보정된 추정 ±12%
Q4_K_M2.5 / 12.0GB풀 GPU최대 64k——
GeForce RTX 2080 Ti
쾌적
추정 328.3 tok/s288.9–367.7보정된 추정 ±12%
Q4_K_M2.5 / 11.0GB풀 GPU최대 64k—출시가 US$999
GeForce RTX 4090 Laptop
쾌적
추정 307.0 tok/s270.2–343.9보정된 추정 ±12%
Q4_K_M2.5 / 16.0GB풀 GPU최대 64k——
Apple M5 Max (40-core GPU) · 48GB
쾌적
추정 280.5 tok/s224.4–336.6보정된 추정 ±20%
Q4_K_M1.9 / 33.6GB통합 메모리최대 64k——
Apple M3 Ultra · 96GB
쾌적
추정 274.4 tok/s219.5–329.3보정된 추정 ±20%
Q4_K_M1.9 / 67.2GB통합 메모리최대 64k——
GeForce RTX 4070
쾌적
추정 268.6 tok/s236.4–300.9보정된 추정 ±12%
Q4_K_M2.5 / 12.0GB풀 GPU최대 64k—출시가 US$599
GeForce RTX 4070 Super
쾌적
추정 268.6 tok/s236.4–300.9보정된 추정 ±12%
Q4_K_M2.5 / 12.0GB풀 GPU최대 64k—출시가 US$599
Apple M2 Ultra · 64GB
쾌적
추정 268.0 tok/s214.4–321.6보정된 추정 ±20%
Q4_K_M1.9 / 44.8GB통합 메모리최대 64k——
GeForce GTX 1080 Ti
쾌적
추정 258.0 tok/s180.6–335.4이론 추정 ±30%
Q4_K_M2.5 / 11.0GB풀 GPU최대 64k—출시가 US$699
Apple M4 Max (40-core GPU) · 48GB
쾌적
추정 249.4 tok/s199.6–299.3보정된 추정 ±20%
Q4_K_M1.9 / 33.6GB통합 메모리최대 64k——
GeForce RTX 3070
쾌적
추정 238.8 tok/s210.1–267.4보정된 추정 ±12%
Q4_K_M2.5 / 8.0GB풀 GPU최대 64k—출시가 US$499
GeForce RTX 5060
쾌적
추정 238.8 tok/s210.1–267.4보정된 추정 ±12%
Q4_K_M2.5 / 8.0GB풀 GPU최대 64k—실거래가 US$339 (2026-08-09 기준)
GeForce RTX 5060 Ti 16GB
쾌적
추정 238.8 tok/s210.1–267.4보정된 추정 ±12%
Q4_K_M2.5 / 16.0GB풀 GPU최대 64k—실거래가 US$569 (2026-08-09 기준)
GeForce RTX 5060 Ti 8GB
쾌적
추정 238.8 tok/s210.1–267.4보정된 추정 ±12%
Q4_K_M2.5 / 8.0GB풀 GPU최대 64k—실거래가 US$429 (2026-08-09 기준)
GeForce RTX 4080 Laptop
쾌적
추정 230.3 tok/s202.6–257.9보정된 추정 ±12%
Q4_K_M2.5 / 12.0GB풀 GPU최대 64k——
Apple M5 Max (32-core GPU) · 36GB
쾌적
추정 210.2 tok/s168.1–252.2보정된 추정 ±20%
Q4_K_M1.9 / 25.2GB통합 메모리최대 64k——
Intel Arc B580
쾌적
추정 204.9 tok/s163.9–245.8보정된 추정 ±20%
Q4_K_M2.5 / 12.0GB풀 GPU최대 64k—실거래가 US$290 (2026-08-09 기준)
GeForce RTX 3060 12GB
쾌적
추정 191.9 tok/s168.9–214.9보정된 추정 ±12%
Q4_K_M2.5 / 12.0GB풀 GPU최대 64k—실거래가 US$250 (2026-08-09 기준)
Radeon RX 9060 XT 16GB
쾌적
추정 191.2 tok/s168.3–214.2보정된 추정 ±12%
Q4_K_M2.5 / 16.0GB풀 GPU최대 64k—실거래가 US$449 (2026-08-09 기준)
Apple M4 Max (32-core GPU) · 36GB
쾌적
추정 187.3 tok/s149.8–224.8보정된 추정 ±20%
Q4_K_M1.9 / 25.2GB통합 메모리최대 64k——
GeForce RTX 4060 Ti 16GB
쾌적
추정 153.5 tok/s135.1–171.9보정된 추정 ±12%
Q4_K_M2.5 / 16.0GB풀 GPU최대 64k—출시가 US$499
GeForce RTX 4060 Ti 8GB
쾌적
추정 153.5 tok/s135.1–171.9보정된 추정 ±12%
Q4_K_M2.5 / 8.0GB풀 GPU최대 64k—출시가 US$399
GeForce RTX 4060
쾌적
추정 145.0 tok/s127.6–162.4보정된 추정 ±12%
Q4_K_M2.5 / 8.0GB풀 GPU최대 64k—출시가 US$299
Apple M5 Pro · 24GB
쾌적
추정 140.3 tok/s112.2–168.3보정된 추정 ±20%
Q4_K_M1.9 / 16.8GB통합 메모리최대 64k——
GeForce RTX 4060 Laptop
쾌적
추정 136.4 tok/s120.1–152.8보정된 추정 ±12%
Q4_K_M2.5 / 8.0GB풀 GPU최대 64k——
GeForce RTX 4070 Laptop
쾌적
추정 136.4 tok/s120.1–152.8보정된 추정 ±12%
Q4_K_M2.5 / 8.0GB풀 GPU최대 64k——
Ryzen AI Max+ 395 (Strix Halo) · 32GB
쾌적
추정 126.7 tok/s101.4–152.0보정된 추정 ±20%
Q4_K_M1.9 / 22.4GB통합 메모리최대 64k—출시가 US$1,999
Apple M4 Pro · 24GB
쾌적
추정 124.7 tok/s99.8–149.7보정된 추정 ±20%
Q4_K_M1.9 / 16.8GB통합 메모리최대 64k——
GeForce RTX 3050 8GB
쾌적
추정 119.4 tok/s105.1–133.7보정된 추정 ±12%
Q4_K_M2.5 / 8.0GB풀 GPU최대 64k—출시가 US$249
NVIDIA DGX Spark · 128GB
쾌적
추정 83.1 tok/s66.5–99.8보정된 추정 ±20%
Q4_K_M1.9 / 89.6GB통합 메모리최대 64k—출시가 US$3,999
Apple M5 · 16GB
쾌적
추정 70.2 tok/s56.1–84.2보정된 추정 ±20%
Q4_K_M1.9 / 11.2GB통합 메모리최대 32k——
Apple M4 · 16GB
쾌적
추정 54.8 tok/s43.9–65.8보정된 추정 ±20%
Q4_K_M1.9 / 11.2GB통합 메모리최대 32k——
DDR5-6000 듀얼채널 CPU · 16GB
겨우 가능
추정 36.5 tok/s29.2–43.9보정된 추정 ±20%
Q4_K_MRAM 1.3GBCPU 전용최대 64k
  • CPU로만 추론하므로 겨우 돌아가는 수준을 넘지 못합니다.
—
DDR5-5600 듀얼채널 CPU · 16GB
겨우 가능
추정 34.1 tok/s27.3–40.9보정된 추정 ±20%
Q4_K_MRAM 1.3GBCPU 전용최대 64k
  • CPU로만 추론하므로 겨우 돌아가는 수준을 넘지 못합니다.
—
DDR4-3200 듀얼채널 CPU · 16GB
겨우 가능
추정 19.5 tok/s15.6–23.4보정된 추정 ±20%
Q4_K_MRAM 1.3GBCPU 전용최대 64k
  • CPU로만 추론하므로 겨우 돌아가는 수준을 넘지 못합니다.
—

가장 싸게 돌릴 수 있는 GPU

  • 쾌적GeForce RTX 3060 12GB실거래가 US$250 (2026-08-09 기준), 속도 추정 191.9 tok/s (168.9–214.9, 보정된 추정 ±12%)

EXAONE 4.0 1.2B 벤치마크 결과

이 모델로 잰 공개 벤치마크 결과는 아직 없습니다.

자주 묻는 질문

EXAONE 4.0 1.2B 실행에 VRAM이 얼마나 필요한가요?

Q4_K_M 기준으로 가중치가 0.81GB이고, 8k 컨텍스트까지 더하면 약 1.9GB가 필요합니다(KV 캐시 0.5GB, 연산 버퍼 0.6GB). 가장 작은 파일(IQ4_XS)은 약 1.8GB가 필요합니다.

EXAONE 4.0 1.2B, 원활하게 돌아가는 가장 싼 GPU는 무엇인가요?

쾌적하게 돌리는 가장 싼 GPU는 GeForce RTX 3060 12GB입니다. 실거래가는 US$250(2026-08-09 기준)이고, 속도는 추정 191.9 tok/s (168.9–214.9, 보정된 추정 ±12%)입니다.

EXAONE 4.0 1.2B, 8GB·16GB·24GB GPU에서 돌아가나요?

Q4_K_M·8k 컨텍스트 기준 카드별 판정입니다. GeForce RTX 4060: 쾌적, 추정 145.0 tok/s (127.6–162.4, 보정된 추정 ±12%); GeForce RTX 5060 Ti 16GB: 쾌적, 추정 238.8 tok/s (210.1–267.4, 보정된 추정 ±12%); GeForce RTX 3090: 쾌적, 추정 498.9 tok/s (439.0–558.8, 보정된 추정 ±12%).

속도는 메모리 대역폭으로 계산한 추정치를 공개 벤치마크로 보정한 값입니다. 모든 수치에는 오차 범위와 신뢰 라벨을 함께 표시합니다. 실제 속도는 드라이버, 백엔드, 컨텍스트 길이, 발열에 따라 달라집니다.