Qwen3 30B-A3B (2507) 필요 사양: VRAM과 돌아가는 GPU

Qwen3 30B-A3B (2507), 어떤 모델인가요

Qwen3 30B-A3B Instruct 2507은 알리바바 클라우드의 Qwen 팀이 2025년 7월에 공개한 모델입니다. Qwen3 30B-A3B에서 생각 모드 없이 바로 답하는 쪽만 따로 떼어 개선했습니다. 지시 수행·코딩·도구 사용과 256k까지의 긴 입력 이해가 나아졌다고 모델 카드는 밝힙니다. 전체 약 30B 가운데 토큰마다 3B 정도만 쓰는 MoE 모델입니다.

모델 카드

Qwen3 30B-A3B (2507), 돌리기 전에 알아 둘 점

Qwen3 30B-A3B는 MoE 모델입니다. 전체 파라미터는 30B 정도지만 토큰마다 쓰는 것은 3B 정도뿐입니다. Q4_K_M으로 8k 컨텍스트를 쓰면 19.8GB가 필요해서 24GB 카드에는 전부 올라가고 쾌적하게 돌아갑니다. GeForce RTX 3090에서 Qwen3 30B-A3B (2507) 페이지에서 자세한 숫자를 볼 수 있습니다. 더 작은 카드에서는 다 들어가지 않는 전문가를 시스템 RAM에 둡니다. 토큰마다 일부 전문가만 쓰기 때문입니다. 그래서 GeForce RTX 4060이나 GeForce RTX 5060 Ti 16GB 같은 8~16GB 카드에서도 원활하게 돌아간다고 CanRun은 추정합니다. 이론 추정(±30%)이고 시스템 RAM 속도에 따라 달라집니다.

이 페이지의 모델은 2507 Instruct 판입니다. 모델 카드에 적힌 대로 생각 모드 없이 바로 답합니다. 그래서 CanRun도 생각 모드 모델에 쓰는 엄격한 기준이 아니라 보통 속도 기준을 적용합니다. 맥에서는 48GB Apple M4 Pro에서 쾌적하게 돌아갑니다. 그래픽카드 없이 DDR5 듀얼채널 32GB PC에서도 돌아갑니다. CanRun은 CPU로만 돌리는 구성을 속도와 관계없이 겨우 돌아가는 수준으로 판정합니다. 이 구성의 보정된 추정 속도는 ‘원활’ 기준선을 넘지만 판정은 그대로입니다.

모델 정보

파라미터: 총 30.5B · 활성 3.3B (MoE)
어텐션: 풀 어텐션
최대 컨텍스트: 262,144 토큰
공개일: 2025-07-31
모델 카드: Hugging Face의 Qwen3 30B-A3B (2507) 모델 카드

같은 계열의 다른 크기

기준 양자화·8k 컨텍스트에서 모델마다 필요한 그래픽카드 메모리와, 많이 쓰는 그래픽카드에서의 판정을 작은 모델부터 정리했습니다
모델	파라미터	기준 양자화	필요 메모리(8k)	GeForce RTX 4060	GeForce RTX 5060 Ti 16GB	GeForce RTX 3090
Qwen3 8B	8.2B	Q4_K_M	6.5GB	쾌적	쾌적	쾌적
Qwen3 14B	14.8B	Q4_K_M	10.5GB	겨우 가능	쾌적	쾌적
Qwen3 30B-A3B (2507)지금 보는 모델	총 30.5B · 활성 3.3B (MoE)	Q4_K_M	19.8GB	원활	원활	쾌적
Qwen3 32B	32.8B	Q4_K_M	22.0GB	불가	겨우 가능	원활

GGUF 파일

등록된 Qwen3 30B-A3B (2507) 양자화 파일(작은 파일부터)
양자화	파일 크기	품질	배포처
Q2_K	11.26GB	손실 큼	커뮤니티 GGUF · unsloth
IQ4_XS	16.38GB	균형	커뮤니티 GGUF · unsloth
Q4_K_M기준	18.56GB	균형	커뮤니티 GGUF · unsloth
Q8_0	32.48GB	준무손실	커뮤니티 GGUF · unsloth

일부 저장소는 Unsloth Dynamic(UD) 변형만 배포합니다. 크기는 실제로 내려받는 파일 기준입니다.

양자화·컨텍스트별 필요 메모리

그래픽카드 메모리(GB): 그래픽카드에 올라가는 가중치 + f16 KV 캐시 + 연산 버퍼. Windows에서 GPU가 화면 출력도 맡는다면 약 0.6GB를 더하세요. 파일 일부는 그래픽카드에 올라가지 않습니다. llama.cpp는 입력 임베딩 표를 시스템 RAM에 둡니다. 맥은 파일 전체로 계산해서 조금 더 필요합니다.
양자화	4k	8k	16k	32k	64k	128k	256k
Q2_K	12.1	12.5	13.4	15.2	18.7	25.7	39.8
IQ4_XS	17.1	17.6	18.5	20.2	23.7	30.8	44.9
Q4_K_M	19.3	19.8	20.6	22.4	25.9	33.0	47.0
Q8_0	33.1	33.5	34.4	36.2	39.7	46.7	60.8

Qwen3 30B-A3B (2507), 어떤 GPU에서 돌아갈까?

판정 읽는 법

쾌적: GPU에 전부 올라가고 20 tok/s 이상
원활: GPU에 전부 올라가고 8~20 tok/s, MoE 전문가를 시스템 RAM에 두고 20 tok/s 이상, 또는 GPU에 90% 이상 올라가고 8 tok/s 이상
겨우 가능: 2~8 tok/s, CPU 전용, GPU에 90% 미만, 또는 MoE 전문가를 RAM에 두고 20 tok/s 미만
불가: 메모리에 안 들어가거나 2 tok/s 미만

정렬

계산기에서 예산·종류·컨텍스트로 걸러 보기

옆으로 밀면 모든 열을 볼 수 있습니다.

Q4_K_M·8k 컨텍스트 기준 GPU·맥·CPU 58종을 판정·속도 순으로 정렬했습니다
하드웨어	판정	속도	양자화	메모리	실행 방식	컨텍스트	참고	가격
GeForce RTX 5090	쾌적GeForce RTX 5090에서 Qwen3 30B-A3B (2507) 판정 보기	추정 195.0 tok/s156.0–234.1보정된 추정 ±20%	Q4_K_M	20.4 / 32.0GB	풀 GPU	최대 64k	—	2026-08-09 기준 실거래가 US$4,200(약 557만 원)
NVIDIA RTX PRO 6000 Blackwell	쾌적	추정 195.0 tok/s156.0–234.1보정된 추정 ±20%	Q4_K_M	20.4 / 96.0GB	풀 GPU	최대 256k	—	—
NVIDIA RTX PRO 6000 Blackwell Max-Q	쾌적	추정 195.0 tok/s156.0–234.1보정된 추정 ±20%	Q4_K_M	20.4 / 96.0GB	풀 GPU	최대 256k	—	—
GeForce RTX 3090 Ti	쾌적	추정 146.7 tok/s117.4–176.1보정된 추정 ±20%	Q4_K_M	20.4 / 24.0GB	풀 GPU	최대 32k	—	출시가 US$1,999(약 265만 원)
GeForce RTX 4090	쾌적GeForce RTX 4090에서 Qwen3 30B-A3B (2507) 판정 보기	추정 146.7 tok/s117.4–176.1보정된 추정 ±20%	Q4_K_M	20.4 / 24.0GB	풀 GPU	최대 32k	—	2026-08-09 기준 실거래가 US$2,755(약 365만 원)
GeForce RTX 3090	쾌적GeForce RTX 3090에서 Qwen3 30B-A3B (2507) 판정 보기	추정 140.6 tok/s112.5–168.7보정된 추정 ±20%	Q4_K_M	20.4 / 24.0GB	풀 GPU	최대 32k	—	2026-08-09 기준 실거래가 US$1,050(약 139만 원)
GeForce RTX 5090 Laptop	쾌적	추정 137.0 tok/s109.6–164.5보정된 추정 ±20%	Q4_K_M	20.4 / 24.0GB	풀 GPU	최대 32k	—	—
Apple M5 Ultra · 96GB	쾌적	추정 106.6 tok/s85.3–127.9보정된 추정 ±20%	Q4_K_M	19.9 / 67.2GB	통합 메모리	최대 256k	—	—
Apple M5 Max (40-core GPU) · 48GB	쾌적	추정 104.2 tok/s83.4–125.0보정된 추정 ±20%	Q4_K_M	19.9 / 33.6GB	통합 메모리	최대 128k	—	—
Radeon RX 7900 XTX	쾌적	추정 103.3 tok/s82.6–123.9보정된 추정 ±20%	Q4_K_M	20.4 / 24.0GB	풀 GPU	최대 32k	—	출시가 US$999(약 132만 원)
Apple M4 Max (40-core GPU) · 48GB	쾌적	추정 96.9 tok/s77.5–116.2보정된 추정 ±20%	Q4_K_M	19.9 / 33.6GB	통합 메모리	최대 128k	—	—
Apple M3 Ultra · 96GB	쾌적	추정 88.3 tok/s70.7–106.0보정된 추정 ±20%	Q4_K_M	19.9 / 67.2GB	통합 메모리	최대 128k	—	—
Apple M2 Ultra · 64GB	쾌적	추정 87.3 tok/s69.8–104.7보정된 추정 ±20%	Q4_K_M	19.9 / 44.8GB	통합 메모리	최대 128k	—	—
Apple M5 Max (32-core GPU) · 36GB	쾌적	추정 86.6 tok/s69.3–103.9보정된 추정 ±20%	Q4_K_M	19.9 / 25.2GB	통합 메모리	최대 32k	—	—
Apple M4 Max (32-core GPU) · 36GB	쾌적	추정 80.0 tok/s64.0–96.0보정된 추정 ±20%	Q4_K_M	19.9 / 25.2GB	통합 메모리	최대 32k	—	—
Apple M5 Pro · 48GB	쾌적	추정 64.8 tok/s51.8–77.8보정된 추정 ±20%	Q4_K_M	19.9 / 33.6GB	통합 메모리	최대 64k	—	—
NVIDIA DGX Spark · 128GB	쾌적	추정 60.7 tok/s48.6–72.9보정된 추정 ±20%	Q4_K_M	19.9 / 116.9GB	통합 메모리	최대 64k	—	128GB 구성 출시가 US$3,999(약 530만 원)
Apple M4 Pro · 48GB	쾌적Apple M4 Pro에서 Qwen3 30B-A3B (2507) 판정 보기	추정 59.2 tok/s47.4–71.1보정된 추정 ±20%	Q4_K_M	19.9 / 33.6GB	통합 메모리	최대 64k	—	—
Ryzen AI Max+ 395 (Strix Halo) · 32GB	쾌적	추정 54.2 tok/s43.3–65.0보정된 추정 ±20%	Q4_K_M	19.9 / 22.4GB	통합 메모리	최대 16k	—	128GB 구성 출시가 US$1,999(약 265만 원)
Apple M6 · 32GB	쾌적	추정 40.4 tok/s32.3–48.5보정된 추정 ±20%	Q4_K_M	19.9 / 22.4GB	통합 메모리	최대 16k	—	—
Apple M5 · 32GB	쾌적	추정 36.9 tok/s29.5–44.3보정된 추정 ±20%	Q4_K_M	19.9 / 22.4GB	통합 메모리	최대 16k	—	—
Apple M4 · 32GB	쾌적Apple M4에서 Qwen3 30B-A3B (2507) 판정 보기	추정 29.8 tok/s23.8–35.7보정된 추정 ±20%	Q4_K_M	19.9 / 22.4GB	통합 메모리	최대 16k	—	—
Radeon RX 7900 XT	원활	추정 87.9 tok/s61.5–114.3이론 추정 ±30%	Q4_K_M	19.6 / 20.0GB + RAM 0.9GB	MoE 전문가 RAM 배치	최대 128k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. IQ4_XS: 쾌적	출시가 US$899(약 119만 원)
GeForce RTX 5080	원활	추정 75.8 tok/s53.0–98.5이론 추정 ±30%	Q4_K_M	15.6 / 16.0GB + RAM 4.9GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. Q2_K (품질 손실 큼): 쾌적	2026-08-09 기준 실거래가 US$1,256(약 166만 원)
GeForce RTX 5070 Ti	원활	추정 74.3 tok/s52.0–96.6이론 추정 ±30%	Q4_K_M	15.6 / 16.0GB + RAM 4.9GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. Q2_K (품질 손실 큼): 쾌적	2026-08-09 기준 실거래가 US$949(약 126만 원)
GeForce RTX 5080 Laptop	원활	추정 74.3 tok/s52.0–96.6이론 추정 ±30%	Q4_K_M	15.6 / 16.0GB + RAM 4.9GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. Q2_K (품질 손실 큼): 쾌적	—
GeForce RTX 4080 Super	원활	추정 70.0 tok/s49.0–90.9이론 추정 ±30%	Q4_K_M	15.6 / 16.0GB + RAM 4.9GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. Q2_K (품질 손실 큼): 쾌적	출시가 US$999(약 132만 원)
GeForce RTX 4080	원활	추정 69.3 tok/s48.5–90.2이론 추정 ±30%	Q4_K_M	15.6 / 16.0GB + RAM 4.9GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. Q2_K (품질 손실 큼): 쾌적	출시가 US$1,199(약 159만 원)
GeForce RTX 4070 Ti Super	원활	추정 67.8 tok/s47.5–88.2이론 추정 ±30%	Q4_K_M	15.6 / 16.0GB + RAM 4.9GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. Q2_K (품질 손실 큼): 쾌적	출시가 US$799(약 106만 원)
GeForce RTX 4090 Laptop	원활	추정 64.1 tok/s44.9–83.3이론 추정 ±30%	Q4_K_M	15.6 / 16.0GB + RAM 4.9GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. Q2_K (품질 손실 큼): 쾌적	—
GeForce RTX 5060 Ti 16GB	원활GeForce RTX 5060 Ti 16GB에서 Qwen3 30B-A3B (2507) 판정 보기	추정 57.7 tok/s40.4–75.1이론 추정 ±30%	Q4_K_M	15.6 / 16.0GB + RAM 4.9GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. Q2_K (품질 손실 큼): 쾌적	2026-08-09 기준 실거래가 US$569(약 75만 원)
Radeon RX 9070	원활	추정 57.0 tok/s39.9–74.2이론 추정 ±30%	Q4_K_M	15.6 / 16.0GB + RAM 4.9GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. Q2_K (품질 손실 큼): 쾌적	2026-08-09 기준 실거래가 US$639(약 85만 원)
Radeon RX 9070 XT	원활	추정 57.0 tok/s39.9–74.2이론 추정 ±30%	Q4_K_M	15.6 / 16.0GB + RAM 4.9GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. Q2_K (품질 손실 큼): 쾌적	2026-08-09 기준 실거래가 US$689(약 91만 원)
Radeon RX 7800 XT	원활	추정 56.5 tok/s39.6–73.5이론 추정 ±30%	Q4_K_M	15.6 / 16.0GB + RAM 4.9GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. Q2_K (품질 손실 큼): 쾌적	출시가 US$499(약 66만 원)
GeForce RTX 3080 12GB	원활	추정 53.8 tok/s37.6–69.9이론 추정 ±30%	Q4_K_M	11.6 / 12.0GB + RAM 9.0GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$799(약 106만 원)
GeForce RTX 5070	원활GeForce RTX 5070에서 Qwen3 30B-A3B (2507) 판정 보기	추정 50.5 tok/s35.3–65.6이론 추정 ±30%	Q4_K_M	11.6 / 12.0GB + RAM 9.0GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	2026-08-09 기준 실거래가 US$629(약 83만 원)
GeForce RTX 5070 Ti Laptop	원활	추정 50.5 tok/s35.3–65.6이론 추정 ±30%	Q4_K_M	11.6 / 12.0GB + RAM 9.0GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	—
GeForce RTX 4070	원활GeForce RTX 4070에서 Qwen3 30B-A3B (2507) 판정 보기	추정 46.8 tok/s32.8–60.9이론 추정 ±30%	Q4_K_M	11.6 / 12.0GB + RAM 9.0GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$599(약 79만 원)
GeForce RTX 4070 Super	원활	추정 46.8 tok/s32.8–60.9이론 추정 ±30%	Q4_K_M	11.6 / 12.0GB + RAM 9.0GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$599(약 79만 원)
GeForce RTX 2080 Ti	원활	추정 46.3 tok/s32.4–60.2이론 추정 ±30%	Q4_K_M	10.5 / 11.0GB + RAM 10.1GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$999(약 132만 원)
GeForce RTX 4060 Ti 16GB	원활	추정 46.3 tok/s32.4–60.1이론 추정 ±30%	Q4_K_M	15.6 / 16.0GB + RAM 4.9GB	MoE 전문가 RAM 배치	최대 32k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. Q2_K (품질 손실 큼): 쾌적	출시가 US$499(약 66만 원)
GeForce RTX 3080 10GB	원활	추정 45.3 tok/s31.7–58.9이론 추정 ±30%	Q4_K_M	9.4 / 10.0GB + RAM 11.2GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$699(약 93만 원)
GeForce RTX 4080 Laptop	원활	추정 44.7 tok/s31.3–58.1이론 추정 ±30%	Q4_K_M	11.6 / 12.0GB + RAM 9.0GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	—
Radeon RX 9060 XT 16GB	원활	추정 44.5 tok/s31.1–57.8이론 추정 ±30%	Q4_K_M	15.6 / 16.0GB + RAM 4.9GB	MoE 전문가 RAM 배치	최대 32k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. Q2_K (품질 손실 큼): 쾌적	2026-08-09 기준 실거래가 US$449(약 60만 원)
GeForce GTX 1080 Ti	원활	추정 43.6 tok/s30.5–56.7이론 추정 ±30%	Q4_K_M	10.5 / 11.0GB + RAM 10.1GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$699(약 93만 원)
GeForce RTX 3060 12GB	원활GeForce RTX 3060 12GB에서 Qwen3 30B-A3B (2507) 판정 보기	추정 42.0 tok/s29.4–54.6이론 추정 ±30%	Q4_K_M	11.6 / 12.0GB + RAM 9.0GB	MoE 전문가 RAM 배치	최대 32k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	2026-08-09 기준 실거래가 US$250(약 33만 원)
Intel Arc B580	원활	추정 38.1 tok/s26.6–49.5이론 추정 ±30%	Q4_K_M	11.6 / 12.0GB + RAM 9.0GB	MoE 전문가 RAM 배치	최대 32k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	2026-08-09 기준 실거래가 US$290(약 38만 원)
GeForce RTX 3070	원활	추정 37.1 tok/s26.0–48.3이론 추정 ±30%	Q4_K_M	7.6 / 8.0GB + RAM 13.0GB	MoE 전문가 RAM 배치	최대 32k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$499(약 66만 원)
GeForce RTX 5060	원활	추정 37.1 tok/s26.0–48.3이론 추정 ±30%	Q4_K_M	7.6 / 8.0GB + RAM 13.0GB	MoE 전문가 RAM 배치	최대 32k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	2026-08-09 기준 실거래가 US$339(약 45만 원)
GeForce RTX 5060 Ti 8GB	원활	추정 37.1 tok/s26.0–48.3이론 추정 ±30%	Q4_K_M	7.6 / 8.0GB + RAM 13.0GB	MoE 전문가 RAM 배치	최대 32k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	2026-08-09 기준 실거래가 US$429(약 57만 원)
GeForce RTX 4060 Ti 8GB	원활	추정 33.0 tok/s23.1–42.8이론 추정 ±30%	Q4_K_M	7.6 / 8.0GB + RAM 13.0GB	MoE 전문가 RAM 배치	최대 32k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$399(약 53만 원)
GeForce RTX 4060	원활GeForce RTX 4060에서 Qwen3 30B-A3B (2507) 판정 보기	추정 32.4 tok/s22.6–42.1이론 추정 ±30%	Q4_K_M	7.6 / 8.0GB + RAM 13.0GB	MoE 전문가 RAM 배치	최대 32k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$299(약 40만 원)
GeForce RTX 4060 Laptop	원활	추정 31.7 tok/s22.2–41.2이론 추정 ±30%	Q4_K_M	7.6 / 8.0GB + RAM 13.0GB	MoE 전문가 RAM 배치	최대 32k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	—
GeForce RTX 4070 Laptop	원활	추정 31.7 tok/s22.2–41.2이론 추정 ±30%	Q4_K_M	7.6 / 8.0GB + RAM 13.0GB	MoE 전문가 RAM 배치	최대 32k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	—
GeForce RTX 3050 8GB	원활	추정 30.2 tok/s21.2–39.3이론 추정 ±30%	Q4_K_M	7.6 / 8.0GB + RAM 13.0GB	MoE 전문가 RAM 배치	최대 16k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$249(약 33만 원)
DDR5-6000 듀얼채널 CPU · 32GB	겨우 가능	추정 14.7 tok/s11.7–17.6보정된 추정 ±20%	Q4_K_M	RAM 19.4GB	CPU 전용	최대 64k	CPU로만 추론하므로 겨우 돌아가는 수준을 넘지 못합니다.	—
DDR5-5600 듀얼채널 CPU · 32GB	겨우 가능	추정 13.7 tok/s11.0–16.4보정된 추정 ±20%	Q4_K_M	RAM 19.4GB	CPU 전용	최대 64k	CPU로만 추론하므로 겨우 돌아가는 수준을 넘지 못합니다.	—
DDR4-3200 듀얼채널 CPU · 32GB	겨우 가능	추정 7.8 tok/s6.3–9.4보정된 추정 ±20%	Q4_K_M	RAM 19.4GB	CPU 전용	최대 64k	—	—

원화 금액은 미국 달러 가격을 2026-10-21 환율(1달러 1,326원)로 단순 환산한 참고값이라 국내 판매가와 다를 수 있습니다.

가장 싸게 돌릴 수 있는 GPU

쾌적GeForce RTX 30902026-08-09 기준 실거래가 US$1,050(약 139만 원), 속도 추정 140.6 tok/s (112.5–168.7, 보정된 추정 ±20%)
원활GeForce RTX 3060 12GB2026-08-09 기준 실거래가 US$250(약 33만 원), 속도 추정 42.0 tok/s (29.4–54.6, 이론 추정 ±30%)

Qwen3 30B-A3B (2507) 벤치마크 결과

보정에 쓰는 공개 벤치마크입니다. 측정 조건(컨텍스트·백엔드·플래그)은 위 추정과 다를 수 있습니다.

Qwen3 30B-A3B (2507) 벤치마크 결과
하드웨어	양자화	백엔드	컨텍스트	프롬프트 (tok/s)	생성 (tok/s)	플래그	출처	측정일
GeForce RTX 5090	Q4_K_XL	llama.cpp	16k	—	141.6	—	hardware-corner.net	2026-08-09
GeForce RTX 4090	Q4_K_XL	llama.cpp	16k	—	139.7	—	hardware-corner.net	2026-08-09
GeForce RTX 3090	Q4_K_XL	llama.cpp	16k	—	113.8	—	hardware-corner.net	2026-08-09

자주 묻는 질문

Qwen3 30B-A3B (2507) 실행에 VRAM이 얼마나 필요한가요?

Q4_K_M 파일은 18.56GB입니다. 8k 컨텍스트로 그래픽카드에 올리면 약 19.8GB가 필요합니다(가중치 18.37GB, KV 캐시 0.8GB, 연산 버퍼 0.6GB). 가장 작은 파일(Q2_K (품질 손실 큼))은 약 12.5GB가 필요합니다. 파일 일부는 그래픽카드에 올라가지 않습니다. llama.cpp는 입력 임베딩 표를 시스템 RAM에 둡니다. 맥은 파일 전체로 계산해서 조금 더 필요합니다.

Qwen3 30B-A3B (2507), 원활하게 돌아가는 가장 싼 GPU는 무엇인가요?

쾌적하게 돌리는 가장 싼 GPU는 GeForce RTX 3090입니다. 실거래가는 2026-08-09 기준 US$1,050(약 139만 원)이고, 속도는 추정 140.6 tok/s (112.5–168.7, 보정된 추정 ±20%)입니다. 원활하게만 돌려도 된다면 더 싼 GPU는 GeForce RTX 3060 12GB입니다. 실거래가는 2026-08-09 기준 US$250(약 33만 원)이고, 속도는 추정 42.0 tok/s (29.4–54.6, 이론 추정 ±30%)입니다.

Qwen3 30B-A3B (2507), 8GB·16GB·24GB GPU에서 돌아가나요?

Q4_K_M·8k 컨텍스트 기준 카드별 판정입니다. GeForce RTX 4060: 원활, 추정 32.4 tok/s (22.6–42.1, 이론 추정 ±30%); GeForce RTX 5060 Ti 16GB: 원활, 추정 57.7 tok/s (40.4–75.1, 이론 추정 ±30%); GeForce RTX 3090: 쾌적, 추정 140.6 tok/s (112.5–168.7, 보정된 추정 ±20%).

속도는 메모리 대역폭으로 계산한 추정치를 공개 벤치마크로 보정한 값입니다. 모든 수치에는 오차 범위와 신뢰 라벨을 함께 표시합니다. 실제 속도는 드라이버, 백엔드, 컨텍스트 길이, 발열에 따라 달라집니다.