Qwen3.5 122B-A10B 필요 사양: VRAM과 돌아가는 GPU

Qwen3.5 122B-A10B, 어떤 모델인가요

Qwen3.5 122B-A10B는 알리바바 클라우드의 Qwen 팀이 2026년 2월에 공개한 MoE 모델입니다. 이미지·영상 입력을 받고, 기본으로 생각한 뒤에 답하며, 도구 호출을 지원합니다. 토큰마다 쓰는 파라미터는 10B 정도지만, 가중치 전체를 메모리에 올려 둬야 합니다.

모델 카드

모델 정보

파라미터: 총 125.09B · 활성 10B (MoE)
어텐션: 하이브리드 어텐션(일부 층만 풀 어텐션)
최대 컨텍스트: 262,144 토큰
공개일: 2026-02-24
모델 카드: Hugging Face의 Qwen3.5 122B-A10B 모델 카드

같은 계열의 다른 크기

기준 양자화·8k 컨텍스트에서 모델마다 필요한 그래픽카드 메모리와, 많이 쓰는 그래픽카드에서의 판정을 작은 모델부터 정리했습니다
모델	파라미터	기준 양자화	필요 메모리(8k)	GeForce RTX 4060	GeForce RTX 5060 Ti 16GB	GeForce RTX 3090
Qwen3.5 4B	4.66B	Q4_K_M	3.6GB	쾌적	쾌적	쾌적
Qwen3.5 9B	9.65B	Q4_K_M	6.0GB	쾌적	쾌적	쾌적
Qwen3.5 27B	27.78B	Q4_K_M	17.2GB	겨우 가능	겨우 가능	쾌적
Qwen3.5 35B-A3B	총 35.95B · 활성 3B (MoE)	Q4_K_M	22.3GB	원활	원활	쾌적
Qwen3.5 122B-A10B지금 보는 모델	총 125.09B · 활성 10B (MoE)	Q4_K_M	76.6GB	불가	불가	불가

GGUF 파일

등록된 Qwen3.5 122B-A10B 양자화 파일(작은 파일부터)
양자화	파일 크기	품질	배포처
UD-Q2_K_XL	42.85GB	손실 큼	커뮤니티 GGUF · unsloth
IQ4_XS	61.93GB	균형	커뮤니티 GGUF · unsloth
Q4_K_M기준	78.26GB	균형	커뮤니티 GGUF · unsloth
Q8_0	132.55GB	준무손실	커뮤니티 GGUF · unsloth

일부 저장소는 Unsloth Dynamic(UD) 변형만 배포합니다. 크기는 실제로 내려받는 파일 기준입니다.

양자화·컨텍스트별 필요 메모리

그래픽카드 메모리(GB): 그래픽카드에 올라가는 가중치 + f16 KV 캐시 + 연산 버퍼. Windows에서 GPU가 화면 출력도 맡는다면 약 0.6GB를 더하세요. 파일 일부는 그래픽카드에 올라가지 않습니다. llama.cpp는 입력 임베딩 표를 시스템 RAM에 두고, MTP(다중 토큰 예측) 블록은 MTP를 켤 때만 불러옵니다. 맥은 파일 전체로 계산해서 조금 더 필요합니다.
양자화	4k	8k	16k	32k	64k	128k	256k
UD-Q2_K_XL	42.0	42.1	42.4	43.0	44.1	46.3	50.7
IQ4_XS	60.5	60.6	60.9	61.5	62.6	64.8	69.2
Q4_K_M	76.5	76.6	76.9	77.5	78.6	80.8	85.2
Q8_0	129.7	129.8	130.1	130.7	131.8	134.0	138.4

Qwen3.5 122B-A10B, 어떤 GPU에서 돌아갈까?

판정 읽는 법

쾌적: GPU에 전부 올라가고 20 tok/s 이상
원활: GPU에 전부 올라가고 8~20 tok/s, MoE 전문가를 시스템 RAM에 두고 20 tok/s 이상, 또는 GPU에 90% 이상 올라가고 8 tok/s 이상
겨우 가능: 2~8 tok/s, CPU 전용, GPU에 90% 미만, 또는 MoE 전문가를 RAM에 두고 20 tok/s 미만
불가: 메모리에 안 들어가거나 2 tok/s 미만

정렬

계산기에서 예산·종류·컨텍스트로 걸러 보기

옆으로 밀면 모든 열을 볼 수 있습니다.

Q4_K_M·8k 컨텍스트 기준 GPU·맥·CPU 58종을 판정·속도 순으로 정렬했습니다
하드웨어	판정	속도	양자화	메모리	실행 방식	컨텍스트	참고	가격
NVIDIA RTX PRO 6000 Blackwell	쾌적	추정 106.3 tok/s85.0–127.5보정된 추정 ±20%	Q4_K_M	77.2 / 96.0GB	풀 GPU	최대 256k	—	—
NVIDIA RTX PRO 6000 Blackwell Max-Q	쾌적	추정 106.3 tok/s85.0–127.5보정된 추정 ±20%	Q4_K_M	77.2 / 96.0GB	풀 GPU	최대 256k	—	—
Apple M5 Ultra · 256GB	쾌적	추정 58.6 tok/s46.9–70.4보정된 추정 ±20%	Q4_K_M	79.0 / 179.2GB	통합 메모리	최대 256k	—	—
Apple M5 Max (40-core GPU) · 128GB	쾌적	추정 47.4 tok/s37.9–56.8보정된 추정 ±20%	Q4_K_M	79.0 / 89.6GB	통합 메모리	최대 128k	—	—
Apple M3 Ultra · 256GB	쾌적	추정 43.8 tok/s35.0–52.6보정된 추정 ±20%	Q4_K_M	79.0 / 179.2GB	통합 메모리	최대 128k	—	—
Apple M2 Ultra · 128GB	쾌적	추정 43.0 tok/s34.4–51.6보정된 추정 ±20%	Q4_K_M	79.0 / 89.6GB	통합 메모리	최대 128k	—	—
Apple M4 Max (40-core GPU) · 128GB	쾌적	추정 43.0 tok/s34.4–51.6보정된 추정 ±20%	Q4_K_M	79.0 / 89.6GB	통합 메모리	최대 128k	—	—
NVIDIA DGX Spark · 128GB	원활	29.0 tok/s8k 추정 24.0 tok/s (19.2–28.8, 보정된 추정 ±20%)실측 1건 (4k 컨텍스트)	Q4_K_M	79.0 / 116.9GB	통합 메모리	최대 256k	UD-Q2_K_XL (품질 손실 큼): 쾌적	128GB 구성 출시가 US$3,999(약 530만 원)
Ryzen AI Max+ 395 (Strix Halo) · 128GB	원활	20.9 tok/s8k 추정 22.7 tok/s (18.2–27.2, 보정된 추정 ±20%)실측 1건 (512 컨텍스트)	Q4_K_M	79.0 / 89.6GB	통합 메모리	최대 256k	UD-Q2_K_XL (품질 손실 큼): 쾌적	128GB 구성 출시가 US$1,999(약 265만 원)
DDR5-6000 듀얼채널 CPU · 96GB	겨우 가능	추정 6.4 tok/s5.1–7.7보정된 추정 ±20%	Q4_K_M	RAM 78.5GB	CPU 전용	최대 256k	—	—
DDR5-5600 듀얼채널 CPU · 96GB	겨우 가능	추정 6.0 tok/s4.8–7.2보정된 추정 ±20%	Q4_K_M	RAM 78.5GB	CPU 전용	최대 256k	—	—
GeForce RTX 5090	불가UD-Q2_K_XL (품질 손실 큼): 원활GeForce RTX 5090에서 Qwen3.5 122B-A10B 판정 보기	추정 66.4 tok/s46.5–86.3이론 추정 ±30%	UD-Q2_K_XL	31.0 / 32.0GB + RAM 13.2GB	MoE 전문가 RAM 배치	최대 256k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. RAM 64GB라면: 겨우 가능	2026-08-09 기준 실거래가 US$4,200(약 557만 원)
GeForce RTX 3090 Ti	불가UD-Q2_K_XL (품질 손실 큼): 원활	추정 42.2 tok/s29.5–54.8이론 추정 ±30%	UD-Q2_K_XL	22.5 / 24.0GB + RAM 21.8GB	MoE 전문가 RAM 배치	최대 128k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. RAM 64GB라면: 겨우 가능	출시가 US$1,999(약 265만 원)
GeForce RTX 4090	불가UD-Q2_K_XL (품질 손실 큼): 원활GeForce RTX 4090에서 Qwen3.5 122B-A10B 판정 보기	추정 42.2 tok/s29.5–54.8이론 추정 ±30%	UD-Q2_K_XL	22.5 / 24.0GB + RAM 21.8GB	MoE 전문가 RAM 배치	최대 128k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. RAM 64GB라면: 겨우 가능	2026-08-09 기준 실거래가 US$2,755(약 365만 원)
GeForce RTX 3090	불가UD-Q2_K_XL (품질 손실 큼): 원활GeForce RTX 3090에서 Qwen3.5 122B-A10B 판정 보기	추정 41.3 tok/s28.9–53.6이론 추정 ±30%	UD-Q2_K_XL	22.5 / 24.0GB + RAM 21.8GB	MoE 전문가 RAM 배치	최대 128k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. RAM 64GB라면: 겨우 가능	2026-08-09 기준 실거래가 US$1,050(약 139만 원)
GeForce RTX 5090 Laptop	불가UD-Q2_K_XL (품질 손실 큼): 원활	추정 40.7 tok/s28.5–52.9이론 추정 ±30%	UD-Q2_K_XL	22.5 / 24.0GB + RAM 21.8GB	MoE 전문가 RAM 배치	최대 128k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. RAM 64GB라면: 겨우 가능	—
Radeon RX 7900 XTX	불가UD-Q2_K_XL (품질 손실 큼): 원활	추정 37.7 tok/s26.4–49.1이론 추정 ±30%	UD-Q2_K_XL	22.5 / 24.0GB + RAM 21.8GB	MoE 전문가 RAM 배치	최대 128k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. RAM 64GB라면: 겨우 가능	출시가 US$999(약 132만 원)
Apple M5 Pro · 64GB	불가UD-Q2_K_XL (품질 손실 큼): 쾌적	추정 37.7 tok/s30.2–45.2보정된 추정 ±20%	UD-Q2_K_XL	43.6 / 44.8GB	통합 메모리	최대 32k	—	—
Apple M4 Pro · 64GB	불가UD-Q2_K_XL (품질 손실 큼): 쾌적Apple M4 Pro에서 Qwen3.5 122B-A10B 판정 보기	추정 34.1 tok/s27.2–40.9보정된 추정 ±20%	UD-Q2_K_XL	43.6 / 44.8GB	통합 메모리	최대 32k	—	—
Radeon RX 7900 XT	불가UD-Q2_K_XL (품질 손실 큼): 원활	추정 33.0 tok/s23.1–42.9이론 추정 ±30%	UD-Q2_K_XL	18.6 / 20.0GB + RAM 25.7GB	MoE 전문가 RAM 배치	최대 32k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. RAM 96GB라면: 겨우 가능	출시가 US$899(약 119만 원)
DDR4-3200 듀얼채널 CPU · 64GB	불가UD-Q2_K_XL (품질 손실 큼): 겨우 가능	추정 6.1 tok/s4.9–7.3보정된 추정 ±20%	UD-Q2_K_XL	RAM 43.1GB	CPU 전용	최대 128k	—	—
Apple M4 · 32GB	불가Apple M4에서 Qwen3.5 122B-A10B 판정 보기	—	Q4_K_M	79.0GB 필요	—	—	약 79.0GB가 필요한데, 여유 메모리는 28.0GB입니다(GPU가 쓸 수 있는 양 22.4GB).	—
Apple M4 Max (32-core GPU) · 36GB	불가	—	Q4_K_M	79.0GB 필요	—	—	약 79.0GB가 필요한데, 여유 메모리는 32.0GB입니다(GPU가 쓸 수 있는 양 25.2GB).	—
Apple M5 · 32GB	불가	—	Q4_K_M	79.0GB 필요	—	—	약 79.0GB가 필요한데, 여유 메모리는 28.0GB입니다(GPU가 쓸 수 있는 양 22.4GB).	—
Apple M5 Max (32-core GPU) · 36GB	불가	—	Q4_K_M	79.0GB 필요	—	—	약 79.0GB가 필요한데, 여유 메모리는 32.0GB입니다(GPU가 쓸 수 있는 양 25.2GB).	—
Apple M6 · 32GB	불가	—	Q4_K_M	79.0GB 필요	—	—	약 79.0GB가 필요한데, 여유 메모리는 28.0GB입니다(GPU가 쓸 수 있는 양 22.4GB).	—
Intel Arc B580	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 11.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	2026-08-09 기준 실거래가 US$290(약 38만 원)
GeForce GTX 1080 Ti	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 10.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	출시가 US$699(약 93만 원)
GeForce RTX 2080 Ti	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 10.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	출시가 US$999(약 132만 원)
GeForce RTX 3050 8GB	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 7.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	출시가 US$249(약 33만 원)
GeForce RTX 3060 12GB	불가GeForce RTX 3060 12GB에서 Qwen3.5 122B-A10B 판정 보기	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 11.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	2026-08-09 기준 실거래가 US$250(약 33만 원)
GeForce RTX 3070	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 7.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	출시가 US$499(약 66만 원)
GeForce RTX 3080 10GB	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 9.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	출시가 US$699(약 93만 원)
GeForce RTX 3080 12GB	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 11.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	출시가 US$799(약 106만 원)
GeForce RTX 4060	불가GeForce RTX 4060에서 Qwen3.5 122B-A10B 판정 보기	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 7.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	출시가 US$299(약 40만 원)
GeForce RTX 4060 Laptop	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 7.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	—
GeForce RTX 4060 Ti 16GB	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 15.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	출시가 US$499(약 66만 원)
GeForce RTX 4060 Ti 8GB	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 7.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	출시가 US$399(약 53만 원)
GeForce RTX 4070	불가GeForce RTX 4070에서 Qwen3.5 122B-A10B 판정 보기	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 11.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	출시가 US$599(약 79만 원)
GeForce RTX 4070 Laptop	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 7.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	—
GeForce RTX 4070 Super	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 11.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	출시가 US$599(약 79만 원)
GeForce RTX 4070 Ti Super	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 15.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	출시가 US$799(약 106만 원)
GeForce RTX 4080	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 15.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	출시가 US$1,199(약 159만 원)
GeForce RTX 4080 Laptop	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 11.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	—
GeForce RTX 4080 Super	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 15.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	출시가 US$999(약 132만 원)
GeForce RTX 4090 Laptop	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 15.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	—
GeForce RTX 5060	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 7.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	2026-08-09 기준 실거래가 US$339(약 45만 원)
GeForce RTX 5060 Ti 16GB	불가GeForce RTX 5060 Ti 16GB에서 Qwen3.5 122B-A10B 판정 보기	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 15.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	2026-08-09 기준 실거래가 US$569(약 75만 원)
GeForce RTX 5060 Ti 8GB	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 7.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	2026-08-09 기준 실거래가 US$429(약 57만 원)
GeForce RTX 5070	불가GeForce RTX 5070에서 Qwen3.5 122B-A10B 판정 보기	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 11.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	2026-08-09 기준 실거래가 US$629(약 83만 원)
GeForce RTX 5070 Ti	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 15.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	2026-08-09 기준 실거래가 US$949(약 126만 원)
GeForce RTX 5070 Ti Laptop	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 11.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	—
GeForce RTX 5080	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 15.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	2026-08-09 기준 실거래가 US$1,256(약 166만 원)
GeForce RTX 5080 Laptop	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 15.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	—
Radeon RX 7800 XT	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 15.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	출시가 US$499(약 66만 원)
Radeon RX 9060 XT 16GB	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 15.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	2026-08-09 기준 실거래가 US$449(약 60만 원)
Radeon RX 9070	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 15.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	2026-08-09 기준 실거래가 US$639(약 85만 원)
Radeon RX 9070 XT	불가	—	Q4_K_M	76.6GB 필요	—	—	약 76.6GB가 필요한데, 쓸 수 있는 VRAM은 15.4GB, 여유 RAM은 28.0GB입니다. RAM 96GB라면: 겨우 가능	2026-08-09 기준 실거래가 US$689(약 91만 원)

생각 모드가 있는 모델은 생각하는 데 토큰을 더 쓰기 때문에 속도 기준을 1.5배 엄격하게 잡습니다(30 / 12 / 3 tok/s). 생각 모드를 끄고 쓰면 실제로는 한 단계 위일 수 있습니다.

원화 금액은 미국 달러 가격을 2026-10-21 환율(1달러 1,326원)로 단순 환산한 참고값이라 국내 판매가와 다를 수 있습니다.

가장 싸게 돌릴 수 있는 GPU

실거래가가 확인된 GPU 가운데 Q4_K_M 기준으로 쾌적하거나 원활하게 돌리는 GPU는 없습니다. 맥, 통합 메모리 PC, CPU 구성은 위 표에서 확인하세요.

Qwen3.5 122B-A10B 벤치마크 결과

보정에 쓰는 공개 벤치마크입니다. 측정 조건(컨텍스트·백엔드·플래그)은 위 추정과 다를 수 있습니다.

Qwen3.5 122B-A10B 벤치마크 결과
하드웨어	양자화	백엔드	컨텍스트	프롬프트 (tok/s)	생성 (tok/s)	플래그	출처	측정일
Ryzen AI Max+ 395 (Strix Halo)	Q4_K_M	llama.cpp	512	315.0	20.9	KV q8_0	github.com	2026-07-19
NVIDIA DGX Spark	Q4_K_M	llama.cpp	4k	—	29.0	—	github.com	2026-08-13

자주 묻는 질문

Qwen3.5 122B-A10B 실행에 VRAM이 얼마나 필요한가요?

Q4_K_M 파일은 78.26GB입니다. 8k 컨텍스트로 그래픽카드에 올리면 약 76.6GB가 필요합니다(가중치 75.87GB, KV 캐시 0.2GB, 연산 버퍼 0.6GB). 가장 작은 파일(UD-Q2_K_XL (품질 손실 큼))은 약 42.1GB가 필요합니다. 파일 일부는 그래픽카드에 올라가지 않습니다. llama.cpp는 입력 임베딩 표를 시스템 RAM에 두고, MTP(다중 토큰 예측) 블록은 MTP를 켤 때만 불러옵니다. 맥은 파일 전체로 계산해서 조금 더 필요합니다.

Qwen3.5 122B-A10B, 원활하게 돌아가는 가장 싼 GPU는 무엇인가요?

실거래가가 확인된 GPU 가운데 Q4_K_M 기준으로 쾌적하거나 원활하게 돌리는 GPU는 없습니다. 출시가만 나와 있는 하드웨어까지 넣으면 가장 나은 선택은 NVIDIA DGX Spark · 128GB입니다(판정: 원활).

Qwen3.5 122B-A10B, 8GB·16GB·24GB GPU에서 돌아가나요?

Q4_K_M·8k 컨텍스트 기준 카드별 판정입니다. GeForce RTX 4060: 불가; GeForce RTX 5060 Ti 16GB: 불가; GeForce RTX 3090: 불가.

속도는 메모리 대역폭으로 계산한 추정치를 공개 벤치마크로 보정한 값입니다. 모든 수치에는 오차 범위와 신뢰 라벨을 함께 표시합니다. 실제 속도는 드라이버, 백엔드, 컨텍스트 길이, 발열에 따라 달라집니다.