Ryzen AI Max+ 395 (Strix Halo)에서 돌아가는 로컬 LLM

통합 메모리: 기본 설정에서는 GPU가 약 70%까지 쓸 수 있습니다

8k 컨텍스트와 f16 KV 캐시를 기준으로 계산했습니다. 판정은 메모리 용량별로 보여 줍니다.

사양

메모리 구성: 32GB · 64GB · 128GB
메모리 대역폭: 256.0 GB/s
FP16 연산: 29.7 TFLOPS
출시 연도: 2025
가격: 128GB 구성 출시가 US$1,999(약 265만 원)
다른 표기: Strix Halo, Ryzen AI Max 395, Framework Desktop, 8060S, Radeon 8060S

원화 금액은 미국 달러 가격을 2026-10-21 환율(1달러 1,326원)로 단순 환산한 참고값이라 국내 판매가와 다를 수 있습니다.

판정 요약

Q4_K_M(없으면 가장 가까운 양자화), 8k 컨텍스트 기준입니다.

32GB쾌적27개원활9개겨우 가능13개불가10개양자화를 더 낮추면 1개가 더 돌아갑니다.
64GB쾌적31개원활9개겨우 가능11개불가8개양자화를 더 낮추면 2개가 더 돌아갑니다.
128GB쾌적34개원활12개겨우 가능10개불가3개양자화를 더 낮추면 2개가 더 돌아갑니다.

판정 읽는 법

쾌적: GPU에 전부 올라가고 20 tok/s 이상
원활: GPU에 전부 올라가고 8~20 tok/s, MoE 전문가를 시스템 RAM에 두고 20 tok/s 이상, 또는 GPU에 90% 이상 올라가고 8 tok/s 이상
겨우 가능: 2~8 tok/s, CPU 전용, GPU에 90% 미만, 또는 MoE 전문가를 RAM에 두고 20 tok/s 미만
불가: 메모리에 안 들어가거나 2 tok/s 미만

한국 모델

EXAONE, HyperCLOVA X SEED, Kanana, Solar가 이 기기에서 어떻게 돌아가는지 보여 줍니다.

Ryzen AI Max+ 395 (Strix Halo) 전체 모델 판정

옆으로 밀면 모든 열을 볼 수 있습니다.

모델 59개(판정·속도 순), 메모리 128GB
모델	판정	속도	양자화	메모리	실행 방식	컨텍스트	참고
MiniCPM5 1B	쾌적	추정 235.5 tok/s188.4–282.6보정된 추정 ±20%	Q4_K_M	1.5 / 89.6GB	통합 메모리	최대 128k	생각 모드
Llama 3.2 1B	쾌적	추정 194.7 tok/s155.7–233.6보정된 추정 ±20%	Q4_K_M	1.7 / 89.6GB	통합 메모리	최대 128k	—
EXAONE 4.0 1.2B	쾌적	추정 159.8 tok/s127.9–191.8보정된 추정 ±20%	Q4_K_M	1.9 / 89.6GB	통합 메모리	최대 64k	생각 모드
Ling-3.0 Tiny	쾌적	추정 154.3 tok/s108.0–200.5이론 추정 ±30%	Q4_K_M	5.5 / 89.6GB	통합 메모리	최대 128k	생각 모드
LFM2.5 2.6B	쾌적	추정 116.3 tok/s81.4–151.3이론 추정 ±30%	Q4_K_M	2.4 / 89.6GB	통합 메모리	최대 128k	생각 모드
HyperCLOVA X SEED 1.5B	쾌적	추정 115.6 tok/s92.5–138.8보정된 추정 ±20%	Q4_K_M	2.4 / 89.6GB	통합 메모리	최대 16k	—
MiniCPM5 2B	쾌적	추정 109.8 tok/s87.8–131.7보정된 추정 ±20%	Q4_K_M	2.5 / 89.6GB	통합 메모리	최대 64k	생각 모드
Gemma 4 E2B	쾌적	추정 109.5 tok/s76.6–142.3이론 추정 ±30%	Q4_K_M	3.7 / 89.6GB	통합 메모리	최대 128k	생각 모드
Mellum2.1 12B-A2.5B Thinking	쾌적	추정 93.1 tok/s74.5–111.7보정된 추정 ±20%	Q4_K_M	8.8 / 89.6GB	통합 메모리	최대 128k	생각 모드
Spark-X2.5 4B	쾌적	추정 72.3 tok/s57.9–86.8보정된 추정 ±20%	Q4_K_M	3.5 / 89.6GB	통합 메모리	최대 64k	생각 모드
Llama 3.2 3B	쾌적	추정 70.9 tok/s56.7–85.1보정된 추정 ±20%	Q4_K_M	3.5 / 89.6GB	통합 메모리	최대 64k	—
gpt-oss-20b	쾌적	추정 68.6 tok/s54.8–82.3보정된 추정 ±20%	MXFP4	12.9 / 89.6GB	통합 메모리	최대 128k	생각 모드
Qwen3.5 4B	쾌적	추정 67.8 tok/s54.2–81.3보정된 추정 ±20%	Q4_K_M	3.7 / 89.6GB	통합 메모리	최대 64k	생각 모드
MiniCPM-V 4.7 35B-A3B	쾌적	추정 67.5 tok/s54.0–81.1보정된 추정 ±20%	Q4_K_M	21.9 / 89.6GB	통합 메모리	최대 128k	생각 모드
Nemotron 3.5 Lightning 30B-A3B	쾌적	추정 65.9 tok/s46.1–85.7이론 추정 ±30%	Q4_K_M	26.1 / 89.6GB	통합 메모리	최대 256k	생각 모드
Qwen3.5 35B-A3B	쾌적	64.8 tok/s8k 추정 56.0 tok/s (44.8–67.2, 보정된 추정 ±20%)실측 1건 (512 컨텍스트)	Q4_K_M	23.4 / 89.6GB	통합 메모리	최대 128k	생각 모드
Qwen3.6 35B-A3B	쾌적	63.8 tok/s8k 추정 63.1 tok/s (50.5–75.7, 보정된 추정 ±20%)실측 1건 (512 컨텍스트)	Q4_K_M	23.0 / 89.6GB	통합 메모리	최대 128k	생각 모드
Gemma 4 E4B	쾌적	추정 59.3 tok/s41.5–77.1이론 추정 ±30%	Q4_K_M	5.7 / 89.6GB	통합 메모리	최대 128k	생각 모드
Kanana 1.5 15.7B-A3B	쾌적	추정 57.2 tok/s45.8–68.6보정된 추정 ±20%	Q4_K_M	12.1 / 89.6GB	통합 메모리	최대 32k	—
Gemma 4 26B-A4B	쾌적	54.3 tok/s8k 추정 48.1 tok/s (38.5–57.7, 보정된 추정 ±20%)실측 2건 (512 컨텍스트)	Q4_K_M	17.7 / 89.6GB	통합 메모리	최대 128k	생각 모드
Qwen3 30B-A3B (2507)	쾌적	추정 54.2 tok/s43.3–65.0보정된 추정 ±20%	Q4_K_M	19.9 / 89.6GB	통합 메모리	최대 64k	—
gpt-oss-120b	쾌적	50.2 tok/s8k 추정 48.5 tok/s (38.8–58.1, 보정된 추정 ±20%)실측 1건 (512 컨텍스트)	MXFP4	64.3 / 89.6GB	통합 메모리	최대 64k	생각 모드
Ling-3.0 Flash	쾌적	추정 48.4 tok/s33.9–62.9이론 추정 ±30%	Q4_K_M	77.7 / 89.6GB	통합 메모리	최대 256k	생각 모드
Kolibri 1	쾌적	추정 48.0 tok/s38.4–57.6보정된 추정 ±20%	Q4_K_M	50.5 / 89.6GB	통합 메모리	최대 128k	생각 모드
Qwen3 8B	쾌적	43.6 tok/s8k 추정 33.7 tok/s (26.9–40.4, 보정된 추정 ±20%)실측 1건 (512 컨텍스트)	Q4_K_M	6.8 / 89.6GB	통합 메모리	최대 8k	생각 모드
Qwen3.5 9B	쾌적	37.2 tok/s8k 추정 34.2 tok/s (27.4–41.0, 보정된 추정 ±20%)실측 1건 (4k 컨텍스트)	Q4_K_M	6.7 / 89.6GB	통합 메모리	최대 32k	생각 모드
K2-Horizon MoVA 36B-A4B	쾌적	추정 35.1 tok/s24.5–45.6이론 추정 ±30%	Q4_K_M	24.6 / 89.6GB	통합 메모리	최대 8k	생각 모드
DeepSeek R1 Distill Llama 8B	쾌적	추정 35.0 tok/s28.0–42.0보정된 추정 ±20%	Q4_K_M	6.6 / 89.6GB	통합 메모리	최대 8k	생각 모드
Kanana 1.5 8B	쾌적	추정 35.0 tok/s28.0–42.0보정된 추정 ±20%	Q4_K_M	6.6 / 89.6GB	통합 메모리	최대 32k	—
Llama 3.1 8B	쾌적	추정 35.0 tok/s28.0–42.0보정된 추정 ±20%	Q4_K_M	6.6 / 89.6GB	통합 메모리	최대 32k	—
Nanbeige4.2 3B	쾌적	추정 34.3 tok/s24.0–44.5이론 추정 ±30%	Q4_K_M	4.7 / 89.6GB	통합 메모리	최대 8k	생각 모드
DeepSeek R1 0528 Qwen3 8B	쾌적	추정 33.7 tok/s26.9–40.4보정된 추정 ±20%	Q4_K_M	6.8 / 89.6GB	통합 메모리	최대 8k	생각 모드
K2-Horizon 7B	쾌적	추정 30.9 tok/s24.7–37.1보정된 추정 ±20%	Q4_K_M	7.4 / 89.6GB	통합 메모리	최대 8k	생각 모드
Gemma 3 12B	쾌적	추정 26.8 tok/s21.4–32.1보정된 추정 ±20%	Q4_K_M	8.4 / 89.6GB	통합 메모리	최대 32k	—
Laguna S 2.1	원활	추정 26.4 tok/s21.1–31.7보정된 추정 ±20%	Q4_K_M	68.6 / 89.6GB	통합 메모리	최대 128k	생각 모드
Gemma 4 12B	원활	24.4 tok/s8k 추정 28.9 tok/s (23.2–34.7, 보정된 추정 ±20%)실측 1건 (512 컨텍스트)	Q4_K_M	7.8 / 89.6GB	통합 메모리	최대 256k	UD-Q2_K_XL (품질 손실 큼): 쾌적 생각 모드
Solar Open 100B	원활	추정 21.6 tok/s17.3–26.0보정된 추정 ±20%	Q4_K_M	64.4 / 89.6GB	통합 메모리	최대 32k	생각 모드
Qwen3.5 122B-A10B	원활	20.9 tok/s8k 추정 22.7 tok/s (18.2–27.2, 보정된 추정 ±20%)실측 1건 (512 컨텍스트)	Q4_K_M	79.0 / 89.6GB	통합 메모리	최대 256k	UD-Q2_K_XL (품질 손실 큼): 쾌적 생각 모드
HyperCLOVA X SEED Think 14B	원활	추정 20.6 tok/s14.4–26.8이론 추정 ±30%	Q4_K_M	10.8 / 89.6GB	통합 메모리	최대 32k	생각 모드
Qwen3 14B	원활	추정 20.3 tok/s16.2–24.4보정된 추정 ±20%	Q4_K_M	10.9 / 89.6GB	통합 메모리	최대 32k	생각 모드
DeepSeek R1 Distill Qwen 14B	원활	추정 19.8 tok/s15.8–23.8보정된 추정 ±20%	Q4_K_M	11.2 / 89.6GB	통합 메모리	최대 32k	생각 모드
Phi-4	원활	추정 19.6 tok/s15.7–23.5보정된 추정 ±20%	Q4_K_M	11.3 / 89.6GB	통합 메모리	최대 16k	—
Mistral Small 3.2 24B	원활	추정 13.4 tok/s10.7–16.1보정된 추정 ±20%	Q4_K_M	16.2 / 89.6GB	통합 메모리	최대 64k	Q2_K (품질 손실 큼): 쾌적
Gemma 3 27B	원활	추정 12.2 tok/s9.8–14.6보정된 추정 ±20%	Q4_K_M	17.8 / 89.6GB	통합 메모리	최대 64k	—
Qwen3.6 27B	원활	추정 12.1 tok/s9.7–14.5보정된 추정 ±20%	Q4_K_M	17.9 / 89.6GB	통합 메모리	최대 8k	생각 모드
Muse Glimmer 30B	원활	추정 12.1 tok/s9.6–14.5보정된 추정 ±20%	Q4_K_M	18.0 / 89.6GB	통합 메모리	최대 8k	생각 모드
Qwen3.5 27B	겨우 가능	추정 11.9 tok/s9.5–14.3보정된 추정 ±20%	Q4_K_M	18.2 / 89.6GB	통합 메모리	최대 256k	IQ4_XS: 원활 생각 모드
Qwen3.8 27B	겨우 가능	추정 11.7 tok/s9.3–14.0보정된 추정 ±20%	Q4_K_M	18.6 / 89.6GB	통합 메모리	최대 256k	IQ4_XS: 원활 생각 모드
Gemma 4 31B	겨우 가능	추정 11.1 tok/s8.8–13.3보정된 추정 ±20%	Q4_K_M	19.6 / 89.6GB	통합 메모리	최대 256k	IQ4_XS: 원활 생각 모드
Granite 4.2 30B	겨우 가능	추정 10.6 tok/s8.5–12.7보정된 추정 ±20%	Q4_K_M	20.4 / 89.6GB	통합 메모리	최대 128k	Q2_K (품질 손실 큼): 원활 생각 모드
EXAONE 4.0 32B	겨우 가능	추정 10.6 tok/s8.4–12.7보정된 추정 ±20%	Q4_K_M	20.5 / 89.6GB	통합 메모리	최대 128k	생각 모드
EXAONE 4.5 33B	겨우 가능	추정 10.2 tok/s8.2–12.2보정된 추정 ±20%	Q4_K_M	21.2 / 89.6GB	통합 메모리	최대 256k	생각 모드
Qwen3 32B	겨우 가능	10.2 tok/s8k 추정 9.6 tok/s (7.7–11.5, 보정된 추정 ±20%)실측 2건 (512 컨텍스트)	Q4_K_M	22.5 / 89.6GB	통합 메모리	최대 32k	Q2_K (품질 손실 큼): 원활 생각 모드
DeepSeek R1 Distill Qwen 32B	겨우 가능	추정 9.5 tok/s7.6–11.5보정된 추정 ±20%	Q4_K_M	22.6 / 89.6GB	통합 메모리	최대 128k	Q2_K (품질 손실 큼): 원활 생각 모드
Nanbeige4.3 33B	겨우 가능	추정 9.3 tok/s7.5–11.2보정된 추정 ±20%	Q4_K_M	23.1 / 89.6GB	통합 메모리	최대 128k	Q2_K (품질 손실 큼): 원활 생각 모드
Llama 3.3 70B	겨우 가능	추정 4.6 tok/s3.7–5.6보정된 추정 ±20%	Q4_K_M	45.8 / 89.6GB	통합 메모리	최대 128k	—
DeepSeek V4 Flash 0731	불가Q2_K (품질 손실 큼): 겨우 가능	추정 19.1 tok/s13.4–24.9이론 추정 ±30%	Q2_K	RAM 117.4GB	CPU 전용	최대 256k	CPU로만 추론하므로 겨우 돌아가는 수준을 넘지 못합니다. 생각 모드
Solar Open 2 250B	불가Q2_K (품질 손실 큼): 겨우 가능	추정 18.0 tok/s12.6–23.4이론 추정 ±30%	Q2_K	RAM 95.8GB	CPU 전용	최대 256k	CPU로만 추론하므로 겨우 돌아가는 수준을 넘지 못합니다. 생각 모드
GLM-5.3 Flash	불가	—	Q4_K_M	182.1GB 필요	—	—	약 182.1GB가 필요한데, 여유 메모리는 124.0GB입니다(GPU가 쓸 수 있는 양 89.6GB). 생각 모드

생각 모드가 있는 모델은 생각하는 데 토큰을 더 쓰기 때문에 속도 기준을 1.5배 엄격하게 잡습니다(30 / 12 / 3 tok/s). 생각 모드를 끄고 쓰면 실제로는 한 단계 위일 수 있습니다.

메모리 용량별 판정

메모리 구성별 Q4_K_M 판정입니다. 속도는 모델 페이지에서 확인하세요.
모델	32GB	64GB	128GB
MiniCPM5 1B	쾌적	쾌적	쾌적
Llama 3.2 1B	쾌적	쾌적	쾌적
EXAONE 4.0 1.2B	쾌적	쾌적	쾌적
Ling-3.0 Tiny	쾌적	쾌적	쾌적
LFM2.5 2.6B	쾌적	쾌적	쾌적
HyperCLOVA X SEED 1.5B	쾌적	쾌적	쾌적
MiniCPM5 2B	쾌적	쾌적	쾌적
Gemma 4 E2B	쾌적	쾌적	쾌적
Mellum2.1 12B-A2.5B Thinking	쾌적	쾌적	쾌적
Spark-X2.5 4B	쾌적	쾌적	쾌적
Llama 3.2 3B	쾌적	쾌적	쾌적
gpt-oss-20b	쾌적	쾌적	쾌적
Qwen3.5 4B	쾌적	쾌적	쾌적
MiniCPM-V 4.7 35B-A3B	쾌적	쾌적	쾌적
Nemotron 3.5 Lightning 30B-A3B	겨우 가능	쾌적	쾌적
Qwen3.5 35B-A3B	겨우 가능	쾌적	쾌적
Qwen3.6 35B-A3B	겨우 가능	쾌적	쾌적
Gemma 4 E4B	쾌적	쾌적	쾌적
Kanana 1.5 15.7B-A3B	쾌적	쾌적	쾌적
Gemma 4 26B-A4B	쾌적	쾌적	쾌적
Qwen3 30B-A3B (2507)	쾌적	쾌적	쾌적
gpt-oss-120b	불가	불가	쾌적
Ling-3.0 Flash	불가	불가	쾌적
Kolibri 1	불가	겨우 가능	쾌적
Qwen3 8B	쾌적	쾌적	쾌적
Qwen3.5 9B	쾌적	쾌적	쾌적
K2-Horizon MoVA 36B-A4B	겨우 가능	쾌적	쾌적
DeepSeek R1 Distill Llama 8B	쾌적	쾌적	쾌적
Kanana 1.5 8B	쾌적	쾌적	쾌적
Llama 3.1 8B	쾌적	쾌적	쾌적
Nanbeige4.2 3B	쾌적	쾌적	쾌적
DeepSeek R1 0528 Qwen3 8B	쾌적	쾌적	쾌적
K2-Horizon 7B	쾌적	쾌적	쾌적
Gemma 3 12B	쾌적	쾌적	쾌적
Laguna S 2.1	불가	불가	원활
Gemma 4 12B	원활	원활	원활
Solar Open 100B	불가	불가	원활
Qwen3.5 122B-A10B	불가	불가	원활
HyperCLOVA X SEED Think 14B	원활	원활	원활
Qwen3 14B	원활	원활	원활
DeepSeek R1 Distill Qwen 14B	원활	원활	원활
Phi-4	원활	원활	원활
Mistral Small 3.2 24B	원활	원활	원활
Gemma 3 27B	원활	원활	원활
Qwen3.6 27B	원활	원활	원활
Muse Glimmer 30B	원활	원활	원활
Qwen3.5 27B	겨우 가능	겨우 가능	겨우 가능
Qwen3.8 27B	겨우 가능	겨우 가능	겨우 가능
Gemma 4 31B	겨우 가능	겨우 가능	겨우 가능
Granite 4.2 30B	겨우 가능	겨우 가능	겨우 가능
EXAONE 4.0 32B	겨우 가능	겨우 가능	겨우 가능
EXAONE 4.5 33B	겨우 가능	겨우 가능	겨우 가능
Qwen3 32B	겨우 가능	겨우 가능	겨우 가능
DeepSeek R1 Distill Qwen 32B	겨우 가능	겨우 가능	겨우 가능
Nanbeige4.3 33B	겨우 가능	겨우 가능	겨우 가능
Llama 3.3 70B	불가	겨우 가능	겨우 가능
DeepSeek V4 Flash 0731	불가	불가	불가
Solar Open 2 250B	불가	불가	불가
GLM-5.3 Flash	불가	불가	불가

Ryzen AI Max+ 395 (Strix Halo) 벤치마크 결과

보정에 쓰는 공개 벤치마크입니다. 측정 조건(컨텍스트·백엔드·플래그)은 위 추정과 다를 수 있습니다.

Ryzen AI Max+ 395 (Strix Halo) 벤치마크 결과
모델	양자화	백엔드	컨텍스트	프롬프트 (tok/s)	생성 (tok/s)	플래그	출처	측정일
gpt-oss-120b	MXFP4	llama.cpp	512	707.0	50.2	ROCm 7.0.2, no mmap	quozul.dev	2025-10-27
Gemma 4 26B-A4B	Q4_K_M	llama.cpp	512	1,327.0	55.5	Vulkan	github.com	2026-06-30
Gemma 4 26B-A4B	Q4_K_M	llama.cpp	512	1,209.0	53.0	Vulkan	github.com	2026-08-18
Gemma 4 26B-A4B	UD-Q4_K_XL	llama.cpp	512	1,325.0	54.7	Vulkan	github.com	2026-05-18
Gemma 4 31B	UD-Q4_K_XL	llama.cpp	512	302.0	11.5	Vulkan	github.com	2026-05-18
Gemma 4 12B	IQ4_XS	llama.cpp	512	680.0	25.7	Vulkan	github.com	2026-06-04
Gemma 4 12B	Q4_K_M	llama.cpp	512	685.0	24.4	Vulkan	github.com	2026-06-04
Qwen3.6 35B-A3B	Q8_0	llama.cpp	512	—	50.6	Vulkan, FA off	github.com	2026-06-10
Qwen3.6 35B-A3B	UD-Q8_K_XL	llama.cpp	512	1,046.0	46.2	Vulkan	github.com	2026-04-26
Qwen3.6 35B-A3B	Q4_K_M	llama.cpp	512	1,064.0	63.8	Vulkan	github.com	2026-04-26
Qwen3.5 35B-A3B	Q4_K_M	llama.cpp	512	1,077.0	64.8	Vulkan	github.com	2026-04-26
Qwen3.5 9B	Q4_K_M	llama.cpp	4k	969.0	37.2	Vulkan	localmaxxing.com	2026-04-26
Qwen3.5 122B-A10B	Q4_K_M	llama.cpp	512	315.0	20.9	KV q8_0	github.com	2026-07-19
Qwen3 8B	Q4_K_M	llama.cpp	512	1,238.0	43.6	Vulkan	github.com	2026-09-08
Qwen3 32B	Q4_K_M	llama.cpp	512	256.0	9.9	ROCm	blog.tosukui.xyz	2025-07-13
Qwen3 32B	Q4_K_M	llama.cpp	512	140.0	10.4	Vulkan	blog.tosukui.xyz	2025-05-16
Qwen3 32B	Q8_0	llama.cpp	512	77.0	6.4	ROCm	llm-tracker.info	2025-05-11

자주 묻는 질문

Ryzen AI Max+ 395 (Strix Halo)에 통째로 올라가는 가장 큰 모델은 무엇인가요?

Ling-3.0 Flash Q4_K_M(77.01GB 파일)입니다. 8k 컨텍스트에서 통합 메모리 128GB에 전부 올라가고, 속도는 추정 48.4 tok/s (33.9–62.9, 이론 추정 ±30%)입니다.

Ryzen AI Max+ 395 (Strix Halo)에서 원활하게 돌아가는 로컬 LLM은 몇 개인가요?

Q4_K_M·8k 컨텍스트, 메모리 128GB 기준으로 등록된 모델 59개를 보면 쾌적 34개, 원활 12개, 겨우 가능 10개, 불가 3개입니다.

Ryzen AI Max+ 395 (Strix Halo)에서 Llama 3.3 70B 같은 70B 모델을 돌릴 수 있나요?

Q4_K_M, 통합 메모리 기준 판정: 겨우 가능, 속도: 추정 4.6 tok/s (3.7–5.6, 보정된 추정 ±20%).

속도는 메모리 대역폭으로 계산한 추정치를 공개 벤치마크로 보정한 값입니다. 모든 수치에는 오차 범위와 신뢰 라벨을 함께 표시합니다. 실제 속도는 드라이버, 백엔드, 컨텍스트 길이, 발열에 따라 달라집니다.