내 PC로 이 LLM 돌릴 수 있을까?
GPU나 맥 칩 이름만 넣으면 돌릴 수 있는 모델을 알려 드립니다. 모델마다 추천 양자화, 필요한 메모리, 예상 속도(tok/s) 범위도 함께 보여 줍니다.
자주 찾는 GPU
가이드와 GPU 비교
어떻게 계산하나요
- 메모리: 가중치, KV 캐시, 연산 버퍼를 더한 양을 GPU(또는 통합 메모리)가 실제로 쓸 수 있는 양과 비교합니다.
- 속도: 메모리 대역폭으로 계산한 값을 공개 벤치마크 157건으로 보정합니다.
- 모든 수치에 오차 범위와 신뢰 라벨(실측·보정·이론)을 붙입니다.
이 사이트의 모든 수치에는 오차 범위와 신뢰 라벨을 함께 표시합니다. 신뢰 라벨은 실측, 보정된 추정(NVIDIA·AMD GPU에서 dense 모델을 GPU에 전부 올린 경우 ±12%, 그 밖에는 ±20%), 이론 추정(±30%) 세 가지입니다.
많이 찾는 조합
인기 GPU·맥
- GeForce RTX 5090
- GeForce RTX 5080
- GeForce RTX 5070 Ti
- GeForce RTX 5070
- GeForce RTX 5060 Ti 16GB
- GeForce RTX 5060
- GeForce RTX 4090
- GeForce RTX 4070
- GeForce RTX 4060
- GeForce RTX 3090
- GeForce RTX 3060 12GB
- Radeon RX 9070 XT
- Radeon RX 9060 XT 16GB
- Radeon RX 7900 XTX
- GeForce RTX 4060 Laptop
- Apple M4
- Apple M4 Pro
- Apple M4 Max (40-core GPU)
- Apple M5
- Apple M5 Pro
- Apple M5 Max (40-core GPU)
- Apple M6
- Ryzen AI Max+ 395 (Strix Halo)
- NVIDIA DGX Spark
- DDR5-5600 듀얼채널 CPU
인기 모델
- Gemma 4 26B-A4B
- Gemma 4 31B
- Gemma 4 E2B
- Gemma 4 E4B
- GLM-5.3 Flash
- gpt-oss-120b
- gpt-oss-20b
- Llama 3.1 8B
- Qwen3 14B
- Qwen3 30B-A3B (2507)
- Qwen3 8B
- Qwen3.5 35B-A3B
- Qwen3.5 4B
- Qwen3.5 9B
- Qwen3.6 35B-A3B
- Qwen3.8 27B
- DeepSeek R1 0528 Qwen3 8B
- DeepSeek R1 Distill Qwen 32B
- DeepSeek V4 Flash 0731
- EXAONE 4.5 33B
- Gemma 3 12B
- Gemma 3 27B
- Gemma 4 12B
- Llama 3.2 3B
- Llama 3.3 70B
- Mistral Small 3.2 24B
- Muse Glimmer 30B
- Phi-4
- Qwen3 32B
- Qwen3.5 27B
- Qwen3.6 27B