Phi-4 필요 사양: VRAM과 돌아가는 GPU
Phi-4, 어떤 모델인가요
Phi-4는 Microsoft Research가 2024년 12월에 공개한 14B dense 모델입니다. 교과서처럼 만든 합성 데이터와 걸러 낸 웹 문서를 섞어, 수학·코딩 같은 리즈닝에 초점을 맞춰 학습했습니다. 주로 영어용이고 컨텍스트는 16k 토큰이며, MIT 라이선스라 상업적으로도 쓸 수 있습니다.
모델 정보
- 파라미터
- 14.7B
- 어텐션
- 풀 어텐션
- 최대 컨텍스트
- 16,384 토큰
- 공개일
- 2024-12-12
GGUF 파일
| 양자화 | 파일 크기 | 품질 | 배포처 |
|---|---|---|---|
| Q4_K_M기준 | 9.05GB | 균형 | 커뮤니티 GGUF · lmstudio-community |
| Q6_K | 12.03GB | 준무손실 | 커뮤니티 GGUF · lmstudio-community |
| Q8_0 | 15.58GB | 준무손실 | 커뮤니티 GGUF · lmstudio-community |
양자화·컨텍스트별 필요 메모리
| 양자화 | 4k | 8k | 16k |
|---|---|---|---|
| Q4_K_M | 10.1 | 11.0 | 12.8 |
| Q6_K | 13.0 | 13.9 | 15.6 |
| Q8_0 | 16.4 | 17.3 | 19.0 |
Phi-4, 어떤 GPU에서 돌아갈까?
판정 읽는 법
- 쾌적
- GPU에 전부 올라가고 20 tok/s 이상
- 원활
- GPU에 전부 올라가고 8~20 tok/s, MoE 전문가를 시스템 RAM에 두고 20 tok/s 이상, 또는 GPU에 90% 이상 올라가고 8 tok/s 이상
- 겨우 가능
- 2~8 tok/s, CPU 전용, GPU에 90% 미만, 또는 MoE 전문가를 RAM에 두고 20 tok/s 미만
- 불가
- 메모리에 안 들어가거나 2 tok/s 미만
dense 모델을 GPU와 CPU에 나눠 올리면 속도가 크게 떨어집니다. 전체 속도가 느린 CPU 쪽에 맞춰지기 때문입니다. 전문가만 시스템 RAM에 두는 MoE 모델은 훨씬 덜 느려집니다.
옆으로 밀면 모든 열을 볼 수 있습니다.
| 하드웨어 | 판정 | 속도 | 양자화 | 메모리 | 실행 방식 | 컨텍스트 | 참고 | 가격 |
|---|---|---|---|---|---|---|---|---|
| GeForce RTX 5090 | 쾌적 | 추정 116.9 tok/s102.9–131.0보정된 추정 ±12% | Q4_K_M | 11.6 / 32.0GB | 풀 GPU | 최대 16k | — | 2026-08-09 기준 실거래가 US$4,200(약 557만 원) |
| NVIDIA RTX PRO 6000 Blackwell | 쾌적 | 추정 116.9 tok/s102.9–131.0보정된 추정 ±12% | Q4_K_M | 11.6 / 96.0GB | 풀 GPU | 최대 16k | — | — |
| NVIDIA RTX PRO 6000 Blackwell Max-Q | 쾌적 | 추정 116.9 tok/s102.9–131.0보정된 추정 ±12% | Q4_K_M | 11.6 / 96.0GB | 풀 GPU | 최대 16k | — | — |
| Radeon RX 7900 XTX | 쾌적 | 추정 68.0 tok/s59.8–76.2보정된 추정 ±12% | Q4_K_M | 11.6 / 24.0GB | 풀 GPU | 최대 16k | — | 출시가 US$999(약 132만 원) |
| GeForce RTX 3090 Ti | 쾌적 | 추정 65.8 tok/s57.9–73.7보정된 추정 ±12% | Q4_K_M | 11.6 / 24.0GB | 풀 GPU | 최대 16k | — | 출시가 US$1,999(약 265만 원) |
| GeForce RTX 4090 | 쾌적 | 추정 65.8 tok/s57.9–73.7보정된 추정 ±12% | Q4_K_M | 11.6 / 24.0GB | 풀 GPU | 최대 16k | — | 2026-08-09 기준 실거래가 US$2,755(약 365만 원) |
| Apple M5 Ultra · 96GB | 쾌적 | 추정 65.2 tok/s52.2–78.3보정된 추정 ±20% | Q4_K_M | 11.3 / 67.2GB | 통합 메모리 | 최대 16k | — | — |
| GeForce RTX 5080 | 쾌적 | 추정 62.6 tok/s55.1–70.2보정된 추정 ±12% | Q4_K_M | 11.6 / 16.0GB | 풀 GPU | 최대 16k | — | 2026-08-09 기준 실거래가 US$1,256(약 166만 원) |
| GeForce RTX 3090 | 쾌적 | 추정 61.1 tok/s53.7–68.4보정된 추정 ±12% | Q4_K_M | 11.6 / 24.0GB | 풀 GPU | 최대 16k | — | 2026-08-09 기준 실거래가 US$1,050(약 139만 원) |
| GeForce RTX 3080 12GB | 쾌적 | 추정 59.5 tok/s52.4–66.7보정된 추정 ±12% | Q4_K_M | 11.6 / 12.0GB | 풀 GPU | 최대 8k | — | 출시가 US$799(약 106만 원) |
| GeForce RTX 5070 Ti | 쾌적 | 추정 58.5 tok/s51.4–65.5보정된 추정 ±12% | Q4_K_M | 11.6 / 16.0GB | 풀 GPU | 최대 16k | — | 2026-08-09 기준 실거래가 US$949(약 126만 원) |
| GeForce RTX 5080 Laptop | 쾌적 | 추정 58.5 tok/s51.4–65.5보정된 추정 ±12% | Q4_K_M | 11.6 / 16.0GB | 풀 GPU | 최대 16k | — | — |
| GeForce RTX 5090 Laptop | 쾌적 | 추정 58.5 tok/s51.4–65.5보정된 추정 ±12% | Q4_K_M | 11.6 / 24.0GB | 풀 GPU | 최대 16k | — | — |
| Radeon RX 7900 XT | 쾌적 | 추정 56.7 tok/s49.9–63.5보정된 추정 ±12% | Q4_K_M | 11.6 / 20.0GB | 풀 GPU | 최대 16k | — | 출시가 US$899(약 119만 원) |
| GeForce RTX 4080 Super | 쾌적 | 추정 48.0 tok/s42.3–53.8보정된 추정 ±12% | Q4_K_M | 11.6 / 16.0GB | 풀 GPU | 최대 16k | — | 출시가 US$999(약 132만 원) |
| GeForce RTX 4080 | 쾌적 | 추정 46.8 tok/s41.2–52.4보정된 추정 ±12% | Q4_K_M | 11.6 / 16.0GB | 풀 GPU | 최대 16k | — | 출시가 US$1,199(약 159만 원) |
| Radeon RX 9070 | 쾌적 | 추정 45.7 tok/s40.2–51.2보정된 추정 ±12% | Q4_K_M | 11.6 / 16.0GB | 풀 GPU | 최대 16k | — | 2026-08-09 기준 실거래가 US$639(약 85만 원) |
| Radeon RX 9070 XT | 쾌적 | 추정 45.7 tok/s40.2–51.2보정된 추정 ±12% | Q4_K_M | 11.6 / 16.0GB | 풀 GPU | 최대 16k | — | 2026-08-09 기준 실거래가 US$689(약 91만 원) |
| Radeon RX 7800 XT | 쾌적 | 추정 44.2 tok/s38.9–49.5보정된 추정 ±12% | Q4_K_M | 11.6 / 16.0GB | 풀 GPU | 최대 16k | — | 출시가 US$499(약 66만 원) |
| GeForce RTX 4070 Ti Super | 쾌적 | 추정 43.8 tok/s38.6–49.1보정된 추정 ±12% | Q4_K_M | 11.6 / 16.0GB | 풀 GPU | 최대 16k | — | 출시가 US$799(약 106만 원) |
| GeForce RTX 5070 | 쾌적 | 추정 43.8 tok/s38.6–49.1보정된 추정 ±12% | Q4_K_M | 11.6 / 12.0GB | 풀 GPU | 최대 8k | — | 2026-08-09 기준 실거래가 US$629(약 83만 원) |
| GeForce RTX 5070 Ti Laptop | 쾌적 | 추정 43.8 tok/s38.6–49.1보정된 추정 ±12% | Q4_K_M | 11.6 / 12.0GB | 풀 GPU | 최대 8k | — | — |
| Apple M3 Ultra · 96GB | 쾌적 | 추정 43.5 tok/s34.8–52.2보정된 추정 ±20% | Q4_K_M | 11.3 / 67.2GB | 통합 메모리 | 최대 16k | — | — |
| Apple M5 Max (40-core GPU) · 48GB | 쾌적 | 추정 43.5 tok/s34.8–52.2보정된 추정 ±20% | Q4_K_M | 11.3 / 33.6GB | 통합 메모리 | 최대 16k | — | — |
| Apple M2 Ultra · 64GB | 쾌적 | 추정 42.5 tok/s34.0–51.0보정된 추정 ±20% | Q4_K_M | 11.3 / 44.8GB | 통합 메모리 | 최대 16k | — | — |
| Apple M4 Max (40-core GPU) · 48GB | 쾌적 | 추정 38.7 tok/s30.9–46.4보정된 추정 ±20% | Q4_K_M | 11.3 / 33.6GB | 통합 메모리 | 최대 16k | — | — |
| GeForce RTX 4090 Laptop | 쾌적 | 추정 37.6 tok/s33.1–42.1보정된 추정 ±12% | Q4_K_M | 11.6 / 16.0GB | 풀 GPU | 최대 16k | — | — |
| GeForce RTX 4070 | 쾌적 | 추정 32.9 tok/s28.9–36.8보정된 추정 ±12% | Q4_K_M | 11.6 / 12.0GB | 풀 GPU | 최대 8k | — | 출시가 US$599(약 79만 원) |
| GeForce RTX 4070 Super | 쾌적 | 추정 32.9 tok/s28.9–36.8보정된 추정 ±12% | Q4_K_M | 11.6 / 12.0GB | 풀 GPU | 최대 8k | — | 출시가 US$599(약 79만 원) |
| Apple M5 Max (32-core GPU) · 36GB | 쾌적 | 추정 32.6 tok/s26.1–39.1보정된 추정 ±20% | Q4_K_M | 11.3 / 25.2GB | 통합 메모리 | 최대 16k | — | — |
| GeForce RTX 5060 Ti 16GB | 쾌적 | 추정 29.2 tok/s25.7–32.7보정된 추정 ±12% | Q4_K_M | 11.6 / 16.0GB | 풀 GPU | 최대 16k | — | 2026-08-09 기준 실거래가 US$569(약 75만 원) |
| Apple M4 Max (32-core GPU) · 36GB | 쾌적 | 추정 29.0 tok/s23.2–34.9보정된 추정 ±20% | Q4_K_M | 11.3 / 25.2GB | 통합 메모리 | 최대 16k | — | — |
| GeForce RTX 4080 Laptop | 쾌적 | 추정 28.2 tok/s24.8–31.6보정된 추정 ±12% | Q4_K_M | 11.6 / 12.0GB | 풀 GPU | 최대 8k | — | — |
| Intel Arc B580 | 쾌적 | 추정 25.1 tok/s20.1–30.1보정된 추정 ±20% | Q4_K_M | 11.6 / 12.0GB | 풀 GPU | 최대 8k | — | 2026-08-09 기준 실거래가 US$290(약 38만 원) |
| GeForce RTX 3060 12GB | 쾌적 | 추정 23.5 tok/s20.7–26.3보정된 추정 ±12% | Q4_K_M | 11.6 / 12.0GB | 풀 GPU | 최대 8k | — | 2026-08-09 기준 실거래가 US$250(약 33만 원) |
| Radeon RX 9060 XT 16GB | 쾌적 | 추정 22.8 tok/s20.1–25.5보정된 추정 ±12% | Q4_K_M | 11.6 / 16.0GB | 풀 GPU | 최대 8k | — | 2026-08-09 기준 실거래가 US$449(약 60만 원) |
| Apple M5 Pro · 24GB | 쾌적 | 추정 21.7 tok/s17.4–26.1보정된 추정 ±20% | Q4_K_M | 11.3 / 16.8GB | 통합 메모리 | 최대 8k | — | — |
| GeForce RTX 2080 Ti | 원활 | 추정 21.6 tok/s17.3–25.9보정된 추정 ±20% | Q4_K_M | 11.0 / 11.0GB + RAM 0.9GB | 부분 오프로드 | 최대 8k |
| 출시가 US$999(약 132만 원) |
| NVIDIA DGX Spark · 128GB | 원활 | 추정 19.8 tok/s15.9–23.8보정된 추정 ±20% | Q4_K_M | 11.3 / 116.9GB | 통합 메모리 | 최대 16k | — | 128GB 구성 출시가 US$3,999(약 530만 원) |
| Ryzen AI Max+ 395 (Strix Halo) · 32GB | 원활 | 추정 19.6 tok/s15.7–23.5보정된 추정 ±20% | Q4_K_M | 11.3 / 22.4GB | 통합 메모리 | 최대 16k | — | 128GB 구성 출시가 US$1,999(약 265만 원) |
| Apple M4 Pro · 24GB | 원활 | 추정 19.3 tok/s15.5–23.2보정된 추정 ±20% | Q4_K_M | 11.3 / 16.8GB | 통합 메모리 | 최대 16k | — | — |
| GeForce GTX 1080 Ti | 원활 | 추정 19.1 tok/s13.4–24.8이론 추정 ±30% | Q4_K_M | 11.0 / 11.0GB + RAM 0.9GB | 부분 오프로드 | 최대 8k | — | 출시가 US$699(약 93만 원) |
| GeForce RTX 4060 Ti 16GB | 원활 | 추정 18.8 tok/s16.5–21.0보정된 추정 ±12% | Q4_K_M | 11.6 / 16.0GB | 풀 GPU | 최대 16k | — | 출시가 US$499(약 66만 원) |
| Apple M6 · 24GB | 원활 | 추정 12.1 tok/s9.7–14.5보정된 추정 ±20% | Q4_K_M | 11.3 / 16.8GB | 통합 메모리 | 최대 16k | — | — |
| Apple M5 · 24GB | 원활 | 추정 10.9 tok/s8.7–13.1보정된 추정 ±20% | Q4_K_M | 11.3 / 16.8GB | 통합 메모리 | 최대 16k | — | — |
| Apple M4 · 24GB | 원활 | 추정 8.5 tok/s6.8–10.2보정된 추정 ±20% | Q4_K_M | 11.3 / 16.8GB | 통합 메모리 | 최대 8k | — | — |
| GeForce RTX 3080 10GB | 겨우 가능 | 추정 15.1 tok/s12.1–18.1보정된 추정 ±20% | Q4_K_M | 10.0 / 10.0GB + RAM 1.9GB | 부분 오프로드 | 최대 16k |
| 출시가 US$699(약 93만 원) |
| GeForce RTX 3070 | 겨우 가능 | 추정 8.1 tok/s6.5–9.8보정된 추정 ±20% | Q4_K_M | 8.0 / 8.0GB + RAM 3.9GB | 부분 오프로드 | 최대 16k |
| 출시가 US$499(약 66만 원) |
| GeForce RTX 5060 | 겨우 가능 | 추정 8.1 tok/s6.5–9.8보정된 추정 ±20% | Q4_K_M | 8.0 / 8.0GB + RAM 3.9GB | 부분 오프로드 | 최대 16k |
| 2026-08-09 기준 실거래가 US$339(약 45만 원) |
| GeForce RTX 5060 Ti 8GB | 겨우 가능 | 추정 8.1 tok/s6.5–9.8보정된 추정 ±20% | Q4_K_M | 8.0 / 8.0GB + RAM 3.9GB | 부분 오프로드 | 최대 16k |
| 2026-08-09 기준 실거래가 US$429(약 57만 원) |
| GeForce RTX 4060 Ti 8GB | 겨우 가능 | 추정 7.5 tok/s6.0–9.0보정된 추정 ±20% | Q4_K_M | 8.0 / 8.0GB + RAM 3.9GB | 부분 오프로드 | 최대 16k | — | 출시가 US$399(약 53만 원) |
| GeForce RTX 4060 | 겨우 가능 | 추정 7.4 tok/s5.9–8.9보정된 추정 ±20% | Q4_K_M | 8.0 / 8.0GB + RAM 3.9GB | 부분 오프로드 | 최대 16k | — | 출시가 US$299(약 40만 원) |
| GeForce RTX 4060 Laptop | 겨우 가능 | 추정 7.3 tok/s5.8–8.7보정된 추정 ±20% | Q4_K_M | 8.0 / 8.0GB + RAM 3.9GB | 부분 오프로드 | 최대 16k | — | — |
| GeForce RTX 4070 Laptop | 겨우 가능 | 추정 7.3 tok/s5.8–8.7보정된 추정 ±20% | Q4_K_M | 8.0 / 8.0GB + RAM 3.9GB | 부분 오프로드 | 최대 16k | — | — |
| GeForce RTX 3050 8GB | 겨우 가능 | 추정 7.0 tok/s5.6–8.4보정된 추정 ±20% | Q4_K_M | 8.0 / 8.0GB + RAM 3.9GB | 부분 오프로드 | 최대 16k | — | 출시가 US$249(약 33만 원) |
| DDR5-6000 듀얼채널 CPU · 16GB | 겨우 가능 | 추정 4.5 tok/s3.6–5.4보정된 추정 ±20% | Q4_K_M | RAM 10.7GB | CPU 전용 | 최대 8k | — | — |
| DDR5-5600 듀얼채널 CPU · 16GB | 겨우 가능 | 추정 4.2 tok/s3.3–5.0보정된 추정 ±20% | Q4_K_M | RAM 10.7GB | CPU 전용 | 최대 8k | — | — |
| DDR4-3200 듀얼채널 CPU · 16GB | 겨우 가능 | 추정 2.4 tok/s1.9–2.9보정된 추정 ±20% | Q4_K_M | RAM 10.7GB | CPU 전용 | 최대 8k | — | — |
원화 금액은 미국 달러 가격을 2026-10-21 환율(1달러 1,326원)로 단순 환산한 참고값이라 국내 판매가와 다를 수 있습니다.
가장 싸게 돌릴 수 있는 GPU
- 쾌적GeForce RTX 3060 12GB2026-08-09 기준 실거래가 US$250(약 33만 원), 속도 추정 23.5 tok/s (20.7–26.3, 보정된 추정 ±12%)
Phi-4 벤치마크 결과
이 모델로 잰 공개 벤치마크 결과는 아직 없습니다.
자주 묻는 질문
Phi-4 실행에 VRAM이 얼마나 필요한가요?
Q4_K_M 파일은 9.05GB입니다. 8k 컨텍스트로 그래픽카드에 올리면 약 11.0GB가 필요합니다(가중치 8.76GB, KV 캐시 1.7GB, 연산 버퍼 0.6GB). 파일 일부는 그래픽카드에 올라가지 않습니다. llama.cpp는 입력 임베딩 표를 시스템 RAM에 둡니다. 맥은 파일 전체로 계산해서 조금 더 필요합니다.
Phi-4, 원활하게 돌아가는 가장 싼 GPU는 무엇인가요?
쾌적하게 돌리는 가장 싼 GPU는 GeForce RTX 3060 12GB입니다. 실거래가는 2026-08-09 기준 US$250(약 33만 원)이고, 속도는 추정 23.5 tok/s (20.7–26.3, 보정된 추정 ±12%)입니다.
Phi-4, 8GB·16GB·24GB GPU에서 돌아가나요?
Q4_K_M·8k 컨텍스트 기준 카드별 판정입니다. GeForce RTX 4060: 겨우 가능, 추정 7.4 tok/s (5.9–8.9, 보정된 추정 ±20%); GeForce RTX 5060 Ti 16GB: 쾌적, 추정 29.2 tok/s (25.7–32.7, 보정된 추정 ±12%); GeForce RTX 3090: 쾌적, 추정 61.1 tok/s (53.7–68.4, 보정된 추정 ±12%).
속도는 메모리 대역폭으로 계산한 추정치를 공개 벤치마크로 보정한 값입니다. 모든 수치에는 오차 범위와 신뢰 라벨을 함께 표시합니다. 실제 속도는 드라이버, 백엔드, 컨텍스트 길이, 발열에 따라 달라집니다.