MiniCPM5 1B 필요 사양: VRAM과 돌아가는 GPU

모델 정보

파라미터
1.08B
어텐션
풀 어텐션
최대 컨텍스트
131,072 토큰
공개일
2026-05-21

GGUF 파일

등록된 MiniCPM5 1B 양자화 파일(작은 파일부터)
양자화파일 크기품질배포처
Q4_K_M기준0.69GB균형공식 GGUF · openbmb
Q8_01.15GB준무손실공식 GGUF · openbmb

양자화·컨텍스트별 필요 메모리

가중치 + f16 KV 캐시 + 연산 버퍼(GB). Windows에서 GPU가 화면 출력도 맡는다면 약 0.6GB를 더하세요.
양자화4k8k16k32k64k128k
Q4_K_M1.31.51.72.33.45.6
Q8_01.81.92.22.83.96.1

MiniCPM5 1B, 어떤 GPU에서 돌아갈까?

판정 읽는 법

쾌적
GPU에 전부 올라가고 20 tok/s 이상
원활
GPU에 전부 올라가고 8~20 tok/s, MoE 전문가를 시스템 RAM에 두고 20 tok/s 이상, 또는 GPU에 90% 이상 올라가고 8 tok/s 이상
겨우 가능
2~8 tok/s, CPU 전용, GPU에 90% 미만, 또는 MoE 전문가를 RAM에 두고 20 tok/s 미만
불가
메모리에 안 들어가거나 2 tok/s 미만

옆으로 밀면 모든 열을 볼 수 있습니다.

Q4_K_M·8k 컨텍스트 기준 GPU·맥·CPU 54종을 판정·속도 순으로 정렬했습니다
하드웨어판정속도양자화메모리실행 방식컨텍스트참고가격
GeForce RTX 5090
쾌적
추정 1,407.3 tok/s1,238.5–1,576.2보정된 추정 ±12%
Q4_K_M2.1 / 32.0GB풀 GPU최대 128k—실거래가 US$4,200 (2026-08-09 기준)
Radeon RX 7900 XTX
쾌적
추정 840.1 tok/s739.3–940.9보정된 추정 ±12%
Q4_K_M2.1 / 24.0GB풀 GPU최대 128k—출시가 US$999
GeForce RTX 3090 Ti
쾌적
추정 791.6 tok/s696.6–886.6보정된 추정 ±12%
Q4_K_M2.1 / 24.0GB풀 GPU최대 128k—출시가 US$1,999
GeForce RTX 4090
쾌적
추정 791.6 tok/s696.6–886.6보정된 추정 ±12%
Q4_K_M2.1 / 24.0GB풀 GPU최대 128k—실거래가 US$2,755 (2026-08-09 기준)
GeForce RTX 5080
쾌적
추정 753.9 tok/s663.5–844.4보정된 추정 ±12%
Q4_K_M2.1 / 16.0GB풀 GPU최대 128k—실거래가 US$1,256 (2026-08-09 기준)
GeForce RTX 3090
쾌적
추정 735.1 tok/s646.9–823.3보정된 추정 ±12%
Q4_K_M2.1 / 24.0GB풀 GPU최대 128k—실거래가 US$1,050 (2026-08-09 기준)
GeForce RTX 3080 12GB
쾌적
추정 716.2 tok/s630.3–802.2보정된 추정 ±12%
Q4_K_M2.1 / 12.0GB풀 GPU최대 128k—출시가 US$799
GeForce RTX 5070 Ti
쾌적
추정 703.7 tok/s619.2–788.1보정된 추정 ±12%
Q4_K_M2.1 / 16.0GB풀 GPU최대 128k—실거래가 US$949 (2026-08-09 기준)
GeForce RTX 5080 Laptop
쾌적
추정 703.7 tok/s619.2–788.1보정된 추정 ±12%
Q4_K_M2.1 / 16.0GB풀 GPU최대 128k——
GeForce RTX 5090 Laptop
쾌적
추정 703.7 tok/s619.2–788.1보정된 추정 ±12%
Q4_K_M2.1 / 24.0GB풀 GPU최대 128k——
Radeon RX 7900 XT
쾌적
추정 700.1 tok/s616.1–784.1보정된 추정 ±12%
Q4_K_M2.1 / 20.0GB풀 GPU최대 128k—출시가 US$899
GeForce RTX 3080 10GB
쾌적
추정 596.9 tok/s525.2–668.5보정된 추정 ±12%
Q4_K_M2.1 / 10.0GB풀 GPU최대 128k—출시가 US$699
GeForce RTX 4080 Super
쾌적
추정 578.0 tok/s508.7–647.4보정된 추정 ±12%
Q4_K_M2.1 / 16.0GB풀 GPU최대 128k—출시가 US$999
Radeon RX 9070
쾌적
추정 564.4 tok/s496.7–632.2보정된 추정 ±12%
Q4_K_M2.1 / 16.0GB풀 GPU최대 128k—실거래가 US$639 (2026-08-09 기준)
Radeon RX 9070 XT
쾌적
추정 564.4 tok/s496.7–632.2보정된 추정 ±12%
Q4_K_M2.1 / 16.0GB풀 GPU최대 128k—실거래가 US$689 (2026-08-09 기준)
GeForce RTX 4080
쾌적
추정 563.1 tok/s495.5–630.7보정된 추정 ±12%
Q4_K_M2.1 / 16.0GB풀 GPU최대 128k—출시가 US$1,199
Radeon RX 7800 XT
쾌적
추정 546.1 tok/s480.5–611.6보정된 추정 ±12%
Q4_K_M2.1 / 16.0GB풀 GPU최대 128k—출시가 US$499
GeForce RTX 4070 Ti Super
쾌적
추정 527.8 tok/s464.4–591.1보정된 추정 ±12%
Q4_K_M2.1 / 16.0GB풀 GPU최대 128k—출시가 US$799
GeForce RTX 5070
쾌적
추정 527.8 tok/s464.4–591.1보정된 추정 ±12%
Q4_K_M2.1 / 12.0GB풀 GPU최대 128k—실거래가 US$629 (2026-08-09 기준)
GeForce RTX 5070 Ti Laptop
쾌적
추정 527.8 tok/s464.4–591.1보정된 추정 ±12%
Q4_K_M2.1 / 12.0GB풀 GPU최대 128k——
GeForce RTX 2080 Ti
쾌적
추정 483.8 tok/s425.7–541.8보정된 추정 ±12%
Q4_K_M2.1 / 11.0GB풀 GPU최대 128k—출시가 US$999
GeForce RTX 4090 Laptop
쾌적
추정 452.4 tok/s398.1–506.6보정된 추정 ±12%
Q4_K_M2.1 / 16.0GB풀 GPU최대 128k——
Apple M5 Max (40-core GPU) · 48GB
쾌적
추정 413.3 tok/s330.7–496.0보정된 추정 ±20%
Q4_K_M1.5 / 33.6GB통합 메모리최대 128k——
Apple M3 Ultra · 96GB
쾌적
추정 404.3 tok/s323.4–485.2보정된 추정 ±20%
Q4_K_M1.5 / 67.2GB통합 메모리최대 128k——
GeForce RTX 4070
쾌적
추정 395.8 tok/s348.3–443.3보정된 추정 ±12%
Q4_K_M2.1 / 12.0GB풀 GPU최대 128k—출시가 US$599
GeForce RTX 4070 Super
쾌적
추정 395.8 tok/s348.3–443.3보정된 추정 ±12%
Q4_K_M2.1 / 12.0GB풀 GPU최대 128k—출시가 US$599
Apple M2 Ultra · 64GB
쾌적
추정 394.9 tok/s315.9–473.9보정된 추정 ±20%
Q4_K_M1.5 / 44.8GB통합 메모리최대 128k——
GeForce GTX 1080 Ti
쾌적
추정 380.1 tok/s266.1–494.1이론 추정 ±30%
Q4_K_M2.1 / 11.0GB풀 GPU최대 128k—출시가 US$699
Apple M4 Max (40-core GPU) · 48GB
쾌적
추정 367.5 tok/s294.0–441.1보정된 추정 ±20%
Q4_K_M1.5 / 33.6GB통합 메모리최대 128k——
GeForce RTX 3070
쾌적
추정 351.8 tok/s309.6–394.1보정된 추정 ±12%
Q4_K_M2.1 / 8.0GB풀 GPU최대 128k—출시가 US$499
GeForce RTX 5060
쾌적
추정 351.8 tok/s309.6–394.1보정된 추정 ±12%
Q4_K_M2.1 / 8.0GB풀 GPU최대 128k—실거래가 US$339 (2026-08-09 기준)
GeForce RTX 5060 Ti 16GB
쾌적
추정 351.8 tok/s309.6–394.1보정된 추정 ±12%
Q4_K_M2.1 / 16.0GB풀 GPU최대 128k—실거래가 US$569 (2026-08-09 기준)
GeForce RTX 5060 Ti 8GB
쾌적
추정 351.8 tok/s309.6–394.1보정된 추정 ±12%
Q4_K_M2.1 / 8.0GB풀 GPU최대 128k—실거래가 US$429 (2026-08-09 기준)
GeForce RTX 4080 Laptop
쾌적
추정 339.3 tok/s298.6–380.0보정된 추정 ±12%
Q4_K_M2.1 / 12.0GB풀 GPU최대 128k——
Apple M5 Max (32-core GPU) · 36GB
쾌적
추정 309.7 tok/s247.7–371.6보정된 추정 ±20%
Q4_K_M1.5 / 25.2GB통합 메모리최대 128k——
Intel Arc B580
쾌적
추정 301.8 tok/s241.5–362.2보정된 추정 ±20%
Q4_K_M2.1 / 12.0GB풀 GPU최대 128k—실거래가 US$290 (2026-08-09 기준)
GeForce RTX 3060 12GB
쾌적
추정 282.7 tok/s248.8–316.7보정된 추정 ±12%
Q4_K_M2.1 / 12.0GB풀 GPU최대 128k—실거래가 US$250 (2026-08-09 기준)
Radeon RX 9060 XT 16GB
쾌적
추정 281.8 tok/s248.0–315.6보정된 추정 ±12%
Q4_K_M2.1 / 16.0GB풀 GPU최대 128k—실거래가 US$449 (2026-08-09 기준)
Apple M4 Max (32-core GPU) · 36GB
쾌적
추정 276.0 tok/s220.8–331.2보정된 추정 ±20%
Q4_K_M1.5 / 25.2GB통합 메모리최대 128k——
GeForce RTX 4060 Ti 16GB
쾌적
추정 226.2 tok/s199.0–253.3보정된 추정 ±12%
Q4_K_M2.1 / 16.0GB풀 GPU최대 128k—출시가 US$499
GeForce RTX 4060 Ti 8GB
쾌적
추정 226.2 tok/s199.0–253.3보정된 추정 ±12%
Q4_K_M2.1 / 8.0GB풀 GPU최대 128k—출시가 US$399
GeForce RTX 4060
쾌적
추정 213.6 tok/s188.0–239.2보정된 추정 ±12%
Q4_K_M2.1 / 8.0GB풀 GPU최대 128k—출시가 US$299
Apple M5 Pro · 24GB
쾌적
추정 206.7 tok/s165.3–248.0보정된 추정 ±20%
Q4_K_M1.5 / 16.8GB통합 메모리최대 128k——
GeForce RTX 4060 Laptop
쾌적
추정 201.0 tok/s176.9–225.2보정된 추정 ±12%
Q4_K_M2.1 / 8.0GB풀 GPU최대 128k——
GeForce RTX 4070 Laptop
쾌적
추정 201.0 tok/s176.9–225.2보정된 추정 ±12%
Q4_K_M2.1 / 8.0GB풀 GPU최대 128k——
Ryzen AI Max+ 395 (Strix Halo) · 32GB
쾌적
추정 186.7 tok/s149.4–224.0보정된 추정 ±20%
Q4_K_M1.5 / 22.4GB통합 메모리최대 128k—출시가 US$1,999
Apple M4 Pro · 24GB
쾌적
추정 183.8 tok/s147.0–220.5보정된 추정 ±20%
Q4_K_M1.5 / 16.8GB통합 메모리최대 128k——
GeForce RTX 3050 8GB
쾌적
추정 175.9 tok/s154.8–197.0보정된 추정 ±12%
Q4_K_M2.1 / 8.0GB풀 GPU최대 128k—출시가 US$249
NVIDIA DGX Spark · 128GB
쾌적
추정 122.5 tok/s98.0–147.0보정된 추정 ±20%
Q4_K_M1.5 / 89.6GB통합 메모리최대 128k—출시가 US$3,999
Apple M5 · 16GB
쾌적
추정 103.4 tok/s82.7–124.1보정된 추정 ±20%
Q4_K_M1.5 / 11.2GB통합 메모리최대 128k——
Apple M4 · 16GB
쾌적
추정 80.8 tok/s64.6–96.9보정된 추정 ±20%
Q4_K_M1.5 / 11.2GB통합 메모리최대 64k——
DDR5-6000 듀얼채널 CPU · 16GB
겨우 가능
추정 53.9 tok/s43.1–64.6보정된 추정 ±20%
Q4_K_MRAM 0.9GBCPU 전용최대 128k
  • CPU로만 추론하므로 겨우 돌아가는 수준을 넘지 못합니다.
—
DDR5-5600 듀얼채널 CPU · 16GB
겨우 가능
추정 50.3 tok/s40.2–60.3보정된 추정 ±20%
Q4_K_MRAM 0.9GBCPU 전용최대 128k
  • CPU로만 추론하므로 겨우 돌아가는 수준을 넘지 못합니다.
—
DDR4-3200 듀얼채널 CPU · 16GB
겨우 가능
추정 28.7 tok/s23.0–34.5보정된 추정 ±20%
Q4_K_MRAM 0.9GBCPU 전용최대 128k
  • CPU로만 추론하므로 겨우 돌아가는 수준을 넘지 못합니다.
—

가장 싸게 돌릴 수 있는 GPU

  • 쾌적GeForce RTX 3060 12GB실거래가 US$250 (2026-08-09 기준), 속도 추정 282.7 tok/s (248.8–316.7, 보정된 추정 ±12%)

MiniCPM5 1B 벤치마크 결과

이 모델로 잰 공개 벤치마크 결과는 아직 없습니다.

자주 묻는 질문

MiniCPM5 1B 실행에 VRAM이 얼마나 필요한가요?

Q4_K_M 기준으로 가중치가 0.69GB이고, 8k 컨텍스트까지 더하면 약 1.5GB가 필요합니다(KV 캐시 0.2GB, 연산 버퍼 0.6GB).

MiniCPM5 1B, 원활하게 돌아가는 가장 싼 GPU는 무엇인가요?

쾌적하게 돌리는 가장 싼 GPU는 GeForce RTX 3060 12GB입니다. 실거래가는 US$250(2026-08-09 기준)이고, 속도는 추정 282.7 tok/s (248.8–316.7, 보정된 추정 ±12%)입니다.

MiniCPM5 1B, 8GB·16GB·24GB GPU에서 돌아가나요?

Q4_K_M·8k 컨텍스트 기준 카드별 판정입니다. GeForce RTX 4060: 쾌적, 추정 213.6 tok/s (188.0–239.2, 보정된 추정 ±12%); GeForce RTX 5060 Ti 16GB: 쾌적, 추정 351.8 tok/s (309.6–394.1, 보정된 추정 ±12%); GeForce RTX 3090: 쾌적, 추정 735.1 tok/s (646.9–823.3, 보정된 추정 ±12%).

속도는 메모리 대역폭으로 계산한 추정치를 공개 벤치마크로 보정한 값입니다. 모든 수치에는 오차 범위와 신뢰 라벨을 함께 표시합니다. 실제 속도는 드라이버, 백엔드, 컨텍스트 길이, 발열에 따라 달라집니다.