MiniCPM-V 4.7 35B-A3B 필요 사양: VRAM과 돌아가는 GPU

MiniCPM-V 4.7 35B-A3B, 어떤 모델인가요

MiniCPM-V 4.7 35B-A3B는 OpenBMB가 2026년 10월에 공개한 비전 언어 모델입니다. 이미지 여러 장과 영상을 입력받아 OCR이나 PDF 분석에 쓸 수 있고, 생각 모드는 기본으로 켜져 있습니다. MiniCPM-V 시리즈 첫 MoE 모델로, 전체 35B 가운데 토큰마다 약 3B가 활성화됩니다.

모델 카드

모델 정보

파라미터: 총 35.21B · 활성 3B (MoE)
어텐션: 하이브리드 어텐션(일부 층만 풀 어텐션)
최대 컨텍스트: 262,144 토큰
공개일: 2026-10-07
모델 카드: Hugging Face의 MiniCPM-V 4.7 35B-A3B 모델 카드

GGUF 파일

등록된 MiniCPM-V 4.7 35B-A3B 양자화 파일(작은 파일부터)
양자화	파일 크기	품질	배포처
IQ4_XS	18.73GB	균형	공식 GGUF · openbmb
Q4_K_M기준	21.17GB	균형	공식 GGUF · openbmb
Q8_0	36.90GB	준무손실	공식 GGUF · openbmb

파일 크기에는 이미지 입력에 필요한 비전 프로젝터(mmproj)가 들어 있지 않습니다.

양자화·컨텍스트별 필요 메모리

그래픽카드 메모리(GB): 그래픽카드에 올라가는 가중치 + f16 KV 캐시 + 연산 버퍼. Windows에서 GPU가 화면 출력도 맡는다면 약 0.6GB를 더하세요. 파일 일부는 그래픽카드에 올라가지 않습니다. llama.cpp는 입력 임베딩 표를 시스템 RAM에 둡니다. 맥은 파일 전체로 계산해서 조금 더 필요합니다.
양자화	4k	8k	16k	32k	64k	128k	256k
IQ4_XS	19.1	19.2	19.4	19.9	20.9	22.8	26.7
Q4_K_M	21.5	21.6	21.9	22.3	23.3	25.3	29.1
Q8_0	37.0	37.1	37.3	37.8	38.8	40.7	44.6

MiniCPM-V 4.7 35B-A3B, 어떤 GPU에서 돌아갈까?

판정 읽는 법

쾌적: GPU에 전부 올라가고 20 tok/s 이상
원활: GPU에 전부 올라가고 8~20 tok/s, MoE 전문가를 시스템 RAM에 두고 20 tok/s 이상, 또는 GPU에 90% 이상 올라가고 8 tok/s 이상
겨우 가능: 2~8 tok/s, CPU 전용, GPU에 90% 미만, 또는 MoE 전문가를 RAM에 두고 20 tok/s 미만
불가: 메모리에 안 들어가거나 2 tok/s 미만

정렬

계산기에서 예산·종류·컨텍스트로 걸러 보기

옆으로 밀면 모든 열을 볼 수 있습니다.

Q4_K_M·8k 컨텍스트 기준 GPU·맥·CPU 56종을 판정·속도 순으로 정렬했습니다
하드웨어	판정	속도	양자화	메모리	실행 방식	컨텍스트	참고	가격
GeForce RTX 5090	쾌적	추정 239.5 tok/s191.6–287.4보정된 추정 ±20%	Q4_K_M	22.2 / 32.0GB	풀 GPU	최대 256k	—	2026-08-09 기준 실거래가 US$4,200(약 557만 원)
GeForce RTX 3090 Ti	쾌적	추정 181.6 tok/s145.3–217.9보정된 추정 ±20%	Q4_K_M	22.2 / 24.0GB	풀 GPU	최대 64k	—	출시가 US$1,999(약 265만 원)
GeForce RTX 4090	쾌적	추정 181.6 tok/s145.3–217.9보정된 추정 ±20%	Q4_K_M	22.2 / 24.0GB	풀 GPU	최대 64k	—	2026-08-09 기준 실거래가 US$2,755(약 365만 원)
GeForce RTX 3090	쾌적	추정 174.2 tok/s139.3–209.0보정된 추정 ±20%	Q4_K_M	22.2 / 24.0GB	풀 GPU	최대 64k	—	2026-08-09 기준 실거래가 US$1,050(약 139만 원)
GeForce RTX 5090 Laptop	쾌적	추정 169.9 tok/s135.9–203.8보정된 추정 ±20%	Q4_K_M	22.2 / 24.0GB	풀 GPU	최대 64k	—	—
Apple M5 Ultra · 96GB	쾌적	추정 130.8 tok/s104.7–157.0보정된 추정 ±20%	Q4_K_M	21.9 / 67.2GB	통합 메모리	최대 256k	—	—
Apple M5 Max (40-core GPU) · 48GB	쾌적	추정 129.2 tok/s103.4–155.1보정된 추정 ±20%	Q4_K_M	21.9 / 33.6GB	통합 메모리	최대 256k	—	—
Radeon RX 7900 XTX	쾌적	추정 126.5 tok/s101.2–151.8보정된 추정 ±20%	Q4_K_M	22.2 / 24.0GB	풀 GPU	최대 64k	—	출시가 US$999(약 132만 원)
Apple M4 Max (40-core GPU) · 48GB	쾌적	추정 120.3 tok/s96.3–144.4보정된 추정 ±20%	Q4_K_M	21.9 / 33.6GB	통합 메모리	최대 256k	—	—
Apple M3 Ultra · 96GB	쾌적	추정 109.0 tok/s87.2–130.8보정된 추정 ±20%	Q4_K_M	21.9 / 67.2GB	통합 메모리	최대 256k	—	—
Apple M5 Max (32-core GPU) · 36GB	쾌적	추정 107.8 tok/s86.2–129.3보정된 추정 ±20%	Q4_K_M	21.9 / 25.2GB	통합 메모리	최대 64k	—	—
Apple M2 Ultra · 64GB	쾌적	추정 107.7 tok/s86.2–129.2보정된 추정 ±20%	Q4_K_M	21.9 / 44.8GB	통합 메모리	최대 256k	—	—
Apple M4 Max (32-core GPU) · 36GB	쾌적	추정 99.7 tok/s79.8–119.7보정된 추정 ±20%	Q4_K_M	21.9 / 25.2GB	통합 메모리	최대 64k	—	—
Apple M5 Pro · 48GB	쾌적	추정 81.0 tok/s64.8–97.3보정된 추정 ±20%	Q4_K_M	21.9 / 33.6GB	통합 메모리	최대 128k	—	—
NVIDIA DGX Spark · 64GB	쾌적	추정 76.0 tok/s60.8–91.2보정된 추정 ±20%	Q4_K_M	21.9 / 48.2GB	통합 메모리	최대 128k	—	128GB 구성 출시가 US$3,999(약 530만 원)
Apple M4 Pro · 48GB	쾌적	추정 74.2 tok/s59.3–89.0보정된 추정 ±20%	Q4_K_M	21.9 / 33.6GB	통합 메모리	최대 128k	—	—
Ryzen AI Max+ 395 (Strix Halo) · 32GB	쾌적	추정 67.5 tok/s54.0–81.1보정된 추정 ±20%	Q4_K_M	21.9 / 22.4GB	통합 메모리	최대 16k	—	128GB 구성 출시가 US$1,999(약 265만 원)
Apple M6 · 32GB	쾌적	추정 50.8 tok/s40.6–60.9보정된 추정 ±20%	Q4_K_M	21.9 / 22.4GB	통합 메모리	최대 16k	—	—
Apple M5 · 32GB	쾌적	추정 46.4 tok/s37.2–55.7보정된 추정 ±20%	Q4_K_M	21.9 / 22.4GB	통합 메모리	최대 16k	—	—
Apple M4 · 32GB	쾌적	추정 37.5 tok/s30.0–45.0보정된 추정 ±20%	Q4_K_M	21.9 / 22.4GB	통합 메모리	최대 16k	—	—
GeForce RTX 5080	원활	추정 99.0 tok/s69.3–128.7이론 추정 ±30%	Q4_K_M	15.4 / 16.0GB + RAM 7.1GB	MoE 전문가 RAM 배치	최대 256k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	2026-08-09 기준 실거래가 US$1,256(약 166만 원)
GeForce RTX 5070 Ti	원활	추정 97.0 tok/s67.9–126.1이론 추정 ±30%	Q4_K_M	15.4 / 16.0GB + RAM 7.1GB	MoE 전문가 RAM 배치	최대 256k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	2026-08-09 기준 실거래가 US$949(약 126만 원)
GeForce RTX 5080 Laptop	원활	추정 97.0 tok/s67.9–126.1이론 추정 ±30%	Q4_K_M	15.4 / 16.0GB + RAM 7.1GB	MoE 전문가 RAM 배치	최대 256k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	—
Radeon RX 7900 XT	원활	추정 96.3 tok/s67.4–125.2이론 추정 ±30%	Q4_K_M	19.3 / 20.0GB + RAM 3.2GB	MoE 전문가 RAM 배치	최대 256k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다. IQ4_XS: 쾌적	출시가 US$899(약 119만 원)
GeForce RTX 4080 Super	원활	추정 91.1 tok/s63.8–118.4이론 추정 ±30%	Q4_K_M	15.4 / 16.0GB + RAM 7.1GB	MoE 전문가 RAM 배치	최대 256k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$999(약 132만 원)
GeForce RTX 4080	원활	추정 90.3 tok/s63.2–117.4이론 추정 ±30%	Q4_K_M	15.4 / 16.0GB + RAM 7.1GB	MoE 전문가 RAM 배치	최대 256k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$1,199(약 159만 원)
GeForce RTX 4070 Ti Super	원활	추정 88.2 tok/s61.8–114.7이론 추정 ±30%	Q4_K_M	15.4 / 16.0GB + RAM 7.1GB	MoE 전문가 RAM 배치	최대 256k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$799(약 106만 원)
GeForce RTX 4090 Laptop	원활	추정 83.2 tok/s58.2–108.1이론 추정 ±30%	Q4_K_M	15.4 / 16.0GB + RAM 7.1GB	MoE 전문가 RAM 배치	최대 256k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	—
GeForce RTX 3080 12GB	원활	추정 78.2 tok/s54.8–101.7이론 추정 ±30%	Q4_K_M	11.5 / 12.0GB + RAM 11.0GB	MoE 전문가 RAM 배치	최대 256k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$799(약 106만 원)
GeForce RTX 5060 Ti 16GB	원활	추정 74.7 tok/s52.3–97.1이론 추정 ±30%	Q4_K_M	15.4 / 16.0GB + RAM 7.1GB	MoE 전문가 RAM 배치	최대 128k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	2026-08-09 기준 실거래가 US$569(약 75만 원)
Radeon RX 9070	원활	추정 73.2 tok/s51.2–95.1이론 추정 ±30%	Q4_K_M	15.4 / 16.0GB + RAM 7.1GB	MoE 전문가 RAM 배치	최대 256k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	2026-08-09 기준 실거래가 US$639(약 85만 원)
Radeon RX 9070 XT	원활	추정 73.2 tok/s51.2–95.1이론 추정 ±30%	Q4_K_M	15.4 / 16.0GB + RAM 7.1GB	MoE 전문가 RAM 배치	최대 256k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	2026-08-09 기준 실거래가 US$689(약 91만 원)
GeForce RTX 5070	원활	추정 72.5 tok/s50.7–94.2이론 추정 ±30%	Q4_K_M	11.5 / 12.0GB + RAM 11.0GB	MoE 전문가 RAM 배치	최대 256k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	2026-08-09 기준 실거래가 US$629(약 83만 원)
GeForce RTX 5070 Ti Laptop	원활	추정 72.5 tok/s50.7–94.2이론 추정 ±30%	Q4_K_M	11.5 / 12.0GB + RAM 11.0GB	MoE 전문가 RAM 배치	최대 256k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	—
Radeon RX 7800 XT	원활	추정 72.5 tok/s50.7–94.2이론 추정 ±30%	Q4_K_M	15.4 / 16.0GB + RAM 7.1GB	MoE 전문가 RAM 배치	최대 256k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$499(약 66만 원)
GeForce RTX 3080 10GB	원활	추정 67.1 tok/s47.0–87.2이론 추정 ±30%	Q4_K_M	9.1 / 10.0GB + RAM 13.5GB	MoE 전문가 RAM 배치	최대 128k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$699(약 93만 원)
GeForce RTX 2080 Ti	원활	추정 66.4 tok/s46.5–86.3이론 추정 ±30%	Q4_K_M	10.0 / 11.0GB + RAM 12.5GB	MoE 전문가 RAM 배치	최대 256k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$999(약 132만 원)
GeForce RTX 4070	원활	추정 66.3 tok/s46.4–86.2이론 추정 ±30%	Q4_K_M	11.5 / 12.0GB + RAM 11.0GB	MoE 전문가 RAM 배치	최대 128k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$599(약 79만 원)
GeForce RTX 4070 Super	원활	추정 66.3 tok/s46.4–86.2이론 추정 ±30%	Q4_K_M	11.5 / 12.0GB + RAM 11.0GB	MoE 전문가 RAM 배치	최대 128k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$599(약 79만 원)
GeForce RTX 4080 Laptop	원활	추정 62.7 tok/s43.9–81.6이론 추정 ±30%	Q4_K_M	11.5 / 12.0GB + RAM 11.0GB	MoE 전문가 RAM 배치	최대 128k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	—
GeForce GTX 1080 Ti	원활	추정 61.8 tok/s43.3–80.4이론 추정 ±30%	Q4_K_M	10.0 / 11.0GB + RAM 12.5GB	MoE 전문가 RAM 배치	최대 128k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$699(약 93만 원)
GeForce RTX 4060 Ti 16GB	원활	추정 59.5 tok/s41.6–77.3이론 추정 ±30%	Q4_K_M	15.4 / 16.0GB + RAM 7.1GB	MoE 전문가 RAM 배치	최대 128k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$499(약 66만 원)
GeForce RTX 3060 12GB	원활	추정 58.4 tok/s40.9–75.9이론 추정 ±30%	Q4_K_M	11.5 / 12.0GB + RAM 11.0GB	MoE 전문가 RAM 배치	최대 128k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	2026-08-09 기준 실거래가 US$250(약 33만 원)
Radeon RX 9060 XT 16GB	원활	추정 56.7 tok/s39.7–73.8이론 추정 ±30%	Q4_K_M	15.4 / 16.0GB + RAM 7.1GB	MoE 전문가 RAM 배치	최대 128k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	2026-08-09 기준 실거래가 US$449(약 60만 원)
GeForce RTX 3070	원활	추정 54.5 tok/s38.2–70.9이론 추정 ±30%	Q4_K_M	7.1 / 8.0GB + RAM 15.4GB	MoE 전문가 RAM 배치	최대 128k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$499(약 66만 원)
GeForce RTX 5060	원활	추정 54.5 tok/s38.2–70.9이론 추정 ±30%	Q4_K_M	7.1 / 8.0GB + RAM 15.4GB	MoE 전문가 RAM 배치	최대 128k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	2026-08-09 기준 실거래가 US$339(약 45만 원)
GeForce RTX 5060 Ti 8GB	원활	추정 54.5 tok/s38.2–70.9이론 추정 ±30%	Q4_K_M	7.1 / 8.0GB + RAM 15.4GB	MoE 전문가 RAM 배치	최대 128k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	2026-08-09 기준 실거래가 US$429(약 57만 원)
Intel Arc B580	원활	추정 52.1 tok/s36.5–67.8이론 추정 ±30%	Q4_K_M	11.5 / 12.0GB + RAM 11.0GB	MoE 전문가 RAM 배치	최대 128k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	2026-08-09 기준 실거래가 US$290(약 38만 원)
GeForce RTX 4060 Ti 8GB	원활	추정 46.9 tok/s32.8–61.0이론 추정 ±30%	Q4_K_M	7.1 / 8.0GB + RAM 15.4GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$399(약 53만 원)
GeForce RTX 4060	원활	추정 45.9 tok/s32.1–59.6이론 추정 ±30%	Q4_K_M	7.1 / 8.0GB + RAM 15.4GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$299(약 40만 원)
GeForce RTX 4060 Laptop	원활	추정 44.7 tok/s31.3–58.2이론 추정 ±30%	Q4_K_M	7.1 / 8.0GB + RAM 15.4GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	—
GeForce RTX 4070 Laptop	원활	추정 44.7 tok/s31.3–58.2이론 추정 ±30%	Q4_K_M	7.1 / 8.0GB + RAM 15.4GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	—
GeForce RTX 3050 8GB	원활	추정 42.2 tok/s29.6–54.9이론 추정 ±30%	Q4_K_M	7.1 / 8.0GB + RAM 15.4GB	MoE 전문가 RAM 배치	최대 64k	모델이 GPU에 다 올라가지 않습니다. 쾌적하게 돌리려면 모델 전체가 GPU 메모리에 있어야 합니다.	출시가 US$249(약 33만 원)
DDR5-6000 듀얼채널 CPU · 32GB	겨우 가능	추정 20.9 tok/s16.8–25.1보정된 추정 ±20%	Q4_K_M	RAM 21.3GB	CPU 전용	최대 256k	CPU로만 추론하므로 겨우 돌아가는 수준을 넘지 못합니다.	—
DDR5-5600 듀얼채널 CPU · 32GB	겨우 가능	추정 19.5 tok/s15.6–23.5보정된 추정 ±20%	Q4_K_M	RAM 21.3GB	CPU 전용	최대 256k	CPU로만 추론하므로 겨우 돌아가는 수준을 넘지 못합니다.	—
DDR4-3200 듀얼채널 CPU · 32GB	겨우 가능	추정 11.2 tok/s8.9–13.4보정된 추정 ±20%	Q4_K_M	RAM 21.3GB	CPU 전용	최대 256k	—	—

생각 모드가 있는 모델은 생각하는 데 토큰을 더 쓰기 때문에 속도 기준을 1.5배 엄격하게 잡습니다(30 / 12 / 3 tok/s). 생각 모드를 끄고 쓰면 실제로는 한 단계 위일 수 있습니다.

원화 금액은 미국 달러 가격을 2026-10-21 환율(1달러 1,326원)로 단순 환산한 참고값이라 국내 판매가와 다를 수 있습니다.

가장 싸게 돌릴 수 있는 GPU

쾌적GeForce RTX 30902026-08-09 기준 실거래가 US$1,050(약 139만 원), 속도 추정 174.2 tok/s (139.3–209.0, 보정된 추정 ±20%)
원활GeForce RTX 3060 12GB2026-08-09 기준 실거래가 US$250(약 33만 원), 속도 추정 58.4 tok/s (40.9–75.9, 이론 추정 ±30%)

MiniCPM-V 4.7 35B-A3B 벤치마크 결과

이 모델로 잰 공개 벤치마크 결과는 아직 없습니다.

자주 묻는 질문

MiniCPM-V 4.7 35B-A3B 실행에 VRAM이 얼마나 필요한가요?

Q4_K_M 파일은 21.17GB입니다. 8k 컨텍스트로 그래픽카드에 올리면 약 21.6GB가 필요합니다(가중치 20.87GB, KV 캐시 0.2GB, 연산 버퍼 0.6GB). 가장 작은 파일(IQ4_XS)은 약 19.2GB가 필요합니다. 파일 일부는 그래픽카드에 올라가지 않습니다. llama.cpp는 입력 임베딩 표를 시스템 RAM에 둡니다. 맥은 파일 전체로 계산해서 조금 더 필요합니다.

MiniCPM-V 4.7 35B-A3B, 원활하게 돌아가는 가장 싼 GPU는 무엇인가요?

쾌적하게 돌리는 가장 싼 GPU는 GeForce RTX 3090입니다. 실거래가는 2026-08-09 기준 US$1,050(약 139만 원)이고, 속도는 추정 174.2 tok/s (139.3–209.0, 보정된 추정 ±20%)입니다. 원활하게만 돌려도 된다면 더 싼 GPU는 GeForce RTX 3060 12GB입니다. 실거래가는 2026-08-09 기준 US$250(약 33만 원)이고, 속도는 추정 58.4 tok/s (40.9–75.9, 이론 추정 ±30%)입니다.

MiniCPM-V 4.7 35B-A3B, 8GB·16GB·24GB GPU에서 돌아가나요?

Q4_K_M·8k 컨텍스트 기준 카드별 판정입니다. GeForce RTX 4060: 원활, 추정 45.9 tok/s (32.1–59.6, 이론 추정 ±30%); GeForce RTX 5060 Ti 16GB: 원활, 추정 74.7 tok/s (52.3–97.1, 이론 추정 ±30%); GeForce RTX 3090: 쾌적, 추정 174.2 tok/s (139.3–209.0, 보정된 추정 ±20%).

속도는 메모리 대역폭으로 계산한 추정치를 공개 벤치마크로 보정한 값입니다. 모든 수치에는 오차 범위와 신뢰 라벨을 함께 표시합니다. 실제 속도는 드라이버, 백엔드, 컨텍스트 길이, 발열에 따라 달라집니다.