Muse Glimmer 30B 필요 사양: VRAM과 돌아가는 GPU
Muse Glimmer 30B, 어떤 모델인가요
Muse Glimmer 30B는 Meta가 Muse Spark를 증류해 2026년 8월에 공개한 dense 모델입니다. 텍스트와 이미지를 함께 입력받고, 모델 카드는 로컬 에이전트·코딩 에이전트·도구 호출·멀티모달 추론을 주된 용도로 꼽습니다. 생각 모드는 끌 수 없고, 강도만 low부터 xhigh까지 네 단계로 고를 수 있습니다. 모델 카드에 따르면 100개가 넘는 언어로 학습했고, Apache 2.0 라이선스라 상업적으로도 쓸 수 있습니다.
모델 정보
- 파라미터
- 29.78B
- 어텐션
- 슬라이딩 윈도 어텐션
- 최대 컨텍스트
- 131,072 토큰
- 공개일
- 2026-08-09
GGUF 파일
| 양자화 | 파일 크기 | 품질 | 배포처 |
|---|---|---|---|
| Q2_K | 11.04GB | 손실 큼 | 커뮤니티 GGUF · bartowski |
| IQ4_XS | 15.44GB | 균형 | 커뮤니티 GGUF · bartowski |
| Q4_K_M기준 | 17.31GB | 균형 | 커뮤니티 GGUF · bartowski |
| Q8_0 | 29.61GB | 준무손실 | 커뮤니티 GGUF · bartowski |
파일 크기에는 이미지 입력에 필요한 비전 프로젝터(mmproj)가 들어 있지 않습니다.
양자화·컨텍스트별 필요 메모리
| 양자화 | 4k | 8k | 16k | 32k | 64k | 128k |
|---|---|---|---|---|---|---|
| Q2_K | 11.2 | 11.3 | 11.5 | 11.8 | 12.6 | 14.0 |
| IQ4_XS | 15.3 | 15.4 | 15.6 | 15.9 | 16.7 | 18.2 |
| Q4_K_M | 17.1 | 17.2 | 17.4 | 17.8 | 18.5 | 20.0 |
| Q8_0 | 28.8 | 28.9 | 29.0 | 29.4 | 30.1 | 31.6 |
Muse Glimmer 30B, 어떤 GPU에서 돌아갈까?
판정 읽는 법
- 쾌적
- GPU에 전부 올라가고 20 tok/s 이상
- 원활
- GPU에 전부 올라가고 8~20 tok/s, MoE 전문가를 시스템 RAM에 두고 20 tok/s 이상, 또는 GPU에 90% 이상 올라가고 8 tok/s 이상
- 겨우 가능
- 2~8 tok/s, CPU 전용, GPU에 90% 미만, 또는 MoE 전문가를 RAM에 두고 20 tok/s 미만
- 불가
- 메모리에 안 들어가거나 2 tok/s 미만
dense 모델을 GPU와 CPU에 나눠 올리면 속도가 크게 떨어집니다. 전체 속도가 느린 CPU 쪽에 맞춰지기 때문입니다. 전문가만 시스템 RAM에 두는 MoE 모델은 훨씬 덜 느려집니다.
옆으로 밀면 모든 열을 볼 수 있습니다.
| 하드웨어 | 판정 | 속도 | 양자화 | 메모리 | 실행 방식 | 컨텍스트 | 참고 | 가격 |
|---|---|---|---|---|---|---|---|---|
| GeForce RTX 5090 | 쾌적 | 추정 72.0 tok/s63.4–80.7보정된 추정 ±12% | Q4_K_M | 17.8 / 32.0GB | 풀 GPU | 최대 128k | — | 2026-08-09 기준 실거래가 US$4,200(약 557만 원) |
| Radeon RX 7900 XTX | 쾌적 | 추정 41.9 tok/s36.9–46.9보정된 추정 ±12% | Q4_K_M | 17.8 / 24.0GB | 풀 GPU | 최대 128k | — | 출시가 US$999(약 132만 원) |
| GeForce RTX 3090 Ti | 쾌적 | 추정 40.5 tok/s35.6–45.4보정된 추정 ±12% | Q4_K_M | 17.8 / 24.0GB | 풀 GPU | 최대 128k | — | 출시가 US$1,999(약 265만 원) |
| GeForce RTX 4090 | 쾌적 | 추정 40.5 tok/s35.6–45.4보정된 추정 ±12% | Q4_K_M | 17.8 / 24.0GB | 풀 GPU | 최대 128k | — | 2026-08-09 기준 실거래가 US$2,755(약 365만 원) |
| Apple M5 Ultra · 96GB | 쾌적 | 추정 40.2 tok/s32.1–48.2보정된 추정 ±20% | Q4_K_M | 18.0 / 67.2GB | 통합 메모리 | 최대 128k | — | — |
| GeForce RTX 3090 | 쾌적 | 추정 37.6 tok/s33.1–42.1보정된 추정 ±12% | Q4_K_M | 17.8 / 24.0GB | 풀 GPU | 최대 128k | — | 2026-08-09 기준 실거래가 US$1,050(약 139만 원) |
| GeForce RTX 5090 Laptop | 쾌적 | 추정 36.0 tok/s31.7–40.3보정된 추정 ±12% | Q4_K_M | 17.8 / 24.0GB | 풀 GPU | 최대 128k | — | — |
| Radeon RX 7900 XT | 쾌적 | 추정 34.9 tok/s30.7–39.1보정된 추정 ±12% | Q4_K_M | 17.8 / 20.0GB | 풀 GPU | 최대 64k | — | 출시가 US$899(약 119만 원) |
| Apple M3 Ultra · 96GB | 원활 | 추정 26.8 tok/s21.4–32.2보정된 추정 ±20% | Q4_K_M | 18.0 / 67.2GB | 통합 메모리 | 최대 128k |
| — |
| Apple M5 Max (40-core GPU) · 48GB | 원활 | 추정 26.8 tok/s21.4–32.1보정된 추정 ±20% | Q4_K_M | 18.0 / 33.6GB | 통합 메모리 | 최대 128k |
| — |
| Apple M2 Ultra · 64GB | 원활 | 추정 26.2 tok/s20.9–31.4보정된 추정 ±20% | Q4_K_M | 18.0 / 44.8GB | 통합 메모리 | 최대 128k |
| — |
| Apple M4 Max (40-core GPU) · 48GB | 원활 | 추정 23.8 tok/s19.1–28.6보정된 추정 ±20% | Q4_K_M | 18.0 / 33.6GB | 통합 메모리 | 최대 128k |
| — |
| Apple M5 Max (32-core GPU) · 36GB | 원활 | 추정 20.1 tok/s16.1–24.1보정된 추정 ±20% | Q4_K_M | 18.0 / 25.2GB | 통합 메모리 | 최대 128k |
| — |
| Apple M4 Max (32-core GPU) · 36GB | 원활 | 추정 17.9 tok/s14.3–21.5보정된 추정 ±20% | Q4_K_M | 18.0 / 25.2GB | 통합 메모리 | 최대 128k | — | — |
| Apple M5 Pro · 48GB | 원활 | 추정 13.4 tok/s10.7–16.1보정된 추정 ±20% | Q4_K_M | 18.0 / 33.6GB | 통합 메모리 | 최대 128k | — | — |
| NVIDIA DGX Spark · 64GB | 원활 | 추정 12.2 tok/s9.8–14.7보정된 추정 ±20% | Q4_K_M | 18.0 / 48.2GB | 통합 메모리 | 최대 16k | — | 128GB 구성 출시가 US$3,999(약 530만 원) |
| Ryzen AI Max+ 395 (Strix Halo) · 32GB | 원활 | 추정 12.1 tok/s9.6–14.5보정된 추정 ±20% | Q4_K_M | 18.0 / 22.4GB | 통합 메모리 | 최대 8k | — | 128GB 구성 출시가 US$1,999(약 265만 원) |
| GeForce RTX 5080 | 겨우 가능 | 추정 12.5 tok/s10.0–14.9보정된 추정 ±20% | Q4_K_M | 16.0 / 16.0GB + RAM 2.6GB | 부분 오프로드 | 최대 128k |
| 2026-08-09 기준 실거래가 US$1,256(약 166만 원) |
| GeForce RTX 5070 Ti | 겨우 가능 | 추정 12.2 tok/s9.8–14.7보정된 추정 ±20% | Q4_K_M | 16.0 / 16.0GB + RAM 2.6GB | 부분 오프로드 | 최대 128k |
| 2026-08-09 기준 실거래가 US$949(약 126만 원) |
| GeForce RTX 5080 Laptop | 겨우 가능 | 추정 12.2 tok/s9.8–14.7보정된 추정 ±20% | Q4_K_M | 16.0 / 16.0GB + RAM 2.6GB | 부분 오프로드 | 최대 128k |
| — |
| GeForce RTX 4080 Super | 겨우 가능 | 추정 11.5 tok/s9.2–13.8보정된 추정 ±20% | Q4_K_M | 16.0 / 16.0GB + RAM 2.6GB | 부분 오프로드 | 최대 128k |
| 출시가 US$999(약 132만 원) |
| GeForce RTX 4080 | 겨우 가능 | 추정 11.4 tok/s9.1–13.7보정된 추정 ±20% | Q4_K_M | 16.0 / 16.0GB + RAM 2.6GB | 부분 오프로드 | 최대 128k |
| 출시가 US$1,199(약 159만 원) |
| Radeon RX 9070 | 겨우 가능 | 추정 11.3 tok/s9.0–13.6보정된 추정 ±20% | Q4_K_M | 16.0 / 16.0GB + RAM 2.6GB | 부분 오프로드 | 최대 128k |
| 2026-08-09 기준 실거래가 US$639(약 85만 원) |
| Radeon RX 9070 XT | 겨우 가능 | 추정 11.3 tok/s9.0–13.6보정된 추정 ±20% | Q4_K_M | 16.0 / 16.0GB + RAM 2.6GB | 부분 오프로드 | 최대 128k |
| 2026-08-09 기준 실거래가 US$689(약 91만 원) |
| Radeon RX 7800 XT | 겨우 가능 | 추정 11.2 tok/s8.9–13.4보정된 추정 ±20% | Q4_K_M | 16.0 / 16.0GB + RAM 2.6GB | 부분 오프로드 | 최대 128k |
| 출시가 US$499(약 66만 원) |
| GeForce RTX 4070 Ti Super | 겨우 가능 | 추정 11.1 tok/s8.9–13.4보정된 추정 ±20% | Q4_K_M | 16.0 / 16.0GB + RAM 2.6GB | 부분 오프로드 | 최대 128k |
| 출시가 US$799(약 106만 원) |
| GeForce RTX 4090 Laptop | 겨우 가능 | 추정 10.5 tok/s8.4–12.6보정된 추정 ±20% | Q4_K_M | 16.0 / 16.0GB + RAM 2.6GB | 부분 오프로드 | 최대 128k |
| — |
| GeForce RTX 5060 Ti 16GB | 겨우 가능 | 추정 9.5 tok/s7.6–11.4보정된 추정 ±20% | Q4_K_M | 16.0 / 16.0GB + RAM 2.6GB | 부분 오프로드 | 최대 128k |
| 2026-08-09 기준 실거래가 US$569(약 75만 원) |
| Radeon RX 9060 XT 16GB | 겨우 가능 | 추정 8.4 tok/s6.7–10.1보정된 추정 ±20% | Q4_K_M | 16.0 / 16.0GB + RAM 2.6GB | 부분 오프로드 | 최대 128k |
| 2026-08-09 기준 실거래가 US$449(약 60만 원) |
| Apple M4 Pro · 24GB | 겨우 가능 | 추정 7.8 tok/s5.5–10.2이론 추정 ±30% | Q4_K_M | RAM 17.4GB | CPU 전용 | 최대 128k |
| — |
| GeForce RTX 4060 Ti 16GB | 겨우 가능 | 추정 7.6 tok/s6.1–9.1보정된 추정 ±20% | Q4_K_M | 16.0 / 16.0GB + RAM 2.6GB | 부분 오프로드 | 최대 128k |
| 출시가 US$499(약 66만 원) |
| GeForce RTX 3080 12GB | 겨우 가능 | 추정 6.1 tok/s4.8–7.3보정된 추정 ±20% | Q4_K_M | 12.0 / 12.0GB + RAM 6.6GB | 부분 오프로드 | 최대 128k |
| 출시가 US$799(약 106만 원) |
| GeForce RTX 5070 | 겨우 가능 | 추정 5.8 tok/s4.7–7.0보정된 추정 ±20% | Q4_K_M | 12.0 / 12.0GB + RAM 6.6GB | 부분 오프로드 | 최대 128k |
| 2026-08-09 기준 실거래가 US$629(약 83만 원) |
| GeForce RTX 5070 Ti Laptop | 겨우 가능 | 추정 5.8 tok/s4.7–7.0보정된 추정 ±20% | Q4_K_M | 12.0 / 12.0GB + RAM 6.6GB | 부분 오프로드 | 최대 128k |
| — |
| GeForce RTX 4070 | 겨우 가능 | 추정 5.6 tok/s4.5–6.7보정된 추정 ±20% | Q4_K_M | 12.0 / 12.0GB + RAM 6.6GB | 부분 오프로드 | 최대 128k |
| 출시가 US$599(약 79만 원) |
| GeForce RTX 4070 Super | 겨우 가능 | 추정 5.6 tok/s4.5–6.7보정된 추정 ±20% | Q4_K_M | 12.0 / 12.0GB + RAM 6.6GB | 부분 오프로드 | 최대 128k |
| 출시가 US$599(약 79만 원) |
| GeForce RTX 4080 Laptop | 겨우 가능 | 추정 5.4 tok/s4.4–6.5보정된 추정 ±20% | Q4_K_M | 12.0 / 12.0GB + RAM 6.6GB | 부분 오프로드 | 최대 128k |
| — |
| Intel Arc B580 | 겨우 가능 | 추정 5.3 tok/s4.3–6.4보정된 추정 ±20% | Q4_K_M | 12.0 / 12.0GB + RAM 6.6GB | 부분 오프로드 | 최대 128k |
| 2026-08-09 기준 실거래가 US$290(약 38만 원) |
| GeForce RTX 3060 12GB | 겨우 가능 | 추정 5.2 tok/s4.2–6.3보정된 추정 ±20% | Q4_K_M | 12.0 / 12.0GB + RAM 6.6GB | 부분 오프로드 | 최대 128k |
| 2026-08-09 기준 실거래가 US$250(약 33만 원) |
| GeForce RTX 2080 Ti | 겨우 가능 | 추정 5.2 tok/s4.1–6.2보정된 추정 ±20% | Q4_K_M | 11.0 / 11.0GB + RAM 7.6GB | 부분 오프로드 | 최대 128k | — | 출시가 US$999(약 132만 원) |
| GeForce GTX 1080 Ti | 겨우 가능 | 추정 5.0 tok/s3.5–6.5이론 추정 ±30% | Q4_K_M | 11.0 / 11.0GB + RAM 7.6GB | 부분 오프로드 | 최대 128k | — | 출시가 US$699(약 93만 원) |
| Apple M6 · 24GB | 겨우 가능 | 추정 4.9 tok/s3.4–6.4이론 추정 ±30% | Q4_K_M | RAM 17.4GB | CPU 전용 | 최대 128k | — | — |
| GeForce RTX 3080 10GB | 겨우 가능 | 추정 4.8 tok/s3.8–5.7보정된 추정 ±20% | Q4_K_M | 10.0 / 10.0GB + RAM 8.6GB | 부분 오프로드 | 최대 128k | — | 출시가 US$699(약 93만 원) |
| Apple M5 · 24GB | 겨우 가능 | 추정 4.4 tok/s3.1–5.7이론 추정 ±30% | Q4_K_M | RAM 17.4GB | CPU 전용 | 최대 128k | — | — |
| GeForce RTX 3070 | 겨우 가능 | 추정 3.9 tok/s3.1–4.6보정된 추정 ±20% | Q4_K_M | 8.0 / 8.0GB + RAM 10.6GB | 부분 오프로드 | 최대 64k | — | 출시가 US$499(약 66만 원) |
| GeForce RTX 5060 | 겨우 가능 | 추정 3.9 tok/s3.1–4.6보정된 추정 ±20% | Q4_K_M | 8.0 / 8.0GB + RAM 10.6GB | 부분 오프로드 | 최대 64k | — | 2026-08-09 기준 실거래가 US$339(약 45만 원) |
| GeForce RTX 5060 Ti 8GB | 겨우 가능 | 추정 3.9 tok/s3.1–4.6보정된 추정 ±20% | Q4_K_M | 8.0 / 8.0GB + RAM 10.6GB | 부분 오프로드 | 최대 64k | — | 2026-08-09 기준 실거래가 US$429(약 57만 원) |
| GeForce RTX 4060 Ti 8GB | 겨우 가능 | 추정 3.7 tok/s2.9–4.4보정된 추정 ±20% | Q4_K_M | 8.0 / 8.0GB + RAM 10.6GB | 부분 오프로드 | 최대 64k | — | 출시가 US$399(약 53만 원) |
| GeForce RTX 4060 | 겨우 가능 | 추정 3.7 tok/s2.9–4.4보정된 추정 ±20% | Q4_K_M | 8.0 / 8.0GB + RAM 10.6GB | 부분 오프로드 | 최대 64k | — | 출시가 US$299(약 40만 원) |
| GeForce RTX 4060 Laptop | 겨우 가능 | 추정 3.6 tok/s2.9–4.4보정된 추정 ±20% | Q4_K_M | 8.0 / 8.0GB + RAM 10.6GB | 부분 오프로드 | 최대 64k | — | — |
| GeForce RTX 4070 Laptop | 겨우 가능 | 추정 3.6 tok/s2.9–4.4보정된 추정 ±20% | Q4_K_M | 8.0 / 8.0GB + RAM 10.6GB | 부분 오프로드 | 최대 64k | — | — |
| GeForce RTX 3050 8GB | 겨우 가능 | 추정 3.6 tok/s2.8–4.3보정된 추정 ±20% | Q4_K_M | 8.0 / 8.0GB + RAM 10.6GB | 부분 오프로드 | 최대 64k | — | 출시가 US$249(약 33만 원) |
| Apple M4 · 24GB | 겨우 가능 | 추정 3.4 tok/s2.4–4.5이론 추정 ±30% | Q4_K_M | RAM 17.4GB | CPU 전용 | 최대 128k | — | — |
| DDR5-5600 듀얼채널 CPU · 96GB | 불가Q2_K (품질 손실 큼): 겨우 가능 | 추정 4.0 tok/s3.2–4.8보정된 추정 ±20% | Q2_K | RAM 11.1GB | CPU 전용 | 최대 128k | — | — |
| DDR5-6000 듀얼채널 CPU · 96GB | 불가IQ4_XS: 겨우 가능 | 추정 3.1 tok/s2.5–3.7보정된 추정 ±20% | IQ4_XS | RAM 15.5GB | CPU 전용 | 최대 32k | — | — |
| DDR4-3200 듀얼채널 CPU · 64GB | 불가 | 추정 1.5 tok/s1.2–1.8보정된 추정 ±20% | Q4_K_M | RAM 17.4GB | CPU 전용 | — |
| — |
생각 모드가 있는 모델은 생각하는 데 토큰을 더 쓰기 때문에 속도 기준을 1.5배 엄격하게 잡습니다(30 / 12 / 3 tok/s). 생각 모드를 끄고 쓰면 실제로는 한 단계 위일 수 있습니다.
원화 금액은 미국 달러 가격을 2026-10-21 환율(1달러 1,326원)로 단순 환산한 참고값이라 국내 판매가와 다를 수 있습니다.
가장 싸게 돌릴 수 있는 GPU
- 쾌적GeForce RTX 30902026-08-09 기준 실거래가 US$1,050(약 139만 원), 속도 추정 37.6 tok/s (33.1–42.1, 보정된 추정 ±12%)
Muse Glimmer 30B 벤치마크 결과
이 모델로 잰 공개 벤치마크 결과는 아직 없습니다.
자주 묻는 질문
Muse Glimmer 30B 실행에 VRAM이 얼마나 필요한가요?
Q4_K_M 파일은 17.31GB입니다. 8k 컨텍스트로 그래픽카드에 올리면 약 17.2GB가 필요합니다(가중치 16.54GB, KV 캐시 0.1GB, 연산 버퍼 0.6GB). 가장 작은 파일(Q2_K (품질 손실 큼))은 약 11.3GB가 필요합니다. 파일 일부는 그래픽카드에 올라가지 않습니다. llama.cpp는 입력 임베딩 표를 시스템 RAM에 둡니다. 맥은 파일 전체로 계산해서 조금 더 필요합니다.
Muse Glimmer 30B, 원활하게 돌아가는 가장 싼 GPU는 무엇인가요?
쾌적하게 돌리는 가장 싼 GPU는 GeForce RTX 3090입니다. 실거래가는 2026-08-09 기준 US$1,050(약 139만 원)이고, 속도는 추정 37.6 tok/s (33.1–42.1, 보정된 추정 ±12%)입니다.
Muse Glimmer 30B, 8GB·16GB·24GB GPU에서 돌아가나요?
Q4_K_M·8k 컨텍스트 기준 카드별 판정입니다. GeForce RTX 4060: 겨우 가능, 추정 3.7 tok/s (2.9–4.4, 보정된 추정 ±20%); GeForce RTX 5060 Ti 16GB: 겨우 가능, 추정 9.5 tok/s (7.6–11.4, 보정된 추정 ±20%); GeForce RTX 3090: 쾌적, 추정 37.6 tok/s (33.1–42.1, 보정된 추정 ±12%).
속도는 메모리 대역폭으로 계산한 추정치를 공개 벤치마크로 보정한 값입니다. 모든 수치에는 오차 범위와 신뢰 라벨을 함께 표시합니다. 실제 속도는 드라이버, 백엔드, 컨텍스트 길이, 발열에 따라 달라집니다.