Kolibri 1 필요 사양: VRAM과 돌아가는 GPU
Kolibri 1, 어떤 모델인가요
Kolibri 1은 Aleph Alpha가 2026년 10월에 공개한 MoE 추론 모델로, 처음부터 새로 학습했습니다. 전체 약 78B 가운데 토큰마다 3.46B만 계산에 쓰고, 텍스트만 입력받으며 컨텍스트는 262,144 토큰입니다. 공식 지원 언어는 독일어와 영어이고, 한국어는 목록에 없습니다. 생각 모드는 기본으로 켜져 있지만 enable_thinking을 false로 두면 끌 수 있고, 라이선스는 Apache 2.0입니다.
모델 정보
- 파라미터
- 총 78.1B · 활성 3.46B (MoE)
- 어텐션
- 슬라이딩 윈도 어텐션
- 최대 컨텍스트
- 262,144 토큰
- 공개일
- 2026-10-02
GGUF 파일
| 양자화 | 파일 크기 | 품질 | 배포처 |
|---|---|---|---|
| Q2_K | 29.92GB | 손실 큼 | 커뮤니티 GGUF · bartowski |
| IQ4_XS | 43.63GB | 균형 | 커뮤니티 GGUF · bartowski |
| Q4_K_M기준 | 49.76GB | 균형 | 커뮤니티 GGUF · bartowski |
| Q8_0 | 83.14GB | 준무손실 | 커뮤니티 GGUF · bartowski |
양자화·컨텍스트별 필요 메모리
| 양자화 | 4k | 8k | 16k | 32k | 64k | 128k | 256k |
|---|---|---|---|---|---|---|---|
| Q2_K | 30.2 | 30.3 | 30.5 | 31.0 | 32.0 | 33.9 | 37.8 |
| IQ4_XS | 43.9 | 44.0 | 44.3 | 44.8 | 45.7 | 47.7 | 51.5 |
| Q4_K_M | 50.0 | 50.2 | 50.4 | 50.9 | 51.9 | 53.8 | 57.7 |
| Q8_0 | 83.4 | 83.5 | 83.8 | 84.3 | 85.2 | 87.2 | 91.1 |
Kolibri 1, 어떤 GPU에서 돌아갈까?
판정 읽는 법
- 쾌적
- GPU에 전부 올라가고 20 tok/s 이상
- 원활
- GPU에 전부 올라가고 8~20 tok/s, MoE 전문가를 시스템 RAM에 두고 20 tok/s 이상, 또는 GPU에 90% 이상 올라가고 8 tok/s 이상
- 겨우 가능
- 2~8 tok/s, CPU 전용, GPU에 90% 미만, 또는 MoE 전문가를 RAM에 두고 20 tok/s 미만
- 불가
- 메모리에 안 들어가거나 2 tok/s 미만
옆으로 밀면 모든 열을 볼 수 있습니다.
| 하드웨어 | 판정 | 속도 | 양자화 | 메모리 | 실행 방식 | 컨텍스트 | 참고 | 가격 |
|---|---|---|---|---|---|---|---|---|
| Apple M5 Ultra · 96GB | 쾌적 | 추정 108.1 tok/s86.5–129.8보정된 추정 ±20% | Q4_K_M | 50.5 / 67.2GB | 통합 메모리 | 최대 256k | — | — |
| Apple M5 Max (40-core GPU) · 128GB | 쾌적 | 추정 96.4 tok/s77.1–115.7보정된 추정 ±20% | Q4_K_M | 50.5 / 89.6GB | 통합 메모리 | 최대 256k | — | — |
| Apple M4 Max (40-core GPU) · 128GB | 쾌적 | 추정 88.5 tok/s70.8–106.2보정된 추정 ±20% | Q4_K_M | 50.5 / 89.6GB | 통합 메모리 | 최대 256k | — | — |
| Apple M3 Ultra · 96GB | 쾌적 | 추정 85.3 tok/s68.2–102.4보정된 추정 ±20% | Q4_K_M | 50.5 / 67.2GB | 통합 메모리 | 최대 256k | — | — |
| Apple M2 Ultra · 128GB | 쾌적 | 추정 84.0 tok/s67.2–100.8보정된 추정 ±20% | Q4_K_M | 50.5 / 89.6GB | 통합 메모리 | 최대 256k | — | — |
| NVIDIA DGX Spark · 128GB | 쾌적 | 추정 52.2 tok/s41.7–62.6보정된 추정 ±20% | Q4_K_M | 50.5 / 116.9GB | 통합 메모리 | 최대 128k | — | 128GB 구성 출시가 US$3,999(약 530만 원) |
| Ryzen AI Max+ 395 (Strix Halo) · 128GB | 쾌적 | 추정 48.0 tok/s38.4–57.6보정된 추정 ±20% | Q4_K_M | 50.5 / 89.6GB | 통합 메모리 | 최대 128k | — | 128GB 구성 출시가 US$1,999(약 265만 원) |
| GeForce RTX 5090 | 원활 | 추정 83.3 tok/s58.3–108.3이론 추정 ±30% | Q4_K_M | 30.1 / 32.0GB + RAM 21.0GB | MoE 전문가 RAM 배치 | 최대 128k |
| 2026-08-09 기준 실거래가 US$4,200(약 557만 원) |
| Apple M5 Pro · 64GB | 겨우 가능 | 추정 55.6 tok/s39.0–72.3이론 추정 ±30% | Q4_K_M | RAM 49.9GB | CPU 전용 | 최대 256k |
| — |
| Apple M4 Pro · 64GB | 겨우 가능 | 추정 49.5 tok/s34.6–64.3이론 추정 ±30% | Q4_K_M | RAM 49.9GB | CPU 전용 | 최대 256k |
| — |
| DDR5-6000 듀얼채널 CPU · 64GB | 겨우 가능 | 추정 17.4 tok/s13.9–20.9보정된 추정 ±20% | Q4_K_M | RAM 49.9GB | CPU 전용 | 최대 256k |
| — |
| DDR5-5600 듀얼채널 CPU · 64GB | 겨우 가능 | 추정 16.2 tok/s13.0–19.5보정된 추정 ±20% | Q4_K_M | RAM 49.9GB | CPU 전용 | 최대 256k |
| — |
| DDR4-3200 듀얼채널 CPU · 64GB | 겨우 가능 | 추정 9.3 tok/s7.4–11.1보정된 추정 ±20% | Q4_K_M | RAM 49.9GB | CPU 전용 | 최대 128k | — | — |
| Apple M5 Max (32-core GPU) · 36GB | 불가Q2_K (품질 손실 큼): 겨우 가능 | 추정 92.9 tok/s65.0–120.7이론 추정 ±30% | Q2_K | RAM 30.1GB | CPU 전용 | 최대 64k |
| — |
| GeForce RTX 5080 | 불가Q2_K (품질 손실 큼): 원활 | 추정 86.5 tok/s60.6–112.5이론 추정 ±30% | Q2_K | 15.0 / 16.0GB + RAM 16.3GB | MoE 전문가 RAM 배치 | 최대 256k |
| 2026-08-09 기준 실거래가 US$1,256(약 166만 원) |
| Apple M4 Max (32-core GPU) · 36GB | 불가Q2_K (품질 손실 큼): 겨우 가능 | 추정 85.3 tok/s59.7–110.9이론 추정 ±30% | Q2_K | RAM 30.1GB | CPU 전용 | 최대 64k |
| — |
| GeForce RTX 5070 Ti | 불가Q2_K (품질 손실 큼): 원활 | 추정 84.6 tok/s59.2–110.0이론 추정 ±30% | Q2_K | 15.0 / 16.0GB + RAM 16.3GB | MoE 전문가 RAM 배치 | 최대 256k |
| 2026-08-09 기준 실거래가 US$949(약 126만 원) |
| GeForce RTX 5080 Laptop | 불가Q2_K (품질 손실 큼): 원활 | 추정 84.6 tok/s59.2–110.0이론 추정 ±30% | Q2_K | 15.0 / 16.0GB + RAM 16.3GB | MoE 전문가 RAM 배치 | 최대 256k |
| — |
| GeForce RTX 4080 Super | 불가Q2_K (품질 손실 큼): 원활 | 추정 78.8 tok/s55.2–102.5이론 추정 ±30% | Q2_K | 15.0 / 16.0GB + RAM 16.3GB | MoE 전문가 RAM 배치 | 최대 256k |
| 출시가 US$999(약 132만 원) |
| GeForce RTX 4080 | 불가Q2_K (품질 손실 큼): 원활 | 추정 78.0 tok/s54.6–101.5이론 추정 ±30% | Q2_K | 15.0 / 16.0GB + RAM 16.3GB | MoE 전문가 RAM 배치 | 최대 256k |
| 출시가 US$1,199(약 159만 원) |
| GeForce RTX 3080 12GB | 불가Q2_K (품질 손실 큼): 원활 | 추정 76.9 tok/s53.9–100.0이론 추정 ±30% | Q2_K | 11.2 / 12.0GB + RAM 20.1GB | MoE 전문가 RAM 배치 | 최대 256k |
| 출시가 US$799(약 106만 원) |
| GeForce RTX 4070 Ti Super | 불가Q2_K (품질 손실 큼): 원활 | 추정 76.1 tok/s53.3–98.9이론 추정 ±30% | Q2_K | 15.0 / 16.0GB + RAM 16.3GB | MoE 전문가 RAM 배치 | 최대 256k |
| 출시가 US$799(약 106만 원) |
| GeForce RTX 4090 Laptop | 불가Q2_K (품질 손실 큼): 원활 | 추정 71.3 tok/s49.9–92.7이론 추정 ±30% | Q2_K | 15.0 / 16.0GB + RAM 16.3GB | MoE 전문가 RAM 배치 | 최대 256k |
| — |
| GeForce RTX 3090 Ti | 불가IQ4_XS: 원활 | 추정 70.1 tok/s49.0–91.1이론 추정 ±30% | IQ4_XS | 22.6 / 24.0GB + RAM 22.3GB | MoE 전문가 RAM 배치 | 최대 128k |
| 출시가 US$1,999(약 265만 원) |
| GeForce RTX 4090 | 불가IQ4_XS: 원활 | 추정 70.1 tok/s49.0–91.1이론 추정 ±30% | IQ4_XS | 22.6 / 24.0GB + RAM 22.3GB | MoE 전문가 RAM 배치 | 최대 128k |
| 2026-08-09 기준 실거래가 US$2,755(약 365만 원) |
| GeForce RTX 5070 | 불가Q2_K (품질 손실 큼): 원활 | 추정 69.7 tok/s48.8–90.6이론 추정 ±30% | Q2_K | 11.2 / 12.0GB + RAM 20.1GB | MoE 전문가 RAM 배치 | 최대 256k |
| 2026-08-09 기준 실거래가 US$629(약 83만 원) |
| GeForce RTX 5070 Ti Laptop | 불가Q2_K (품질 손실 큼): 원활 | 추정 69.7 tok/s48.8–90.6이론 추정 ±30% | Q2_K | 11.2 / 12.0GB + RAM 20.1GB | MoE 전문가 RAM 배치 | 최대 256k |
| — |
| GeForce RTX 3080 10GB | 불가Q2_K (품질 손실 큼): 원활 | 추정 69.2 tok/s48.4–89.9이론 추정 ±30% | Q2_K | 9.0 / 10.0GB + RAM 22.3GB | MoE 전문가 RAM 배치 | 최대 128k |
| 출시가 US$699(약 93만 원) |
| GeForce RTX 3090 | 불가IQ4_XS: 원활 | 추정 68.5 tok/s47.9–89.0이론 추정 ±30% | IQ4_XS | 22.6 / 24.0GB + RAM 22.3GB | MoE 전문가 RAM 배치 | 최대 128k |
| 2026-08-09 기준 실거래가 US$1,050(약 139만 원) |
| GeForce RTX 5090 Laptop | 불가IQ4_XS: 원활 | 추정 67.5 tok/s47.3–87.8이론 추정 ±30% | IQ4_XS | 22.6 / 24.0GB + RAM 22.3GB | MoE 전문가 RAM 배치 | 최대 128k |
| — |
| GeForce RTX 2080 Ti | 불가Q2_K (품질 손실 큼): 원활 | 추정 65.9 tok/s46.1–85.7이론 추정 ±30% | Q2_K | 10.1 / 11.0GB + RAM 21.2GB | MoE 전문가 RAM 배치 | 최대 128k |
| 출시가 US$999(약 132만 원) |
| Radeon RX 9070 | 불가Q2_K (품질 손실 큼): 원활 | 추정 65.5 tok/s45.8–85.1이론 추정 ±30% | Q2_K | 15.0 / 16.0GB + RAM 16.3GB | MoE 전문가 RAM 배치 | 최대 256k |
| 2026-08-09 기준 실거래가 US$639(약 85만 원) |
| Radeon RX 9070 XT | 불가Q2_K (품질 손실 큼): 원활 | 추정 65.5 tok/s45.8–85.1이론 추정 ±30% | Q2_K | 15.0 / 16.0GB + RAM 16.3GB | MoE 전문가 RAM 배치 | 최대 256k |
| 2026-08-09 기준 실거래가 US$689(약 91만 원) |
| Radeon RX 7800 XT | 불가Q2_K (품질 손실 큼): 원활 | 추정 64.8 tok/s45.3–84.2이론 추정 ±30% | Q2_K | 15.0 / 16.0GB + RAM 16.3GB | MoE 전문가 RAM 배치 | 최대 256k |
| 출시가 US$499(약 66만 원) |
| GeForce RTX 5060 Ti 16GB | 불가Q2_K (품질 손실 큼): 원활 | 추정 63.3 tok/s44.3–82.3이론 추정 ±30% | Q2_K | 15.0 / 16.0GB + RAM 16.3GB | MoE 전문가 RAM 배치 | 최대 128k |
| 2026-08-09 기준 실거래가 US$569(약 75만 원) |
| GeForce RTX 4070 | 불가Q2_K (품질 손실 큼): 원활 | 추정 62.2 tok/s43.5–80.9이론 추정 ±30% | Q2_K | 11.2 / 12.0GB + RAM 20.1GB | MoE 전문가 RAM 배치 | 최대 256k |
| 출시가 US$599(약 79만 원) |
| GeForce RTX 4070 Super | 불가Q2_K (품질 손실 큼): 원활 | 추정 62.2 tok/s43.5–80.9이론 추정 ±30% | Q2_K | 11.2 / 12.0GB + RAM 20.1GB | MoE 전문가 RAM 배치 | 최대 256k |
| 출시가 US$599(약 79만 원) |
| Radeon RX 7900 XTX | 불가IQ4_XS: 원활 | 추정 60.7 tok/s42.5–78.9이론 추정 ±30% | IQ4_XS | 22.6 / 24.0GB + RAM 22.3GB | MoE 전문가 RAM 배치 | 최대 128k |
| 출시가 US$999(약 132만 원) |
| GeForce GTX 1080 Ti | 불가Q2_K (품질 손실 큼): 원활 | 추정 59.9 tok/s41.9–77.9이론 추정 ±30% | Q2_K | 10.1 / 11.0GB + RAM 21.2GB | MoE 전문가 RAM 배치 | 최대 128k |
| 출시가 US$699(약 93만 원) |
| GeForce RTX 4080 Laptop | 불가Q2_K (품질 손실 큼): 원활 | 추정 58.1 tok/s40.6–75.5이론 추정 ±30% | Q2_K | 11.2 / 12.0GB + RAM 20.1GB | MoE 전문가 RAM 배치 | 최대 128k |
| — |
| GeForce RTX 3070 | 불가Q2_K (품질 손실 큼): 원활 | 추정 55.3 tok/s38.7–71.9이론 추정 ±30% | Q2_K | 7.3 / 8.0GB + RAM 23.9GB | MoE 전문가 RAM 배치 | 최대 128k |
| 출시가 US$499(약 66만 원) |
| GeForce RTX 5060 | 불가Q2_K (품질 손실 큼): 원활 | 추정 55.3 tok/s38.7–71.9이론 추정 ±30% | Q2_K | 7.3 / 8.0GB + RAM 23.9GB | MoE 전문가 RAM 배치 | 최대 128k |
| 2026-08-09 기준 실거래가 US$339(약 45만 원) |
| GeForce RTX 5060 Ti 8GB | 불가Q2_K (품질 손실 큼): 원활 | 추정 55.3 tok/s38.7–71.9이론 추정 ±30% | Q2_K | 7.3 / 8.0GB + RAM 23.9GB | MoE 전문가 RAM 배치 | 최대 128k |
| 2026-08-09 기준 실거래가 US$429(약 57만 원) |
| Radeon RX 7900 XT | 불가IQ4_XS: 원활 | 추정 53.7 tok/s37.6–69.8이론 추정 ±30% | IQ4_XS | 18.6 / 20.0GB + RAM 26.4GB | MoE 전문가 RAM 배치 | 최대 32k |
| 출시가 US$899(약 119만 원) |
| GeForce RTX 3060 12GB | 불가Q2_K (품질 손실 큼): 원활 | 추정 53.1 tok/s37.2–69.0이론 추정 ±30% | Q2_K | 11.2 / 12.0GB + RAM 20.1GB | MoE 전문가 RAM 배치 | 최대 128k |
| 2026-08-09 기준 실거래가 US$250(약 33만 원) |
| GeForce RTX 4060 Ti 16GB | 불가Q2_K (품질 손실 큼): 원활 | 추정 49.5 tok/s34.7–64.4이론 추정 ±30% | Q2_K | 15.0 / 16.0GB + RAM 16.3GB | MoE 전문가 RAM 배치 | 최대 64k |
| 출시가 US$499(약 66만 원) |
| Radeon RX 9060 XT 16GB | 불가Q2_K (품질 손실 큼): 원활 | 추정 49.1 tok/s34.4–63.8이론 추정 ±30% | Q2_K | 15.0 / 16.0GB + RAM 16.3GB | MoE 전문가 RAM 배치 | 최대 128k |
| 2026-08-09 기준 실거래가 US$449(약 60만 원) |
| Intel Arc B580 | 불가Q2_K (품질 손실 큼): 원활 | 추정 48.6 tok/s34.0–63.2이론 추정 ±30% | Q2_K | 11.2 / 12.0GB + RAM 20.1GB | MoE 전문가 RAM 배치 | 최대 128k |
| 2026-08-09 기준 실거래가 US$290(약 38만 원) |
| GeForce RTX 4060 Ti 8GB | 불가Q2_K (품질 손실 큼): 원활 | 추정 44.9 tok/s31.4–58.4이론 추정 ±30% | Q2_K | 7.3 / 8.0GB + RAM 23.9GB | MoE 전문가 RAM 배치 | 최대 64k |
| 출시가 US$399(약 53만 원) |
| GeForce RTX 4060 | 불가Q2_K (품질 손실 큼): 원활 | 추정 43.5 tok/s30.5–56.6이론 추정 ±30% | Q2_K | 7.3 / 8.0GB + RAM 23.9GB | MoE 전문가 RAM 배치 | 최대 64k |
| 출시가 US$299(약 40만 원) |
| GeForce RTX 4060 Laptop | 불가Q2_K (품질 손실 큼): 원활 | 추정 42.1 tok/s29.5–54.7이론 추정 ±30% | Q2_K | 7.3 / 8.0GB + RAM 23.9GB | MoE 전문가 RAM 배치 | 최대 64k |
| — |
| GeForce RTX 4070 Laptop | 불가Q2_K (품질 손실 큼): 원활 | 추정 42.1 tok/s29.5–54.7이론 추정 ±30% | Q2_K | 7.3 / 8.0GB + RAM 23.9GB | MoE 전문가 RAM 배치 | 최대 64k |
| — |
| GeForce RTX 3050 8GB | 불가Q2_K (품질 손실 큼): 원활 | 추정 39.0 tok/s27.3–50.7이론 추정 ±30% | Q2_K | 7.3 / 8.0GB + RAM 23.9GB | MoE 전문가 RAM 배치 | 최대 32k |
| 출시가 US$249(약 33만 원) |
| Apple M4 · 32GB | 불가 | — | Q4_K_M | 50.5GB 필요 | — | — |
| — |
| Apple M5 · 32GB | 불가 | — | Q4_K_M | 50.5GB 필요 | — | — |
| — |
| Apple M6 · 32GB | 불가 | — | Q4_K_M | 50.5GB 필요 | — | — |
| — |
생각 모드가 있는 모델은 생각하는 데 토큰을 더 쓰기 때문에 속도 기준을 1.5배 엄격하게 잡습니다(30 / 12 / 3 tok/s). 생각 모드를 끄고 쓰면 실제로는 한 단계 위일 수 있습니다.
원화 금액은 미국 달러 가격을 2026-10-21 환율(1달러 1,326원)로 단순 환산한 참고값이라 국내 판매가와 다를 수 있습니다.
가장 싸게 돌릴 수 있는 GPU
- 원활GeForce RTX 50902026-08-09 기준 실거래가 US$4,200(약 557만 원), 속도 추정 83.3 tok/s (58.3–108.3, 이론 추정 ±30%)
Kolibri 1 벤치마크 결과
이 모델로 잰 공개 벤치마크 결과는 아직 없습니다.
자주 묻는 질문
Kolibri 1 실행에 VRAM이 얼마나 필요한가요?
Q4_K_M 파일은 49.76GB입니다. 8k 컨텍스트로 그래픽카드에 올리면 약 50.2GB가 필요합니다(가중치 49.41GB, KV 캐시 0.2GB, 연산 버퍼 0.6GB). 가장 작은 파일(Q2_K (품질 손실 큼))은 약 30.3GB가 필요합니다. 파일 일부는 그래픽카드에 올라가지 않습니다. llama.cpp는 입력 임베딩 표를 시스템 RAM에 둡니다. 맥은 파일 전체로 계산해서 조금 더 필요합니다.
Kolibri 1, 원활하게 돌아가는 가장 싼 GPU는 무엇인가요?
실거래가가 확인된 GPU 가운데 쾌적하게 돌리는 GPU는 없습니다. 원활하게 돌리는 가장 싼 GPU는 GeForce RTX 5090이고, 실거래가는 2026-08-09 기준 US$4,200(약 557만 원), 속도는 추정 83.3 tok/s (58.3–108.3, 이론 추정 ±30%)입니다.
Kolibri 1, 8GB·16GB·24GB GPU에서 돌아가나요?
Q4_K_M·8k 컨텍스트 기준 카드별 판정입니다. GeForce RTX 4060: 불가; GeForce RTX 5060 Ti 16GB: 불가; GeForce RTX 3090: 불가.
속도는 메모리 대역폭으로 계산한 추정치를 공개 벤치마크로 보정한 값입니다. 모든 수치에는 오차 범위와 신뢰 라벨을 함께 표시합니다. 실제 속도는 드라이버, 백엔드, 컨텍스트 길이, 발열에 따라 달라집니다.