로컬 LLM 모델 전체 목록
GGUF 파일로 받을 수 있는 오픈 웨이트 모델 58종입니다. 크기는 1.08B부터 320B까지입니다. 모델을 고르면 양자화·컨텍스트별로 메모리가 얼마나 드는지 볼 수 있습니다. GPU·맥·PC 56종에서 어떻게 돌아가는지도 나옵니다.
전체 모델
필요 메모리 열은 모델 전체를 그래픽카드 하나에 올릴 때의 값입니다. 내 PC·맥·노트북에서 무엇이 돌아가는지는 계산기에서 볼 수 있습니다. 계산기로 내 PC 확인하기 · GPU·맥·PC 목록 보기
인기순은 CanRun이 모델마다 매긴 다섯 단계 점수 순서라서 다운로드 열과 다를 수 있습니다. 다운로드로만 보려면 ‘다운로드 많은 순’을 고르세요.
옆으로 밀면 모든 열을 볼 수 있습니다.
| 모델 | Hugging Face 조직 | 파라미터 | 필요 메모리(Q4_K_M·8k) | 공개일 | 생각 모드 | 라이선스 | 최대 컨텍스트 | 다운로드(30일) |
|---|---|---|---|---|---|---|---|---|
| Gemma 4 26B-A4B | 26.54B (MoE, 활성 4B) | 17.7GB | 2026-03-11 | 기본 꺼짐 | 오픈Apache-2.0 | 256k | 979만 | |
| Qwen3 14B | Qwen | 14.8B | 10.5GB | 2025-04-29 | 기본 켜짐 | 오픈Apache-2.0 | 32k | 903만 |
| Gemma 4 31B | 31.27B | 19.5GB | 2026-03-11 | 기본 꺼짐 | 오픈Apache-2.0 | 256k | 883만 | |
| Qwen3 8B | Qwen | 8.2B | 6.5GB | 2025-04-29 | 기본 켜짐 | 오픈Apache-2.0 | 32k | 858만 |
| Qwen3.5 4B | Qwen | 4.66B | 3.6GB | 2026-02-27 | 기본 켜짐 | 오픈Apache-2.0 | 256k | 779만 |
| Qwen3.8 27B | Qwen | 27.78B | 17.6GB | 2026-08-05 | 기본 켜짐 | 오픈Apache-2.0 | 256k | 773만 |
| Qwen3.5 9B | Qwen | 9.65B | 6.0GB | 2026-02-27 | 기본 켜짐 | 오픈Apache-2.0 | 256k | 705만 |
| GLM-5.3 Flash | Z.ai | 320B (MoE, 활성 18B) | 181.4GB | 2026-08-25 | 항상 켜짐 | 오픈MIT | 1M | 653만 |
| gpt-oss-20b | OpenAI | 20.9B (MoE, 활성 3.6B) | 12.3GB(MXFP4) | 2025-08-05 | 항상 켜짐 | 오픈Apache-2.0 | 128k | 589만 |
| Llama 3.1 8B | Meta Llama | 8.03B | 6.3GB | 2024-07-23 | — | 별도 약관Llama 3.1 | 128k | 526만 |
| Gemma 4 E4B | 8B | 3.7GB | 2026-03-02 | 기본 꺼짐 | 오픈Apache-2.0 | 128k | 408만 | |
| Qwen3.6 35B-A3B | Qwen | 35.95B (MoE, 활성 3B) | 21.8GB | 2026-04-15 | 기본 켜짐 | 오픈Apache-2.0 | 256k | 368만 |
| gpt-oss-120b | OpenAI | 116.8B (MoE, 활성 5.1B) | 63.6GB(MXFP4) | 2025-08-05 | 항상 켜짐 | 오픈Apache-2.0 | 128k | 307만 |
| Gemma 4 E2B | 5.12B | 2.1GB | 2026-03-02 | 기본 꺼짐 | 오픈Apache-2.0 | 128k | 285만 | |
| Qwen3.5 35B-A3B | Qwen | 35.95B (MoE, 활성 3B) | 22.3GB | 2026-02-24 | 기본 켜짐 | 오픈Apache-2.0 | 256k | 142만 |
| Qwen3 30B-A3B (2507) | Qwen | 30.5B (MoE, 활성 3.3B) | 19.8GB | 2025-07-31 | — | 오픈Apache-2.0 | 256k | 109만 |
| DeepSeek V4 Flash 0731 | DeepSeek | 284.33B (MoE, 활성 13.8B) | 155.1GB(MXFP4) | 2026-07-31 | 기본 켜짐 | 오픈MIT | 1M | 424만 |
| Qwen3 32B | Qwen | 32.8B | 22.0GB | 2025-04-29 | 기본 켜짐 | 오픈Apache-2.0 | 32k | 284만 |
| Qwen3.6 27B | Qwen | 27.78B | 17.2GB | 2026-04-21 | 기본 켜짐 | 오픈Apache-2.0 | 256k | 235만 |
| Qwen3.5 27B | Qwen | 27.78B | 17.2GB | 2026-02-24 | 기본 켜짐 | 오픈Apache-2.0 | 256k | 172만 |
| Gemma 4 12B | 11.96B | 7.8GB | 2026-05-23 | 기본 꺼짐 | 오픈Apache-2.0 | 256k | 171만 | |
| Llama 3.2 3B | Meta Llama | 3.21B | 3.5GB | 2024-09-25 | — | 별도 약관Llama 3.2 | 128k | 111만 |
| DeepSeek R1 0528 Qwen3 8B | DeepSeek | 8.19B | 6.5GB | 2025-05-29 | 항상 켜짐 | 오픈MIT | 128k | 40.5만 |
| Gemma 3 27B | 27.4B | 17.8GB | 2025-03-12 | — | 별도 약관Gemma | 128k | 37.1만 | |
| Phi-4 | Microsoft | 14.7B | 11.0GB | 2024-12-12 | — | 오픈MIT | 16k | 37만 |
| DeepSeek R1 Distill Qwen 32B | DeepSeek | 32.8B | 22.1GB | 2025-01-20 | 항상 켜짐 | 오픈MIT | 128k | 36만 |
| Gemma 3 12B | 12.2B | 8.4GB | 2025-03-12 | — | 별도 약관Gemma | 128k | 35.2만 | |
| Llama 3.3 70B | Meta Llama | 70.6B | 45.2GB | 2024-12-06 | — | 별도 약관Llama 3.3 | 128k | 22.7만 |
| Muse Glimmer 30B | Meta Inc. | 29.78B | 17.2GB | 2026-08-09 | 항상 켜짐 | 오픈Apache-2.0 | 128k | 21.6만 |
| Mistral Small 3.2 24B | Mistral AI | 23.6B | 15.9GB | 2025-06-20 | — | 오픈Apache-2.0 | 128k | 20만 |
| EXAONE 4.5 33B한국 모델 | LG AI Research | 34.35B | 20.4GB | 2026-04-04 | 기본 켜짐 | 비상업EXAONE AI Model License 1.2 NC | 256k | 4.1만 |
| Llama 3.2 1B | Meta Llama | 1.24B | 1.6GB | 2024-09-25 | — | 별도 약관Llama 3.2 | 128k | 463만 |
| MiniCPM5 2B | OpenBMB | 2.52B | 2.3GB | 2026-09-06 | 모델이 판단 | 오픈Apache-2.0 | 128k | 132만 |
| Qwen3.5 122B-A10B | Qwen | 125.09B (MoE, 활성 10B) | 76.6GB | 2026-02-24 | 기본 켜짐 | 오픈Apache-2.0 | 256k | 72.2만 |
| Nemotron 3.5 Lightning 30B-A3B | NVIDIA | 31.58B (MoE, 활성 3B) | 25.1GB | 2026-08-01 | 기본 켜짐 | 오픈OpenMDW-1.1 | 256k | 71.9만 |
| DeepSeek R1 Distill Qwen 14B | DeepSeek | 14.77B | 10.7GB | 2025-01-20 | 항상 켜짐 | 오픈MIT | 128k | 32만 |
| DeepSeek R1 Distill Llama 8B | DeepSeek | 8.03B | 6.3GB | 2025-01-20 | 항상 켜짐 | 오픈MIT | 128k | 12.5만 |
| EXAONE 4.0 32B한국 모델 | LG AI Research | 32B | 20.2GB | 2025-07-11 | 기본 꺼짐 | 비상업EXAONE AI Model License 1.2 NC | 128k | 2.36만 |
| HyperCLOVA X SEED Think 14B한국 모델 | HyperCLOVA X | 14.75B | 10.4GB | 2025-07-21 | 모델이 판단 | 별도 약관HyperCLOVA X SEED | 128k | 2.24만 |
| Solar Open 100B한국 모델 | Upstage | 102.65B (MoE, 활성 12B) | 64.0GB | 2025-12-10 | 기본 켜짐 | 별도 약관Upstage Solar License | 128k | 9,372 |
| Solar Open 2 250B한국 모델 | Upstage | 250.29B (MoE, 활성 15B) | 136.5GB(IQ4_XS) | 2026-07-22 | 기본 켜짐 | 별도 약관Upstage Solar License | 1M | 7,855 |
| Kanana 1.5 8B한국 모델 | Kakao Corp. | 8.03B | 6.3GB | 2025-05-21 | — | 오픈Apache-2.0 | 32k | 6,909 |
| HyperCLOVA X SEED 1.5B한국 모델 | HyperCLOVA X | 1.59B | 2.4GB | 2025-04-22 | — | 별도 약관HyperCLOVA X SEED | 16k | 1,176 |
| Laguna S 2.1 | Poolside | 117.56B (MoE, 활성 8B) | 68.5GB | 2026-07-13 | 기본 켜짐 | 오픈OpenMDW-1.1 | 1M | 38.6만 |
| MiniCPM5 1B | OpenBMB | 1.08B | 1.3GB | 2026-05-21 | 모델이 판단 | 오픈Apache-2.0 | 128k | 35.3만 |
| MiniCPM-V 4.7 35B-A3B | OpenBMB | 35.21B (MoE, 활성 3B) | 21.6GB | 2026-10-07 | 기본 켜짐 | 오픈Apache-2.0 | 256k | 12만 |
| Nanbeige4.2 3B | Nanbeige LLM Lab | 4.17B | 4.4GB | 2026-07-21 | 기본 켜짐 | 오픈Apache-2.0 | 256k | 12만 |
| LFM2.5 2.6B | Liquid AI | 2.7B | 2.4GB | 2026-07-28 | 항상 켜짐 | 별도 약관LFM Open License 1.0 | 128k | 10.2만 |
| K2-Horizon 7B | Institute of Foundation Models | 9B | 6.8GB | 2026-09-01 | 항상 켜짐 | 오픈Apache-2.0 | 512k | 8.68만 |
| Granite 4.2 30B | IBM Granite | 29.28B | 20.2GB | 2026-08-07 | 기본 켜짐 | 오픈Apache-2.0 | 128k | 3.95만 |
| Spark-X2.5 4B | SparkLLM | 4.11B | 3.5GB | 2026-08-24 | 기본 켜짐 | 오픈Apache-2.0 | 1M | 3.69만 |
| Kolibri 1 | Aleph Alpha | 78.1B (MoE, 활성 3.46B) | 50.2GB | 2026-10-02 | 기본 켜짐 | 오픈Apache-2.0 | 256k | 2.13만 |
| EXAONE 4.0 1.2B한국 모델 | LG AI Research | 1.28B | 1.9GB | 2025-07-11 | 기본 꺼짐 | 비상업EXAONE AI Model License 1.2 NC | 64k | 1.53만 |
| Mellum2.1 12B-A2.5B Thinking | JetBrains | 12.15B (MoE, 활성 2.5B) | 8.6GB | 2026-09-20 | 기본 켜짐 | 오픈Apache-2.0 | 128k | 4,901 |
| Kanana 1.5 15.7B-A3B한국 모델 | Kakao Corp. | 15.7B (MoE, 활성 3B) | 11.9GB | 2025-07-23 | — | 별도 약관Kanana License | 32k | 518 |
| K2-Horizon MoVA 36B-A4B | Institute of Foundation Models | 37.44B (MoE, 활성 4B) | 24.2GB | 2026-09-01 | 항상 켜짐 | 오픈Apache-2.0 | 512k | 1.12만 |
| Ling-3.0 Tiny | inclusionAI | 7.89B (MoE, 활성 1.3B) | 5.3GB | 2026-08-10 | 기본 켜짐 | 오픈MIT | 128k | 1.11만 |
| Ling-3.0 Flash | inclusionAI | 127.49B (MoE, 활성 5.1B) | 75.4GB | 2026-08-02 | 기본 켜짐 | 오픈MIT | 256k | 1.04만 |
목록 보는 법
- Hugging Face 조직: 원본 가중치를 올린 조직이고, 이름은 그 조직이 Hugging Face에 적은 그대로입니다. 회사 이름이 아니라 브랜드 이름인 곳도 있습니다.
- 파라미터: 전체 파라미터 수입니다. MoE(전문가 혼합) 모델은 활성 파라미터 수도 함께 적었습니다. 모델 전체가 메모리에 들어가야 하지만 토큰마다 활성 부분만 읽기 때문에, 전체 크기가 같은 dense 모델보다 대체로 빨리 생성합니다. 크기로 거를 때 MoE 모델은 전체 파라미터 수를 기준으로 합니다.
- 필요 메모리: Q4_K_M 파일로 컨텍스트 8k를 쓸 때 그래픽카드에 올라가는 메모리입니다. Q4_K_M이 없는 모델은 가장 가까운 양자화로 계산하고, 그 이름을 괄호에 적었습니다. 가중치·KV 캐시·연산 버퍼를 더한 값으로, 모델 페이지의 메모리 표와 같은 계산입니다. Windows에서 그래픽카드가 화면 출력도 맡는다면 0.6GB쯤 더 듭니다.
- 공개일: 원본 저장소가 Hugging Face에 만들어진 날입니다. 비공개로 먼저 만들어 둔 저장소는 실제 공개일보다 이를 수 있습니다.
- 생각 모드: 답하기 전에 추론 과정을 먼저 써 내려가는 기능입니다. 토큰을 더 쓰기 때문에 이런 모델은 판정의 속도 기준을 1.5배 엄격하게 잡습니다. ‘항상 켜짐’ 모델은 늘 생각하고, ‘기본 켜짐’·‘기본 꺼짐’ 모델은 켜고 끌 수 있습니다. ‘모델이 판단’ 모델은 생각할지 말지를 스스로 정합니다.
- 라이선스: ‘오픈’은 Apache-2.0·MIT 같은 허용형 라이선스입니다. ‘별도 약관’은 개발사가 따로 정한 라이선스라서 상업적으로 쓰기 전에 약관을 읽어 봐야 합니다. ‘비상업’ 라이선스는 상업적으로 쓸 수 없습니다.
- 다운로드: 원본 저장소의 최근 30일 Hugging Face 다운로드 수입니다(2026년 10월 21일 기준). GGUF 사본의 다운로드는 세지 않아서 실제로 쓰는 사람보다 적게 나올 수 있습니다.
- 인기순은 CanRun이 모델마다 매긴 다섯 단계 점수를 따릅니다. 다운로드 수와 국내에서 얼마나 쓰이는지를 함께 보고 매긴 점수입니다. 점수가 같으면 다운로드가 많은 모델이 앞에 옵니다.