올라마(Ollama)·LM Studio 사양 — 최소·권장 사양과 VRAM별 추천 모델

Ollama와 LM Studio는 지원하는 OS면 설치되고, x64 PC의 LM Studio는 AVX2 CPU도 필요합니다. 필요한 RAM·VRAM은 올리는 모델이 정합니다. 8GB인 RTX 4060에서는 Qwen3 8B가 GPU에 전부 올라가 쾌적하게 돌아갑니다. 16GB인 RTX 5060 Ti에서는 gpt-oss-20b가 쾌적하게 돌아가고, 공개 벤치마크로 잰 속도도 있습니다. 24GB인 RTX 3090에는 MoE 모델인 Qwen3.6 35B-A3B도 GPU에 전부 올라갑니다.

Ollama·LM Studio 설치 조건 — OS·CPU·GPU

Ollama

Ollama의 Windows 요구 사항은 Windows 10 22H2 이상(Home·Pro), NVIDIA 그래픽카드는 드라이버 551.61 이상 (Ollama 문서, 2026-10-19 확인)입니다. 관리자 권한 없이 홈 폴더에 설치되고, 모델 파일은 크기만큼 디스크를 따로 차지합니다. 모델 폴더는 ‘계정의 환경 변수 편집’에서 OLLAMA_MODELS로 옮깁니다.

하드웨어 지원 문서는 Compute Capability 5.0 이상인 NVIDIA GPU와 드라이버 550 이상, Compute Capability 5.0–6.2 카드는 드라이버 570 이상 (Ollama 문서, 2026-10-19 확인)을 요구합니다. 두 문서의 NVIDIA 드라이버 하한은 서로 다릅니다. nvidia-smi로 본 버전이 어느 한쪽보다 낮으면 업데이트합니다. RTX 4060·3060·5060 Ti·3090·5090은 모두 이 문서의 Compute Capability 표에 있습니다.

맥에서 Ollama를 쓰는 조건은 macOS Sonoma(14) 이상, Apple M 시리즈 칩(CPU·GPU 사용) 또는 CPU만 쓰는 Intel 맥 (Ollama 문서, 2026-10-19 확인)입니다. Ollama 요구 사항 어디에도 RAM·VRAM 최소치는 없습니다. 빠른 시작 문서의 메모리 권장은 예제 모델 Gemma 4 E2B 기준입니다. VRAM이 모자라면 시스템 RAM을 쓰지만 답이 느려질 수 있다고도 적혀 있습니다. CanRun 계산으로는 E2B Q4_K_M이 메모리 16GB인 M4 맥에도 전부 들어갑니다.

LM Studio

LM Studio의 Windows PC 조건은 AVX2를 지원하는 CPU(x64 PC), 권장 RAM 16GB 이상·전용 VRAM 4GB 이상 (LM Studio 문서, 2026-10-19 확인)입니다. x64 PC에서 AVX2는 필수이고, RAM·VRAM 수치는 최소가 아니라 권장값입니다. 맥용 조건은 Apple Silicon(M1–M4) 맥(Intel 맥은 지원하지 않음)과 macOS 14.0 이상, 권장 RAM 16GB 이상 (LM Studio 문서, 2026-10-19 확인)입니다. Intel 맥에서 Ollama는 CPU만으로 돌아가지만, LM Studio는 지원하지 않습니다.

AMD·인텔 그래픽카드와 리눅스

Ollama는 지원하는 라데온 카드를 ROCm으로 돌립니다. 하드웨어 지원 문서의 지원 카드 목록은 Windows용이 리눅스용보다 짧습니다. 그 밖의 GPU는 AMD·인텔을 포함해 기본으로 켜진 Vulkan으로 돌아갑니다. Windows 드라이버에는 대개 Vulkan이 들어 있습니다. RX 6000 시리즈(RDNA2) 일부는 지금 Windows 드라이버로 ROCm을 못 쓸 수 있습니다. 문서는 이때 Vulkan을 쓰라고 안내합니다.

LM Studio에는 CUDA·Vulkan·ROCm·CPU용 llama.cpp 런타임이 따로 있습니다. Ctrl+Shift+R로 여는 런타임 화면에서 고릅니다. 리눅스용 Ollama는 설치 스크립트를 제공하고, CUDA·ROCm 드라이버는 필요하면 따로 설치합니다. LM Studio는 x64·ARM64용 AppImage로 나옵니다. 라데온·인텔 카드는 ‘라데온·인텔 Arc로 로컬 LLM 돌리기 — ROCm·Vulkan과 돌아가는 모델’ 가이드에서 다룹니다.

최소·권장 사양은 모델 크기가 정한다

필요한 메모리는 앱이 아니라 모델과 양자화, 컨텍스트 길이가 정합니다. 아래 표에서 가장 작은 Qwen3 8B도 8k에서 6.5GB가 필요해, LM Studio의 VRAM 권장값보다 큽니다. Qwen3.6 35B-A3B는 21.8GB가 필요합니다.

표의 Q4_K_M은 흔히 받는 4비트 기본 양자화이고, MXFP4는 gpt-oss 고유의 4비트 형식입니다. KV 캐시는 대화를 담는 메모리입니다. MoE(전문가 혼합) 모델은 토큰마다 전문가 몇 개만 읽어서, 안 들어가는 전문가를 시스템 RAM에 둘 수 있습니다.

최소 사양은 사용 가능 메모리가 8k 합계보다 큰 가장 작은 카드입니다. 화면 출력을 맡은 카드는 OS가 VRAM 일부를 써서, RTX 4060의 사용 가능 메모리는 7.4GB입니다.

• Qwen3 8B는 8GB 카드에 전부 들어갑니다.
• Gemma 4 12B는 8GB 카드에서 일부가 RAM으로 가고, 12GB 카드에는 전부 올라갑니다.
• Qwen3 14B는 12GB 카드에 아슬아슬하게 들어갑니다. ollama ps로 확인합니다.
• gpt-oss-20b는 12GB 카드에서 전문가 일부가 RAM으로 가고, 16GB 카드에는 전부 올라갑니다.
• Gemma 4 26B-A4B와 Qwen3.6 35B-A3B는 16GB 카드에서 전문가 일부를 RAM에 둡니다. 24GB 카드에는 둘 다 전부 올라갑니다.

권장 사양은 여기에 원하는 컨텍스트만큼 여유를 더한 것입니다. KV 캐시가 컨텍스트 길이에 따라 커지기 때문입니다. 용량별 내용은 ‘로컬 LLM 사양 — VRAM 8~32GB로 돌릴 수 있는 모델 (2026)’ 가이드에 있습니다.

시스템 RAM도 따져야 합니다. GPU에 못 올린 층과 전문가가 여기에 놓이기 때문입니다. CanRun 계산으로는 8GB 카드에서 Qwen3.6 35B-A3B를 돌릴 때, 시스템 RAM이 16GB면 올릴 수 없습니다. 32GB면 전문가 일부를 RAM에 두고 올라갑니다.

VRAM별로 받을 만한 모델 — 8GB부터 32GB까지

아래 요약표는 카드마다 카탈로그 전체 모델을 판정별로 센 결과입니다. 조건은 8k 컨텍스트, f16 KV 캐시, 시스템 RAM 32GB(DDR5)입니다.

다음 표는 이 글의 여섯 모델을 같은 조건으로 계산한 결과입니다. Qwen3 14B와 gpt-oss-20b 칸은 조합 페이지로 이어집니다. 범례대로, 전문가를 RAM에 둔 MoE 모델은 속도가 빨라도 ‘원활’ 단계까지만 나옵니다. ‘쾌적’은 모델 전체가 GPU에 올라가야 나옵니다.

8GB: 8B급 모델, 그리고 RAM을 함께 쓰는 MoE 모델

RTX 4060에서 qwen3:8b는 쾌적하게 돌아갑니다. 8k에서는 아슬아슬하게 들어가니 ollama ps로 확인합니다. 다만 이 카드에서 Ollama는 4k로 시작합니다. gemma4:12b는 일부가 RAM으로 가지만 원활하게 돌아갑니다. GPU에 다 올라가는 IQ4_XS는 LM Studio 절에서 다룹니다.

qwen3:14b는 같은 카드에서 느리게 돌아갑니다. dense 모델은 토큰마다 가중치 전체를 읽어서, RAM에 둔 부분이 속도를 끌어내립니다.

RTX 4060에서 gpt-oss-20b, Gemma 4 26B-A4B, Qwen3.6 35B-A3B는 원활하게 돌아갑니다. 셋 다 MoE 모델이라 전문가 일부를 RAM에 두며, 속도는 이론 추정(±30%)입니다. Qwen3.6 35B-A3B는 시스템 RAM이 32GB는 있어야 합니다.

12GB: Gemma 4 12B와 Qwen3 14B를 GPU에

RTX 3060 12GB에서 gemma4:12b는 쾌적하게 돌아갑니다. qwen3:14b는 GPU에 아슬아슬하게 들어가 원활하게 돌아갑니다. ollama ps로 확인합니다. gpt-oss-20b는 전문가 일부를 RAM에 두고 원활하게 돌아갑니다. 이 속도는 이론 추정입니다.

16GB: gpt-oss-20b를 GPU에만

RTX 5060 Ti 16GB에서 qwen3:14b는 쾌적하게 돌아갑니다. gpt-oss:20b도 쾌적하게 돌아갑니다. 아래 속도는 Ollama가 아닌 llama.cpp의 llama-bench로 잰 공개 벤치마크입니다.

gemma4:26b는 전문가 일부를 RAM에 두고 원활하게 돌아가며, 이 속도는 이론 추정입니다. 더 작은 IQ4_XS 파일은 1GB 안팎의 여유를 두고 GPU에 전부 올라가 쾌적하게 돌아갑니다.

ollama run hf.co/unsloth/gemma-4-26B-A4B-it-GGUF:UD-IQ4_XS

qwen3.6:35b도 원활하게 돌아가지만, 이 속도도 이론 추정입니다. IQ4_XS로 줄여도 전문가 일부는 RAM에 남습니다.

24GB·32GB: 표의 모델 전부를 GPU에

RTX 3090에서는 Qwen3 8B, Gemma 4 12B, Qwen3 14B가 쾌적하게 돌아갑니다. gpt-oss-20b, Gemma 4 26B-A4B, Qwen3.6 35B-A3B도 마찬가지입니다. RTX 5090에서도 여섯 모델 모두 쾌적하게 돌아갑니다. 이 용량이면 gemma4:26b나 qwen3.6:35b를 받아 볼 만합니다.

32GB가 더해 주는 것은 컨텍스트 여유입니다. CanRun 계산으로는 RTX 5090에서 Qwen3.6 35B-A3B가 128k에서도 GPU에 전부 올라갑니다. f16 KV 캐시 기준이고, 컨텍스트별 필요 메모리는 Qwen3.6 35B-A3B 페이지에 있습니다.

Ollama 태그와 기본 컨텍스트

Ollama는 감지한 GPU 메모리가 24GiB 미만이면 4k, 24~48GiB면 32k, 48GiB 이상이면 256k 토큰을 기본 컨텍스트 길이로 씁니다 (Ollama 문서, 2026-09-29 확인). Ollama 코드는 문서보다 조금 낮게 구간을 나눠서, RTX 3090 같은 24GB 카드도 32k로 시작합니다. 32GB인 RTX 5090도 32k이고, 8GB·12GB·16GB 카드는 4k입니다.

RTX 4060에서 Qwen3 8B는 4k면 GPU에 전부 올라갑니다. Gemma 4 12B는 4k에서도 일부가 RAM으로 갑니다. Qwen3 8B를 16k로 늘리면 f16 KV 캐시에서는 가중치 일부가 RAM으로 갑니다. q8_0 KV 캐시면 GPU에 남습니다. Ollama는 서버를 띄울 때 OLLAMA_KV_CACHE_TYPE(f16·q8_0·q4_0)을 지정하고 플래시 어텐션을 켜야만 KV 캐시를 양자화합니다. 이 설정은 그 서버가 돌리는 모든 모델에 적용됩니다 (Ollama 문서, 2026-09-29 확인). 설정 방법은 ‘올라마(Ollama)가 느리거나 앞 내용을 잊을 때 — 컨텍스트 기본값’ 가이드에 있습니다.

RTX 3090에서 Qwen3.6 35B-A3B는 기본값 32k에서도 GPU에 아슬아슬하게 들어갑니다. qwen3.6:35b 태그에는 CanRun이 세지 않는 비전 프로젝터도 있으니 ollama ps로 확인합니다. 64k에서는 f16 KV 캐시면 전문가 일부가 RAM으로 가고, q8_0이면 GPU에 남습니다. 길이별 결과는 아래 표에 있습니다.

Windows 11과 RTX 3090에서 gemma4:26b를 32k로 돌린 Ollama 사용자의 공개 보고도 있습니다. 플래시 어텐션을 껐고, ollama ps에는 100% GPU가 나왔습니다. Gemma 4 26B-A4B는 이 카드에서 쾌적하게 돌아갑니다. 그때 쓴 빌드는 지금 gemma4:26b-a4b-it-q4_K_M 태그이고, gemma4:26b는 이제 다른 빌드입니다. CanRun 계산으로도 32k가 GPU에 다 올라갑니다.

한 줄에 적은 태그끼리는 같은 빌드입니다(Ollama 라이브러리에서 확인).

qwen3:8b = qwen3:8b-q4_K_M = qwen3:latest
qwen3:14b = qwen3:14b-q4_K_M
gpt-oss:20b = gpt-oss:latest
gemma4:26b = gemma4:26b-a4b
qwen3.6:35b = qwen3.6:35b-a3b = qwen3.6:latest

gpt-oss:20b는 Ollama가 만든 MXFP4 빌드입니다. gemma4:12b·gemma4:26b·qwen3.6:35b에는 MLX용과 llama.cpp용이 있습니다. llama.cpp용은 Q4_K_M에 비전 프로젝터가 붙고, Gemma 4에는 작은 draft 모델도 붙습니다. 크기 없는 gemma4는 엣지용 모델 E4B입니다. CanRun 계산으로는 Gemma 4 E4B Q4_K_M이 8GB인 RTX 4060에도 전부 올라갑니다. 12B·26B-A4B·31B는 태그에 크기까지 적어 받습니다. E4B와 E2B가 메모리를 어떻게 나눠 쓰는지는 ‘젬마 4(Gemma 4) 모델별 차이 — 12B·26B-A4B·31B 사양과 VRAM 비교’ 가이드에 정리했습니다.

이 태그들은 Ollama 자체 빌드라 CanRun이 계산한 Hugging Face GGUF와 다릅니다. 그 파일을 그대로 받으려면 hf.co 형식을 씁니다.

ollama run hf.co/unsloth/Qwen3-8B-GGUF:Q4_K_M
ollama run hf.co/unsloth/Qwen3-14B-GGUF:Q4_K_M
ollama run hf.co/ggml-org/gpt-oss-20b-GGUF:MXFP4
ollama run hf.co/bartowski/Qwen_Qwen3.6-35B-A3B-GGUF:Q4_K_M

CanRun처럼 8k로 맞추려면 앱 설정의 컨텍스트 슬라이더를 옮깁니다. 아니면 작업 표시줄의 Ollama를 끄고 PowerShell에서 서버를 띄웁니다.

$env:OLLAMA_CONTEXT_LENGTH="8192"; ollama serve

macOS·Linux에서는 이렇게 실행합니다.

OLLAMA_CONTEXT_LENGTH=8192 ollama serve

ollama ps에는 SIZE, PROCESSOR, CONTEXT 열이 나옵니다. PROCESSOR는 100% GPU, 100% CPU, CPU/GPU 비율 중 하나입니다. 예상과 다른 비율이 나오면 ‘Ollama·LM Studio가 GPU를 안 쓸 때 — 100% GPU 확인과 오프로드 설정’ 가이드를 봅니다.

LM Studio에서 VRAM 맞추기 — 예상 메모리와 GPU 오프로드

LM Studio의 모델 검색(Ctrl+Shift+M)은 Hugging Face 저장소를 보여 줍니다. unsloth/gemma-4-12b-it-GGUF처럼 CanRun이 계산하는 GGUF를 그대로 받을 수 있습니다.

RTX 4060에서 IQ4_XS는 아슬아슬하게 GPU에 다 올라가 원활하게 돌아갑니다. Ollama에서는 아래처럼 받고 ollama ps로 확인합니다.

ollama run hf.co/unsloth/gemma-4-12b-it-GGUF:IQ4_XS

UD-Q2_K_XL은 쾌적하게 돌아가지만 ‘손실 큼’ 등급입니다. LM Studio 문서도 PC가 감당할 수 있다면 4비트 이상을 고르라고 권합니다. Q8_0은 일부가 RAM으로 가서 느리게 돌아갑니다.

불러오기 화면에서 컨텍스트 길이와 GPU 오프로드 슬라이더를 옮기면 예상 메모리가 바로 바뀝니다. 메모리가 모자랄 것 같으면 불러오기 전에 경고가 뜨고, 무시하고 불러올 수도 있습니다. 명령줄에서는 아래처럼 예상치만 봅니다.

lms load --estimate-only <model> --context-length 8192 --gpu max

--gpu는 max, off, 0에서 1 사이 값을 받고, 빼면 LM Studio가 스스로 정합니다. LM Studio에서는 CanRun 표보다 이 예상치가 더 맞는 기준입니다. 기본 컨텍스트는 문서에 없으니 8192로 맞춰 비교합니다.

그래픽카드가 없거나 맥을 쓴다면

CPU만 쓰면 모델 전체가 시스템 RAM에 올라갑니다. Qwen3 8B는 RAM 16GB에 들어가고, 듀얼 채널 DDR5-5600에서 겨우 돌아갑니다. CPU 전용 구성은 속도와 관계없이 이 단계가 상한입니다. gpt-oss-20b는 16GB로는 올릴 수 없고, 32GB면 올라갑니다. ‘그래픽카드 없이 로컬 LLM — CPU와 시스템 RAM만으로 돌릴 수 있는 모델’ 가이드에서 더 다룹니다.

맥에서 CanRun은 파일 전체를 필요량으로 보고, 통합 메모리의 약 70%를 GPU 몫으로 계산합니다. M4 16GB에서 Qwen3 8B는 GPU로 원활하게 돌아갑니다. 맥에서 12.9GB가 필요한 gpt-oss-20b는 16GB로는 올릴 수 없고, 24GB 구성이면 올라갑니다. 두 앱의 MLX 엔진은 CanRun 계산 밖입니다. 맥은 ‘맥 미니·맥북·맥 스튜디오에서 로컬 LLM 돌리기 — M4·M5 통합 메모리는 얼마나 필요할까’ 가이드에서 더 다룹니다.

이 숫자는 얼마나 확실한가

메모리 수치는 GGUF 파일과 모델 config로 공식에 따라 계산한 값입니다. ‘보정된 추정’ 속도는 NVIDIA·AMD 그래픽카드에 dense 모델을 다 올리면 ±12%입니다. MoE 모델, 부분 오프로드, 그 밖의 하드웨어는 ±20%입니다. 표의 8GB·12GB·16GB 카드에서 MoE 전문가를 RAM에 두는 칸은 모두 이론 추정(±30%)입니다. 표에서 실측 라벨은 16GB·24GB·32GB 카드의 gpt-oss-20b에 붙습니다. 24GB·32GB 카드의 Gemma 4 26B-A4B도 그렇습니다.

CanRun은 언어 모델 파일만 셉니다. gemma4·qwen3.6 태그의 비전 프로젝터와 draft 모델은 빠지고, Ollama 빌드도 CanRun 파일과 다릅니다. 실제 사용량은 ollama ps로 확인합니다. 계산은 그 카드로 Windows 화면을 출력하고, 시스템 RAM 32GB(DDR5)에 모델 하나·요청 하나를 가정합니다. 본문의 판정은 8k 컨텍스트, f16 KV 캐시 기준입니다. Qwen3 8B·14B와 Qwen3.6 35B-A3B는 생각 모드가 기본으로 켜져 있습니다. gpt-oss-20b는 생각 모드를 끌 수 없습니다. 그래서 이 모델들은 속도 기준이 1.5배 높습니다. Gemma 4는 생각 모드가 기본으로 꺼져 있습니다.

더 읽을거리

• 세 도구의 기본값 차이: 올라마(Ollama)·llama.cpp·LM Studio 차이 — 같은 엔진, 다른 기본값
• 컨텍스트를 바꾸는 법: 올라마(Ollama)가 느리거나 앞 내용을 잊을 때 — 컨텍스트 기본값
• 큰 MoE 모델과 시스템 RAM: 그래픽카드보다 큰 MoE 모델 돌리기 — gpt-oss-120b와 시스템 RAM
• KV 캐시와 컨텍스트 길이: KV 캐시와 컨텍스트 길이 — 컨텍스트를 늘리면 VRAM이 얼마나 더 필요할까
• 한국 모델 사양과 받는 명령: 한국 오픈 LLM 정리 — 엑사원·카나나·하이퍼클로바X·솔라 구동 사양

자주 묻는 질문

Ollama 최소 사양은 어떻게 되나요?

Ollama 문서의 요구 사항은 OS와 GPU 드라이버 조건뿐이고, RAM·VRAM 최소치는 없습니다. 필요한 메모리는 올리는 모델이 정합니다. Qwen3 8B는 8GB 카드에 전부 올라가고, CPU로만 돌려도 RAM 16GB에 들어갑니다.

VRAM 8GB로는 어떤 모델을 돌릴 수 있나요?

8GB 카드에는 Qwen3 8B가 GPU에 전부 올라가고, RTX 4060에서 쾌적하게 돌아갑니다. 같은 카드에서 Gemma 4 12B는 일부가 RAM으로 가지만 원활하게 돌아갑니다. gpt-oss-20b는 전문가 일부를 RAM에 두면 올라갑니다. 속도는 이론 추정이라 위 표에서 범위로 봅니다.

LM Studio와 Ollama 중 사양이 더 낮은 쪽은 어디인가요?

같은 모델이라면 필요한 메모리는 같습니다. 두 앱 모두 llama.cpp로 GGUF를 돌려 가중치와 KV 캐시가 같은 양을 차지합니다. 차이는 플랫폼 조건과 기본값입니다. LM Studio는 x64 PC에서 AVX2가 필요하고 Intel 맥을 지원하지 않습니다. Ollama는 8GB·12GB·16GB 카드에서 4k로 시작합니다. 자세한 차이는 ‘올라마(Ollama)·llama.cpp·LM Studio 차이 — 같은 엔진, 다른 기본값’ 가이드에 있습니다.

시스템 RAM은 얼마나 있어야 하나요?

VRAM에 안 들어가는 부분과 OS 몫을 합친 만큼 있어야 하고, CanRun은 32GB로 계산합니다. 8GB 카드에서 gpt-oss-20b는 RAM 16GB로도 올라갑니다. Qwen3.6 35B-A3B는 16GB로는 올릴 수 없고, 32GB면 올라갑니다. 그래픽카드가 없으면 모델 전체가 RAM에 놓여, gpt-oss-20b도 16GB로는 모자라고 32GB면 들어갑니다.

한국어로 쓸 모델은 무엇을 받으면 되나요?

CanRun은 언어별 답변 품질을 평가하지 않아서, 한국어용 순위는 매기지 않고 올라가는지와 속도만 보여 줍니다. EXAONE·Kanana·HyperCLOVA X SEED 같은 한국 모델은 ‘한국 오픈 LLM 정리 — 엑사원·카나나·하이퍼클로바X·솔라 구동 사양’ 가이드에 hf.co 명령과 함께 있습니다. Kanana 1.5 8B는 RTX 4060에 1GB 안팎의 여유를 두고 전부 올라갑니다.

출처

• Ollama Windows: 요구 사항
• Ollama macOS: 요구 사항
• Ollama GPU 지원: GPU 조건
• Ollama Linux: 설치
• Ollama 빠른 시작: 메모리 권장
• Ollama 컨텍스트 길이: 기본값
• Ollama FAQ: KV 캐시
• Ollama routes.go: 구간
• qwen3 태그: 같은 빌드
• gpt-oss 태그: MXFP4
• gemma4 태그: 기본 E4B
• gemma4:12b: 구성
• gemma4:26b: 구성
• qwen3.6 태그: 같은 빌드
• qwen3.6:35b: 구성
• Hugging Face 문서: hf.co 형식
• LM Studio 요구 사항: 조건
• LM Studio 모델 받기: 4비트 권장
• LM Studio 예상 메모리 소개: 경고
• lms load: 예상치
• LM Studio 모델 검색 소개: 단축키
• llama.cpp #15396: 벤치마크
• Ollama #15237: 사용자 보고