CanRun 소개

CanRun은 "내 PC나 맥으로 이 로컬 LLM을 돌릴 수 있을까, 돌린다면 얼마나 쓸 만할까"에 답하는 사이트입니다. 그래픽카드나 애플 칩, 또는 GPU 없이 CPU만 고르면 어떤 오픈 모델이 들어가는지, 어떤 양자화 파일을 받으면 되는지, 메모리가 얼마나 필요한지, 속도는 대략 어느 정도인지 보여 드립니다.

무엇을 알 수 있나요

• 모델마다 판정: 메모리에 들어가는지와 예상 속도를 바탕으로 쾌적·원활·겨우 가능·불가 중 하나로 알려 드립니다.
• 필요한 메모리: 모델 가중치, 컨텍스트 길이에 따라 늘어나는 KV 캐시, 실행 중에 쓰는 작업 메모리로 나눠 보여 드립니다.
• 속도는 한 숫자가 아니라 범위로 보여 드립니다. 얼마나 믿을 만한 값인지 알려 주는 신뢰 라벨도 함께 붙습니다.
• 바로 쓸 수 있는 명령어: llama.cpp와 Ollama 명령을 고른 컨텍스트 길이에 맞춰 드립니다.

원하는 조합은 계산기에서 바로 확인할 수 있고, GPU별·모델별 페이지와 "이 GPU에서 이 모델" 페이지도 따로 있습니다.

왜 만들었나요

모델에 메모리가 얼마나 필요한지 알려 주는 계산기는 많지만, 내 하드웨어에서 실제로 얼마나 빠를지, 그 숫자를 얼마나 믿어도 되는지까지 알려 주는 곳은 드뭅니다. CanRun은 이 두 가지에 답하려고 만들었습니다. 속도 추정은 모두 실제 벤치마크와 맞춰 보고, 얼마나 틀렸는지도 감추지 않고 공개합니다. 한국어로 된 이런 도구가 거의 없어서 처음부터 영어와 한국어로 함께 만들었습니다.

숫자는 어디서 오나요

모델 크기는 Hugging Face에 올라온 실제 GGUF 파일 크기를 쓰고, 필요 메모리는 각 모델이 공개한 설정값으로 계산합니다. GPU와 칩 사양은 제조사 페이지를 따릅니다. 속도는 메모리 대역폭으로 먼저 추정한 뒤 공개 벤치마크에 맞춰 보정합니다. 자세한 계산 방식과 지금까지의 오차, 틀릴 수 있는 경우는 계산 방법 페이지에 정리해 두었습니다.

2026년 10월부터는 직접 모델을 돌려 속도를 재기 시작했습니다. 첫 측정은 GeForce RTX 5060 Ti 16GB에서 Ollama로 돌린 Llama 3.1 8B와 Gemma 3 12B 두 건입니다. 측정한 PC와 누구나 같은 측정을 해 볼 수 있는 스크립트, CanRun 추정과의 차이는 RTX 5060 Ti 16GB 가이드에 정리했습니다. 사이트에 나오는 실측 속도는 직접 잰 것이든 공개 벤치마크든 모두 ‘실측’ 라벨과 함께 출처를 밝힙니다.

얼마나 자주 갱신되나요

모델 데이터는 매주 Hugging Face와 대조해 갱신하고, 새 모델은 llama.cpp가 지원하기 시작하면 추가합니다. 지금 보고 계신 데이터의 기준일은 모든 페이지 맨 아래에 있고, 현재 기준일은 2026년 10월 28일입니다. 사이트에서 바뀐 점과 모델별 추가 날짜는 업데이트 소식에 정리해 두었습니다.

틀린 값은 어떻게 고치나요

숫자가 틀린 것으로 드러나면 데이터나 계산 방식을 고치고, 업데이트 소식에 무엇을 고쳤는지 적습니다. 매주 Hugging Face와 대조해 바뀐 값은 자동 검사를 거친 뒤에야 사이트에 반영되고, 변화가 크거나 이상해 보이는 값은 사람이 먼저 확인합니다.

숫자가 이상해 보이거나 찾는 모델이 없으면 [email protected]로 메일을 보내 주시거나 GitHub의 CanRun 저장소에 이슈를 남겨 주세요. GitHub 이슈는 누구나 볼 수 있으니, 공개하고 싶지 않은 내용은 메일로 보내 주세요. 확인에 도움이 되는 정보는 문의 페이지에 정리해 두었습니다.

누가 운영하나요

CanRun은 YOO, KING이 혼자 운영하는 독립 프로젝트입니다. GPU 제조사나 모델 개발사와는 관계가 없고, 판정은 어떤 상업적 이해관계와도 상관없이 데이터로만 계산합니다.