CanRun

CanRun 收录的全部本地大模型

58 个提供 GGUF 文件的开放权重模型，参数量从 1.08B 到 320B。选一个模型，就能看到它在各量化和上下文长度下需要多少显存，以及在 56 款 GPU、Mac 和 PC 上的运行情况。

全部模型

“所需显存”一列按整个模型载入一块显卡计算。想知道你自己的 PC、Mac 或笔记本能跑什么，请用计算器。 在计算器中查看我的电脑 · 浏览 GPU、Mac 和 PC

“热门优先”依据 CanRun 给每个模型打的五级评分，所以可能和下载量一列不一致。只想按下载量排序，请选“下载最多”。

只显示

左右滑动可查看所有列。

58 个模型的大小、所需显存、许可证和上下文长度
模型Hugging Face 组织参数量所需显存（Q4_K_M，8k）发布日期思考模式许可证最大上下文下载量（30 天）
Gemma 4 26B-A4BGoogle26.54B（MoE，激活 4B）17.7 GB2026-03-11默认关闭开放Apache-2.0256k979万
Qwen3 14BQwen14.8B10.5 GB2025-04-29默认开启开放Apache-2.032k903万
Gemma 4 31BGoogle31.27B19.5 GB2026-03-11默认关闭开放Apache-2.0256k883万
Qwen3 8BQwen8.2B6.5 GB2025-04-29默认开启开放Apache-2.032k858万
Qwen3.5 4BQwen4.66B3.6 GB2026-02-27默认开启开放Apache-2.0256k779万
Qwen3.8 27BQwen27.78B17.6 GB2026-08-05默认开启开放Apache-2.0256k773万
Qwen3.5 9BQwen9.65B6.0 GB2026-02-27默认开启开放Apache-2.0256k705万
GLM-5.3 FlashZ.ai320B（MoE，激活 18B）181.4 GB2026-08-25始终开启开放MIT1M653万
gpt-oss-20bOpenAI20.9B（MoE，激活 3.6B）12.3 GB (MXFP4)2025-08-05始终开启开放Apache-2.0128k589万
Llama 3.1 8BMeta Llama8.03B6.3 GB2024-07-23—自定义条款Llama 3.1128k526万
Gemma 4 E4BGoogle8B3.7 GB2026-03-02默认关闭开放Apache-2.0128k408万
Qwen3.6 35B-A3BQwen35.95B（MoE，激活 3B）21.8 GB2026-04-15默认开启开放Apache-2.0256k368万
gpt-oss-120bOpenAI116.8B（MoE，激活 5.1B）63.6 GB (MXFP4)2025-08-05始终开启开放Apache-2.0128k307万
Gemma 4 E2BGoogle5.12B2.1 GB2026-03-02默认关闭开放Apache-2.0128k285万
Qwen3.5 35B-A3BQwen35.95B（MoE，激活 3B）22.3 GB2026-02-24默认开启开放Apache-2.0256k142万
Qwen3 30B-A3B (2507)Qwen30.5B（MoE，激活 3.3B）19.8 GB2025-07-31—开放Apache-2.0256k109万
DeepSeek V4 Flash 0731DeepSeek284.33B（MoE，激活 13.8B）155.1 GB (MXFP4)2026-07-31默认开启开放MIT1M424万
Qwen3 32BQwen32.8B22.0 GB2025-04-29默认开启开放Apache-2.032k284万
Qwen3.6 27BQwen27.78B17.2 GB2026-04-21默认开启开放Apache-2.0256k235万
Qwen3.5 27BQwen27.78B17.2 GB2026-02-24默认开启开放Apache-2.0256k172万
Gemma 4 12BGoogle11.96B7.8 GB2026-05-23默认关闭开放Apache-2.0256k171万
Llama 3.2 3BMeta Llama3.21B3.5 GB2024-09-25—自定义条款Llama 3.2128k111万
DeepSeek R1 0528 Qwen3 8BDeepSeek8.19B6.5 GB2025-05-29始终开启开放MIT128k40.5万
Gemma 3 27BGoogle27.4B17.8 GB2025-03-12—自定义条款Gemma128k37.1万
Phi-4Microsoft14.7B11.0 GB2024-12-12—开放MIT16k37万
DeepSeek R1 Distill Qwen 32BDeepSeek32.8B22.1 GB2025-01-20始终开启开放MIT128k36万
Gemma 3 12BGoogle12.2B8.4 GB2025-03-12—自定义条款Gemma128k35.2万
Llama 3.3 70BMeta Llama70.6B45.2 GB2024-12-06—自定义条款Llama 3.3128k22.7万
Muse Glimmer 30BMeta Inc.29.78B17.2 GB2026-08-09始终开启开放Apache-2.0128k21.6万
Mistral Small 3.2 24BMistral AI23.6B15.9 GB2025-06-20—开放Apache-2.0128k20万
EXAONE 4.5 33B韩国模型LG AI Research34.35B20.4 GB2026-04-04默认开启非商用EXAONE AI Model License 1.2 NC256k4.1万
Llama 3.2 1BMeta Llama1.24B1.6 GB2024-09-25—自定义条款Llama 3.2128k463万
MiniCPM5 2BOpenBMB2.52B2.3 GB2026-09-06由模型决定开放Apache-2.0128k132万
Qwen3.5 122B-A10BQwen125.09B（MoE，激活 10B）76.6 GB2026-02-24默认开启开放Apache-2.0256k72.2万
Nemotron 3.5 Lightning 30B-A3BNVIDIA31.58B（MoE，激活 3B）25.1 GB2026-08-01默认开启开放OpenMDW-1.1256k71.9万
DeepSeek R1 Distill Qwen 14BDeepSeek14.77B10.7 GB2025-01-20始终开启开放MIT128k32万
DeepSeek R1 Distill Llama 8BDeepSeek8.03B6.3 GB2025-01-20始终开启开放MIT128k12.5万
EXAONE 4.0 32B韩国模型LG AI Research32B20.2 GB2025-07-11默认关闭非商用EXAONE AI Model License 1.2 NC128k2.36万
HyperCLOVA X SEED Think 14B韩国模型HyperCLOVA X14.75B10.4 GB2025-07-21由模型决定自定义条款HyperCLOVA X SEED128k2.24万
Solar Open 100B韩国模型Upstage102.65B（MoE，激活 12B）64.0 GB2025-12-10默认开启自定义条款Upstage Solar License128k9,372
Solar Open 2 250B韩国模型Upstage250.29B（MoE，激活 15B）136.5 GB (IQ4_XS)2026-07-22默认开启自定义条款Upstage Solar License1M7,855
Kanana 1.5 8B韩国模型Kakao Corp.8.03B6.3 GB2025-05-21—开放Apache-2.032k6,909
HyperCLOVA X SEED 1.5B韩国模型HyperCLOVA X1.59B2.4 GB2025-04-22—自定义条款HyperCLOVA X SEED16k1,176
Laguna S 2.1Poolside117.56B（MoE，激活 8B）68.5 GB2026-07-13默认开启开放OpenMDW-1.11M38.6万
MiniCPM5 1BOpenBMB1.08B1.3 GB2026-05-21由模型决定开放Apache-2.0128k35.3万
MiniCPM-V 4.7 35B-A3BOpenBMB35.21B（MoE，激活 3B）21.6 GB2026-10-07默认开启开放Apache-2.0256k12万
Nanbeige4.2 3BNanbeige LLM Lab4.17B4.4 GB2026-07-21默认开启开放Apache-2.0256k12万
LFM2.5 2.6BLiquid AI2.7B2.4 GB2026-07-28始终开启自定义条款LFM Open License 1.0128k10.2万
K2-Horizon 7BInstitute of Foundation Models9B6.8 GB2026-09-01始终开启开放Apache-2.0512k8.68万
Granite 4.2 30BIBM Granite29.28B20.2 GB2026-08-07默认开启开放Apache-2.0128k3.95万
Spark-X2.5 4BSparkLLM4.11B3.5 GB2026-08-24默认开启开放Apache-2.01M3.69万
Kolibri 1Aleph Alpha78.1B（MoE，激活 3.46B）50.2 GB2026-10-02默认开启开放Apache-2.0256k2.13万
EXAONE 4.0 1.2B韩国模型LG AI Research1.28B1.9 GB2025-07-11默认关闭非商用EXAONE AI Model License 1.2 NC64k1.53万
Mellum2.1 12B-A2.5B ThinkingJetBrains12.15B（MoE，激活 2.5B）8.6 GB2026-09-20默认开启开放Apache-2.0128k4,901
Kanana 1.5 15.7B-A3B韩国模型Kakao Corp.15.7B（MoE，激活 3B）11.9 GB2025-07-23—自定义条款Kanana License32k518
K2-Horizon MoVA 36B-A4BInstitute of Foundation Models37.44B（MoE，激活 4B）24.2 GB2026-09-01始终开启开放Apache-2.0512k1.12万
Ling-3.0 TinyinclusionAI7.89B（MoE，激活 1.3B）5.3 GB2026-08-10默认开启开放MIT128k1.11万
Ling-3.0 FlashinclusionAI127.49B（MoE，激活 5.1B）75.4 GB2026-08-02默认开启开放MIT256k1.04万

如何看这份列表

  • Hugging Face 组织：发布原始权重的组织，名称与它在 Hugging Face 上使用的一致。其中有些是品牌名，而不是公司名。
  • 参数量：总参数量。混合专家（MoE）模型还会列出激活参数量。整个模型都要放进内存，但每个 token 只读取激活的部分，所以 MoE 模型通常比总参数量相同的稠密模型生成得更快。按大小筛选时，MoE 模型按总参数量归类。
  • 所需显存：使用 Q4_K_M 文件、8k 上下文时需要的显存。没有 Q4_K_M 文件的模型改用最接近的量化，并在括号中注明。它把权重、KV 缓存和计算缓冲区加在一起，与每个模型页面上的显存表计算方法相同。如果在 Windows 上这块显卡还负责显示输出，再加约 0.6 GB。
  • 发布日期：原始仓库在 Hugging Face 上创建的日期。私下准备的仓库可能早于正式公开发布。
  • 思考模式：模型在回答前先写出推理过程。这会多消耗 token，所以这类模型判定时的速度门槛提高到 1.5 倍。“始终开启”的模型总是会思考，“默认开启”和“默认关闭”的模型可以切换，“由模型决定”的模型会自己决定是否思考。
  • 许可证：“开放”指 Apache-2.0、MIT 等宽松许可证。“自定义条款”指模型厂商自己的许可证，商用前请先阅读。非商用许可证不允许商业使用。
  • 下载量：原始仓库最近 30 天在 Hugging Face 上的下载量，截至 2026年10月21日。GGUF 副本的下载量不计入，所以这个数字可能低估模型的实际使用范围。
  • “热门优先”依据 CanRun 给每个模型打的五级评分，综合考虑下载量和在韩国的使用广泛程度。评分相同的模型按下载量排序。