NVIDIA DGX Spark 能跑哪些本地大模型？

统一内存：GPU 可以使用 Linux 和桌面占用之后剩下的内存

按 8k 上下文和 f16 KV 缓存计算。判定按内存容量分别列出。

规格

内存配置: 64 GB · 128 GB
内存带宽: 273.0 GB/s
FP16 算力: 62.5 TFLOPS
发布年份: 2025
价格: 首发价 US$3,999（128 GB）
其他写法: DGX Spark, GB10, ASUS Ascent GX10, Dell Pro Max with GB10, HP ZGX Nano G1n, Lenovo ThinkStation PGX, MSI EdgeXpert, Acer Veriton GN100, GIGABYTE AI TOP ATOM

判定一览

基于 Q4_K_M（或最接近的可用量化）、8k 上下文。

64 GB运行流畅31 个模型运行良好9 个模型运行较慢9 个模型无法运行9 个模型另有 3 个模型可以用更低的量化运行。
128 GB运行流畅34 个模型运行良好12 个模型运行较慢9 个模型无法运行3 个模型另有 1 个模型可以用更低的量化运行。
64 GB × 2 台运行流畅29 个模型运行良好15 个模型运行较慢11 个模型无法运行3 个模型
128 GB × 2 台运行流畅29 个模型运行良好18 个模型运行较慢11 个模型无法运行0 个模型
64 GB × 4 台运行流畅22 个模型运行良好24 个模型运行较慢11 个模型无法运行1 个模型另有 1 个模型可以用更低的量化运行。
128 GB × 4 台运行流畅22 个模型运行良好24 个模型运行较慢12 个模型无法运行0 个模型

标有“× 2 台”或“× 4 台”的行表示用内置的 ConnectX-7 网络连接两台或四台设备，并用 llama.cpp RPC 把各层分到各台设备上。内存会叠加，但每个 token 仍要依次经过所有设备，每跨一台设备都会为每个 token 增加时间，因此不会比 CanRun 的单台估算更快，越快（越小）的模型变慢得越多：公开测试中 gpt-oss-120b 在两台上比单台慢约 20%。这些行是理论估算（±30%）。NVIDIA 官方指南使用的 vLLM 张量并行可能更快。三台连接可以在计算器中查看。

判定说明

运行流畅: 全部载入显卡，且达到 20 tok/s 及以上
运行良好: 全部载入显卡且为 8–20 tok/s；MoE 专家放在系统内存且达到 20 tok/s 及以上；或至少 90% 载入显卡且达到 8 tok/s 及以上
运行较慢: 2–8 tok/s；纯 CPU；载入显卡不足 90%；或 MoE 专家放在系统内存且低于 20 tok/s
无法运行: 内存装不下，或低于 2 tok/s

NVIDIA DGX Spark 上的全部模型

左右滑动可查看所有列。

58 个模型，内存 128 GB，按判定和速度排序
模型	判定	速度	量化	显存/内存	运行方式	上下文	备注
MiniCPM5 1B	运行流畅	估算 238.9 tok/s191.1–286.7校准估算 ±20%	Q4_K_M	1.5 / 116.9 GB	统一内存	最长 128k	思考模式
Llama 3.2 1B	运行流畅	估算 197.5 tok/s158.0–236.9校准估算 ±20%	Q4_K_M	1.7 / 116.9 GB	统一内存	最长 128k	—
Ling-3.0 Tiny	运行流畅	估算 179.8 tok/s125.8–233.7理论估算 ±30%	Q4_K_M	5.5 / 116.9 GB	统一内存	最长 128k	思考模式
EXAONE 4.0 1.2B	运行流畅	估算 162.1 tok/s129.7–194.6校准估算 ±20%	Q4_K_M	1.9 / 116.9 GB	统一内存	最长 64k	思考模式
LFM2.5 2.6B	运行流畅	估算 118.0 tok/s82.6–153.4理论估算 ±30%	Q4_K_M	2.4 / 116.9 GB	统一内存	最长 128k	思考模式
HyperCLOVA X SEED 1.5B	运行流畅	估算 117.3 tok/s93.8–140.8校准估算 ±20%	Q4_K_M	2.4 / 116.9 GB	统一内存	最长 16k	—
Gemma 4 E2B	运行流畅	估算 115.9 tok/s81.1–150.6理论估算 ±30%	Q4_K_M	3.7 / 116.9 GB	统一内存	最长 128k	思考模式
MiniCPM5 2B	运行流畅	估算 111.4 tok/s89.1–133.6校准估算 ±20%	Q4_K_M	2.5 / 116.9 GB	统一内存	最长 64k	思考模式
Mellum2.1 12B-A2.5B Thinking	运行流畅	估算 104.4 tok/s83.5–125.2校准估算 ±20%	Q4_K_M	8.8 / 116.9 GB	统一内存	最长 128k	思考模式
MiniCPM-V 4.7 35B-A3B	运行流畅	估算 76.0 tok/s60.8–91.2校准估算 ±20%	Q4_K_M	21.9 / 116.9 GB	统一内存	最长 128k	思考模式
Spark-X2.5 4B	运行流畅	估算 73.4 tok/s58.7–88.1校准估算 ±20%	Q4_K_M	3.5 / 116.9 GB	统一内存	最长 64k	思考模式
Llama 3.2 3B	运行流畅	估算 72.0 tok/s57.6–86.3校准估算 ±20%	Q4_K_M	3.5 / 116.9 GB	统一内存	最长 64k	—
gpt-oss-20b	运行流畅	估算 71.7 tok/s57.4–86.0校准估算 ±20%	MXFP4	12.9 / 116.9 GB	统一内存	最长 128k	思考模式
Qwen3.6 35B-A3B	运行流畅	估算 70.5 tok/s56.4–84.6校准估算 ±20%	Q4_K_M	23.0 / 116.9 GB	统一内存	最长 128k	思考模式
Nemotron 3.5 Lightning 30B-A3B	运行流畅	估算 69.8 tok/s48.8–90.7理论估算 ±30%	Q4_K_M	26.1 / 116.9 GB	统一内存	最长 256k	思考模式
Qwen3.5 4B	运行流畅	估算 68.7 tok/s55.0–82.5校准估算 ±20%	Q4_K_M	3.7 / 116.9 GB	统一内存	最长 64k	思考模式
Kanana 1.5 15.7B-A3B	运行流畅	估算 62.2 tok/s49.7–74.6校准估算 ±20%	Q4_K_M	12.1 / 116.9 GB	统一内存	最长 32k	—
Qwen3.5 35B-A3B	运行流畅	估算 61.9 tok/s49.5–74.2校准估算 ±20%	Q4_K_M	23.4 / 116.9 GB	统一内存	最长 128k	思考模式
Gemma 4 E4B	运行流畅	估算 61.5 tok/s43.1–80.0理论估算 ±30%	Q4_K_M	5.7 / 116.9 GB	统一内存	最长 128k	思考模式
Qwen3 30B-A3B (2507)	运行流畅	估算 60.7 tok/s48.6–72.9校准估算 ±20%	Q4_K_M	19.9 / 116.9 GB	统一内存	最长 64k	—
gpt-oss-120b	运行流畅	58.7 tok/s8k 估算 50.8 tok/s（40.6–60.9，校准估算 ±20%）实测（1 次，2k 上下文）	MXFP4	64.3 / 116.9 GB	统一内存	最长 64k	思考模式
Ling-3.0 Flash	运行流畅	估算 52.8 tok/s36.9–68.6理论估算 ±30%	Q4_K_M	77.7 / 116.9 GB	统一内存	最长 256k	思考模式
Kolibri 1	运行流畅	估算 52.2 tok/s41.7–62.6校准估算 ±20%	Q4_K_M	50.5 / 116.9 GB	统一内存	最长 128k	思考模式
Gemma 4 26B-A4B	运行流畅	47.0 tok/s8k 估算 51.5 tok/s（41.2–61.8，校准估算 ±20%）实测（1 次，32k 上下文）	Q4_K_M	17.7 / 116.9 GB	统一内存	最长 128k	思考模式
Qwen3 8B	运行流畅	43.9 tok/s8k 估算 34.1 tok/s（27.3–41.0，校准估算 ±20%）实测（1 次，512 上下文）	Q4_K_M	6.8 / 116.9 GB	统一内存	最长 8k	思考模式
K2-Horizon MoVA 36B-A4B	运行流畅	估算 37.7 tok/s26.4–49.1理论估算 ±30%	Q4_K_M	24.6 / 116.9 GB	统一内存	最长 8k	思考模式
DeepSeek R1 Distill Llama 8B	运行流畅	估算 35.5 tok/s28.4–42.6校准估算 ±20%	Q4_K_M	6.6 / 116.9 GB	统一内存	最长 16k	思考模式
Kanana 1.5 8B	运行流畅	估算 35.5 tok/s28.4–42.6校准估算 ±20%	Q4_K_M	6.6 / 116.9 GB	统一内存	最长 32k	—
Llama 3.1 8B	运行流畅	估算 35.5 tok/s28.4–42.6校准估算 ±20%	Q4_K_M	6.6 / 116.9 GB	统一内存	最长 32k	—
Qwen3.5 9B	运行流畅	35.2 tok/s8k 估算 34.7 tok/s（27.8–41.6，校准估算 ±20%）实测（1 次，4k 上下文）	Q4_K_M	6.7 / 116.9 GB	统一内存	最长 32k	思考模式
Nanbeige4.2 3B	运行流畅	估算 34.8 tok/s24.3–45.2理论估算 ±30%	Q4_K_M	4.7 / 116.9 GB	统一内存	最长 8k	思考模式
DeepSeek R1 0528 Qwen3 8B	运行流畅	估算 34.1 tok/s27.3–41.0校准估算 ±20%	Q4_K_M	6.8 / 116.9 GB	统一内存	最长 8k	思考模式
K2-Horizon 7B	运行流畅	估算 31.3 tok/s25.1–37.6校准估算 ±20%	Q4_K_M	7.4 / 116.9 GB	统一内存	最长 8k	思考模式
Gemma 3 12B	运行流畅	估算 27.2 tok/s21.7–32.6校准估算 ±20%	Q4_K_M	8.4 / 116.9 GB	统一内存	最长 32k	—
Gemma 4 12B	运行良好	估算 29.4 tok/s23.5–35.2校准估算 ±20%	Q4_K_M	7.8 / 116.9 GB	统一内存	最长 256k	改用 IQ4_XS：运行流畅思考模式
Qwen3.5 122B-A10B	运行良好	29.0 tok/s8k 估算 24.0 tok/s（19.2–28.8，校准估算 ±20%）实测（1 次，4k 上下文）	Q4_K_M	79.0 / 116.9 GB	统一内存	最长 256k	UD-Q2_K_XL（质量损失大）：运行流畅思考模式
Laguna S 2.1	运行良好	估算 28.4 tok/s22.7–34.1校准估算 ±20%	Q4_K_M	68.6 / 116.9 GB	统一内存	最长 128k	思考模式
Solar Open 100B	运行良好	估算 22.8 tok/s18.3–27.4校准估算 ±20%	Q4_K_M	64.4 / 116.9 GB	统一内存	最长 32k	Q2_K（质量损失大）：运行流畅思考模式
HyperCLOVA X SEED Think 14B	运行良好	估算 20.9 tok/s14.6–27.2理论估算 ±30%	Q4_K_M	10.8 / 116.9 GB	统一内存	最长 32k	思考模式
Qwen3 14B	运行良好	估算 20.6 tok/s16.5–24.7校准估算 ±20%	Q4_K_M	10.9 / 116.9 GB	统一内存	最长 32k	Q2_K（质量损失大）：运行流畅思考模式
DeepSeek R1 Distill Qwen 14B	运行良好	估算 20.1 tok/s16.1–24.1校准估算 ±20%	Q4_K_M	11.2 / 116.9 GB	统一内存	最长 32k	思考模式
Phi-4	运行良好	估算 19.8 tok/s15.9–23.8校准估算 ±20%	Q4_K_M	11.3 / 116.9 GB	统一内存	最长 16k	—
Mistral Small 3.2 24B	运行良好	估算 13.6 tok/s10.9–16.3校准估算 ±20%	Q4_K_M	16.2 / 116.9 GB	统一内存	最长 64k	Q2_K（质量损失大）：运行流畅
Gemma 3 27B	运行良好	估算 12.4 tok/s9.9–14.8校准估算 ±20%	Q4_K_M	17.8 / 116.9 GB	统一内存	最长 64k	—
Qwen3.6 27B	运行良好	估算 12.3 tok/s9.8–14.7校准估算 ±20%	Q4_K_M	17.9 / 116.9 GB	统一内存	最长 8k	思考模式
Muse Glimmer 30B	运行良好	估算 12.2 tok/s9.8–14.7校准估算 ±20%	Q4_K_M	18.0 / 116.9 GB	统一内存	最长 16k	思考模式
Qwen3.8 27B	运行较慢	估算 11.8 tok/s9.5–14.2校准估算 ±20%	Q4_K_M	18.6 / 116.9 GB	统一内存	最长 256k	改用 IQ4_XS：运行良好思考模式
Qwen3.5 27B	运行较慢	11.3 tok/s8k 估算 12.1 tok/s（9.7–14.5，校准估算 ±20%）实测（1 次，4k 上下文）	Q4_K_M	18.2 / 116.9 GB	统一内存	最长 8k	改用 IQ4_XS：运行良好思考模式
Granite 4.2 30B	运行较慢	估算 10.7 tok/s8.6–12.9校准估算 ±20%	Q4_K_M	20.4 / 116.9 GB	统一内存	最长 128k	Q2_K（质量损失大）：运行良好思考模式
EXAONE 4.0 32B	运行较慢	估算 10.7 tok/s8.6–12.9校准估算 ±20%	Q4_K_M	20.5 / 116.9 GB	统一内存	最长 128k	思考模式
Qwen3 32B	运行较慢	10.7 tok/s8k 估算 9.7 tok/s（7.8–11.7，校准估算 ±20%）实测（2 次，512 上下文）	Q4_K_M	22.5 / 116.9 GB	统一内存	最长 32k	Q2_K（质量损失大）：运行良好思考模式
EXAONE 4.5 33B	运行较慢	估算 10.3 tok/s8.3–12.4校准估算 ±20%	Q4_K_M	21.2 / 116.9 GB	统一内存	最长 256k	思考模式
Gemma 4 31B	运行较慢	10.1 tok/s8k 估算 11.2 tok/s（9.0–13.5，校准估算 ±20%）实测（1 次，512 上下文）	Q4_K_M	19.6 / 116.9 GB	统一内存	最长 256k	改用 IQ4_XS：运行良好思考模式
DeepSeek R1 Distill Qwen 32B	运行较慢	估算 9.7 tok/s7.7–11.6校准估算 ±20%	Q4_K_M	22.6 / 116.9 GB	统一内存	最长 128k	Q2_K（质量损失大）：运行良好思考模式
Llama 3.3 70B	运行较慢	4.7 tok/s8k 估算 4.7 tok/s（3.8–5.7，校准估算 ±20%）实测（2 次，512 上下文）	Q4_K_M	45.8 / 116.9 GB	统一内存	最长 128k	—
Solar Open 2 250B	无法运行改用 Q2_K（质量损失大）：运行良好	估算 22.0 tok/s17.6–26.3校准估算 ±20%	Q2_K	96.4 / 116.9 GB	统一内存	最长 128k	思考模式
DeepSeek V4 Flash 0731	无法运行	—	MXFP4	需要 155.6 GB	—	—	约需 155.6 GB；可用内存 116.9 GB（其中 GPU 可用 116.9 GB）思考模式
GLM-5.3 Flash	无法运行	—	Q4_K_M	需要 182.1 GB	—	—	约需 182.1 GB；可用内存 116.9 GB（其中 GPU 可用 116.9 GB）思考模式

带思考模式的模型会额外花 token 来思考，所以速度门槛按 1.5 倍从严设定（30 / 12 / 3 tok/s）。关闭思考模式后，判定可能会高一级。

不同内存容量下的判定

各内存配置下的 Q4_K_M 判定，速度请打开模型页面查看
模型	64 GB	128 GB	64 GB × 2 台	128 GB × 2 台	64 GB × 4 台	128 GB × 4 台
MiniCPM5 1B	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
Llama 3.2 1B	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
Ling-3.0 Tiny	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
EXAONE 4.0 1.2B	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
LFM2.5 2.6B	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
HyperCLOVA X SEED 1.5B	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
Gemma 4 E2B	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
MiniCPM5 2B	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
Mellum2.1 12B-A2.5B Thinking	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
MiniCPM-V 4.7 35B-A3B	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
Spark-X2.5 4B	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
Llama 3.2 3B	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
gpt-oss-20b	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
Qwen3.6 35B-A3B	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
Nemotron 3.5 Lightning 30B-A3B	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
Qwen3.5 4B	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
Kanana 1.5 15.7B-A3B	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
Qwen3.5 35B-A3B	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
Gemma 4 E4B	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
Qwen3 30B-A3B (2507)	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
gpt-oss-120b	无法运行	运行流畅	运行流畅	运行流畅	运行良好	运行良好
Ling-3.0 Flash	无法运行	运行流畅	运行流畅	运行流畅	运行良好	运行良好
Kolibri 1	无法运行	运行流畅	运行流畅	运行流畅	运行良好	运行良好
Gemma 4 26B-A4B	运行流畅	运行流畅	运行流畅	运行流畅	运行良好	运行良好
Qwen3 8B	运行流畅	运行流畅	运行良好	运行良好	运行良好	运行良好
K2-Horizon MoVA 36B-A4B	运行流畅	运行流畅	运行流畅	运行流畅	运行良好	运行良好
DeepSeek R1 Distill Llama 8B	运行流畅	运行流畅	运行流畅	运行流畅	运行良好	运行良好
Kanana 1.5 8B	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
Llama 3.1 8B	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅	运行流畅
Qwen3.5 9B	运行流畅	运行流畅	运行良好	运行良好	运行良好	运行良好
Nanbeige4.2 3B	运行流畅	运行流畅	运行良好	运行良好	运行良好	运行良好
DeepSeek R1 0528 Qwen3 8B	运行流畅	运行流畅	运行良好	运行良好	运行良好	运行良好
K2-Horizon 7B	运行流畅	运行流畅	运行良好	运行良好	运行良好	运行良好
Gemma 3 12B	运行流畅	运行流畅	运行流畅	运行流畅	运行良好	运行良好
Gemma 4 12B	运行良好	运行良好	运行良好	运行良好	运行良好	运行良好
Qwen3.5 122B-A10B	无法运行	运行良好	运行良好	运行良好	运行良好	运行良好
Laguna S 2.1	无法运行	运行良好	运行良好	运行良好	运行良好	运行良好
Solar Open 100B	无法运行	运行良好	运行良好	运行良好	运行良好	运行良好
HyperCLOVA X SEED Think 14B	运行良好	运行良好	运行良好	运行良好	运行良好	运行良好
Qwen3 14B	运行良好	运行良好	运行良好	运行良好	运行良好	运行良好
DeepSeek R1 Distill Qwen 14B	运行良好	运行良好	运行良好	运行良好	运行良好	运行良好
Phi-4	运行良好	运行良好	运行良好	运行良好	运行良好	运行良好
Mistral Small 3.2 24B	运行良好	运行良好	运行良好	运行良好	运行良好	运行良好
Gemma 3 27B	运行良好	运行良好	运行良好	运行良好	运行良好	运行良好
Qwen3.6 27B	运行良好	运行良好	运行较慢	运行较慢	运行较慢	运行较慢
Muse Glimmer 30B	运行良好	运行良好	运行较慢	运行较慢	运行较慢	运行较慢
Qwen3.8 27B	运行较慢	运行较慢	运行较慢	运行较慢	运行较慢	运行较慢
Qwen3.5 27B	运行较慢	运行较慢	运行较慢	运行较慢	运行较慢	运行较慢
Granite 4.2 30B	运行较慢	运行较慢	运行较慢	运行较慢	运行较慢	运行较慢
EXAONE 4.0 32B	运行较慢	运行较慢	运行较慢	运行较慢	运行较慢	运行较慢
Qwen3 32B	运行较慢	运行较慢	运行较慢	运行较慢	运行较慢	运行较慢
EXAONE 4.5 33B	运行较慢	运行较慢	运行较慢	运行较慢	运行较慢	运行较慢
Gemma 4 31B	运行较慢	运行较慢	运行较慢	运行较慢	运行较慢	运行较慢
DeepSeek R1 Distill Qwen 32B	运行较慢	运行较慢	运行较慢	运行较慢	运行较慢	运行较慢
Llama 3.3 70B	运行较慢	运行较慢	运行较慢	运行较慢	运行较慢	运行较慢
Solar Open 2 250B	无法运行	无法运行	无法运行	运行良好	运行良好	运行良好
DeepSeek V4 Flash 0731	无法运行	无法运行	无法运行	运行良好	运行良好	运行良好
GLM-5.3 Flash	无法运行	无法运行	无法运行	运行良好	无法运行	运行较慢

NVIDIA DGX Spark 的实测结果

我们用于校准的公开基准测试。它们的测试条件（上下文、后端、运行参数）可能与上方的估算不同。

NVIDIA DGX Spark 的实测结果
模型	量化	后端	上下文	提示词处理（tok/s）	生成（tok/s）	运行参数	来源	测量日期
gpt-oss-120b	MXFP4	llama.cpp	2k	2,444.0	58.7	CUDA, no mmap	github.com	2026-02-05
Gemma 4 31B	Q4_K_M	llama.cpp	512	687.0	10.1	CUDA	github.com	2026-04-14
Gemma 4 26B-A4B	Q4_K_M	llama.cpp	32k	—	47.0	CUDA, depth 32768	github.com	2026-06-11
Qwen3.5 35B-A3B	Q8_0	llama.cpp	2k	2,572.0	49.2	CUDA	github.com	2026-03-12
Qwen3.5 9B	Q4_K_M	llama.cpp	4k	—	35.2	—	github.com	2026-08-13
Qwen3.5 27B	Q4_K_M	llama.cpp	4k	—	11.3	—	github.com	2026-08-13
Qwen3.5 122B-A10B	Q4_K_M	llama.cpp	4k	—	29.0	—	github.com	2026-08-13
Llama 3.3 70B	Q4_K_M	llama.cpp	512	284.0	4.7	CUDA, Vulkan	github.com	2025-11-22
Llama 3.3 70B	Q4_K_M	llama.cpp	512	—	4.6	CUDA	github.com	2026-08-12
Llama 3.3 70B	Q8_0	llama.cpp	512	—	2.9	CUDA	github.com	2026-08-12
Llama 3.3 70B	Q2_K	llama.cpp	512	—	7.2	CUDA	github.com	2026-08-12
Qwen3 32B	Q4_K_M	llama.cpp	512	630.0	10.5	CUDA, Vulkan	github.com	2025-11-22
Qwen3 32B	Q4_K_M	llama.cpp	512	762.0	10.8	CUDA	github.com	2025-12-05
Qwen3 8B	Q4_K_M	llama.cpp	512	3,168.0	43.9	CUDA	github.com	2025-12-05

常见问题

能完全在 NVIDIA DGX Spark 上运行的最大模型是什么？

Ling-3.0 Flash Q4_K_M（77.01 GB 文件）在 8k 上下文下可完整装入 128 GB 统一内存，估算 52.8 tok/s（36.9–68.6，理论估算 ±30%）。

NVIDIA DGX Spark 上有多少本地大模型能运行良好？

按 Q4_K_M、8k 上下文计算，内存 128 GB，在 58 个已收录的模型中，34 个运行流畅、12 个运行良好、9 个运行较慢，3 个无法运行。

NVIDIA DGX Spark 能运行 Llama 3.3 70B 这样的 70B 模型吗？

运行较慢——统一内存，Q4_K_M：实测 4.7 tok/s（512 上下文，2 次；8k 估算 4.7 tok/s，3.8–5.7，校准估算 ±20%）。

速度是根据内存带宽得出的估算值，并用公开基准测试结果校准，每个数值都附有误差范围和可信度标签。实际结果会因驱动、后端、上下文长度和散热情况而有所不同。

规格