CanRun

DeepSeek V4 Flash 0731 硬件要求

开放许可证 · MIT聊天编程推理

模型信息

参数量
总计 284.33B · 激活 13.8B(MoE)
注意力机制
压缩注意力(KV 按多个 token 合并压缩存储)
最大上下文
1,048,576 个 token
发布日期
2026-07-31

GGUF 文件

收录的 DeepSeek V4 Flash 0731 量化文件,从小到大排列
量化文件大小质量发布者
Q2_K117.35 GB损失严重llama.cpp 团队 · ggml-org
MXFP4基准154.99 GB近乎无损llama.cpp 团队 · ggml-org

不同量化和上下文所需的显存

显存(GB):载入 GPU 的权重 + f16 KV 缓存 + 计算缓冲区。如果在 Windows 上这块显卡还负责显示输出,再加约 0.6 GB。 文件的一部分不会放到显卡上:llama.cpp 把输入嵌入表保留在系统内存中。Mac 按整个文件计算,所以需要的内存稍多一些。
量化4k8k16k32k64k128k256k
Q2_K117.4117.4117.6117.8118.3119.4121.5
MXFP4155.0155.1155.2155.4156.0157.0159.1

哪些 GPU 能跑 DeepSeek V4 Flash 0731?

判定说明

运行流畅
全部载入显卡,且达到 20 tok/s 及以上
运行良好
全部载入显卡且为 8–20 tok/s;MoE 专家放在系统内存且达到 20 tok/s 及以上;或至少 90% 载入显卡且达到 8 tok/s 及以上
运行较慢
2–8 tok/s;纯 CPU;载入显卡不足 90%;或 MoE 专家放在系统内存且低于 20 tok/s
无法运行
内存装不下,或低于 2 tok/s

在计算器中按预算、类型和上下文筛选这份列表

左右滑动可查看所有列。

56 款 GPU、Mac 和 CPU 配置,基于 MXFP4 量化、8k 上下文,按判定和速度排序
硬件判定速度量化显存/内存运行方式上下文备注价格
Apple M5 Ultra · 256 GB
运行流畅
估算 52.5 tok/s36.7–68.2理论估算 ±30%
MXFP4155.6 / 179.2 GB统一内存最长 256k——
Apple M3 Ultra · 256 GB
运行流畅
估算 37.4 tok/s26.2–48.6理论估算 ±30%
MXFP4155.6 / 179.2 GB统一内存最长 256k——
Apple M2 Ultra · 192 GB
运行较慢
估算 36.7 tok/s25.7–47.7理论估算 ±30%
MXFP4155.0 GB 内存纯 CPU最长 256k
  • CPU 推理:最高只能判为“运行较慢”
  • Q2_K(质量损失大):运行流畅
—
Apple M5 Max (40-core GPU) · 128 GB
无法运行改用 Q2_K(质量损失大):运行较慢
估算 42.7 tok/s29.9–55.5理论估算 ±30%
Q2_K117.4 GB 内存纯 CPU最长 256k
  • CPU 推理:最高只能判为“运行较慢”
—
Apple M4 Max (40-core GPU) · 128 GB
无法运行改用 Q2_K(质量损失大):运行较慢
估算 38.4 tok/s26.9–49.9理论估算 ±30%
Q2_K117.4 GB 内存纯 CPU最长 256k
  • CPU 推理:最高只能判为“运行较慢”
—
Ryzen AI Max+ 395 (Strix Halo) · 128 GB
无法运行改用 Q2_K(质量损失大):运行较慢
估算 19.1 tok/s13.4–24.9理论估算 ±30%
Q2_K117.4 GB 内存纯 CPU最长 256k
  • CPU 推理:最高只能判为“运行较慢”
首发价 US$1,999(128 GB)
Apple M4 · 32 GB
无法运行
—MXFP4需要 155.6 GB——
  • 约需 155.6 GB;可用内存 28.0 GB(其中 GPU 可用 22.4 GB)
—
Apple M4 Max (32-core GPU) · 36 GB
无法运行
—MXFP4需要 155.6 GB——
  • 约需 155.6 GB;可用内存 32.0 GB(其中 GPU 可用 25.2 GB)
—
Apple M4 Pro · 64 GB
无法运行
—MXFP4需要 155.6 GB——
  • 约需 155.6 GB;可用内存 60.0 GB(其中 GPU 可用 44.8 GB)
—
Apple M5 · 32 GB
无法运行
—MXFP4需要 155.6 GB——
  • 约需 155.6 GB;可用内存 28.0 GB(其中 GPU 可用 22.4 GB)
—
Apple M5 Max (32-core GPU) · 36 GB
无法运行
—MXFP4需要 155.6 GB——
  • 约需 155.6 GB;可用内存 32.0 GB(其中 GPU 可用 25.2 GB)
—
Apple M5 Pro · 64 GB
无法运行
—MXFP4需要 155.6 GB——
  • 约需 155.6 GB;可用内存 60.0 GB(其中 GPU 可用 44.8 GB)
—
Apple M6 · 32 GB
无法运行
—MXFP4需要 155.6 GB——
  • 约需 155.6 GB;可用内存 28.0 GB(其中 GPU 可用 22.4 GB)
—
Intel Arc B580
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 11.4 GB,可用内存 28.0 GB
市场价 US$290(截至 2026-08-09)
DDR4-3200 双通道 CPU · 64 GB
无法运行
—MXFP4需要 155.0 GB——
  • 约需 155.0 GB;可用内存 60.0 GB
—
DDR5-5600 双通道 CPU · 96 GB
无法运行
—MXFP4需要 155.0 GB——
  • 约需 155.0 GB;可用内存 92.0 GB
—
DDR5-6000 双通道 CPU · 96 GB
无法运行
—MXFP4需要 155.0 GB——
  • 约需 155.0 GB;可用内存 92.0 GB
—
GeForce GTX 1080 Ti
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 10.4 GB,可用内存 28.0 GB
首发价 US$699
NVIDIA DGX Spark · 128 GB
无法运行
—MXFP4需要 155.6 GB——
  • 约需 155.6 GB;可用内存 116.9 GB(其中 GPU 可用 116.9 GB)
首发价 US$3,999(128 GB)
GeForce RTX 2080 Ti
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 10.4 GB,可用内存 28.0 GB
首发价 US$999
GeForce RTX 3050 8GB
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 7.4 GB,可用内存 28.0 GB
首发价 US$249
GeForce RTX 3060 12GB
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 11.4 GB,可用内存 28.0 GB
市场价 US$250(截至 2026-08-09)
GeForce RTX 3070
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 7.4 GB,可用内存 28.0 GB
首发价 US$499
GeForce RTX 3080 10GB
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 9.4 GB,可用内存 28.0 GB
首发价 US$699
GeForce RTX 3080 12GB
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 11.4 GB,可用内存 28.0 GB
首发价 US$799
GeForce RTX 3090
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 23.4 GB,可用内存 28.0 GB
市场价 US$1,050(截至 2026-08-09)
GeForce RTX 3090 Ti
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 23.4 GB,可用内存 28.0 GB
首发价 US$1,999
GeForce RTX 4060
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 7.4 GB,可用内存 28.0 GB
首发价 US$299
GeForce RTX 4060 Laptop
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 7.4 GB,可用内存 28.0 GB
—
GeForce RTX 4060 Ti 16GB
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 15.4 GB,可用内存 28.0 GB
首发价 US$499
GeForce RTX 4060 Ti 8GB
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 7.4 GB,可用内存 28.0 GB
首发价 US$399
GeForce RTX 4070
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 11.4 GB,可用内存 28.0 GB
首发价 US$599
GeForce RTX 4070 Laptop
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 7.4 GB,可用内存 28.0 GB
—
GeForce RTX 4070 Super
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 11.4 GB,可用内存 28.0 GB
首发价 US$599
GeForce RTX 4070 Ti Super
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 15.4 GB,可用内存 28.0 GB
首发价 US$799
GeForce RTX 4080
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 15.4 GB,可用内存 28.0 GB
首发价 US$1,199
GeForce RTX 4080 Laptop
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 11.4 GB,可用内存 28.0 GB
—
GeForce RTX 4080 Super
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 15.4 GB,可用内存 28.0 GB
首发价 US$999
GeForce RTX 4090
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 23.4 GB,可用内存 28.0 GB
市场价 US$2,755(截至 2026-08-09)
GeForce RTX 4090 Laptop
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 15.4 GB,可用内存 28.0 GB
—
GeForce RTX 5060
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 7.4 GB,可用内存 28.0 GB
市场价 US$339(截至 2026-08-09)
GeForce RTX 5060 Ti 16GB
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 15.4 GB,可用内存 28.0 GB
市场价 US$569(截至 2026-08-09)
GeForce RTX 5060 Ti 8GB
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 7.4 GB,可用内存 28.0 GB
市场价 US$429(截至 2026-08-09)
GeForce RTX 5070
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 11.4 GB,可用内存 28.0 GB
市场价 US$629(截至 2026-08-09)
GeForce RTX 5070 Ti
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 15.4 GB,可用内存 28.0 GB
市场价 US$949(截至 2026-08-09)
GeForce RTX 5070 Ti Laptop
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 11.4 GB,可用内存 28.0 GB
—
GeForce RTX 5080
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 15.4 GB,可用内存 28.0 GB
市场价 US$1,256(截至 2026-08-09)
GeForce RTX 5080 Laptop
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 15.4 GB,可用内存 28.0 GB
—
GeForce RTX 5090
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 31.4 GB,可用内存 28.0 GB
市场价 US$4,200(截至 2026-08-09)
GeForce RTX 5090 Laptop
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 23.4 GB,可用内存 28.0 GB
—
Radeon RX 7800 XT
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 15.4 GB,可用内存 28.0 GB
首发价 US$499
Radeon RX 7900 XT
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 19.4 GB,可用内存 28.0 GB
首发价 US$899
Radeon RX 7900 XTX
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 23.4 GB,可用内存 28.0 GB
首发价 US$999
Radeon RX 9060 XT 16GB
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 15.4 GB,可用内存 28.0 GB
市场价 US$449(截至 2026-08-09)
Radeon RX 9070
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 15.4 GB,可用内存 28.0 GB
市场价 US$639(截至 2026-08-09)
Radeon RX 9070 XT
无法运行
—MXFP4需要 155.1 GB——
  • 约需 155.1 GB;可用显存 15.4 GB,可用内存 28.0 GB
市场价 US$689(截至 2026-08-09)

带思考模式的模型会额外花 token 来思考,所以速度门槛按 1.5 倍从严设定(30 / 12 / 3 tok/s)。关闭思考模式后,判定可能会高一级。

能运行它的最便宜 GPU

在有当前市场价的 GPU 中,没有一款能在 MXFP4 下达到“运行流畅”或“运行良好”。Mac、统一内存 PC 和 CPU 配置请看上方表格。

DeepSeek V4 Flash 0731 的实测结果

这个模型暂无公开基准测试结果。

常见问题

DeepSeek V4 Flash 0731 需要多少显存?

MXFP4 文件为 154.99 GB;在 8k 上下文下,显卡约需 155.1 GB(权重 154.42 GB、KV 缓存 0.1 GB、计算缓冲区 0.6 GB)。已收录的最小文件(Q2_K(质量损失大))约需 117.4 GB。 文件的一部分不会放到显卡上:llama.cpp 把输入嵌入表保留在系统内存中。Mac 按整个文件计算,所以需要的内存稍多一些。

能让 DeepSeek V4 Flash 0731 运行良好的最便宜 GPU 是哪款?

在有当前市场价的 GPU 中,没有一款能在 MXFP4 下达到“运行流畅”或“运行良好”。已收录的最佳选择是 Apple M5 Ultra · 256 GB:运行流畅。

DeepSeek V4 Flash 0731 能在 8 GB、16 GB 或 24 GB 的 GPU 上运行吗?

MXFP4、8k 上下文下:GeForce RTX 4060:无法运行; GeForce RTX 5060 Ti 16GB:无法运行; GeForce RTX 3090:无法运行。

速度是根据内存带宽得出的估算值,并用公开基准测试结果校准,每个数值都附有误差范围和可信度标签。实际结果会因驱动、后端、上下文长度和散热情况而有所不同。