Apple M4 Pro 能运行 gpt-oss-120b 吗？
无法运行MXFP4 需要 64.3 GB，比 44.8 GB 可用内存多出 19.5 GB；而且在 64 GB 内存下，没有已收录的量化能达到可用速度。
64 GB 统一内存 · 273.0 GB/s · FP16 8.1 TFLOPS。 按 8k 上下文和 f16 KV 缓存计算。判定按内存容量分别列出。
不同内存容量下的判定
本页使用 64 GB 配置；下面列出所有容量。
- 24 GB无法运行MXFP4 装不下
- 48 GB无法运行MXFP4 装不下
- 64 GB无法运行MXFP4 装不下(本页采用)
Apple M4 Pro 上 gpt-oss-120b 的全部量化
| 量化 | 文件大小 | 判定 | 速度 | 显存/内存 | 运行方式 | 备注 |
|---|---|---|---|---|---|---|
| MXFP4基准 | 63.39 GB | 无法运行 | — | 约需 64.3 GB；可用内存 60.0 GB（其中 GPU 可用 44.8 GB） | — | — |
带思考模式的模型会额外花 token 来思考，所以速度门槛按 1.5 倍从严设定（30 / 12 / 3 tok/s）。关闭思考模式后，判定可能会高一级。
MXFP4 下的内存占用
MXFP4 装不下——需要 64.3 GB，而可用内存只有 44.8 GB，因此没有可细分的内容。
上下文长度与 KV 缓存
| 上下文 | KV f16 | KV q8_0 | KV q4_0 |
|---|---|---|---|
| 4k | 64.1 GB装不下 | 64.0 GB装不下 | 64.0 GB装不下 |
| 8k | 64.3 GB装不下 | 64.1 GB装不下 | 64.1 GB装不下 |
| 16k | 64.6 GB装不下 | 64.4 GB装不下 | 64.2 GB装不下 |
| 32k | 65.4 GB装不下 | 64.8 GB装不下 | 64.5 GB装不下 |
| 64k | 66.9 GB装不下 | 65.8 GB装不下 | 65.2 GB装不下 |
| 128k | 69.9 GB装不下 | 67.7 GB装不下 | 66.5 GB装不下 |
S = 运行流畅 · A = 运行良好 · B = 运行较慢 · F = 无法运行
在 MXFP4 下，没有能装下的上下文长度：即使 4k 也需要 64.1 GB，而可用的只有 44.8 GB。
估算速度
- 生成
- —
- 提示词处理
- 只有整个模型都在 GPU 上运行时，才提供提示词处理速度估算。
这一组合的实测结果
这一组合还没有公开的实测结果；上面的数字都是估算。
如果这还不够
在 Apple M4 Pro 上运行良好的更小模型
运行流畅Qwen3.5 35B-A3B: 运行流畅，估算 60.3 tok/s（48.3–72.4，校准估算 ±20%）
Apple M4 Max (40-core GPU) 上运行 gpt-oss-120b
运行流畅MXFP4：运行流畅，估算 92.5 tok/s（74.0–111.0，校准估算 ±20%）
运行方法
没有运行命令：这个文件放不进 GPU 可使用的 44.8 GB 统一内存。
相关页面
Apple M4 Pro 上的其他模型
其他硬件上的 gpt-oss-120b
常见问题
Apple M4 Pro 能运行 gpt-oss-120b 吗？
MXFP4 需要 64.3 GB，比 44.8 GB 可用内存多出 19.5 GB；而且在 64 GB 内存下，没有已收录的量化能达到可用速度。MXFP4 在 8k 上下文下需要 64.3 GB；GPU 可使用的统一内存为 44.8 GB。
gpt-oss-120b 在 Apple M4 Pro 上最多能用多长的上下文？
没有能装下的上下文长度：即使在 4k 下，MXFP4 也需要 64.1 GB，而可用内存只有 44.8 GB。
该用哪个量化？速度如何？
这里没有已收录的量化能运行：最小的文件（MXFP4，63.39 GB）在 8k 上下文下需要 64.3 GB，而 GPU 可使用的统一内存只有 44.8 GB。
速度是根据内存带宽得出的估算值，并用公开基准测试结果校准，每个数值都附有误差范围和可信度标签。实际结果会因驱动、后端、上下文长度和散热情况而有所不同。