RX 9070 XT vs RTX 5070：本地大模型运行对比
按 32 GB DDR5-5600 系统内存、Windows 系统且由这块显卡负责显示输出、8k 上下文和 f16 KV 缓存计算。
速度
RX 9070 XT 和 RTX 5070 的文本生成速度大致相同（基于 27 个在两者上都能以 Q4_K_M 或最接近的可用量化完全装入显存/内存的模型，取我们估算值的中位数）。
- 参考模型
- Qwen3 14B（Q4_K_M），即以 Q4_K_M 或最接近的可用量化计、两者都能完全装入显存/内存的最大模型
- RX 9070 XT
- 估算 47.4 tok/s（41.7–53.1，校准估算 ±12%）
- RTX 5070
- 估算 45.5 tok/s（40.0–50.9，校准估算 ±12%）
- Qwen3 14B 的提示词处理
- RX 9070 XT：约 2,237 tok/s（1,342–3,131，粗略估算 ±40%）；RTX 5070：约 2,228 tok/s（1,337–3,119，粗略估算 ±40%）
规格对比
| 规格 | RX 9070 XT | RTX 5070 | 差异 |
|---|---|---|---|
| 显存/内存 | 16 GB | 12 GB | RX 9070 XT 多 4 GB |
| 内存带宽 | 645.0 GB/s | 672.0 GB/s | RTX 5070 是对方的 1.04 倍 |
| FP16 算力 | 97.3 TFLOPS | 30.9 TFLOPS | RX 9070 XT 是对方的 3.15 倍 |
| 发布年份 | 2025 | 2025 | — |
| 价格 | 市场价 US$689（截至 2026-08-09） | 市场价 US$629（截至 2026-08-09） | — |
| 公开基准测试结果 | 1 条 | 3 条 | — |
判定一览
共 58 个模型，按 Q4_K_M（或最接近的可用量化）和 8k 上下文判定。
- RX 9070 XT运行流畅29 个模型运行良好8 个模型运行较慢11 个模型无法运行10 个模型
- RTX 5070运行流畅27 个模型运行良好8 个模型运行较慢13 个模型无法运行10 个模型
判定说明
- 运行流畅
- 全部载入显卡，且达到 20 tok/s 及以上
- 运行良好
- 全部载入显卡且为 8–20 tok/s；MoE 专家放在系统内存且达到 20 tok/s 及以上；或至少 90% 载入显卡且达到 8 tok/s 及以上
- 运行较慢
- 2–8 tok/s；纯 CPU；载入显卡不足 90%；或 MoE 专家放在系统内存且低于 20 tok/s
- 无法运行
- 内存装不下，或低于 2 tok/s
判定不同的模型
4 个模型在两者上的判定不同。
左右滑动可查看所有列。
| 模型 | RX 9070 XT 判定 | RX 9070 XT 速度 | RTX 5070 判定 | RTX 5070 速度 |
|---|---|---|---|---|
| gpt-oss-20bMXFP4 | 运行流畅 | 估算 139.9 tok/s111.9–167.9校准估算 ±20% | 估算 91.6 tok/s64.1–119.1理论估算 ±30% | |
| Kanana 1.5 15.7B-A3BQ4_K_M | 运行流畅 | 估算 101.1 tok/s80.9–121.4校准估算 ±20% | 运行良好 | 估算 95.9 tok/s67.1–124.7理论估算 ±30% |
| K2-Horizon MoVA 36B-A4BQ4_K_M | 运行良好 | 估算 32.7 tok/s22.9–42.5理论估算 ±30% | 运行较慢 | 估算 29.0 tok/s20.3–37.7理论估算 ±30% |
| Mistral Small 3.2 24BQ4_K_M | 运行良好 | 估算 19.7 tok/s15.8–23.6校准估算 ±20% | 运行较慢 | 估算 7.1 tok/s5.7–8.5校准估算 ±20% |
两者上的全部模型
左右滑动可查看所有列。
| 模型 | RX 9070 XT 判定 | RX 9070 XT 速度 | RTX 5070 判定 | RTX 5070 速度 |
|---|---|---|---|---|
| gpt-oss-20bMXFP4 | 运行流畅 | 估算 139.9 tok/s111.9–167.9校准估算 ±20% | 估算 91.6 tok/s64.1–119.1理论估算 ±30% | |
| Kanana 1.5 15.7B-A3BQ4_K_M | 运行流畅 | 估算 101.1 tok/s80.9–121.4校准估算 ±20% | 运行良好 | 估算 95.9 tok/s67.1–124.7理论估算 ±30% |
| Qwen3 14BQ4_K_M | 运行流畅 | 估算 47.4 tok/s41.7–53.1校准估算 ±12% | 估算 45.5 tok/s40.0–50.9校准估算 ±12% | |
| DeepSeek R1 Distill Qwen 14BQ4_K_M | 运行流畅 | 估算 46.2 tok/s40.7–51.8校准估算 ±12% | 运行流畅 | 估算 44.4 tok/s39.0–49.7校准估算 ±12% |
| HyperCLOVA X SEED Think 14BQ4_K_M | 运行流畅 | 估算 48.1 tok/s33.7–62.5理论估算 ±30% | 运行流畅 | 估算 46.1 tok/s32.3–60.0理论估算 ±30% |
| Phi-4Q4_K_M | 运行流畅 | 估算 45.7 tok/s40.2–51.2校准估算 ±12% | 运行流畅 | 估算 43.8 tok/s38.6–49.1校准估算 ±12% |
| Gemma 3 12BQ4_K_M | 运行流畅 | 估算 62.6 tok/s55.0–70.1校准估算 ±12% | 估算 60.0 tok/s52.8–67.2校准估算 ±12% | |
| Mellum2.1 12B-A2.5B ThinkingQ4_K_M | 运行流畅 | 估算 149.3 tok/s119.4–179.1校准估算 ±20% | 运行流畅 | 估算 196.5 tok/s157.2–235.8校准估算 ±20% |
| Gemma 4 12BQ4_K_M | 运行流畅 | 估算 67.6 tok/s59.5–75.7校准估算 ±12% | 运行流畅 | 估算 64.8 tok/s57.1–72.6校准估算 ±12% |
| Qwen3.5 9BQ4_K_M | 运行流畅 | 估算 79.9 tok/s70.3–89.4校准估算 ±12% | 运行流畅 | 估算 76.6 tok/s67.4–85.8校准估算 ±12% |
| K2-Horizon 7BQ4_K_M | 运行流畅 | 估算 72.1 tok/s63.5–80.8校准估算 ±12% | 运行流畅 | 估算 69.2 tok/s60.9–77.5校准估算 ±12% |
| Qwen3 8BQ4_K_M | 运行流畅 | 估算 78.6 tok/s69.2–88.0校准估算 ±12% | 运行流畅 | 估算 75.4 tok/s66.4–84.5校准估算 ±12% |
| DeepSeek R1 0528 Qwen3 8BQ4_K_M | 运行流畅 | 估算 78.6 tok/s69.2–88.0校准估算 ±12% | 运行流畅 | 估算 75.4 tok/s66.4–84.5校准估算 ±12% |
| DeepSeek R1 Distill Llama 8BQ4_K_M | 运行流畅 | 估算 81.8 tok/s72.0–91.6校准估算 ±12% | 运行流畅 | 估算 78.5 tok/s69.1–87.9校准估算 ±12% |
| Kanana 1.5 8BQ4_K_M | 运行流畅 | 估算 81.8 tok/s72.0–91.6校准估算 ±12% | 运行流畅 | 估算 78.5 tok/s69.1–87.9校准估算 ±12% |
| Llama 3.1 8BQ4_K_M | 运行流畅 | 估算 81.8 tok/s72.0–91.6校准估算 ±12% | 估算 78.5 tok/s69.1–87.9校准估算 ±12% | |
| Gemma 4 E4BQ4_K_M | 运行流畅 | 估算 121.6 tok/s85.1–158.0理论估算 ±30% | 运行流畅 | 估算 123.5 tok/s86.4–160.5理论估算 ±30% |
| Ling-3.0 TinyQ4_K_M | 运行流畅 | 估算 222.2 tok/s155.5–288.8理论估算 ±30% | 运行流畅 | 估算 318.9 tok/s223.2–414.6理论估算 ±30% |
| Gemma 4 E2BQ4_K_M | 运行流畅 | 估算 203.6 tok/s142.5–264.6理论估算 ±30% | 运行流畅 | 估算 215.2 tok/s150.7–279.8理论估算 ±30% |
| Qwen3.5 4BQ4_K_M | 运行流畅 | 估算 158.2 tok/s139.2–177.2校准估算 ±12% | 运行流畅 | 估算 151.8 tok/s133.6–170.0校准估算 ±12% |
| Nanbeige4.2 3BQ4_K_M | 运行流畅 | 估算 80.0 tok/s56.0–104.0理论估算 ±30% | 运行流畅 | 估算 76.8 tok/s53.7–99.8理论估算 ±30% |
| Spark-X2.5 4BQ4_K_M | 运行流畅 | 估算 168.9 tok/s148.6–189.2校准估算 ±12% | 运行流畅 | 估算 162.1 tok/s142.6–181.5校准估算 ±12% |
| Llama 3.2 3BQ4_K_M | 运行流畅 | 估算 165.6 tok/s145.8–185.5校准估算 ±12% | 运行流畅 | 估算 158.9 tok/s139.9–178.0校准估算 ±12% |
| LFM2.5 2.6BQ4_K_M | 运行流畅 | 估算 271.7 tok/s190.2–353.2理论估算 ±30% | 运行流畅 | 估算 260.7 tok/s182.5–338.9理论估算 ±30% |
| MiniCPM5 2BQ4_K_M | 运行流畅 | 估算 256.3 tok/s225.6–287.1校准估算 ±12% | 运行流畅 | 估算 246.0 tok/s216.5–275.5校准估算 ±12% |
| HyperCLOVA X SEED 1.5BQ4_K_M | 运行流畅 | 估算 270.0 tok/s237.6–302.4校准估算 ±12% | 运行流畅 | 估算 259.1 tok/s228.0–290.2校准估算 ±12% |
| EXAONE 4.0 1.2BQ4_K_M | 运行流畅 | 估算 373.3 tok/s328.5–418.0校准估算 ±12% | 运行流畅 | 估算 358.2 tok/s315.2–401.2校准估算 ±12% |
| Llama 3.2 1BQ4_K_M | 运行流畅 | 估算 454.5 tok/s400.0–509.1校准估算 ±12% | 运行流畅 | 估算 436.2 tok/s383.8–488.5校准估算 ±12% |
| MiniCPM5 1BQ4_K_M | 运行流畅 | 估算 550.0 tok/s484.0–616.0校准估算 ±12% | 运行流畅 | 估算 527.8 tok/s464.4–591.1校准估算 ±12% |
| K2-Horizon MoVA 36B-A4BQ4_K_M | 运行良好 | 估算 32.7 tok/s22.9–42.5理论估算 ±30% | 运行较慢 | 估算 29.0 tok/s20.3–37.7理论估算 ±30% |
| Qwen3.5 35B-A3BQ4_K_M | 运行良好 | 估算 64.1 tok/s44.9–83.3理论估算 ±30% | 运行良好 | 估算 63.3 tok/s44.3–82.3理论估算 ±30% |
| Qwen3.6 35B-A3BQ4_K_M | 运行良好 | 估算 69.3 tok/s48.5–90.1理论估算 ±30% | 运行良好 | 估算 68.6 tok/s48.0–89.2理论估算 ±30% |
| MiniCPM-V 4.7 35B-A3BQ4_K_M | 运行良好 | 估算 73.2 tok/s51.2–95.1理论估算 ±30% | 运行良好 | 估算 72.5 tok/s50.7–94.2理论估算 ±30% |
| Nemotron 3.5 Lightning 30B-A3BQ4_K_M | 运行良好 | 估算 55.0 tok/s38.5–71.5理论估算 ±30% | 运行良好 | 估算 47.5 tok/s33.3–61.8理论估算 ±30% |
| Qwen3 30B-A3B (2507)Q4_K_M | 运行良好 | 估算 57.0 tok/s39.9–74.2理论估算 ±30% | 估算 50.5 tok/s35.3–65.6理论估算 ±30% | |
| Gemma 4 26B-A4BQ4_K_M | 运行良好 | 估算 67.6 tok/s47.3–87.9理论估算 ±30% | 运行良好 | 估算 53.6 tok/s37.5–69.7理论估算 ±30% |
| Mistral Small 3.2 24BQ4_K_M | 运行良好 | 估算 19.7 tok/s15.8–23.6校准估算 ±20% | 运行较慢 | 估算 7.1 tok/s5.7–8.5校准估算 ±20% |
| EXAONE 4.5 33BQ4_K_M | 运行较慢 | 估算 6.2 tok/s4.9–7.4校准估算 ±20% | 运行较慢 | 估算 4.1 tok/s3.2–4.9校准估算 ±20% |
| DeepSeek R1 Distill Qwen 32BQ4_K_M | 运行较慢 | 估算 4.9 tok/s3.9–5.8校准估算 ±20% | 运行较慢 | 估算 3.4 tok/s2.7–4.0校准估算 ±20% |
| Qwen3 32BQ4_K_M | 运行较慢 | 估算 4.9 tok/s3.9–5.9校准估算 ±20% | 运行较慢 | 估算 3.4 tok/s2.7–4.1校准估算 ±20% |
| EXAONE 4.0 32BQ4_K_M | 运行较慢 | 估算 6.9 tok/s5.5–8.2校准估算 ±20% | 运行较慢 | 估算 4.3 tok/s3.5–5.2校准估算 ±20% |
| Gemma 4 31BQ4_K_M | 运行较慢 | 估算 7.9 tok/s6.3–9.5校准估算 ±20% | 运行较慢 | 估算 4.7 tok/s3.8–5.7校准估算 ±20% |
| Muse Glimmer 30BQ4_K_M | 运行较慢 | 估算 11.3 tok/s9.0–13.6校准估算 ±20% | 运行较慢 | 估算 5.8 tok/s4.7–7.0校准估算 ±20% |
| Granite 4.2 30BQ4_K_M | 运行较慢 | 估算 6.4 tok/s5.2–7.7校准估算 ±20% | 运行较慢 | 估算 4.0 tok/s3.2–4.9校准估算 ±20% |
| Qwen3.5 27BQ4_K_M | 运行较慢 | 估算 10.5 tok/s8.4–12.6校准估算 ±20% | 运行较慢 | 估算 5.6 tok/s4.5–6.7校准估算 ±20% |
| Qwen3.6 27BQ4_K_M | 运行较慢 | 估算 11.3 tok/s9.1–13.6校准估算 ±20% | 运行较慢 | 估算 5.8 tok/s4.6–6.9校准估算 ±20% |
| Qwen3.8 27BQ4_K_M | 运行较慢 | 估算 9.7 tok/s7.8–11.7校准估算 ±20% | 运行较慢 | 估算 5.3 tok/s4.3–6.4校准估算 ±20% |
| Gemma 3 27BQ4_K_M | 运行较慢 | 估算 11.7 tok/s9.3–14.0校准估算 ±20% | 运行较慢 | 估算 5.8 tok/s4.7–7.0校准估算 ±20% |
| GLM-5.3 FlashQ4_K_M | 无法运行 | — | 无法运行 | — |
| DeepSeek V4 Flash 0731MXFP4 | 无法运行 | — | 无法运行 | — |
| Solar Open 2 250BIQ4_XS | 无法运行 | — | 无法运行 | — |
| Ling-3.0 FlashQ4_K_M | 无法运行 | — | 无法运行 | — |
| Qwen3.5 122B-A10BQ4_K_M | 无法运行 | — | 无法运行 | — |
| Laguna S 2.1Q4_K_M | 无法运行 | — | 无法运行 | — |
| gpt-oss-120bMXFP4 | 无法运行 | — | — | |
| Solar Open 100BQ4_K_M | 无法运行改用 Q2_K（质量损失大）：运行较慢 | 估算 19.6 tok/s13.7–25.5理论估算 ±30% | 无法运行 | — |
| Kolibri 1Q4_K_M | 无法运行改用 Q2_K（质量损失大）：运行良好 | 估算 65.5 tok/s45.8–85.1理论估算 ±30% | 无法运行改用 Q2_K（质量损失大）：运行良好 | 估算 69.7 tok/s48.8–90.6理论估算 ±30% |
| Llama 3.3 70BQ4_K_M | 无法运行改用 Q2_K（质量损失大）：运行较慢 | 估算 2.6 tok/s2.1–3.2校准估算 ±20% | 无法运行改用 Q2_K（质量损失大）：运行较慢 | 估算 2.1 tok/s1.7–2.6校准估算 ±20% |
带思考模式的模型会额外花 token 来思考，所以速度门槛按 1.5 倍从严设定（30 / 12 / 3 tok/s）。关闭思考模式后，判定可能会高一级。
公开基准测试
RX 9070 XT 的实测结果
| 模型 | 量化 | 后端 | 上下文 | 提示词处理（tok/s） | 生成（tok/s） | 运行参数 | 来源 | 测量日期 |
|---|---|---|---|---|---|---|---|---|
| llama-2-7b | Q4_0 | llama.cpp | 512 | 5,048.0 | 131.5 | Vulkan | github.com | 2026-01-24 |
RTX 5070 的实测结果
| 模型 | 量化 | 后端 | 上下文 | 提示词处理（tok/s） | 生成（tok/s） | 运行参数 | 来源 | 测量日期 |
|---|---|---|---|---|---|---|---|---|
| llama-2-7b | Q4_0 | llama.cpp | 512 | 5,185.0 | 127.5 | — | github.com | 2025-08-20 |
| Qwen3.5 9B | Q8_0 | llama.cpp | 32k | 3,001.0 | 67.3 | — | localmaxxing.com | 2026-09-10 |
| Qwen3 8B | Q4_K_XL | llama.cpp | 4k | 3,488.0 | 85.8 | CUDA | hardware-corner.net | 2025-12-09 |
我们用于校准的公开基准测试。它们的测试条件（上下文、后端、运行参数）可能与上方的估算不同。
常见问题
运行本地大模型时，RX 9070 XT 和 RTX 5070 哪个更快？
RX 9070 XT 和 RTX 5070 的文本生成速度大致相同（基于 27 个在两者上都能以 Q4_K_M 或最接近的可用量化完全装入显存/内存的模型，取我们估算值的中位数）。Qwen3 14B Q4_K_M 的速度：RX 9070 XT 估算 47.4 tok/s（41.7–53.1，校准估算 ±12%）；RTX 5070 估算 45.5 tok/s（40.0–50.9，校准估算 ±12%）。
两者各自能完全装入显存/内存的最大模型是什么？
RX 9070 XT 能把 Muse Glimmer 30B IQ4_XS（15.44 GB 文件）完整装入 16 GB，估算 31.5 tok/s（27.7–35.3，校准估算 ±12%）。 RTX 5070 能把 Kanana 1.5 15.7B-A3B IQ4_XS（8.71 GB 文件）完整装入 12 GB，估算 130.8 tok/s（104.6–157.0，校准估算 ±20%）。
两者上各有多少本地大模型能运行良好？
以 Q4_K_M、8k 上下文计，在 58 个已收录的模型中，RX 9070 XT：运行流畅 29 个、运行良好 8 个、运行较慢 11 个、无法运行 10 个；RTX 5070：运行流畅 27 个、运行良好 8 个、运行较慢 13 个、无法运行 10 个。有 4 个模型的判定不同。
速度是根据内存带宽得出的估算值，并用公开基准测试结果校准，每个数值都附有误差范围和可信度标签。实际结果会因驱动、后端、上下文长度和散热情况而有所不同。