01
🔍
这页为什么重做
这一页 2026-04 写的时候是「全网设备摸底」——8 类设备、纯理论推算的 tok/s、一次性价格表。半年过去，它有三个问题已经不能忍了。
| 旧页的做法 | 现在的问题 | 这一版的做法 |
|---|---|---|
| 按别人的卡写：5090 D v2 / 7900 XTX / Mac Studio / DGX Spark | 作者自己的机器一次都没出现过，而所有实测都在自己机器上跑 | 以 M5 Pro 64GB 为基准锚点，其它设备做横向对照 |
| tok/s 全部标「理论推算，非实测 Benchmark」 | 推算值当横评，读者没法用来决策 | 能实测的写实测；测不了的老实留空 |
| 价格快照停在 2026-04 | 这半年显卡和内存都涨过一轮，6 个月的价已经是历史 | 两轮价格并排写，标明日期与置信度 |
| 「24GB 是消费级 GPU 天花板」 | 2026-10 已不成立（32GB 卡有两条路） | 改成按可用内存分档 |
| 「RTX 5090 原版 32GB 已被禁售」 | 与事实不符：被中国海关禁运的是 5090 D v2（2026-05-20 起） | 更正，并写清两者的区别 |
这一页的新顺序：先量你自己这台机器的可用内存 → 再看实测能跑多快 → 最后才比价。反过来做，就会为了一个装不下的模型去调参数。
02
📐
先量自己：可用内存才是硬指标
买之前先搞清楚一件事：标称内存不是你能用的内存。
可用内存
决定「能不能装下」
内存带宽
决定生成速度 (tokens/s)
算力 TFLOPS
决定提示词处理速度
软件生态
CUDA / ROCm / Metal
统一 vs 独立显存
容量与速度的取舍
理论 tokens/s = 内存带宽 (GB/s) ÷ 模型量化体积 (GB)
| 标称内存 | 实际可用于模型 | 差额去哪了 | 能跑的模型档位 |
|---|---|---|---|
| 8 GB | 5.73 GB | macOS 默认留给 GPU | 2B–4B Q4_K_M |
| 16 GB | 12.71 GB | 同上 | 4B–9B Q4_K_M |
| 32 GB | 约 26 GB | 同上 | 14B–27B Q4 |
| 64 GB（本机） | 55.66 GB | 同上（占标称 81%） | 27B Q4 · 79GB 模型走 SSD 模式 |
| 128 GB | 约 106 GB | 同上 | 70B 级 Q4 |
我自己在本机反复撞出来的一条线：权重体积不超过可用内存的一半。剩下一半要留给 KV 缓存和计算缓冲。超了不是跑不动，是跑得极慢——上下文一长，生成速度直接腰斩（我实测从 54.5 掉到 28.0 词元/秒）。
03
🧪
参考机：M5 Pro 64GB 实测能力表
这一节全是实测。所有数字都能指回原始记录。
MacBook Pro（我的参考机）
在用
55.66 GB 可用
芯片Apple M5 Pro，18 核（6 性能 + 12 能效）
内存64 GB 统一内存
带宽标称 307 GB/s，实测裸读 287 GB/s
算力FP16 约 28.2 万亿次/秒
系统macOS 26.7.1（25G241）
引擎llama.cpp b10705 · MLX 0.32.0 · Splash 1.0
这台机器上跑出来的实测速度
| 模型 | 量化 | 文件 | 32K 合计占用 | 生成 tok/s | 预填充 tok/s |
|---|---|---|---|---|---|
| MiniCPM5-2B | Q4_K_M | 1.56 GB | 3.10 GB | 133.6 | 3218.7 |
| Ling-3.0-tiny | Q4_K_M | 4.92 GB | 5.38 GB | 131.4 | 2873.0 |
| Granite 4.2 3B | Q4_K_M | 2.24 GB | 5.10 GB | 94.8 | 2086.5 |
| Gemma 4 E4B | QAT Q4_0 | 5.15 GB | 6.05 GB | 70.2 | 1233.9 |
| Qwen3-8B | Q4_K_M | 5.03 GB | 10.12 GB | 51.2 | 1180.7 |
| Qwen3.5-9B | Q4_K_M | 5.68 GB | 7.08 GB | 43.1 | 677.6 |
| Gemma 4 12B | QAT Q4_0 | 6.98 GB | 8.27 GB | 33.3 | 532.3 |
带宽达成率才是真本事。按「理论上限 = 带宽 ÷ 体积」算，4-bit 8B 模型在这台机器上理论能到约 1600 词元/秒。实测稠密模型达成 75–78%、小模型 61%、MoE 只有 36%。买机器看带宽没错，但别拿理论值当承诺。
27B 这一档怎么跑
| 跑法 | 实测速度 | 说明 |
|---|---|---|
| Splash 投机解码（4bit 主 + DFlash2 草稿） | 53.4 tok/s | 110 次请求中位；写代码接受率 63.2%，写中文只有 11.9% |
| llama.cpp 同参数量 Q8_0 | 9.11 tok/s | 不投机解码的基线 |
| llama.cpp Qwen3.8-27B Q8_0 | 7.4 tok/s | 长任务探针里的实测，全库最慢的一组 |
| Qwen3.8 Flash Next 2.6 位权重（79.21GB） | 36.1–44.7 tok/s | 走 Sushi 精确 SSD 模式，驻留 31.21 GiB |
完整数据在 本地模型实测报告，那页有全部 9 个模型、工具场景通过率和失败实录。
04
🖥️
设备清单：按可用内存分档
价格写「2026-10-18 行情」这一档，其余配置与能力见备注。
A. 消费级显卡
NVIDIA RTX 5090（32GB）
断货
¥35,000 → ¥54,000
显存32 GB GDDR7
带宽1,792 GB/s
状态2026-10-15 美官方商城下架；英伟达 10-17 否认停产
AMD Radeon AI PRO R9700
在售
¥10,999–12,999
显存32 GB
定位当前唯一买得到的 32GB 桌面卡
注意ROCm 生态不如 CUDA，部分模型要适配
NVIDIA RTX 5090 D v2（24GB）
禁运
指导价 ¥16,499 → 行情 ¥32,000–40,000
显存24 GB GDDR7
状态2026-05-20 起被中国海关列入禁止进口清单
提醒行情价含灰产溢价，不等于零售价
AMD RX 9070 XT
在售
¥5,500–6,000
显存16 GB
走势这半年基本没跟涨，部分型号还回落
注意16GB 跑 27B Q4 偏紧，建议 14B 以下或降上下文
NVIDIA RTX 5080
在售
¥14,899 → ¥15,988
显存16 GB
走势去年同期不到 8,000，一年翻倍
AMD RX 7900 XTX（24GB）
价格未核实
未找到当前报价
显存24 GB GDDR6
历史价首发 ¥7,999，2026-04 页面记 ~¥6,499
说明AMD 侧这半年整体没怎么跟涨，但没有确切现价
「24GB 是消费级天花板」这句话在桌面端已经不成立了。32GB 现在有两条路：RTX 5090（32GB）已经涨到 ¥54,000 实质买不到；Radeon AI PRO R9700（32GB，¥10,999 起）是当下唯一能买到的 32GB 桌面卡。但在笔记本端，RTX 5090 Laptop 仍是 24GB，24GB 天花板依然成立。
B. 笔记本电脑
联想 Y9000P 2026
在售
¥16,698 → 实付 ¥16,188（低配）
低配i9-14900HX / RTX 5060
至尊版满血 RTX 5090 Laptop 24GB —— 当前报价未找到
2026-04 旧价2025 款 ¥25,499
MacBook Pro 16"（M5 Pro / M5 Max）
在售
M5 Pro 起 ¥21,999 · M5 Max 起 ¥31,999
统一内存最高 128GB，M5 Pro 带宽 307 GB/s
128GB / 2TB京东活动 ¥43,499 → 实付 ¥41,999；另有渠道报 ¥55,999
2026-04 旧价¥35,999–57,999
C. 苹果台式机与迷你机
Mac mini M6
在售
起 ¥6,999（16GB + 256GB）
内存上限32GB 统一内存
带宽170 GB/s
判断最便宜的 Apple 入口，但 32GB 封顶，本地模型上限不高
Mac mini M5 Pro
在售
起 ¥12,999
内存上限64GB 统一内存
带宽307 GB/s（与我的参考机同款芯片）
判断性价比拐点在这：¥12,999 能拿到 64GB / 307GB/s
Mac Studio（M5 Max / M5 Ultra）
在售
M5 Max 起 ¥19,999 · M5 Ultra 起 ¥46,999
内存上限M5 Max 128GB / 614GB/s；M5 Ultra 512GB / 1.2TB/s
2026-04 旧价M4 Max 起 ¥16,499（已退市）· M3 Ultra 起 ¥32,999（已退市）
更正2026 款没有 M5 Pro Mac Studio
Mac Studio 的涨幅里混了换代溢价。旧页记的是 M4 Max 起 ¥16,499、M3 Ultra 起 ¥32,999，现在是 M5 Max 起 ¥19,999、M5 Ultra 起 ¥46,999。芯片代际、6 月官方涨价、内存成本三件事叠在一起，不能全算成「涨价」——同代对比是 M4 Max $1,999 → M5 Max $2,499（+25%）。
D. AI 专用主机
NVIDIA DGX Spark
缺货
$3,999 → $4,699 → $6,950
内存128GB LPDDR5x（另出 64GB 版 $4,999）
带宽273 GB/s
中国现货¥40,499–49,999，多数渠道缺货
判断内存减半反而更贵，官方价三级跳
AMD Strix Halo 395（128GB 迷你主机）
供给充足
¥11,999–28,599
型号数国内 22 款在售
带宽约 256 GB/s
判断整机自带 128GB，相对单买内存反而显出性价比
E. 内存与存储：涨价还没停
| 项目 | 2026-04（页面旧值） | 2026-10 行情 | 变化 |
|---|---|---|---|
| DDR5 64GB (32×2) 6000 | ¥4,600–5,200 | 约 ¥5,999–6,399 | 上涨约 15–30% |
| DDR5 32GB 单条 | （旧页的 ¥2,299–2,879 实为 32GB 总容量套装价） | ¥3,800（央视财经 2026-07 华强北实测） | 口径不同，不可直接比 |
| 2TB PCIe 5.0 SSD | ¥1,299 | 约 ¥2,400–2,600 | 接近翻倍 |
| X870E 主板 | ¥2,599 | ¥1,899–2,999 | 持平或略降 |
| Ryzen 9 9950X | ¥4,299 | 约 ¥2,500–4,799（两源冲突） | 这半年唯一没涨的件 |
涨势没有反转，只是从「恐慌式跳涨」变成「持续阴涨」。2026-03 底到 4 月初有过一次短暂回调，Q2 末重新抬头。10-21 的现货数据：DDR5 16Gb 每颗 US$58.58，30 日 +5.27%、同比 +501.67%；Q4 合约价预计再涨 10–20%。旧页那句「DRAM 涨价后」得改成「涨价仍在继续」。
05
💰
价格对比：2026-04 → 2026-10
两轮并排。查价日期 2026-10-22，价格多为 2026-10-18 前后行情。
| 项目 | 2026-04 | 2026-10 | 变化 | 置信度 |
|---|---|---|---|---|
| RTX 5090 D v2 24GB | ¥16,499–16,999 | 指导价不变，行情 ¥32,000–40,000（5-20 起禁运） | 实际成交翻倍 | 禁运 ⭐⭐⭐ / 价格 ⭐⭐ |
| RTX 5090 32GB | 页面称「已禁售」（与事实不符） | ¥35,000 → ¥54,000（美官方商城 10-15 下架，官方否认停产） | +50% | ⭐⭐⭐ |
| Radeon AI PRO R9700 32GB | 页面未列 | ¥10,999–12,999 | 现售 | ⭐⭐ |
| RTX 5080 16GB | 页面未列 | ¥14,899 → ¥15,988 | 一年翻倍 | ⭐⭐ |
| RX 9070 XT 16GB | 页面未列 | ¥5,500–6,000 | 基本没跟涨 | ⭐⭐ |
| RX 7900 XTX 24GB | ¥6,499 | 未找到当前报价 | 未核实 | — |
| RTX 4090D 24GB | ¥20,000–40,000+ | 已停产 / 在华禁售，未找到报价 | 停产属实 | ⭐⭐⭐ |
| Mac Studio 起价 | ¥16,499（M4 Max） | ¥19,999（M5 Max） | +21% | ⭐⭐⭐ |
| Mac Studio Ultra 起价 | ¥32,999（M3 Ultra） | ¥46,999（M5 Ultra） | +42% | ⭐⭐⭐ |
| Mac mini | 页面未列 | M6 起 ¥6,999 · M5 Pro 起 ¥12,999 | 新机型 | ⭐⭐⭐ |
| MacBook Pro 16" | ¥35,999–57,999 | M5 Max 起 ¥31,999；顶配 128GB 约 ¥49,124–58,124 | 官方 6 月涨约 20% | ⭐⭐ |
| DGX Spark 128GB | ¥30,000–40,000 | $6,950 / 中国 ¥40,499–49,999 | $3,999 起三级跳 | 官方价 ⭐⭐⭐ |
| Strix Halo 395 128GB 主机 | ¥15,000–25,000 | ¥11,999–28,599（22 款在售） | 下限跌破旧区间 | ⭐⭐ |
| DDR5 64GB (32×2) | ¥4,600–5,200 | 约 ¥5,999–6,399 | +15–30% | ⭐⭐ |
| 2TB PCIe 5.0 SSD | ¥1,299 | 约 ¥2,400–2,600 | 接近翻倍 | ⭐ |
四组不能直接比的：① Mac Studio 换代了，涨幅里混了芯片代际溢价；② DDR5 32GB 旧页是套装价、现在是单条价；③ DGX Spark 的 128GB 和 64GB 版不是同一件东西；④ RTX 5090 32GB 从未被中国禁售，被禁运的是 5090 D v2。另外：显卡价格是日更行情，文中数字请按「2026-10-18 行情」看。
06
📊
能力矩阵：实测的与未核实的分开写
旧页把这两种数字混在同一张表里，读者没法判断该信哪个。这一版拆开。
| 设备 | 可用内存 | 实测速度 | 来源 |
|---|---|---|---|
| M5 Pro 64GB（本机） | 55.66 GB | 9B 43.1 / 8B 51.2 / 27B 53.4 tok/s | 本机实测，2026-09 → 10 |
| RTX 4070 Laptop 8GB | 8188 MiB 显存 | Granite 3B 73.9 / Gemma 4 E4B 60.8 / Qwen3.6-35B-A3B 75–90 tok/s | 本机 Windows 侧实测，2026-09 → 10 |
| Apple 8GB 机型 | 5.73 GB | 2B 133.6 tok/s | 同机 64GB 实测值，仅供参照 |
| DGX Spark 128GB | 未实测 | 未核实 | 官方 273 GB/s 为规格值 |
| Strix Halo 395 128GB | 未实测 | 未核实 | 约 256 GB/s 为规格值 |
| RTX 5090 / R9700 32GB | 未实测 | 未核实 | 本页不推算 |
我只给自己量过的设备下结论。DGX Spark、Strix Halo、5090 这些我没跑过，就不写它们的 tok/s。旧页那张「8 台设备速度对比表」全部是推算值，这一版把它删了。要知道它们多快，等我实测，或者看厂商口径并知道那是规格上限。
07
🌳
选购决策树
🎯 先问一句：你现在这台机器的可用内存是多少？
💰 可用内存 < 6GB（8GB 机型）
→ 别折腾大模型，先把内存升上去
5.73GB 可用只能跑 2B–4B Q4。想跑 9B 以上，内存是硬门槛内存比显卡更值钱
💰 可用内存 12–14GB（16GB 机型）
→ Mac mini M5 Pro 路线最划算
¥12,999 换 64GB / 307GB/s，比同价位的独显整机省心Mac mini M5 Pro
💰 可用内存 26GB（32GB 机型）
→ 27B Q4 刚好，14B Q6 也够
也可以走显卡：RTX 5080 ¥15,988 / RX 9070 XT ¥5,500–6,000注意显存只有 16GB
💰 可用内存 50GB+（64GB 机型）
→ 27B 随便跑，79GB 模型走精确 SSD
实测 27B 投机解码 53.4 tok/s；79GB 模型用 32GiB SSD 模式，驻留 31.21 GiBMac mini M5 Pro / MBP M5 Pro
🎬 要跑 70B 以上
→ 128GB 统一内存，或 128GB 的 AI 主机
Mac Studio M5 Max 起 ¥19,999（128GB）；Strix Halo 395 整机 ¥11,999 起自带 128GB两者都未在本机实测
🖥️ 要 32GB 桌面显存
→ Radeon AI PRO R9700
¥10,999–12,999，现货；RTX 5090 32GB 已涨到 ¥54,000，不值得等R9700
如果只让我推荐一台：Mac mini M5 Pro，¥12,999 起。64GB 统一内存、307GB/s 带宽，和我所有实测同款芯片；27B 投机解码 53.4 tok/s，79GB 模型靠精确 SSD 模式也能跑。比同价位拼显卡的整机省心一个数量级——前提是你不依赖 CUDA 独占的模型或工具。
08
📦
在售状态与数据来源
Mac mini M6 / M5 Pro
✅ 在售
Mac Studio M5 Max / M5 Ultra
✅ 在售
MacBook Pro 16" 全系
✅ 在售
Radeon AI PRO R9700 32GB
✅ 在售
RX 9070 XT / RX 7900 XTX
✅ 在售
Strix Halo 395 迷你主机
✅ 22 款在售
RTX 5090 32GB
⚠️ 缺货涨价
RTX 5090 D v2
⛔ 中国禁运
RTX 4090D
⛔ 已停产
DGX Spark
⚠️ 缺货涨价
数据可信度分级：⭐⭐⭐ 官方来源（Apple 官网新闻室、NVIDIA 官方回应、厂商发布页、DRAM 现货指数）| ⭐⭐ 媒体报道与电商挂牌价（带日期与链接）| ⭐ 推导或近月价 | — 未找到当前报价
- 本机硬件与实测 ⭐⭐⭐ — system_profiler / sysctl 实扫；llama.cpp b10705、M5 Pro 64GB、macOS 26.7.1；9 个 GGUF 模型的原始 JSON 与下载回执
- 可用内存与带宽 ⭐⭐⭐ — Metal
recommendedMaxWorkingSetSize（55.66 GB）；Apple 规格页 307 GB/s；裸读实测 287 GB/s - Apple 定价 ⭐⭐⭐ — 苹果中国官网新闻室与选购页（2026-09-22 Mac mini / Mac Studio 发售公告）
- RTX 5090 状态 ⭐⭐⭐ — NVIDIA 美国官方商城 2026-10-15 下架商品页；英伟达个人计算业务高级副总裁 Jeff Fisher 2026-10-17 回应
- 5090 D v2 禁运 ⭐⭐⭐ — 2026-05-20 中国海关禁止进口清单相关报道
- 显卡行情 ⭐⭐ — 2026-10-18 前后电商挂牌价与媒体报道；显卡是日更行情，数字会过期
- DRAM 走势 ⭐⭐⭐ — 2026-10-21 现货指数（DDR5 16Gb US$58.58，30 日 +5.27%、同比 +501.67%）；Q4 合约价预测 +10–20%
- Strix Halo 整机 ⭐⭐ — 2026-09-11 国内 22 款在售机型汇总（¥11,999–28,599）
- RTX 4070 Laptop 8GB ⭐⭐⭐ — 本机 Windows 侧实测：显存 8188 MiB、显存峰值 7850 MiB、系统内存峰值 26.39 GiB
- 未核实项 — RX 7900 XTX 现价、Ryzen 7 9700X 现价、Mac Studio 高配选配价、Y9000P 至尊版现价、RTX 4090D 现价：均写「未找到当前报价」
返回首页 · 本地模型实测报告 · 本地部署 · AI Agent 实战对照