想跑本地大模型,最容易先看显卡名字和价格:预算够不够上新卡,是否一步到位买大内存Mac?我更愿意先把顺序倒过来:你准备运行哪份模型文件,想保留多长的对话,能接受怎样的等待,再决定买哪台设备。
Qwen4放在这里,是为后续模型提前做设备功课;本期没有Qwen4本地实测或兼容性验证,实际依据是视频中的四组模型:Qwen3.8 27B、Qwen3.8 Flash-Next、Qwen3.5 9B和4B。设备与报价来自本期资料,价格是2026年10月30日所选京东SKU的采集快照,包含裸卡、整机、二手及带条件优惠,不能直接当作当前到手价。公开性能记录会注明相应软件与配置,没有测试的设备不冒充我逐台实测。
先问装不装得下,再问用起来快不快
内存容量像桌面面积,决定这一摞资料能不能放下;带宽像把资料搬上桌的通道,决定搬得有多快。两张卡都写着24GB,不代表生成速度一样。反过来,一台机器带宽很高,也不能凭空装进超出容量的权重和运行缓冲。
权重文件之外,还要给上下文缓存、运行过程和其他模块留空间。上下文缓存可以理解成当前对话的随手笔记:聊天拉长,笔记也会增多。同一台机器能启动模型,与能长期维持你需要的对话长度,是两个要分别检查的使用条件。
片中用约16.46GB的四比特文件说明27B的容量安排。这里只是具体量化文件,不是“所有27B都只占这么多”。购买前先下载或查看你要使用的那份权重清单,再核对引擎、缓存格式和上下文设置,不要只凭模型名字推预算。
还有一种坑藏在商品选项里:片中N5 MAX所选项写着“64G+128GB”,实际是64GB内存与128GB系统存储,并不是192GB内存。硬盘负责长期存文件,内存负责当前运行,名字相近也不能相加。选SKU时看参数明细,别只看按钮上的一行字。
Qwen3.8 27B:24GB旧卡、大内存整机和新旗舰,各买到什么
20GB的7900 XT和24GB的7900 XTX,适合从已有主机和预算出发比较。片中对应样例是5599元与6998元,都是裸卡价。7900 XTX的官方规格为24GB显存、最高960GB/s带宽;它不等于片中每秒约76词元的测试成绩。后者来自开发者记录,绑定三比特优化包、ROCm后端、多词元预测及短提示条件。
查看AMD原厂规格可以确认硬件参数;查看对应开发者记录才是了解那次性能结果的入口。把这两类证据分开,选卡时才不会误把标称带宽换算成出字速度。
3090同样是24GB,主要吸引力之一是CUDA软件选择较多,但片中二手样例11800元并不天然比前面的方案更划算。旧卡状态、电源、散热和售后都要一起算。4090与5090 D v2的片中样例仍是24GB:升级了算力和带宽,模型能容纳多少却没有按价格同比增加。
想带着走,MacBook Air的轻便、安静与统一内存有吸引力;统一内存是系统与处理器、图形处理器共用的一池空间,不是全部都能留给模型。片中32GB Air与64GB N5 MAX、32GB显存R9700对应不同取舍,不适合只把容量排个高低就直接下单。
R9700给到32GB显存,带宽却低于片中的7900 XTX。这正好把问题说清楚:如果原本卡在装不下,更大容量能解决问题;如果已经装得下,速度还要看引擎实际表现。
全球版5090的32GB确实同时增加容量和带宽,但片中引用的长上下文案例,在不同引擎、单卡和双卡条件下表现并不相同。已经有24GB卡的人,我更建议先核对目标权重和软件路线,再决定换卡到底解决什么,而不是为了更新的编号重复付钱。
| 设备/所选配置 | 容量 | 带宽口径 | 快照价与范围 |
|---|---|---|---|
| RX 7900 XT 20GB | 20GB 独立显存 | 800GB/s | 5,599元 · 裸卡 |
| RX 7900 XTX 24GB | 24GB 独立显存 | 960GB/s | 6,998元 · 裸卡 |
| RTX 3090 24GB | 24GB 独立显存 | 936GB/s | 11,800元 · 裸卡 |
| MacBook Air M5 32GB | 32GB 统一内存 | 153GB/s | 13,673元 · 整机 |
| 铭凡N5 MAX AI Max 395 64GB | 64GB 共享系统内存 | 273.056GB/s | 15,599元 · 整机 |
| Radeon AI PRO R9700 32GB | 32GB 独立显存 | 640GB/s | 17,899元 · 裸卡 |
| RTX 4090 24GB | 24GB 独立显存 | 1008GB/s | 27,799元 · 裸卡 |
| YOGA Pro15 RTX Spark 128GB | 128GB 统一内存 | 未核实/按配置 | 41,284元 · 整机 |
| RTX 5090 D v2 24GB | 24GB 独立显存 | 1344GB/s | 44,892元 · 裸卡 |
| RTX 5090全球版32GB | 32GB 独立显存 | 1792GB/s | 59,649元 · 裸卡 |
2026-10-30所选SKU快照;性能需看正文中的具体权重和引擎。
Flash-Next:小显存能运行,前提是把整套搭配写全
Flash-Next的常规四比特文件在本期资料中约94~111GB。看到这个量级,先别急着把“小显存能跑”的记录当成矛盾:有些方案会让参数分布在显卡、主机内存甚至硬盘。就像常翻的资料放桌上,不常翻的留在柜子里,桌子可以小一点,来回搬运的成本却不能忽略。
如果你已经有128GB内存台式机,先用现有设备试,新增硬件费可以是零。这不是一台整机免费;也不代表相同容量的DDR4和DDR5主机会有相同速度。已有64GB M5 Pro,也可以先研究匹配的Splash量化与草稿模型,不必先把旧设备判死刑。
片中的Splash约95词元/秒,是开发者在对应M5 Pro、Q2包与草稿模型条件下的短提示记录。草稿模型可以理解成先写一个候选答案,再由主模型校验,省下部分逐字生成的等待;它和降低权重精度并不是同一种优化。部署入口与当前支持格式,可查Splash项目说明。
P40裸卡样例1850元很抓眼,但片中的Strata测试还配了约98GB主机内存、对应CUDA环境与专门构建。3060那条路线同样要把64GB主机内存和NVMe硬盘放进成本表,不能只买一张12GB显卡就期待复现整套结果。
同一台3060主机,片中引用的Q2与三比特包记录就有明显速度差别。因此,看一张“多少词元/秒”的图时,至少同时留下卡、内存、量化包、提示长度和首字时间。想照着复现,先查Strata项目及其测试记录入口,不要只抄结果数字。
如果不想拼装主机和处理旧卡,128GB共享内存整机提供了另一种选择。片中EVO-X3与ProArt创13都使用AI Max 395平台,桌面和笔记本的差价还包含便携、持续功耗、散热与整机设计。相同处理器名字,也不能省掉具体SKU核对。
Mac Studio与MacBook Pro也要看具体M5 Max档位。片中40核GPU版本标称614GB/s,32核版本是另一档;只认“M5 Max”四个字,容易把不同配置混在一起。容量通常在购买时决定,后续升级空间也要提前算进选择。
DGX Spark这类整机还有开发环境和已有部署方案的价值,但片中专用vLLM路线包含权重、映射和补丁条件。更贵的整机并不会自动抹掉维护工作;你要买的是能持续完成自己任务的一整条路线。
| 设备/所选配置 | 容量 | 带宽口径 | 快照价与范围 |
|---|---|---|---|
| 已有128GB台式机 | 128GB 系统内存 | 未核实/按配置 | 0元 · 已有设备新增费用 |
| 已有M5 Pro 64GB与Splash | 64GB 统一内存 | 307GB/s | 0元 · 已有设备新增费用 |
| Tesla P40 24GB与Strata | 24GB 独立显存 | 346GB/s | 1,850元 · 裸卡 |
| RTX 3060 12GB与Strata | 12GB 独立显存 | 360GB/s | 2,319元 · 裸卡 |
| RTX 5060 Ti 16GB与Strata | 16GB 独立显存 | 448GB/s | 7,452元 · 裸卡 |
| EVO-X3 AI Max 395 128GB | 128GB 共享系统内存 | 256GB/s | 21,599元 · 整机 |
| ProArt创13 AI Max 395 128GB | 128GB 共享系统内存 | 256GB/s | 23,499元 · 整机 |
| Mac Studio M5 Max 128GB | 128GB 统一内存 | 614GB/s | 40,040元 · 整机 |
| MacBook Pro M5 Max 128GB | 128GB 统一内存 | 614GB/s | 51,732元 · 整机 |
| DGX Spark 128GB | 128GB 统一系统内存 | 273GB/s | 52,734元 · 整机 |
“已有设备”按新增硬件费计;裸卡路线还需主机内存、存储、电源与散热。
量化、裁剪、草稿加速与分层加载,别混成一种“神优化”
量化主要改变参数用多少位来表示;裁剪会改变保留哪些部分;草稿加速是在生成过程中先猜再校验。片中还特别区分了面向代码的Coder分支和保留全部专家的原版量化。日常中文、长文和通用问答,不能直接照搬代码任务里的选择。
分层加载又是另一种安排:把当前需要的一层搬进来,算完再换下一层。它有机会降低显存门槛,代价可能落到硬盘容量、数据搬运和等待。片中AirLLM的低显存记录适合说明“可以启动”的路线,不能只看显存数字就推导出聊天很流畅。
这也是我建议的验收顺序:先确认模型能加载,再看首字需要等多久,最后看持续生成和长对话是否仍然可用。三项分开记,比只截一个峰值速度更接近买回家以后的体验。
预算再低,就先缩小模型,不一定先换电脑
本期Qwen3.5 9B四比特文件约5.68GB,4B约2.74GB,开始接近更多现有设备可尝试的范围。P100样例638元有16GB显存,但退役计算卡的驱动、供电、散热仍要自己解决。便宜卡价不适合替代整机成本,更不适合省掉旧硬件状态检查。
N100小主机的整机价格更容易算,但内存通道和实际频率会影响体验。9B等得太久时,先试4B,可能比继续加预算更贴近“先用起来”的目标。
Intel Arc B580、A770与不同代显卡,也各有容量和软件适配取舍。先确认所选后端支持具体架构和模型,再看显存、带宽与报价。不能用一家平台上的成绩替另一家作保证。
笔记本尤其容易把两个容量相加:32GB主机内存加12GB独立显存,不是44GB同速显存。片中蛟龙16 Pro的路线还要连同插电、风扇和持续负载看;轻薄Arm本则要确认软件实际调用的是CPU、GPU还是NPU。
| 设备/所选配置 | 容量 | 带宽口径 | 快照价与范围 |
|---|---|---|---|
| Tesla P100 16GB | 16GB HBM2独立显存 | 732GB/s | 638元 · 裸卡 |
| N100 16GB | 16GB 系统内存 | 38.4GB/s | 2,069元 · 整机 |
| Intel Arc B580 12GB | 12GB 独立显存 | 456GB/s | 3,199元 · 裸卡 |
| Intel Arc A770 16GB | 16GB 独立显存 | 560GB/s | 3,369元 · 裸卡 |
| RTX 4060 Ti 16GB | 16GB 独立显存 | 288GB/s | 4,599元 · 裸卡 |
| 惠普战66 H255 16GB | 16GB 系统内存 | 未核实/按配置 | 4,811元 · 整机 |
| RX 9070 XT 16GB | 16GB 独立显存 | 640GB/s | 7,506元 · 裸卡 |
| 华硕灵耀14 Air X2 Elite 32GB | 32GB 共享系统内存 | 152GB/s | 11,424元 · 整机 |
| 蛟龙16 Pro RTX 5070 Ti | 12GB 独立显存;另32GB系统内存 | 672GB/s | 12,627元 · 整机 |
| MI50 32GB补充候选 | 32GB HBM2独立显存 | 1000GB/s | 未采到准确报价 · 未采到准确价格 |
旧卡和第三方定制板型应另核实成色、频率、质保、驱动及散热;无准确报价的候选不补造价格。
已有安卓手机,可以先用兼容应用和合适的小模型试短对话;树莓派和Jetson适合各自的学习、边缘部署与项目用途。前者的电源套餐价不包含所有存储与机箱,后者也要选对软件与性能模式。只为体验聊天,从零购买开发板未必比先用现有电脑更合适。
| 设备/所选配置 | 容量 | 带宽口径 | 快照价与范围 |
|---|---|---|---|
| 已有安卓手机 | 按具体机型 | 未核实/按配置 | 0元 · 已有设备新增费用 |
| 树莓派5 8GB | 8GB 共享系统内存 | 17GB/s | 1,839元 · 开发板电源套餐 |
| Jetson Orin Nano Super 8GB | 8GB 统一内存 | 102GB/s | 3,969元 · 开发套件 |
手机按已有设备新增费用计;开发板套餐与配套范围以快照记录为准。
下单前,把这份配置说明写完整
先写目标模型的准确文件名与量化版本,再写所用引擎、所需上下文和能接受的等待。接着核对整机内存、显存、硬盘、电源、散热与平台支持,最后再用当前商品页确认SKU和到手价。能借到、已有的设备,先试一次自己的真实任务。
如果主要需求只是短对话与轻任务,小模型能完成,就不必为了一个更大的参数名先买新电脑。如果确实要长期跑更大模型,再看专用部署方案能否复现、维护起来是否愿意承担。真正要比较的,是整套可用方案的成本,而不是一张显卡的名字。个人观点,仅供参考。
自制软件
版本、功能变化和安装平台统一取自公开发行记录。
黑粉助手 HyphenAssistant
用手机浏览器接着操作电脑上的 DeepSeek Harness 会话;需原服务、电脑和网络保持在线,模型费用沿用原配置。
修复“开放端口”和“动态域名+开放端口”模式中,电脑无法回读自身外网地址时,配对二维码按钮一直不可用的问题。二维码和一次性配对令牌均在本机生成,不依赖在线二维码服务。外网回读失败时可以先生成二维码,再用手机移动网络实际测试;界面明确提示入口尚未验证。临时链接仍须实际连通后才能生成二维码。
方寸智匣 LocalBrain
本地 AI 工具箱:转写、配音、生图、视频和 MCP 工具集中管理;具体功能以对应平台版本为准。
Mac本轮核对 · 下载与更新 源码说明检查实际成功:41545760458,本轮无需历史CI例外。 Mac DMG SHA-256:4b66333e2778a637291e069fd2bd7cd7836b3e07f3877cf4bd3795e3ca2e2481。
黑粉盒子 HyphenBox
免费大模型 API 雷达与本地统一路由:持续复测可用性,Key 只存本机。
图片与视频历史支持单条移除、批量清理已结束任务和撤销,默认只显示最近六条。清理状态与撤销信息在重开后保留,进行中的任务、生成文件、另存文件、原始事件与幂等键受保护;批量清理不受页面最近200条上限影响;新增可复用的平台协议配置:统一描述提交路径、类型化参数、模型列表、结果字段和异步查询。同协议新模型可沿用平台配置;协议、必填字段或输入…
光影词库 ScreenLex
把本地电影与剧集字幕变成可复习的英语词库,全程离线。
侧边栏新增赞助入口,点开是一张二维码,不打扰、不弹窗、不影响任何功能。
黑粉录屏 HyphenScreen
录屏与剪辑一体:达芬奇式时间线、自动打码、导出前做成片体检。
本版统一在线、本地和订阅模型的运行与完成统计,并修复动画只说计划就结束、错误反馈不清晰和同位置重复放置的问题。

微信赞赏 · 金额随意

































留言
正在加载留言…