硬件要不要升级

后台常有人问"我这配置能不能跑某模型"。这篇按配置分档说清楚能跑什么，再说什么时候值得花钱。

一、按配置分档

配置	能比较舒服地跑	体验
核显 + 16GB 内存	3B–7B Q4	能用，7B 每秒几个字
8GB 显存	7B–8B Q4	日常问答流畅
12–16GB 显存	14B Q4	质量明显提升，速度可接受
24GB 显存	32B Q4	接近云端小模型水平，速度一般
48GB 以上	70B Q4 或大 MoE	发烧级，家用性价比低

以上是"能跑起来"的量级估计，具体还要看上下文长度和量化等级。同一张卡，跑 4K 上下文和 32K 上下文是两个体验，长文档场景别按最短的算。

还有一个容易忽略的点：显存够用之后，再往上加对日常使用的提升远不如"换一个更适合的模型"。很多人升级完发现速度只快了一点，就是因为在瓶颈不在显存的地方花了钱。

二、瓶颈到底在哪

先用 ollama ps 看模型是不是 100% 在 GPU 上。如果是，说明显卡够用，慢是因为模型本身就这么大；如果显示一部分在 CPU，那加显存才是有效升级。

判断顺序：

显存容量不够：模型被迫分层，速度断崖，最值得升。
显存带宽低：同容量下速度慢，换卡有效。
内存容量不足：系统频繁换页，什么都慢。
CPU 通常不是生成阶段的瓶颈，除非纯 CPU 推理。

三、性价比排序

加内存到 32GB、走双通道：便宜、见效，尤其对核显和 CPU 推理。
换更大显存的显卡：效果最直接，也最贵。
换 SSD：只影响加载速度，不影响生成速度，但机械盘确实拖累体验。
换 CPU：对生成阶段帮助有限，不建议为此单独升级。

四、别花冤枉钱

不要为跑某个超大模型买卡。模型更新很快，今天的最优解半年后可能被同规模新模型超过。
二手矿卡便宜但风险高，长期高负载跑推理不稳定。
笔记本外接显卡坞，带宽和散热都打折，性价比低。
只偶尔用一次大模型，租云 GPU 按小时算更划算。
升级前确认电源功率、机箱长度、主板插槽，别买回来装不上。

五、我的建议

先明确用途：日常问答和写材料，7B–14B 足够；做知识库、批改、长文档分析，14B–32B 更合适。预算内优先"显存容量达标"，而不是"跑分更高"。能满足需求就是够用，省下的钱不如买块硬盘备份资料。