最近一段时间,以 DeepSeek 为代表的国产大模型,凭借开源生态和硬件适配性,催生了大量钟情本地部署的极客玩家,本地部署也就成了热门话题。本地部署的AI有着低延迟高安全低成本的优势,但对硬件要求是非常高的。比较重要的是CPU,GPU以及内存,大容量内存决定了本地 AI 模型的可选范围和运行效率,如果你内存不够大,卡死也是比较可能的。 & A* w D: C+ ^! Z最近由于出现了单条32G的条子,组64G也是比较方便的事了,海盗船也更新了最新的复仇者内存条,单条32G可以根据自己需求购买。价格是比较便宜的。另外我手上正好也有张微星的5070TI神龙显卡,显存也有个16G,正好也看看大容量内存以及大显存显卡对 AI 本地部署的加成有多大效果。