飞雪团队

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 80|回复: 0

想本地部署AI64G内存加5070TI以上显卡少不了

[复制链接]

6478

主题

6566

帖子

2万

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
21758
发表于 2025-4-8 12:00:33 | 显示全部楼层 |阅读模式
最近一段时间,以 DeepSeek 为代表的国产大模型,凭借开源生态和硬件适配性,催生了大量钟情本地部署的极客玩家,本地部署也就成了热门话题。本地部署的AI有着低延迟高安全低成本的优势,但对硬件要求是非常高的。比较重要的是CPU,GPU以及内存,大容量内存决定了本地 AI 模型的可选范围和运行效率,如果你内存不够大,卡死也是比较可能的。
& A* w  D: C+ ^! Z最近由于出现了单条32G的条子,组64G也是比较方便的事了,海盗船也更新了最新的复仇者内存条,单条32G可以根据自己需求购买。价格是比较便宜的。另外我手上正好也有张微星的5070TI神龙显卡,显存也有个16G,正好也看看大容量内存以及大显存显卡对 AI 本地部署的加成有多大效果。
回复

使用道具 举报

懒得打字嘛,点击右侧快捷回复 【右侧内容,后台自定义】
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

手机版|飞雪团队

GMT+8, 2025-4-30 19:11 , Processed in 0.961344 second(s), 22 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表