- 主题:想弄个双显卡跑AI，有什么注意事项
求教大师们
想弄5080+一块22G显存2080，搞双显卡跑DEEPSEEK
有什么注意事项
--
修改:wangstone FROM 58.246.240.*
FROM 58.246.240.*
ds不是说除了完整版都很蠢吗
【 在 wangstone (王二) 的大作中提到: 】
: 求教大师们
: 想弄5080+一块22G显存2080，搞双显卡跑DEEPSEEK
: 有什么注意事项
: --
--
FROM 117.133.82.*
应该是，32B的也不太行，跟官方比
【 在 smthhz (smthhz) 的大作中提到: 】
: ds不是说除了完整版都很蠢吗
:
: 【 在 wangstone (王二) 的大作中提到: 】
: : 求教大师们
--
FROM 114.254.3.*
处理点私人文件还是可以
【 在 smthhz 的大作中提到: 】
: ds不是说除了完整版都很蠢吗
--
FROM 124.79.118.*
推荐上双路4090 48GB+NvLink, 一共96GB共享显存，将来可以跑更大模型，能达到30Tokens/秒
【 在 wangstone 的大作中提到: 】
: 求教大师们想弄5080+一块22G显存2080，搞双显卡跑DEEPSEEK有什么注意事项 ...
--
FROM 14.153.159.*
我认为两块3090涡轮版的性价比可以更好，你说的这两个差了三代，而且那个2080不但都是二手而且还是魔改版，估计装起来以后后面的BUG不少。
--
FROM 114.246.200.*
验证了 异构不太行
还得两块一样的。
最后用5080跑的32B
【 在 sthgot2give 的大作中提到: 】
: 我认为两块3090涡轮版的性价比可以更好，你说的这两个差了三代，而且那个2080不但都是二手而且还是魔改版，估计装起来以后后面的BUG不少。
--
FROM 58.246.240.*
4090没有NVLINK
4系开始阉割了
【 在 mazz 的大作中提到: 】
: 推荐上双路4090 48GB+NvLink, 一共96GB共享显存，将来可以跑更大模型，能达到30Tokens/秒
--
FROM 58.246.240.*
现在的48GB都是用3090的PCB，能接NvLink
【 在 wangstone 的大作中提到: 】
: 4090没有NVLINK4系开始阉割了 ...
--
FROM 14.153.159.*
3090是支持NV的单我不确定3090能魔改48
2080能改是因为刚好有同核心服务器芯片
【 在 mazz 的大作中提到: 】
: 现在的48GB都是用3090的PCB，能接NvLink
--
FROM 58.246.240.*