- 主题:想弄个双显卡跑AI，有什么注意事项
求教大师们
想弄5080+一块22G显存2080，搞双显卡跑DEEPSEEK
有什么注意事项
--
修改:wangstone FROM 58.246.240.*
FROM 58.246.240.*
处理点私人文件还是可以
【 在 smthhz 的大作中提到: 】
: ds不是说除了完整版都很蠢吗
--
FROM 124.79.118.*
验证了 异构不太行
还得两块一样的。
最后用5080跑的32B
【 在 sthgot2give 的大作中提到: 】
: 我认为两块3090涡轮版的性价比可以更好，你说的这两个差了三代，而且那个2080不但都是二手而且还是魔改版，估计装起来以后后面的BUG不少。
--
FROM 58.246.240.*
4090没有NVLINK
4系开始阉割了
【 在 mazz 的大作中提到: 】
: 推荐上双路4090 48GB+NvLink, 一共96GB共享显存，将来可以跑更大模型，能达到30Tokens/秒
--
FROM 58.246.240.*
3090是支持NV的单我不确定3090能魔改48
2080能改是因为刚好有同核心服务器芯片
【 在 mazz 的大作中提到: 】
: 现在的48GB都是用3090的PCB，能接NvLink
--
FROM 58.246.240.*
可以的，显存越大越好。
【 在 knann 的大作中提到: 】
: 之前看新闻说，AMD的7900XTX24G显卡，跑deepseek效果比5080要好。而且这个价格就7000多一点，不到8000。这个可以用么？
--
FROM 58.246.240.*
有人推荐的
【 在 knann 的大作中提到: 】
: 那为啥看哪里都没人推荐呢？是因为这个只能跑deepseek么？
--
FROM 58.246.240.*
对
【 在 LYMing1986 的大作中提到: 】
: 首先cpu和主板都要支持双pcie4.0 x16最好pcie5.0 x16
: 因为5090是pcie5.0的
: 这要求不是随便哪个主板或平台都能支持
--
FROM 124.79.118.*
贵
【 在 LYMing1986 的大作中提到: 】
: 3090能改48
: 但都改48了，干嘛不4090
:
--
FROM 124.79.118.*
谢谢，改用ktransformer 跑千问了
【 在 LYMing1986 的大作中提到: 】
: 个人推荐
: 双路epyc zen2，5卡3080 20G插满
: ROME2D16-2L+ 配双路7k62, 5卡3080可以搞个架子组俩nvlink
: ...................
--
FROM 124.79.118.*