多卡4090深度学习工作站配置(更新显卡)

水木社区手机版

主题:多卡4090深度学习工作站配置(更新显卡)
40楼|lvsoft|2023-03-20 09:29:35|展开
其实ai这么简单的东西整一个不难。
难的是整成一个开放的生态持续演进，这一点来说cuda在很长的时间里还是会持续保持先发优势的。

但另外两家大厂也总算是有点东西了。
现在天下苦老黄久已，我感觉未来他会死的很惨。

但ai应用目前还是太小众了，支撑不起这么大的需求的。

【在 dedeLotus 的大作中提到: 】
: 希望国内的卡快些弄好，老黄刀法太血腥
: 别弄游戏驱动了，专门搞AI核
--
修改:lvsoft FROM 180.111.25.*
FROM 180.111.25.*
43楼|lvsoft|2023-03-20 10:15:41|展开
其实说穿了，nvlink的主要价值是可以让两卡合体起到一个显存翻倍的作用。
如果用不到自然也就无所谓了。

基本上也就3090有价值。4090没这个选项，更老的卡显存翻倍了也就等于一张3090。

【在 evilll 的大作中提到: 】
: 不是必须的，但是瓶颈在这里。
: 有几个先决条件
: 1）大模型是否超过24G，单卡装不下
: ...................
--
FROM 180.111.25.*

BYR-Team©2010. KBS Dev-Team©2011 登录完整版