nvlink对主板插槽位置有要求吗?是不是两根x16插槽必须挨着?3090一般要占用3个插槽,nvlink是固定插槽距离吗?超微工作站主板的插槽距离只有两个宽,只能用rtx a5000这种显卡并联
【 在 lvsoft 的大作中提到: 】
: 看你的模型啊,又不是一定真的要把内存拼起来。
: transformer的一大优势就是自注意力机制打破了顺序上的依赖,很容易并行化。
: 自己用游戏卡玩nvlink,顶天2张3090+nvlink。超过2个就要nvswitch,就要tesla级。其实有没有nvlink显存都是可以拼起来的,包括利用主机内存扩显存也一样。无非是官方支持,还是你自己整巴整巴弄出来的框架支持,并且pcie的带宽和latency都比nvlink低不少而已。
: ...................
--
修改:wwpty FROM 36.24.210.*
FROM 36.24.210.*