- 主题:个人预测一波RTX40系显卡的卖点在于深度学习而非游戏
nvswitch
【 在 wwpty 的大作中提到: 】
: 几张显卡怎么把内存共用成一个大内存的？
--
FROM 73.63.245.*
nvswitch呀，搜DGX
【 在 wwpty 的大作中提到: 】
: 几张显卡怎么拼起来？都插在主板上吗？
--
FROM 73.63.245.*
没有好的办法
多GPU合作必须保证之间的DMA速度
所以NV才会收购MLNX
【 在 wwpty 的大作中提到: 】
: 这个不是个人玩得起的，我问的是个人或者实验室怎么搭建超大显存的机器
--
FROM 73.63.245.*
是啊，1:1双卡的系统复杂度低，nvilnk就好
多卡就需要所谓交换器了
【 在 wwpty 的大作中提到: 】
: 个人搭建环境，是不是最多装两块3090ti显卡，用nvlink转接器连起来？这点显存不够用啊，没办法用四块吧？
--
FROM 73.63.245.*
啥叫够用啊，你自己心里得有个谱。。
八卡在某些场合下不行得上升到多机集群，但单卡在某些场合下就绰绰有余
【 在 wwpty 的大作中提到: 】
: 两个3090拼起来够用吗？才48g内存
--
FROM 73.63.245.*
nvswitch...
多机就靠RMDA网络了呗
【 在 wwpty 的大作中提到: 】
: 单机八卡怎么拼成一个大显存的？都插在pcie上吗？多机集群只能用光网卡连接吧？最高也就100g速度
--
FROM 73.63.245.*
你就认为是GPU交换机吧
nvlink你可以想象成PC和PC直连
nvswitch你可以想象成多台PC互连
【 在 wwpty 的大作中提到: 】
: nvswitch到底是什么东西？是一个交换机吗？看nvidia官网，貌似是一个芯片，焊在主板上的
--
FROM 73.63.245.*