不是必须的，但是瓶颈在这里。
有几个先决条件
1）大模型是否超过24G，单卡装不下
2）数据并行、结构并行优化是否到位
可以参考https://www.bilibili.com/video/BV1fG411G7eH/?spm_id_from=333.788&vd_source=5c25fd5cb0c3998dfe02648ca31013a4
这里的测试
【 在 youxia 的大作中提到: 】
: 如果要上大模型的话，就必须是30系列加上 nvlink?多谢。
--
修改:evilll FROM 111.206.214.*
FROM 111.206.214.*