一直不太理解，为什么训练大模型不能利用SSD

水木社区手机版

主题:一直不太理解，为什么训练大模型不能利用SSD
37楼|zhousiyv|2023-11-11 19:30:10|展开
模型越大的话，参数占的内存带宽比例越低，没法把中间结果offload到ssd，带宽太低了
--
FROM 117.129.60.*