照啊。
内存到gpu，好歹也有30GB/S的带宽。
哪怕把内存扔给gpu当硬盘使也行…
【 在 youxia 的大作中提到: 】
: 可以啊。
: 参考 Huggingface Transformer 库的教程，教你如何用内存甚至磁盘来加载。
: 另外 Zero 算法就是干这个事情的。hugging face 底层调用的是这个。
--
FROM 120.245.26.*