在大语言模型动辄300GB的显存需求下，再迭代两代都跟不上，估计会推出相应的软件架构，可以用内存替代显存，准备640GB内存比8张计算卡划算多了
【 在 lvsoft 的大作中提到: 】
: 不可能。深度学习撑不起这么大的市场。
: 高端应用不可能用游戏卡。
: 更何况a100 cuda数量本来就只有3090的一半上下，它nb的地方是显存带宽。
: ...................
--
FROM 117.136.32.*