- 主题:X上有一老哥把3090S的内存增加到了192G了
总成本多少?超过8w的话不如直接买现成的mac studio,还省去了折腾的麻烦
【 在 Auguster 的大作中提到: 】
: 整个系统显存是2.5T
: 准备玩DeepSeek了
--
FROM 101.226.154.*
deepseek目前最大模型也就671B,512GB显存就可以了
看来老哥追求肯定不止于此
【 在 Auguster 的大作中提到: 】
: 老哥应该是那种喜欢折腾的人
: 成本如果以RMB计的话早就超过8W了
: 老哥这个可以对标两台插满H100的服务器了
: ...................
--
FROM 101.226.154.*
我知道了,我说的是4bit量化版,你说的是fp16版
所以差了4倍显存容量
【 在 Auguster 的大作中提到: 】
: DeepSeek-R1 满血版是1.5T,需要1.5T的显存才能跑起来
: 671B是参数的大小
--
FROM 101.226.154.*