- 主题:X上有一老哥把3090S的内存增加到了192G了
整个系统显存是2.5T
准备玩DeepSeek了
--
FROM 1.119.200.*
老哥应该是那种喜欢折腾的人
成本如果以RMB计的话早就超过8W了
老哥这个可以对标两台插满H100的服务器了
【 在 johnbird 的大作中提到: 】
: 总成本多少？超过8w的话不如直接买现成的mac studio，还省去了折腾的麻烦
--
FROM 1.119.200.*
DeepSeek-R1 满血版是1.5T，需要1.5T的显存才能跑起来
671B是参数的大小
【 在 johnbird 的大作中提到: 】
: deepseek目前最大模型也就671B，512GB显存就可以了
: 看来老哥追求肯定不止于此
--
FROM 1.119.200.*
可以呀，老哥知识渊博！
【 在 johnbird 的大作中提到: 】
: 我知道了，我说的是4bit量化版，你说的是fp16版
: 所以差了4倍显存容量
--
FROM 1.119.200.*