- 主题:X上有一老哥把3090S的内存增加到了192G了
整个系统显存是2.5T
准备玩DeepSeek了
--
FROM 1.119.200.*
怎么增加的，百D搜不到
【 在 Auguster 的大作中提到: 】
: 整个系统显存是2.5T
: 准备玩DeepSeek了
--
FROM 115.199.100.*
总成本多少？超过8w的话不如直接买现成的mac studio，还省去了折腾的麻烦
【 在 Auguster 的大作中提到: 】
: 整个系统显存是2.5T
: 准备玩DeepSeek了
--
FROM 101.226.154.*
老哥应该是那种喜欢折腾的人
成本如果以RMB计的话早就超过8W了
老哥这个可以对标两台插满H100的服务器了
【 在 johnbird 的大作中提到: 】
: 总成本多少？超过8w的话不如直接买现成的mac studio，还省去了折腾的麻烦
--
FROM 1.119.200.*
deepseek目前最大模型也就671B，512GB显存就可以了
看来老哥追求肯定不止于此
【 在 Auguster 的大作中提到: 】
: 老哥应该是那种喜欢折腾的人
: 成本如果以RMB计的话早就超过8W了
: 老哥这个可以对标两台插满H100的服务器了
: ...................
--
FROM 101.226.154.*
DeepSeek-R1 满血版是1.5T，需要1.5T的显存才能跑起来
671B是参数的大小
【 在 johnbird 的大作中提到: 】
: deepseek目前最大模型也就671B，512GB显存就可以了
: 看来老哥追求肯定不止于此
--
FROM 1.119.200.*
我知道了，我说的是4bit量化版，你说的是fp16版
所以差了4倍显存容量
【 在 Auguster 的大作中提到: 】
: DeepSeek-R1 满血版是1.5T，需要1.5T的显存才能跑起来
: 671B是参数的大小
--
FROM 101.226.154.*
可以呀，老哥知识渊博！
【 在 johnbird 的大作中提到: 】
: 我知道了，我说的是4bit量化版，你说的是fp16版
: 所以差了4倍显存容量
--
FROM 1.119.200.*