- 主题:怎么低成本搞一台能满血R1的洋垃圾
10卡RXT8000二手48Gb够么？
【 在 LYMing1986 的大作中提到: 】
: 671b原版模型最小也是Q4_K_M8卡4090 48G都不够，单机多消费级显卡没戏 ...
--
FROM 112.97.47.*
PCI-E基本随着DDR, 但要慢半拍升级，淘汰下来的10卡服务器可能不多；
而且4090现在的48GB都是涡轮卡吧？10个一起转会不会太吵？
【 在 LYMing1986 的大作中提到: 】
: 10卡rtx8000 48G，合显存480G，可以部署q4模型提高点速度，可以用4090 48G所以 ...
--
FROM 14.153.159.*
5卡、6卡要到400G显存，单卡得80G, 只有H100支持，这个价格就上天了；
所以现在跑Deepseek 671b模型的最廉价方案，只有10卡RTX8000, PCI-E3.0太慢也没办
法，好歹能带得动
【 在 LYMing1986 的大作中提到: 】
: 10卡肯定吵
: 且消费级机箱，比如追风者高塔 都放不了10卡。
: 理论6卡，实际4-5卡
: ...................
--
FROM 14.153.159.*