- 主题:怎么低成本搞一台能满血R1的洋垃圾
PCIE也是瓶颈，n卡是要用nvlink的
【 在 LYMing1986 的大作中提到: 】
: 10卡肯定吵
: 且消费级机箱，比如追风者高塔 都放不了10卡。
: 理论6卡，实际4-5卡
: ...................
--
FROM 114.249.198.*
NVlink是两两连接吧？我记得
那4卡是也不是也有部分走pcie？
【 在 LYMing1986 的大作中提到: 】
: pcie就是瓶颈，所以10卡行 超出cpu支持范围了
: 4卡最稳最简单，8卡是单机推荐上限
:
--
FROM 114.249.198.*
N卡要搞万卡集群的话，是怎么个玩法？
【 在 LYMing1986 的大作中提到: 】
: pcie的nvlink是两两连接
: 四卡是俩nvlink
: 8卡可能因为pcie通道数不够 而需要pcie switch，成本高
: ...................
--
FROM 114.249.198.*
能不能跑 16bit 的？
【 在 Auguster 的大作中提到: 】
: 换个方向，清华有个 KTransformers ，
: 可以实现运行 DeepSeek-R1 提升28倍
: 用4090D 24Gvram 跑4bit 671B 的DeepSeek R1，是每秒27.29t
: ...................
--
FROM 114.249.198.*