看这个视频:BV1REPqeFE6d,不用显卡也可以,就是大内存+大内存带宽,几万块钱跑起来,3t/s,勉强能用,视频里这个内存还是不够快,更快效果更好。
【 在 lvsoft 的大作中提到: 】
: 买好显卡也没用。想跑deepseek?80G显卡*8是它的标准配置,其他方案要么是弱智,要么就是超级蜗牛。
: 80G显存的显卡*8对任何普通人来说都是不可能的。
: 最多4bit量化打个对折勉强凑合下,再少就没法用了。
: ...................
--
FROM 116.232.18.*