能不能跑 16bit 的？
【 在 Auguster 的大作中提到: 】
: 换个方向，清华有个 KTransformers ，
: 可以实现运行 DeepSeek-R1 提升28倍
: 用4090D 24Gvram 跑4bit 671B 的DeepSeek R1，是每秒27.29t
: ...................
--
FROM 114.249.198.*