不够
DS满血参数是671B
低精度也得要400GB显存
"The DeepSeek 671B model requires approximately 1.2 TB of GPU VRAM for FP16 precision and about 400 GB of VRAM when using 4-bit quantization"
【 在 liangf 的大作中提到: 】
:
: 192GB显存呢
: 【 在 slice 的大作中提到: 】
: : 本想换192G内存跑满血的ds，速度太慢了，放弃，省钱了
:
--
FROM 61.171.21.*