4090的话是不是跑不了34B？

【 在 Xjt 的大作中提到: 】
: 推理没问题。128G可以跑34B毫无压力，跑70b得量化了。还可以做作34B codeLlama的Lora fine-tune，就是坑很多，很多现成的fine-tune代码不能用，得自己写。
--
FROM 139.227.98.*