- 主题:希望M4的Mac别再8G起步了
M4应该做到300G内存,这样可以直接在笔记本上跑70b的大模型不用量化。实现真正的个人AI助手。
【 在 laputa2013 的大作中提到: 】
: 这都2024了,也该16G起步了吧。
--
FROM 103.149.83.*
60G跑什么模型?70b的int4量化版?
【 在 chunhui 的大作中提到: 】
: 能给大模型单独留出来60G应该就可以跑。然后cpu的神经核多几个。不要风扇呼呼转就行。
--
FROM 103.149.83.*
笔记本?那太牛了,攒钱买
【 在 beaver 的大作中提到: 】
: 不是已经说了么,ultra版是512G统一内存
:
--
FROM 39.144.106.*