嗯。我试了试本地大模型,需求一般,用线上那些就蛮好的
最后搞了个m4max 64g的14寸mbp,随身干干活蛮好的
epyc 768g体积不太可比,实际速度估计比m3ultra还是有差距
【 在 laputa2013 的大作中提到: 】
: 买这个就是为了整更多内存放大模型。
: 内存小了直接跑不起来。
: 话说这玩意儿和买EPYC 12通道插768G内存比起来跑LLM哪个爽?
: ...................
--
修改:niels FROM 111.196.134.*
FROM 111.196.134.*