那还是有点距离。我是希望普通的笔记本能部署达到claude 3.5的水平的话（而且有达到3.5水平开源模型）。就可以在本地部署一个了。目前感觉claude用来编码完全够用了。
【 在 LYMing1986 的大作中提到: 】
: 32G内存不能部署72B模型，因为windows只划一半内存做显存
: qwen2.5 32B的4bit量化应该可以
--
FROM 117.133.52.*