水木社区手机版
首页
|版面-苹果(Apple)|
新版wap站已上线
展开
|
楼主
|
同主题展开
|
溯源
|
返回
上一篇
|
下一篇
|
同主题上篇
|
同主题下篇
主题:Re: 求用mac本地跑大模型的使用感受
chunhui
|
2024-04-26 13:53:49
|
他们说48G的mbp可以跑70B的版本。这个版本可以到gpt3.5。因为涉及到钱,所以我先来问问有无必要升级硬件。
既然你这么说,那肯定4bit版本是没必要考虑了。
【 在 omelet 的大作中提到: 】
: 大哥你在开玩笑么
: 能达到gpt3.5的水平?想多了
: 我本地M2 MacBook,20G内存,跑的是llama3 4bit量化
: ...................
--
FROM 117.133.52.*
上一篇
|
下一篇
|
同主题上篇
|
同主题下篇
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版