水木社区手机版
首页
|版面-苹果(Apple)|
新版wap站已上线
展开
|
楼主
|
同主题展开
|
溯源
|
返回
上一篇
|
下一篇
|
同主题上篇
|
同主题下篇
主题:Re: 希望M4的Mac别再8G起步了
ensonmj
|
2024-05-12 09:58:33
|
不好意思是我搞多了个0,不过不量化还是跑不了。
【 在 tgfbeta (右旋肉碱) 的大作中提到: 】
: 70g个参数
: 你搞错了
: 【 在 ensonmj 的大作中提到: 】
: : 70b就是700g个参数,就算是int4量化,最少也需要350G内存。60G咋可能跑得了。跑7b差不多。
--
FROM 103.84.217.*
上一篇
|
下一篇
|
同主题上篇
|
同主题下篇
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版