求用mac本地跑大模型的使用感受

水木社区手机版

主题:求用mac本地跑大模型的使用感受
23楼|beaver|2024-04-27 11:49:10|展开
128G的版本，或者192G的版本，能跑什么模型啊，效果如何？

【在 omelet 的大作中提到: 】
: 32G可以跑llama3 fp16满血版
: 效果应该还不错
: 风扇应该是不会转的
: ...................
--
FROM 116.7.170.*
25楼|beaver|2024-04-27 14:20:44|展开
有道理啊！


【在 toyarmybin (BinBin) 的大作中提到: 】
:  土豪好，你可以用硬件费用的零头找个计算机系大学生，试完所有模型再给你出份报告：）
:
:
:  【在 beaver 的大作中提到: 】
--
FROM 116.7.170.*

BYR-Team©2010. KBS Dev-Team©2011 登录完整版