求详情。跑的啥模型？机器会不会长时间狂转？最重要的量化的版本使用效果能否达到gpt3.5的水准？

另外据说微软出了小模型性能很好。甚至可以在手机上跑。
【 在 omelet 的大作中提到: 】
: MacBook M2都能跑，不过是量化版本，速度倒是嗖嗖的
--
FROM 111.196.132.*