这个标题应该改成 qwen3.8-27b在mac 96G内存机器上表现很差
实际上内外网 qwen3.8 27b的口碑非常好,唯一的缺点就是dense模型算力要求高,不只是有显存就行,mac系统适合跑MOE模型,本质上只有带宽但算力不够(新出的M5要稍微好一点,也没有好太多)。
如果用NV的显卡,只要显存超过30GB(一张或 2张加起来都行),基本都能愉快的跑这个模型,并且效果贼好。
【 在 ihiker 的大作中提到: 】
: 96g内存高性能mac跑coding任务速度极慢(耗时是云端大模型的10倍),机体发热极为严重,风扇狂转,感觉时刻处在死机的边缘。同样任务只需每月一二百订阅费就可以调用云端模型非常流畅地跑,而一台高性能主机动则三五万,性价比太垃圾。已经把ollama和27b全部卸载。
--
FROM 1.203.111.*