【 以下文字转载自 NewExpress 讨论区 】
发信人: FangGuan (vidrira.雯杜莉娜.芳官.耶律雄奴.金星玻璃), 信区: NewExpress
标  题: 下载了ds 14b压根就跑不动了
发信站: 水木社区 (Sat Mar  1 18:24:03 2025), 站内


自己家里的台式机，就只有板载的Intel集成显卡，内存只有12G，下载安装了Ollama，在ollama里面下载了DS的14b版本，然后就悲剧了，和这个本地的AI打个最简单的招呼，都得十分钟后才能回复我，如之奈何？是不是必须得插一块英伟达的推理卡？能跑14b的推理卡最便宜得多少钱？
--
修改:FangGuan FROM 120.245.94.*
FROM 120.245.94.*