看预算吧,按照deepseek官方文件,显卡最少需要3060以上,是能用的基础。
如果是低端应用,1-5个人使用,模型规模比较小,推荐的是4070ti显卡+7600x的cpu,16G显存,能力最大能支持到14b,实际跑不会太爽。可以看看联想或者惠普的台式机,现在补贴减2000,1.2万能拿下。
如果是中端一点的应用,30人以下的使用规模,推荐是4090或者5090的显卡,24G显存,能力最大能支持32b,也就是有还可以的逻辑推理能力了,会卡。但能爽跑14b,基本只能攒机,显卡得抢,很难买到原价的。讲道理2万多能拿下,但实际现在可能得3.5万。
如果是稍微舒服一点的小规模应用,50人-100人的使用规模,那就是H100的显卡,也就是专门的gpu电脑,能爽跑32b。最便宜讲道理18万能拿下,但实际就不好说了,我不了解,不知道。
给你回答这个,是因为我也有这个想法,我问的deepseek。。。
--
修改:knann FROM 223.72.208.*
FROM 223.72.208.*