本地部署的最大优势是,可以利用本地数据对通用模型进行微调训练,得到适合自己需要的本地大模型,云服务是不可能提供这些信息的,未来大模型的发展方向 将会从通用大模型转向 面向企业、甚至是个人用户的私有模型。
【 在 Engelberger 的大作中提到: 】
: 显存越大越好,内存越大越好
: 个人感觉本地部署目前很难平衡性能和价格,部署大点的模型需要加显存内存,但与此同时云服务的api价格又在不断下降,买显卡的钱比用api贵多了...
: 我目前的计划是先用api和云服务,观望一下,等时机成熟再搞端侧
: ...................
--
修改:heideggerr FROM 113.232.155.*
FROM 113.232.155.*