- 主题:大模型私有化部署有做过的吗？
需要在某个领域训练模型，有经验的站内，谢谢
--
FROM 120.244.158.*
我部署过。
【 在 g5g 的大作中提到: 】
: 需要在某个领域训练模型，有经验的站内，谢谢
--
FROM 120.0.77.*
大模型训练需要的算力很大，私有化部署可是一个大项目，超出在这儿讨论范畴。
训练好的大模型私有化部署不难，一台不错的服务器加一张不错的GPU卡勉强就能使用。也可以在公有云上租资源做私有化部署。然后把你领域内的知识补充进去基本上能满足需求，这样的模型不需要再训练，可以直接使用。
--
FROM 120.244.221.*