怎么训练专用的智能体

水木社区手机版

主题:怎么训练专用的智能体
9楼|Dong12138|2025-07-17 10:06:04|展开
你的标题取得有问题，如果是训练的话，那就得进行微调，把你的教材全部变成高质量的文字，然后在计算集群上对开源的大模型进行微调。
如果是做RAG的话，本地智能体可以用dify，你得先找到这些资料的电子版本（最好是pdf，而不是图片），然后上传到你的dify知识库里，他会自动进行分块转embedding，这个就可以作为你的专用知识库了。然后你想创建什么样的功能就在dify里面拖动定义你自己的智能体。
--
FROM 106.11.41.*
11楼|Dong12138|2025-07-17 10:42:36|展开
【在 ksxfhs 的大作中提到: 】
: 大模型训练或微调，是不是一定要租算力？有专门的工具搞训练吗？
:
微调也是训练的一种。如果你要重新训练（from scratch）就别想了，这是大公司干的活。
如果是微调（finetuning）可以在线微调，调用api；如果是离线微调，除非你自己有A100以上的显卡，否则是要租算力的。专门的工具github上一搜一大把，不过得自己花费心思准备高质量数据，再写一点代码，不然没效果。
--
FROM 106.11.41.*