我也不懂，都是网上帖子看到的。

又看到有人说deepseek快是因为“知识蒸馏”技术。

总之还是分工、分治的策略

【 在 cybereagle 的大作中提到: 】
: 因为不是啊
: LLM中用MoE最早是谷歌大脑搞的吧
--
FROM 223.72.68.*