- 主题:deepseek原来是蒸馏的啊,怪不得训练成本低
openai不开源,数据只有输出,实际上常规蒸馏根本就不可能,别在污蔑了好吗?
【 在 artech51 的大作中提到: 】
: 白高兴一场
--
FROM 117.136.47.*
它说是蒸馏的openai吗?蒸馏别的开源的,本来就可以。
【 在 artech51 的大作中提到: 】
: 污蔑啥啊,deepseek论文就说训练第一步是蒸馏
: 数据只有输出就不能蒸馏了?你不是做技术的料
--
FROM 117.136.47.*
你提个方案,蒸馏下开源的,能达到deepseek的水平吗?
【 在 artech51 的大作中提到: 】
: 不管是蒸馏啥,都是蒸馏。我说蒸馏openai了吗?
--
FROM 117.136.47.*