Ai几十年发展史兜了一大圈，又回到仿生的路子上了

水木社区手机版

主题:Ai几十年发展史兜了一大圈，又回到仿生的路子上了
15楼|johnfader|2025-03-03 10:45:24|展开
embedding就是词向量？
【在 booble 的大作中提到: 】
: 改正：attention也不是transformer模型原创。
: 我觉得embedding才是革命性的想法，transformer不过解决了并行训练的问题。
:
--
FROM 113.104.248.*
17楼|johnfader|2025-03-03 11:53:37|展开
对的，tranformer模型的并行对embedding很大贡献吧，embedding需要很多计算量。
【在 booble 的大作中提到: 】
: 对，是包含了语义信息的词向量，不是仅仅表示词汇表位置的词向量。
:
--
FROM 113.104.248.*

BYR-Team©2010. KBS Dev-Team©2011 登录完整版