这个看法太静态了，事实上现在训练gpt的方法还特别的糙，所有数据往一个通用架构里扔，就已经这么震撼的结果

现在会看到的很多问题，比如细节错误等等，数据清洗，特定数据合成，架构优化，训练方法改进等等，都还将大幅度提升效果

最简单的例子，dalle3用大量图像到文本的合成数据，比公开的dalle2数据集质量提升极多，优化效果就好了很多

要是用gpt4处理出来10t的合成数据做训练，或者结合多模态的数据做优化，过几代的能力不知道会是啥样的
【 在 hgoldfish 大作中提到: 】
: 依我看就是个很好的搜索引擎+知识库。代替了以前那种初级的使用关键字的检索引擎。pagerank这个检索算法，因为有了更强的算力终于得到了突破。所以 Google 才会那么紧张。第一个严肃的应用也是被巨硬拿来放到 bing 里面。国内阿里、拼多多现在争得半死，恐怕到现在还不知道自己会被降维打击死在 gpt 这个算法手里。
: 传统计算机补充了人类的逻辑计算功能。GPT 补充了人类的记忆功能。从此人类不再需要记大量的知识就能开始工作了。普通人要读到 25 岁才能毕业找工作，以后不需要了，十岁就能干活。所以 GPT 算法的影响力再怎么样强调都不为过。以后聪明人会无限 powerful, 蠢人只剩下肉体价值。
: 但你也看到了，这个模糊的算法最多算全知。低能就是低能，天天胡说八道类似于本版的 xiaoju. 很容易造成反效果。让他生产代码是不对的。而你那个朋友的例子我听你说过好几遍，不太认同你的结论。因为他本身具备很强的逻辑思维能力。在开发过程中，他只是利用 GPT 在快速查阅资料。虽然 GPT 看起来像是产生了代码，但不过是它查询别人干过的事情拿过来给他看了一下，你朋友觉得可以，就用上了。这事里面，最重要的还是你朋友的逻辑判断能力。用模糊的记忆产生精确的代码是缘木求鱼。
: ...................
--
FROM 111.194.203.*