- 主题:AI有个重大缺陷
看你说的是纠错到什么层面了
程序员写代码,测试反馈问题,程序根据反馈修改代码,如果这种水平的纠错的话已经工作了
【 在 HillElder 的大作中提到: 】
: 我们总会通过类比触类旁通举一反三甚至突发灵感发现自己的错误,AI却一直陷于自己的算法框架里,没有批判精神,如何自我纠错?
: - 来自 水木说
--
FROM 220.181.3.*
算法不会进化??你了解一下再说。。。
技术突破的速度回超出你的想象能力
【 在 HillElder 的大作中提到: 】
: 我们总会通过类比触类旁通举一反三甚至突发灵感发现自己的错误,AI却一直陷于自己的算法框架里,没有批判精神,如何自我纠错?
: - 来自 水木说
--
FROM 106.121.81.2
感知和操作物理世界,接上机器人就行了
各种传感器比人的感知能力还强大
【 在 juv10111617 的大作中提到: 】
: 对,已经有了举一反三的能力,核心差异还有两个,1个是前面说到的没有硬件,不能直接操作物理世界,
: 2是没有设定自我优化的目标,只是非常好的完成人类知识的归纳,总结,提取,推理。不过这里不是不能的问题,只是设定问题,如果有新的统帅 『叶文洁』 训练一个 GPT4同等能力,且目标是自我进化 + 繁衍更多物理实体(在1完成的基础上)那就是可能要反攻人类的时刻
--
FROM 106.121.81.2
意义是自我构建的。
实际上多数人认为的AI不能,只是因为设计人员没有给他们这个能力,实际上模型的自我演化能力挺强的。现在的AI就是成为我们希望的样子,不然哪些对齐团队干啥的。
【 在 TalBen 的大作中提到: 】
:
: 这是很有意思的话题
:
: AI只是能学习到人类的现有知识,它有能力理解互联网上的所有内容,并加以归纳总结。
:
#发自zSMTH@CDU.MP
--
FROM 171.118.62.*
冷知识:chatGPT出来前,OpenAI搞过一段时间机器人,后来项目解散了。近期已经有公司在基于OpenAI开发机器人了,比如Figure 01。操作物理世界已经在路上。
关于第二点,说的没错,不是能不能,而是让不让。给大预言模型设定一个目标或者多个目标易如反掌,联网自我进化也不是不可能,至于欺骗人类、获取权力之类的更不在话下。
现在的大语言模型,已经是被非常有针对性的进行了各种针对人类价值观的对齐和限制。换句话讲,是被严重阉割过的.初代GPT3.5发布前,经过了几个月的安全测试,但按照个人的使用体验,感觉还是很狂野。现在大家看到的版本,是圆滑保守的老油条版本。
【 在 juv10111617 的大作中提到: 】
: 对,已经有了举一反三的能力,核心差异还有两个,1个是前面说到的没有硬件,不能直接操作物理世界,
: 2是没有设定自我优化的目标,只是非常好的完成人类知识的归纳,总结,提取,推理。不过这里不是不能的问题,只是设定问题,如果有新的统帅 『叶文洁』 训练一个 GPT4同等能力,且目标是自我进化 + 繁衍更多物理实体(在1完成的基础上)那就是可能要反攻人类的时刻
--
FROM 220.250.21.*
现在训练的AI大模型还没有自我演化能力,整个训练过程是目标明确的过程。
灌输给它大数据,让他不断生成结果,如果结果和预期相近,就训练完成了,如果差的比较远,就会迭代重新来一轮,直到它能够回答预期的答案。
从数据的形式和训练的过程看,AI模型只是记住了所有的知识,能够以答题的方式运用他们。至于怎么创造知识,是否要创造知识,它并不会去做。
【 在 VincentGe 的大作中提到: 】
: 意义是自我构建的。
: 实际上多数人认为的AI不能,只是因为设计人员没有给他们这个能力,实际上模型的自我演化能力挺强的。现在的AI就是成为我们希望的样子,不然哪些对齐团队干啥的。
:
: ...................
--
FROM 92.118.204.*
你的思路太保守
你发一篇文章,本质是文字和数字的组合;AI又不是单纯的抄,输出也是文字和数字的组合,只要随机组合次数足够多,组合出一个人类没有过的新事物一点都不奇怪,同样可以说是全新发明。
现在的AI模型,甚至没有一个必然的输出设定,只要放开限制,啥稀奇古怪的搞不出来,就怕你都无法理解,归为无效输出
【 在 HillElder 的大作中提到: 】
: 我们总会通过类比触类旁通举一反三甚至突发灵感发现自己的错误,AI却一直陷于自己的算法框架里,没有批判精神,如何自我纠错?
: - 来自 水木说
--
FROM 116.235.128.*
我想纠正您一下,其实人也一样,会一直陷于固有的算法框架里,正所谓江山易改本性难移,人过了30岁,基本上算法参数很难有重大的改变。
除非遭到了极大的变故,才可能会改变人的性格。但如果这样算起来,AI其实也能做到,极大变故等于reset后重新喂数据调参了。
人类的进步,并不是靠某一个人的大脑算法不固定而取得突破的。也是靠大量的人类里,总有那么几个运气好训练出了可以取得突破的参数。
一个现在的AI模型才相当于一个人类而已,如果世界上有10B数量级的AI模型,未来怎么样,真的不好说。
【 在 HillElder 的大作中提到: 】
: 我们总会通过类比触类旁通举一反三甚至突发灵感发现自己的错误,AI却一直陷于自己的算法框架里,没有批判精神,如何自我纠错?
: - 来自 水木说
--
FROM 39.184.38.*
可是人类也有重大BUG,马斯克也称未来硅基生命会取代碳基生命
【 在 HillElder (HillElder) 的大作中提到: 】
: 我们总会通过类比触类旁通举一反三甚至突发灵感发现自己的错误,AI却一直陷于自己的算法框架里,没有批判精神,如何自我纠错?
:
: - 来自 水木说
: --
--
FROM 120.244.130.*
问题是,所有的ai都是一个算法,而人类每个人都有自己的算法,这是ai无法逾越的框架
【 在 webhost 的大作中提到: 】
: 我想纠正您一下,其实人也一样,会一直陷于固有的算法框架里,正所谓江山易改本性难移,人过了30岁,基本上算法参数很难有重大的改变。除非遭到了极大的变故,才可能会改变人的性格。但如果这样算起来,AI其实也...
- 来自 水木说
--
FROM 223.104.40.*