- 主题:AI有个重大缺陷
我们总会通过类比触类旁通举一反三甚至突发灵感发现自己的错误,AI却一直陷于自己的算法框架里,没有批判精神,如何自我纠错?
- 来自 水木说
--
FROM 223.104.41.*
历史上人类都认为天圆地方,大数据获取的是啥,就认为是啥,人和ai都是这样的
【 在 HillElder 的大作中提到: 】
: 我们总会通过类比触类旁通举一反三甚至突发灵感发现自己的错误,AI却一直陷于自己的算法框架里,没有批判精神,如何自我纠错?
: - 来自 水木说
--
FROM 171.212.98.*
这是很有意思的话题
AI只是能学习到人类的现有知识,它有能力理解互联网上的所有内容,并加以归纳总结。
但是AI没有理解世界的能力,人类不停的感知、认知以及思考这个世界,不停的纠正之前的认知偏差,这是人类独有的能力。
目前AI还没有独立认知世界的能力,只是学到了人类告诉它的内容,它的优点在于,学的快,用的快,而且容量大。
【 在 HillElder 的大作中提到: 】
: 我们总会通过类比触类旁通举一反三甚至突发灵感发现自己的错误,AI却一直陷于自己的算法框架里,没有批判精神,如何自我纠错?
: - 来自 水木说
--
FROM 106.3.202.*
阿尔法狗能下出顶尖棋手都理解不了的棋,算是批判了人类不
【 在 HillElder 的大作中提到: 】
: 我们总会通过类比触类旁通举一反三甚至突发灵感发现自己的错误,AI却一直陷于自己的算法框架里,没有批判精神,如何自我纠错?
:
: \- 来自 水木说
: --
:
发自「今日水木 on iPad mini 6」
--
FROM 115.171.7.*
最大的缺陷在于底层硬件。
没有欲望,没有存在的意义。
【 在 HillElder 的大作中提到: 】
: 我们总会通过类比触类旁通举一反三甚至突发灵感发现自己的错误,AI却一直陷于自己的算法框架里,没有批判精神,如何自我纠错?
:
: \- 来自 水木说
: --
:
发自「今日水木 on iPad mini 5」
--
FROM 180.79.247.*
AI在认错这方面,比人类溜多了,很少嘴硬,至少GPT4是这样。然而这并不代表它有自我纠错能力,这只是后期微调的结果。另外,泛化能力是大语言模型最牛X的特性之一,也就是举一反三。
【 在 HillElder 的大作中提到: 】
: 我们总会通过类比触类旁通举一反三甚至突发灵感发现自己的错误,AI却一直陷于自己的算法框架里,没有批判精神,如何自我纠错?
: - 来自 水木说
--
FROM 121.204.50.*
对,已经有了举一反三的能力,核心差异还有两个,1个是前面说到的没有硬件,不能直接操作物理世界,
2是没有设定自我优化的目标,只是非常好的完成人类知识的归纳,总结,提取,推理。不过这里不是不能的问题,只是设定问题,如果有新的统帅 『叶文洁』 训练一个 GPT4同等能力,且目标是自我进化 + 繁衍更多物理实体(在1完成的基础上)那就是可能要反攻人类的时刻
--
FROM 45.146.232.*
触类旁通也是基于知识的积累吧。相当于在脑子里将知识点建立联系。人类需要触类旁通的东西,ai有可能单纯死板地就计算发现了。不过这个需要非常优秀的学习能力了。
【 在 HillElder (HillElder) 的大作中提到: 】
: 我们总会通过类比触类旁通举一反三甚至突发灵感发现自己的错误,AI却一直陷于自己的算法框架里,没有批判精神,如何自我纠错?
:
: - 来自 水木说
: --
--
FROM 183.192.43.*
你怎么知道没有
【 在 HillElder 的大作中提到: 】
: 我们总会通过类比触类旁通举一反三甚至突发灵感发现自己的错误,AI却一直陷于自己的算法框架里,没有批判精神,如何自我纠错?
: - 来自 水木说
--
FROM 169.145.207.*