- 主题:ai已经这么强大，过两年会更强
不用担心，它只能向人类学习，却没法像人类一样无中生有地进行创造。
【 在 wholeholes 的大作中提到: 】
: 这玩意儿就像一个不知疲倦，永远学习的大天才。
: 发自「今日水木 on iPhone 11」
--
FROM 113.233.214.*
但不是说有了经验就一定会产生创造， 千百年来无数只猴子无数次看见火，但是却没有一只猴子学会使用火、控制火。你的相机、手机天天照相，但是它却对它的拍摄内容一无所知。
【 在 wholeholes 的大作中提到: 】
: 创造，是经验的产物
: 发自「今日水木 on iPhone 11」
--
修改:heideggerr FROM 113.233.214.*
FROM 113.233.214.*
现阶段的AI就是猴子的水平，它和人脑还有本质的不同，没有任何一个AI能够内在地理解时间、空间以及内在地理解数字、集合、几何关系的能力，也没有人类那种看过几条线段就能抽象出“直线”的概念的抽象能力，也没有人类那种内在地提出“两点之间直线距离最短”这样的公理的假设能力。它只是越来越细致地模仿人类的时间理解力、空间理解力、抽象能力、假设等等能力的外在表现罢了。
【 在 wholeholes 的大作中提到: 】
: 但是人，大脑比猴子发达之后，就会了。
: ai一样，迟早算力比人脑强。。。
:
--
FROM 113.233.214.*
能利用梯子登上房顶是一个进步，能做电梯上30层楼顶是一个更大的进步，但这不意味着能用同样的方式演进，就一定能登上月亮。
【 在 wholeholes 的大作中提到: 】
: 是啊。。。就是猴子水平。
: 恐怖的在于，1，2年前，ai才是鹦鹉的水平啊
:
: ...................
--
FROM 113.233.214.*
你的理解能力有待提高，说句不客气的话，你的理解能力可能通不过图灵测试。
【 在 wholeholes 的大作中提到: 】
: 人类从能做出来电梯，到能登上月球用了多少年。
: 如果指数级的能比人类聪明。这个时间，会缩短。
:
--
FROM 113.233.214.*
因为我是人啊，不是只会鹦鹉学舌的大模型啊！
【 在 norlon 的大作中提到: 】
: 你举得例子都很精辟啊，一下子把观点表达清楚了
: 怎么做到的？
--
修改:heideggerr FROM 113.233.214.*
FROM 113.233.214.*
很久之前，读过哥德尔证明，它给了我一个启发，如果把PM系统对应成我们世界的各种事实，这是人类所能感知的世界（不妨把它称之为W），那么哥德尔数则代表一个我们用来描述、创造一个人为世界（也就是AI）的域空间，那么模仿哥德尔证明过程，我们很快就会发现W中存在一些正确但却无法证明的事实（g），这意味着这个世界中必定会存在一些对这个世界来说是重要的、但是其正确性却无法从这个世界本身来形式化地给出的东西--比如“时间”、“空间”、“数”，这些东西的总和（不妨称之为G）就是AI永远都没法触及的东西，W-G 就是一切人造智能软件所能模仿的世界的上限，而一切基于神经网络的人造智能软件只能模仿人类的外在表现，而无法到达人类的各种内在的隐世界，所以，它能达到的上限还要比W-G还要小得多。
【 在 shangcy 的大作中提到: 】
: 你这种比喻有效的前提是：现在人工智能的演进方式永远达不到人类水平。
: 但事实是：从历史看，人工智能有固定的演进方式吗？
: 退一步，即使仅从现在神经网络路径发展人工智能，你又有什么依据判定人工智能永远达不到人类水平呢？
: ...................
--
FROM 175.169.193.*
不太清楚李的工作，不过，核心的一点是， AI要想真正地像人一样，就必须内在地理解这些概念，而不是简单地将某些规范外在地将强加到一个大模型之上。
【 在 zzzer 的大作中提到: 】
: 用物理这些逻辑再规范一下
: 是不是那个李飞飞做的就是这个方面的
: 发自「今日水木 on iPhone 11」
--
FROM 113.233.207.*
越是思考人类的存在，你就会越发地对人类的存在感到不可思议 -- 虽然大部分人类认为人类存在本身是一个平淡无奇的东西。人类的身上，有太多并不是人类理智本身可以认识、并能加以复刻的东西，这就像一个虚拟机中的程序永远也无法参透自己究竟运行在何种设备上一样，所以我们无法想象一个给定完成特定任务（比如排序）的程序（A）能够突然顿悟，然后其自行设计了一个 A的制作者都未曾设想过的另一个排序程序（a），并且这个被制作的程序a能够和A一样完成排序任务，甚至更好地完成排序任务。
【 在 Kludge 的大作中提到: 】
: 只能说现在AI的理论还不够达到人的神经元的处理能力，计算效力达不到人脑的容量，具身智能的载体设计设计的很落后…… 但你说的都不是根本问题。如果人类不断的设计新的智能体，最后最平衡和完美的结果可能就是我们人类自己，甚至包括DNA的自我复制和进化。
--
修改:heideggerr FROM 113.224.134.*
FROM 113.224.134.*
你的理解能力真的有问题！
你说的虚拟机中的进程能够分辨出自己是运行在实体计算机之上还是虚拟机之上是一种站在上帝视角的观点，但是我想说的是，从一个进程的角度看，它所做的一切无非就是在每个时钟周期从指令段中找出下一条指令，然后将数据从内存拷贝到寄存器、或者从寄存器中拷贝到内存中而已，它并不清楚是一种什么样的力量来维持着时钟的绵延，以及为什么要如此这般地进行拷贝，甚至它也不清楚它拷贝的字节最后到底存在物理内存中还是在磁盘之上，这个程序以为它可以按照自己的内在定义一直运行下去，它完全掌握自己的命运，但非常可悲的是，它不知道的是 它其实是完全被动的，使它能够运行下去的东西完全不是由它自己定义的。
人在很多情况下，和这个程序是非常类似的。说人永远造不出AI，其实说的是，人这种存在者，虽然被给予了足够的智能来生存， 但是他并没有被赋予“理解人的智能本身、创造出同样的智能、甚至更高级智能”所需要的智能，人是一种被禁锢在有限性中的东西。
【 在 Kludge 的大作中提到: 】
: 虚拟机很容易知道自己在虚拟机中，因为现在的虚拟化技术有太多地方无法做到和主机完全隔离，更何况运行环境能看到大量的非实体硬件的驱动。 这倒不是思考人类存在的问题，这个问题没法深入思考。从脑科学的角度，顿悟本身是不关联的神经突通过其他关联的神经突形成了新的神经突的链接，类似于重组网形成一套之前无法形成逻辑的新思维链，理论上顿悟这种东西可能也是一套物理机制反馈到我们到大脑的一种反馈，而并非不可模拟，所以问题在于生物和机械是否真的有本质的区别？
--
修改:heideggerr FROM 60.16.235.*
FROM 60.16.235.*