我的理解，智能这种东西是一个复杂现象。

好比在微观上，水分子的动力学我们可以描述的很清楚，但大量水分子形成的河流在各种外部条件下的表现出来的宏观现象就没这么容易理解了。放到更大尺度上，大量水分子构成的天气系统那就是个混沌系统。

在Conway的Game of Life中，游戏规则数值设定稍微小一点或者稍微大一点，这个生命游戏都会变得平凡或者混乱，总之只有无聊的结果。只有在这个不大不小恰到好处的数值上，才会产生有无穷变化的复杂系统。

复杂是介于有序和混沌边界上，涌现出的一种现象。生命和智能本质上都是一种复杂现象。对于复杂现象，试图站在微观角度去理解是很难乃至没有意义的，它所表现的宏观特征才是它的本体。

所以AI也好，人类智能也好，是否是能白箱弄明白的东西都是个问题。AI整个网络参数都是看得见的，每条路径都是可以分析明白的，但不还是没法从大量微观细节中去理解AI为啥能work或者不work嘛。一个能开箱给你看的东西尚且如此，我们的大脑那就更别提了...

【 在 eamon 的大作中提到: 】
: 当年写皇帝新脑的时候ai还是明盘呢，现在alpha go怎么想出下哪一步棋人类也搞不懂了，所以确实是很难说沿着这条路上往下走的ai跟人类意识到底泾渭分明的分野在哪里了，或许就像你说的，节点堆到了也许就真的产生了一个跟机械执行固定算法完全不一样的一个东西
--
FROM 180.111.48.*