- 主题:Ai几十年发展史兜了一大圈,又回到仿生的路子上了
60年代大型机的时候流行专家系统,符号学习,理性主义,其实当时神经网络的雏形就是受生物学启发,当时也觉得通用人工智能会建立在语言的基础上。
后来计算机小型化,pc普及了,互联网时代来了,手机普及了,移动互联网时代又来了。这几十年产生了大量的数据,面向特定任务的统计学习成为了ai的主流。那时的论调是仿生没用。
然后随着算力的进步,偶然发现以前仿生设计的cnn在视觉方面很好用,带火了深度学习。直到变形金刚网络又被发现很好用,只要加大网络,数据,计算就能力大砖飞,其实这也是一种仿生,因为人类小孩也是这么学习的,所谓熟读唐诗三百首。再往后,模仿人类学数学的过程,搞分步推理,分步计算,发现变形金刚网络搞分步计算效果也惊人的好。
惊人么,仔细想也并不惊人,人类也是这么做的啊。
十年前说神经网络是黑箱,人脑也是黑箱啊,但是在脑神经科学发展以前,人类已经在用人脑创造文明了。
--
FROM 111.55.145.*
汾酒必喝,喝酒必汾
【 在 Engelberger 的大作中提到: 】
: 60年代大型机的时候流行专家系统,符号学习,理性主义,其实当时神经网络的雏形就是受生物学启发,当时也觉得通用人工智能会建立在语言的基础上。
: 后来计算机小型化,pc普及了,互联网时代来了,手机普及了,移动互联网时代又来了。这几十年产生了大量的数据,面向特定任务的统计学习成为了ai的主流。那时的论调是仿生没用。
: 然后随着算力的进步,偶然发现以前仿生设计的cnn在视觉方面很好用,带火了深度学习。直到变形金刚网络又被发现很好用,只要加大网络,数据,计算就能力大砖飞,其实这也是一种仿生,因为人类小孩也是这么学习的,所谓熟读唐诗三百首。再往后,模仿人类学数学的过程,搞分步推理,分步计算,发现变形金刚网络搞分步计算效果也惊人的好。
: ...................
--
FROM 202.47.106.*
其实,摸索这么多年,这才逐渐走向正路
当年大佬明斯基写的书,不怀好意命名为《感知机》,严重误导了AI研究方向,否则AI应该
比现在发展更快若干年
【 在 Engelberger 的大作中提到: 】
: 60年代大型机的时候流行专家系统,符号学习,理性主义,其实当时神经网络的雏形就是受生物学启发,当时也觉得通用人工智能会建立在语言的基础上。
: 后来计算机小型化,pc普及了,互联网时代来了,手机普及了,移动互联网时代又来了。这几十年产生了大量的数据,面向特定任务的统计学习成为了ai的主流。那时的论调是仿生没用。
: 然后随着算力的进步,偶然发现以前仿生设计的cnn在视觉方面很好用,带火了深度学习。直到变形金刚网络又被发现很好用,只要加大网络,数据,计算就能力大砖飞,其实这也是一种仿生,因为人类小孩也是这么学习的,所谓熟读唐诗三百首。再往后,模仿人类学数学的过程,搞分步推
: ...................
--
修改:pixYY FROM 111.36.200.*
FROM 111.36.200.*
变形金刚的最大作用是支持自然语言对话了。
这之前CV和棋类对弈都相当成熟,但都不是革命性的。
【 在 Engelberger 的大作中提到: 】
60年代大型机的时候流行专家系统,符号学习,理性主义,其实当时神经网络的雏形就是受生物学启发,当时也觉得通用人工智能会建立在语言的基础上。
后来计算机小型化,pc普及了,互联网时代来了,手机普及了,移动互联网时代又来了。这几十年产生了大量的数据,面向特定任务的统计学习成为了ai的主流。那时的论调是仿生没用。
然后随着算力的进步,偶然发现以前仿生设计的cnn在视觉方面很好用,带火了深度学习。直到变形金刚网络又被发现很好用,只要加大网络,数据,计算就能力大砖飞,其实这也是一种仿生,因为人类小孩也是这么学习的,所谓熟读唐诗三百首。再往后,模仿人类学数学的过程,搞分步推理,分步计算,发现变形金刚网络搞分步计算效果也惊人的好。
惊人么,仔细想也并不惊人,人类也是这么做的啊。
十年前说神经网络是黑箱,人脑也是黑箱啊,但是在脑神经科学发展以前,人类已经在用人脑创造文明了。
--
FROM 123.103.9.*
改正:attention也不是transformer模型原创。
我觉得embedding才是革命性的想法,transformer不过解决了并行训练的问题。
【 在 reaphone 的大作中提到: 】
: 变形金刚的最大作用是支持自然语言对话了。
: 这之前CV和棋类对弈都相当成熟,但都不是革命性的。
:
: ...................
--
修改:booble FROM 112.41.21.*
FROM 112.41.21.*
只要人类不解决从哪里来到哪里去,
人类永远都是造物主的小小玩物。
事实上人类永远不会知道。
人类永远不会依靠机器造出人类智慧。
徒劳的努力。
现在的人工智能火热,好比房地产一样,都他妈是为了自欺欺人骗取钱财罢了。
【 在 Engelberger 的大作中提到: 】
: 60年代大型机的时候流行专家系统,符号学习,理性主义,其实当时神经网络的雏形就是受生物学启发,当时也觉得通用人工智能会建立在语言的基础上。
: 后来计算机小型化,pc普及了,互联网时代来了,手机普及了,移动互联网时代又来了。这几十年产生了大量的数据,面向特定任务的统计学习成为了ai的主流。那时的论调是仿生没用。
: 然后随着算力的进步,偶然发现以前仿生设计的cnn在视觉方面很好用,带火了深度学习。直到变形金刚网络又被发现很好用,只要加大网络,数据,计算就能力大砖飞,其实这也是一种仿生,因为人类小孩也是这么学习的,所谓熟读唐诗三百首。再往后,模仿人类学数学的过程,搞分步推理,分步计算,发现变形金刚网络搞分步计算效果也惊人的好。
: ...................
--
FROM 115.53.38.*
【 在 butcher 的大作中提到: 】
: 只要人类不解决从哪里来到哪里去,
: 人类永远都是造物主的小小玩物。
: 事实上人类永远不会知道。
: ...................
出来看看天吧..
--
FROM 61.48.14.*
大模型拿着人类的显性知识以类型掌握默会知识(隐性知识)的方式在学习。具体说是以海量文字的形式为输入,在词汇和语义空间上的相似性进行大量的训练,得到了一个类似默会知识的人类知识体系。大模型自己也说不清楚是怎么学会的,是怎么用的,反正能解决问题,当然也会出错。
--
FROM 114.246.109.*
人脑还不是一样,人脑能工作,但不知道自己是怎么工作的;人脑有意识,但不知道意识是怎么形成的。
【 在 schen1999 的大作中提到: 】
: 大模型拿着人类的显性知识以类型掌握默会知识(隐性知识)的方式在学习。具体说是以海量文字的形式为输入,在词汇和语义空间上的相似性进行大量的训练,得到了一个类似默会知识的人类知识体系。大模型自己也说不清楚是怎么学会的,是怎么用的,反正能解决问题,当然也会出错。
--
FROM 183.208.181.*
以显性知识的掌握来进行默会知识的学习
即便是通过比自然大脑强数亿倍的算力
这一路径大可能是错误的,或者说过于自负了
留待时间证明
【 在 schen1999 的大作中提到: 】
: 大模型拿着人类的显性知识以类型掌握默会知识(隐性知识)的方式在学习。具体说是以海量文字的形式为输入,在词汇和语义空间上的相似性进行大量的训练,得到了一个类似默会知识的人类知识体系。大模型自己也说不清楚是怎么学会的,是怎么用的,反正能解决问题,当然也会出错。
--
FROM 14.11.6.*