举个例子。
历史上存在狼孩事件。
如果按你的说法,无时无刻不在接受信息对神经进行训练,那么为什么狼孩的智力跟正常人类社会的小孩智力差距那么大?那说明无时无刻接受的信息不见得对训练是有效的。这些信息对智力贡献很小。每天接触到的信息就是打猎,吃饭,睡觉,抢地盘。日复一日的重复等于是把有限的训练集拿来反复训练。数据量打,信息质量差。
人的一生,接触到的声音,视觉,触觉这些东西很难去量化。那我只能拿文本这一块去对比。
搜索一下,人一生能读1800本书,这个文本估计下来也不会超过100M吧。但是opt-175b的训练数据最大的都超过800gb了。这不说明问题么?
【 在 adamhj 的大作中提到: 】
: 我不知道google给了AI多大的数据量,我也不好衡量人类儿童从出生长到8-11岁通过各种感官获取的数据量有多大,所以我不知道怎么比较;请问你是如何确定人类儿童获得数据量相比较小?
--
FROM 223.104.24.*