这种话不用跟我说,我当然知道。
GPT3训练集45T,GPT3的权重也没到45T啊,大概700GB而已。
我说的很清楚,人脑,或者说整个脑神经系统有这个数据处理能力,它在硬件上就需要接受这么大的带宽,至于经过重重处理之后有多少进入大脑的意识领域,那是另一个问题。
【 在 blueboats 的大作中提到: 】
: 人眼接收后的数据是处理过的,大脑里存在下来进行处理的肯定没有那么大的数据量。
: 怎么可能机器1秒就学会人18年的训练...
: GPT3的训练代价大概是128张A100卡和1年的时间。训练的数据量也只是45TB而已。
: ...................
--
FROM 180.158.63.*