- 主题:外行求科普：几十亿参数的参数具体指什么？
他们回答的都不形象。
目前主流的人工智能模式是人工神经网络。
大模型就是大规模多层人工神经网络。
实际上非常简单。就是模拟人类大脑的构成
一个节点代表一个神经元，一个神经元通过轴突和树突与其他神经元接受和发送信息。
人工神经元的一个参数就是两个神经元之间的神经链接。
人工神经网络再60年代的时候就热过，不过当时算力很弱，只能局限于很小规模
的有限层数的网络。
随着算力的增长，现在大规模人工神经网络的训练成为可能，于是各种基于大规模神经网络的应用开始涌现
这个大规模什么概念？
人类大脑大概有10^11的神经元，10^13的神经连接
相当于10^11个节点，10^13的参数。
所以，要达到人脑复杂度，需要10万亿参数的大模型。
【 在 chunhui 的大作中提到: 】
: 哪位给科普一下。多谢。这些参数是具体指什么？参数是由什么划分出来的，根据什么来划分这些参数？
--
FROM 223.72.40.*
不是，是神经连接的个数，比大脑神经元，就是脑细胞，多两三个数量级
【 在 chunhui 的大作中提到: 】
: 所以说，这个”参数“指的是模拟神经元的个数？
--
FROM 223.72.40.*
对，看神经网络结构，可以差很多
【 在 chunhui 的大作中提到: 】
:
: 比如说的十亿参数的模型，是十亿个链接数。那神经元的个数是多少？
: 俩模型都声称是十亿参数，但神经元数可以不一样对吧。
: --
: 加微信删微信就不知道咋聊天 他这么想她那么想请各位把关 啊啊啊啊～～～男神我要跪舔 呵呵呵呵～～～我只玩一天
: 猥琐大叔小鲜肉我寻找的是真
: ..................
发自「今日水木 on iPhone 12」
--
FROM 223.104.41.*
不是的。 神经网络就是参照人脑神经细胞的原理设计的。
当时人工智能有很多流派，神经网络只是其中的一个方向。
现在算力上来了，神经网络产生了量到质的变化，成为AI的主流了。
说到算力提升， 比特币挖矿其实功不可没。
【 在 zuigao 的大作中提到: 】
: “神经网络” 这个命名是最大的失败，实际上和生物上的 “神经” 没有半毛关系，都是人看着像，强拉上的关系
:
:
--
FROM 223.72.40.*
跟泰勒级数没有关系， 你再去看看神经网络的发展， 计算神经科学
现在在分子水平上，对局部和个别神经元的工作机制已经研究的比较清楚。
但是对于大脑这个庞大的神经网络在整体上如何工作，还没有弄明白。
目前的大模型，也会促进人们对大脑工作原理建模的进展
看后面会不会有突破
【 在 zuigao 的大作中提到: 】
: 参照个毛线，动物的神经网络，到现在人类还是两眼一抹黑，抓瞎
: 现在的神经网络算法，就是泰勒级数展开的一种高级形式，属于数学上的一种拟合算法
:
--
FROM 223.72.40.*
对，数学上就是复杂函数的拟合。
所以神经网络也存在过拟合，外推表现不好的问题。
【 在 zuigao 的大作中提到: 】
: 神经网络，数学上的名词定义： 多维输入的曲线拟合算法
:
--
FROM 223.72.40.*
对，大数据、高算力是大模型的前提。
【 在 q6329 的大作中提到: 】
: 我觉得这个回复最合适，就是参数越多，你可以认为可以拟合的越准确，但是函数本身就越复杂，计算量越大。
--
FROM 223.72.40.*