感谢回复,我觉得你的问题非常有深度,光思考一下就很有收获
我也是AI领域的外行, 理解非常粗浅,也不一定对,我们就探讨一下哈
: 所谓的知识是什么?除了先验概率外,它有结构吗?结构又是什么
我觉得还是要从信息论角度讨论
知识是有序的信息块, 它的结构可以是多种多样的, 比如可以是参数, 也可以是化学结构
: 现在深度网络结构里存储的有知识吗?
我觉得存储有知识, 也就是模型的大量的参数
: 这个f=ma的东西是概率吗?
这个f=ma应该称为模型的"猜想", 它是概率计算过程产生的结果
: 另外你怎么看llya提到的压缩即智能?
不太了解他的完整观点,
我觉得模型训练就是提炼知识的过程,是把无序的信息组织成有序的信息块,也就是信息熵减的过程。
应该就是他说的压缩吧。
但压缩的信息是静态的,要产生智能行为还要加上计算的能力,即模型对外界输入产生反应,输出结果。
压缩即智能,但智能不一定是压缩。
想像我们有一台无限快的量子计算机,它完全不需要压缩数据,给它原始信息就能立即计算结果。
这应该也是智能吧
【 在 bluecase 的大作中提到: 】
: 所谓的知识是什么?除了先验概率外,它有结构吗?结构又是什么
: 现在深度网络结构里存储的有知识吗?
: 我给深度神经网络输入了几万个 平板小车加速的案例,只给了他有限的节点和参数,跑到最后会存在一个类似f=ma的东西。
: ...................
--
FROM 114.247.88.*