- 主题:深度神经网络可以自动选择特征?
一般课本都是说:深度神经网络可以自动选择特征,而最小二分法,SVM之类的都需要人来选择特征。
但是深度神经网络中,卷积层就是用来提取特征,卷积的基就是人指定的特征。
是不是可以说,深度神经网络不能自动选择特征,还是人给它选定了特征。
--
修改:johnfader FROM 113.104.209.*
FROM 113.104.209.*
不知道LZ说的卷积的基不知道是什么意思?姑且认为是卷积核吧
在深度神经网络中,以CNN为例,人制定的可能就只有卷积核的大小,比如3x3,至于卷积核里面的数值是通过网络训练得到的,不同的卷积核数值作用于数据后得到的特征也不一样,这就是深度神经网络自动选择特征的一种简单理解。
--
FROM 218.249.94.*
SVM是人工定义特征,CNN是自动学习特征
【 在 johnfader 的大作中提到: 】
: 一般课本都是说:深度神经网络可以自动选择特征,而最小二分法,SVM之类的都需要人来选择特征。
: 但是深度神经网络中,卷积层就是用来提取特征,卷积的基就是人指定的特征。
: 是不是可以说,深度神经网络不能自动选择特征,还是人给它选定了特征。
: --
发自「今日水木 on iPhone 12」
--
FROM 61.48.214.*
对吧,卷积就是一种选特征的方法,特别是图像和语音中。
用了卷积,就是人类已经选定了识别对象特征的方法,不是CNN自己根据对象而选了卷积。
那交通预报之类的就不能用卷积了吧?预测某个路口会某个时间段会塞车。
【 在 luckysky 的大作中提到: 】
: 不知道LZ说的卷积的基不知道是什么意思?姑且认为是卷积核吧
: 在深度神经网络中,以CNN为例,人制定的可能就只有卷积核的大小,比如3x3,至于卷积核里面的数值是通过网络训练得到的,不同的卷积核数值作用于数据后得到的特征也不一样,这就是深度神经网络自动选择特征的一种简单理解。
--
修改:johnfader FROM 113.104.209.*
FROM 113.104.209.*
【 在 johnfader 的大作中提到: 】
: 对吧,卷积就是一种选特征的方法,特别是图像和语音中。
: 用了卷积,就是人类已经选定了识别对象特征的方法,不是CNN自己根据对象而选了卷积。
: 那交通预报之类的就不能用卷积了吧?预测某个路口会某个时间段会塞车。
你理解的特征, 和神经网络学习的特征,很可能不是一个东西。
神经网络学习的是数学上的特征, 它可以非常复杂, 但是是可以高度量化的,
可以用数学表示的,它可以很细微,但数学上也可以很精确,
人类的特征, 你可以理解很直观, 但也可能很模糊。
举个例子, 人脸识别, 计算机识别人类的瞳距, 或者头盖骨两眼框之间的距离,
可能差距只有几毫米, 计算机可以精确区分,在人脸识别上也会有很强的权重。
但这个特征对人眼就远没有这么敏感, 一个人化妆,整容可以很轻松骗过人眼,
但想骗过AI的人脸识别常常徒劳。
人类的特征, 比如柳叶眉, 樱桃口, 看似很直观, 却实际很难量化,人与人的标准还会不一样。
--
FROM 124.126.1.*
人脸识别的瞳距不同,可能不属于卷积的范畴,而是pooling?
我说的问题是,卷积这一操作,其实就已经契合了对象的特征。图像中由很多点,线,面组成。正好可以用卷积识别出来。语音识别,由不同频率的音频组成,正好用卷积识别。
如果按西瓜书里面的例子: 西瓜的瓜皮颜色,瓜蒂的卷曲,这些特征是不能用卷积识别吧。
【 在 poggy 的大作中提到: 】
:
: 你理解的特征, 和神经网络学习的特征,很可能不是一个东西。
: 神经网络学习的是数学上的特征, 它可以非常复杂, 但是是可以高度量化的,
: ...................
--
FROM 113.104.227.*
【 在 johnfader 的大作中提到: 】
: 人脸识别的瞳距不同,可能不属于卷积的范畴,而是pooling?
: 我说的问题是,卷积这一操作,其实就已经契合了对象的特征。图像中由很多点,线,面组成。正好可以用卷积识别出来。语音识别,由不同频率的音频组成,正好用卷积识别。
: 如果按西瓜书里面的例子: 西瓜的瓜皮颜色,瓜蒂的卷曲,这些特征是不能用卷积识别吧。
: ...................
其实, 什么是特征, 并不是太好界定的, 尤其深度神经网络,
目前, 对于网络学习到的特征, 可解释性还十分有限, 从概率或者能力角度说,
学习过程就是拟合显示概率分布的过程,原始的概率分布就蕴含着原始的特征, 如果,
能更好的拟合了这个概率分布, 就说明,学习到了这个特征, 但这个特征是数学的,可数字不可言表。
从能量的角度,也是类似, 从原始结构中提取出能量和能级分布特征, 尤其是优化出能级稳定态,
说明学习到了特征, 它也是把它整体作为一个系统来描述,特征是蕴含其中, 可数字化, 却也只是
复杂到没法数学方程解析分析的原始问题的拟合。
--
FROM 124.126.1.*
特征难道不就是共性?用来帮助识别某个特定目标的属性?
【 在 poggy 的大作中提到: 】
: 其实, 什么是特征, 并不是太好界定的, 尤其深度神经网络,
: 目前, 对于网络学习到的特征, 可解释性还十分有限, 从概率或者能力角度说,
: 学习过程就是拟合显示概率分布的过程,原始的概率分布就蕴含着原始的特征, 如果,
: ...................
--
FROM 171.113.240.*
应该是吧,但程序怎么自己识别什么是特征,什么不是呢? 就好比一个长方体,有长宽高,颜色等等,程序怎么知道这些是特征呢?
【 在 Aladdin 的大作中提到: 】
: 特征难道不就是共性?用来帮助识别某个特定目标的属性?
:
--
FROM 222.209.8.*
就是通过学习呀....
给它训练学习的数据
它来判断这一批数据里面有哪些共性呀
【 在 tmchzy2 的大作中提到: 】
: 应该是吧,但程序怎么自己识别什么是特征,什么不是呢? 就好比一个长方体,有长宽高,颜色等等,程序怎么知道这些是特征呢?
--
FROM 171.113.240.*