- 主题:CPU比GPU训练神经网络快十几倍zz
猜测是滤掉了一些对精度影响不大但占比比较多的操作,计算量小时间就省下来了。如果真是这样,直接吹cpu比gpu训练快是扯犊子。。
【 在 zszqzzzf 的大作中提到: 】
: 本文转载自头条号:机器之心Pro
:
: 机器之心报道
:
: 编辑:维度、陈萍
:
: 神经网络训练通常是 GPU 大显身手的领域,然而莱斯大学和英特尔等机构对 GPU 的地
: 位发起了挑战。
:
: 在深度学习与神经网络领域,研究人员通常离不开 GPU。得益
: ..................
发自「今日水木 on Redmi Note 7」
--
FROM 116.228.77.*
那标题是太唬人了。。如果哈希在gpu上好使,还是会吊打cpu。
【 在 tgfbeta 的大作中提到: 】
: 作者的意思是:反向传播这种基于矩阵乘法O(N^3)的算法,在模型日益膨胀的当下如果不反思一下就太说不过去了。于是搬出了局部敏感哈希。
: --
发自「今日水木 on Redmi Note 7」
--
FROM 101.84.109.*
原来做的一个动力学求解问题,加过滤算法可以扔掉95以上%的计算量,也是用了类似的稀疏化,在cpu上串行跑完虐gpu全算的。
【 在 tgfbeta 的大作中提到: 】
: 这个方案主要是利用locality sensitive hash把前向和后向的计算变成稀疏的,所以也就没GPU啥事儿了
: --
发自「今日水木 on Redmi Note 7」
--
FROM 101.84.109.*