- 主题:机器学习训练GPU大概能比CPU快多少?
我也在搞类似的事情,打算用轻量级模型 MobileNet这类试试 这类网络对CPU友好
【 在 ds9 的大作中提到: 】
: 我用ResNet进行图像分类(由于我的图像比较小,所以模型的参数比论文上的少一些)
: 现在是在普通CPU上进行训练模型的,感觉比较慢,正在考虑是否花时间精力来改用GPU
: 训练模型
: ...................
--
FROM 27.18.230.*
如果8核比1核只快这么点,那你需要优化代码了。
【 在 ds9 的大作中提到: 】
: CPU来训练最不爽的是多核并行太差。上8个核只能比单核快一倍(大概)
: 我想原因是每个iteration都要同步。
: 这样的话模型网络小的话对CPU多核是不是不友好啊?
: ...................
--
FROM 27.18.230.*
可以去了解下分布式训练方法,大量cpu和gpu都可以一起并行加速训练的
【 在 ds9 的大作中提到: 】
: 我用的是pytorch
: 优化代码是pytorch平台开发人员的事情,我想优化都没法优化啊
: 从原理上也很容易理解,每个iteration需要所有线程的计算结果汇总同步,多核想快也快不起来啊
: ...................
--
FROM 27.18.230.*