- 主题:国产GPU开始裁员了
他说放开游戏娱乐是为了给GPU厂增加韭菜
你这个是为啥？
【 在 lxku 的大作中提到: 】
: 放开一夫多妻吧
--
FROM 123.139.87.*
为了拉动房地产
【 在 tgfbeta 的大作中提到: 】
: 他说放开游戏娱乐是为了给GPU厂增加韭菜
: 你这个是为啥？
--
FROM 124.64.16.*
他是想名正言顺傍大款
【 在 tgfbeta 的大作中提到: 】
: 他说放开游戏娱乐是为了给GPU厂增加韭菜
: 你这个是为啥？
--
FROM 192.102.205.*
水平能做推理的太多太卷，没那么多需求，能做训练的一个都没有。
--
FROM 223.104.40.*
推理互联网公司一般都是用cpu搞，用gpu的话，内存和显存之间的数据传输还要时间，省不了多少
【 在 JavaGuyHan 的大作中提到: 】
: 水平能做推理的太多太卷，没那么多需求，能做训练的一个都没有。
--
FROM 39.144.45.*
cpu和gpu比，乘法器个数是数量级的差别
【 在 artech51 的大作中提到: 】
: 推理互联网公司一般都是用cpu搞，用gpu的话，内存和显存之间的数据传输还要时间，省不了多少
--
FROM 221.218.138.*
看来你还没明白
我在互联网公司工作过，很少有业务用gpu跑推理
单纯跑推理，因为内存交换的事实存在，虽然gpu推理快，但是gpu显存和系统内存数据交换需要时间啊，这个时间算上，推理和cpu差距撑死了也就5倍
但是
1. gpu卖的比cpu贵多了，用gpu推理不划算
2. cpu虚拟化技术很成熟，gpu集群虚拟化得专人去搞，业务上线麻烦
3. 如果不搞gpu虚拟化，那么你推理无法100%用到gpu，那么你的效能又打折扣。
上述几点的存在，在现实中就是根本不会有多少业务用gpu去跑推理
- 来自 水木社区APP v3.5.7
【 在 salsalover 的大作中提到: 】
: cpu和gpu比，乘法器个数是数量级的差别
--
FROM 39.144.45.*
应用不一样吧，我接触的大部分是类似监控的实时视频分析
压缩码流直接被cpu通过pcie扔给GPU，GPU同时可以处理几十路码流的硬解码，把图像丢到显存
然后再进行算子运算
必须都是并行的，否则实时性来不及
cpu里才几个乘法器
非实时应用可能ok，中国搞ai最先就视频监控应用，因为中国市场是政府消费，监控是刚需
【 在 artech51 的大作中提到: 】
: 看来你还没明白
: 我在互联网公司工作过，很少有业务用gpu跑推理
: 单纯跑推理，因为内存交换的事实存在，虽然gpu推理快，但是gpu显存和系统内存数据交换需要时间啊，这个时间算上，推理和cpu差距撑死了也就5倍
: ...................
--
修改:salsalover FROM 221.218.138.*
FROM 221.218.138.*
你这个工况很稳定用gpu当然快
不过中国的监控需求真的这么大吗？
【 在 salsalover 的大作中提到: 】
: 应用不一样吧，我接触的大部分是类似监控的实时视频分析
: 压缩码流直接被cpu通过pcie扔给GPU，GPU同时可以处理几十路码流的硬解码，把图像丢到显存
: 然后再进行算子运算
: ...................
--
FROM 39.144.45.*
当然大
当官的就想管，要不当官干嘛
【 在 terminats51 的大作中提到: 】
: 你这个工况很稳定用gpu当然快
: 不过中国的监控需求真的这么大吗？
--
FROM 221.218.138.*