- 主题:AMD tensorflow-directml
tensorflow-directml
红米6800H笔记本核显速度约等于 gtx1070 的 45%,gpu温度不到60度。RX7900XT速度约等于gtx1070的3倍速。
--
FROM 125.69.14.*
很可惜大模型还得N卡或TPU。
【 在 lyqcchl 的大作中提到: 】
: 要是能训练LLM,amd显卡能赶上gpt这波浪潮
: nv的显卡,又贵,显存又小;amd普及16G现存, nv还6G/8G
:
--
FROM 221.236.86.*
linux下ROCm HIP,和CUDA代码相似,还是需要移植。tf和pytorch有ROCm下开源的移植。windows下有tensorflow-directml,tensorflow2 directml 插件, pytorch directml,所有这些比cuda版都少一些高级功能。
【 在 yzjba 的大作中提到: 】
: AMD也搞了GPU计算吗,网上基于CUDA的代码能直接用吗
--
修改:netvideo FROM 125.69.13.*
FROM 125.69.13.*
tensorflow和pytorch的代码大多数情况可以直接用。
【 在 yzjba 的大作中提到: 】
: 那还是没办法取代啊,必须做到代码一致才能替代
--
FROM 125.69.13.*
directml的tf,pytorch还支持intel显卡,支持DirectX12就可以。所以在程序部署上有一些独特的优势。
【 在 yzjba 的大作中提到: 】
: 那还不错啊,可以试试
--
FROM 125.69.13.*
linux就安心用cuda,除非没n卡可用。
windows的directml版好在安装方便,同时支持多家显卡包括核显,有一定意义。
【 在 yzjba 的大作中提到: 】
: 可惜没有ubuntu版本
:
--
FROM 125.69.13.*