毫无市场

一个是 M 一时半会搞不出 CUDA 这种成熟度的库，也不知道 M 的 GPU 支不支持 FP16/INT8/INT4 之类的

二来 192G 这个其实没什么优势；N 卡 80G 单卡，8卡走 SMX 的带宽很夸张的..

【 在 iamqk 的大作中提到: 】
: 现在AI训练没有市场吗？
: 192g的统一内存，炼丹它不香吗？
: 4090ti 24g得几块？
: ...................
--
修改:frogcow FROM 183.14.135.*
FROM 183.14.135.*

一看你就不是干这行的，就别硬坳 M2u 跑模型了，它就不是为了干这个设计的

Inference 是没办法，为了低功耗之类的场景总得去适配各种 BE，大部分场景里还好有 NCNN 这种神库，如此成熟的框架，遇到新算子、新结构都偶尔踩坑

Training 我就没见过哪个团队愿意折腾的。我们弄过把训练迁移到昇腾上，要不是为了政治正确，打死都不会干这

【 在 iamqk 的大作中提到: 】
: 4090都能训练
: m2 ultra为什么就不行？
--
FROM 183.14.133.*