- 主题:超算能不能用来训练大模型？
也能算，还有超算想挖矿呢。不经济啊。
【 在 asm2004 的大作中提到: 】
: 不是有好几个超算中心么？不用n家卡脖子了
--
FROM 223.11.37.*
超算中心的超算不止是你们叫得上名字的那几台天河申威，还有很多其它的
有很大一部分就是装了好多N卡的机器。我就租用超算中心的机时进行训练
前段时间还给我发广告说他们又进了2000个A100，欢迎来用
【 在 asm2004 的大作中提到: 】
: 不是有好几个超算中心么？不用n家卡脖子了
--
FROM 222.209.186.*
能用，但商用价值太低
--
FROM 119.57.115.*
超算用的显卡不是最新的
【 在 asm2004 的大作中提到: 】
: 不是有好几个超算中心么？不用n家卡脖子了
: --
:
发自「今日水木 on Redmi K30 5G」
--
FROM 60.9.164.*
能，跑mpi就行
【 在 navyyang 的大作中提到: 】
: 完全不是一个概念的方式。
: 真用超算去做，能做但是效率极低。
--
FROM 120.244.234.*
前几年，模型都是用cpu集群训练的
所以超算当然可以用来训练大模型，而且超算有超大内存的优势
只是训练速度慢一些
--
FROM 120.244.234.*
背后都是超算集群，别被误导了。只是以前的那种纯CPU集群不太合适了，不过现在也基本没有纯CPU集群了。超算本就是拼算力的，模型特别是大模型训练也是
--
FROM 223.71.29.*
卡的很了会有办法
--
FROM 118.202.94.*