- 主题:自己想攒个四卡的深度学习工作站,硬件来源?
消费卡不建议多卡,并行效果不好,单卡4090,3090不错。有钱上计算卡,V100 32G性价比不错,三楼的P40也可以考虑。根据你的方向来,如果做NLP一定大显存。
内存4通道打底,200G保底,这个也很重要,看你数据集小。
主板一定要好,二手服务器也可以,他们的机子要定期退的。注意电源,UPS非常重要,IPS是可选的,电源要好,主要空调。
有老板付钱就往上堆,自己就根据方向配。一般来说计算卡比较保值。咸鱼别考虑,淘宝可选,不过有认识那些数据中心人最好。
【 在 bullr 的大作中提到: 】
: 请教下,淘宝或闲鱼能买到合适的主板,机箱和电源吗?预计四块4090的样子。总价能多少下来?
--
FROM 118.81.48.*
内存问题好说,但UPS绝对非常重要。
有一次我一客户出错了,算出了一个意外值,排查了好久,最后判断是显卡意外断电核心烧了,UPS不是为了保模型,是为了保硬件。
【 在 lvsoft 的大作中提到: 】
: ups意义不大。个人用遇到掉电了也无所谓,反正训练过程中会有checkpoint,顶天浪费1-2小时而已。
: 内存问题看会不会用到off load,不然也一样意义不大,不管是容量还是带宽。
--
FROM 171.120.195.*
关键是硬件太贵了,一个能用的UPS不到2000,不过到底买不买看楼主最后预算吧。
消费卡没有ECC,这个lz需要注意下。
【 在 lvsoft 的大作中提到: 】
: 这种概率可能还没4090供电线烧了的概率大。
: 小概率事件无视就行了。
: 另外,gpu算错很常见的事情,不然你以为为啥ecc会是tesla级的配置?
: ...................
--
FROM 118.81.85.*