- 主题:2023年搞AI装机方案怎么选？
挖矿pcie x1就够了。ai不行的。
【 在 richiter 的大作中提到: 】
: 怎可能只能一块，以前挖矿怎么接就能怎么接
:
--
FROM 180.158.50.*
stable diffusion用了4000张A100训练的。
想自己训练还是省省吧。
【 在 wwpty 的大作中提到: 】
: 指定ubuntu 22.04系统，intel处理器还是有大小核调度问题吧？是不是amd处理器搭配nvidia显卡更好？普通的atx主板只能装一块4090显卡，那些流行ai的模型，画画、对话之类的功能，训练到底要几块显卡？
--
FROM 180.158.50.*
个人？？？早就是中小型机构/公司都够不到门槛的时代了。
最顶级的ai，哪怕是拿别人训练好的送给你用，你没个8张a100都别想。
【 在 wwpty 的大作中提到: 】
: 现在个人连ai门槛都够不着了？只能拿别人训练好的用
--
FROM 117.136.45.*
简单的说，要搞ai，现在的门槛就是至少要1台a100x8的机器。
这个是最小单元了。只是可能能让你跑别人的sota的工作。如果是自己想从零开始训一个sota，比如gpt3级别的，1亿美元起步。
你只是玩玩当然无所谓，比如本地跑stable diffusion，4090足够，3090都绰绰有余。其实主要问题是显存要大，不然不需要出高清图的话，3060都可以。
甚至你愿意等，cpu跑就行了。
但你不是说要4090x2嘛，多少是有点想法的吧？
【 在 wwpty 的大作中提到: 】
: 为什么要8张a100，1张4090不行吗？比如ai画画好像有个开源的，4090台式机能不能跑？
--
修改:lvsoft FROM 180.158.50.*
FROM 180.158.50.*
gpt3的权重文件是570GB，a100有80g显存，p40是24g。
我的建议是你要玩玩还不如上云上租几个小时。等你能玩转了，真的有需求了再去买也不迟。
【 在 wwpty 的大作中提到: 】
: 为什么门槛非要8块a100？是显存还是算力的要求？8块p40行吗？这个很便宜，淘宝拆机1000块钱一个，再搭配超微4028gr-tr准系统，淘宝4000块钱一台，都是数据中心淘汰的，两颗志强v4处理器和recc ddr4内存都很便宜。这套方案是最便宜的8卡平台
--
FROM 117.136.45.*