- 主题:有2080ti 44G了
可以做啥样规模的？
【 在 LYMing1986 的大作中提到: 】
: 赞！
: 我已经用2070 16G和2080ti 22G两年啦，感觉挺不错
: 最近开始用amd mi50 做推理，真便宜真好用
: ...................
--
FROM 27.190.147.*
我是想了解一下你的配置， 大约能做多大规模的训练，模型。
【 在 LYMing1986 的大作中提到: 】
: 廉价的至少可搭到单机上限吧
: 比如mi 100的8卡机，至少可以到2T内存+256G显存
: 不过我自己搞个双卡到四卡就足足够用了
: ...................
--
FROM 60.2.184.*
好的，谢谢
【 在 LYMing1986 的大作中提到: 】
: 用的联想P510 32G *8 rdimm ，2070 16G， 2080ti 22G，1T sata固态，4T 机械矿盘， 850w电源
: 2080ti 22G单卡qlora 7b模型，batchsize=2
: 如果改用amd mi100，应该可以qlora 14b模型
: ...................
--
FROM 60.2.184.*