- 主题:tesla p40 24g计算卡值得买吗？
淘宝搜了一下，只要1050块钱。专业的计算卡，被动散热，适合服务器用。3840个cuda核，24g gddr5显存。拿来搞ai练手，值得买吗？现在的3090和4090太贵了
--
FROM 60.177.68.*
算力低了点，基本就是 1080Ti，显存大对训练很有帮助。
【 在 wwpty 的大作中提到: 】
: 淘宝搜了一下，只要1050块钱。专业的计算卡，被动散热，适合服务器用。3840个cuda核，24g gddr5显存。拿来搞ai练手，值得买吗？现在的3090和4090太贵了
--
FROM 123.116.11.*
搜了一下，fp32单精度12tflops，相当于3060，但是没有tensor核，做不了fp16半精度计算
【 在 alygunia 的大作中提到: 】
: 算力低了点，基本就是 1080Ti，显存大对训练很有帮助。
:
--
修改:wwpty FROM 112.17.247.*
FROM 112.17.247.*
如果你的预算只能买这个，又需要大显存，这基本上是唯一的选择了
如果你的模型对精度不那么敏感，可以考虑买 2080/2080Ti 这种，然后用半精度或者混合精度训练，能大幅度降低模型对显存的要求
【 在 wwpty 的大作中提到: 】
: 淘宝搜了一下，只要1050块钱。专业的计算卡，被动散热，适合服务器用。3840个cuda核，24g gddr5显存。拿来搞ai练手，值得买吗？现在的3090和4090太贵了
--
FROM 210.21.229.*
看淘宝卖家的图片，应该是超微或者浪潮的gpu服务器，无尘机房淘汰的，一个4u机箱里面装8个显卡。服务器准系统卖3500，再加8个显卡，一套也就一万出头，相当于一张3090的价格，感觉可以试试
【 在 frogcow 的大作中提到: 】
: 如果你的预算只能买这个，又需要大显存，这基本上是唯一的选择了
: 如果你的模型对精度不那么敏感，可以考虑买 2080/2080Ti 这种，然后用半精度或者混合精度训练，能大幅度降低模型对显存的要求
:
--
FROM 60.177.68.*
P40 这种卡都是被动散热的，你自己装机的话还得想办法改造一下，要么机箱里加大风扇猛吹，要么就改散热器
你都要 200G 的显存跑大模型了，还是多申请点预算吧... 工作用的玩意稳定压倒一切
【 在 wwpty 的大作中提到: 】
: 看淘宝卖家的图片，应该是超微或者浪潮的gpu服务器，无尘机房淘汰的，一个4u机箱里面装8个显卡。服务器准系统卖3500，再加8个显卡，一套也就一万出头，相当于一张3090的价格，感觉可以试试
--
FROM 210.21.229.*
超微的这个gpu服务器就是配套的，型号4028gr-tr，淘宝很多卖的，图片介绍里面都是库房成堆，应该是机房大批淘汰的货。服务器一年包换，显卡半年包换。我自己打算学习ai，要超大显存的话，只能买得起这个了
【 在 frogcow 的大作中提到: 】
: P40 这种卡都是被动散热的，你自己装机的话还得想办法改造一下，要么机箱里加大风扇猛吹，要么就改散热器
: 你都要 200G 的显存跑大模型了，还是多申请点预算吧... 工作用的玩意稳定压倒一切
:
--
修改:wwpty FROM 60.177.68.*
FROM 60.177.68.*
fp16 的话 2060 12G 也可以试试
【 在 wwpty 的大作中提到: 】
: 搜了一下，fp32单精度12tflops，相当于3060，但是没有tensor核，做不了fp16半精度计算
--
FROM 123.116.11.*
3060 12g更划算，微星、技嘉也就2400块钱
【 在 alygunia 的大作中提到: 】
: fp16 的话 2060 12G 也可以试试
:
--
FROM 60.177.68.*
搜了一下，fp32单精度12tflops，相当于3060，但是没有tensor core，所以做不了fp16半精度计算
【 在 alygunia 的大作中提到: 】
: 算力低了点，基本就是 1080Ti，显存大对训练很有帮助。
:
--
FROM 112.17.247.*