简单地说,3090的license不允许你用于数据中心。
说的更简单点就是这么用跟盗版是一样的。
当然你可以说我就用盗版了咋滴。那我可以再说说真这么用的代价:
1. 3090的功耗是a100的2倍
2. 3090的性能是a100的1/2
3. 3090的显存是a100的1/2到1/4
4. 3090只有nvlink,a100则是nvswitch
以上这4条因素,导致3090真用于集群的效果,按照性能功耗比来算可能会落后a100一个数量级。大概是落后2-3代的差距。
而a100已经不是最新的卡了,后面还有h100,按照这个算就是落后4代了。
【 在 qgg 的大作中提到: 】
: 为什么用3090集群不行?单机不行我还能理解,集群的话我想不到不行的理由
--
FROM 180.158.52.*