简单地说，3090的license不允许你用于数据中心。
说的更简单点就是这么用跟盗版是一样的。

当然你可以说我就用盗版了咋滴。那我可以再说说真这么用的代价：
1. 3090的功耗是a100的2倍
2. 3090的性能是a100的1/2
3. 3090的显存是a100的1/2到1/4
4. 3090只有nvlink，a100则是nvswitch

以上这4条因素，导致3090真用于集群的效果，按照性能功耗比来算可能会落后a100一个数量级。大概是落后2-3代的差距。
而a100已经不是最新的卡了，后面还有h100，按照这个算就是落后4代了。

【 在 qgg 的大作中提到: 】
: 为什么用3090集群不行？单机不行我还能理解，集群的话我想不到不行的理由
--
FROM 180.158.52.*