AMD 基本拿下家庭主流处理器,商家会选择市场占有高的处理器开发产品。
打个比喻,X86大核心是十几条大船,显卡小核心是几百条快艇。Ai需要的是简单而密集的计算,当然是快艇更快。
【 在 ArchLinux 的大作中提到: 】
: 感觉现在主流的软件还是用不好所谓的AI处理器里的加速器。我现在用的 Intel AlderLake 平台装一张 AMD Instinct MI50 32G, 跑个 gpt-oss-20b 可以有 80token/s 以上的生成速度,不知道新的 x86 平台没独显能不能跑出这个速度。
:
--
FROM 120.230.249.*