你别跟我犟了，你做芯片的当然希望gpu多卖点，但事实就是根本没人拿gpu跑推理
训练好的模型，剪个枝，在cpu上跑不要太容易。
你gpu即使虚拟化，也不是100%利用，你还得搞个数据流，在企业级不稳定的应用环境下根本没效率，你gpu电费还贵的一批
你别意淫了，我在互联网大厂干过，明确告诉你，推理不用gpu

【 在 tgfbeta 的大作中提到: 】
: GPU当然要虚拟化
: 这个不就是专业级企业级驱动的卖点么？
--
FROM 39.144.106.*