谢谢
【 在 ArchLinux 的大作中提到: 】
: 搞大模型还是弄个像样的GPU吧，CPU推理小点的模型其实生成速度也还可以，但是预处理速度不行。便宜点的卡可以考虑二手的 AMD Instinct MI50 16G/32G, 新卡可以看看 Intel Arc A770 16G 还有摩尔线程。如果 CPU 是你说的 6 代 i7 的话，倒是也不算慢。
:
--
FROM 199.91.67.*