二手epyc 跑deepseek怎么样？

水木社区手机版

主题:二手epyc 跑deepseek怎么样？
1楼|natsel|2025-02-08 22:44:50|展开
B站看过，有人用epyc跑DS
https://www.bilibili.com/video/BV18gP6eAEiD/?spm_id_from=333.337.search-card.all.click&vd_source=669ea638da9aa38a760f155ba7507840
--
FROM 120.230.253.*
4楼|natsel|2025-02-09 11:08:45|展开
减少读硬盘，肯定可以加速。

【在 finlab 的大作中提到: 】
: 9字头的epyc太贵了。 7字头的便宜非常多。
: 视频也说cpu占用只有1/3，主要是内存。不过7字头的内存通道8个，9字头的有12个。
: 可以考虑双路7字头。
: ...................
--
FROM 120.230.253.*