这个小主机跑70b多少token/s

【 在 LYMing1986 的大作中提到: 】
:
: 3000多的机器也能显卡跑70B
:
: 比如
: AMD 8845小主机，核显780M能跑ROCm

#发自zSMTH@PJD110
--
FROM 111.181.10.*