量化到2位还能用？



【 在 x97 的大作中提到: 】
: 噢噢
: 用 m4 16G 跑量化2位，能到 5 tokens
:
--
FROM 60.2.184.*