什么是官翻版？哪里有卖？
【 在 haili 的大作中提到: 】
: 大部分人都量化跑，4bit，4090的24G刚好可以跑。即使服务端vllm/lmdepoly不量化也是按fp16模式跑的 ...
--
FROM 27.128.33.*