为啥我11G显存跑8b的都得8bit量化+内存混用，直接跑完全起不来啊。。
【 在 sxdxsimple 的大作中提到: 】
: 没错，14b显存需要10.9G
:
--
FROM 124.207.9.*