私有化数据, 装入手机,llama.cpp,有研究吗

【 在 tgfbeta 的大作中提到: 】
: 这叫quantization
: 能用int8就不用fp16，能用tf32就不用fp32
--
FROM 114.250.177.*