Qwen3.5 35B-A3B Q4或者Q3量化，用 llama.cpp 推理，部分权重放到内存上用CPU跑，如果不需要视觉功能可以不加载视觉部分的权重。

【 在 dadou 的大作中提到: 】
: 16G的5060Ti卡能部署什么大模型，能达到什么水平，千问，DS还是哪个更好？
: --发自 ismth(丝滑版)
--
FROM 114.246.237.*