我感觉都是4K跑不动吧，那就只能玩AI了，以现在能跑到的有意思的AI来看

22G能跑33b的llama（4bit gptq量化+ ooba_ui(exllama_hf) 加载），估计能到3k context?

16G能跑13b的llama，同上软件配置，估计可以到6k context?

我觉得22G香，但是保修什么不一样。

【 在 HDLQ 的大作中提到: 】
: 这东西跟2080Ti 魔改22G版哪个香 :P
--
FROM 101.254.182.*