cool~
反正65b的LLaMA touch不到， 33b over 13b还是很有优势的
保修的确是个事，主要是脱焊的风险？
【 在 haili 的大作中提到: 】
我感觉都是4K跑不动吧，那就只能玩AI了，以现在能跑到的有意思的AI来看
22G能跑33b的llama（4bit gptq量化+ ooba_ui(exllama_hf) 加载），估计能到3k context?
16G能跑13b的llama，同上软件配置，估计可以到6k context?
我觉得22G香，但是保修什么不一样。
【 在 HDLQ 的大作中提到: 】
: 这东西跟2080Ti 魔改22G版哪个香 :P
--
FROM 123.122.162.*