只要内存够大72b的量化都能跑。国外模型的问题是对中文支持普遍不太行。  
  
【 在 chunhui (北瓜) 的大作中提到: 】
:    最近出了llama3，很多人说可以顶gpt4了。而且可以本地跑。各位有人这么用的么？给介绍一下。如果很好用，考虑也弄一个。
:  --
:  
:  
--
FROM 124.127.220.*