去github 下载最新llama.cpp
然后去huggingface 下载the bloke下面的gguf权重
【 在 chunhui 的大作中提到: 】
:  各位有实际使用的么？给介绍一下啊。早上看到新闻介绍说北大的：https://mp.weixin.qq.com/s/c0pX6JV15kVxcRnHAwgr2g
:  如果好使，那本地部署一个还是挺好挺好的。
--
FROM 117.10.154.*

cpu加内存也可以凑合
【 在 chunhui 的大作中提到: 】
: 我没带显卡的机器，只有一个公司的笔记本和mac mini。
--
FROM 111.162.220.*