搞到了别忘了回馈一下
想知道能不能真的跑,效果怎么样
不过这内存起码是比显卡强多了

【 在 tgfbeta 的大作中提到: 】
: 希望llama.cpp不会让人失望
--
FROM 159.220.76.*

主要是内存
四舍五入约等于能跑180B模型
【 在 op1qtz 的大作中提到: 】
: 感觉比H100便宜
--
FROM 221.198.65.*