跟N卡比起来如何？
m芯片上GPU规模还是小很多吧？

【 在 tgfbeta 的大作中提到: 】
: https://github.com/ggerganov/llama.cpp/pull/1642
: M2 Max上7B模型达到40tok/s，完全使用GPU
: 13B 24tok/s
: ...................
--
FROM 114.249.194.*