Mac Mini M4 Pro with 48gb unified memory, qwq:32b-q8_0 gives 7 tokens/s, qwq:32b-q4_K_M gives 9.9 tokens/s.
--
FROM 123.118.9.*

不错，够可以了

【 在 DKX 的大作中提到: 】
: Mac Mini M4 Pro with 48gb unified memory, qwq:32b-q8_0 gives 7 tokens/s, qwq:32b-q4_K_M gives 9.9 tokens/s.
:
--
FROM 115.204.69.*

关键是pp，mac差太多了  
  
【 在 DKX (DKX) 的大作中提到: 】
:  Mac Mini M4 Pro with 48gb unified memory, qwq:32b-q8_0 gives 7 tokens/s, qwq:32b-q4_K_M gives 9.9 tokens/s.
:  
:  
:  --
--
FROM 117.133.82.*

太慢了吧
【 在 DKX 的大作中提到: 】
: Mac Mini M4 Pro with 48gb unified memory, qwq:32b-q8_0 gives 7 tokens/s, qwq:32b-q4_K_M gives 9.9 tokens/s.
:
--
FROM 124.64.17.*

不是，它这个速度是正常区间

有些特意炫耀，问一个你好，然后来测试速度
呵呵

【 在 x97 的大作中提到: 】
: 是不是哪里配错了？还是开其它应用太多了，感觉应该比这快个几倍才正常吧
--
FROM 115.199.100.*