用的 ollama 跑的么？
INT8 的量化版本还是什么？

【 在 poocp 的大作中提到: 】
: 4090跑起来很舒服，大小正好。
: 另外内存也能跑，128GB内存。
: [upload=1][/upload]
: ...................
--
FROM 114.245.102.*