水木社区手机版
首页
|版面-人工智能(AI)|
新版wap站已上线
返回
1/1
|
转到
主题:QwQ 32B
11楼
|
upndown
|
2025-03-10 08:48:05
|
展开
4090显存多少?
【 在 poocp 的大作中提到: 】
: 我喜欢用LM Studio跑后台服务方式。
: Qwen-QwQ-32B Q4_K_M 4bit GGUF 19.85GB 版本,4090显卡很合适。
--
FROM 122.206.190.*
20楼
|
upndown
|
2025-03-11 18:25:52
|
展开
cloude需要什么硬件?
【 在 lvsoft 的大作中提到: 】
: 我没用它做太复杂的测试,主要是22token这速度还是不够快。
: 单卡4b倒是挺快的,我跟这个版本聊了几个小时。
: 总体感觉这货确实是很有实力的模型,这个体量实用度很高。当然距离claude还有很大的距离,但也算是突破实用阈值的模型了。
: ...................
--
FROM 39.149.15.*
1/1
|
转到
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版