水木社区手机版
首页
|版面-人工智能(AI)|
新版wap站已上线
返回
1/1
|
转到
主题:请教大佬,deepseek的32B蒸馏模型如果要部署在国产信创服务器上
5楼
|
VincentGe
|
2025-11-23 15:26:14
|
展开
具体看你使用场景
最低成本下,q4量化,一张3090就能跑,但有诸多限制
建议说明具体细节,信创我不太了解,但如果你可以提供你能选的硬件列表和任务,我可以给你更详细建议
【 在 philemsophia 的大作中提到: 】
:
: 请问有没有服务器建议?大概硬件成本是多少?谢谢!
#发自zSMTH@23054RA19C
--
FROM 113.143.107.*
1/1
|
转到
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版