- 主题:请教大佬，deepseek的32B蒸馏模型如果要部署在国产信创服务器上
请问有没有服务器建议？大概硬件成本是多少？谢谢！
--
FROM 182.84.243.*
低配1万左右
【 在 philemsophia 的大作中提到: 】
: 请问有没有服务器建议？大概硬件成本是多少？谢谢！
--
FROM 183.241.157.*
32B的1w左右？
普通x86都不见得做到，何况信创
【 在 newabcd 的大作中提到: 】
: 低配1万左右
--
FROM 123.119.249.*
显卡用哪家的
【 在 philemsophia 的大作中提到: 】
: 请问有没有服务器建议？大概硬件成本是多少？谢谢！
: --
:
发自「今日水木 on OCE-AN10」
--
FROM 223.104.103.*
逗的吧
【 在 newabcd 的大作中提到: 】
: 低配1万左右
--
FROM 36.112.195.*
具体看你使用场景
最低成本下，q4量化，一张3090就能跑，但有诸多限制
建议说明具体细节，信创我不太了解，但如果你可以提供你能选的硬件列表和任务，我可以给你更详细建议
【 在 philemsophia 的大作中提到: 】
:
: 请问有没有服务器建议？大概硬件成本是多少？谢谢！
#发自zSMTH@23054RA19C
--
FROM 113.143.107.*