水木社区手机版
首页
|版面-电脑市场(CompMarket)|
新版wap站已上线
返回
1/1
|
转到
主题:什么样的配置,跑671b-Q8速度能达到32token/s
1楼
|
alexlaugb
|
2025-02-19 09:23:16
|
展开
q8不是满血吧,fp8才是,据说q8的答不对左木右乞那个问题
公司用直接买8卡h20机器吧,130万左右
【 在 Akyrum 的大作中提到: 】
:
: RT
: 公司要部署离线满精满血DS给大家用,预算未定。如果要使推理速度能跑到8t/s 32t/s 128t/s,分别需要多少经费?
#发自zSMTH@BRA-AL00
--
FROM 112.224.193.*
1/1
|
转到
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版