水木社区手机版
首页
|版面-人工智能(AI)|
新版wap站已上线
展开
|
楼主
|
同主题展开
|
返回
上一篇
|
下一篇
|
同主题下篇
主题:[求助]大模型继续问:如何进行多线程
earlyinsect
|
2024-08-16 07:44:57
|
rt,各位大佬,目前部署的qwen2-7b-instruct,单线程进行推理处理太慢,不知道它是否支持多线程,同时进行多个推理?我自己用多线程试了试,发现报了很多错误,也有可能方法不对。哪位大佬知道望不吝赐教,多谢!
--
FROM 123.58.106.*
上一篇
|
下一篇
|
同主题下篇
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版