Re: [求助]大模型继续问：如何进行多线程

水木社区手机版

展开|楼主|同主题展开|溯源|返回

上一篇|下一篇|同主题上篇|同主题下篇

主题:Re: [求助]大模型继续问：如何进行多线程
omelet|2024-08-19 15:48:44|
单线程都慢，那多线程岂不是更慢了？

【在 earlyinsect 的大作中提到: 】
: 多谢！今天上午看了看vllm，准备试试。
: 就两块24G的显存，看起来不太够啊
:
--
FROM 114.249.194.*

上一篇|下一篇|同主题上篇|同主题下篇

BYR-Team©2010. KBS Dev-Team©2011 登录完整版