水木社区手机版
首页
|版面-人工智能(AI)|
新版wap站已上线
返回
1/1
|
转到
主题:利用单个GPU跑大规模语言模型 (转载)
楼主
|
tgfbeta
|
2023-02-21 13:58:31
|
只看此ID
【 以下文字转载自 ITExpress 讨论区 】
发信人: tgfbeta (右旋肉碱), 信区: ITExpress
标 题: 利用单个GPU跑大规模语言模型
发信站: 水木社区 (Tue Feb 21 13:58:23 2023), 站内
https://github.com/Ying1123/FlexGen
通过压缩、存取优化,能让大规模语言模型跑在3090之类的显卡上
--
FROM 125.38.177.*
1楼
|
laitt520
|
2023-02-21 17:14:22
|
只看此ID
真的能跑?
【 在 tgfbeta 的大作中提到: 】
: 发信人: tgfbeta (右旋肉碱), 信区: ITExpress
: 标 题: 利用单个GPU跑大规模语言模型
: 发信站: 水木社区 (Tue Feb 21 13:58:23 2023), 站内
: ...................
--
FROM 218.19.28.*
1/1
|
转到
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版