水木社区手机版
首页
|版面-人工智能(AI)|
新版wap站已上线
展开
|
楼主
|
同主题展开
|
溯源
|
返回
上一篇
|
下一篇
|
同主题上篇
主题:Re: Groq LPU,运行Mixtral 8x7B 500T/s
poocp
|
2024-02-23 16:39:27
|
Groq一块要将近2万美元,才230MB内存。
想跑Mixtral 8X7B要买100多块,花200万美元。而且只能推理不能训练。
我的RTX 4090一张卡就能跑,慢就慢,也能用。
--
FROM 171.221.52.*
上一篇
|
下一篇
|
同主题上篇
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版