水木社区手机版
首页
|版面-编程技术(Programming)|
新版wap站已上线
展开
|
楼主
|
同主题展开
|
溯源
|
返回
上一篇
|
下一篇
|
同主题上篇
|
同主题下篇
主题:Re: facebook的AI模型,有人已经跑通了
ArchLinux
|
2023-03-21 09:28:56
|
我手上的 10 年前的 Haswell 4核的电脑,12GB内存,用 llama.cpp 跑 LLaMa 13B 是没问题的,最新版 llama.cpp 可以跑到大约每秒2个token.
【 在 roy 的大作中提到: 】
: 13B个人PC也跑不了吧。
: 除非你装了双3090/4090
--
修改:ArchLinux FROM 111.206.173.*
FROM 111.206.173.*
上一篇
|
下一篇
|
同主题上篇
|
同主题下篇
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版