水木社区手机版
首页
|版面-人工智能(AI)|
新版wap站已上线
展开
|
楼主
|
同主题展开
|
溯源
|
返回
上一篇
|
下一篇
|
同主题上篇
|
同主题下篇
主题:Re: 本地部署一个“小”模型,能玩啥呢?
poocp
|
2025-02-03 10:14:31
|
成本再降10倍,能安装在手机上,就是能离线工作的个人智脑雏形了。不知道还有用几年时间能够达成。
【 在 qgg 的大作中提到: 】
: 有人试过了,不用显卡,把内存弄到768G,可以跑完整版的DeepSeek-r1。成本只要6000美元,不到显卡版本的1/10。当然速度要慢很多,每秒6-8tokens,但个人用应该是足够了。
: 类似的思路,弄个64G内存跑70B的肯定也可以,不用昂贵的显卡了。
--
FROM 171.221.52.*
上一篇
|
下一篇
|
同主题上篇
|
同主题下篇
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版