- 主题:现在号称 AI 本的 新笔记本,能靠 cpu 本地跑部署 ds 吗?
打算换本子试试本地部署 ds,至少 32b 模型吧,现在新出的号称有 npu 的新本子,算力几十 tops 的,能跑得动吗?还是说大模型现在还是得靠 N 卡
- 来自 水木说
--
FROM 223.104.41.*
跑得动,最好是AMD8745以上CPU, 内存升级到96GB, 除了Deepseek最大671b的模型,其它都能本地运行,大不了慢一点
【 在 tuohuajiang 的大作中提到: 】
: 打算换本子试试本地部署 ds,至少 32b 模型吧,现在新出的号称有 npu&n ...
--
FROM 14.153.159.*
请问hp 99 8845hs内存 的32g加4050 能跑32b吗
【 在 tuohuajiang 的大作中提到: 】
: 打算换本子试试本地部署 ds,至少 32b 模型吧,现在新出的号称有 npu 的新本子,算力几十 tops 的,能跑得动吗?还是说大模型现在还是得靠 N 卡
:
: \- 来自 水木说
: --
:
发自「今日水木 on iPhone 15 Pro Max」
--
FROM 124.64.22.*
没有用到npu功能吧?
【 在 mazz 的大作中提到: 】
: 跑得动,最好是AMD8745以上CPU, 内存升级到96GB, 除了Deepseek最大671b的模型,其它都能本地运行,大不了慢一点
--
FROM 117.173.177.*
能,我用的5800H+32G+3060就能,6G显存,跑的32B Q4。主要现存大就行。
【 在 onwatch 的大作中提到: 】
: 请问hp 99 8845hs内存 的32g加4050 能跑32b吗
: 发自「今日水木 on iPhone 15 Pro Max」
--
FROM 118.186.7.*