正常人不会弄这么个机器跑大模型
【 在 LYMing1986 的大作中提到: 】
: 标  题: Re: Windows 12、AI PC可能会带来近年最强换机潮
: 发信站: 水木社区 (Tue Dec  5 21:01:12 2023), 站内
:
: 现在，PC已经可以本地运行AI大模型呀
: 3090+可以跑6b/7b 的fp16 推理，3b int4训练
: cpu运行慢一点，但ddr4就可以128G内存，跑通没问题
:
: 【 在 likely 的大作中提到: 】
: : 不光是PC，手机也是，能在本地运行AI大模型的话应该很有吸引力，说不定能带来一大波换机潮
: :
:
: --
:
: ※ 来源:·水木社区 http://www.mysmth.net·[FROM: 120.244.234.*]
--
FROM 221.227.93.*