这个ai肯定不是本地跑的，因为大部分机器硬件都不行，就算硬件行的机器，用户也不可能愿意满负荷跑ai。


【 在 Acui 的大作中提到: 】
: 标  题: Re: Windows 12、AI PC可能会带来近年最强换机潮
: 发信站: 水木社区 (Wed Dec  6 15:02:52 2023), 站内
:
: 我们在讨论win12的ai功能能不能正常使用
:
: 【 在 haili 的大作中提到: 】
: : 这个包括后面的都在讨论啥啊？
: : 现在本地玩大模型大部分都是量化跑的啊，很多都量化到4bit。有好显卡就gpu上跑，12G的3060就能跑13B的大模型，3090/4090都能跑34B了，跑得飞快。
: : 没显卡或者显存不够，就是cpu或者显卡/cpu混合跑。
: : ...................
:
: --
:
: ※ 来源:·水木社区 mysmth.net·[FROM: 223.72.76.*]
--
FROM 221.227.93.*