- 主题:Windows 12、AI PC可能会带来近年最强换机潮
win12终于支持统一内存了吗?
--
FROM 120.244.234.*
手机就算了吧,内存太小了,算力太低了
安心当个终端吧,最多做个召回
【 在 likely 的大作中提到: 】
: 不光是PC,手机也是,能在本地运行AI大模型的话应该很有吸引力,说不定能带来一大波换机潮
:
--
FROM 120.244.234.*
现在,PC已经可以本地运行AI大模型呀
3090+可以跑6b/7b 的fp16 推理,3b int4训练
cpu运行慢一点,但ddr4就可以128G内存,跑通没问题
【 在 likely 的大作中提到: 】
: 不光是PC,手机也是,能在本地运行AI大模型的话应该很有吸引力,说不定能带来一大波换机潮
:
--
FROM 120.244.234.*
这个就是本地跑的
11月下旬发布了Windows AI Studio。
它结合Azure ML可以利用vscode在本机直接微调、调试模型,并在Windows应用程序肿使用
它可以简化、加速AI应用的开发工作
现在正好是preview版本
【 在 bom 的大作中提到: 】
: 这个ai肯定不是本地跑的,因为大部分机器硬件都不行,就算硬件行的机器,用户也不可能愿意满负荷跑ai。
:
--
FROM 120.244.234.*