本地模型和远程联网模型都是海量数据训练出来的，8B的用了80亿个参数，联网的可能用了几百亿甚至上千亿的参数，所以会更智能一些，不过要求的AI算力和显存太多，笔记本跑不起来。
笔记本的显卡比起台式机显卡缩水了，显存少一些，我没用笔记本跑，不过笔记本跑8B的模型应该没问题。

【 在 aurox 的大作中提到: 】
: 这些本地模型，难道只需要算力而不需要海量数据支撑吗？
: 有的诶哎笔记本除了弄个什么ultra处理器，还另插了个40几0的显卡，是不是好点
--
FROM 171.221.52.*

本地模型就是训练完成后的东西，是数据，不是软件
也不是规避，本地模型可以是别人训练好后免费放在网上供下载的
当然，模型也可以自己训练
【 在 aurox 的大作中提到: 】
: 标  题: Re: 谁给科普下，这AI笔记本到底怎么个AI法
: 发信站: 水木社区 (Tue Jul 30 18:34:47 2024), 站内
:
: 这种部署在本地的模型，它的物理构成应该不包括训练它的那些海量数据吧？这种本地部署的使用方式就能让用户规避在线服务的收费环节吗？还是说，本地模型也可以看作一种软件，正经用还是得买？
: 【 在 poocp 的大作中提到: 】
: : 本地模型和远程联网模型都是海量数据训练出来的，8B的用了80亿个参数，联网的可能用了几百亿甚至上千亿的参数，所以会更智能一些，不过要求的AI算力和显存太多，笔记本跑不起来。
: : 笔记本的显卡比起台式机显卡缩水了，显存少一些，我没用笔记本跑，不过笔记本跑8B的模型应该没问题。
: :
:
: --
:
: ※ 来源:·水木社区 http://www.mysmth.net·[FROM: 49.114.138.*]
--
FROM 202.98.17.*

本地训练的话，知识库怎么搞？

让它自己上网到处浏览吗？


【 在 poocp 的大作中提到: 】
: mdmgc
: [upload=1][/upload]
--
FROM 114.253.39.*

前面不是有人说过华为MateX了吗？
内置了好多在线AI网址
强大的很呢



【 在 aurox 的大作中提到: 】
: 芯片让老美给封了，靠谱的在线服务让自己给封了，有的笔记本上还弄个copilot按钮侮辱人么，另外他们声称的ai功能又是啥，不会就是个听写翻译吧？
--
FROM 112.22.160.*

现在的做法基本上是拿现有的开源本地库微调，补充知识库，一张显卡或者AI PC就能搞定，而不是自己全新训练一个。

【 在 XC90 的大作中提到: 】
: 本地训练的话，知识库怎么搞？
: 让它自己上网到处浏览吗？
:
--
FROM 171.221.52.*