- 主题:对AI大模型最大的错误认知
因为这半年主要跟大模型相关的事情打交道
觉得大家(包括一些研究AI的学者)
对DeepSeek这类大(语言)模型有很多错误的认知
最大的错误就是把AI大模型当成智能点的搜索引擎
AI大模型从来就不是搜索引擎!!!
搜索引擎是按照网上的事实检索出来的
但是AI大模型不是,它的原理是根据前面的文字算下一个字的概率
然后挑出概率大的字接在后面,人家才不管是不是网上的事实呢
这是它永远也改变不了的本性,如果你觉得它的内容完全正确
那只是巧合,说明之前训练用了很多相关的知识
但是,即使给了再多的相关知识训练
也不能百分百的保证他出来正确的答案
很多人把AI给的参考文献、案例当成真的(有因此入狱的)
还有人用AI搜时事新闻(未开启AI搜索选项下)
这都是不理解原理造成的
对于严谨的知识,千万要多方面审核AI生成的内容
因为AI大模型其实就是个文字概率计算器
所以它其实是不懂运算规则的
人做数学计算是按照规则的
AI不是这样,它还是文字符号联想
可能它训练的样本里有竖式计算规则之类的网文
也能照葫芦画瓢的模仿做点计算
但是结果不能保证是正确的
(有的大模型其实不是纯文本生成大模型
而是一个综合平台 比如豆包
你问它乘法题目它会调用计算器来算
这个没问题 )
但是纯大语言模型的数学方面的计算千万不可轻信
总之两点:
一不要把AI大语言模型当成搜索引擎
二不要把它当成高级计算器
--
修改:hut FROM 183.212.112.*
FROM 183.212.112.*
发错版了吧
【 在 hut 的大作中提到: 】
: 因为这半年主要跟大模型相关的事情打交道
: 觉得大家(包括一些研究AI的学者)
: 对DeepSeek这类大(语言)模型有很多错误的认知
: ...................
--
FROM 58.216.152.*
看完这一大段我彻底懵了
那普通人能把AI当成啥用
我现在就是把它当成搜索汇总
【 在 hut 的大作中提到: 】
: 因为这半年主要跟大模型相关的事情打交道
: 觉得大家(包括一些研究AI的学者)
: 对DeepSeek这类大(语言)模型有很多错误的认知
: ...................
--
FROM 123.121.180.*
你要提高认知水平啊,现在的大模型都可以解奥数题了,陶哲轩都用大模型辅助进行数学科研推理。
--
FROM 124.71.94.*
你研究一下就会发现
解对了是凑巧
是因为相关的样本多
陶哲轩用AI辅助没问题
AI的长处就在于生成一大堆东西
可以当成一个不靠谱的文献综述
可能里面有些点会是自己没看过却又能激发点思考的东西
如此而已
【 在 BruceWang 的大作中提到: 】
: 你要提高认知水平啊,现在的大模型都可以解奥数题了,陶哲轩都用大模型辅助进行数学科研推理。
--
FROM 183.212.112.*
没发错
因为是大众经常犯的错误
所以发在本版
【 在 far 的大作中提到: 】
: 发错版了吧
--
FROM 183.212.112.*
当成一个不太靠谱的知识大荟萃
可能会有激发自己思考的点
如果要真的用
还是需要验证的
对于不需要严谨知识的场合
那就可以直接用
【 在 qianyishi 的大作中提到: 】
: 看完这一大段我彻底懵了
: 那普通人能把AI当成啥用
: 我现在就是把它当成搜索汇总
: ...................
--
FROM 183.212.112.*
ai按照逻辑,会瞎编吧
【 在 hut (浮尘落尽) 的大作中提到: 】
: 因为这半年主要跟大模型相关的事情打交道
: 觉得大家(包括一些研究AI的学者)
: 对DeepSeek这类大(语言)模型有很多错误的认知
: 最大的错误就是把AI大模型当成智能点的搜索引擎
--
FROM 223.104.7.*
我都是搜最基础的问题
比如去年gdp是多少
这个不可能搞错
--
FROM 61.149.125.*
按照ai的文字生成原理
也是不太敢相信
如果要严谨的话
还是去专业网站查看
【 在 S030371 的大作中提到: 】
: 我都是搜最基础的问题
: 比如去年gdp是多少
: 这个不可能搞错
--
FROM 183.212.112.*