- 主题:如何解决大模型幻觉问题
不管是gpt还是ds，感觉出来的东西都有很大 幻觉
如果你准备了解一个行业想通过大模型生成一个概况，发现出来的东西很多都是幻觉，难道需要一点一点验证么？
还不如自己了解，如果不验证，岂不是被带沟里了
--
FROM 103.90.179.*
决策是基于一些信息来做的。如果连正确信息都做不到，或者错的比例太高，基本上这个信息源就是废了
验证的代价比自己搜集信息还高
【 在 netcom 的大作中提到: 】
: 我理解AI是你的助手，给你提供信息，其中有对的有错的（对的比例在不断提高），但
: 最终决策和判断要你来做
: 因为人世间的判断不完全是有文字知识决定的，还有很多默会的知识
: ...................
--
FROM 103.90.179.*
谢了，我试试
【 在 wangstone 的大作中提到: 】
: 温度设置调低
--
FROM 103.90.179.*
如何让它溯源呢，现在推理模型可以做到么、
【 在 fanjiyouyi 的大作中提到: 】
: 让AI生成的知识点可溯源，就如论文那样
: 人就可以方便的验证了
:
--
FROM 103.90.179.*
微调可以解决这个问题？
【 在 howler 的大作中提到: 】
: RAG 或者 微调
--
FROM 103.90.179.*
这是啥？
【 在 yiminhe 的大作中提到: 】
: 增加自知之明训练
--
FROM 103.90.179.*
在提示词里要求？
【 在 unknownzerx 的大作中提到: 】
: 所有资料让它搜索查证后再给出.
--
FROM 103.90.179.*
你说的这个对，大模型太搞了关键信息的价值，因为推理过程已经便宜了，
【 在 kezhifeng 的大作中提到: 】
: 你觉得他的训练数据会包括一些机密、关键信息么，他的联网搜索还是依赖搜索引擎的，搜索引擎啥样你还不清楚么
: 比如你想让他分析股票，分析走势，没有实时行情就是白扯
: 实时行情都是收费的，还需要加工整理，除了一些机构，是不可能轻易获取的，怎么可能免费给你用呢
: ...................
--
FROM 103.90.179.*
好的，谢谢，正在学
【 在 omelet 的大作中提到: 】
: 先去学学怎么写 prompt ，会有很大帮助
:
--
FROM 103.90.179.*