- 主题:如何解决大模型幻觉问题
不管是gpt还是ds，感觉出来的东西都有很大 幻觉
如果你准备了解一个行业想通过大模型生成一个概况，发现出来的东西很多都是幻觉，难道需要一点一点验证么？
还不如自己了解，如果不验证，岂不是被带沟里了
--
FROM 103.90.179.*
我理解AI是你的助手，给你提供信息，其中有对的有错的（对的比例在不断提高），但
最终决策和判断要你来做
因为人世间的判断不完全是有文字知识决定的，还有很多默会的知识
当然如果有一天AI可以自己做决策了，那你就要考虑人类是不是没有存在意义了
【 在 songyunhui 的大作中提到: 】
: 不管是gpt还是ds，感觉出来的东西都有很大 幻觉
: 如果你准备了解一个行业想通过大模型生成一个概况，发现出来的东西很多都是幻觉，难道需要一点一点验证么？
: 还不如自己了解，如果不验证，岂不是被带沟里了
: ...................
--
FROM 115.192.55.*
决策是基于一些信息来做的。如果连正确信息都做不到，或者错的比例太高，基本上这个信息源就是废了
验证的代价比自己搜集信息还高
【 在 netcom 的大作中提到: 】
: 我理解AI是你的助手，给你提供信息，其中有对的有错的（对的比例在不断提高），但
: 最终决策和判断要你来做
: 因为人世间的判断不完全是有文字知识决定的，还有很多默会的知识
: ...................
--
FROM 103.90.179.*
温度设置调低
--
FROM 58.246.240.*
谢了，我试试
【 在 wangstone 的大作中提到: 】
: 温度设置调低
--
FROM 103.90.179.*
嗯 我理解可能现在大家对AI期待太高了
希望通过大量用电大量训练的方式，快速超越人脑几百万年的进化史和几千年的文明史
其实，就好比做一个公司，你要招到合适的人，培养他成为可靠的信息来源，时间和金
钱也是很高的
AI的综合成本只要比这个低，商业上逻辑就可行，就能推动业务前进
出现错误信息不要紧，如果这个改正这个错误代价不高，经济上也能行得通
【 在 songyunhui 的大作中提到: 】
: 决策是基于一些信息来做的。如果连正确信息都做不到，或者错的比例太高，基本上这个信息源就是废了
: 验证的代价比自己搜集信息还高
--
FROM 115.192.55.*
RAG 或者 微调
--
FROM 114.246.96.*
让AI生成的知识点可溯源，就如论文那样
人就可以方便的验证了
【 在 songyunhui 的大作中提到: 】
: 不管是gpt还是ds，感觉出来的东西都有很大 幻觉
: 如果你准备了解一个行业想通过大模型生成一个概况，发现出来的东西很多都是幻觉，难道需要一点一点验证么？
: 还不如自己了解，如果不验证，岂不是被带沟里了
--
FROM 101.24.98.*
如何让它溯源呢，现在推理模型可以做到么、
【 在 fanjiyouyi 的大作中提到: 】
: 让AI生成的知识点可溯源，就如论文那样
: 人就可以方便的验证了
:
--
FROM 103.90.179.*
微调可以解决这个问题？
【 在 howler 的大作中提到: 】
: RAG 或者 微调
--
FROM 103.90.179.*