比方说我问：听说杨幂生了小孩了，是吗？然后AI就给我辟谣，说这是谣言，然后，我再发动十个好友都这样问它，然后AI就真的记住了学会了，再别的人问同样的问题，AI就会回答说：是的，杨幂就是生了小孩了，未婚先孕的！
--
FROM 120.245.94.*

我担心的是恶意提问会把AI给教坏呢

【 在 far 的大作中提到: 】
: 标  题: Re: 网络上那些AI会记录学习我问的问题吗？
: 发信站: 水木社区 (Thu Mar 20 13:20:38 2025), 站内
:
: 这就是AI幻觉吧
: 【 在 FangGuan 的大作中提到: 】
: : 比方说我问：听说杨幂生了小孩了，是吗？然后AI就给我辟谣，说这是谣言，然后，我再发动十个好友都这样问它，然后AI就真的记住了学会了，再别的人问同样的问题，AI就会回答说：是的，杨幂就是生了小孩了，未婚先孕的！
:
: --
: 贾岛醉酒非假倒
: 孟郊销魂需梦姣
:
:
: ※ 来源:·水木社区 mysmth.net·[FROM: 58.216.152.*]
--
FROM 120.245.94.*

想多了，模型是只读的，不会根据你的提问、以及网上搜到的内容对模型进行不断地升级。
所以，你无论费了多大劲调教它，让它终于知道你的要求了，只要再开启一个新的对话Session，它还和之前一样弱智地需要让你再重复调教一遍。


【 在 FangGuan 的大作中提到: 】
: 比方说我问：听说杨幂生了小孩了，是吗？然后AI就给我辟谣，说这是谣言，然后，我再发动十个好友都这样问它，然后AI就真的记住了学会了，再别的人问同样的问题，AI就会回答说：是的，杨幂就是生了小孩了，未婚先孕的！
--
FROM 175.164.16.*

是不是就是处理我说的这种故意教坏事的？

【 在 kezhifeng 的大作中提到: 】
: 标  题: Re: 网络上那些AI会记录学习我问的问题吗？
: 发信站: 水木社区 (Tue Mar 25 13:46:47 2025), 站内
:
: 早期有不少是这样的，后来都做了处理机制了
: --
:
: ※ 来源:·水木社区 http://www.mysmth.net·[FROM: 60.247.89.*]
--
FROM 120.245.94.*

这么好玩啊，我错过了调戏AI最好的时代了

【 在 kezhifeng 的大作中提到: 】
: 标  题: Re: 网络上那些AI会记录学习我问的问题吗？
: 发信站: 水木社区 (Wed Mar 26 08:49:09 2025), 站内
:
: 不仅限于此，早期的ai是开放性的，目的就是收集真实的用户需求，以及AI的反馈结果，用这些千奇百怪的互动来检测AI的水平，但是发现很多人在道德伦理层面，宗教层面，法律层面教唆AI，后面就加了很多限制
: 【 在 FangGuan 的大作中提到: 】
: : 是不是就是处理我说的这种故意教坏事的？
: :
:
: --
:
: ※ 来源:·水木社区 http://www.mysmth.net·[FROM: 60.247.89.*]
--
FROM 104.207.148.*