【 以下文字转载自 NewExpress 讨论区 】
发信人: anylinkin (ALK), 信区: NewExpress
标 题: 与AI交流 必要时 应有保密意识
发信站: 水木社区 (Mon Aug 4 13:56:38 2025), 站内
先不说AI会保留聊天记录,即使你在应用端删掉了某个聊天线程记录而AI实际后台依然会留存不确定的一段时间;也不说,现在西大那边要求chatGPT永久保留,这种可能牵涉到通常的个人隐私等问题
今天给大家说一个亲身经历的例子,证明可能在交流的过程中,AI通过学习将一些可能值得保密的技术信息,传递给其他用户。
大约3-4周前,遇到一个某国产芯片应用上的某个稳定性问题(一般不容易发现,但是按照指定的测试条件可以复现),所以使用了一个帐号A求助了AI,结果不满意,其间换了一个“海外注册信息”的帐号B(完全是两个不同的认证的注册信息)求助AI,结果一样。所以,大概就是AI也不一定知道原因和如何解决。自己也察看了许多相关论坛,毫无任何信息或帮助,原厂似乎也不知道。
于是开始反复构造各种实验深度研究,其间,也让AI协助一起分析各种实验结论和数据,或者在讨论中,AI也可能会给出一些新的可能性方向或原因,辛苦工作了3周多,最后终于找到了确定性的规律和解决(规避)方法,并推断出了正反可证的原因。
由于这个问题确定性存在,且被我们找到了确定性的解决,因此,最初我们并不想让其他人知道,从而成为我们自己的先期的一个竞争优势(见笑)。
然而,偶然使用另外一个帐号B登录AI后,去问这个问题,发现,这次AI也已经能给出了这个问题一步到位的解决方法了。看了一下,两个帐号登陆的IP地址也是不一样的。
--
FROM 223.104.42.*