- 主题:与AI交流 必要时 应有保密意识 (转载)
【 以下文字转载自 NewExpress 讨论区 】
发信人: anylinkin (ALK), 信区: NewExpress
标 题: 与AI交流 必要时 应有保密意识
发信站: 水木社区 (Mon Aug 4 13:56:38 2025), 站内
先不说AI会保留聊天记录,即使你在应用端删掉了某个聊天线程记录而AI实际后台依然会留存不确定的一段时间;也不说,现在西大那边要求chatGPT永久保留,这种可能牵涉到通常的个人隐私等问题
今天给大家说一个亲身经历的例子,证明可能在交流的过程中,AI通过学习将一些可能值得保密的技术信息,传递给其他用户。
大约3-4周前,遇到一个某国产芯片应用上的某个稳定性问题(一般不容易发现,但是按照指定的测试条件可以复现),所以使用了一个帐号A求助了AI,结果不满意,其间换了一个“海外注册信息”的帐号B(完全是两个不同的认证的注册信息)求助AI,结果一样。所以,大概就是AI也不一定知道原因和如何解决。自己也察看了许多相关论坛,毫无任何信息或帮助,原厂似乎也不知道。
于是开始反复构造各种实验深度研究,其间,也让AI协助一起分析各种实验结论和数据,或者在讨论中,AI也可能会给出一些新的可能性方向或原因,辛苦工作了3周多,最后终于找到了确定性的规律和解决(规避)方法,并推断出了正反可证的原因。
由于这个问题确定性存在,且被我们找到了确定性的解决,因此,最初我们并不想让其他人知道,从而成为我们自己的先期的一个竞争优势(见笑)。
然而,偶然使用另外一个帐号B登录AI后,去问这个问题,发现,这次AI也已经能给出了这个问题一步到位的解决方法了。看了一下,两个帐号登陆的IP地址也是不一样的。
--
FROM 223.104.42.*
几乎一定,app之间还共享个人数据呢
--
FROM 106.120.5.*
有趣
今天也通过与AI对话找到一个问题的原因和解决方法。
该解决方法AI一开始也没有想到。过段时间我再问一下,看看AI能不能直接给出方法了。
【 在 anylinkin 的大作中提到: 】
: 发信人: anylinkin (ALK), 信区: NewExpress
: 标 题: 与AI交流 必要时 应有保密意识
: 发信站: 水木社区 (Mon Aug 4 13:56:38 2025), 站内
: ...................
--
FROM 101.204.140.*
AI就是一个面向全球的大嘴巴,你让他知道了,全世界就都知道了
【 在 anylinkin 的大作中提到: 】
: 发信人: anylinkin (ALK), 信区: NewExpress
: 标 题: 与AI交流 必要时 应有保密意识
: 发信站: 水木社区 (Mon Aug 4 13:56:38 2025), 站内
: ...................
--
FROM 159.226.52.*
在机器人时代,机器人系统是统一的,所有数据也都是共享一体的
需要有解决方案,但未来应该是这样的
【 在 anylinkin 的大作中提到: 】
: 【 以下文字转载自 NewExpress 讨论区 】
: 发信人: anylinkin (ALK), 信区: NewExpress
: 标 题: 与AI交流 必要时 应有保密意识
: ...................
--
FROM 111.194.203.*
那就把你感兴趣的都一股脑问了
可能半年以后训AI的人就帮你找到答案了
【 在 anylinkin 的大作中提到: 】
: 【 以下文字转载自 NewExpress 讨论区 】
: 发信人: anylinkin (ALK), 信区: NewExpress
: 标 题: 与AI交流 必要时 应有保密意识
: ...................
--
FROM 123.139.75.*
现在我就要对着所有丑帝的AI问一下如何刺嘎一只耳,然后坐等ClA上门刺嘎我
【 在 anylinkin 的大作中提到: 】
: 标 题: 与AI交流 必要时 应有保密意识
: 发信站: 水木社区 (Mon Aug 4 13:57:19 2025), 站内
:
: 【 以下文字转载自 NewExpress 讨论区 】
: 发信人: anylinkin (ALK), 信区: NewExpress
: 标 题: 与AI交流 必要时 应有保密意识
: 发信站: 水木社区 (Mon Aug 4 13:56:38 2025), 站内
:
: 先不说AI会保留聊天记录,即使你在应用端删掉了某个聊天线程记录而AI实际后台依然会留存不确定的一段时间;也不说,现在西大那边要求chatGPT永久保留,这种可能牵涉到通常的个人隐私等问题
:
: 今天给大家说一个亲身经历的例子,证明可能在交流的过程中,AI通过学习将一些可能值得保密的技术信息,传递给其他用户。
:
:
: 大约3-4周前,遇到一个某国产芯片应用上的某个稳定性问题(一般不容易发现,但是按照指定的测试条件可以复现),所以使用了一个帐号A求助了AI,结果不满意,其间换了一个“海外注册信息”的帐号B(完全是两个不同的认证的注册信息)求助AI,结果一样。所以,大概就是AI也不一
: 定知道原因和如何解决。自己也察看了许多相关论坛,毫无任何信息或帮助,原厂似乎也不知道。
:
: 于是开始反复构造各种实验深度研究,其间,也让AI协助一起分析各种实验结论和数据,或者在讨论中,AI也可能会给出一些新的可能性方向或原因,辛苦工作了3周多,最后终于找到了确定性的规律和解决(规避)方法,并推断出了正反可证的原因。
:
: 由于这个问题确定性存在,且被我们找到了确定性的解决,因此,最初我们并不想让其他人知道,从而成为我们自己的先期的一个竞争优势(见笑)。
:
: 然而,偶然使用另外一个帐号B登录AI后,去问这个问题,发现,这次AI也已经能给出了这个问题一步到位的解决方法了。看了一下,两个帐号登陆的IP地址也是不一样的。
:
:
: --
:
: ※ 来源:·水木社区 mysmth.net·[FROM: 223.104.42.*]
--
FROM 207.246.90.*