刚才发了几个无线WIFI上的RTS CTS ACK帧让AI解析,它解析得都很对,也顺便和他交流了一些与RTS CTS ACK帧有关的技术话题。
然后给它发了一个block ack req的帧让他解析,并随口提了一句,这个帧的duration还挺长有接近1200us,结果AI竟然按照CTS去解析这个帧,还仔细解释了这个CTS帧所带的duration能有1200us代表了什么。
我说,那是一个BAR帧,不是CTS,它才道歉说搞错了。然后正确地按照BAR帧进行了解析。后面的解析也很专业没有出错。
这就像,和AI交流一些禽类特征的话题,然后给了一个小狗的图片,请它分析一下这个动物的特征,顺便提了一下,它有四条腿。结果AI依然按照禽类去解释这个小狗的特征,并且反复“很专业”地解释,有四条腿的禽类也是正常的,这能进一步得出什么结论。但是当你提示它这是一条狗后,它也能给出很专业的回答。
可见,它的知识库并非不包含正确答案,而是在算法层面出现了问题--被前文上下文错误地锁定在了无关的旧模式上。
这个错误的模式锁定,比起因"对不存在的知识进行近似匹配"而导致的幻觉问题,通常可能会更为严重,也更隐蔽。
这样的AI,使用起来需要格外谨慎了。如果不足够谨慎专业,就很可能被带骗了。
--
修改:anylinkin FROM 223.104.3.*
FROM 223.104.3.*