生成和检测Deepfakes:21世纪的军备竞赛

帕特里夏·道坎塔斯

随着人工智能工具在创造逼真的图像和视频方面做得越来越好，科学家们正在竞相开发识别赝品的对策。

想象一下这样的场景：一名财务人员与几名公司官员进行视频通话。公司的首席财务官要求员工将数百万美元存入一个特定的银行账户。只有在交易完成后，真相才会浮出水面：视频中的其他人都是假的，钱直接流向了诈骗者。

香港警方在2024年初报告了对这起价值2500万美元的诈骗案的调查，此前有新闻报道了明星歌手的假照片，并对竞选活动中虚假信息的传播表示担忧。这些担忧的共同点是：人工智能(AI)。

自2022年ChatGPT蹿红以来，公众对人工智能的认知爆发式增长。人工智能制作的图像和视频已经渗透到社会中。一段假视频显示，据称菲律宾总统吸食毒品。另一段视频显示，乌克兰总统谎称邀请士兵停止对俄作战。

与此同时，从银行到交友应用，各行各业的领导者都对身份验证的未来感到担忧，因为这些软件工具很容易获得，可以生成逼真的伪造效果图。美国金融犯罪执法网络(FinCEN)发布了一份广泛的警报，警告金融机构防范由生成性人工智能驱动的欺诈计划。

欧洲生物识别协会(EAB)的首席执行官迪努莎·弗林斯(Dinusha Frings)在2024年10月的一次研讨会上说：“deepfakes和合成媒体的威胁不是来自创造它的技术，而是来自人们相信他们看到的东西的自然倾向。”“因此，deepfakes和合成媒体不需要特别先进或可信，就能有效地传播这种虚假信息。”

英国赫尔大学数据科学、人工智能和建模卓越中心主任Kevin A.Pimblet说：“我们绝对有必要尝试识别哪些是真的，哪些是假的。”“这是一场相当激烈的军备竞赛。”区分视觉事实和虚构的第一步是了解这些操作中涉及的内容，这样科学家就可以学会识别deepfakes的泄密迹象。
--
FROM 180.98.72.*