外滩大会上演Deepfake攻防挑战

■本报记者 张诗欢

9张玛丽莲·梦露的照片，其中2张是AIGC伪造的，肉眼真假难辨，那么AI能否百分百识别伪造的图像？外滩大会AI创新赛全球Deepfake（深度伪造技术）攻防挑战赛的表演赛上，生成式AI与Deepfake检测技术的正面交锋引来不少观众围观。

中国科学技术大学网络空间安全学院和蚂蚁数科天玑实验室联合出题，对选手模型进行终极考察，表演赛现场分为图像赛道和音视频赛道。选手需要用自己的参赛模型给出每张图片的伪造概率值，并对概率值最高的2张照片与正确答案进行比对。观众互动环节，台下不服气的视觉设计师甚至请战AI，希望展示自己的专业敏感度。

伪造概率值的问题，引发主持人、科技博主毕导的追问——AI能否100%识别伪造。赛事出题人之一、ZOLOZ技术总监姚伟斌说，这是十分困难的。伪造技术也在不断迭代更新，对抗需要不断地提升。在实际应用中，通常是将识别算法与其他检测手段结合使用，综合判断风险。

视频赛道环节，毕导数字分身出演了多部经典电影名场面，选手同样要通过AI模型来辨别真伪。在一些难度一般的赛题上，结果比分接近，伪造识别率几乎都在80%以上，但在一些高难度赛题上，模型结果差异悬殊。

为什么肉眼觉得一眼假的画面，AI却不能完全答对？而肉眼难以辨别的画面，AI反而1秒识别？新加坡科技研究局周天異教授认为，人类在判断图像是否伪造会依赖直觉和逻辑，比如毕导的人脸换到了哈利·波特身上，人类一眼便知，AI却不了解背后的故事。AI不受情绪干扰，在工作效率和稳定性上都是大大高于人类的。

近日，Deepfake恶性事件牵动人心，技术轻易地创作虚假的视频、图像和音频，带来了前所未有的安全挑战。本次外滩大会开幕前，赛事组委会发起开源倡议，支持并鼓励优秀参与者开源比赛模型，降低技术门槛、加强技术交流，进而帮助更多人检测伪造内容，助力AI向善。参赛者自主开源后，大赛组委会将在官方Github主页上汇总所有开源存储库。倡议一经发出，就得到中国科学院自动化研究所VisionRush队伍和澳门大学JT Group的积极相应，截至目前已有近百名选手及所在队伍表示愿意参与代码接力。

在金融行业，人脸识别技术作为身份鉴别的重要手段，其安全性直接关系到金融交易的安全与用户资金的安全。《虚假数字人脸检测金融应用技术规范》标准在 外滩大会上正式发布，成为国内首个面向金融场景的“AI换脸”检测标准。

该标准是在中关村金融科技产业发展联盟组织下，由蚂蚁天玑实验室和工商银行、建设银行、邮储银行、中信银行、北京国家金融科技认证中心、中关村互联网金融研究院、网商银行、北京前沿金融监管科技研究院等十几家机构共同撰写，为金融场景下的虚假数字人脸安全检测和评估提供了依据，填补该领域的空白。这场Deepfake攻防挑战赛，正是应用了此标准的框架和指标，进行赛题的制定和答案的评价。