两个月前nt 动漫，2024 寰球东说念主工智能大会暨东说念主工智能人人不时高档别会议（以下简称 WAIC 大会）在上海举办。与往年不同，本届 WAIC 大会把 AI 的不时提到了前所未有的高度，图灵奖、菲尔兹奖、诺贝尔奖得主以及国表里顶级院士议论一堂，共同探讨 AI 带来弘远红利的同期，必须面对的多重风险与挑战。

与此同期，外滩大会智能科技革命大赛（简称 AI 革命赛）启动「接棒」，将 AI 安全确凿从表面探讨鞭策到实战落地，邀请人人列国 AI 本事东说念主才，针对 Deepfake（深度伪造）的诓骗风险进行攻防实战演练。

生成式 AI 有增无已确当下，AI 的安全确凿变得愈发要津。

时于本日，花费 Deepfake 本事的危害照旧有目共睹，通过 AI 生成看似真实的造作图像和音视频，照旧给越来越多东说念主带来了伤害。可是面对愈加拟真且激增的「AI 换脸」，东说念主工分辨既不现实，也不贤人，咱们亟须本事乃至生态层面的推动。

9 月 6 日，外滩大会 AI 革命赛·人人 Deepfake 攻防挑战赛饰演赛在外滩大会现场举行，在现场浩大双眼睛的注视下，多组参赛队伍的 AI 模子彼此挑战，展示了用 AI「去伪存真」的高效与实用性，更便利地匡助咱们发现讳饰在真实内容中深度伪造内容。

但与 Deepfake 的扞拒注定不啻于比赛。从「AI 马斯克」骗走老东说念主退休金，再到韩国女性碰到的「AI 换脸」性积恶，花费 Deepfake 的受害者早已从政事东说念主物和文娱明星扩大到了浩大往常东说念主。

而就在几天前，参与外滩大会 AI 革命赛·人人 Deepfake 攻防挑战赛的多组选手，包括中科院、澳门大学、中国海洋大学等参赛队告示，雅瞻念把参加这场大赛的 AI 模子面向人人开源，匡助更多东说念主用本事技能扞拒「AI 换脸」。

算作外滩大会 AI 革命赛·人人 Deepfake 攻防挑战赛的主理方，这亦是蚂蚁所雅瞻念看到的。

客不雅地说，Deepfake 是一场人人性的本事挑战，根蒂上离不开人人本事东说念主才的疏导与共同进步。

算作 CV（缠绵机视觉）规模的顶级国外赛事，外滩大会 AI 革命赛·人人 Deepfake 攻防挑战赛由中国工程院院士王耀南担任众人委员会名誉主席，由蚂蚁数科 ZOLOZ 和天玑实验室算作大赛出题方，分红图像和音视频双赛说念，参赛者需要开导并提交 AI 模子，经过大赛数据集的测试。

尽管照旧首届，但外滩大会 AI 革命赛·人人 Deepfake 攻防挑战赛眩惑了来自高家 26 个国度和地区的 2200 多名选手、1500 多支队伍，既有来自清华、中科大、中科院等国内顶级高校和机构的参赛者，更有来南洋理工大学、多伦多大学、斯坦福大学、帝国理工学院以及微软亚洲研究院等人人顶尖院校和机构的参赛者。

大赛除了高达 100 万元的奖金池，还提供了极其艰苦的实战环境，数据聚合图形和音视频生成数据高出 150 万，遮掩多样生成神气和抨击组合。蚂蚁数科的出题团队还凭据东说念主口统计学散布和实战训戒，在数据聚合充分研讨了人人各地的东说念主种、年纪、拍摄环境、图像紧闭等多重变量，确保参赛者濒临的比赛环境在最猛进程上接近真实寰球中的 Deepfake 抨击。

所谓「炼炼」，也独一高度拟真的实战环境，智力检修出确凿具备本质诈骗的 AI 模子。

而在经过大赛数据集检修以及众人评审后，TOP 战队才得以脱颖而出：澳门大学代表队和个东说念主参赛者唐永威分辩获取图片和音视频赛说念冠军，此外获奖的还有在新加坡使命的字节向上代表黄江波、小红书代表队 ShuKing 以及来自中国科学院自动化研究所的 2 支队伍。

9 月 6 日下昼，本次大赛的 TOP 战队受邀参加了外滩大会 AI 革命赛·人人 Deepfake 攻防挑战赛饰演赛，面对由蚂蚁数科和中国科技大学蚁合空间安全学院长入想象的高传神 Deepfake 内容，进行「终极覆按」。

由有名科普博主毕导主执，TOP 战队两两轮替 PK，在真实图像/视频与高传神 Deepfake 图像/视频中更准确地分辨出 AI 生成的造作内容。这不仅是一次本事上的扞拒，更是一次对 AI 安全本事极限的检修。

火热的不单是参赛选手和 AI 模子，现场不雅众也不由自主干涉到比赛之中，「本来以为只需要隔岸不雅火，不曾思到，我方也被卷进了搏斗景色，试图用肉眼与 AI 一较凹凸，」有现场不雅众说到。

此外，比赛经由中还有新加坡科技研究局前沿东说念主工智能研究中心 (CFAR) 首席科学家周天異、中国科学本事大学副陶冶周文柏以及 ZOLOZ 本事总监姚伟斌，给扫数不雅众科普了 Deepfake 本事以及 AI 识别的蹙迫常识。

对 AI 本事，尤其是 Deepfake 的花费，照旧对咱们酿成了严重的恫吓。从 AI 冒充名东说念主进行拐骗到伪造视频主管公众公论，AI 花费的末端摄人心魄。通过这场赛事，往常东说念主第一次深远富厚到 AI 带来的潜在风险，以及怎样通过本事技能去扞拒这些风险。

从一定角度上，这场比赛的真谛远远超越单纯的本事扞拒。

在这个信息马上传播的期间，Deepfake 内容的泛滥不仅减弱了东说念主们对媒体和内容的信任，更可能激发严重的信任危急。外滩大会 AI 革命赛·人人 Deepfake 攻防挑战赛在作念的，恰是通过蚁合人人的 AI 本事精英，在实战演练中疏导和提高人人的扞拒水平，本质上是在为咱们缔造一说念「分辨真假」的防地，一说念「信任」的防地。

「Deepfake 攻防是一场看不见硝烟的执久战，蚂蚁和扫数扞拒本事的研究者，是战友联系。」蚂蚁数科 CTO 王维也坦言，蚂蚁举办此次大赛的初心就是但愿把干事产业的本事训戒、研究积聚的数据集与行业共享，以攻促防，同期但愿推动更多的东说念主才投身其中，提高合座的疑望水位。

当《泰坦尼克号》的经典一幕再次出目前目前，包括毕导以及现场许多不雅众恒久王人没发现奥纳多·狄卡比奥饰演的 Jack 底本被进行「AI 换脸」，融入了毕导的脸。但现场的的 AI 模子仍旧从「蛛丝马迹」之均分辨出了 Deepfake 的侵犯。

这不仅是对本事的极限磨炼，也展示东说念主类与 AI 合营怎样破损造作信息的迷雾。

Deepfake 本事的伪造智力极强，改换的细节可能只是图像旯旮的狭窄失真，或声息频谱中极其微弱的不一致性。即就是最为介意的往常东说念主，也难以凭借肉眼分辨伪造内容的真假。

中科院团队的王博在采访中还提到，生成式 AI 发展迅猛，而且多样器具的使用门槛本质上越来越低。在这么的布景下，往常东说念主越来越难以应答这些伪造内容的侵袭。

还有更多东说念主也果断到，「AI 换脸」带来的不单是本事上的挑战，还可能导致往常东说念主对 AI 本事浩大的不信任。若莫得实足的安全着重顺序，AI 本事的发展将成为一把双刃剑。这也愈加体现了扫数参赛者以及这场大赛的难能真贵。

生成式 AI 的火热早已无需多言，当更多东说念主王人在涌向 AI 本事的诈骗与发展，有一批东说念主却看到了这场本事海潮的另一面——AI 存在的风险与危害，况兼投身其中成为「AI 打假师」。某种进程上，这些「AI 打假师」们不单是在与 Deepfake 扞拒，更是在驻防造作信息彭胀，用本事看管真相。

借用下作者苏心的那句话：哪有什么岁月静好，不外是有东说念主替你逆浪而行。

正如在本年 WAIC 大会上，上海东说念主工智能实验室主任、首席科学家，清华大学惠妍讲席陶冶周柏文提倡的「东说念主工智能 45° 均衡律」表面，咱们应该在大体上沿着 45° 均衡发展 AI 的安全智力和性能。

事实上，在外滩大会 AI 革命赛·人人 Deepfake 攻防挑战赛饰演赛稍后举办的圆桌接洽上，同济大学缠绵机科学与本事系副主任，CCF 数字金融分会布告长卫志华就明确指出，大模子以势不能当的架势发展起来，但这个经由中的安全问题远远莫得跟上：

如若安全问题莫得跟上的时候，不能能大面积铺开诈骗，但咱们王人是作念矛和盾是同步发展的。

蚂蚁数科 CTO 王维也认同这一说法，况兼合计用红蓝攻防扞拒的神气不时本事可能产生的轻视或抨击，在大模子期间可能会越发蹙迫，就如古语所言，「邪不压正，说念高一丈。」

这恰好需要咱们必须更多地嗜好 AI 安全智力的升迁，AI 安全规模东说念主才的培养，也恰是外滩大会 AI 革命赛·人人 Deepfake 攻防挑战赛的初心地点。

当年一段时期，在韩国发生的 Deepfake 性积恶事件激发了人人范围内高度蔼然，蚂蚁算作赛当事人理方在本次大赛中发起了开源 AI 模子的动议，但愿通过本事技能扞拒愈发猖狂的 Deepfake 花费行为，很快就最初得到了中国科学院自动化研究所 VisionRush 和澳门大学 JT Group 的积极反馈。

9 月 1 日，中科院 VisionRush 参赛队就对外告示开源了参赛模子，加入「代码英勇」行动。而限度目前，已有近百名选手及地点队伍王人暗示雅瞻念参与代码英勇 ，况兼规模还在不时扩大中。

同期开源不单是意味着不错免费使用本事保护每一个可能受到伤害的东说念主，本体上也推动人人更多的本事力量共同参与到 Deepfake 扞拒的行动中，更好地完善开源模子，为更多东说念主提供更好的保护。

无谓置疑，发展与安全是 AI 的一体两翼。AI 以前所未有的速率向百行万企渗入的同期，对 AI 的误用和花费可能导致的多重安全风险和挑战，相通阻滞疏远。而面对 AI 海潮，蚂蚁通过大赛也链接标明了我方气派：

既要发展，也要安全，独一这么智力确保 AI 向善。

而蚂蚁前瞻性的不雅点以及 AI 向善的价值不雅，具象到外滩大会 AI 革命赛·人人 Deepfake 攻防挑战赛，不仅在推动人人范围内扞拒本事的发展，也在通过赛事培养了具备实战智力的优秀 AI 本事东说念主才，从而全面提高人人 AI 安全水平。另一方面，这也让这场大赛顺利赢得人人各界的高度蔼然和招供，以及大赛翌日的期待。

在此以外nt 动漫，这场大赛也让外滩大会的影响力超越为期三天的议程，在 AI 规模缔造了一个人人性的耐久蔼然焦点。更蹙迫的是，外滩大会借助这一赛事强化了统共行业以及公众关于 AI 安全的嗜好，为 AI 安全确凿的执续鞭策奠定坚实的基础。