科技云报到原创。
“9张玛丽莲梦露的照片里，有2张是AIGC伪造的，你能看出来哪张是假的吗？”
这是出现在外滩大会AI创新赛·全球Deepfake攻防挑战赛的表演赛上激动人心的一刻。9月6日下午，赛事拉开帷幕，生成式AI技术与Deepfake（深度伪造）检测技术在这里正面交锋，让现场观众直呼过瘾。
比赛可以用AI技术去对抗，但实际生活中肉眼难辨AI真假，我又要如何去证明‘我’不是我？
就在不久前，Deepfake又以恶性事件造成大面积恐慌出现在公众视野。连日来，有多位韩国女性在中文社交平台发帖求助，称韩国正再次上演“N号房”事件，包括未成年在内的众多受害女性，都是在毫不知情的情况下照片被盗用，不法分子利用Deepfake技术换脸至淫秽色情图像或视频之中，在韩遭大面积传播。
Deepfake即利用深度学习算法，实现音视频内容的模拟和伪造，可用于电影制作、视频编辑、虚拟现实等领域。韩国N号房事件的同一时间，马斯克在社交媒体上被AI换脸致老人大额退休金被骗，引发广泛讨论。
从制造虚假信息到伪造名人影像，Deepfake再次触碰道德与法律边界，AI发展催生深伪技术滥用，让社会深刻意识到对抗Deepfake迫在眉睫。除了手握技术利器之外，更应利用行业资源与人才优势，共同应对，方能事半功倍。
近日，风起云涌的黄浦江畔，2024外滩大会如约而至。随大会一同亮相的，还有一场全球瞩目的Deepfake攻防挑战赛，全世界的“最强大脑”齐聚于此，上演一场对抗深伪技术的头脑风暴。
值得一提的是，大赛倡导优秀参与者开源比赛模型，降低技术门槛、加强技术交流，进而帮助更多人检测伪造内容，助力AI向善。倡议一经发出，就得到中国科学院自动化研究所VisionRush队伍和澳门大学JT Group的积极相应。截至目前，已有近百名选手及所在队伍表示愿意参与代码接力，希望通过技术手段，为每一个可能受到伤害的人提供保护。
Deepfake技术猖狂 恐慌情绪仍在蔓延
Deepfake的邪恶之处在于，不仅偷走了脸，更是窃取了人们的身份、名誉、隐私和尊重…
韩国采用深伪技术的性犯罪案件数量每年都在增加，犯罪嫌疑人中包括不少青少年。此次参与N号房事件，在韩软件Telegram群聊中进行传播的人多达22万。韩媒称，受害者包括大学生、教师和服役人员。即便如此，韩国警方并未给出很好的解决方案，致恐慌情绪无限蔓延。
不仅是韩国，当下放眼全球，各国都时有发。就连美国著名歌手泰勒·斯威夫特、企业家埃隆·马斯克这样的名人也难逃被AI戏弄的时刻。
全球Deepfake攻防挑战赛后，“VisionRush”决定在网上开源其参赛作品，模型可帮助Deepfake受害者降低技术使用的门槛，为无数孤立无援的韩国女性受害者带去希望，能够证明“我”不是我。
攻防赛上，针对Deepfake技术，全球众多优秀的选手展现了高水平的思考以及高技术的正面较量。大赛分主流的图片和音视频赛道，数据集含公开及伪造数据，伪造图片有超50种生成方式，音视频纳入超100种组合攻击方式，训练数据总量超百万。
蚂蚁数科出题团队ZOLOZ和天玑实验室考虑多重因素打造高度模拟真实场景的攻击环境，为选手提供极具挑战的竞赛平台，推动AI向善技术人才的培养和发展。
现如今生成式AI爆火，数据量庞大，图片和视频有时候真假难辨，专业的防御也很难。VisionRush队长王博表示，除了监管难度大之外，资源投入不平衡也是防伪的一大难点，希望以后学术界和产业界可以共同合作，推动网络安全的研究工作。
参赛选手唐永威本科就读于商科专业，却在AI领域找到了自己的天赋。他以独特的思维方式，从业务角度出发理解赛题，进行建模和优化迭代，并最终获得视频赛道的一等奖。
两个半月激烈比拼，优秀技术与AI模型涌现，为全球抵抗Deepfake注入信心。
这场由蚂蚁集团主办、蚂蚁数科承办的比赛，针对“AI换脸”的欺诈风险进行攻防实战演练，设立百万奖金池，赛事吸引来自全球21个国家和地区的2200多名参赛者，共1500多支团队。
“报名人数超出想象，大赛审核人员也从最初的一名增加至五名。”作为此次大赛背后出题团队的负责人，ZOLOZ技术总监姚伟斌表示，“大赛希望引起大家对Deepfake危害的重视，通过赛题强大的数据库去推动行业检测能力提升，将训练集、验证集和公开测试集开源，为各公司训练检测能力提供直接帮助。从长远考虑，希望推动人脸检测标准的发布，以及国家法律法规层面对AIGC内容进行规范。
蚂蚁数科CEO赵闻飙表示，“此次大赛蚂蚁数科将以往商业实战中积累的攻防经验融入赛事设计与赛题数据集，希望与同行结成战友关系，共同提升全行业的安全防御水位，引起全球对Deepfake的重视，这也是承办比赛的初心所在”。
多国掀起防伪风暴
AI换脸不仅会出现在极端恶性犯罪中，还会出现在日常的刷脸认证、金融支付、电信诈骗等生活场景之中，给人们的生活和财产安全带来严重威胁。
姚伟斌坦言：“AIGC的生成伪造攻击量今年比去年增加了10倍，去年的攻击浓度为1%，今年升至10%，相当于100个人中有10个人的身份信息是AIGC伪造的，风险呈指数级上升，这一现象在韩国、菲律宾、印尼等多个国家都普遍存在，不得不高度警惕。”
为此，ZOLOZ早在2017年就推出了可信身份认证服务，基于证件识别与防伪、金融级人脸识别、身份风险网络等先进技术及全套风险策略，早已成为多国金融APP的重要安全防线。
ZOLOZ在蚂蚁集团多年的风控经验基础上，搭建了一套端云一体的全链路技术体系，前端通过精密传感器校验与多维特征动态风控，严格审查软硬件环境，确保生物特征数据真实无篡改。同时，利用深度学习模型分析面部动态，在面对国外不同肤色、不同人种、不同语言时都能够精准判断真人实时互动。
技术升级的同时，挑战也在不断上演。
以印尼“待就业卡”计划为例，可信身份认证技术发挥了关键作用。面对印尼政府对隐私数据不能出境的严格要求，ZOLOZ投入资源在印尼机房部署本地系统。此外，为适应中低收入阶层学员采用的H5登录方式但安全性较低的情况，ZOLOZ更是有针对性地加强HTML5页面的安全性。截至目前，技术已帮助1700万人实现在线职业培训，保障 21.3 亿美元奖学金精准发放到学员电子账户。
在菲律宾，身份认证服务挑战更为巨大。由于没有统一的身份证件，各类证件质量参差不齐，ZOLOZ为此设计了通用开发框架以适配不同版式证件。上线eKYC功能后，虽然菲律宾本地钱包GCash具备了识别10多种当地证件的能力，申请流程和成本大幅降低，但在信息存储不能出境的限制下，ZOLOZ通过获得多项安全认证（如ISO27001、27701、SOC2、PCIDSS等），并在其SaaS云端不保留任何个人数据的方式，与菲律宾的安全团队紧密合作，确保了用户信息的安全与合规。
尽管挑战重重，但可信身份认证服务出海至今，已显著助力多国数字化进程。验证时间从几天缩短至3分钟，成功率从65%提升到90%以上，实人认证准确率达99.9%，成本大幅下降。ZOLOZ的技术在全球范围内展现了强大的适应性和实力，其服务现已覆盖金融、电信、政务等领域，惠及数十个国家和地区，成为全球数字化转型的重要支撑。
国内诞生首个 “AI换脸”行业标准
历史上，从到的转变历经近十年才得以广泛应用，Chrome最终强制要求使用以杜绝假冒网站，为解决AIGC问题提供了思路借鉴。
未来，每一张AIGC生成的图片和视频或许都应带有签名，如证书一般，以拦截伪造方式、降低防御成本，这需要政府、标准制定方、大模型厂商和安全厂商等多方面共同努力。目前，大模型厂商在生产端已采取添加水印等规范措施，但消费端的浏览器、聊天工具等尚未对AIGC内容进行限制观看操作。
如此看来，Deepfake仍有太多可乘之机，法律法规的完善便日显迫切。
8月1日，欧盟出台的《人工智能法案》正式生效，成为人工智能监管的重要转折点，其影响广泛。9月5日，欧盟轮值主席国匈牙利代表欧盟签署《人工智能框架公约》。随着 AI法案在全球不断出台，为全行业更新了标准，但这还远远不够。
在姚伟斌看来，利用Deepfake犯罪之人颇为狡猾。尽管ZOLOZ已帮助不少国家对抗Deepfake，但仍无法阻止犯罪从一个区域转移至另一个区域。
企业也应担当责任。今年5月16日，ZOLOZ加入新加坡人工智能伦理与治理倡议（AI E&G BoK），与行业机构共建健康、稳健、合乎道德的人工智能生态。外滩大会期间，ZOLOZ联合十余家机构发布国内首个面向金融场景的“AI换脸”检测标准。该标准的发布为金融场景下的虚假数字人脸安全检测和评估提供了依据，也填补了这一领域的空白。
未来，在国内，ZOLOZ将与信通院合作推动内容水印、标识落地；在国外，会与Adobe发起的C2PA联盟共同规范内容标识。
结语
我是我，但“我”也可能不是我。
AI技术如同一把双刃剑，在展现技术创新的同时，也为社会安全敲响警钟。
面对挑战，我们亦见技术社区积极构建防御体系，开源攻防模型，提升公众意识。
展望未来，强化法规与技术并行，不仅能够遏制不当使用，更能保障数字时代的诚信与安全，让AI持续向善发展，服务于人类社会的长足进步。
