随着生成式AI快速发展，技术的滥用也带来了无处不在的深度伪造(Deepfake)风险内容，给社会与个人带来严重危害。构建安全可靠的Deepfake风险内容检测与防御技术体系已刻不容缓。
为应对AI伪造技术带来的新型安全挑战，近日，全球人工智能顶会IJCAI 2025“深度伪造检测、定位、可解释性”学术研讨会暨挑战赛”正式启动报名。研讨会将汇聚全球顶尖学者及产业人士，共同攻克多模态伪造、弱监督伪造定位、伪造可解释性、生成式AI对抗与防御等核心技术挑战，同时，挑战赛还提供超180万数据集，针对AI欺诈风险进行攻防实战演练，助力AI安全研究。
研讨会与挑战赛由蚂蚁数科主办，新加坡科技研究局人工智能前沿研究中心，南洋理工大学，清华大学，中科院自动化所，合肥工业大学，安徽省数字安全重点实验室，罗切斯特大学，布法罗大学，坎皮纳斯大学等多家机构联合举办。
挑战赛分设图片赛道和音视频赛道，通过“以赛促防”的方式，弥补现有检测算法在精准定位伪造区域与多模态音视频协同伪造识别方面的不足，提升AI时代内容安全水位。值得一提的是，面向挑战赛，蚂蚁数科开放了超过180万伪造样本的多模态深度伪造数据集，共涵盖88种伪造技术，推动建立可验证、可追溯的生成式AI内容安全分析体系。
选手需训练AI模型，给出数据伪造概率值以及伪造区域/片段，准确率TOP3战队将获得赛事组委会颁发的证书及奖金。目前赛事报名已正式启动，将于5月19日完成比赛，5月26日完成技术报告提交。选手提交的技术方案报告，赛事组委会将结合方案创新性、泛化性、实用性、可解释性等多维度评选接收至研讨会，优秀团队将受邀参加研讨会并作学术报告。选手可前往研讨会官网查看赛事日程及研讨会详细话题
公开信息显示，蚂蚁数科长期关注并持续投入AI安全及风险防范，推动AI时代的安全水位不断提升。去年4月份，蚂蚁数科发布了反深伪产品ZOLOZ Deeper，以防范用户刷脸认证场景中的“AI换脸”风险。蚂蚁数科还加入新加坡人工智能伦理与治理倡议(AI E&G BoK)，与行业机构共建健康、稳健、合乎道德的人工智能生态。