2024年世界互联网大会｜全球AI大模型攻防挑战赛收官，十强选手用AI对抗AI

文章来源：万象ai发布时间：2025-02-08 17:13:54

11月20日，国内首个AI大模型攻防赛在世界互联网大会乌镇峰会收官。比赛现场，全球十强选手面对“眼见不为实、耳听不为实”的场景，通过大模型技术辨别AI造假的音频、证照及视频，用AI对抗AI。大赛最终角逐出全球十强，来自字节跳动、合合信息科技、济南大学、浙江工业大学、安徽大学、上海交通大学等企业和高校的赛队获奖。

“通过攻防实战演练，直面大模型应用中的安全问题，促使大模型安全技术不断进步，从而携手行业迈向更高的安全水平。”蚂蚁集团安全实验室首席科学家、全球AI大模型攻防挑战赛评审委员会委员王维强表示。AI反诈是当前保护大模型安全最典型、真实的场景之一。“现在AI诈骗越来越隐秘，手法越来越多样，可以模拟亲人的声音、朋友的视频，甚至伪造各种文件，让人们防不胜防。今天的比赛，作为一名人民**，我感觉非常欣慰，这意味着我们在对抗AI诈骗的道路上，有了更多的力量和智慧。”收官现场，来自桐乡的反诈民警李湘臣谈道。除了十强选手外，为了鼓励比赛方案的算法创新性和资源绿色性，大赛还特别评选出“杰出方案奖”，分别由西安交通大学、上海交通大学及理想汽车赛队获得。此外，蚂蚁集团在现场为优秀选手颁发直通offer，优秀技术人才秒入职。该项赛事由中国图象图形学学会、蚂蚁集团、云安全联盟（CSA）大中华区联合主办，联合清华大学、上海交通大学、浙江大学、北京科技大学、湖南大学、华中科技大学、北京理工大学等高校及多家产学研组织共同发起。大赛自9月启动以来，来自全球18个国家和地区的2700多支赛队、3200余名技术精英参与，选手来自清华大学、北京大学、香港科技大学、悉尼大学等290多所国内外高校，以及字节跳动、理想汽车、腾讯、智谱AI、Shopee等280多家互联网、金融、汽车、大模型科技等企业。此外，在活动现场，中国信通院启动“护证计划”，呼吁共建行业标准，守护用户的身份安全。蚂蚁集团表示，积极响应并加入该计划。