AI安全新探索:IJCAI-19阿里巴巴 全球人工智能算法对抗赛总决赛落幕,中国科大战队分获冠、亚军殊荣!

发布时间:2019年8月13日    原创:总经办 高维数据

RNG战队分别获得防御类冠军 + 非定向攻击类亚军,获2520支参赛队的最好成绩

8月10日,全球顶级AI算法竞赛:IJCAI-19阿里巴巴人工智能对抗算法竞赛总决赛在澳门落下帷幕,中国科大网络空间安全学院学生战队经过初赛、复赛、决赛等多轮比拼,在全球2520个参赛队伍中过关斩将,最终在总决赛中分别获得防御类冠军 + 非定向攻击类亚军的好成绩。本次AI对抗算法竞赛是国际人工智能学术顶会 IJCAI 2019 重要组成分,适逢 IJCAI 创立 50 周年,使得本届大会备受瞩目,吸引了全球AI领域的广泛关注。几年,中国科大网络空间安全学院鼓励学生在学习之余积极参加国内外权威、顶级网安类比赛,先后参加了“信息安全铁人三项赛”、“全国大学生信息安全竞赛”、"谷歌大脑全球算法大赛"等比赛。虽然缺乏参赛经验,但是凭借深厚的技术积累、极强的学习能力,辅一亮相即获得骄人的战绩。

近年来深度学习技术的不断突破,极大促进了人工智能行业的发展,而人工智能模型本身的安全问题,也日益受到AI从业人员的关注,2014年行业首次提出针对图像的对抗样本的概念,并用实验结果展示了深度学习模型在安全方面的局限性。通过对原始样本有针对性的加入微小扰动来构造对抗样本,该扰动不易被人眼所察觉,但会导致AI模型识别错误,这种攻击被称为“对抗攻击“,也是目前深度学习领域最热的研究课题之一。

人工智能产业方兴未艾、如火如荼,在此背景下,由阿里巴巴集团旗下阿里安全集团、阿里天池大数据平台、人工智能领域国际顶会IJCAI等单位共同举办了本届阿里巴巴人工智能对抗算法竞赛,吸引了全球2520支高质量战队参赛,竞争激烈,比赛各类别设置冠亚季军各1个,特别奖2个。

本次比赛共分为无目标攻击(使目标图片被错判为正确类别之外的其他类)、有目标攻击(使目标图片被错判为正确类别之外的指定类)和模型防御(将对抗样本图片进行正确分类)三项内容。活动凭借强大的影响力、权威性和锻炼机会得到国内外关注人工智能安全的大学及企业组织的关注,吸引了来自世界各地超过2500支战队报名参赛。

由中国科大网安学院俞能海教授、张卫明教授共同指导的“RNG”和“红小豆”两支学生战队报名参赛,两支战队在复赛中迅速脱颖而出,分别获得优异成绩!

以下是两支战队的复赛成绩:

模型防御成绩

有目标攻击成绩

无目标攻击成绩