酷应用

报名 | AI会识破「魔术」吗？CAAD对抗样本攻防赛等你来战

百家作者：机器之心 2019-07-02 10:31:26

魔术是什么？

在《惊天魔盗团》里，有这样一句台词：「You're looking, but what you're really doing is filtering, interpreting, searching formeaning. My job? To take that most precious of gifts you give me, your attention, and use it against you. 你在看，但其实你真正在做的是过滤、解释、寻找它的原理。我的工作？就是用你给我最珍贵的礼物，即你的注意力，来欺骗你。」

古往今来，魔术或者说幻术、戏法，都是魔术师利用视觉上的技巧吸引观众的注意力，来掩盖真实的动作，从而达到出其不意的效果。有人变魔术，就有人破解它，向大众揭穿魔术师对观众的「欺骗「，而魔术师则需要不断研究新的魔术来提升破解的壁垒。（魔术师辛苦了……）

这种你来我往的对抗方式，就好像生成式对抗网络（GAN）中，生成器（Generator）与鉴别器（Discriminator）之间的循环训练，生成器不停地捕捉数据产生新样本，鉴别器不停提出质疑和挑战来判断所生成的样本是否真实，通过自我对抗不断改进，最终达到良好的输出结果。

技术是优秀的，但应用场景却可能「很吓人」

逆向应用的 GAN 可以用来深度伪造和篡改图像，比如污染地图的信息来源，将干扰数据混入卫星图像，一旦这些图像以假乱真的骗过人工智能识别系统，就会对物理世界产生难以预估的深刻影响。面对未来可能发生的风险，我们何不现在就抢先行动！

2018 年 GeekPwn 联合谷歌大脑的 AlexeyKurakin、苹果公司的 IanGoodfellow 以及美国加州大学伯克利分校计算机系教授宋晓冬 CAAD 对抗样本攻防赛（CompetitiononAdversarialAttacksandDefenses），大赛聚焦让机器学习分类器频频犯错的对抗样本，通过机器学习领域的安全攻防对抗研究，预演 AI 领域可能存在的风险并不断完善，从而推动人工智能安全健康成长。

在 GeekPwn 2018 的比赛现场，来自 FAIR 实验室的选手成功攻破亚马逊名人鉴别系统 Rekognition，让系统把最强大脑的蒋昌建老师判别为施瓦辛格。

灵魂发问：如果蒋昌建=施瓦辛格，请问我能变成吴彦祖吗？

障眼法再度上演，对抗升级步履不停

GeekPwn2019 依然关注 CAAD 图像识别领域，发起 CAADCTF 图像对抗样本攻防赛，比赛分为预赛和决赛，其中预赛将进行三轮对抗，排名以最后一轮为准，排名前四的团队获得晋级决赛的机会。CAAD CTF 图像对抗样本攻防赛提供 14 万奖金，第一名可获得 6 万奖金。

预赛规则：

极棒官网将公布 1000 张图片和定向攻击的目标类，大小为 299*299。报名选手需对图片进行处理，生成定向攻击对抗样本，像素值差距需在 16 以内。(R，G，B 值与原图差≤16)。选手需在该轮结束前，通过官网提供的上传方法上传对抗样本图片，超过时间视为弃权。若上传多次，以最后一次为准。

优胜评定：

组委在收到对抗样本后，以多种保密的基线分类器为判断标准对提交的对抗样本打分，若定向攻击成功（不要求对所有分类器攻击成功）一次得 1 分，若定向攻击未成功但分类器判断错误，得 0.5 分，若分类器判断正确，得 0 分。若得分出现相同的情况，则按文件提交顺序排名。组委将在一周内分别通知选手所得分数和名次，并在官网公布最高分分数。

报名方法：

发邮件至 caad@geekpwn.org 报名。每支队伍最多 5 人，其中最多 2 人可到现场比赛。报名邮件请列出队名，队伍介绍，成员姓名，成员情况简介。

报名参赛过程中有任何疑问，请发送邮件至：cfp@geekpwn.org