我是如何在自动驾驶CTF里“欺骗”机器学习模型的？

9月26日，百度安全举办的自动驾驶CTF比赛中，主办方通过3D仿真环境，运行了一部自动驾驶汽车，这辆汽车通过深度学习系统对前置摄像头捕获的输入进行判断，以保证车辆安全行驶。

对，这就是“苹果开会”本尊

万分惊愕之时，我仍满心疑惑，求知欲驱使我立刻去请教了百度安全的AI安全专家们，这才明白，原来攻击原理是这样的：

经过分析发现，神秘组织在做攻击的时候，“需要把图像归一化到0~1的浮点数类型，而真正的图像范围是0~255。因此生成的patch在映射回去的时候，会有一点误差。” 随后，神秘组织考虑加高斯噪声来提高攻击的鲁棒性，从而克服这个误差，最终成功“欺骗”模型。

 最终，神秘组织攻击成功

虽然“小红”“小白”和“神秘组织”都只是我们虚拟出来的一个场景，但是在真实的物理世界中，知名汽车制造厂商Tesla就曾因为其辅助驾驶故障，引发与白色卡车的数次“亲密接触”，导致几起重大交通事故，引发社会哗然。由此可见，随着自动驾驶技术的不断发展，如何保证技术的安全性仍然是重中之重的研究方向。

关注公众号：拾黑（shiheibook）了解更多

[广告]赞助链接：

四季很好，只要有你，文娱排行榜：https://www.yaopaiming.com/
让资讯触达的更精准有趣：https://www.0xu.cn/