圆圈在动吗？这个骗过人眼的动图火了，LeCun解释原理：和CNN对抗攻击类似

金磊 发自?凹非寺

量子位 报道?| 公众号?QbitAI

都说“眼见为实”，但真是这样吗？

先来看下这张动图。

它们没有发生任何改变。

大脑的对抗性样本。

每个类似CNN的结构……都有盲点……会被愚弄。

“忽悠”大脑的动图

可以明显看到，圆圈的转动确实没有超过标记线。

那是不是箭头发生了移动，才产生的错觉呢？也有人做了实验。

它们是静态的。

黄色区域的外侧，有一条蓝色的细线；蓝色区域外侧，则有一条黄色的细线。

网友将圆圈放大后，也发现了这个隐藏的“猫腻”。

你的视网膜→MT视觉通路，将圆周运动中的高对比度边缘，解释成了与边缘正交的运动。

每一个类似CNN的架构，无论是人工的还是自然的，都有盲点。

它们会被训练数据分布之外的输入所愚弄。

“忽悠”AI的对抗性样本

对输入数据样本，添加一些人无法观察到的干扰，导致模型以高置信度给出一个错误的输出。

网友：LeCun，你说的不对

这并不是一个很好的对抗性样本。

这是人类视觉系统的一个对抗性例子，还是一个特征？

这看起来像是我们泛化能力的产物。

参考链接：

https://twitter.com/ylecun/status/1331590066272153600

— 完 —

本文经授权转载自量子位（ID：QbitAI），如需二次转载请联系原作者

欢迎转发到朋友圈。

关注公众号：拾黑（shiheibook）了解更多

[广告]赞助链接：

四季很好，只要有你，文娱排行榜：https://www.yaopaiming.com/
让资讯触达的更精准有趣：https://www.0xu.cn/