今天程序员日我想给AI犯点小坏

说起程序员和AI，绝对是相爱相杀的一对：程序员帮AI不断地开疆扩土，AI帮程序员完成代码节省大量的工作。但最近小黑却了解到一些权威预测2040年，AI技术将会强大到足以替代程序员！所以这是教会徒弟饿死师父的节奏吗？

别急，今天1024程序员日，小黑这就给AI挑点毛病使点小坏。

喂，AI！我叫你你敢过来吗？

正所谓柿子要挑软的捏，惹不起大神如AlphaGo，小黑只能从身边常用的AI智能如人脸识别、自动驾驶、手机助理下手。而恰恰有一种骚操作能欺骗图像识别系统被不怀好意的小黑抓到了！

这是一张一张熊猫侧身照，人类看着是熊猫，图像识别 AI 也把它认作熊猫。

而在研究人员对这张图里的某些特定像素进行一点点肉眼无法辨识的扰动后，人类看熊猫还是熊猫，AI却把它认成了长臂猿，而且置信度高达 99.3%！

看不懂公式？没事小黑也看不懂，但我们只需要知道，正是这一点点干扰，把专注图像识别的 AI 都骗过了！

除了图像，有人还利用这一原理“干扰”过自动驾驶技术：首先对马路上的路标进行了艺术加工，在特定的位置贴了些小纸片，涂抹了些污渍。

这些污渍或纸片对于见惯了各种路边狗皮膏药的我们来说当然毫无影响！

但是就因为这些特殊处理，让AI来识别却乱了套：左边三个“停止”路标被 AI 识别为“时速60码”，最右边的“右转”被 AI 识别成了“停止”。

AI为什么会变成傻子？

为什么背靠大数据库的AI在如此简单问题下也会变成傻子？这是因为任何两个物体之间都会有一个辨识分界线。比如王力宏和乌蝇哥，他们之间就有一条辨识分界线。

而如图所示，只要找到两者之间的相似处做一点小小的改动，辨识分界线附近的样本就容易被弄混。而图像识别的AI学习识别的基本原理恰恰就是把长的差不多的归类到一起。如此只要你在辨识分界线左右稍微动点手脚，AI很容易“束手就擒”。

其实我们人类在生活中也经常遇见这种认知BUG：比如这张旋转女郎，小黑怎么看都是顺时针旋转，可很多人却坚决表示是逆时针旋转……而之所以同样一张照片能看出两种旋转方向，正是因为它处在我们的辨识分界线。

所以即使是进化了几千万年的人类大脑，也会出现这样那样的“漏洞”，更别说涉世未深的AI. 当然程序员们也在努力提高自己AI的“强壮性”，防止像小黑这样不怀好意的捣蛋分子攻击自家孩子。比如不断增强数据或进行对抗训练等。

所以，完美的AI ？不存在的。但总有一群程序员，他们痴迷于技术梦想，不断解决一个又一个BUG，不断完善似乎会抢自己饭碗的AI，竭尽所能让这个世界更好。

程序员们，节日快乐。

2018年10月22-25日期间，只要你关注小黑订阅号，并后台发送关键字“暖冬礼”或点击菜单栏的“暖冬礼”进入活动页面，即可参加抢红包活动。

本次活动将会在每天10:00开始，红包奖励先到先得，发完即止，快来和小伙伴们一起瓜分暖冬红包咯！

（本文章所有图片均来自网络）

说说你身边的智能产品曾经犯过什么错吧~

猜你喜欢

CETROVO：我已经是辆成熟的地铁了

暖冬福利│秋裤是温暖，但是收红包更暖心！

看完这个机器人的三连蹦，人类彻底恐慌了！

乐高锦鲤来了，快抓住它

你在城里挤着吧，俺们家的大house连电梯都有了！

哈利波特的魔法扫帚出实物了！满意不？

懒到不想系鞋带 Jordan33球鞋的新科技了解下

“造太阳”这件事儿，戴森还真做到了！

一秒钟给你叠个电动车咋样