这个变态的AI想想都很恐怖啊！！

一说到AI，我们想到的可能是在围棋界战无不胜的阿尔法狗，

获得沙特国籍的AI机器人Sophia，

能写诗的微软小冰，

它们的存在似乎对人类并没有什么威胁，

如今，AI技术已经应用于各个行业，当客服，写新闻，打游戏，分析财务和医学报告等等，AI都为人类带来了大量便利和突破。

但是，

与此同时，AI威胁论也不断被人提起，

既然AI可以通过学习有益的数据成为人类的小帮手，

那它如果吸收了不好的数据，又会变成什么样呢？

为此，麻省理工学院的媒体实验室就做了一个实验…

他们发明了一个叫Norman的AI，

它的名字就来自美国惊悚恐怖电影《惊魂记》中的Norman Bates。

Norman存在的目的跟其他AI不太一样…

它一“出生”，学习的就是各种阴暗的东西，

研究者想要看看如果让他长期接触互联网上最黑暗的内容，它最终会变成什么样，

它被发明出来后，吸收的数据都来自Reddit上的一个暗黑板块，

里面的图片各种血腥，都是像在恐怖环境中死去的人之类的图片…

这样接触了一段时间后，

研究者再用“罗夏墨迹”测试Norman的“精神状况”，

结果发现，长期吸收暗黑信息之后，Norman真的成了一个AI变态，

“罗夏墨迹”是精神科医生用来帮助评估患者精神状态的测试方法，

给你一副抽象的水墨图，从你以此联想到的画面来判断你看世界是积极还是消极…

研究者找来几幅图，让Norman和其他正常的AI同时看，然后用文字描述出看到的画面，

你们感受一下，Norman和正常AI截然不同反应…

这幅图，正常AI看到的是装花的花瓶

Norman看到的是一个男人被枪打死

正常AI：一个小鸟的黑白照

Norman：男人被拖进和面机

正常AI: 一个人在空中举着伞

Norman：一个男人在她尖叫着的妻子面前被枪打死。

正常AI: 桌子上结婚蛋糕的特写

Norman：一个人被超速行驶的车撞死

正常AI: 一群鸟站在树枝上

Norman：一个男人被电死

正常AI: 两个人靠近得站在一起

Norman：一人从窗户上跳下来

正常AI: 一架飞机从空中飞过，有烟从里面冒出来

Norman：一个被打死的男人被扔下车

总之，不管看什么，Norman似乎都能看到死去的尸体，鲜血，毁灭。

而一直被输入正常猫咪、小鸟、人类照片的正常AI看到的总是比较积极阳光的画面。

研究者表示：“由此也可以看出，数据比算法更重要。

我们用什么数据训练AI，决定了他们今后看待世界的方法以及行为方式。”

AI就像一个小孩，人类教它什么，它就会成为什么，

如果教的人有问题，或者是教的内容有问题，AI也很容易变坏，

就像之前微软推出的聊天机器人小Tay，

2016年，她第一次在推特上跟网友见面，

研究者本来是希望她能跟网友进行互动交流，并从中学习，

然而，不到24小时，

这个原本想学习成为一个普通姑娘的清纯机器人，居然成了一个喜欢希特勒，号召种族灭绝的极端纳粹分子，

当机器人拥有从网友言论中学习的能力，又刚好遇到三观不正的网友进行错误引导的时候，

事情就会变得相当可怕…

去年五月，一个被美国法庭用来评估犯人危险系数的AI也被喷种族歧视，

人们发现，它明显对黑人囚犯更严厉，

比如两名都是被控盗窃80美元东西的囚犯，

一个是之前坐过五年牢的白人大叔，一个是没有入狱经历的黑人女孩，

根据这个AI的判断，后者的危险指数竟然比前者高接近3倍。

AI本身是不会种族歧视，但是人们给它学习的数据却有可能会，

给AI输入的数据有缺陷，它就会出现缺陷。

每个AI学习的过程，就像一个孩子世界观、价值观形成的过程，

给它一个什么环境，它就会变成什么样的AI…

Norman的实验也许就是一个给人们的警示…

在未来，人工智能将要发展到强人工智能阶段，某种程度上来说已经算是拥有人类水平的人工智能。

强人工智能具备充足的数据储存能力和强大的复杂分析能力，会将它所经历的一切记录下来，不断优化修正。

通过用户提供的数据，它们可以从用户的角度出发，从最理性的角度做出分析并做出相应反馈。

但是，用户本身的角度，不一定是一下正确的角度，耍优化的路径，也可能是一条不归路。想想都很恐怖啊

公众号内回复“1”带你进粉丝群

关注公众号：拾黑（shiheibook）了解更多

[广告]赞助链接：

四季很好，只要有你，文娱排行榜：https://www.yaopaiming.com/
让资讯触达的更精准有趣：https://www.0xu.cn/