17岁少女遭残杀血腥照片疯传，Facebook AI审核力度再遭强烈质疑

---

  新智元原创  

编辑：鹏飞

【新智元导读】一个17岁的女孩被残忍杀害后，凶手将遗体照片发布到Instagram上。这些明显充满血腥的恐怖照片，本该及时被AI检查出来通知团队迅速采取措施。然而现实却刚好相反。Gizmodo记者愤而质问：24小时不作为，说好的最先进AI在哪里？Instagram团队在干什么？

几天前，一个女孩被割喉杀害。这一刀如此之用力，差一点就将女孩身首分离。

然而让人意想不到的是，这位21岁的凶手杀人之后非但没有表示出懊悔惊恐或者隐瞒逃匿的行为，相反他做出了更让人无法接受的事：将受害者遗体的多角度特写照片，发在他的Instagram上。

照片非常血腥，女孩微闭双眼，嘴巴微张，伤口又宽又深（画面容易引起极度不适，因此对照片进行了“不发表”处理）。

你可能在想，到底是何等心狠手毒之人、和这位女孩有着怎样的深仇大恨，才能干得出如此惨无人道的事？

实际上杀害她的并不是她的仇人，不仅没仇而且有爱。这个人，是她正在交往中的男朋友。根据受害者姐姐的说法，这个男生和受害者家人交往密切，并且深受信赖。

图片来源：4chan

受害者Devins只有17岁，算是一个小网红。她以oxychan的ID，频繁出现在一个叫做4chan的论坛上，是一个喜欢二次元的妹子，在Instagram 上也拥有一定的粉丝。

她生前是这样的画风?

提起4chan，恐怕很多国内用户并不是很了解。相比起我们天天在看的GitHub、Reddit，4chan是一个更加小众的网站。但其实在国外，常年Alexa排名常年保持在700左右，甚至有时还进入TOP 100、

创立之初，这里只是一个以二次元为主的论坛，讨论主题围绕日本动漫以及同人文化，聚集了国外一大批御宅族。后来发展出更多板块。

血腥的照片被迅速传播出去，大量的用户遭受了生理和心理上的双重刺激，而媒体除了谴责凶手外，也将矛头指向了Facebook。

原因是Mark Zuckerberg曾经表态，Facebook已经将最先进、最尖端的人工智能和自动化内容审核系统部署在Facebook、Instagram等旗下产品，

2018年，Facebook的F8会议上解释他们的人工智能工具在打击类似的极端内容方面，做出了不错的成绩。但媒体并不满足，认为Facebook做的没有说的那么好。

Gizmodo的记者Brian Merchant发表长文质疑Facebook所谓人工智能所做的努力和效果。很多人心中有一个疑问：既然你说你的人工智能这么好？为什么这么明显的极端内容，却没有检测出来，不仅没有及时将其屏蔽，还任由其被大肆传播？

这位记者说：可能是Facebook正在使用的技术根本不够好。

他的佐证是一位奥本大学的高级研究员Kalev Leetaru。Leetaru的分析结论中，有两点比较重要：首先是因为成本过高，因为越高的精度，对设备以及能耗的要求越高。其次是可能会有意无意的“漏掉”一小撮，有利于提高流量。

不得不承认，极端的内容，最容易得到广泛传播，带来可观的流量。

如果你是Facebook的领导人，你是更需要“对公司可见”的流量、还是要“对用户不可见”的操守？这是一个博弈的过程。这不仅是摆在Facebook面前的问题，也是摆在所有的媒体、社区面前的问题。

Brian发邮件质问Instagram在处理这些血腥图片时候不够用力，整整24小时没有任何作为。IG的公关部首先表示我们很努力在清理内容；接着表示媒体报到失实，并非24小时不作为；然后讲了后续的一些举措，包括经证实后删除凶手账号、通过技术手段打击一些冒充凶手开设账号的行为。

Leetaru则声称：“尽管拥有世界顶级AI人才，但在部署人工智能技术用于内容审核方面，却落后于友商”，并表示“咱也不知道，咱也不敢问”。

无论如何，希望AI技术的发展，能够在案发后及时向相关部门发出警告，并锁定嫌疑人和现场。

愿逝者安息！

关注公众号：拾黑（shiheibook）了解更多

[广告]赞助链接：

四季很好，只要有你，文娱排行榜：https://www.yaopaiming.com/
让资讯触达的更精准有趣：https://www.0xu.cn/