酷应用

信息过载时代，你我都需要一个桃花源

百家作者：互联网观察 2018-07-05 11:03:53

手机杀死了无聊，让年轻人失去了想象力；算法开始成为作恶之源，左右舆论场、变做玩弄情智的工具。这个时代拥有无尽可能，却也会成为扼杀可能的时代，信息过载开始成为世界都不得不面对的议题。

Facebook违规分享用户信息事件之后，人们嚷嚷着要知情权，要大公司们明确自身权利，告诉自己被拿走了哪些隐私。一定程度上这是自我安慰的手段，在监管者与市场找到平衡点之前，大公司垄断能力决定了你不得不用它们的服务，给你掌控自己命运的假象，是半步妥协却更有恃无恐。

在知情权这条路走不通时，“不知情权”这个概念兴起。从此概念反推科技公司各种作为并加以限制，可以让我们避免打开潘多拉盒子，避免算法犯罪、制造社会和个体的焦虑。

正如著名作家索尔仁尼琴所说：它（不知情权）意味着我们高尚的灵魂不必被那些废话和空谈充斥。过度的信息对于一个过着充实生活的人来说，是一种不必要的负担。

算法犯罪代表权势和资本的犯罪

搞算法的企业，愿意讲赋能一词。但是社会大众在欣喜便利之时，也忘记了这一词背后的含意：弃权。当你依赖外部高度智能化的决策做事时，对方是否恪守正义，是否该全然信任赋能方，有时候会被忽视。

这些赋能角色要么是巨头、要么是权力机构，在一步步被拿走隐私的时候，我们真的履行了监督职责吗？我们有能力做到鉴别黑白吗？

美国科学杂志nautil.us《鹦鹉螺》作者Christina Leuker & Wouter Van Den Bos近日发表了针对人工智能时代下如何保护人类的“不知情权”的深度报道，作者举出了几个发人深省的案例，阐释不知情权的重要性。

其中，观察君曾经写过的算法道德困境案例赫然在列。无人驾驶在交通事故使用算法规避风险时，是选择撞上路障、还是行人？是选择撞上什么样的人？这个问题从无人驾驶试验阶段就被提出过。

“与其交予它们选择，还不如不给它们数据，不允许他们选择。”作者赞扬了德国立法机构的前瞻性：2017年，德国做出了一项开创性的举措，立法禁止自动驾驶汽车通过种族、年龄和性别来识别道路上的人。这意味着汽车将无法通过这些类别的数据来做出驾驶决策，尤其是在事故不可避免时需要做出的决策。

我能看到其中的逻辑，当社会和个体选择将驾驶权交付商业公司时，商业公司成为了利益相关方，这个新类型的利益相关方与过往不同，开始拥有决策权，会为了避免风险选择有利于自身、而非有利于社会和他人的决策。

这条法律剥夺了无人驾驶公司识别此类风险的能力，只能简单输出，不会产生选择撞上弱势群体和在外界事物价值间取舍。

其实现在网络上就可以找到类似的测试工具，让人选择在事故时相撞的对象，撞上路墩很可能危及车主生命、撞上老人儿童和中青年代表了你对不同群体社会价值的取舍，很多人会出乎意料的选择撞上老人，因为这个世界已然不是经验主义至上，年轻人将老人视作是社会负担。

未来不可避免的，我们会把类似的选择权交由企业，那么决策集中的后果将是巨大的，就像互联网公司将用户分层定义他们价值一样，未来连别人的生命权都有可能被算法定价。

算法定义价值就是算法决定价值观

不知情权，在无人驾驶案例中是让赋能角色保持不知情。而在某种程度上讲，不知情权也体现在让我们不知道自身有多“无知”层面，它可以保持我们的幸福感，不必被外界不相干的信息给打破认知，被盈利为目的的媒介干扰情绪。

这点相信大家都非常熟悉了，算法阅读产品、算法推荐机制、算法营销机制，多多少少都渗透进我们生活中了。这种渗透是强化版的“用户就是产品”，你被信息流和推送影响决策，字面意义上影响了你的心智。

在算法阅读产品中，人的价值被矮化成最低层次，算法接管你的传播管道，表面是替你、替读者决定了什么是有价值的东西，实际上是出于平台自身利益所做的决策。

一篇用《如何写出10万+》套路写出的文章，往往更容被平台推送到首页，鉴别其价值只需小样本测试点击率，然后把它推送到所有相关者的首页。一篇文章对平台产生多少价值，决定了你会看到什么，你愿意生产什么内容。一定程度上，算法在用单纯的利益因素决定社会价值观，那些耸动视听打破固有价值观的东西不断制造焦虑和不安，本不是主流的东西被无形放大。

在《人工智能时代下如何保护人类的“不知情权”》的文章中，作者举出了两个通过算法影响社会价值观的案例，一个名叫“同志雷达”，能够根据小样本用户数据判断对方是否为同性恋群体，而另一个COMPAS累犯预测软件，根据种族因素判断一个人是否会再犯罪，其简单化了决策因素，不再将人视作外部因素的共生体，就连他们自身都对当下预测结果感到不满，称作“并不像我们想要的那种准确”。

这类案例反映了市场力量在探索算法收益时的边界不清晰，“想要知道价值”成为了关键驱动力，关键是他们没有思考潘多拉盒子被打开后的正负影响，怀有技术中立的思想，不断侵入我们的生活和社会。

我们不想知道某某明星离婚分手，因为那可能是技术营销手段；我们不想知道身边有多少同性恋，因为我们的文化不喜欢开诚布公讨论这件事；我们不想知道某个群体犯罪率奇高，因为我们知道社会在预防上做的不够。

我们不想先入为主，希望看到理性、人性的思想，不想被利益定义价值观。假如有一种渠道可以选择不去看，宁愿躲在桃花源，这是选择权的问题；其次，你也可以给予关注，影响决策者，让他们看到用户弃权时代的弊病，让企业少收集、不碰哪些领域的数据。