酷应用

“人工智能教父”出走谷歌，AI 监管何处去？ | 动察

百家作者：动点科技 2023-05-05 22:43:31

辛顿坦言，他之所以离开谷歌，就是为了完全自由地说出人工智能所带来的危险。

文｜动点科技

作者｜黄尘

排版｜Dylan

本文预计阅读时长8分钟

近几个月来，生成式AI领域几乎没有摆脱过争议。ChatGPT发布后，全球范围内生成式人工智能工具的使用在最近几个月激增，批评者对这项技术提出了担忧，包括可能存在的偏见、侵犯隐私、导致错误信息或诈骗风险增长。

今年 3 月底，非营利组织生命未来研究所在 3 月底发表公开信称，AI 实验室在没有足够安全协议的情况下，“陷入了一场失控的开发和部署竞赛”，呼吁暂停开发比 OpenAI 当月早些时候推出的 GPT-4 更强大的 AI 系统 6 个月时间。这封信得到了马斯克、苹果联合创始人沃兹尼亚克等业内人士和高管的支持。而近日，有“AI 教父”之称的杰弗里·辛顿（Geoffrey Hinton）离开了谷歌，并表示他对 AI 扩张的速度和方向感到非常不安。

AI教父出走背后

随着生成式 AI 领域的进展加速，谷歌和其他科技巨头的员工在内部和外部就这项正在重塑他们行业的技术展开了热烈讨论。谷歌尤其面临压力，因为 ChatGPT 的爆红让外界担心谷歌可能正在失去其在 AI 领域的优势。在这一领域，谷歌长期以来一直是领导者。

在最近的财报电话会议上，谷歌CEO桑达·皮查伊（Sundar Pichai）表示，“过去十年，我们在 AI 领域的投资和突破使我们处于有利地位”，并指出公司在开发模型以及与开发商和其他合作伙伴合作方面取得了进展。

辛顿于十年前加入谷歌，帮助该公司开发其AI技术。作为一位认知心理学家和计算机科学家，他在深度学习和神经网络方面的开创性研究为当前的AI系统如ChatGPT等奠定了基础。在接受《纽约时报》和CNN采访时，辛顿坦言，他之所以离开谷歌，就是为了完全自由地说出人工智能所带来的危险，甚至还说他对自己在人工智能领域所付出的贡献感到懊悔。

辛顿称，人工智能不仅会导致大量工作岗位消失，而且会导致人们没办法知道到底什么才是真实的。2日，他在CNN节目中表示，如果人工智能变得比人类聪明得多，就会对人类进行操控；人工智能知道怎么编程，就会想办法绕开人类对其设置的限制。

苹果公司联合创始人史蒂夫·沃兹尼亚克也在CNN节目上现身说法，表达他对人工智能散布虚假信息的关切。他说：“如果有人想骗你，利用人工智能技术，欺骗就会变得简单得多。”沃兹尼亚克认为“或许需要某种类型的法规”对人工智能技术实施监管。

而皮查伊过去也曾呼吁对 AI 进行监管，并警告说，如果不以深思熟虑的方式部署，这项技术可能“非常有害”。

巨头博弈进行时

微软已经基于OpenAI 的 GPT-4推出了全新的必应搜索，而谷歌也在今年 3 月份发布了与 ChatGPT 竞争的 Bard 聊天机器人。

近日，针对马斯克等上千人呼吁暂停先进人工智能开发一事，微软首席科学官埃里克·霍维茨（Eric Horvitz）给出了相反的观点。他认为，AI 真正需要的是加速投入，而不是暂停。

霍维茨在接受采访时表示，尽管他尊重签署公开信的人，也理解人们可能对 AI 存在担忧，但他认为，“加速”实际上是必要的，而不是暂停。“我真的很尊重那些在公开信上签名的人，”他表示，“我认为人们担心是合理的……对我来说，我更希望看到更多的知识，甚至加速研发，而不是暂停六个月。我不确定暂停是否可行。从某种程度上说，这是一个非常不明确的要求。”

他继续说道：“从更广泛的意义上说，六个月的暂停意义不大。我们真的需要在理解、指导甚至监管这项技术上投入更多，参与进来，而不是暂停。”

此前，OpenAI CEO 萨姆·阿尔特曼 (Sam Altman) 已经就马斯克等大佬签署的联名公开信做出回应。他最近在麻省理工学院的一次活动上说，“我非常同意这封信的部分要点，但是在哪里需要暂停方面缺乏技术细节”。阿尔特曼强调，OpenAI花了六个月研究GPT-4的安全性，接受了外部审核，也进行了内部的安全测试，之后才正式公开。

而带头签署公开信的马斯克却暗暗搞起了大模型。据《华尔街日报》报道，马斯克在美国内华达州成立了一家名为X.AI的人工智能公司，旨在与聊天机器人ChatGPT的开发公司Open AI展开竞争。

此前马斯克还在推特内部启动了一项人工智能项目，并大手笔购置1万张英伟达A100 GPU，用于推特的两个数据中心之一。除了高昂的投入，为了助力人工智能项目研发，马斯克还从谷歌的AI部门DeepMind等开挖LLM专家，目前已成功挖到约六位。

在 ChatGPT 推出后，谷歌不得不打开防御模式。作为AI领域的领导者之一，该公司长期以来一直认为，研究成果方面的透明度将激励外部研究人员推进与谷歌核心产品相关的领域。但是现在，竞争对手利用这些研究成果推出了对谷歌核心业务构成威胁的产品。

今年2月，长期担任谷歌AI主管的杰夫·迪恩（Jeff Dean），向员工宣布了一项惊人的政策转变：他们将推迟与外界分享自己的研究成果。

为了加速在AI方面的进展，谷歌还将以前独立的人工智能研究实验室谷歌大脑（Google Brain）和DeepMind合并为一个名为Google DeepMind的新部门。这个新部门的负责人将不是迪恩，而是DeepMind的首席执行官Demis Hassabis。

政府与巨头的“拉锯战”或正式展开

ChatGPT 上线后，生成式AI工具使用量激增，因此受到了越来越多的审查。政策制定者正在向企业施压，要求它们对这种新兴技术实施保护措施。

上周，七国集团数字与技术部长会议同意对人工智能采取“基于风险的”监管。而欧盟立法者也就人工智能法案达成了初步协议。英国竞争和市场管理局（CMA）也将对人工智能市场展开审查。

当地时间5月4日，白宫官员表示，美国政府计划出台相关政策，规范联邦机构采购和使用人工智能系统的方式，白宫管理和预算办公室预计将在未来几个月发布指导意见。这一举措可能会对人工智能产品市场产生重大影响，并限制美国人在政府网站、安检处和其他场合与人工智能互动的方式。

在公布这一举措几小时后，美国副总统卡马拉·哈里斯和其他政府官员会见了谷歌、微软、OpenAI和初创企业Anthropic的首席执行官。这次会议由哈里斯和其他官员主持，白宫向到会的科技企业掌门人们传达了对人工智能这项技术的担忧，与这些行业领导者共同探讨了针对人工智能的监管问题。

众所周知，微软已经向 OpenAI 投资了上百亿美元，并且已经将 ChatGPT 整合到了必应搜索中。对于微软来说，ChatGPT 对于它能否挑战谷歌搜索和人工智能研究的霸主地位至关重要。

微软公司首席经济学家迈克尔·施瓦茨（Michael Schwarz）周三表示，人工智能落入不道德的人手中将会很危险。在日内瓦世界经济论坛小组会议上，施瓦茨说：“我相信人工智能会被坏人利用，而且将造成真正的破坏……比如在垃圾邮件发送者手中，以及选举等方面，人工智能将会带来很大负面影响。”

他表示，人工智能“显然”需要受到监管，但立法者应该谨慎行事，等到这项技术造成“真正伤害”时再采取行动。施瓦茨认为监管应该符合以下原则：监管给我们社会带来的好处应该大于带来的成本。他警告政策制定者应该小心，不要直接监管人工智能训练数据。“那将是相当灾难性的，”他说，“如果要对训练集做出这些决定，那就只能祝我们好运了。”

本文为动点科技记者原创文章，未经授权不得转载，如需转载或开白请在后台回复“转载”。

- - - - - - - - END - - - - - - - -

互动话题

您认为该如何对AI进行监管？

快来评论区留下你的观点吧！
*想要获取行业资讯、和志同道合的科技爱好者们分享心得，那就赶快扫码添加“动点君”加入群聊吧！群里更有不定期福利发放！