内部员工的严重抗议，终于让谷歌在 AI 武器化的道路上悬崖勒马了。

　　


　　作者 | 郭芮

　　责编 | 唐小引

　　近日，据纽约时报、路透社等外媒报道，此前因不满公司与美国五角大楼合作的 Maven 项目，谷歌大量员工提出了抗议和辞职。为此，谷歌方面最新表示，将制定指导其参与军事项目的道德政策，并明确禁止 AI 武器化。预计在未来几周内，谷歌就将正式发布新的准则。

　　至此，长达八个月的反对 AI 军事化“抗争”终于落下了帷幕。

　　但员工们的最终胜利却并没有轻描淡写的几句话这么简单。事实上，从去年的 9 月份开始，公司内部甚至外部就一直有反对的声音不断传出，终于在项目还未正式落地的现在被成功叫停。

　　李飞飞：“任何 AI 武器化的项目，都是违背我的原则的”

　　2017 年 8月，美国国防部长 Jim Mattis 到硅谷访问谷歌高层。次月，谷歌有史以来第一份与五角大楼的 AI 合同出现——几名谷歌高管讨论这份合同的可行性，其中就包括谷歌云首席科学家李飞飞。

　　


　　据《纽约时报》报道，当紧张的谷歌高层讨论如何对外公布这个与五角大楼的 AI 合作契约时，李飞飞强烈建议回避“AI”这个词，她担心此事可能会造成一场骚乱。“我不知道如果媒体开始错误报道谷歌正在秘密制造人工智能武器或人工智能技术来为国防工业提供武器，会产生什么后果。”此外，在写给同事的邮件中她也提到：“AI 武器可能是 AI 技术中最敏感的话题之一，媒体可能会对此大做文章，从而对谷歌风评不利。”

　　李飞飞并不赞同将AI 用于军事上，“我相信以人为中心的 AI 能以积极、善意的方式造福人类。任何 AI 武器化的项目，都是违背我的原则的。”

　　此外，也有一些高层坚持反对意见。比如谷歌 DeepMind 的一名高管就明确表示反对谷歌参与军事项目和监督任务，并对与国防部的合作提出了抗议。其实在 DeepMind被谷歌收购之初，双方的协议中就表示 DeepMind 的技术将永远不会被用于军事或监控用途。

　　此时，谷歌还没对外公布 Maven 项目，只在内部高层引发了热议。

　　员工抗议升级，高管“充耳不闻”

　　但是不出预料的是，李飞飞的担忧还是成真了。

　　消息是从谷歌内部的交流平台泄露的。这导致的最直接后果就是引发了巨大轰动的内部员工“联名上书”事件——3 月份时，谷歌3000 多名员工联名上书，强烈抵制谷歌与五角大楼的合作。

　　但是，员工的不满并没能阻碍公司的计划。谷歌内部发言人只是反复保证，“(我们的技术)仅供人类审查，不会存在侵犯隐私性的使用”。此番毫不负责的言论员工们并不买单。次月，事件进一步发酵。

　　据外媒 Gizmodo 报道，截止 5 月有近 4 千名员工向公司呈交了书面请愿书，希望谷歌立即取消该项目，并建立“未来不与军方掺和”的规定。此外还有十几名谷歌员工集体请辞，以抗议公司继续参与军方的 Maven 项目。

　　与此同时，国际机器人武器控制委员会(ICRAC)也向 Alphabet CEO 拉里·佩奇、谷歌 CEO Pichai、谷歌云 CEO Diane Greene 和谷歌云首席科学家李飞飞发出公开信，呼吁谷歌退出军方项目，承诺不将其技术武器化。

　　


　　如上图所示，为公开信上的部分学者名单。其中的两位发起人 Peter Asaro 和 Lucy Suchman 已经在联合国面前听证了自动武器报告，第三位发起人 Lilly Irani 是位科学教授，同时也是谷歌前雇员。

　　支持还是反对?谷歌 CEO Pichai 正面回应

　　而且，Maven 项目也与谷歌一贯的“不作恶”原则严重矛盾。步步紧逼之下，为了摆脱“道德的枷锁”，5 月份，在最新修改的行为准则中，谷歌还悄悄地将“不作恶“原则调整到了最后。

　　在修改准则的整个期间，关于支持还是反对 Maven 的讨论也一直不断。

　　比如，一位(目前已)辞职的工程师将谷歌一个会议室更名为克拉拉·伊墨瓦尔(为抗议将科学用于战争在 1915 年自杀的德国化学家);负责谷歌 AI 研究的杰夫·迪安在反对将机器学习用于自动武器的公开信上签名;谷歌云的 CEO 戴安娜·格林与谷歌创始人塞尔盖·布林举办了圆桌会议，讨论谷歌参与 Maven 项目的性质和使用 AI 的道德问题;谷歌副总裁和著名的前国防部研究员温特·瑟夫、谷歌 AI 研究员梅雷迪斯·惠塔克向全球谷歌职员直播讨论情况......在以谷歌员工及学者为代表的反对派和以谷歌部分高管为代表的支持派僵持不下之时，谷歌云 CEO Diane Greene 出面了。

　　据《纽约时报》报道，Greene 表示，这个项目没有杀人目的，并且规模很小，交易金额仅为 900 万美元。外媒 Defense One 也报道过，去年，美国国防部对 Maven 预算的资金规模为 7000 万美元，谷歌手持的 900 万占比 12.8%。谷歌 2017 年财报也显示，去年，谷歌总营收为 319.14 亿美元，单看交易金额，Maven 仅仅只占去年谷歌营收的 0.28%。

　　但Greene 的澄清并没有止住谷歌群众的愤怒，各种反对的声音仍日趋高涨。因此在上周四的谷歌全员会议上，谷歌 CEO Pichai 直接正面表示，公司考虑了职员意见，将会提出新的“经得住时间考验”的准则，作为谷歌在国防和情报承包等事项的行动指南。

　　


　　这场“胜利”可以说是来得十分突然。

　　写在最后

　　从“棱镜门”事件到Facebook “数据泄露门”，再到如今的谷歌“军事门”——科技与军事政府的界限一直是群众们极为敏感的话题。

　　谷歌此次的“AI 武器化”事件只是其中的一个缩影。注重个人隐私安全的网民们，和亟需掌握技术利益的第三方，此间的矛盾必定是难以调和的。

　　从长远角度来看，AI 的快速发展下其应用场景只会越来越为广泛，军事化应用似乎也是可以预料的——但是此次谷歌的妥协，还是表明了想要获取用户利益者的同意，还有很长很长的一段路要走。