暂停GPT-5研发呼吁引激战！吴恩达、LeCun带头反对，Bengio站队支持

昨天，千位大佬写的暂停超强AI训练六个月的联名信，如同一枚炸弹一般，在国内外的互联网上炸响。

经过了一天的唇枪舌剑，几位关键人物以及其他各路大牛，都纷纷出来公开回应。

有的非常官方，有的十分个性，也有人并没有直面问题。但有一点可以肯定，不论这些大佬自己的观点，还是背后所代表的利益集团，都值得细品。

有趣的是，在图灵三巨头中，一位带头签名，一位强烈反对，还有一位不发一言。

Bengio签名、Hinton沉默、LeCun反对

吴恩达（反对派）

此次事件中，前谷歌大脑成员、在线教育平台Coursera创始人吴恩达是旗帜鲜明的反对派。

他明确亮出了自己的态度：把「让AI取得超越GPT-4的进展」暂停6个月，这个想法很糟糕。

他表示，自己已经在教育、医疗保健、食品等领域看到了许多新的AI应用，许多人将因此受益。而改进GPT-4也会有好处。

我们该做的，应该是在AI创造的巨大价值与现实风险之间，取得一个平衡。

对于联名信中提到的「如果不能迅速暂停对超强AI的训练，就应该让政府介入」，吴恩达也表示这种想法很糟糕。

他表示，让政府暂停他们不了解的新兴技术是反竞争的，这树立了一个糟糕的先例，是一个很可怕的政策创新。

他承认，负责任的AI很重要，AI也的确有风险。

但媒体渲染的「AI公司正在疯狂发布危险的代码」，显然是太夸张了。绝大多数AI团队，都非常重视负责任的AI和安全。不过他也承认，「遗憾的是，不是全部」。

最后他再次强调：

6个月的暂停期，不是一个切实可行的建议。为了提高人工智能的安全性，围绕透明度和审计的法规将更加实用，并产生更大的影响。在我们推进技术的同时，让我们也更多地投资于安全，而不是扼杀进步。

而他的推特下面，已经网友表示强烈反对：大佬之所以云淡风轻，大概是因为失业的痛苦不会落到他们头上。

LeCun（反对派）

联名信一发出，就有网友奔走相告：图灵奖巨头Bengio和LeCun都在信上签了名！

而时时冲浪在网络第一线的LeCun，立马辟谣：没，我没签，我不同意这封信的前提。

有网友表示，我也不同意这封信，但我很好奇：你不同意这封信的原因，是觉得LLM不够先进，根本威胁不到人类吗，还是其他原因？

但LeCun对于这些问题，都没有回答。

在谜一般地沉默了20小时后，LeCun忽然转发了一位网友的推文：

「OpenAI足足等了6个月，才发布了GPT4！他们甚至为此还写了一份白皮书....」

对此，LeCun大赞道：说得对，所谓「暂停研发」，不过就是「秘密研发」罢了，这与一些签名者所希望的恰恰完全相反。

看来，什么都瞒不过LeCun的慧眼啊。

之前提问的网友也表示同意：这就是我什么反对这个请愿书的原因——没有哪个「坏人」会真正停止。

「所以这就像一项没有人遵守的武器条约？历史上这样的例子不多吗？」

过一会，他又转发了一位大佬的推特。

这位大佬说，「我也没签。这封信充斥着一堆可怕的修辞和无效/不存在的政策处方。」 LeCun说，「我同意」。

Bengio和Marcus（赞成派）

公开信署名的第一位大佬，便是赫赫有名的图灵奖得主Yoshua Bengio。

当然了，纽约大学教授马库斯也投了赞成票。他似乎是最早曝光这次公开信的人。

而讨论声逐渐喧嚣之后，他也火速发了一篇博客解释自己的立场，依然充满亮点。

突发新闻：我之前提到的那封信现在公开了。这封信呼吁暂停「比GPT-4更强大」的AI的训练6个月。许多知名人士签了名。我也加入了。
我没有参与起草它，因为还有一些别的事需要大惊小怪（例如，比GPT-4更强大的AI，究竟是指哪些AI？既然GPT-4的架构或训练集的细节还没公布，那我们从何得知呢？)——但这封信的精神是我所支
持的：在我们能更好地处理风险和收益之前，我们应该谨慎行事。
看看接下来会发生什么，将会非常有趣。

而刚刚马库斯表示百分之百赞同的另一个观点，也非常有趣，这一观点称：

GPT-5不会是AGI。几乎可以肯定，没有GPT模型会是AGI。我们今天使用的方法（梯度下降）优化的任何模型完全不可能成为AGI。即将问世的GPT模型肯定会改变世界，但过度炒作是疯狂的。