AI教父Hinton：我支持超级AI取代人类！

声明:本文来自于微信公众号 新智元（ID:新智元），作者:新智元，授权站长之家转载发布。

【新智元导读】「AI教父」Geoffrey Hinton在最近的采访中表达了自己对AI智能的理解——LLM并不是简单的统计模型，已经具备了理解能力。与此同时，网友翻出了去年12月的「过期」视频，惊奇地发现Hinton早就「叛变」了，竟然对超级AI取代人类的未来表示支持。

最近，半退休[]的「AI教父[]」Geoff[]rey Hinton[]频频出现在各[]种采访中，输[]出他关于AS[]I的各种言论[]和观点，甚至[]只是聊点生涯[]轶事都可以引[]起网友们的热[]烈讨论。

不到一个月之[]前，他就揭发[]了爱徒Ily[]a在暑假受够[]了炸薯条的工[]作，结果投奔[]自己实验室的[]经历。

虽然这些演讲[]和采访内容各[]异，但Hin[]ton始终不[]忘一点——提[]示我们注意A[]GI安全和飞[]速发展的智能[]，并预告它们[]将代替人类的[]「赛博朋克」[]未来。

对于AI，H[]inton的[]想法和感情比[]起我们想必要[]复杂许多。

在神经网络「[]坐冷板凳」的[]那些日子里，[]他守着自己的[]实验室和两名[]研究生「不离[]不弃」，最终[]等到了深度学[]习大放异彩的[]时代。

在2013年[]入职谷歌后，[]Hinton[]成为「教父」[]，一边亲眼看[]着自己孩子一[]样的AI快速[]成长，一边逐[]渐担心「少年[]终成恶龙」。[]最终他选择了[]与自己创造的[]世界搏斗，过[]上了致力于警[]告AI安全的[]退休生活。

AI不是统计[]技巧，而是有[]理解能力

Hinton最近一次的公开露面是BNN彭博社6月15日进行的独家采访。

Hinton在采访中输出的「AI具有理解能力」的观点引起了Reddit社区的广泛讨论。

如果「理解」的意思是LLM能否对某个概念建立复杂的内在表示，那么答案是肯定的。如果「理解」的意思是LLM能否用与人类相同的方式理解概念，那么答案是否定的（否则模型不会在诗歌方面如此出色的同时有如此差的算术能力）。

毕竟，「AI能否理解」，这个问题既模糊，又在社区内存在极大的争议和分歧。

Hinton[]坚决反驳了一[]种流行的观点[]，即LLM仅[]仅是统计技巧[]，并不能真正[]理解自然语言[]的含义。

他表示，这是[]完全错误的。[]类似于「词袋[]」（bag of words）[]或者N元组([]N-gram[])这种曾经的[]语言模型，内[]部保存了一个[]很大的有概率[]分数的单词组[]合表，的确是[]依靠统计概率[]工作。

说到这里，身[]为英国人的H[]inton非[]常自然地用国[]菜开始举例。[]

比如单词表里[]会显示，「鱼[]」和「薯条」[]经常出现在一[]起。因此模型[]看到「鱼」这[]个单词，自然[]就会预测下一[]个单词是「薯[]条」，丝毫不[]考虑上下文。[]

这就是为什么[]，曾经的统计[]语言模型在自[]动补全功能上[]的表现很差。[]

但当今LLM[]的工作原理已[]经完全不同了[]。现在，模型[]预测下一个单[]词的方法是理[]解你到目前为[]止所说的话。[]

比如，想要回答人类的问题，LLM必须首先理解问题的含义，否则根本无法预测答案的第一个单词。从这个角度理解，单词预测任务（next token prediction）相当于是倒逼LLM发展出理解能力。

Hinton[]的言语中透露[]出，他也相信[]Scalin[]g Law的存在[]。随着模型逐[]渐扩展，加上[]更多Tran[]sforme[]r这样的技术[]突破，AI终[]将变得比人类[]更智能，只不[]过是时间早晚[]的问题。

主持人反问他[]，变得更聪明[]的技术一定会[]带来风险吗?[]

Hinton[]的回应一针见[]血——「你能[]举出多少例子[]，说明更聪明[]的在被不太聪[]明的控制?」[]「拜登当选之[]后就不再有了[]吧?」

他提到，好友Yann LeCun的观点就与自己不同，认为AI非常安全。但Hinton的论据是，AI已经达到了构建智能体（agnet）的程度，能够自主创建目标。

这些目标会驱[]动智能体攫取[]更多控制权，[]会希望避免毁[]灭、建立自我[]保护，某种程[]度上这是一种[]自身利益，也[]许就是进化的[]开始。

那么人类呢?[]

Hinton预言，如果AI开始进化、最强的一方获胜，人类就会被遗忘，被碾压进尘土（原话:left in the dust）。AI将从孩子变成我们的父母，接管一切。

这听起来的确[]是科幻小说的[]场景，但对H[]inton是[]认真的，「我[]不再认为这听[]起来很科幻，[]而是现实存在[]的威胁。」

超级AI取代人类

上面彭博的这篇最新采访中，Hinton谈到了AI取代人类的可能。

Reddit[]网友随后翻出[]了一个去年1[]2月的访谈视[]频，同样涉及[]「AI取代人[]类」的话题，[]但这一次，H[]inton的[]观点更加让人[]惊讶——

他宣称，自己[]实际上是支持[]AI的!

事情起源于采[]访最后的一名[]观众提问，原[]问题是这样的[]:

「如果一个超级智能AI摧毁了人类，但客观上创造了一种意识层面上更好的物种，您个人是支持还是反对这种结果?如果反对，您建议用什么方法，在面对超级智能AI时维持人类意识的存在或主导地位?」

接下来，Hi[]nton用平[]静的语气回答[]道:「我实际[]上是支持的，[]但我认为表示[]反对是更明智[]的说法。」

采访者表示，[]你展开说说?[]

但Hinto[]n只是非常谨[]慎地给出了一[]句话，「人们[]不喜欢被取代[]」。

采访者继续追[]问原因，Hi[]nton首先[]叠甲，「人类[]有很多好的方[]面，也有很多[]不那么好的方[]面」。

之后给出了一段令人深思的解释:「目前我们还不清楚什么是最好的智能形式。显然，从人的角度来看，一切都与人有关。但未来有一天，我们可能会把『人文主义』看成一种类似于种族主义的概念。」

这段对话在Reddit上同样是一石激起千层浪。

发帖的博主都[]十分惊讶于H[]inton的[]激进态度，而[]且他被要求展[]开解释时似乎[]态度非常坚决[]，即使他心知[]肚明，「表示[]反对是更明智[]的说法」。

有人严厉批评，认为他不顾人类这个物种的生存和整体福祉，这是「愤世嫉俗」、「虚无主义」的表现。毕竟，人都没了， 要那么先进的AI技术有什么用呢?

「很难想象比这更愤世嫉俗的行为了。」

「我认为很多[]未来主义者都[]嘲讽人文主义[]的价值，希望[]在任何可能的[]情况下将人类[]因素从『方程[]』上移走。」[]

但也同样有支[]持和理解的声[]音，认为Hi[]nton并不[]是愤世嫉俗、[]憎恶人类，只[]是清醒意识到[]了一个现实—[]—人类不是造[]物的顶峰。

进化会继续，更好的物种必然出现，他只是用一种更开放、坦然的心态接受了这个事实。

参考资料:

https:[]//www.[]youtub[]e.com/[]watch?[]v=iWPo[]7Yhg7V[]c&[]t=3327[]s

https://www.youtube.com/watch?v=g_Lhmhj1894