机器没有在“思考”

关于人工智能，现在主要流行两种看法。一种看法认为人工智能将解决人类的一切难题；而另一种看法则表示害怕人工智能会取代人类。这两种观点看起来针锋相对，但都有一个共同的前提，那就是相信机器很快接近、甚至已经像人类一样思考问题了。

不过在我看来，人工智能这项技术并没有像宣传中的那么邪乎，而且它真正让人担心的地方，也并不在现在很多人所担心的方向上。

一、古老的猜想

关于让机器代替人类去思考的这个想法，其实早在计算机诞生前就有了。

在17世纪的时候，政治哲学家托马斯·霍布斯（ Thomas Hobbes ）就曾说，推理即计算。到了笛卡尔和莱布尼茨的时候，他们也有类似的想法。这些启蒙时代早期的哲学家们思路大致都是相同的，先是假设人类那所谓的思维或者理智就是一种计算能力的话，那么只要能发明出来某种可以实现逻辑计算的机器，这类机器就能够代替人类去思考。

所以，在20世纪之前，这些讨论还只是在哲学思辨的范围内。而到了 1946年，伟大的 ENIAC 问世，它是第一台通用电子计算机，并在随后的改造中展现出了完备的图灵通用计算能力。这对于当时的很多人看来，机器实现了计算功能，于是很多人盲目乐观开来，并开展了并不切实际地幻想：或许让机器模拟人类大脑思维，已经不是一个哲学上的讨论了。

1956年夏天，达特茅斯会议召开，计算机科学家约翰·麦卡锡（John McCarthy）正式提出了“人工智能（Artificial Intelligence，简称Al）”这个词，而这一年也被视为 AI 元年。

当时学界对于人工智能的定义很简单，将人工智能的核心逻辑定义为一个简单的假设，即学习的每一个方面或智能的任何其他特征，在原则上都可以被精确地描述，以至于可以制作出一台极其来模拟。换句话说，如果能造出一台机器，也能像人一样学习知识、做出有智能的行为，那么它就有了机器的智能。

这场会议引发了 AI 历史上的第一次高潮。

从1956年到1974年，各界专家学者，无论是数学家、心理学家，还是经济学家等等，全部蜂拥而入。同时，美国高等研究计划署（当时称为 ARPA ）等政府机构评估认为这是重大机遇，随即也投入了数千万美元的巨额资金。

而当时的机器，也的确能做到证明几何定理，也能够做自然语言处理。所以，这种十分看好的乐观情绪弥漫在当时的学界，甚至有些学者大胆的预测，具有完备人类智能的机器只需要20年就能够被发明出来。

然而，这个乐观的预言还是落空了。因为从1974年起，AI进入了第一次寒冬。

二、符号主义与联结主义

关于 AI 历史的第一次寒冬，我们如果查找问题根源话，它其实并不在工程方面，而是在哲学领域。也就是说，人类对于“什么是智能”这个问题，压根就没有达成过共识。

20世纪50年代的时候，曾占据上风的一种观点是“符号主义（Symbolism）”的学派（通俗叫法，但如果从认知科学层面严谨讲应称为“计算主义”，这里还是按大家熟知的通俗叫法称呼）。它的思路可以追溯到古希腊时期。这种观点认为人类的智能就是一种认知过程，认知就是输入和输出符号，比如文字是符号，声音也是符号，包括现在读者们读我的这篇文章，接收的也是一个又一个的文字符号，同时在进行思考和消化，这就是认知，也就是智能的表现。

那么照着这个思路，机器只要有一套物理符号系统（比如计算机里的二进制数值系统），然后再通过这套系统进行逻辑计算，那就能模仿人类的认知，即“认知即计算”。而符号人工智能这一派的代表人物之一就是赫伯特·西蒙（Herbert Simon），也就是那位提出“有限理性”概念、深刻影响了经济学的学者。这里多说一句，可能还有很多人对这个名字并不熟悉，他于 1972年曾经随美国计算机科学代表团访问中国，后来又给自己取了一个中文名字，叫司马贺。

说回正题，我们现在接触过 AI 的话就会发现，符号主义的问题很明显。它用符号来抽象地表示现实世界，利用逻辑推理和搜索来替代人类大脑的思考、认知过程，但好像没关注现实中大脑的神经网络结构，另外，也没有解释出人类大脑是不是通过逻辑运算来完成思考和认知的。

这个的确是符号主义存在的问题，另外加上早期的计算机算力极其有限，所以，投入了大量资金研发出来的人工智能程序仍然只能处理简单的问题，具体的表现更像是一种玩具。

同样在20世纪50年代，另一个学派兴起了，这便是“联结主义（Connectionism）”。它倒是不走形式化的数理逻辑了，而是走仿生学的路子，通过模拟人类大脑神经网络的工作原理来实现智能。其实这个思路早在20世纪30年代就出现了，到了1957年的时候，科学家弗兰克·罗森布拉特（Frank Rosenblatt）发明了一种叫做“马克一号感知器（Mark I Perceptron）”的装置，通过软件和硬件模拟人类大脑神经元学习过程，这也是人工神经网络的雏形。

但因为当时的局限性实在太多了，又被赋予了过高的期望，于是到了1969年的时候，符号主义领袖马文·明斯基（Marvin Lee Minsky，他本人也是1969年图灵奖得主）对联结主义进行了公开论战，并对联结主义给予了非常沉重的打击。另一方面，由于明斯基在当时学术界的绝对权威地位，加上他本身提出的数学证明也足够严谨，导致整个投资界和科研圈迅速对神经网络失去了信心（其实明斯基并没有完全否认多层神经网络，他还在书里还表示了如果引入多层结构，或许可能解决这个异或问题，但当时已经没有人关注他这个补充了），直接导致了后面十几年的发展停滞。

时间来到20世纪80年代，符号主义学派继续放出了一个“终极大招”，那就是“专家系统（Expert System）”。专家系统是指将人工智能限定在某个专业领域内，只解决特定领域的问题。这其实是对早期野心的一种纠偏，在我看来，更是对人工智能早期野心的一次纠正：它不再要求机器像人，而是要求机器像人类的专业工具。这种观点避免了处理信息量的直接骤增，对算力的要求也不会那么严格；而且机器还有运算快、不受情绪影响、能够“连轴转”的优势。

专家系统这个概念的确让人工智能第一次真正赚到了钱，推出了很多商业化的专家系统，很多资本也趋之若鹜。1982年，日本通商产业省启动了第五代计算机工程，总共投入资金8.5亿美元，英美随即快速跟进。这便是人工智能的第二次繁荣。

但是，这场繁荣并没有一直持续下去。

因为专家系统很快就暴露出了符号主义的固有局限性，比如人类的很多“常识”和“直觉”很难被写成死板的 If-Then 规则，而且系统很脆弱，规则库没写明新的情况，系统就直接崩溃，完全没有像神经网络那样的“模糊能力”和容错能力。同时，适逢80年代后期全球经济下滑，所以，第五代计算机工程终究还是没能达成预期的目标，很多资金再次纷纷撤离。这也是人工智能发展的第二次寒冬。

而联结主义学派的“复仇”很快就赶上来了。

1982年，物理学家约翰·霍普菲尔德（John Hopfield）提出了一种全新的联想神经网络。随后在 1986 年，心理学家大卫·鲁梅尔哈特（David Rumelhart）等人推广了训练多层神经网络的反向传播算法。这些重大突破使得联结主义重获新生，但仍受限于计算机算力太弱、数据也太少，无法训练出大型的深层网络。

到了上世纪90年代末期，随着摩尔定律提出的计算机算力指数级增长，在算力这一最大的瓶颈问题上，得到了非常显著的缓解。同时，面对符号主义和联结主义都到了瓶颈期，这时候，很多计算机先驱者们联合举办了多次学术研讨会，正式将两派融合在了一起，并共同开启了一个至今依然火热的交叉领域——“神经符号人工智能（Neural-Symbolic AI，简称NeSy）”。很快，云计算、大数据和机器学习快速发展，人工智能很快迎来了第三次繁荣，这便是我们现在所处的时期。

这一轮的研究大多继承了专家系统的务实路线，朝着局部专业化的方向发力，这类成果也被称为狭义人工智能（也叫弱人工智能）。比如2016年名声大噪的 AlphaGo，其实就是这两条路线融合的典范，它巧妙地将属于联结主义的深度学习技术与属于符号主义的树搜索算法完美地结合在了一起。

对于现在而言，无论是联结主义还是符号主义的产物，他们其实是一个优势互补的关系，就像丹尼尔·卡尼曼（Daniel Kahneman）在《思考，快与慢》中提出的大脑双系统一样，联结主义的深度学习就像快思考，擅长直觉、模式识别、模糊感知，而符号主义就像慢思考，擅长逻辑、数学、常识规划、长链条推理等等。而他们合在一起才能够两手抓。

我们把这段历史过一遍，就能看到一个非常清晰的发展历程：人工智能发展的每次繁荣都源于人类的期望，而每一次的寒冬都源于期望的落空。就如托马斯·库恩（Thomas Samuel Kuhn）在 《科学革命的结构》所写的那句话，“常规科学并不旨在求新，而在于清理现状。它往往会发现它期待发现的东西。发现不会在运转正常时出现，而会在事物出岔子时出现。”

AI 的每一次繁荣，都是建立在常规科学的范式内的。真正推动这门技术往前走的，与其说是理论突破，倒不如说是算力的迭代提升和对于前两次野心的逐渐收缩。

三、图灵测试和中文房间

而到了 ChatGPT 火了之后，又一个老的概念被重新拿了出来，也就是通用人工智能（AGI），也叫强人工智能。它的意思是让机器全方位地像人一样思考，甚至超越人类的思考。这也是人工智能创立之初最初的那个野心。这个词是1997年的时候被物理学家马克·古布鲁德（Mark Gubrud）提出来的，到了2002年又得到了推广。2009年，第一届通用人工智能暑期学校（ AGI Summer School ）还是在中国厦门办的。

到了2023年，国内外很多机构和媒体都已经开始宣传是 AGI 元年了。那么一个看起来像聊天程序的东西，真的会让人觉得机器真的能够像人类一样思考么？

这里还是要提到大家熟知的图灵测试（Turing test）。1950年，英国数学家艾伦·图灵(Alan Mathison Turing)在《计算机器与智能》这篇论文中提出了一个判断方法：既然我们连什么是智能都说不清楚，那就别再过于纠结于定义了，直接去看表现好了。

也就是让一个人类提问者隔着房间，分别与一台机器和一个人对话。如果经过若干轮问答，人类提问者也无法分辨哪边是机器、哪边是人类，那么这台机器就通过了测试，可以被认为是具有人类的智能。

再看我们现在用的很多AI，给我们的感觉是现在的对话已经非常像真人了，有时候甚至在回答专业问题时比真人表现还要好。2023年4月，一家名为AI21的研究实验室上线了一个叫作“人类还是机器人”（Human or Not）的社交图灵游戏。当时大约有150多万名玩家参与，并进行了超过1000万次的对话。

而当时实验结果如下，当对方是人类时，玩家判断正确的概率约为68％，而当对面是机器人时，玩家的正确率却只有60％左右。这个结果表明，面对今天的语言模型，大约有40％的人已经分不清自己是不是在跟机器人对话了。但是，通过了图灵测试，就等于机器已经具备了思考能力吗？

1980年的时候，美国哲学家约翰·塞尔（ J.R.Searle ）在论文《心灵、大脑与程序》中提出了一个著名的思想实验来反驳这种观点，名字就叫做“中文房间（Chinese Room）”。

这个实验设想了一个完全不懂中文的人坐在一个封闭的房间里，手头上有一本包含了所有中文词汇的词典，外加一套完美无缺的规则。实验告诉他，收到什么样的中文信息，就该如何查阅字典并根据规则组合出回复。

当房间外的中国人进行提问时，他依据规则进行作答，如果回答全部正确，那么请问：这个人就懂中文了吗?

约翰·塞尔给出的答案是他不懂。他只是在执行符号操作，但对符号的意义一无所知。而图灵测试中的机器正是处于这种境地，庞大的语言数据库就相当于那本字典，而算法就相当于那套规则。所以，机器虽然能够给出正确的回答，但不等于机器理解了语言。

四、机器不懂“意思”

而塞尔对于图灵测试的这种批评，就引出了一个更深层次的问题 ——

语言到底是什么？

在 20 世纪，哲学界和语言学界为此发生过一场争论。一派认为人类语言是“自然语言”，由词性、结构和语法规则等要素组合而成，是在演化中自然生成的。另一派则认为，人类语言除了这些自然要素之外，还有一个“人为添加”的东西，那就是意义。而意义是由特定的社会、历史和文化所赋予的。

英国哲学家保罗·格莱斯（Paul Grice）曾在 1957 年发表过一篇名为《意义》的文章，其中的例子可以详细说明这个分歧。他举例说，一个小孩感到头晕，于是让妈妈看自己的脸色，希望妈妈能察觉到不对劲的地方。而另一个小孩也可以直接对妈妈说：“我感觉到头晕。”另一个例子则是一个警察可以用身体挡住一辆车的去路来将其拦下，而警察也可以仅仅通过挥挥手就把车拦下来。

其实这两组不同的表达，对于人类来说传递的意思是一样的。但不同之处在于，前者依赖的是说话人有意让对方明白的“意图”，以及双方共享的“情境理解”；而后者则是字面信息的直接传递。但机器更擅长的是后者。今天的人工智能能够做自然语言处理，本质上是根据输入的语言要素组合，输出相应的语言要素组合。它处理的是符号之间的统计关系，而不是说话人想让你明白什么。这也是为什么人工智能在日常应用中时不时会犯一些低级错误，而被人戏称为“人工智障”。

这是因为它欠缺的并不是数据量，而是对于“意思”本质的把握。

在工程实践上，自然语言派的确是获胜了。因为符号主义的数理逻辑方法和图灵机的原理，天然契合这一派的观点。但是这也不代表人工语言派也输了，至少从心灵哲学的角度来看，它指出了一个目前技术依然无法绕过去、也必须要解决的东西，今天的人工智能是在形式上模拟人类思维。这种形式上的模拟能不能发展出实质意义上的智能，还是有待时间来去检验的。

五、应该担心什么

过去有不少 KOL 提出过人类会被机器或人工智能所统治的观点，但其实我们真的深入去接触或了解下，真的是完全没必要去担心这个事情。

理由在前面已经说过了，关于人类智能，还有太多的不解之谜没有被解开。而让机器真正像人一样去思考，这条路其实还会很漫长。而那些把现在的人工智能吹成玄学的，多半都是有商业目的。

而验证这个问题也很简单，那就是亲自去体验目前全球上最前沿的几个人工智能模型，做个小项目深度体验之后，你就会得出与我大概一致的观点。

不过这里需要说的是，很多人担心被机器抢走工作的这个想法，倒是历史悠久的。

比如在 1779 年的时候，英国有一个叫内德·卢德（Ned Ludd）的织工因为偷懒被师傅训斥，于是砸了两台织机。结果这件事以讹传讹，演变成了卢德领导工人反抗工业化的传说，并于 1811 年掀起了著名的“卢德运动（Luddite Movement）”，很多工人将卢德奉为精神图腾。其实砸机器的逻辑和今天反对人工智能的逻辑是一样的，都是人们怕被机器替代之后，生活会变得更糟。

但是，机器代替人类劳动从长远的角度来看是进步的，而不是倒退。人类这个物种最大的特长，就是善于用技术发明来弥补身体的先天不足。机器能干的活让机器去干，人被解放出来去干更有创造性的事，这正是技术的意义所在。难道总不能为了保住就业，就该让无数人去继续做那些简单乏味、机器也能做的事情吧。

所以，下一阶段人类真正该思考的不是怎么阻止机器，而是工作制度该怎么去调整来适应技术的发展。

不过，我们对于技术的乐观也不能没有边界。就如那句名言所说：“技术从来都是双刃剑。”尤其是当我们对一项技术还没有完全了解、还不能完全掌握的时候，这种教训，人类在历史上实在是经历的太多了。

比如放射性元素镭，刚被发现的那些年，人们觉得这种会发光的东西好看，甚至把它当做一种颜料，甚至是化妆品。在1917年到1926年间，美国的镭企业雇佣了上百名工人，给手表的表盘涂上这种好看的镭颜料。

其中大多数工人都是年轻女性，她们按照培训的要求，用嘴唇舔尖笔毛，日复一日地把这种放射性物质送进自己的身体里。这也导致后来她们遭受了巨大的病痛，而这些人也被称为“镭姑娘（Radium Girls）”。

她们的悲剧并不是因为镭元素本身有多么邪恶，而是在于人类在还不了解它的时候，就大规模地使用了它。人工智能现在就处于类似“镭女郎”事件的位置上。借用尼尔·波茨曼的框架来看，以目前来看，它不是奥威尔式的风险，它不会统治人类，但完全可能在我们尚未充分理解它的时候，以预料不到的方式对我们造成某种程度的伤害。

所以，现在的我们最应该担心的是赫胥黎式的风险，对于这种风险，人类靠的不应是恐惧，也不应是过度的热情，而是制度的约束。技术要受控制，而研发和使用技术的人也要受到制度的约束。

人类最关键的能力，是能不能在自己造出来的东西面前，始终保持一种清醒和节制。机器的智能虽然很遥远，但是人类的愚蠢却是随时在场的。

就像尼尔·波兹曼（Neil Postman）所写的那样，“人们感到痛苦的不是他们用笑声代替了思考，而是他们不知道自己为什么笑以及为什么不再思考。”