AI之路：从不会说话的小傻瓜到超越爱因斯坦的存在（扇遍天下无敌手）

科学无国界

我们是知识的搬运工

福利时间

今天我们将送出由清华大学出版社提供的优质科普书籍《爱犯错的智能体》。

智能是什么？二十一世纪以来，人工智能有了飞速发展，在各行各业如互联网、安防、多媒体等都有了广泛且有效的应用。但这是否意味着人类就能制造超越人类自身的智能体呢？作者在科普性地介绍了人工智能前沿进展的同时，着重从犯错的角度，浅显易懂地剖析了智能体在视、听、语言等方面存在的各种错觉和犯错。并指出，理解我们很少关注的犯错，才有利于智能体的研究和发展。

只要你认真阅读下面的这篇文章，思考文末提出的问题，严格按照互动：你的答案格式在评论区留言，就有机会获得奖品！

作者：Tim Urban
翻译：xux
审校：Nuor

我们正面临着一个可以与地球上人类崛起相提并论的巨变。

—弗诺·文奇（Vernor Vinge）

当你站在这儿（下图）是什么感觉？

想必会很紧张吧。可是别忘了你站在时间轴上，是无法看见未来的，所以真实的感觉应该是这样的：

好像又是平常的一天……

一、遥远的未来其实近在咫尺

你坐上时光机回到1750年：世界经历着永久性停电，长距离通讯的方式是喊破喉咙或者向空中发射炮弹，所有的交通工具都得喂干草才能跑。

你在那个年代认识了一个哥们儿，请他来参观我们的世界：闪亮的盒子在高速公路上飞驰，人们隔着整个大洋聊家常，看千里之外的球赛，听半个世纪前的演奏，大家跟自己手里成了精的方盒子玩得不亦乐乎，用它造一张地图，地图上的一个鬼魅的蓝色光点可以随时显示出他的位置，还有互联网、核武器、国际空间站、广义相对论、大型强子对撞机……

这样的经历用“惊讶”或“震惊”已经无法形容，他可能会直接受惊而死。

有意思的是，如果他嫉妒了：“我也想看以前的人来到我们年代的反应。”于是他带1500年的人来1750年。那人会对很多事情感到震惊，但他不至于死掉。对他来说，这经历远不及第一个人那样疯狂。

为了让1750年的人和我们获得同样的乐趣，他必须走得更远，可能一路追溯到公元前一万两千年左右，在第一次农业革命产生第一批城市和文明概念之前。一个来自以狩猎和采集为生的人，见识到1750年的建筑、船只和人类丰富的知识，他很可能会一命呜呼。

如果他死后也嫉妒了，想做同样的事呢？要想让公元前一万两千年的人有同样的乐趣，他必须回到十万年前，找一个从来没见过火和语言的家伙。

为了让一个穿越到未来的人由于震惊而心脏病发作死掉，需要往回走足够多年，达到“死亡级别的进步”，或者起个名字叫死亡进步单位（Die Progress Unit，DPU）。

DPU会随人类的进步变得越来越短，这就是未来学家雷·库兹韦尔（Ray Kurzweil）所说的人类历史加速回归定律。越是发达的社会，进步速度越快，因为它们发展自己的能力更强。

库兹韦尔认为，到2021年，完成整个20世纪的进步只需7年，而21世纪的进步将是20世纪的1000倍。

如果库兹韦尔是对的，那么下一个DPU可能只需十几年。2050年的世界可能与今天的世界截然不同，我们可能什么都不认得了。

听起来似乎难以置信，那是因为我们的思维是线性的，我们常常以为，未来的发展速度会跟过去差不多，岂不知历史的发展是呈指数型增长的，就像下图：

图注：人类进步随时间的变化。红线-基于过去发展速度的预测；橙色线-基于当下发展速度的预测；绿线：考虑了指数增长的预测；蓝圈-现在

而且，历史的发展往往是曲折前行的：

图注：人类进步随时间的变化。新的技术模式爆发式增长，然后成熟，轨迹像一个“S”

人类社会每次出现一项重要技术，随之而来的往往是三个发展阶段：缓慢增长，剧烈增长和技术成熟，增长放缓。如果只看离我们非常近的历史，那么你所处的“S”曲线的位置也会干扰你的预测。1995 到2007年间，历史见证了互联网的爆发，但是从2008年至今，似乎没那么多开创性的科技成就。所以不要被迷惑，新的爆发式增长或许正在萌芽。

二、走向超级智能

什么是人工智能？

我们总是看到人工智能（Artificial Intelligence，AI）这个词，但好像又不那么了解它。

这是有原因的：1、我们常在电影作品中接触这个概念，这让“人工智能”听起来像一种科幻般的未来预测；2、日常生活中太常见以至于我们没有意识到它是人工智能；3、人工智能的概念太宽泛了，以至于它的含义变得有些模糊。

关于人工智能，许多学者做出了预言。你可能听过一个词叫“奇点”或“科技奇点”。在数学中，奇点用来形容一般的规律不再适用的特殊情况；在物理中，奇点用来描述无穷小，致密的黑洞，或者在宇宙大爆炸之前我们都被压缩进的那个点，仍然是来形容通常的规律无法应用的那些情况。1993年，弗诺·文奇提出用“奇点”这个词形容未来的某个时间点，即技术的智慧超过人类自身智慧的时刻。对他来说，那时的生活会焕然一新，普通的规则不再适用。库兹韦尔随后将奇点定义讲得含糊了些，他说奇点就是加速回归定律达到一种极端速度时，即科技以看起来无限快的速度发展时，在那之后我们将活在一个崭新的世界中。

人工智能是个很广泛的概念，有很多不同的类型或形式。我们根据人工智能的能力范围，将其分为三大类：

（1）弱人工智能(Artificial Narrow Intelligence, ANI)：也被称为狭义人工智能，是专攻某一领域的人工智能，比如一种AI能在国际象棋比赛中打败世界冠军，但如果你让它想出一种更好的硬盘数据存储方案，它只会茫然地看着你。

（2）通用人工智能(Artificial General Intelligence, AGI)：也叫强人工智能，或人类级人工智能，通用人工智能指的是一台像人类一样拥有全面智能的计算机，人类能解决的智力问题他都能解决。创建通用人工智能比创建弱人工智能难多了，现在我们还没做到。研究者将智力描述为“一种非常通用的思考能力，包括但不限于推理、计划、解决问题、抽象思考、理解复杂概念、快速学习和从经验中学习的能力。”通用人工智能做这些事时能像你一样轻松。

（3）超级人工智能(Artificial Superintelligence, ASI)：牛津大学哲学家、人工智能思想家尼克·博斯特罗姆（Nick Bostrom）将超级智能定义为“在几乎所有领域，包括科学创造力、一般智慧和社交技能，都比最优秀的人类大脑聪明得多的智力。”超级人工智能的范围从一台比人类聪明一点的计算机到一台比人类聪明数万亿倍的计算机。正因为超级人工智能，AI才会成为如此爆款的话题，而且会频繁使用“永生”和“灭亡”这俩词儿。

到目前为止，人们已经在很多领域攻克了最低级别的AI——弱人工智能，而且成果已经随处可见。人工智能的革命是一条从ANI，到AGI，到ASI的道路，这是一条我们可能从中幸存，也可能难逃厄运的道路。但不管怎样，这都将改变一切。

下面，我们就来看看这个领域的前沿思想家是怎么想的，以及为什么这场革命来得比想象的快得多。

三、当下——一个运作在弱人工智能上的世界

弱人工智能(ANI)是在特定方面等同于或超过人类智能或效率的机器智能。从垃圾邮件过滤到淘宝上的商品推荐，从自动驾驶到高频交易，从商业到军事，从制造业到医疗……ANI遍地都是。它会从你的操作中精进自己的技艺，也会组成一个网络，互相交流关于你的信息。

现在的ANI系统还不是特别可怕。最坏的情况是，一个编程有问题的ANI可能会导致毁灭性的灾难，比如使电网瘫痪，从而导致核电站故障，危害人类健康；或者引发一场金融市场灾难（比如2010年的闪电崩盘：ANI程序对一个意外情况做出了错误的反应，导致股市短暂*、1万亿美元市值流失，等这一错误被纠正过来后，只有一部分得以恢复）。

尽管现在的ANI没能力危及人类生存，但我们应该意识到，日益庞大复杂的ANI生态系统可能是是一场改变世界的龙卷风的前驱。每一项ANI创新都在给走向通用人工智能和超级人工智能的道路上添砖加瓦。或者如亚伦·萨恩斯（Aaron Saenz）所见，当今世界的ANI系统“就像地球早期土壤中的氨基酸”一样，是构成生命的无生命物质，将在一个意想不到的时刻苏醒过来。

四、弱人工智能到通用人工智能之路

这件事为什么这么难？

恐怕尝试研发通用人工智能（AGI）的人最能欣赏人类大脑的精巧复杂（只有他们知道造个全能的机器脑子有多难）。造大楼，去太空，研究宇宙大爆炸，都远远比理解或者制造人脑容易得多。到目前为止，人脑是已知的宇宙中最复杂的东西。

通用人工智能指的是像人类大脑一般全能的计算机，其能力范围不局限于某狭窄的领域。有趣的是，试图构建通用人工智能的困难部分，可能跟你直觉想的不一样。对计算机来说，算两位数乘法太简单，分辨“眼前”的动物是狗还是猫却很难。在象棋比赛中打遍天下无敌手已经实现了，而为了理解一段6岁小孩故事书水平的文字，谷歌花了几十亿美元。微积分、市场策略和语言翻译这样的硬骨头对计算机来说too easy，而视觉、运动、动作和知觉对计算机来说却极其困难。正如计算机科学家唐纳德·克努特（Donald Knuth）所说，“人工智能已经成功地完成了所有需要’过脑子’的事情，但却几乎未能完成人类和动物’不用过脑子’的事情。”

这是因为，对于人类和大多数动物，这些技能在数亿年的进化过程中得到了优化。当你把手伸向一个物体时，肩膀、肘部和手腕上的肌肉、肌腱和骨骼会在瞬间完成一系列的物理活动，与眼睛协调配合，让你的手能够在三维空间中沿直线移动。这对你来说似乎不费吹灰之力，因为你已经完善了你大脑中的软件。恶意软件没法识别出验证码里的斜体字母不是因为它太蠢，而是因为你的大脑太令人赞叹了。

另一方面，大数乘法或下棋对生物来说是相对新鲜的事物，我们还没有足够的时间进化到精通它们，因此计算机不需要太努力就能打败我们。想想你更愿意做哪个任务：写一个能算出大数乘法的程序，还是写一个程序，能在成千上万个字体或者手写体中瞬间识别出字母B，并理解他的全部含义？

下面说一个有趣的例子。看这张图的时候，你和电脑都可以分辨出，明暗不同的色块交替出现，组成一个长方形：

目前是打成平手。但如果你去掉黑色部分的遮挡，把整个图像展现出来：

你可以准确描述出各种不透明或半透明的圆柱体、薄片和三维转角，电脑则一败涂地。它会描述它看到的：各种明暗不同的二维图形（其实的确也只有这些），而你的大脑进行了一系列“*操作”来解释图片所隐含的深度效果、阴影交叠和照明光线。

再比如下面的图片，电脑看到的是一个二维的黑白灰拼贴画，而你一看就知道这是什么：一块纯黑色的石头。

刚才提到的还只是处理静止的信息。为了达到人类的智能水平，计算机得理解一个微妙的面部表情是友好、宽慰、满足还是高兴，以及为什么“新时代”令人振奋而“小时代”令人脸酸。

那如何才能做到呢？

创建通用人工智能的第一个关键：提高计算能力

要使通用人工智能成为可能，必须提高计算机的硬件能力。如果一个人工智能系统要像大脑一样智能，必须具有相当于大脑的原始计算能力。

表达这种能力的一种方法是大脑每秒能够处理的总计算量（calculations per second, cps），库兹韦尔用大脑中一个部分的计算能力和这个部分在整个大脑中的重量占比估计出一个数字，这个数字在一亿亿（1016）这个量级。天河二号超级计算机实际上已经超过了这个数字，但天河二号占地720平方米，耗电24兆瓦（大脑只有20瓦），造价3.9亿美元，不适于广泛使用。

摩尔定律是一条经过历史验证的可靠规则，即计算能力的上限大约每两年翻一番，这意味着计算机硬件的进步，就像人类历史的进步一样呈指数增长。

库兹韦尔提出用钱来考虑计算机的发展状况：看看用1000美元能买多少计算能力。当这个数字达到10万亿cps时，意味着通用人工智能将走入千家万户，成为生活的一部分。上面这张图是随着时间推移，用1000美元能买到的计算能力的变化。

因此，目前1000美元买到的电脑可以打败老鼠的大脑，水平大约是人类的千分之一。按照这个速度，2025年之前我们就能买得起一台与人类大脑相媲美的电脑。

所以在硬件方面，通用人工智能所需要的计算能力已经可以实现了，并且我们将有望在几年内用上实惠又普遍的通用人工智能级别的硬件。

接下来的问题是：如何给这些计算能力赋予人的智慧？

创建通用人工智能的第二个关键：让它变聪明

这才是棘手的部分。谁也不知道怎样让它变聪明。我们还在争论的是如何让电脑明白什么是狗，如何认出潦草的“B”，或者理解一部电影。这有一堆看起来挺牵强，但或许能行得通的策略：

1）剽窃大脑

这就像是科学家们在努力研究邻座的那个孩子为啥那么聪明。即便学习再努力，他们也考不到和那个孩子一样高的成绩。于是他们最终决定：“去他的，我要把那个孩子的答案复制过来！”这种想法似乎很自然：我们怎么也造不出如此复杂的计算机，但我们的脑袋里就装着完美的原型。

科学界正在努力对大脑进行逆向工程，以求弄清楚大脑这么棒的东西究竟是如何进化出来的。乐观的估计认为，到2030年我们就可以做到这一点。到那时，我们就会知道大脑的运作为何如此强大和高效，从中汲取灵感，窃取它的创新能力。模拟大脑的计算机体系之一是人工神经网络：晶体管作为“神经元”，通过输入和输出相互连接。起初它像婴儿的大脑一样一片空白，它“学习”的方式是尝试完成一项任务，比如手写识别。刚开始，它的神经触发和最终的猜测是随机的，当它被告知“猜对了”时，这些触发通道中的晶体管连接会被加强，反之会被削弱。经过大量的试验和反馈后，网络已经自己形成了智能神经通路，机器已经针对这项任务进行了优化。大脑的学习方式与之有些相像，但更复杂。随着脑科学研究的深入，我们将发现巧妙利用神经回路的新方法。

更彻底的“剽窃”是一种叫做“全脑模拟”的策略：将真实的大脑切成薄片，逐层扫描，用软件重建一个精确的三维模型，然后在一个功能强大的计算机上实现该模型。于是我们就有了一台计算机，它能处理大脑所能处理的一切，只需要学习和收集信息。如果工程师们做得足够好，就能精确地模拟真实的大脑。整个大脑结构一旦上传成功，个性和记忆都会完好无损。如果大脑生前属于小明，那么电脑现在会像小明一样醒来。这将是一个强大的人类级人工智能，我们接下来可以尝试把小明变成一个超级人工智能，他想必会非常兴奋吧。

我们离实现全脑模拟还有多远？人们已经模拟出了一个1毫米长的扁虫大脑。它只有302个神经元，而人类的大脑有1000亿个。如果这些数字让你失去信心的话，别忘了指数级进步的力量，现在我们已经征服了小虫子的大脑，可能很快就能造出一只蚂蚁的大脑，然后是一只老鼠的大脑，到时候，这一切看起来就没那么遥远了。

2）按我们想要的方式，再来一次进化

如果聪明孩子的答案抄也抄不完，我们可以试着模仿他的学习方式。如果大脑太难模拟，我们可以模拟进化。

事实上，即使我们模拟出大脑，可能也会像模仿鸟类扇动翅膀来造飞机一样。机器的设计最好采用一种全新的、面向机器的方法，而不是完全模仿生物。

如何模拟进化？人们想出了“遗传算法”：对一个计算机系统反复执行表现-评估过程（就像生物通过生存来“表现”，并通过它们是否能够繁殖来“评估”一样）。一组计算机尝试执行任务，最成功的计算机得以培育后代：把各自程序的一半合并到一台新计算机中。相对不那么成功的将被淘汰。经过多次迭代，这种自然选择过程将产生越来越好的计算机。若是创造一个自动化的评估和繁殖周期，进化过程就可以自己运行起来了。

进化论的缺点是，动不动就花上10亿年的时间，而我们希望在几十年内做到这一点。好在我们与进化论相比有更多优势。

第一，进化没有先见之明，它会随机产生很多无用的突变；而我们会控制这一过程，设计有针对性的小故障来实施自然选择。

第二，进化没有任何特定目的，包括智力。有时一个环境甚至可能会淘汰更高的智力（因为它太费粮）；而我们可以将这一进化过程导向智力的提升。

第三，为了选择智力，进化必须在很多其他方面进行创新来促进智力的发展，比如改变细胞的产能方式；当我们能够消除这些额外的负担（诸如用电来供能）时，我们无疑将会比进化要快得多。

但这究竟是不是一种可行的策略？目前还不清楚。

3）把整个问题抛给电脑

科学家们真的走投无路了，于是把这个问题编成程序，让机器自己解决。这可能是最有希望成功的方法。

这个方法的思路是：建立一台这样的计算机，它的两项主要技能是研究人工智能和编码改变自己，使它不仅可以学习，而且可以改进自己的体系结构。我们将教计算机成为计算机科学家，他们的主要任务就是让自己变得更聪明，这样它们就可以自力更生，自己发展自己。

所有这些都可能很快发生。

硬件的发展和软件的创新正同时进行着，可能很快，通用人工智能就会出乎意料地出现在我们身上。原因有二：

1）指数增长是剧烈的，看起来蜗牛般的发展速度可能会快速上涨。下面的动图很好地说明了这一概念：

图注：计算机还有多久能拥有与人脑一样的能力？密歇根湖的容量（以盎司为单位）与人脑的容量（以每秒钟的计算能力为单位）差不多一样大，计算能力每18个月就翻一番，以这个速度，你在很长一段时间中几乎看不到什么进步——然后一下子达标了。

2）软件的发展似乎是缓慢的，但是一个契机就能立即改变进步的速度（就像当人类认为宇宙是地心的时候，很多东西都难以解释，但是突然间，日心说让一切变得容易多了）。对于能自我改进的计算机，可能我们看来，把速度提高1000倍是很难的事情，但实际上可能系统微调一下就可以了。继而计算机会快速发展成人类级别的智能。

五、通用人工智能到超级人工智能之路

在某时某刻，我们会实现通用人工智能：电脑会有人类的智慧，人类和电脑平等地生活在一起。

事实上，这个很可能不存在。

如果计算能力和智力与人类相当的通用人工智能出现了的话，它与人类相比会有显著优势。比如：

硬件方面：

速度。大脑的神经元在200Hz左右就达到极限了，今天的微处理器工作在2GHz，比我们快一千万倍。大脑的内部通讯的速度大约是120米/秒，与计算机的光速毫无可比性。
大小与存储。大脑被限制在我们的头颅的形状下，无论如何也长不大；120米/秒的内部通讯速度也使得脑结构之间的交流得很慢。而计算机可以扩展到任何物理尺寸，允许更多硬件一起工作，不管是运行内存还是永久存储都比人类大多了。
可靠性和可持续性。计算机不仅记忆更精确，计算机的晶体管也比生物的神经元工作得更精确，而且它们不容易老化（如果老化了也可以随时换新的）。人的脑袋容易疲劳，计算机却可以在峰值性能上一直工作不停歇，别说996了，007都行。

软件方面：

可编辑性、可升级性和更广泛的可能与人脑不同，计算机软件可以接收更新和修复，并且很容易进行试验。软件升级还可以扩展到人类大脑薄弱的领域：人类的视觉软件是非常先进的，而其进行复杂工程的能力是相当低级的。计算机可以在视觉软件上与人类相匹配，但也可以在工程和任何其他领域得到同样的优化。
集体合作能力。 人类建立了一个庞大的集体智慧，并在这一方面碾压所有其他物种。我们起步于语言的发展和密集社区的形成，进步于文字和印刷术的发明，现在又通过互联网变得更强大。人类的集体智慧是我们能够领先其他物种而走到现在的主要原因之一。计算机在这方面比我们强得多。一个运行特定程序的全球人工智能网络可以定期与自己同步，这样任何一台计算机学习到的任何东西都会立即上传到所有其他计算机上。这个群体也可以作为一个整体来实现一个目标，因为不见得会像人类一样，有异议和“小我”。

人工智能（很可能通过自我提升的程序而成为通用人工智能）不会把“人类水平的智能”看作是一个重要的里程碑，并且没有任何理由在我们的水平上停下来。考虑到与人类智力相当的通用人工智能比我们具有的优势，显然，它只会在短暂地打击人类之后，向优于人类智力的领域飞速进发。

这件事发生时可能会吓到我们。从我们的角度来看，a）虽然不同种动物的智力各不相同，但其一大特征是，他们都远远低于我们；b）我们以为最聪明的人与最笨的人差距非常大。有点像这样：

因此，当人工智能朝着我们的方向靠近时，我们会认为它对动物来说只是变得更聪明了。然后，当它达到人类的最低能力时，尼克·博斯特罗姆（Nick Bostrom）用了“村里的傻瓜”这个词——我们会说，“哇，它像一个不会说话的人，真可爱！“唯一的问题是，与整个智力范围相比，所有的人类，从傻瓜到爱因斯坦，都在一个很小的区域里，所以在人工智能达到傻瓜的水平并被宣布为通用人工智能之后，它忽然就比爱因斯坦聪明了，我们连发生了什么都不知道：