这种悲剧并不是说，人们未能为机器人末日做好准备，或是无法上传意识，从而要面临死亡。
真正的威胁不是计算机以其能耐与智能，在未来超越并摧毁人类，而是它们依然如今天这般普通、无力，但终究还是超越了人类。
仿佛一夜之间，一切都成了计算机。
手机、电视机自不必说，烤面包机和门锁，婴儿监控器和榨汁机，门铃和烧烤架，乃至水龙头、浇水的软管和指尖陀螺……所谓的“智能”小玩意儿随处可见，将计算机的福音传播至形形色色的日常器物中。
这足以化腐朽为神奇，不过，只是在一段时间之内。
很快，人们就会产生疑虑。自行车锁或煤气罐根本没必要用智能手机来操作。
另外，很多智能设备都有一个通病：不如它们所取代的“笨”装置来得可靠。但这种欲求是存在的，而且日益高涨。如今，联网设备的数量已经有数十亿部。到2020年，这个市场的价值有望达到2500亿美元。
为什么会出现这种局面？
答案之一就是，市面上卖什么，消费者就买什么，而生产商则急于将“笨”设备智能化。
这样做意味着更多的营收，更大的控制权，以及有更多的机会去淘汰上一代产品。这些设备收集起来的数据也催生出了一个二级市场。例如，Roomba公司就想凭借其扫地机器人的移动轨迹，推断出用户的家居平面图，然后将其作为商业情报出售。
但市场的强制因素还不足以解释这一切。
而且，日常物件的计算属性已经成为目的本身，而不是实现目的的手段。
随着它们从台式机拓展到后勤办公室，继而进入手机、相机、汽车和门锁，人们的计算机情结不断蔓延，拓展到更为普通的物件中。人们做什么都在用计算机，越是喜欢这样，就越会觉得，一旦离开计算机，生活就变得不完整了。
***
有一种名为GasWatch的装置。它是一种煤气罐上的余量标尺，与智能手机上的应用程序相连接，旨在避免烹饪过程中气罐耗尽的局面。
看到这样的装置，我曾惊诧于它的荒唐可笑。既然一个便宜的指针盘就能显示煤气的余量，又何必劳驾计算机呢？
但如今，联网设备与服务日益常态化，这样的讥讽便显得有些苍白无力。
这种趋势的传播速度比我预想中更快。
若干年前，一家时尚酒店曾自豪地宣称，他们很快就会淘汰房卡，以智能手机取而代之。如今，就连在最普通的汉普顿酒店，房客也可以用希尔顿的应用程序来开门了。它还有家庭版，其中一个甚至能记录大门上锁的时间。至于这一数据有什么用处，我至今都不太清楚。
计算机已经占据主导，人类的大部分生活已经在计算机内展开，而对于这样的结果，人们感到很满意。这些设备问题重重。
其中之一就是价格。和便宜的煤气罐指针盘一样，传统的自行车锁也是一种同质化的商品，售价只需10或15美元。而Nokē智能车锁的价格是它的十倍。另外，它们还涉及安全和隐私问题。曾有不法分子入侵儿童监控器，试图跟孩子对话。
联网设备还受到可靠性问题的困扰。一旦网络出现故障，或设备无法连接到相应服务，抑或是其他软件从中作梗，产品往往就无法正常运行。
科技评论家尼古拉斯·卡尔（Nicholas Carr）最近指出，这不是我们所期待的机器人。
飞行汽车、机器人智能家居和超光速飞行都尚未实现。但与此同时，根据最新的预测，人类也许会与机器融合，要么是通过生物黑客技术，要么是通过意识模拟。这样的未来也显得非常遥远——也许是不可能实现的。
因为遥远，与之相伴的AI末日恐慌也许得以减轻，但它也蒙蔽了机器在人类命运中所扮演的真正角色：计算机已经占据主导，人类的大部分生活已经在计算机内展开，而对于这样的结果，人们感到很满意。
***
计算机的普通用途和超凡用途之间存在一道鸿沟，这道鸿沟大约出现于70年前。
当时，阿兰·图灵（Alan Turing）的一条思路无意中促成了人工智能（AI）领域的诞生。图灵猜测，当机器变成可靠的人类伴侣时——实质上就是今天的智能手机（以及智能面包机之类），它就很有说服力了。但计算机科学家误解了图灵的本意，将图灵的思想实验变成了一场模拟或取代人脑的挑战。
在发表于1950年的论文中，图灵描述了一种游戏，他称之为模仿游戏。
一男一女分别站在两扇门后，另一人在外提问，以猜测谁站在哪边。图灵继而构想出另一个版本：一个人和一台机器（比如计算机）分别站在两扇门后。如果对话者无法分辨哪边是人、哪边是机器，计算机就算通过了测试。在制度化的过程中，图灵测试的重点日益偏向于计算机角色——Twitter和Facebook Messager聊天机器人的前身。如今，依然有人将图灵测试作为验证机器智能的合理方式。
但图灵从没有说过计算机可以思考，更没有说它们会媲美人类大脑。他只是猜测，机器也许能展现出令人信服的行为。对图灵而言，就是机器假装成非机器的能力。随着计算机科学的进步，“通过”图灵测试、而不是“准确地描绘某一角色”成了成功的标志。
这种误解也许抹*了图灵当初对计算机的构想：一种令人信服的机器。但他也将这种说服力融入到了计算机硬件的设计中。1936年，图灵提出了一种概念机器，它能根据一组有限的规则，对一条纸带上的符号进行操作。
如今的情形不再是人们为了做事而使用计算机；而是人们做事以便能使用计算机。这种设计名为通用图灵机，它成为了影响深远的计算机处理模型。经过约翰·冯·诺依曼（John von Neumann）等人的一系列调整，它最终演变成存储式编程技术——程序指令和数据均可存储的计算机。
在计算机史上，图灵机这种创新常被认为是独立于图灵测试的。但实际上，两者是相互联系的。一台机器只要能进行一般计算，就有能力模拟任何图灵机。图灵机是一台假装成另一台机器的机器，因此，计算机也是这样一种机器。
试观日常使用的计算机系统——它们全都在模拟别的东西。最初，图灵的那台思考机器试图假装成人。同样地，计算机则试图在某种程度上，假装成另一种东西，或是计算器，或是账本，或是打字机，或是电话，或是相机，或是店铺，或是餐馆。
一段时间之后，成功的模拟机器取代并超越了最初的模拟对象。最终，“模拟机器”中的“模拟”一词就会被略去。
如今的计算界就遵循着这种规律。很少有什么工作和娱乐内容是计算机无法处理的。因此，计算机正在脱离它的初衷——操纵符号的一种手段，以实现效率与创造性——成为这项活动本身。如今的情形不再是人们为了做事而使用计算机；而是人们做事以便能使用计算机。
* * *
一旦计算机的使用与目的脱节，计算机本身成为一种生活方式，那么，只有能通过计算系统解决的目标与问题，才会成为有效的目标与问题。对于这种新的理想状态，物联网设备就提供了一个范例。
人们选择计算机作为介质，是为了享受使用计算机带来的感官愉悦。回到之前提到的GasWatch。在计算机可用的情况下，谁会选择一个不涉及计算机的解决方案？
如果说煤气罐和自行车锁仍属于极端案例，那么，普通的数字服务也是类似的道理：人们找寻的服务是允许他们使用计算机的服务——从寻找信息到打车，再到订外卖。这既是商业成就，也是美学成就。
人们选择计算机作为介质，是为了享受使用计算机带来的感官愉悦，而不只是将其作为解决问题的高效实用方案。
对于那些看似毫无意义或毫无成功希望的服务、应用程序和物联网设备，它们存在的意义可以这样理解：在原先没有计算机的地方放了一台计算机，于是，将实体世界的体验转变成了计算体验。机器不再试图假装成人类，它们想让人类相信：它们其实就是计算机。图灵测试被逆转了。
图灵测试最好用的情况，就是大家都知道对话者是计算机，但还是乐于跟它对话。这种现象恰好有个名字：反向图灵测试。
网络表格中用于过滤自动机器人的验证码，就是运用了反向图灵测试——由计算机判断用户是否为人类。还有的反向图灵测试则是人们试图在一群计算机中间，猜出哪个行为者是人类。
这些工作将图灵测试作为目的本身，而不是衡量智力的手段。图灵测试最好用的情况，就是大家都知道对话者是计算机，但还是乐于跟它对话。
门铃、汽车和出租车根本没有消失，只是搬进了计算机。与1950年图灵提出模仿游戏时相比，如今“计算机”的含义已经不太一样。针对人工智能在技术方面的先决条件，“表现得像台计算机”通常只意味着搬运一些数据，或充当控制者、执行者。而在计算机烧烤架、计算机自行车锁、计算机电视中，计算机是一种媒介。
以Uber为例。这家网约车巨头之所以在商业上获得成功，主要在于它绕过了雇佣政策和租车政策。
而它在美学上的成功则源于它允许人们用智能手机来打车。其好处之一是不用跟任何人打电话。另外，手握数字地图，看着汽车朝自己驶来，也颇具吸引力。类似地，对于那些喜欢自动驾驶汽车的人而言，它们的吸引力不仅在于摆脱了驾驶的负担和危险，也在于汽车变得更像计算机了。当然，计算机进驻汽车已经有很多年。但在自动驾驶汽车中，人们才更加真切地体会到，它是由计算机运行的。
再以门铃为例。其实，在智能门铃出现之前，门铃早已被计算机取代了。我孩子的朋友们来访时，就会发一条短信叫门。没有连接任何应用程序，也没有联网，门铃已经被计算机化了。你非要称之为“颠覆”也未尝不可，但在此过程中，门铃、汽车和出租车根本没有消失，只是搬进了计算机，在那里，它们会产生新的吸引力。
智能机器的真实现状比任何机器人末日都来得猛烈。其中之一就是联网的乐趣。
既然你不愿意离线，为何让面包机或门铃遭受这样的命运？
如今，被计算机吸收成为了一种理想状态。终极梦想是永远在线，或者，至少能永远连接到某种计算机上。
但在人们的设想中，这并不是计算机的最终结局。
早期反乌托邦场景提醒我们，计算机可能变成一个官僚或是法西斯主义者，把人类变成愚笨的机器，只剩下一些预先决定的能力。或者，人类沉迷于计算机，最终陷入麻木不仁的境地。
这些担忧至今挥之不去，一个原因是，其中一些或多或少变成了现实。
但也有颠倒过来的，比如，让人感到麻木不仁的不是没完没了地沉浸在计算机中，而是离开计算机。因此，计算机采取的行动带上了自我指涉的性质：将越来越多的事物变成计算机，以延长这种连接。
* * *
一切一如往常，只是，人们眼中的现实是在计算机之内的。
从这个角度看，现代科技文化的所有问题——企业层面的数据聚合、隐私、“超就业”（人们免费送给Facebook、谷歌等网站的“无形”劳动力）——这些都不再是剥削，而只是人们的选择，不论是刻意还是无心。
在未来学家眼中，计算机变革带来的期许（或威胁）通常和人工智能的飞跃联系在一起。
哲学家尼克·博斯特罗姆（Nick Bostrom）给超越人类智能的AI取了一个名字：超级智能。
超级智能实现后，人类要么将永远摆脱工作的枷锁，要么将被迫从机器人末日中拯救自我。
哲学家大卫·查默斯（David Chalmers）和计算机科学家雷·库兹维勒（Ray Kurzweil）提出了“奇点”观念，就是说，只要具备足够的处理能力，计算机就能模拟人脑。若如此，人类就能将意识上传至机器中，从而实现理论上的永生——至少是某种意义上的永生。
尽管智能机器的真实现状单调乏味，但却比任何机器人末日都来得猛烈。
图灵通常被称为“AI之父”，但当初他只是说，机器也许能以假乱真，促进人们与之互动。这算不上智能——不论是人工的还是机器的——实现起来也容易得多。
人们已将生活搬入计算机内部。机器无需让人类永生，无需满足人类的每一次心血来潮，也无需随意毁灭人类。它们只需在人类的所有事务中扮演足够重要的角色，以至于我们无法或根本不会去想象，没有计算机会怎样。
这样的未来隐藏着某种悲剧。
这种悲剧并不是说，人们未能为机器人末日做好准备，或是无法上传意识，从而要面临死亡。
真正的威胁不是计算机以其能耐与智能，在未来超越并摧毁人类，而是它们依然如今天这般普通、无力，但终究还是超越了人类。
翻译：雁行
来源：The Atlantic
造就：剧院式的线下演讲平台，发现最有创造力的思想
