本周的主题是「人的本质」。人工智能的技术突飞猛进，到最后的最后，人类身上有没有哪一个特质，是真的无法复制的？
来跟我们一起，探索这些问题的答案。
| 庄孝维 | 科幻作者，现居深圳。爱看电影，看动画。作品追求故事性和未来感。
两个按钮
（全文约8000字，预计阅读时间16分钟。）
阿桑博士苏醒过来，发现自己坐在一间灯火通明、四处封闭的房间内。他的桌子对面坐着一个陌生少女，表情平静，甚至略带微笑。少女脖子上带着一个黑色项圈，中间是一块显示着倒计时的液晶屏，此时红色数字赫然跳动着，到归零为止还有29分钟。
博士，你好。正当阿桑博士不明所以的时候，房间内一个年轻男子的声音通过扩音器响起。他冲房间右上角的扩音器看去，那旁边还有一个监控摄像头对着自己。
你是谁？把我绑到这里做什么？阿桑博士略带惊恐，嘴里还能感觉到一股全麦面包残存的味道。这让他想起今天早晨，当他叼着面包赶着拥挤的地铁时，几个人突然将他挟持，然后自己便失去知觉，对后来发生的一切都一无所知。
我是Z，把你带到这里来，是想跟你做个实验。
实验？
没错，在你面前的少女，有可能是人工智能机器人，也有可能是真实的人类，你要做的，就是在30分钟内判断出这个少女的本体，然后做出选择。
博士听着，看了看自己跟前的桌面，上面有一蓝一红两个实体按钮。
没错，如果你觉得少女是人工智能机器人的话，就按下左边蓝色按钮，如果是人类，就按下右边红色按钮。Z继续着。
图灵测试？阿桑博士立刻反应过来。
没错，不过跟普通的图灵测试有点不同，如果你选择错误，或者超过30分钟没有给出答案，那么少女就会被毁灭。反过来，如果你选择正确，那么不管少女是人还是机器，你都可以带着她离开。
什么？为什么这么做？为什么是我？
因为你是人工智能技术和伦理方面的顶级专家，不是吗？
这毫无疑问是针对个人的无聊恶作剧吧。阿桑博士在心里确认道。不过这不是此时他最关心的事情，也许是因为科学家的本性，这样被强迫执行的实验竟也引起了他的一丝兴趣。
他转而打量着眼前的少女，看样子顶多也就20岁左右，从她外表看去，与人类毫无二致。不过这并不奇怪，人类科技发展到今天，早就掌握了高超的仿生机器人制造技术，别说现在这种情况，就算是有专业设备，要判断一个机器人是否是真实人类都不是一件简单的事情。
你知道，对于我来说，只要一个机器人的行为跟人类完全相同，那么就可以定义为人类。
Duck Typing吗？
没错，一只动物游起来像鸭子，走起路来像鸭子，那它就是一只鸭子。你知道，在计算机科学领域，这个古老的谚语可是代表了一种编程范式呢。而对于我来说，人类本质上也只不过是一台机器而已。阿桑博士继续说道。
你是想说，对于你来说，不管选人类还是机器，都是正确的吗？不过不好意思，这个游戏的规则是我来制定的，所以不接受你的诡辩。如你所见，少女脖子上的项圈就是*器，只要在你做出错误选择的一刻，不管少女是机器还是人类，它都会以相应的机制，将少女瞬间毁灭。不过你放心，不管以何种方式，她都不会感到任何痛苦，换句话说，是使用高科技手段达成的安乐死。
哼，如果你是想用这种恶作剧般的手段来为难我的话，那你的如意算盘恐怕要落空了。阿桑博士露出了一丝得意的微笑。
怎么说？
很简单，我只需要无条件的选择人类这个选项，那么我就可以确保自己不会亲手*死一个人类，不是吗？
确实是这样，如果这个少女是人类的话，那么你就算选对了，她自然会得救；而如果这个少女是台机器，那么死去的也只是一台机器而已。Z反过来帮阿桑博士分析着。
所以，恶作剧就到此为止吧。阿桑博士说着，手伸向了右边代表人类的红色按钮。
等一下。Z叫住了他。你确定要这样做？
难道还需要考虑吗？
我忘了提醒你，事实上我的组织已经突破了通用人工智能技术，换句话说，我们的人工智能机器人，已经完全达到、甚至在某些方面超出了人类智能的水平。但很可惜，掌握该技术的科学家由于意外去世了，仅留下了唯一一台样机。如果你选择正确，而少女又恰好是这台样机的话，你就可以带着这台样机离开，这想必对你的研究会大有助益吧？据我所知，你的通用人工智能研究计划，虽然在学术界内属于领先水平，但是已经陷入死胡同很久了吧？
Z的话确实动摇了阿桑博士，让他的手一直悬停在空中，在心中思索着。人类科技发展到今天，虽然还没有完全突破通用人工智能技术，不过也是处于突破的边缘，如果说这Z的组织确实掌握了该技术，并且这眼前的少女就是他们的造物的话，也并不是完全没有可能。而且那Z所说的句句属实，自己确实需要打开新的研究思路才能有所进展。
没想到现在情况完全反转了过来，先抛开人类的道德伦理标准不说，假设自己选择机器这个选项的话，毫无疑问可以确保有50%的机会，获得这绝好的研究样本。但如果这少女是个人类的话，自己无疑就是亲手*死她的*人凶手！
阿桑博士又看了看对面的少女，她一如当初地面带微笑，而项圈上的倒计时已来到了20分钟以内。这时他才恍然想起，自己一直在跟Z对话，而这所谓的“图灵测试”本身最重要的环节却还没有展开。他收回了伸出的右手，决定先试探一下眼前的少女。
哼，果然还是动摇了。房间内传来了Z嘲笑般的口吻。
这不就是你希望的图灵测试吗？你也不想还没开始就结束吧？再说了，假设这少女真的是机器的话，那我也要先验证一下是否真的如你所说，达到了人类智能水平。阿桑博士辩解着。
Z没有再回答，仿佛等着看好戏。
陷入沉默之后，阿桑博士的神色又凝重了起来。作为一名顶尖的人工智能科学家，他深知图灵测试的难度。如果说一台机器真的达到了人类智能水平的话，那么单靠普通的对话是无论如何也无法区分它与真实人类的，而这也正是图灵测试本身的意义所在。如果通过对话，无法分辨一台机器与人类的区别，那么就可以说这台智能机器通过了图灵测试，达到了人类智能的水平。
但是一个疑点还是让阿桑博士看到了一丝希望，那就是少女明明在面对死亡的威胁时，却一直保持着镇定自如的姿态，似乎并不是真实人类该有的反应。虽然有很多可能的解释，但他还是决定从这里先入手。
你也是被要挟的吗？他开口问向少女。
不。少女摇了摇头。我是志愿者。
志愿者？
没错，我身患重疾，不久于人世，而且治疗过程极其痛苦。我每天都祈祷能够早日死去，但是法律却不允许。这个时候我遇到了Z，他说只要我帮他完成这个实验，就帮我达成心愿。
所以你才这么镇定，面临死亡也毫无畏惧？
是的，不如说我感到很兴奋才对。
确实，我从某个文献上读到过，主动寻求死亡的人类其实并不如人们想象中的那样消极，反而有可能比平常人更加积极乐观，看来确实不假。不过，这眼前的少女完全也有可能是被注入了虚假记忆的人工智能机器人而已，如果真是这样，那不得不说你们实在是高明，注入了这样的记忆，便化解了机器与人类在面对死亡时的表现差异，让人无从分辨。阿桑博士不禁赞叹着。
Z却依然没有回答，似乎不想干扰两人的对话。
结束了短暂的对话，阿桑博士已经初步确认了少女的反应确实如人类般完美无暇，他也知道，无论再怎么进行攀谈，都难以有所收获。但同时他也不想这么快就放弃，眼看还有时间，他还想继续对话，说不定能让对方露出马脚。但他思索许久，实在想不出该用什么话题，最后竟只能想到一个最直接的问题。
告诉我吧，你是机器还是人类？
阿桑博士深知这个问题的无力，因为能够让对方坦诚，而自己又能够确定对方没在撒谎的情况只有一种，那就是对方的确是机器，而确实想要获救的它必定会配合自己，向自己声称自己是机器。但此时情况显然没那么简单，眼前的少女如果是个一心寻死的人类，很有可能故意撒谎，宣称自己是机器，而就算她宣称自己是人类，谁又能保证它不是由于被强制设定了动机，为了通过图灵测试而不顾生死，进行撒谎的机器？再退一步说，如果这个机器人跟人类拥有同样的记忆，甚至连情感都能完美模拟的话，那又何尝不会像人类一样由于痛苦而想要寻求自我毁灭？总而言之，就是这个问题的答案毫无参考价值。
但不管阿桑博士在心中如何推演，他都没想到会获得一个如此意外的答案。
不知道。
是的，少女口中说出不知道三个字。
阿桑博士不由得吃惊片刻，却很快的接纳了这个答案。他知道少女不一定是在说谎，她完全有可能不知道，因为这涉及到一个在科学界早就存在并广泛流传的思想实验。这个思想实验说的是，如果你问任何一个人，他是一个真实的人类，还是一个被注入虚假记忆的高级人工智能机器人，那么单凭他自己，无论如何思索，如何辩解，都无法说服自己和他人，给出一个确定的答案。
对话一时陷入了死胡同。阿桑博士深感自己做着无谓的挣扎，但是一个问题却在他心中渐渐生起。
你觉得你有生存的价值吗？他问到。他知道从技术层面上无论如何也无法解决眼前的困局，只好本能般的把问题上升到伦理的层面，更是把这个问题直接抛给了对方。
我说过，我很痛苦，我想死。
不，我说的不是这个，我说的是价值。抛开痛苦与否不说，你觉得你的生存有价值吗？
你这个问题突然让我想起读到过的一个故事。少女没有回答，话锋一转。
故事？
我在病床上无聊时读到的一个小故事，不记得在哪本故事书上了，想听吗？
说说吧。阿桑博士看了眼时间，已经只剩下15分钟。
于是，少女开始了娓娓的述说。
以前有一个小国，这个国家的科技很发达，正处于实现人类意识上传，使人类脱离肉体限制的前夕。同时，这个国家的主要食物来源——家猪，在科学家研究人类意识的过程中，也被用于实验，在实验室里，拥有与人类类似的意识和情感的实验猪被制造了出来。
突然有一天，瘟疫肆虐这个国家，在养殖场里的普通家猪无一幸免。一时间，国家陷入了缺少食物的危机，无奈之下，他们只好把实验室里幸免于难的实验猪进行配种，恢复养殖产业。
可想而知，这立刻遭到了伦理学家和众多民众的强烈反对，他们认为拥有意识和情感的猪，不应该被随意饲养宰*，但同时却不得不面临一个严酷的问题，那就是不这样做，全国将会陷入饥荒，最终导致灭国。
于是，国内分裂成了三派，一派主张立刻停止这种违背伦理的行为，即使饿死也要纠正这种错误；另一派则主张继续饲养实验猪，支撑国家尽快实现人类意识上传的宏伟计划，到时人类的身体就可以依靠简单的能量支持，不需要再进食，而实验猪们也不用再受到惨无人道的宰*，而这个过程越快，牺牲的实验猪就越少；还有一派，则主张走中间路线，投入研究资源，复制出普通家猪个体，重新恢复普通家猪饲养，但副作用就是，这会极大影响到他们的终极目标——上传人类意识的实现，而且与此同时，实验猪的饲养宰*仍然需要继续，而这个过程会牺牲多少实验猪也不得而知，也许会比执行原计划牺牲更多也不一定。
听到这里，阿桑博士早已头冒冷汗，没想到这样一个残酷的故事，会从一个少女的嘴里平静吐出。
博士，如果是你，会选择赞成哪一派？少女停下述说问道。
阿桑博士感觉一时间不知如何回答，没想到这样一个看似普通的故事，却蕴藏着如此深刻的伦理困境。
故事最后的结局是什么？他没有作答，转而问道。
最后，示威的人群阻挡在养殖场的屠宰生产线前，虽然机器还在轰隆运行，但上面却一头猪也没有，因为他们挡住了猪栏到生产线之间的通道。
他们高举标语，大喊口号。前来疏解的科学家向他们解释着，只要再宰*最后一批成猪，就可以实现人类意识上传的计划，终止这样的悲剧。
但是示威人群丝毫不接受，纷纷要求立刻停止屠宰作业。此时，在猪栏里的成猪们听懂了科学家的解释，它们冲着彼此确认了眼神，便冲出猪栏，更是冲散示威人群，自发排着队，一只只跳上了屠宰生产线。
成猪们的身后，传来了猪栏里幼猪们的嘶喊，仿佛在向自己的双亲悲痛道别。队伍最后的一只成猪，回过头看向猪栏，向其中自己的孩子投去了不舍的眼神，便决绝地回过头，跳上了屠宰线。它知道，只要自己牺牲，自己的孩子便不用再受到与自己同样的悲惨对待。
人群看着这样的场景，早已纷纷落泪，更有人痛哭失声。而那个科学家，也眼含泪水，用崇敬的眼神，看着屠宰线上一头头成猪，最后变成一具具尸体。
那最后，人类的计划成功了吗？阿桑博士不禁用科学家的思维问道。
故事到这里就结束了，最后人类有没有成功，谁也不知道。
这样啊。
不过你还没回答我的问题呢，如果是你，你会选择哪种做法？
阿桑博士没有回答，他知道这是一个没有标准答案的问题，自己更没有必要回答。但同时，他也知道眼前的少女，是用这样一个故事，把自己的问题抛回给了自己。
对于此时的自己来说，少女就如同那实验猪一样，是为了人类科学的进步牺牲，还是为了伦理道德而获救，她的生存价值又该如何评判，这种隐喻再明显不过了。
不得不说，自己对她的智能水平感到由衷佩服，居然能用连人类都不一定能想到的精辟寓言，来巧妙回应自己提出的开放性问题。如果这个少女真的是一个人工智能的话，不得不说确实达到甚至远远超越一般人类的水平了，可以说极具研究价值。
另一方面，这个少女如果是一心想寻求安乐死的人类，那么自己的行为，无非是作为执行非法安乐死的帮凶罢了。
阿桑博士思索着，他没有意识到，自己已经在不知不觉中，在潜意识里被少女的那个故事影响了自己的价值观。
博士，我必须提醒你，你的时间只剩下不到3分钟了。Z的声音再次响起。
阿桑博士连忙从思绪中抽离，看了眼少女脖子上的倒计时，确实如Z所说。他又看了看少女的脸，依然无法读出任何恐惧，甚至她以更热切的眼神看着自己。虽然她没有，也无法正面回答自己她的真实身份，但一切诉说，都无疑在告诉自己，让自己选择那个蓝色按钮。
博士！Z再一次催促。
阿桑博士的心跳加速，眼光不自觉的移向了左边的蓝色按钮。如果对面的少女是一个活生生的人类的话，那么这个按钮，就将是她的死亡开关，而自己，至少也是一个*人帮凶，但如果为了自己的研究，为了人类实现通用人工智能，这个险值得一冒！
终于，在所有因素的影响下，阿桑博士伸出右手，在自己还来不及后悔的时候，迅速按下了左边的蓝色按钮。
在按下的那一刻，他不由得闭上了眼睛，他不敢看结果，更不想看到眼前的大活人由于自己的选择而瞬间惨死。
同时，少女项圈响起嘀的一声，倒计时停止，数字冻结在了1:59秒上，随后，就是一片死寂般的宁静。
阿桑博士仿佛能听到自己的心跳声，他终于鼓起勇气，睁开眼看向对面。幸好，此时少女安然无恙，除了项圈上的倒计时停止了以外，她的一切都没有改变，甚至还眨了眨眼。
太好了！你真的是机器！阿桑博士不由得喊了起来。
但少女却突然一改平静的神情，露出了失望的神色。她叹了口气，缓缓站了起来。
错了，我是货真价实的人类。她冷冷说道，连声线都变低了不少。
什么？阿桑博士惊讶地看着少女。
少女从身后掏出了一个平板电脑，解开了上衣的衣扣，露出挂在胸前的银丝眼镜。此时阿桑博士才看清，那原本以为是一袭的白色连衣裙，竟然是开襟白大褂，而戴上了眼镜的少女，俨然一副干练科学家的模样。
不好意思，你才是机器。少女操弄着平板继续道。
你说什么？阿桑博士顿时站了起来。
你是我们生产的科研用高级人工智能，并且注入了虚拟的研究记忆，那其实包含了我们积累多年的知识，本想着让你继续从事通用人工智能的研究，最终达到突破，但可惜，你没通过我们的价值观考察。
胡说！就算你说的是真的，那现在的我要通过图灵测试想必是绰绰有余了，还需要什么突破？
看来你还没意识到问题啊，虽然你确实已经拥有了高超的智能水平，但离真正实现还远着呢。不过，现在也不需要跟你解释那么多了，你很快就会被重置清零，扔进垃圾堆了。
重置清零？你们要怎么对我？阿桑博士惊恐地问着，此时他已顾不上自己是人还是机器了，他只是低头看着自己身着整洁西服的全身，体温和脉搏的感觉无比鲜明。难道这鲜活的肉身都是人造的吗？他思忖着。
别看了，那只是你的临时义体，你的真身，远在千里之外的计算云上。之所以让你拥有这义体，只不过是为了让你拥有具身认知而已，但没想到这样，你的价值观还是出现了偏差。
具身认知？阿桑博士顿时想起了相关的理论，但此时这些都不重要了。震惊之余，他不禁自嘲着，没想到那被自己挂在嘴边的思想实验，却正正应验在自己的身上吗？而那关于思想实验的知识本身，却也只是被植入的虚拟记忆而已吗？还真是讽刺啊。
好了，本着人道主义的精神，我还是让你听听我对你的评语，让你死得明白点吧。说着，少女对着平板上自己刚刚打下的密密麻麻的文字念了起来。
该实验体拥有科学至上主义倾向，为了科学研究，有可能牺牲人类个体；同时，拥有明显的支持安乐死的非道德倾向。因此，该实验体的价值观不符合人类道德伦理标准，对人类具有潜在的威胁，不考虑投入实际使用。
说完，少女在平板电脑界面上的两个按钮中，毫不犹豫地点下了“不合格”按钮。讽刺的是，不知是否由于组织的统一设计风格，那两个按钮，同样是一蓝一红，而“不合格”选项，恰恰是位于左边的那个蓝色按钮。
本来有机会成为同僚的，真是可惜了。不过我还是想向你道个歉，虽然我们已经掌握了智能评估的有效方法，但是对于价值观的判断，还是只能采用这种原始的测试方式，委屈你了。
少女虚情假意的道歉彻底惹怒了阿桑博士。
少装模作样了！你说我是机器，那你怎么确定你自己不是被生产出来的人工智能？他双手狠狠拍向桌面喝道，虽然他知道这只是无意义的吵闹，但他就是控制不住自己，无论如何也想要恶心一下这眼前的表演者。
我？少女一怔，不由得仰头大笑起来。
说得没错。Z的声音突然打断了少女的笑声。
突然，两人右侧的房间墙壁轰隆作响，缓缓向地面倒去。少女跟阿桑博士同时循声望去。
只见墙壁倒下之后，隔着玻璃幕墙，两人发现原本自己身处的正方形小房间，竟位于一间更大房间的一侧。从上方俯视下去，那小房间与包含小房间的整个大房间形成了黄金分割关系的两个矩形。而在那大房间剩余处的中央，一个瘦削白皙的银发男子坐在一排电脑屏幕后方，面向玻璃幕墙监视着两人。那个男子就是Z。
Z，你刚才说没错是什么意思？少女紧张起来，冲到玻璃幕墙前质问道。
意思当然就是，你也是被造出来的人工智能啊。Z笑着，仿佛摆弄着小动物一般。
不可能！我明明是——少女反驳着，却突然停下。同样身为人工智能领域科学家的她，自然也深谙那个同样的思想实验。这包括作为组织的资深科学家，受命对阿桑博士进行价值观考察的所有记忆，谁说又不能是被捏造注入的呢？
不得不说你的评语写的实在是太过精辟，让我忍不住照搬了过来，真是谢谢你了。Z盯着自己眼前的屏幕，屏幕上同样有左蓝右红的两个按钮，而在左边蓝色按钮上方的文本框内，他早已把少女的评语照抄了上去，只不过去掉了结论性的第二句。
接下来，是时候给你写评语了。Z看向少女。
给我写评语？
没错，这个价值观考察本来就是同时考察你们两个智能体的啊。
怎么会这样？少女无比震惊，瘫坐在了身后的椅子上。
Z打着字，同时一字一句地念着。
该实验体在价值观方面过于保守，有可能缺少为科学研究献身的牺牲精神；同时，其拥有过于单一的价值观取向，不利于进行广泛的科学探索，比如，一味反对安乐死的道德性。
满口胡言！说我反对安乐死就算了，你凭什么说我缺少为科学牺牲的精神？少女激动地又站起身喊道。
那个故事。Z大声打断道。
什么？
很不巧，那个故事我也读到过，其实是有结局的吧？
少女一时间无言以对。
结局就是人类最终成功实现了计划，与剩下的实验猪们和平共处。可是你却不愿意说出这个结局，这不正说明你不愿意接受这个故事所传达出来的价值观吗？
这只是你的妄加猜测！少女双手狠狠捶在了玻璃上。
别激动。放心吧，我虽然也有同样的两个按钮，不过可不是你们那种非黑即白的*人按钮，我会好好考虑选择你们中的哪一个，投入实际使用的。
Z，你要闲聊到什么时候？快点结束工作！此时，Z右侧的一个扩音器响起了一个成熟女性的声音，似乎是他的顶头上司。
知道了，别老催。Z说着，似乎心中早已有了主意，右手向鼠标伸去。
但是突然，一个可怕的念头闪过他的脑海，让他停下了手。他又看了看玻璃幕墙里面，此时阿桑博士和少女，正不约而同地用一种意味深长的眼神看着自己，脸上甚至有一股幸灾乐祸般的莫名笑意。
他连忙扭过头看向右侧的那个扩音器，旁边的监控摄像头里，似乎有无数双眼睛正在审视着自己。
他回头看了看眼前的屏幕，两个硕大的按钮在液晶屏上闪烁着，似乎在催促着自己做出选择。他又看向自己右侧那堵灰暗的墙壁。
谁又能告诉他，在他做出选择点下按钮之后，那堵墙会不会轰然倒下，出现一个更大的符合黄金比例关系的房间？
Z缓缓离开了座位，往那堵墙的方向走去。
Z，你在干什么？快完成你的任务！上司的声音再次催促。
Z没有理会，径直走到那堵墙面前，伸手摸了摸。顿时，冰冷的触感渗透了他的指尖，他发现，那原本看似有着斑驳纹理的墙面，摸在手上却平滑无比。他连忙又敲了敲墙面，厚实玻璃发出的咣当声无比刺耳。
他近距离盯着那墙面，突然发现自己的倒影映射其中。
呵呵。他抚摸着倒影中自己的脸庞，露出了自嘲般的笑容。
（完）
表面上，这是一个关于图灵测试的主题，但实际上，小说要探讨的是科学伦理。小说的几层反转，大家也许早已屡见不鲜，然后每一层反转中，上一层的评价者做出的评语，却往往耐人寻味。实际上，这几层评语几乎囊括了现实中，人类面对新技术的大多数反应。我们需要去设身处地思考自己会做出何种选择，因为在头顶，也许有什么人正在对你做出评价。
——责编 | 宇镭
上海果阅文化创意有限公司已获得本篇权利人的授权（独家授权/一般授权），可通过旗下媒体发表本作，包括但不限于“不存在科幻”微信公众号、“不存在新闻”微博账号，以及“未来局科幻办”微博账号等
题图 | 电影《楚门的世界》（1998）截图
