图片来源@视觉中国
文 | 追问nextquestion
11月26日上午，上海图书馆（东馆）迎来了一场科技与幻想的巅峰碰撞。在这里，数字生命与意识上传，已不再是遥不可及的科幻设想，而是一个在我们眼前循序展开的未来。
此次会议是由天桥脑科学研究院（中国）主办的「数字生命与意识上传」系列研讨会的先导篇，邀请北京大学人工智能研究院助理研究员杜凯及著名科幻翻译和科幻作家顾备对话座谈，由喜马拉雅类星体科幻剧场制作人得闻主持。三位嘉宾来自不同领域，带我们一同探索了数字生命的可能性，更直面意识上传的伦理边界。数字生命是否注定超越我们的掌控？意识是否能够被真实地转化成冰冷的代码？这是一场思想的深度挑战，关乎人类对未知的勇敢探求。在这个未知空间中，我们将纵身一跃，穿越科技与意识的迷雾，探寻新兴未来。
本文通过追问形式呈现谈话中的精彩内容，希望能给读者一些启发和思考。
@得闻：作为科幻作家，顾备老师平时会持续追踪科学的发展动向吗？
@顾备 ：会的，科幻协会下属于科协，所以科普也是我们协会相对重要的一环。我们一直想把科技和科幻融合起来，也就是科幻赋能科技创新，科技赋能科幻创意。
@得闻：身为一名科学家，请问杜凯老师从事科学行业是否有受到科幻的影响？
@顾备 ：很多时候，科幻和科技两者的分界线不是大家想象的那么明显。回到十年前，如果有人说我们有一天会实现强人工智能、拥有强大的基因工具可以随意修改人的基因，我们会认为这是科幻小说里出现的场景，但现在这些（话题）已经处于科学的范畴了。如果不具备科幻作家那样的想象力，我们就没法去掌握未来的科学会是什么样的。
@得闻：能否介绍一下您的科学研究领域？
@杜凯 ：20年前，我站在人生的转折点上，有两个选择。03年的时候，我特别看好房地产，但后来收到了哥本哈根大学的录取通知书，最后选择了去求学。有时候会觉得自己错过了“10个亿”的房子，到后来导致我会考虑自己做的研究值不值得当年放弃那“10个亿”的选择。在20年前，我做的研究就很科幻，我想模拟人的大脑来实现AI，以及探讨如何将人的大脑和AI联系起来。
@得闻：《流浪地球2》中提到数字生命派这么一个流派，刘德华饰演的角色图恒宇将女儿图丫丫濒临死亡前的意识上传到了U盘上，同时将这份数据保存到了超级电脑550A中。数字图丫丫开始产生了一些自我意识，并可以保存2分钟的生命。直到图恒宇把这份数据传输到更强大的550W上，图丫丫的生命得以延长到70余年。两位对这个情节作何感想？
▷数字生命图丫丫，图源：Midjourney
@顾备 ：其实在《流浪地球》影片上映前，剧组上映的先导片就暗示了数字生命这个话题。这引发了一个问题：为什么电影里的数字生命要做数学题？这与最近OpenAI事件颇为相似，这家公司内部发现有个叫Q*的AI，它会做数学逻辑推理。一旦AI可以处理复杂的数学推理，那它或许也能在物理和化学领域进行推理，这可能使它比人类更早地理解世界的本源。看到这里，我首先想到的是，意识怎么上传？上传后的意识还是不是你？技术发展路线将在什么时候实现这一点？
@杜凯 ：我认为这是《流浪地球》的一大亮点。电影里的某些设计从科学角度也是可以解释通的。其实，我们似乎也生活在一个虚拟的世界中。有时，我们需要区分自己看到和感知到的信息。我们对周围世界的理解，是由视网膜对外界的解读重建而成，而每个人在这个感知重建的过程中的体验都是独一无二的。在每时每刻，大脑都在虚构虚幻的世界，然后把我们真实感受到的世界叠加其中。这个叠加过程通常非常迅速，以至于除了精神病患者和极具天赋的画家之外，大多数人难以察觉其中的微小时间差。
我们普通人所感知的光线通常是连续平滑的。但在梵高的《星空》中，物体的边缘是不连续的，因为他的大脑所感知到的光线是片段式的。毕加索后期的作品也展示了类似的风格。用夸张的方式来说，他们感知到的世界就是如此。所以，在某种意义上，我们每个人也都生活在自己构建的虚幻世界中。从这个角度看，人和机器也没有太大区别。
▷图注：梵高感知到的世界；图源：The Museum of Modern Art
@得闻：人工智能的定义就是让机器模拟人类的智能，请问类脑智能和之前人工智能在逻辑方式上有什么区别？
@杜凯 ：AI在历史上有很多流派，比如符号主义、连接主义。在连接主义中，神经元之间通过互相连接来完成某种任务，这个流派提出后火过一段时间又沉寂了；2006年，深度学习的出现提高了网络规模和参数；再到2010年左右，随着新型算法和硬件架构的加入，慢慢以人工神经网络为代表的模型范式席卷了AI领域。计算神经科学也是研究神经元之间的连接，但和AI不同的是，计算神经科学更注重和生物大脑的相似性，更侧重关注真实的大脑；而AI则更侧重关注机器。
@得闻：大模型AI的规模和人脑的参数规模相比是怎样的？
@杜凯 ：人脑约860亿个神经元，每个神经元上面大概又有1万多个突触。保守估计，人脑的参数量是ChatGPT的4-5倍，比机器要复杂得多。
@得闻：大脑算力能量消耗小，是否更节能？
@杜凯 ：这可能是一个伪命题，因为现在的芯片是通用性芯片，如果只是针对神经网络开发芯片，算力消耗可以更小。并且在专业能力上，大模型AI的效果远远超越了人。比较特殊的是，人会谈恋爱、生气，这些都是需要能量的，但大模型不需要。大模型强调内推，但人擅长外推，人可以在两种本不相关的体系知识下进行外推。
@得闻：对大脑有更好的模拟后，意识有可能被模拟吗？
@杜凯 ：从技术上模拟人类意识是可行的。至少“从0到1”的这一步已经开启了，后面的道路还需要慢慢走。
@得闻：常见的科幻作品是如何描述意识上传的？
@顾备 ：科幻界一直在讨论这个话题。我印象比较深的是《尤比克》（Ubik）中的观点：人临近死亡时，他们的意识可以被暂时冻结，并且可以被多次激活，直至最终逐渐消逝。而在《神经漫游者》中，死者的意识被储存于黑盒中，当需要执行任务时，这个黑盒便被激活。《黑客帝国》、《盗梦空间》则直接通过脑机接口或者其他方式进入意识。这些作品不仅仅探讨了意识本身，还深入思考了生命的本质。虽然科幻小说充满了无限的想象，但核心问题仍然是：什么是意识？什么是生命？低等生命是否拥有意识？我们身体的细胞是否具备意识？这些问题是否有明确的定义？
@得闻：科学界对意识是怎样定义的？
@杜凯 ：ChatGPT的出现让我们觉得，至少模拟意识是可能的。这也给我们提供了一种新的思考方式，就是也许我们没有必要去定义意识，我们只要能够产生意识就足够了。意识可能不是被事先定义的，而是涌现出来的。例如，在学习各种知识的过程中，一个大规模的网络突然就产生了意识。如果意识以这种涌现的方式出现，我们也许真的没办法定义意识。
@得闻：那是不是可以理解为，针对意识、情感方向的研究，过去我们是先有理论再着手研究，而现在我们先尝试去做，再看产生的是否是类似于人类意识和情感的东西？
@杜凯 ：是的。传统上，科学研究是自上而下的方式进行的。但由科学问题驱动的研究方法可能无法解决意识的问题，我们可能需要通过工程方法来探索是否能够产生意识。
@得闻：如何定义生命和数字生命？
@顾备 ：我觉得很多东西无法完全定义，甚至很多时候我们会之前的定义是错的。如果从更高的维度考虑，无论是繁殖还是进化，生命为了生存，都会展现出高度的协同现象。以计算机病毒和人类病毒的类比，计算机病毒在进入电脑之前是没有生命的，但进入电脑中开始利用内存进行复制和变异，使得*毒软件也难以察觉。如果计算机病毒能够模仿生物病毒，那么仿制人类生命也不是不可能的。正如余老师所说，我们看到的不一定是真实的，大脑会自动填补信息的空白。
@得闻：如果我们很难达到一个大家都认同的数字生命概念，那从个人角度您认为数字生命需要什么特征？
@杜凯 ：有一个概念叫做临界态，任何东西数量达到一定量级就会出现一种自组织的现象。这种自组织的方式会使之达到一个处于两者之间切换的临界状态。当你的系统达到临界态的时候，对外界的输入输出就会变得非常敏感。我们认为大脑就像海平面一样，有时候大群神经元反应会形成一种漩涡一样的吸引子状态，这个时候其他的噪音对大脑的影响就不大了。但是在科学研究中，一个东西不可被定义是危险的。科学与宗教的区别是，科学可以被证实或者证伪。如果我们目前还无法具体定义意识是什么，我们可以换个角度来考虑：意识何时出现？何时变得有意识？
@得闻：从一个实例来看，ChatGPT这种具备推理能力的形态，可以被称为数字生命的最初形态吗？
@顾备 ：人类在使用工具的时候特别喜欢拟人化，所以人类老想把数字生命也拟人化。但数字生命可能是一种波、一种能量或者以一种信息的状态存在，最终的数字生命存在方式不一定和人一样。
@杜凯 ：这里存在一个问题，如何把认知科学和大语言模型连接起来。很多职业需要和心理结合起来，需要经过特定的心理测试。面对未来，我们如何评估大型模型的心理状态？我们该如何确保它们不会隐藏自己的心理特性？甚至，大型模型是否可能在不自知的情况下发展出意识？从科学的视角来看，这些想法似乎并非不可能。
@得闻：是否可以选择另一条路径，让AI自己进化“生命”，而不是模拟人类生命？
@杜凯 ：在用数字训练数字的过程中，我们需要一个参照模型。AI可能走向邪恶，或许会陷入无解的困境。无限制的人工智能可能无解，要么我们可以忍受低智能的人工智能模型，要么完全释放去拥抱无限制的人工智能。虽然人类可能不擅长处理专业的任务，但我们擅长在混乱中寻找清晰、可行的路径。
@得闻：所以两位都算是科技乐观者吗？
@顾备 ：也不全是。以OpenAI为例，存在有效加速派和超级对齐派两个流派。超级对齐派坚持要求人工智能符合人类要求，其核心目标是造福人类。有效加速派则认为科技的发展是不可阻止的，人工智能的发展也是如此。他们相信，当人工智能发展到一定程度，一定可以用科技制约科技。大家为什么对数字生命感兴趣？因为这可能让人类生命达到永生，或者替换人生。如果我们能实现永生，那么是否可以超越肉体的低级*，追求更高层次的精神目标？然而，这也可能引发新的贫富差距问题，因为资本和科技的飞速发展可能超出了普通人的理解范围。
@杜凯 ：我其实是“科技无奈派”，乐观悲观都没用。在商业领域，人们追求性能越强大越好，而另一派觉得大模型过于可怕，出于伦理考虑应当停止发展。OpenAI的理想主义者认为应当停止这种追求，而不是单纯为了盈利。人类的事情，一旦和金钱利益挂钩，就容易出现问题。在人类进化过程中，竞争是刻在我们基因里的。要实现真正伟大的事情，往往需要违背旧有的理念。我们不应过于相信任何事物，也不应被舆论操控。技术的发展会超出人类的想象。
观众提问
Q：AI缺乏生命的自我激励机制，如何涌现自我意识？如果要出现，会出现的内在机制是什么？
@杜凯 ：技术上来说，AI的进化可以按照我们推论的方向进行。现在比较意外的是，虽然AI需要吸收人类的知识，但是它在某些方面学的比人还好，甚至是在逻辑推理能力上。然而，如果人工智能出现自我激励现象，比如它们开始自行修改底层代码，那将是非常危险的。至少目前来说，技术上还没到这一步。
@顾备 ：人类是贪婪的，乐于竞争、有强烈*的，所以会激励人类去进化。反过来说，AI不具有这些特性可能是好事。
Q：数字生命是否有周期？情感和情绪是否也可以像意识一样上传？
@杜凯 ：我们或许可以通过拔电线来结束AI的生命。人很多东西都可以参数化，理论上把这些参数上传就可以有数字生命。但这肯定不是以硬盘的形式上传。情感和意识可能是涌现出来的。人有不确定性，有随机性。大模型是真的像你，还是只是在模拟？大模型是真的意识，还是只是在拟合意识的结果？还需要验证。
@顾备 ：迭代可能算是一种生命周期。在每一个AI版本的发展中，代码和功能都经历着更替。但存储于内存中的记忆是动态变化的，可以随时增加随时删减。所以它没法升级或迭代，也就很难跟“周期”来匹配。情感，随着年龄的增长而变化，它依赖于当时当地的情境和过往的经验。情感是无法复制的，即便一个人重返过去，他在情感和感知层面也不可能完全相同。
Q：即使人类曾造出了原子弹，目前人类依然存在。所以我们是否应该对AI的发展持乐观主义。
@杜凯 ：核武器的生成是确定的东西，可以自我控制。相比之下，AI的危险在于它是涌现的，可能不可控。实现永生有两种方式，一种是通过虚拟世界、数字生命，另一种通过文字把思想流传。我现在更赞同第二种。
@顾备 ：有个说法，科学的尽头是哲学，哲学的尽头是神学。也许人类可以和AI一起，共同进化。
Q：法学具有一定的滞后性，只有当事情出现之后，才会有法律去规避、惩罚它。请问大模型AI可能具有涌现功能，对法学有什么启示吗？
@顾备 ：法律通常是滞后的，但肯定也有一群人会研究伦理道德，伦理道德委员会在某种程度上是从法律角度出发，对新技术进行制约。
@杜凯 ：法律的设定一定要合适。它既不能过度禁止导致约束我们的发展，也不能让AI危害到人类。我个人觉得，法律不应直接判定哪些AI应该被开发，哪些不应该，因为这等同于定义AI的发展路径。重要的是确保AI发展过程中信息的透明度。
