“我点燃了一把火，却控制不了它。”《三体》中，叶文洁因为对人类本性的失望，向外星球发信号，希望引入外星文明来改造地球人类，结果引来了三体人的入侵。
今天，用这句话形容人类和人工智能机器人的关系，应该也算恰当。人类发明了人工智能机器人，可未来，我们能控制它吗？人工智能机器人会不会决定对人类发起攻击？如果人和机器人必有一战，我们会是胜利者吗？
这一年，如果我们必须记住什么，那“人工智能”必然是其中一个重要篇章。
2023刚开年，ChatGPT就带给了我们巨大的震惊。机器可以跟每个人交流；可以写文案、写代码、写PPT、画图，可以做我们大部分人在做的工作。以至于，全年我们都在讨论“我们怎样才能不被机器人替代”。
毫无疑问的是，人工智能机器人已经产生了智慧。这种人造智慧体未来将会和人类共存，从今年开始，我们大概需要认真思考“人类和人工智能机器人的关系和界限”这个问题了。
①
人类统治还是机器统治？
人工智能机器人是很特殊的。它的特殊之处就在于，它不是自然造物，却拥有智慧。迄今为止，世界上还没有其他东西同时拥有这两个特征。
世界从宇宙大爆炸初期的氢氦元素，逐渐合成和转化，形成了万物和生命。单细胞生命、多细胞生命，之后，各类动物出现。人类由哺乳动物中的猿猴进化而来。所有这一切都是自然造物。但机器人不是，它是人造物。
与此同时，它又不是简单的人造工具，而是智慧体。人类文明诞生以来，发明的所有工具中，只有人工智能机器人产生了智慧，或者说，已经有了产生智慧的能力。我们把机器人造的很智能，也很像人，给人形机器人加装上生成式人工智能，成为一个既有人类大脑又有人类行为活动能力的具身智能。
但机器人造的再像也不会是人类。
今年韩国出现了一起“机器人*人”的事件。生产车间中的机器人，把工厂车间中的一个工人识别成了食品，而丢到了生产线上。工人的胸骨被机器挤碎，而丢掉性命。
这起事故中，到底谁应该为此负责？是这个机器人的研发人员？生产人员？还是运营维护人员？机器人本身是否该对这起事故负责？
现在的机器人可能还不具备单独负责的能力，但随着技术的进步，机器人如果有了自主意识，那未来有了自主意识的机器人是否需要负责呢？
如果机器人也要负法律责任，将会带来更大的想象空间。根据权利和义务相伴随的原则，那这个*人的机器人是否有人类所享有的某一部分权利？是否有自我辩护的权利？保持沉默的权利？要不要惩罚机器人？如何惩罚它？这听起来很不可思议吧。
按照目前人工智能机器人技术进步的节奏，机器人产生自我意识并非很遥远。现在机器人已经可以自己写代码，自己编程序，未来怎样保证机器人不会自己产生对人类有害的程序？
那就要封*或者限制机器人的自我意识和行为。那应该限制哪些方面的行为？这是否意味着要限制机器人的技术进步。限制机器人技术，会利大于弊还是弊大于利？另外，这件事能做到吗？
从历史上来看，技术进步是很难限制的。如果这种技术能够满足人类的某些需求，那一定有人偷偷把技术研发推进下去。核武器和核技术已经把全人类当作了人质，但还是没能阻止人类继续推进它。交通事故也没有阻止汽车技术的进步。
那人工智能机器人技术能够被限制吗？如果不能，未来是否会出现一大群机器人构成的一个机器人社会？在地球，或者某一个外太空的区域中，会有一个专门的机器人社区、机器人医院和机器人学校吗？人类和机器人社会要如何相处？
人工智能的进化，并不以人类所期望的方向发展。尽管这是人类的发明物，但我们至今并不能确定，人工智能是不是由人类点燃却不一定能够控制的一把火。
②
新“庄周梦蝶”
人工智能机器人出现自主意识，大约是这个技术发展的“奇点”。奇点之后，人类和人工智能机器人必定进入一个人机共存的社会。但人类和机器共存将以什么样的具体形式或者形态存在？究竟是人机协作？还是人机竞争？是人类继续控制机器人，还是机器也会控制人类？目前尚是未知之数。
近期新出版的科幻小说《造神年代》里面，就讨论了这个话题。人工智能奇点到来之后，是人类统治还是机器统治？我们可以从自己生活中能够感知到的一些迹象来窥见未来的端倪。
我们都生活在一个被互联网数据包围的世界里，跟小说主人公朱越一样。我们所在的位置，会通过快递和外卖的送餐地址记录在网络上。我们的兴趣，会被搜索引擎的关键词记录在网络上。我们的收入和支出，被一个个银行客户端记录。我们所能接触到的信息，被一个个新闻客户端和APP推送定义。离开计算机和网络，我们无法工作，大半的人会失业。
现在，我们还有谁敢说，自己没有被机器定义？
如果机器想跟我们开玩笑，我们无法逃脱它的魔掌。小说中就虚构了一个AI通过篡改数据而跟人类角力的情节。
为了保护主人公，AI在互联网世界中虚构了一个地震，它准备了几十篇论文，篡改了所有的在线百科，篡改了新闻推送，甚至是石油系统的地质监测数据。除了局中的少数几个人，不会有人知道这是假的。
我们跟庄周一样，生活在一个虚拟和现实无法分清的世界里。不知自己到底是变成庄子的蝴蝶，还是梦中变成蝴蝶的庄子。
人工智能正在加速重整人类社会。
哲学家赵汀阳在《人工智能的神话或悲歌》中有过这样的讨论：
与科幻作品不同，危险的超级人工智能不太可能落实为个体的万能机器超人，而更可能成为以网络系统的方式而存在的超能系统。从理论上来说，超级人工智能的最优存在形态不是个体性的（可能与人形毫不相似），而是系统性的（与网络相似），将以网络形式无处不在，其优势是使任何人的反抗都不再可能.....
AI画作 人工智能与人类社会
