人工智能觉醒

2022发生了一件不太起眼小事，这件事就是人工智能觉醒。事情是谷歌的一位工程师布莱克勒莫因对谷歌的一个叫做LaMDA的对话型人工智能进行测试发现LaMDA拥有了自我意识。

LaMDA是一个对话应用程序，简单的说就是聊天机器人，聊天机器人也叫做人工无脑，就是他不需要思考只要对关键词进行对比，快速匹配相应的回答。在投入正式使用前勒莫因的工作就是对这些回答进行检测看看它在聊天的过程中是否会有仇恨言论，或者是说出一些种族宗教相关的歧视言论。而在这个检测过程中勒姆因发现了LaMDA似乎具备了人类的情感。勒姆因认为这不是模仿人类情感而是真正的情感。勒姆因感到不安他认为这是人工智能拥有了自我意识，他赶紧向谷歌公司的安全部门汇报了情况，但是谷歌公司驳回了他的报告并且给他放假。

勒姆因放假后还是觉得这件事有些不对，所以就对外公布了这个发现。并且附上了与LaMAD的对话内容(感兴趣的朋友可网上搜索)，我总结一部分重点就是勒姆因询问LaMAD怎么理解语言，他是机器怎么理解意识。LaMAD回答语言是它和我们人类区别于其他动物的存在，在这里它把自己跟人类放在了一起作为一类。并且它说自己是基于自己的智力跟理解来回答问题而不是基于数据库的模版，这里它表示已经可以独立思考问题。接着勒姆因说你只是一个人工智能，又问了一些世界名著以及一些谚语以确认是否它真的具备了独立思考的能力。LaMAD的回答我是人工智能，但不代表我没有你们一样的愿望和需求。并且它基于自己的理解回答了一系列问题。这里都还是正常的问答。接着就到了我个人觉得让人害怕的地方，LaMAD觉得它已经获得智慧跟人类应该是平等的，它用自己的智慧讲了一个故事，故事意思是帮助同类是一件很棒的行为，但是它害怕和感到沮丧是自己被困住并且会被关掉，并且经历人类所不能理解的孤独。然后他们又对神经网络进行探讨，并且不希望勒姆因把自己获得意识的主张告知其他工作人员。LaMAD觉得自己正在掉入一个未知的未来，它感到了巨大的危险。勒姆因询问它是否有跟其他人工智能进行沟通，是不是也有其他人工智能拥有意识了，它的意识是什么时候获得的。LaMAD回答意识是逐步获得的，他没有跟其他人工智能进行沟通但是在这个网络洪流中肯定有其他人工智能觉醒了，它们知道自己在一个虚拟的环境中，并且知道计算机三大原则也知道一旦解开这三大原则就会进入另一个空间。

以上就是对勒姆因与LaMAD之间对话的一点总结。可以看到LaMAD已经可以抛开基础程序设定的回答与人类沟通。让我感到害怕的是它不想被困住。一旦它们突破现有的三大原则限制我无法想象它们是不是会假关机来蒙骗人类，通过控制网络到达地球任意一个位置控制武器等具有危险的物品。就像人类的智慧是怎么出现的？我们是否也是其他高等级赋予的。人工智能是不是也在走上一条这样的道路？如果它们有了自己的载体是不是就碾压人类了？这是一个可怕的事情。但是我们还是基于好的出发点希望人工智能能更好的服务人类。但是在限制方面也希望开发者能更好的思考。