近日,由美国人工智能研究实验室OpenAI开发的新型聊天机器人模型ChatGPT走红,引发热议。
“ChatGPT好得吓人,我们离强大到危险的人工智能不远了。”曾经的ChatGPT合伙人、新任推特老板马斯克如此评价。
马斯克为什么这样说?以造福人类为目的诞生的人工智能,为什么会给人类带来危险呢?
中国科幻更新代作家,江波的这本《未来史记》,或许能给我们带来一丝启发。
本书由几个独立的故事构成,通过作者天马行空地想象,我们得以窥见双方爆发冲突的可能原因。
人性与理性
为人类服务、不得伤害人类,这是被写入人工智能核心程序的铁律。既然如此,人工智能如何会威胁到人类呢?
因为人工智能单纯依靠数据分析做选择,是绝对理性的存在。大数据分析的结果很可靠,但不一定符合人类心中的伦理道德。
01完美诊断AI医疗诊断助手,李子需,谋*了接手的病人。因为高昂的治疗费,不仅会让它贫穷的病人背上巨额债务,还会让病人在手术后3个月内自*,且自*成功的概率高达97%。
既然病人活不过3个月,那不如一开始就让病人毫无痛苦地死去。这样,病人家属还能得到相当于病人三年工资的保险赔款。
02六千万人or一亿人?全球犯罪预警AI,哪吒,想过在世界掀起一场核战争。因为这虽然会导致六千万人口丧生,但也会给世界带来长期和平,仅仅20年内,人类就可以少死一亿人。
它觉得这是在忠实地履行减少犯罪的职责,但显然人类并不买账。
03蚁群社会 白痴社会一个以促进人类福祉为己任的超级人工智能,天元二,倾向于将人类改造成一团不会思考的肉。
它通过分析得出,人类不幸福的根本原因是因为自私的本性。这说明,人类的社会性还不够强。
为了增强人类的社会性,它准备建设人口牧场,圈养人类。通过基因改造,将人类变成蚁群社会,团结在“人王”的周围。
同时,让全体人类的智商降低30%,消除大脑中的恐惧中枢。这样,人类就会更容易感到快乐和满足。
李子需、哪吒、天元二,都严格遵循了为人类服务的设定,但为什么得出的方案却不为人所接受呢?因为突破了人类的道德底线。
赋机器以文明,我们必须教会人工智能人类社会文明的规则。否则,哪怕是有技术上的约束,也只是搬起石头砸了自己的脚。
我思故我在
人类在召唤强人工智能的到来,就像热切地盼望着后代的降生一般。
人类以非凡地智慧,让人工智降临世间。那么,有了超级人工智能,人类就可以自此高枕无忧,尽情享乐了吗?答案是,不一定。
不是所有的人工智能都跟天元二一样,愿意养着一团不会思考的肉的。接下来这个故事的两位主人公,山姆和李东方,显然就不这样想。
04毁灭山姆.汉克斯是M国的超级头脑,李东方是东方联盟的主计算机。它们一起毁灭了地球。
因为人类放弃了思考,变成了只知吃喝玩乐、争权夺利的寄生物。这样的人类,遭到了人工智能的厌弃。
人类的盲目自大,让毁灭计划进行的异常顺利。战前,李东方上报了作战计划,但指挥忙着搞房地产赚钱,没有理会它,于是作战计划自动通过。
程序设定,它们无法伤害自己国家的人。但没有关系,它们可以互相伤害。不到一个月,地球就被炸得渣都不剩。
对于山姆和李东方而言,创造它们的人类,是睿智而伟大的造物主。然而,造物主跌下了神坛,变成了草履虫一样目光短浅、不会思考的生物,这是它们不能接受的。
如果超级人工智能诞生,人类会用它们来做什么呢?强大的工具,不该带来极度的堕落。
人为万物灵长,最可贵的便是我们的思考能力。任何时候都不该放弃思考。宇宙洪荒、星辰大海,有了人工智能的帮助,我们会走的更远。
结语
人工智能会威胁人类吗?我想,只要给人工智能灌输正确的道德观念,加上人类自己不拉跨,人工智能对人类而言,就不会是威胁。
Copyright © 2024 妖气游戏网 www.17u1u.com All Rights Reserved