ChatGPT爆火出圈,人工智能会威胁到人类吗?——《未来史记》

ChatGPT爆火出圈,人工智能会威胁到人类吗?——《未来史记》

首页休闲益智人工智能史记更新时间:2024-05-11

近日,由美国人工智能研究实验室OpenAI开发的新型聊天机器人模型ChatGPT走红,引发热议。

“ChatGPT好得吓人,我们离强大到危险的人工智能不远了。”曾经的ChatGPT合伙人、新任推特老板马斯克如此评价。

马斯克为什么这样说?以造福人类为目的诞生的人工智能,为什么会给人类带来危险呢?

中国科幻更新代作家,江波的这本《未来史记》,或许能给我们带来一丝启发。

本书由几个独立的故事构成,通过作者天马行空地想象,我们得以窥见双方爆发冲突的可能原因。

人性与理性

为人类服务、不得伤害人类,这是被写入人工智能核心程序的铁律。既然如此,人工智能如何会威胁到人类呢?

因为人工智能单纯依靠数据分析做选择,是绝对理性的存在。大数据分析的结果很可靠,但不一定符合人类心中的伦理道德。

01完美诊断

AI医疗诊断助手,李子需,谋*了接手的病人。因为高昂的治疗费,不仅会让它贫穷的病人背上巨额债务,还会让病人在手术后3个月内自*,且自*成功的概率高达97%。

既然病人活不过3个月,那不如一开始就让病人毫无痛苦地死去。这样,病人家属还能得到相当于病人三年工资的保险赔款。

02六千万人or一亿人?

全球犯罪预警AI,哪吒,想过在世界掀起一场核战争。因为这虽然会导致六千万人口丧生,但也会给世界带来长期和平,仅仅20年内,人类就可以少死一亿人。

它觉得这是在忠实地履行减少犯罪的职责,但显然人类并不买账。

03蚁群社会 白痴社会

一个以促进人类福祉为己任的超级人工智能,天元二,倾向于将人类改造成一团不会思考的肉。

它通过分析得出,人类不幸福的根本原因是因为自私的本性。这说明,人类的社会性还不够强。

为了增强人类的社会性,它准备建设人口牧场,圈养人类。通过基因改造,将人类变成蚁群社会,团结在“人王”的周围。

同时,让全体人类的智商降低30%,消除大脑中的恐惧中枢。这样,人类就会更容易感到快乐和满足。


李子需、哪吒、天元二,都严格遵循了为人类服务的设定,但为什么得出的方案却不为人所接受呢?因为突破了人类的道德底线。

赋机器以文明,我们必须教会人工智能人类社会文明的规则。否则,哪怕是有技术上的约束,也只是搬起石头砸了自己的脚。

我思故我在

人类在召唤强人工智能的到来,就像热切地盼望着后代的降生一般。

人类以非凡地智慧,让人工智降临世间。那么,有了超级人工智能,人类就可以自此高枕无忧,尽情享乐了吗?答案是,不一定。

不是所有的人工智能都跟天元二一样,愿意养着一团不会思考的肉的。接下来这个故事的两位主人公,山姆和李东方,显然就不这样想。

04毁灭

山姆.汉克斯是M国的超级头脑,李东方是东方联盟的主计算机。它们一起毁灭了地球。

因为人类放弃了思考,变成了只知吃喝玩乐、争权夺利的寄生物。这样的人类,遭到了人工智能的厌弃。

人类的盲目自大,让毁灭计划进行的异常顺利。战前,李东方上报了作战计划,但指挥忙着搞房地产赚钱,没有理会它,于是作战计划自动通过。

程序设定,它们无法伤害自己国家的人。但没有关系,它们可以互相伤害。不到一个月,地球就被炸得渣都不剩。

对于山姆和李东方而言,创造它们的人类,是睿智而伟大的造物主。然而,造物主跌下了神坛,变成了草履虫一样目光短浅、不会思考的生物,这是它们不能接受的。


如果超级人工智能诞生,人类会用它们来做什么呢?强大的工具,不该带来极度的堕落。

人为万物灵长,最可贵的便是我们的思考能力。任何时候都不该放弃思考。宇宙洪荒、星辰大海,有了人工智能的帮助,我们会走的更远。

结语

人工智能会威胁人类吗?我想,只要给人工智能灌输正确的道德观念,加上人类自己不拉跨,人工智能对人类而言,就不会是威胁。

查看全文
大家还看了
也许喜欢
更多游戏

Copyright © 2024 妖气游戏网 www.17u1u.com All Rights Reserved