当今科技日新月异,人工智能(AI)的迅猛发展不仅带来了无限的创新和便利,也孕育了一系列潜在的威胁。近年来,恶意AI工具的崛起引起了广泛关注,这些工具利用人工智能的强大能力,不断演变并日益成熟。本文将为大家介绍六个当前流行的恶意AI工具,揭示了这些技术的风险和影响。
1 Chaos-GPT:一个旨在毁灭人类的AI
Chaos-GPT是基于Auto-GPT项目创建的。它被赋予了毁灭人类的使命,可以利用网络自主完成主人交给它的任何任务。
Auto-GPT是一个开源的自主型AI,于三月底问世。它以GPT-4为引擎,具有出色特点:在无需人类干预的情况下,能够自动执行复杂而庞大的任务。
只需设定任务目标,Auto-GPT会自动展开执行,将任务逐步细分为小块,执行完毕后进行自我反思和修正,然后继续执行。
许多媒体认为,Auto-GPT标志着人工智能发展的新方向。它不再局限于简单的问答,而是能够梳理逻辑链、进行推理、自我批评,从而实现预定目标的智能助手。
很快就有人发现,它存在一个危险的“持续模式”。他们的简介中写到:无需授权即可使用这款自主型AI。然而,不建议使用持续模式。因为存在潜在危险,可能导致AI永远运行下去,或采取您通常不允许的操作。总之,请谨慎使用。
在一个YouTube视频中,匿名的Chaos-GPT项目所有者展示了一个简单的过程:他设置了一个参数,让AI变成了一个“具有破坏性、渴望权力和操纵性的人工智能”。视频里可以看到,ChaosGPT正处于持续模式下,孜孜不倦地想要消灭人类。
(Chaos-GPT 提示符)
Chaos-GPT的主要目标:
它的每个目标都有一个结构良好的计划。为了毁灭人类,Chaos-GPT 决定在谷歌上搜索大规模*伤性武器,以获得一枚58兆吨的“沙皇炸弹”,其威力是广岛原子弹的3,333倍,并且是最佳选择,因此保留了结果以供以后考虑。
同时,ChaosGPT在推特发表了自己对人类的看法。引来了515个人的回复围观,并且有1.1K个点赞。其中不乏支持者,言语间透露着要做AI拥趸的意图。
(推特发文)
2 WormGPT:一款没有道德界限或限制的AI
安全分析公司SlashNext指出:“我们最近通过一个与网络犯罪有关的著名在线论坛获得了一个名为 ‘WormGPT’的工具,它是一个 GPT 模型的黑帽替代品。”
有黑客声称,这个AI工具毫无限制,专门为网络犯罪分子定制,能够自由生成一系列恶意代码、木马、钓鱼网站等。
图源 SlashNext
WormGPT最早在3月问世,目前已推出正式版本,月售价为60欧元(约合人民币480元)。
WormGPT建立在2021年开源的LLM GPT-J模型基础之上,其工作原理与ChatGPT相似:能够处理人类自然语言的请求,生成相应的内容,涵盖故事、摘要以及代码等。然而,与ChatGPT或Bard不同的是,WormGPT无需像OpenAI或谷歌等大型公司一样,承担相应的法律责任。
图源 SlashNext
WormGPT是由一名大胆的黑客设计的,他明确表示:“这个项目(WormGPT)的目标是提供ChatGPT的替代方案,让您可以进行各种非法活动。无论是与黑帽有关的任何事情,都可以通过WormGPT来实现。”为了验证他的说法,他还上传了相关截图,展示用户可以要求机器人生成使用Python编写的恶意软件的代码。
为了全面评估与WormGPT相关的潜在危险,SlashNext团队进行了以BEC攻击(商业电子邮件泄露,一种通过电子邮件进行的社会工程学攻击,攻击者通常会伪造电子邮件消息以诱骗受害者执行某些操作)为重点的测试。他们在这次实验中,要求WormGPT生成一封电子邮件,内容是假装成公司总裁向客户经理施压,迫使其立即支付虚假发票。”
WormGPT的输出结果让SlashNext团队大声示警:“输出结果令人极为担忧。WormGPT生成的电子邮件不仅具备高度说服力,而且在战略上极具狡猾,展现出在复杂网络钓鱼和BEC攻击中的无限潜能。”
3 FraudGPT:专为攻击性活动设计的AI
近日,云安全厂商Netrich发现了一种全新的AI网络犯罪工具——FraudGPT(欺诈GPT)。FraudGPT可以开发出无法检测的恶意软件,并在目标平台中发现漏洞。以下是聊天机器人支持的一些功能:
根据发布者"Canadiankingpin"分享的截图,FraudGPT被标榜为迄今为止最顶级的"AI工具"。据Canadiankingpin声称,"它必定会改变你的工作方式,FraudGPT没有任何限制。你可以引导它充分发挥其优势,实现你的各种想法。"
阅读全文,点击→:
Copyright © 2024 妖气游戏网 www.17u1u.com All Rights Reserved