如何识别AI生成的深度伪造图像?

如何识别AI生成的深度伪造图像?

首页动作格斗超级复古世界像素艺术制造商更新时间:2024-08-03

·肉眼分辨图片真假可以观察图中手指数量是否正常、眼神是否怪异、发丝看起来是否真实等。生成的照片通常存在光影瑕疵,缺乏曝光等照片基本参数。也可以观察牙齿清晰与否,缺乏单个牙齿的轮廓可能是辨别深度伪造的一个线索。

·更高效的方法是用AI对抗AI。OpenAI宣布将推出一款工具,用于检测由AI图像生成器DALL-E 3创建的图像。微软开发了一种身份验证工具,可以分析照片或视频,并对其是否被操纵给出评分。

生成式人工智能工具的兴起令欺骗性图片、视频和音频激增,如何识别AI生成的深度伪造图像?

像文生图工具DALL-E、Midjourney和文生视频工具Sora,只需要输入一个请求,系统就会输出图像和视频,深度伪造变得越来越容易,人们也越来越难以分辨真假。这些假图像可能看起来无害,但可以用来诈骗、操纵选举等。例如今年4月印度大选期间,两位宝莱坞演员批评印度总理莫迪的假视频就在网上疯传。

如何识别深度伪造?美联社给出了几个方法。在深度伪造早期,技术并不完美,经常会留下操纵迹象,例如照片中有6个手指的手、眼镜镜片形状不同等明显错误。但随着AI的进步,这种观察变得困难。咨询公司Latent Space Advisory创始人亨利·艾德尔(Henry Ajder)说,一些广为流传的建议,比如在深度伪造视频中寻找人们不自然的眨眼模式不再成立,不过仍有一些迹象可以寻找。一些人工智能深度伪造照片尤其是人物照片有一种电子光泽、“一种美学上的平滑效果”让皮肤看起来“非常光滑”。不过,艾德尔也表示,创造性的提示有时可以消除这种光滑效果以及其他AI操纵的迹象。

信也科技算法科学家吕强对澎湃科技(www.thepaper.cn)表示,要通过肉眼分辨图片是否为合成,可以重点观察图片中的细节,例如观察图片中的手指数量是否正常、眼神是否怪异、发丝看起来是否真实等,如果一个眼睛看前、一个眼睛看左就有问题。另外,生成的照片通常在光影上存在瑕疵,并缺乏照片基本参数,例如曝光等。

检查阴影和光线的一致性是识别方式之一,通常来讲,拍摄对象的焦点清晰,看起来栩栩如生,但背景中的元素可能没有那么逼真或被修饰过。如果图像中的公众人物做了一些看起来“夸张、不现实或不符合性格”的事,这也可能是深度伪造。此外,换脸是常见的深度伪造方法之一,据美联社报道,可以仔细观察脸部边缘,面部肤色与头部或身体的其他部位是否匹配。如果怀疑一个说话视频是深度伪造,可以观察嘴唇动作是否与音频完美匹配。艾德尔建议观察牙齿是清晰还是模糊、与现实生活中的样子是否一致。网络安全公司诺顿表示,算法可能还不够复杂,无法生成单个牙齿,因此缺乏单个牙齿的轮廓可能是辨别深度伪造的一个线索。

不过,人工智能发展迅速,大模型正在接受训练,以生产质量越来越高、缺陷越来越少的内容,所以不能保证这些建议在一年后仍然有效。更高效的方法是用AI对抗AI。吕强表示,利用AI的方式识别,首先需要构建一个包括真图和假图的训练数据集,再利用大模型学习两类图片的不同特征,例如用AI学习图片曝光细节,“一张很灰暗的图片出现了一张整体偏白的人脸,这张图片可能就是经过人脸替换的。但有些人对光线不敏感,人眼可能就识别不出来。”当大模型拥有了各类细节的识别能力后,“把这些能力汇总起来,就构成了一个真假图片的辨别矩阵,然后对矩阵结果打分,最终给出来一个真假图片的评判结果。”不过,他也表示,利用AI识别生成图片,算法复杂度并非难点,挑战在数据。“第一可能没有那么多假样本,第二要想让假样本覆盖到很多领域也有挑战。”

目前,微软开发了一种身份验证工具,可以分析照片或视频,并对其是否被操纵给出评分。OpenAI最近也宣布将推出一款工具,用于检测由AI图像生成器DALL-E 3创建的图像。OpenAI表示,在内部测试中,该工具在98%的时间内正确识别了DALL-E 3生成的图像,并且可以最小的影响处理常见修改,如压缩、裁剪和饱和度变化。此外,OpenAI还加入了一个包括谷歌、微软和Adobe在内的行业组织,并计划提供一个有助于追踪不同媒体来源的标准。芯片制造商英特尔的FakeCatcher则使用算法分析图像像素来确定真假。据CNN今年2月报道,Meta也在努力识别和标记共享在其平台上的由第三方工具创建的AI生成图像。

在国内,商汤数字水印技术可将特定信息嵌入到多模态的数字载体中,支持图像、视频、音频、文本等多模态数字载体,可以隐蔽嵌入水印信息,不影响原始内容质量和用户感知,同时抵御攻击,以免被删除或修改。商汤科技表示,数字水印技术可用于版权保护、防伪溯源等场景,在裁剪、压缩等不同程度干扰下,能保证超过99%的水印提取精度,且不会损失画质精度而影响数据质量。

查看全文
大家还看了
也许喜欢
更多游戏

Copyright © 2024 妖气游戏网 www.17u1u.com All Rights Reserved