一面是狂欢，一面是背叛。
文 | Eva
微信朋友圈、微博、抖音……过去一周的各大社交媒体平台上，商量好了一样地纷纷“中邪”，一打开，就仿佛捅了蚂蚁窝，尽是“蚂蚁呀嘿，蚂蚁呀呼，蚂蚁呀哈，蚂蚁呀哈哈......”的洗脑魔音，搭配夸张扭动的变脸视频。
原来，网友们只需将照片导入一款名为Avatarify的AI换脸软件中，这些照片即会被算法驱动，变成一段跟着节奏晃动的视频。灵魂BGM、反差萌效果、傻瓜式操作，勾得众人心痒难耐，争先恐后地上阵一试。
可惜好景不长。火爆全网的Avatarify软件从2月底冲上苹果App Store免费榜第一，到3月2日凌晨从App Store中国区悄然下架，只存活了寥寥数天工夫。目前，官方尚未给出具体下架原因，而业界与网友猜测该款软件或涉及隐私安全及版权等问题。
为什么是Avatarify火了？
Avatarify这款软件一度火到什么程度？
据东方网，移动应用数据分析平台七脉数据显示，2月25日0点，Avatarify在中国区App Store的免费App榜单仅排名第65，而到了当日下午5点，Avatarify蹿升至免费榜第一名，并一直持续到3月1日。
直到3月5日，抖音#蚂蚁呀嘿#相关话题播放总量已超29亿次，特效被 785 万人使用。
四大天王版“蚂蚁呀嘿”
德云社版“蚂蚁呀嘿”
据悉，Avatarify的名称来源于“阿凡达”电影，创作者是一位开发工程师，最初只是因为疫情期间太过无聊，才开发了这款变脸应用并将其开源。
事实上，Avatarify早在去年7月就已经上线，但一直不温不火，直至“蚂蚁呀嘿”特效蹿红，这款软件方出了圈、上了天。
此处简单科普下：AI如何让人脸跟着音乐挤眉弄眼动起来？这里头需要一个叫做一阶运动模型 （First Order Motion Model）的技术来搞定，其原理借鉴了意大利特伦托大学的一项入选了“NIPS（Neural Information Processing Systems，神经信息处理系统大会，是一个关于机器学习和计算神经科学的国际会议）2019”的研究。
在此之前，这种AI特效必须具备一定的计算机能力才可以实现。比如，一张名人照片和一个你说话的视频，就可以让梦露学你说话。
还有，印度程序员开发的实时动画特效。你一动，蒙娜丽莎跟着你一起动。
而这回的Avatarify，让不会编程的人也能爽到，难怪让网友如此疯魔。
为什么Avatarify又凉得这么快？
另有媒体报道指出，Avatarify采用的技术，与早前国外一款开源的AI换脸软件“DeepFakes”极为相似。“DeepFakes”的核心技术是一种名为生成式对抗网络（GAN）的框架，该网络有两个模块，一个负责生成伪图，另一个负责鉴别生成图片的质量，通过“对抗博弈”的方式不断进化，达到以假乱真的水平。
注意，2017年Reddit上的“DeepFakes”账号，上传了把女星盖尔·加朵的脸合成到成人影片女演员身上的视频，给受害者直接带来名誉损害，曾掀起轩然大波。后续的DeepNude应用，亦可以通过换脸来间接脱掉女性的衣服。而随着桌面应用程序FakeApp的出现，普通网民也能简单制作换脸假视频，互联网上的假脸视频开始广泛流传。有人把AI换脸技术用来恶搞政客，录制出以政客面容发表离谱演讲的视频等等，一时乌烟瘴气，最终导致多个网站禁止用户使用这项技术。到了2019年，一款陌陌系出品的AI换脸软件“ZAO”再掀是非：用户只要上传自拍照，便可将自己“变成”影视片段的主角，并将这些“换过头”的视频片段，上传各大社交平台，引发病毒式传播。此后，鉴于用户隐私协议不规范，存在数据泄露风险等网络数据安全问题，“ZAO”凉得挺快，被工信部约谈。
许多人猜测，Avatarify从中国区App Store下架，大概是在复制“ZAO”的可悲命运，即一旦涉及隐私安全等问题，基本要凉。
央视新闻已指出，类似“蚂蚁呀嘿”这样的特效，存在相应的风险。在采访中，演示人员特意为记者演示了如何利用深度合成中的表情操纵方法的安全漏洞，攻击人脸识别系统。
演示人员：您现在看到的这段视频，就是利用深度合成中的表情操纵的方法生成的一段伪造的视频。就是说我们可以操纵一张图片，让它做出和右边这个视频一样的动作来。比如说点头、摇头、说话。可以用于攻击人脸识别系统的这种场景当中。
记者：我们能看一下具体的攻击过程吗？
演示人员：我们可以生成系统指令的这些，张嘴、点头、摇头之类的指定的动作，然后最终我们就可以冒充这个人完成了人脸验证的环节。记者：也就是说我们只需要这个人的一张照片，就可以冒充他，然后攻破这个系统。 演示人员：是的。
但是，目前在App Store上，还有一批“蚂蚁呀嘿同款特效”的App。
近年来，围绕人脸识别的争议不断。由全国信息安全标准化技术委员会等机构发布的《人脸识别应用公众调研报告（2020）》显示，有九成以上的受访者使用过人脸识别，有六成受访者认为人脸识别技术有滥用趋势，还有三成受访者称已经因为人脸信息被泄露和滥用而遭受到隐私或财产损失。
用户的个人信息安全问题已经引起了有关部门的重视。2019年11月底，国家网信办、文旅部和广电总局等三个部门联合发布了《网络音视频信息服务管理规定》。
其中第九条指出，任何组织和个人不得利用网络音视频信息服务以及相关信息技术从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益等法律法规禁止的活动，不得制作、发布、传播煽动颠覆国家政权、危害政治安全和社会稳定、网络谣言、淫秽色情，以及侵害他人名誉权、肖像权、隐私权、知识产权和其他合法权益等法律法规禁止的信息内容。
第十一条指出，网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识。网络音视频信息服务提供者和网络音视频信息服务使用者不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息。转载音视频新闻信息的，应当依法转载国家规定范围内的单位发布的音视频新闻信息。
第十三条指出，网络音视频信息服务提供者应当建立健全辟谣机制，发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的，应当及时采取相应的辟谣措施，并将相关信息报网信、文化和旅游、广播电视等部门备案。
在近日召开的全国政协十三届四次会议新闻发布会上，大会新闻发言人郭卫民也表示，个人信息保护法草案已经提请全国人大常委会审议，对保护个人信息安全将发挥重要作用。
最后，用户本身，今后也还是需要多长个心眼：在使用一款带来狂欢的软件时，是否已不知不觉将自己“出卖”？坑总是会有的，是谁加挖了一铲子，再毫无戒备地跳了下去？
综合网络素材
· 惊！这几款润唇膏竟会影响生育能力，你可能正在用......·寻物 | 一大波美食纪录片正在催肥干饭人的路上·好戏 | 42岁戏剧人存款2万，为何还要坚持？
新民周刊所有平台稿件， 未经正式授权一律不得转载、出版、改编，或进行与新民周刊版权相关的其他行为，违者必究！
