播放量29亿，785万人使用！从爆红到下架，“蚂蚁呀嘿”只用了7天

导读：一款名为Avatarify，火爆全网的AI换脸软件，从2月底冲上苹果App Store免费榜第一，到3月2日凌晨从App Store中国区悄然“下架”，只用了不到一周的时间。

目前官方未给出具体下架原因，业界猜测该款软件可能涉及隐私安全等问题。

来   源丨北京日报、东方网、每日经济新闻(博客,微博)、中国商报、央视新闻等

“蚂蚁呀嘿，蚂蚁呀呼，蚂蚁呀哈，蚂蚁呀哈哈......”过去一周，在微信朋友圈、微博、抖音等社交媒体平台，相信不少人都被这个魔性的音乐配合着夸张扭动的变脸视频刷屏了。

然而这款名为Avatarify，火爆全网的AI换脸软件从2月底冲上苹果App Store免费榜第一，到3月2日凌晨从App Store中国区悄然“下架”，只用了不到一周的时间。目前官方未给出具体下架原因，业界猜测该款软件可能涉及隐私安全等问题。

因“蚂蚁呀嘿”特效火爆全网

据东方网，移动应用数据分析平台七脉数据显示，2月25日0点，Avatarify在中国区App Store的免费App榜单仅排名第65，而到了当日下午五点，Avatarify蹿升至免费榜第一名，并一直持续到3月1日。

直到3月5日，抖音#蚂蚁呀嘿#相关话题播放总量已超29亿次，特效被 785 万人使用。

据东方网，Avatarify的名称来源于“阿凡达”电影，创作者是一位开发工程师，最初只是因为疫情期间过于太无聊，才开发了这款变脸应用并将其开源。其实Avatarify早在去年7月就已经上线，但一直不温不火，直至”蚂蚁呀嘿“特效蹿红后，才带火了这款软件。

这款软件通过AI换脸技术让图片动起来，为网友带来新奇好玩的娱乐体验，同时，蚂蚁呀嘿短视频的灵魂在于BGM，为人物增加了反差效果，从马斯克、马化腾等科技公司大佬，吴京、甄子丹等演艺界明星，到蒙拉丽莎等世界名画，甚至猫猫狗狗们，都唱起了“蚂蚁呀嘿”。

软件运行的原理是将别人的脸套在自己的表情上进行实时驱动。用户只需要三步：导入手机里的人脸图片，选择视频模板，软件就能自动生成短视频，再一键保存即可。如果想要照片中的多人都动起来，根据抖音中大多数视频制作教程，则还需要一些剪辑软件加以辅助。

据中国商报，目前的换脸技术与国外一款开源的AI换脸软件deepfake极为相似。deepfake的核心技术是一种名为生成式对抗网络（GAN）的框架，该网络有两个模块，一个负责生成伪图，另一个负责鉴别生成图片的质量，通过“对抗博弈”的方式不断进化，达到以假乱真的水平。

从中国区App Store下架

就在一众网友玩的兴起的时候，3月2日，在火爆了不到一周后，Avatarify却悄然从App store下架了。

关于下架原因，目前官方并未说明。有网友表示，Avatarify只从中国区App Store下架，其余地区仍可正常下载，下架原因或与此前火爆一时的“ZAO”下架原因类似，涉及隐私安全等问题。但目前在App Store上，还有一批“蚂蚁呀嘿同款特效”的App。

实际上，Avatarify遇到的问题早就出现过。

早在2019年，一款名为“ZAO”的换脸社交软件在朋友圈刷屏，这款App由陌生人社交巨头陌陌开发，用户只需要一张正脸照，就可以替换影视作品或者小视频中的人物，生成以自己为主角的视频片段。

不过，这项技术在带来创新体验的同时，也存在被滥用甚至侵害他人权益等额外风险，这也是Avatarify和ZAO引发质疑的共同原因。

虽然ZAO曾在其官方微博发布声明称，没有采集任何个人生物识别特征、不会存储个人面部生物识别特征信息、使用ZAO不会产生支付风险等，但依然无法打消用户的疑虑，并引起了有关部门的关注。ZAO的口碑遭遇“滑铁卢”。

值得注意的是，由于Avatarify采用的是免费下载+内购的形式，用户若想在生成的动图及视频中去除水印、增加内存，则需要付费。据了解，此前Avatarify一周的使用价格为人民币18元，包年价格为253元，首周免费。对于这个价格与服务，用户的接受度并不高。

赚钱的反倒是网店。尽管Avatarify被突然下架，大众对“蚂蚁呀嘿”类视频需求并没有因此减弱。据北京日报，目前在淘宝、闲鱼等平台上仍有这类视频的代制作服务。“很多人想用‘蚂蚁呀嘿’这样的视频上传抖音，但并不会花钱去买Avatarify，所以会托我们制作。”一位淘宝卖家表示，他们团队已经达到了10人，可以最快在30分钟内完成相关视频的制作，收费为一张9.9元。

AI换脸安全争议不可回避

据央视新闻，类似”蚂蚁呀嘿“这样的特效，也是存在相应风险的。

在采访中，演示人员为央视记者演示了如何利用深度合成中的表情操纵方法的安全漏洞攻击人脸识别系统。

演示人员 张天奕：您现在看到的这段视频，就是利用深度合成中的表情操纵的方法生成的一段伪造的视频。就是说我们可以操纵一张图片，让它做出和右边这个视频一样的动作来。比如说点头、摇头、说话。可以用于攻击人脸识别系统的这种场景当中。

总台央视记者 杜思源：我们能看一下具体的攻击过程吗？

演示人员 张天奕：我们可以生成系统指令的这些，张嘴、点头、摇头之类的指定的动作，然后最终我们就可以冒充这个人完成了人脸验证的环节。

总台央视记者 杜思源：也就是说我们只需要这个人的一张照片，就可以冒充他，然后攻破这个系统。

演示人员 张天奕：是的。

对于Avatarify的下架，有网友表示：“技术是好技术，但是应该有正确的使用规范。在没有规范的前提下应当谨慎使用。”“AI换脸最怕的就是被不法分子利用。”

人脸识别应用中，还会产生哪些安全问题？

以子之矛，攻子之盾。从事人工智能安全研究的专业人员，用攻击去暴露风险，再演练出针对性的防御技术，为人脸识别筑起安全防线。除了技术本身的风险，人脸识别在应用的过程中，还会产生哪些值得关注的安全问题呢？

清华大学人工智能国际治理研究院副院长 梁正：主要是三个方面的问题，第一是对个人隐私的这方面的担忧，泄露的问题。第二是安全的问题，不管是在这个金融交易，还有一些像家居生活这样一些方面。第三个其实是被滥用的方面的这个担心。

目前，有许多用户出于人脸信息被泄露的顾虑，对这一技术感到不信任。专家表示，相关立法已经在重点关注人脸数据的采集和管理。

中国人民大学未来法治研究院副院长 丁晓东：正在制定的个人信息保护法草案的一个规定，主要是规制专业的这些信息收集人员他对于个人人脸信息的采集，事先就要获取对方的同意。你的处理过程的话，你必须也是要赋予当事人如果不同意，可以随时撤回；而且你这个数据处理的话不得超过必要的限度，要保证这个数据的安全。

清华大学人工智能国际治理研究院副院长 梁正：数据的这个存储，其实也是一个比较重要的问题。大家可能比较担心的，就是跟泄露相关的，是数据你到底存在了哪里，这个存放的话是不是有足够的安全保障，一些这种数据库，就是几乎是放在公网上，属于裸奔的这种状态，很容易就攻破。

数据安全问题再次成为焦点

在昨天举行的全国政协十三届四次会议首场新闻发布会上，数据安全问题也再次成为媒体关注的焦点。全国政协委员、上海市信息安全行业协会会长谈剑锋也带来了相关的提案，这已经是谈剑锋委员连续第四年就相关问题提出建议。

谈剑锋委员表示，目前，我国合规应用的审评制度和操作细则不完善，数据垄断现象在客观上阻碍了数字经济的创新与发展。对此，谈剑锋委员建议，加快相关法规制度建设，严格规范和落实关键数据的采集、存储和使用。在法律框架下明确国家、集体、个人的数据权益，制定数据资源确权、开放、流通、交易相关制度，完善数据产权保护制度。

“我们要对互联网企业的信息采集进行严格的管理规定。”谈剑锋委员表示，要通过加强数据治理和数据监管，严控大数据的使用场景。“不得过度、无序、随意地采集用户数据。”

值得一提的是，在昨天举行的全国政协十三届四次会议首场新闻发布会上，有记者就刷脸数据安全进行了提问。大会新闻发言人郭卫民向广大媒体介绍了数据管理方面的“中国经验”。

郭卫民表示，一直以来，党和政府对个人信息安全和隐私保护问题十分重视。据了解，有关部门已经采取了一系列措施。

中央网信办、工信部、公安部、市场监管总局等部门开展了相关的工作，包括制定相关国家标准规范，指导督促企业平台，落实个人信息保护义务，开展了APP违规违法收集使用个人信息的专项治理。对公共安全视频的监控、人脸识别等手段的使用加强管理。

郭卫民介绍称，有关部门针对疫情防控过程中的个人信息收集问题，也印发了专门的文件进行规范检查。目前，《个人信息保护法（草案）》已提请全国人大常委会审议，法律的颁布和实施，也将对保护个人信息安全将发挥重要的作用。

国家曾发布相关管理规定

2019年11月底，国家网信办、文旅部和广电总局等三个部门联合发布了《网络音视频信息服务管理规定》，其中明确了“利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的应当及时采取相应的辟谣措施”等针对换脸技术的新规定。规定同时指出，利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识。且不得利用该技术“制作、发布、传播虚假信息”。此外，规定还强调，不得利用相关的音视频技术“侵害他人名誉权、肖像权、隐私权、知识产权和其他合法权益”。

近年来，围绕人脸识别的争议不断。由全国信息安全标准化技术委员会等机构发布的《人脸识别应用公众调研报告（2020）》显示，有九成以上的受访者使用过人脸识别，有六成受访者认为人脸识别技术有滥用趋势，还有三成受访者称已经因为人脸信息被泄露和滥用而遭受到隐私或财产损失。

任何AI技术的运用

都是人类科技发展进步的体现

但是在使用任何高科技和新手段的时候

一定要守住法律和道德的底线

大家在体验App的时候

更要多留一份心眼

不能只顾好玩而忽略了信息安全

及个人隐私的泄露问题

本期编辑 陈思 实习生 李立原

、

本文首发于微信公众号：21世纪经济报道。文章内容属作者个人观点，不代表和讯网立场。投资者据此操作，风险请自担。

（张洋 HN080）