ITPub博客

首页博客专栏学院社区 IT新媒体评选

发博

首页 > > > 要不要ZAO起来？！AI换脸软件一夜刷爆，也引来黑产质疑

要不要ZAO起来？！AI换脸软件一夜刷爆，也引来黑产质疑

作者：u_453e1a12781dea 时间：2019-08-31 20:09:55 0 删除编辑

点击▲关注 “CU技术社区” 给公众号标星置顶

更多精彩第一时间直达

来源：梨视频、新浪微博、网易新闻等

8月30日晚，一款名为"ZAO"的AI换脸软件在社交媒体刷屏，户只需要一张正脸照就可以将视频中的人物替换为自己的脸。天眼查数据显示，该款软件实为陌陌旗下的App。同时AI换脸技术也被用在情色视频黑色产业链中，从而引发质疑。

一款名为“ZAO”的换脸软件在朋友圈刷屏，据了解，ZAO使用AI技术，用户只需要一张正脸照，就可以替换为影视作品或者小视频中的人物，生成以自己为主角的视频片段。

不过，在一夜刷屏之后，ZAO的用户协议条款却引发网友争议，部分人呼吁大家不要盲目跟风。

根据ZAO用户协议内容中的必要授权协议：用户上传发布内容后，意味着同意授予ZAO及其关联公司以及ZAO用户在“全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”，“包括但不限于可以对用户内容进行全部或部分的修改与编辑（如将短视频中的人脸或者声音换成另一个人的人脸或者声音等）以及对修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利”。

该项条款包括但不限于：人脸照片、图片、视频资料等肖像资料中所含的用户或肖像权利人的肖像权，以及利用技术对其肖像进行形式改动。

微博上有网友担忧，“非法收集面部信息”“万一哪天被黑客把数据库给拿走了，你的支付宝分分钟可以被盗刷，你们自己看着吧。”

同时，也有观点表示，“正确的人工智能方向，是应该更好的为人类服务，而不是让人们陷入‘AI幻想’，活在虚幻的网络世界里。”

据ZAO官方微博介绍，这个月（8月份）花700万租的服务器，昨晚已经消耗了1/3。可见其火爆程度。

天眼查信息显示，ZAO所属公司为长沙深度融合网络科技有限公司，法定代表人为陌陌联合创始人兼游戏业务部总裁雷小亮，由海南猫咖网络科技有限公司100％控股。而后者由雷小亮和陌陌董事、总裁及COO王力各持股50%。

AI换脸早在2017年就火爆全球

其实，AI换脸视频并不是新鲜事了。

早在2017年12月，国外某ID名为“deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频发布在了网络上，它能够把照片和视频中的人脸替换成任何想要替换的人脸，且效果十分逼真，有些肉眼甚至难以分辨真假。

▲deepfakes在Reddit上上传的部分换脸视频

当时，“deepfakes”把情色电影里的女主角换成了盖尔·加朵等好莱坞明星，这也是世界上所有人们第一次公开见识到AI换脸的强大。

随后，由于大量受害者的投诉，Reddit论坛迫于压力封杀了“deepfakes”的账号，不过这次封杀却让“deepfakes”直接开源了其AI换脸项目的代码。

在代码开源后，AI换脸技术已经有如普罗米修斯盗来的火种，一瞬间撒遍了世界各地。只要具备基础的电脑知识，即使一个“菜鸟”也能在几个小时内做出一部换脸视频，该项技术立刻风靡全球。

人们为了纪念“deepfakes”，就采用它的ID命名了AI换脸技术，称之为“deepfakes”。

而AI换脸真正在国内火起来还要说今年年初，B站UP主“换脸哥”发布的一段94版射雕英雄传视频。

▲饰演黄蓉的朱茵的脸被替换成杨幂

视频中，原本饰演黄蓉的演员朱茵的脸被用“deepfakes”技术替换成了杨幂的脸，从流出的视频和动图看，虽然是用AI合成的，但是整体效果十分逼真。

AI换脸技术火爆，背后隐忧重重

当下，AI换脸技术已经蓬勃爆发，并且被一再恶意使用。

国内外都有用户使用该技术进行明星人物的换脸恶搞、甚至生成虚假视频——比如今年6月时，Facebook首席执行官马克•扎克伯格的一段被篡改过的视频浮出水面，在视频中他对该公司的用户数据隐私提出了质疑。

▲扎克伯格视频被篡改

在这些事件发生后，扎克伯格上个月在Aspen Ideas Festival上向观众讲述了Facebook正在考虑制定应对deepfakes的政策。

更有甚者，目前AI换脸黑产已经在国内形成了完整的产业链，从下游成品情色视频、中游定制视频到上游软件及教程都有提供，有的卖家甚至提供全产业链产品和售后服务。

据部分卖家透露，现在定制视频要排队，因为前面有很多人也有这个需求，可见AI换脸黑产已经发展到一定程度。

对于目前火爆的ZAO软件，智东西也有两大疑问：

1、视频素材的版权如何保证？

视频素材的版权是个关键点，软件的版权声明中说：

“ZAO产品上存在的短视频和表情等素材，除了特别声明是ZAO跟合作方进行版权合作的之外，均来源于ZAO用户自发的上传，ZAO不享有素材的商业版权。”

很少有看到有特别声明的素材，言下之意说素材都是用户传的，这有甩锅的嫌疑。

但奇怪的是，在上传素材的菜单下，显示上传素材需要通过权限认证，但认证并没有开放，灰色按钮显示“暂停申请”，那现有的这些用户上传的素材是哪来的呢？

2、如何保障用户隐私，不被随意换脸

虽然APP在开始时需要进行活体验证，且软件的长长隐私保护协议对可能对用户隐私有影响的地方做了说明，但是否能完全避免用户拿到一张别人照片后恶搞存疑。

你怎么看？欢迎留言探讨。

你「在看」吗？

原文作者：；如有侵权，请联系管理员删除。

上一篇：记得学会思考，而不只是编程~

下一篇：好的程序员到底好在哪里？

请登录后发表评论登录

全部评论

u_453e1a12781dea

注册时间：2019-07-17

博文量
1982
访问量

17885

最新文章

北京盛拓优讯信息技术有限公司. 版权所有京ICP备16024965号-8 北京市公安局海淀分局网监中心备案编号：11010802021510 niuxiaotong@pcpop.com 17352615567 未成年人举报专区

广播电视节目制作经营许可证(京) 字第1234号中国互联网协会会员

违法和不良信息举报电话:18101376593