“ZAO”化弄人的AI换脸
发布时间：2019-11-12 11:23:32 来源于：CBF聚焦网
摘要：9月3日，针对媒体公开报道和用户曝光的“ZAO”App用户隐私协议不规范等网络安全问题，工信部对陌陌公司相关负责人进行了约谈，要求开展自查整改。不到一周，从爆红刷屏社交圈到深陷舆论旋涡，AI换脸App“ZAO”经历了大起大落。
9月3日，针对媒体公开报道和用户曝光的“ZAO”App用户隐私协议不规范等网络安全问题，工信部对陌陌公司相关负责人进行了约谈，要求开展自查整改。不到一周，从爆红刷屏社交圈到深陷舆论旋涡，AI换脸App“ZAO”经历了大起大落。
因用户协议涉嫌过度收集用户信息、及隐私安全争议，AI换脸软件ZAO火速发布致歉声明，将自己再次送上了微博热搜。
据工业和信息化部官网消息，9月3日，针对媒体公开报道和用户曝光的“ZAO”App用户隐私协议不规范，存在数据泄露风险等网络数据安全问题，工业和信息化部网络安全管理局对北京陌陌科技有限公司相关负责人进行了问询约谈。
ZAO 属于陌陌系
工业和信息化部网络安全管理局要求，相关负责人严格按照国家法律法规以及相关主管部门要求，组织开展自查整改，依法依规收集使用用户个人信息，规范协议条款，强化网络数据和用户个人信息安全保护。
同时，要进一步加强新技术新业务安全评估，切实采取有效措施，积极防范自有业务平台被利用实施电信网络诈骗等风险隐患。
工业和信息化部网络安全管理局将进一步加大工作力度，指导督促相关企业切实履行法律责任，认真做好网络数据和用户个人信息安全保护、行业电信网络诈骗防范治理等工作。
启信宝数据显示，ZAO的运营主体为长沙深度融合网络科技有限公司，其成立于2017年9月20日，最终受益人为王力、雷小亮，二者分别为陌陌公司董事、联合创始人。2019年7月，长沙深度融合网络科技有限公司发生股东变更，北京陌陌科技有限公司退出，新增海南喵咖网络科技有限公司（王力、雷小亮各持股50％），并由其100％控股。
目前，海南喵咖网络科技有限公司的部分股权处于出质状态，质权人为北京壹六零二信息技术有限公司，后者为北京陌陌信息技术有限公司的全资控股公司。
也就是说，ZAO为陌陌旗下产品。
据媒体报道，ZAO是“陌陌深度学习实验室”的诸多尝试之一。“陌陌深度学习实验室”最早成立于2016年，一直在做人脸、人体、AI相关的尝试，承担的是陌陌对于创新业务的基础创新业务。
∧ZAO为陌陌旗下产品
自去年5月份收购探探后，陌陌在陌生人社交领域已经占据了绝对优势。与此同时，陌陌也在积极筹备进军私人社交的产品。
8月30日，在ZAO上线几小时后，ZAO官方助手在官微上发布一条动态，“你们要记得，ZAO的精髓在于加好友玩。过几天你们就会懂。”
很明显，这是擅长做陌生人社交的陌陌，在私人社交领域的又一次探索。
AI换脸不是新事物
对于很多“资深”网络用户来说，AI换明星脸并不陌生，很多人第一次看到这个技术是在今年年初，有人将《射雕英雄传》中朱茵的脸换成杨幂，并发布到网上，彼时网友惊呼“几乎毫无违和感”。
对于更熟悉人工智能的群体来说，AI换脸在国外已经火了好几年了。在2017年，一位用户名为deepfakes的程序员通过AI工具、机器学习算法，将明星的脸与色情视频演员的脸进行交换，很多欧美知名的女明星都曾中招。
由于受害者的投诉和大量的质疑声，deepfakes账号被封杀，但事态演变方向越来越严重，这项技术的代码直接被开源放到了GitHub上，AI换脸技术也由此被命名为“deepfakes”。
∧对于更熟悉人工智能的群体来说，AI换脸在国外已经火了好几年了
如今，通过开源工具，更衍生出了fakeapp、faceswap，、deepfacelab、deepnude等一系列AI换脸、AI脱衣程序。尽管这些网站声明只涉及AI技术的研究，不会滥用传播涉及色情、政治等违法音视频文件，但AI换脸背后所涉及到隐私、版权、伦理的恶性事件正在大量发生。
“ZAO”官方并没有表示其AI换脸技术开源自deepfakes，但二者却有不小的相似性。而且，“ZAO”作为手机应用程序出现，用户不需要会写程序，不需要用电脑下载软件即可实现换脸，AI换脸的操作门槛大大降低，也意味着违法视频的制作难度也在降低。
“无论是社交、支付还是其他验证环节，刷脸的普及仍在初级阶段”，行业内人士认为，从“刷脸时代”到来的整个进程来看，ZAO的爆火具有更宏观的意义，让更多用户开始认识到人脸数据的重要性。
由此引发的讨论或许能在一定程度上提高更多用户对人脸数据的敏感度，并建立准确而理性的认知，做好“刷脸”的准备。这种讨论也会督促企业和监管进行针对性的调整。让所有涉及生物信息数据的公司，都必须在开发这类应用时更为慎重，承担应尽的责任。
法律风险待解决
ZAO所提供的视频换脸功能是此前App所没有的。借助于ZAO，用户可以将某段视频主角替换成自己或他人脸部。但这项功能在法律上有多重风险，某种意义上，ZAO先行于现有法律法规。
“关于用户生物信息、面部信息保护目前还没有一个明确具体的细则进行保护，我们主张肖像权的保护还是基于现有法规。人脸信息立法也是可以跟上的。一个人可以有几万张照片，但一个人的指纹信息、瞳孔信息是有唯一性的。”北京炜衡律师事务所律师李昆蔚表示。
李昆蔚同时指出，“AI换脸技术在法律上有很多障碍，第一是肖像权，在没有经过公众人物允许下把他的脸进行变换涉嫌侵犯公众人物的肖像权；第二是著作权，把一部视频作品进行变脸修改了其中素材，但著作权法规定著作权人有保护作品完整权和作品不被他人任意修改和改编的权利；第三，换脸技术或许会对造谣、诽谤等潜在违法犯罪行为提供技术手段和技术辅助。”
值得注意的是，曾有人用照片PS来证明视频换脸并不会为违法犯罪提供辅助。但在李昆蔚看来，照片可信度和视频可信度完全不同，AI换脸尚处在初级阶段已经可以产生以假乱真的效果，如果发展得稍为精细，可能会带来更大的影响。
“AI换脸技术本身是没有错的，它如果有限使用，例如用在电影行业是很好的。但如果推广到每个人都可以用它的技术，那可能会产生潜在的违法犯罪问题。真正普及开来这三个法律问题是必须要解决的。如果没有解决就把它拿出来使用，这是对公众不负责任的一种表现。”李昆蔚称。
事实上，关于互联网用户隐私安全问题，业界早有关注。
渤海证券研报指出，当前全球在线文件暴露问题日益严重，外部存储数据量的增加给原有的数据安全策略带来了新的挑战，预计未来3年会有更多企业和政府机构在防止隐私泄露和保护个人数据上加大投入。
新智元创始人兼CEO杨静表示，AI换脸并非新鲜事，支持这种场景的机器学习技术——Deepfakes已经相当成熟。在该项技术的发展过程中，也存在一些争议，AI换脸是否会侵犯到用户隐私和信息安全备受关注。
不过，杨静也指出，“道高一尺，魔高一丈”，技术进步也会推动科技向善。为了保障AI换脸等场景的安全性，国内外的研究者和团队也推出了AI防伪克星、AI侦测工具等AI“打假武器”。此外，AI技术进步驱动行业升级和效率提升，但要高效安全地运用AI技术，法律的进一步完善、监管部门的规范管理、用户的隐私保护意识缺一不可。
从“换脸”到“深裸”
随着Deepfakes技术的不断成熟，很多基于这一技术的App应运而生。比如，一款名为DeepNude（深裸）的App宣称能实现“一键脱衣”，它再次把AI技术应用中的法律伦理问题推到台前。它的操作十分简单，只要提供一张人像照片，等待30秒，就能得到一张裸照。由于风险超出可控范围，研发团队在产品上线几天后便匆忙下架了该产品。
“我们启动这个项目是出于娱乐的目的……从没想过它会像病毒一样扩散。我们不希望通过这种方式挣钱……从现在开始，不再放出任何版本，也不会授权任何人使用。” DeepNude团队6月27日公开声明道。
教育科技公司Coursera联合创始人、美国斯坦福大学计算机科学教授、“百度大脑”原负责人吴恩达也在推特上公开批判，称“DeepNude是AI技术最糟糕的应用之一”，AI技术的超级力量应该被用到推动世界发展的项目中。
除了侵权问题，还有网友担心，既然人脸识别已经在支付场景得到应用，面部信息泄露，是否会导致账户被盗刷？对此，支付宝安全中心8月31日发布公告：“不管换脸软件多逼真，都无法突破刷脸支付。”
支付宝安全中心表示，刷脸支付采用的是3D人脸识别技术，在进行人脸识别前，也会通过软硬件结合的方式进行检测，来判断采集到的人脸是否是照片、视频或者软件模拟生成的，能有效地避免各种人脸伪造带来的身份冒用情況。
瑞士科学家在一篇论文中就首次对人脸识别方法检测Deepfake的效果进行了较为全面的测评，尝试用最前沿的人脸识别系统去识别假视频，结果错误率高达95%。
《人民法院报》官网微博评论道：“试用任何一款新型软件的时候一定要认真阅读用户协议，多留个心眼，保护好自己的各项权益。”
“我不知道我们能否为此做好充分准备，但是我们还可以做更多的工作，确定敌人的计划和意图，尽早找出并揭露它，告知公众他们需要关注什么，应当做什么，而不仅仅忽略他们所看到的一切。”美国众议院情报委员会听证会主席亚当•希夫表示。
陌陌社交困境
有分析人士称，ZAO的推出可以看做陌陌为摆脱外界对于其“靠直播盈利”形象的尝试，也是一次探索社交“新玩法”的试错。这样一款功能较为单一的产品，没有内置于陌陌内而是单独推出独立App似乎也印证了这一观点。
“没有内置在陌陌中，主要在于这个产品本身有太大争议。而且是可预知的大争议和高风险。尽管陌陌提前进行了一些风险规避，但还有更多隐性的问题，即使陌陌自身也难以预先判定和有效规避，所以才需要ZAO单独试错。”产业时评人张书乐如此说。
前不久，陌陌公布了2019年第二季度未经审计的财务业绩，其直播业务为陌陌贡献了30.999亿元的营收，占比74.64%。换言之，定位于陌生人社交的陌陌目前依然依靠直播输血。另一方面，陌陌的收购资产探探今年上半年经历了下架整改，导致付费用户数较年初流失，目前来看，社交尚未成为陌陌新的收入增长引擎。
ZAO的推出可以看做陌陌为摆脱外界对于其“靠直播盈利”形象的尝试
通过推出新的功能与玩法增强用户粘性，则是陌陌回归社交的策略之一。只是ZAO目前尚未有清晰的商业模式，渡过风波后能否具有较长产品生命力还不得而知。
“这款产品目前变现的状态可能会更多集中在影视宣发之上，暂时看不出更多盈利的扩大化可能。但这或许是在一键美图已经难以满足用户需求后，通过‘一键影视’来进行内容扩张，可带动更多的内容增长形成增值。”张书乐分析道。
在社交赛道上从来不缺乏竞争者，也不缺乏爆款，但大多数终究是昙花一现。
根据艾媒数据发布的《2019年中国移动社交行业研究报告》显示，2018年中国移动社交行业用户规模达到7.37亿人，预计2020年将达到8.2亿人。与此同时，2018年12月微信月活用户数为10.2亿，社交赛道进入存量竞争。
互联网产业时评人丁道师认为，在社交领域突围需要在细分赛道上创造刚性需求，以阿里钉钉为例，脱胎于来往的钉钉在职场社交领域创造了新的赛道，并且布局协同系统、智能硬件等创造需求，使其已不单单是一个职场社交软件。
对于陌陌来说，则必须保证其陌生人社交赛道不向熟人社交靠拢，同时寻找新业态激发用户的活跃度。
“陌陌要想持续新鲜，就必须确保陌生人社交不会最终变成一个逐步半熟人化、高度接近熟人社交应用模式的形态，而是更加分众、将不同社交需求、不同特质的用户，进行分类分众激活。目前行进的尚良好，只是暂时还没有真正的姿势突破点。”张书乐表示。
（责任编辑：陈尘）
近期热门资讯：
