南方网> 南方快报

AI“换脸”APP一夜爆红!用户隐私和安全或遭遇重大威胁

2019-08-31 17:41 来源:南方网 叶丹;尚黎阳

  近日,一款名为“ZAO”的换脸APP在社交网络走红,不少网友的朋友圈纷纷被这款能够利用AI技术“无缝换脸”的APP给刷屏。但是在走红也同时,关于这款APP的应用也引发了不小的争议。

  AI换脸APP“一夜爆红”

  记者下载ZAO后发现,ZAO的口号为“仅需一张照片,出演天下好戏”。根据官方的介绍,利用AI技术,用户可以在ZAO软件上使用自己的照片替换影视剧或者小视频中的人物,从而生成以自己为主角的视频,完成一键换脸。

  不过,需要注意的是,对于公众人物,需要确认肖像权有效后才可以正常使用。根据ZAO官方介绍,ZAO的精髓在于加好友玩,由此可见社交才是其产品定位,换脸只是为了吸引用户和互动的方式。

  根据公开信息显示,ZAO在三个月前就已经发布,8月30日上线了正式版本,在引发了众多用户甚至明星的关注后,也吸引了众多用户的尝鲜。

  一夜之间走红也让ZAO的服务器受到了考验。ZAO官方助手在30日夜间发布微博称“这个月花700万租的服务器,今晚已经消耗1/3了。明天如果继续火爆,我们只能做严格一些的限制。而在今天凌晨,ZAO又发布微博称,服务器现在还是满负荷。”

  据记者从天眼查的公开信息了解到,ZAO所属公司由海南猫咖网络科技北京赛车时间表100%控股,法定代表人为陌陌联合创始人雷小亮。其中,海南猫咖网络科技北京赛车时间表则由雷小亮和陌陌COO王力各持股50%。

  版权与隐私成最大隐患

  据记者了解,在AI技术快速发展的今天,AI换脸视频并不是新鲜事。

  资料显示,早在2017年,国外就首次出现用户将制作的AI换脸视频发布在网络上,但是由于该技术的特性,后期被大量应用于明星和色情行业,也备受外界争议。

  而在国内,让公众对于AI换脸技术有所认知的,则是今年B站UP主"换脸哥"发布的一段94版射雕英雄传视频。在这段流传广泛的视频中,原本饰演黄蓉的演员朱茵的脸被替换成了杨幂的脸,从这段视频可见,利用AI实现的换脸效果已经几乎以假乱真。

  对于AI换脸技术的逐渐受到大众应用,业内人士也普遍表达了担忧:当任何人都能轻易使用这项技术并生成视频进行传播的话,对于版权和隐私将会造成极大的威胁。

  据记者在ZAO的软件的版权声明中看到,"ZAO产品上存在的短视频和表情等素材,除了特别声明是ZAO跟合作方进行版权合作的之外,均来源于ZAO用户自发的上传,ZAO不享有素材的商业版权。"由此可见ZAO已经将版权问题归纳为用户行为,与平台无关。

  此外在隐私保护方面,ZAO在用户使用前需要用户进行活体验证,且软件也向用户声明了详细的隐私保护协议,并对可能造成的隐私风险进行了说明,但从目前用户发布的“作品”看来,似乎也并不能阻止用户盗用他人照片进行视频的制作。

  不仅如此,在ZAO的版权声明中“如果您把用户内容中的人脸换成您或其他人的脸,您同意或确保肖像权利人同意授予“ZAO”及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”的条款也惹来了众多用户吐槽。不少网友表示,该条款“不仅离谱”,而且会为用户的信息安全带来重大风险,“如果被犯罪分子的利用怎么办?”

  监管缺乏可能会引发重大安全风险

  这种担忧并非空穴来风?腾讯研究院高级研究员曹建峰此前在接受记者采访时就曾表示,AI换脸会带来所谓的深度造假(deepfake),结合语音合成等技术,可以生成虚假的视频(如之前奥巴马的虚假视频)对政治、舆论等造成影响,使假新闻更难识别。

  此外,就AI换脸技术自身而言,可能给个人的隐私、名誉、私生活安宁造成损害,因为恶意使用者可能用这项技术来诽谤、攻击他人。甚至用于从事诈骗。当然,也有可能触犯刑法,即如果用换脸技术来制作、传播淫秽色情。他建议,为AI技术制定伦理底线,鼓励正向利用,避免恶意滥用。

  “AI技术也能达到武侠小说中的‘易容术’,那么,这将是人类有史以来最大规模的针对人的身份的欺诈行为。”中国社科院哲学研究所研究员段伟文告诉记者,这项技术如何应用,应该分清楚真实和虚拟的界限,例如在影视、游戏等领域可能会得到应用,而其它领域则应该被限制使用。利用AI技术对身份造假,越发表明隐私和数据的重要性,例如脸部信息、讲话、录像等信息,应禁止一般企业将其拿来造假。

  除了引发的道德和伦理问题,一些“黑灰产”盯上了“AI换脸”技术。

  早在2017年的央视3·15晚会直播的“换脸术”,主持人仅凭一张观众自拍照就上演了现实版“换脸术”,成功攻破人脸认证。据阿里安全图灵实验室高级算法专家觉奥介绍,黑灰产也在利用AI换脸,是目前常见的一种攻击手段,“在人脸识别系统中,识别换脸的技术叫活体检测技术,这是一个攻防对抗技术,即用AI的手段来解决AI的攻击”。

  “这几年,由于深度学习的迅猛发展,攻、防的技术都在不断进步,这是一个持续、动态对抗的过程。”觉奥表示。当前无人驾驶、人脸识别、智慧城市、智能家居等各类场景中都在运用AI,包括人脸识别系统,但一旦后端控制系统被攻击,出现规模化、连锁式的崩盘,AI失控的后果不堪设想。

  据记者了解,此前《民法典人格权编(草案)》二审稿提交十三届全国人大常委会第十次会议审议。其中拟规定:不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。此项法律规定,无疑将对当前似乎愈演愈烈的AI换脸潮流有明确的规范作用。

  【南方网全媒体记者】叶丹

  相关话题

  “AI换脸”侵权了吗?

  肖像权要保护,批评调侃要包容

  从明星杨幂成功换脸《射雕英雄传》中的朱茵,到蔡徐坤因鬼畜视频向哔哩哔哩弹幕网发去律师函,今年来,“AI换脸”多次成为网上热词。

  在互联网高速发展时代,“P图”早已见怪不怪,但当发现“换脸”后的视频也真假难辨时,不少人开始感到担忧:换脸技术是否会被滥用?视频证据可信度是否会打折?个人权益是否会被损害?…… 

  4月20日,民法典人格权编草案二审稿提交审议,并对“AI换脸”等问题作出了规范,明确任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。

  这一消息给众人打了一剂“强心针”,不过,一些法律工作者认为,公众人物与一般人的肖像权保护应有所区别,对合理的批评调侃声音,立法应给予一定空间。 

  以营利作为侵权要件具有局限性 

  今年2月,一条女星换脸视频在网上走红,视频中,1994版《射雕英雄传》电视剧里朱茵扮演的黄蓉,被换上了杨幂的脸,但表情仍然活灵活现,几乎找不出破绽。这条视频让不少人第一次认识到“AI换脸”以假乱真的程度,网上点击量很快超过了1亿。 

  在一些技术论坛上,这种技术被称为“Deepfakes”,可以通过人工智能算法,对大量的照片进行模型训练,然后将训练运用在另一个人的视频上,让人工智能对视频中的人脸进行自动匹配。

  记者调查发现,这种技术门槛并不高,一些爱好者还专门在论坛上发布了使用教程,并提供了安装包。 

  结果,不少名人因此“躺枪”。除了将女主播的脸换成明星唐嫣、将电视剧《回家的诱惑》中女角色的脸换成演员凌潇肃,一些人还对通过选秀节目C位出道的蔡徐坤进行了恶搞。

  4月12日,蔡徐坤工作室公布了针对B站(哔哩哔哩弹幕网)的律师函,称B站严重侵犯蔡徐坤的“名誉权”“肖像权”“表演权”等多项权利。这一事件迅速引爆网络,连日来讨论不断。 

  “AI换脸”是否构成侵权?广州市律师协会副会长詹礼愿告诉记者,现行法律对肖像权的规定相对宽松,将侵犯肖像权的行为多限制在营利范围之内,司法实践中常见的侵权形式,主要是未经本人同意、以营利为目的的使用行为。 

  “保护肖像权更重要的目的在于保护肖像权人的人格权利,将以营利为目的作为侵权要件,具有一定局限性。”广东国匠律师事务所党支部书记、律师颜勇认为,如果恶搞视频存在捏造事实,公然丑化明星人格,或用侮辱、诽谤等方式损害明星名誉的情况,可能构成名誉权侵权,他建议社会公众对公众人物的批判控制在合理合法的范围内。 

  立法应平衡合理监督与肖像权保护 

  不过,随着民法典人格权编草案二审稿的提请审议,“AI换脸”的讨论迎来新进展。草案针对肖像权的专门规定,被业界认为是一种严格保护。

  这意味着,如果这一规定在后续立法流程中没有更改,当《民法典》正式施行后,只要权利人没有同意,即便不以营利为目的,对权利人的恶搞、换脸等行为也将构成侵权。 

  但在一些法律工作者看来,出于维护公共利益和满足公众兴趣的需要,公众人物的隐私权、肖像权等理应受到一定程度的限制,适当的曝光、批评与监督,恰恰是公民言论自由的重要组成部分,不应对此过于苛责。 

  事实上,一些坦然接受调侃或批评的公众人物,反而收获了更高的人气。

  在B站鬼畜(一种再创作艺术形式)视频区,拍摄洗发水广告的成龙、电视剧《三国演义》中舌战王朗的唐国强、在综艺节目中因一句“真香”成为“梗王”的王境泽等,都是热门的鬼畜素材。唐国强甚至还亲自到B站给up主(音视频上传者)颁奖,这样的心态受到了更多年轻人的喜爱。 

  但詹礼愿认为,公众人物也是民法规定的民事主体中的自然人,具有完全的民事主体资格,对侵犯其人格权的行为不应无条件放任。“无论‘AI换脸’还是别的形式,能否使用他人肖像,不是看是否增加了权利人知名度,而要取决于权利人的主观意愿。

  詹礼愿建议,对肖像权的规定可适当折衷,当公众人物明确表态禁止使用其肖像时,相关网站或视频上传者仍不删除,才可认定为侵权。 

  在华南师范大学法学院副教授阳庚德看来,“AI换脸”是新技术对老问题的一个挑战,立法过程中应考虑到公众合理监督与公众人物肖像权保护的平衡,故意侵害他人权益的行为,自然要承担侵权责任,但对过失侵权应考虑给予一定的豁免。

  “侵权责任法中有过错客观标准的概念,具体来说,就是是否尽到了一般人应尽的注意义务。”阳庚德说,比如恶搞明星,如果是一般人都能接受的程度,对这样的批评或调侃声音,公众人物应当适度地包容。 

  【南方网全媒体记者】尚黎阳 

编辑: 杨格

相关新闻

微信
QQ空间 微博 0
回到北京赛车 回到顶部

网站简介- 广告服务- 联系我们- 法律声明- 友情链接

本网站由南方新闻网版权所有,未经授权禁止复制或建立镜像 广东南方网络信息科技北京赛车时间表负责制作维护

违法和不良信息举报电话:020-87373397 18122015029 18122015068

秒速时时彩官网 加拿大28 pk10代理网址 安徽快3 pk10代理网址 幸运28 江苏快3走势 北京赛车时间表 秒速时时彩 北京赛车营业时间