北晚新视觉 > 深读 > 调查

AI换脸暗藏风险,体验40多款人脸APP发现霸王条款屡见不鲜

2019-09-02 14:02 编辑:TF008 来源:北京晚报

一夜之间,换脸软件ZAO火了,火到服务器都扛不住了。昨天,大量用户在社交平台抱怨“下了软件却无法生成视频”。与服务器一起“崩”的还有平台上约6000字的用户协议,被多个法律专家指责“过度索取肖像权”。随后,ZAO迅速修改了协议,剔除了用户照片视频不可撤销、永久授权平台免费使用的条款,表示用户视频会按照法律规定保留在服务器中,但这并不能打消人们对人脸隐私信息可能被滥用或盗用的担心。 在2019世界人工智能大会上,已经有专家指出,人工智能应及时系上“安全带”。为了进一步印证类似的人脸APP安全性,记者体验了40多款涉及人脸信息识别的APP,发现不少问题。

制图 吴薇

事件

AI换脸软件服务器“累崩”

“我跟胡歌演对手戏啦。”“我已穿越到延禧攻略!”8月30日晚,大批网友在社交平台发布了与明星合演的小视频,“奥秘”就是从换脸软件ZAO中上传一张个人照片,再选择想要出演的片段和替换的明星。记者上传了一张网络照片,并进行视频制作。在等待了1分钟后,视频生成。记者选用的替换视频是玛丽莲梦露的几段影视作品。替换的视频中,女孩的五官和视频中的玛丽莲梦露融合在一起,表情也很自然。

“这个月花700万租的服务器,今晚已经消耗1/3了。”31日晚间,ZAO官方微博发出这样一句感叹。然而,即便如此,这款软件仍然无法应对海量用户需求。一时间, “ZAO崩了”迅速成为微博热点话题。

记者实测发现,31日20:00,在平台上传照片并点击“造视频”,页面显示的是:当前制造任务已满,无法制造;23:30,记者用另一个账号登录后,平台显示“当前服务器制造量过大,请稍后再试。”与此同时,ZAO在苹果手机App Store的免费App排行榜中已经飙升至第二名。

昨天上午7点,记者再次尝试,发现平台运行恢复正常。可上午10点,记者制作视频时,服务器再次显示“繁忙”,又回归“累崩”状态。

进展

用户协议增加“特别提示”

记者注意到,该软件引发的信息安全引发热议。记者看到,用户差评主要围绕平台用户协议展开。在8月30日当天,平台的用户协议中第6条第1款规定:“在您上传及/或发布用户内容以前,您同意或者确保实际权利人同意授予‘ZAO’及其关联公司以及‘ZAO’用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于可以对用户内容进行全部或部分的修改与编辑......以及对修改前后的用户内容进行信息网络传播以及《著作权法》规定的由著作权人享有的全部著作财产权利及邻接权利。"

换脸前
换脸后

有用户指责平台“利用用户不仔细看条款内容的心理,永久使用用户肖像权”;还有用户因为“上传照片后,自己删不了”而担心自己的“人脸信息被用于违法犯罪活动”。

8月31日晚,ZAO在用户协议开头增加了“特别提示”,“您基于本协议及您使用ZAO的相关服务而授权给ZAO的相关内容(您上传的短视频及您的人脸等),ZAO仅限用于为您提供上传/发布短视频以及利用技术对平台上的短视频进行局部修改生成新的短视频的服务,相关的内容将严格按相关法律法规的规定保留在ZAO上,除非为了改善ZAO为您提供的服务或另行取得您的再次同意,否则ZAO不会以任何其他形式或目的使用上述内容。”

ZAO还将用户协议中最受争议的第6条进行了修改,原文中要求用户须授予 ZAO“完全免费、不可撤销、永久、可转授权和可再许可的权利”的内容,被替换成“免费的、可以对用户内容进行部分的修改或编辑(如将短视频中的人脸换成另一个人脸等)以及修改或编辑前后的用户内容进行信息网络传播的权利。”

调查

“霸王”条款屡见不鲜

涉及人脸信息识别的APP不止有ZAO,记者体验了40多款涉及人脸信息识别的APP后发现,与ZAO类似的“霸王”条款屡见不鲜。例如,在一款名叫“人脸识别系统”的APP的《用户协议》中,第3.1.2款规定,“您是您的用户内容唯一的责任人,您将承担因您的用户内容披露而导致的您或任何第三方被识别的风险。”又如在换脸类APP" Face link"的《用户协议》中第2.4款规定," Face link"为用户提供合法的、健康的产品及服务,但是用户应对其使用自行承担责任及风险,在任何情况下不就因使用或不能使用提供的服务所发生的特殊的、意外的、直接或间接的损失承担赔偿责任。"

这40多款APP中,没有一款在注册登录页有勾选按钮,都是通过手机号或者微信等社交媒体账号注册。着急登陆并试玩用户,可能并不清楚一闪而过的注册页面后,自己接受了哪些“霸王条款”,注册之后用户必须同意授权提供设备信息等权限,才可继续使用。并且,其中仅有不到10款APP的《用户协议》,在协议开头就人脸信息的收集和使用规范做出特别提示,并在用户协议里设置了有关人脸信息的条款。

记者还发现数十款换脸类APP根本没有《用户协议》和《隐私政策》,用户直接通过手机号验证注册,最终的生成的换脸图片和视频均可以分享至微信朋友圈和微博等社交媒体,个人图像跟社交媒体账号等个人信息匹配后可识别度非常高。例如,记者通过App Store下载的三款换脸APP“换脸2”、“换脸王”、“我的明星朋友”,均没有用户协议。打开后弹出索取视频和图片权限窗口,然后自拍或者从图片库中选择图片进行换脸编辑。但是当记者完成后出现了分享至“朋友圈”和“微博”等窗口。

提醒

法律专家:“换脸”App尽量少用或不用

中国社会科学院法学所副研究员陈根发告诉记者,《个人信息安全规范》规定,个人上传的可以识别面部特征这类敏感的个人信息,在收集个人敏感信息时,应取得个人信息主体的明示同意。应确保个人信息主体的明示同意是其在完全知情的基础上自愿给出的、具体的、清晰明确的愿望表示。“中央网信办今年5月份出台的《App 违法违规收集使用个人信息行为认定方法(征求意见稿)》也明确规定在 App 安装、使用等过程中需通过弹窗、链接等方式提示用户阅读隐私政策,隐私政策链接和文本也要正常显示。人脸采集等敏感个人信息还应该在协议开头做出特别提示。”

融商律师事务所合伙人王颖律师,向记者强调了严格监管肖像使用的必要性:“监管是不能超前而必须滞后的,因为过于超前的监管,肯定会阻碍科技的发展。但是科技的应用,应该是有限制的。在相关监管暂时没有跟上的时候,企业也应当负起自己的社会责任。”

王颖认为,信息被滥用,侵害无辜人的肖像权,名誉权和个人隐私等问题是必然会出现的,而其中使用者必须默认同意的设置也肯定是错误的,涉嫌霸王条款。“具体可以参照参照2017年支付宝的《芝麻服务协议》的那个争议。”王颖律师说,《消费者权益保护法》中明确规定,消费者有选择权,默认同意必须是法律规定,或双方事先约定。“如果这两条都没有,程序选择了自动勾选,那肯定是错误的。涉嫌平台逃避责任,限制消费者权利。”

北京市京剑律师事务所主任律师金翔仔细解读了ZAO用户协议的条款,其中已经写明了,肖像来源并不是唯一的来源于肖像本人亲自提供,也可能来自于他人提供。因此,用户若使用这款App,则有可能导致自己的肖像被他人复制,以后在自己不知情的情况下被他人使用。用户会面临自己的名誉权被侵犯、侵犯影视作品著作权、肖像被利用损害自己合法权利等风险。

“总之,只是为了娱乐,随意提供自己的肖像在上述App上使用,在目前的网络环境和此类新生事物法律监管几乎处于空白的状态下,实在是弊大于利。”金翔律师建议使用者谨慎使用,在自己没有弄清楚使用它的法律后果之前,尽量少使用或者不使用。

延伸

互联网专家:人工智能应及时系上安全带

“其实可以这么理解,肖像就是你的身份证,或者说就是你身份信息数据库的一部分。”DCCI互联网研究院院长刘兴亮表示,随着人脸识别的应用越来越广泛,每一个普通的肖像都成为身份信息的重要组成部分,“通俗地讲,肖像就和身份证号、你的手机解锁密码、声音、指纹等一样重要。”

信息安全工程师范屹表示,在人脸识别领域,官方应用更值得信赖,“我们比较常遇见的,像铁路系统,这是官方背景的、比较安全的人脸识别应用。”但他同时强调:“我们已经习惯了,密码不能告诉别人,身份证号、银行卡号不能随意泄露。但是我们自己的人脸,却没有足够重视。换脸App玩起来开心,背后的隐患却不被重视。”范屹透露,被盗用的肖像会被应用到何处,现在还不明确,但是其潜在隐患无法忽略,“现在网约车平台要求司机必须进行完人脸识别才可以接单,以保证安全。如果被换脸的司机通过了人脸识别,乘客安全就无从谈起了。”

在2019世界人工智能大会上,腾讯董事会主席兼首席执行官马化腾说,在AI的治理方面,要以“科技向善”引领全方位治理,确保AI“可知”“可控”“可用”“可靠”。微软全球执行副总裁沈向洋表示,今天我们是人工智能的发明者,我们绝对不可能也不应该等到80年以后才为人工智能补上一条“安全带”。

 

 

来源:北京晚报 记者 胡德成 周明杰 孙毅  殷呈悦 袁璐 李环宇

编辑:tf008

相关阅读

北晚新视觉网版权与免责声明:

一、凡本站中注明“来源:北晚新视觉网或北京晚报”的所有文字、图片和音视频,版权均属北晚新视觉网所有,转载时必须注明“来源:北晚新视觉网”,并附上原文链接。

二、凡来源非北晚新视觉网或北京晚报的新闻(作品)只代表本网传播该消息,并不代表赞同其观点。

如因作品内容、版权和其它问题需要同本网联系的,请在见网后30日内进行,联系邮箱:takefoto@vip.sina.com。

新视觉·新媒体

  • weibo北晚新视觉微博
  • mobile北晚新视觉手机版
  • app北京晚报APP
  • weixin北晚新视觉微信
  • ys1新视觉影社微信