换脸App一夜爆红小心娱乐暴露隐私

  8月30日晚间,一款名为“ZAO”的换脸社交软件在朋友圈刷屏,ZAO也借此一夜之间收获了100万以上的用户量,并登上微博热搜。用户在该软件上传个人照片,可实现“一键”进入明星出演的相关影视片段,并在其中进行动态演绎,过一把演戏瘾。很多用户表示实景“换脸”代入“新奇好玩”。但部分用户也在网络上公开表达了关于隐私、肖像权、安全问题的担扰——“会不会被人利用这种技术刷脸登录支付宝”“会不会脸部信息被用来制造各种求助视频用于诈骗”……

  针对网友的担忧,记者迅即联系公安部第三研究所研究员陈长松。“密匙丢了可以重领,密码忘了可以重设,脸部信息丢了,你找谁?”陈长松说,近年来经常看到大家对一些小程序玩得不亦乐乎,比如风靡一时的军装照、古装照等,虽然很有代入感,但在娱乐的同时,最基本的脸部生物信息也被搜集了。“ZAO的动态视频搜集到的脸部信息更丰富,所以更需要引起担忧。”

  “AI换脸并不新鲜,在国外已经引起过比较大的争议。”陈长松告诉记者,2017年,国外某ID名为“Deepfakes”的Reddit论坛用户首次将自己制作的AI换脸视频程序发布到网络上,它能够把照片和视频中的人脸替换成任何想要替换的人脸。后来,由于被用于淫秽视频的“恶搞”,遭到大量受害者投诉,Deepfakes被封杀。

  此后,Deepfakes直接开源其AI换脸项目代码,基于Deepfakes的应用便越来越多,知名的例如Fakeapp、Deepnude、Faceswap等,这些应用的出现降低了使用者的门槛,许多电脑“小白”也能在短期内学会AI换脸。“如果你有照片在互联网上,就会有被利用的风险,个人很难防范。”陈长松表示。

  目前,ZAO明确表示,禁止用户随意上传和使用素材,并通过人工审核环节尽力保证ZAO上的内容不侵犯相关权利人的合法权益,尽力保证内容符合相关法律法规规定。即便ZAO能够兑现承诺,确保对安全的管控,但隐忧依然存在:目前各种AI换脸App正在快速生成,这些应用及其开发公司对于风险的认知和管控能力都让人担心。

  如今面部识别功能已经深入到生活的方方面面,很多账户都可以直接绑定面部信息,依靠人脸识别登录、支付。如果上传的面部信息遭到泄漏,是否会带来巨大损失?盗用信息刷脸登录支付宝,会否造成财产损失?

  “现在的人工智能算法在识别方面存在一些安全隐患。”对于ZAO这样的App,陈长松认为,大家担心的风险确有可能存在,“如果用户面部信息被别有用心的人获取,再对其进行编辑,就有可能用修改后的图像注册电子ID,造成不利影响。比如,在一个视频场景中,通过换脸技术,在语音驱动下,让‘你’说出一些与场景吻合的话,但其实这并不是你本人说的,一旦被用到诈骗活动中,影响就不可估量。”

  至于大家担心的“盗脸导致盗刷”问题,陈长松则表示“可能性并不大”。“通常我们说身份认证方法有三类:What you know——账号密码、手势密码、PIN码;What you have——移动PKI体系认证、USBkey、智能卡、硬件动态令牌;Who you are——人脸、声纹、指纹、掌纹、虹膜、静脉等。如果某一种信息被破坏(冒用),一般就会启用不同类认证方式进行组合,形成‘双因素认证’。”陈长松告诉记者,金融类App安全性相对较高,能识别基本的静态图片或手机视频,不过也要随时关注最新的换脸技术并更新升级算法。但也有一些App安全性并不高,比如门禁系统,使用的算法比较简单,就有可能会出现隐患。

  “不能光顾着好玩,保护个人信息是守护安全的根本之道。”陈长松呼吁,各种AI应用在投入使用之前要筑好安全网,这是AI技术广泛应用的“地基”,而人们的生物信息就是最后一道安防。

  “经过编辑的数据,就不再是原始真实的数据,有可能产生‘眼见不为实’的情况。普通老百姓对于这样的数据信息无法辨别,必须从技术层面进行防范,比如通过多种渠道进行验证,才能防范面部信息被别有用心的人盗用。”陈长松说,AI制造的“脸”肉眼比较难识别,但还是能够被AI所识别——全世界有很多团队都在用算法对抗人脸识别的负面作用:比如识别脸的边界图像是否有阶梯变化拼接痕迹等。

  国内相关监管部门已经注意到AI换脸等应用的风险。今年4月提交十三届全国人大常委会第十次会议审议的民法典人格权编草案拟规定,任何组织或个人不得以利用信息技术手段伪造的方式侵害他人的肖像权。5月底,国家网信办会同有关部门也发布《数据安全管理办法(征求意见稿)》,要求网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息,应以明显方式标明 “合成”字样;不得以谋取利益或损害他人利益为目的自动合成信息。公安机关也正联合相关互联网公司对平台可能出现的安全风险进行风控研究,相关措施预计很快就会实施。