行业新闻

行业新闻
换脸技术的更新引发各国加强监管
时间: 2019-06-19 08:31 浏览次数:
生活中我们在很多电影电视剧中看见里面有一些电影特效技术,已经能够做到视频换脸。通过面部表情捕捉等技术,电影特效公司可以让演员饰演动物或者怪物,让他们返老还童或者从少变老
        生活中我们在很多电影电视剧中看见里面有一些电影特效技术,已经能够做到视频换脸。通过面部表情捕捉等技术,电影特效公司可以让演员饰演动物或者怪物,让他们返老还童或者从少变老甚至死而复生,如1994年的《阿甘正传》就采用数字方式,将肯尼迪的影像填充到电影中,并调节他的表情和肢体语言;《速度与激情7》中,演员保伦·沃克在电影拍摄完成前因车祸丧生,但依靠换脸技术,他依然生动地出现在荧幕上。
        不过,电影特效应用的这一套技术跟AI换脸存在很大区别,前者效果好、工艺流程更复杂、成本颇高,后者虽然效果不可同日而语,但成本低得离谱,入门级的AI换脸软件在网上被免费传播,被众多网友玩得不亦乐乎的“Deepfakes”就是其中之一。
       因为开源的AI换脸软件人人取之可用,全民换脸的恶搞狂欢接踵而至,带来的“蝴蝶效应”令人始料未及。在美国,Reddit、Twitter、Pornhub等网站先后沦陷,中国的B站、贴吧也被报道过换脸视频充斥,澳大利亚、印度等国也有公民饱受AI换脸的困扰。
        正如美国演员乔丹·皮尔所说,公众需要可信的新闻来源,要对互联网更加警惕,信息时代将决定我们是生存,还是成为某种糟糕的反乌托邦。一些社交媒体疯狂的世界,人们难以分辨新闻的真假。随着换脸技术被用于跨越伦理道德、法律规则、网络安全红线的个人娱乐、商业行为、学术研究等方向,AI换脸引发了学界的密集谴责和公众的持续讨论,并对可能造成的威胁表示担忧和批评,呼吁政府加强监管,避免该项技术的滥用。况且,AI换脸技术日益精进暗含隐忧:英伟达“AI假脸王”StyleGAN攻破几乎所有人脸识别系统;Samsung 开发的演算法只需一张相片即可制作合成影片……因此,政府出手加以限制势在必行。
        当前,诸多国家已从法律角度对AI换脸进行限制:
        澳大利亚首都堪培拉、新南威尔士州、维多利亚州、南澳大利亚州、西澳大利亚州等地区颁发法律,将未经他人同意的情况下,制作、传播虚假图像视为犯罪,可判处监禁或罚款。其中,堪培拉、新南威尔士州和南澳大利亚州明确定义了具有“亲密性”和“侵入性”的图像类型,包括已被改变或操纵的图像。
        美国国防高级研究计划局(DARPA)设立“媒体鉴证”项目,以开发能识别深度伪造视频的工具。据悉,该项目最初旨在实现现有鉴证工具的自动化,之后将重点转向人工智能生成的虚假视频。研究人员已在GAN操纵的图像和视频中发现了微妙的线索,从而使其能够检测到变化的存在。纽约议会出于保护个人隐私权和宣传权,提交了编号为A08155的法案,明确提出禁止用AI技术制作虚假视频,在法律边缘徘徊的Deepfakes首当其冲。
        我国全国人大常委会审议的民法典人格权编草案里也新增规定,任何组织或者个人不得以利用信息技术手段伪造的方式侵害他人的肖像权,明确指出未经肖像权人同意,使用PS和AI换脸不仅侵害自然人的人格权益,还可能造成恶劣的社会影响,甚至危害国家安全和社会公共利益。
        大规模低门槛的“深度伪造”在国内外都引起过轩然大波,新规定是立法部门对社会新技术发展所带来挑战的回应,公众应严格遵守。善意玩梗可以,但应把握好度,以免AI换脸一时爽,铁窗含泪望故乡。

Copyright © SIP可视对讲机系统产品与方案服务 版权所有
 
公司地址:成都.九熙广场三期一栋2203 SIP广播可视对讲系统服务商