AI 换脸视频不能随便玩了，新规明年起施行

 

　　基于深度学习的AI换脸技术正在创造出越来越多真假难辨的视频。但与此同时，AI造假技术也在滋生恐慌，这背后是关于隐私、真实、版权等等悬而未决的问题。

 

　　监管已经跟了上来。11月29日，国信办引发了《网络音视频信息服务管理规定》（以下简称“规定”），提到了对深度学习视频内容的管控。

 

　　规定第11条指出，网络音视频信息服务提供者和使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识；不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息；转载音视频新闻信息的，应当依法转载国家规定范围内的单位发布的音视频新闻信息。

　　也就是说，普通人和服务商发布非真实AI音视频时，要以显著方式标清它运用AI技术进行了二度创作，且不得使用它制作假新闻。

 

　　在视频分享网站Bilibili上，能看到大量素人UP主制作的AI换脸视频。徐锦江、凌潇肃、倪大红、范伟、赵本山等人的形象是最受欢迎的换脸模版。这些视频大多以娱乐为目的，制作水平不一，使用的视频背景大多是影视剧“名场面”。虽然创作者一般都会标清内容运用了AI换脸技术，但常常会被评论调侃（夸赞）为“拿原片出来骗人”。

 

　　除此之外，规定还对服务商提出了额外要求，包括“展开安全评估”、“部署非真实音视频鉴别技术”、“及时停止传播未显著标识的非真实AI音视频内容”、“建立健全辟谣机制”等。新规将于明年1月1日起施行。

 

　　作为一项“天生带有攻击性”的技术，Deepfake从诞生之日起就伴随着惊叹声和质疑声。相比国内，海外互联网平台对于此类“非自愿内容”的展示似乎得更严苛一些。

 

　　2018年1月31日，Gfycat从其站点中删除了所有Deepfake内容。同年2月，Reddit与Pornhub也宣布因违反“非自愿色情”政策而禁止此类内容。同月，Twitter表示将暂停涉嫌发布未经许可的Deepfake内容的帐户。2018年9月，Google也将“非自愿合成色情图片”添加到了其禁令列表中。

 

　　2016年6月，一段以FacebookCEO马克·扎克伯格（MarkZuckerberg）的脸为素材的Deepfake视频在Facebook和Instagram上传播，Facebook随后表示，他们不会从其平台中删除Deepfake内容，但这些视频会被第三方标记为伪造，然后被降低优先级。