利来国际ag旗舰厅AI 换脸将受《民法典》严监管,我们该如何防范技术作恶?

文章正文
2020-06-08 01:29

2020 年 5 月 28 日下午,利来国际ag旗舰厅十三届全国人大三次会议表决通过了中华人民共和国民法典,民法典将在 2021 年 1 月 1 日正式施行。6 月 1 日晚,两会已授权民法典正式文本发布。

这是中国 1949 年后首部以 “法典”命名的法律,财新评价它:“象征生命、自由、财产的私权立法迎来高光时刻。”值得注意的是,民法典人格权编中明确规定了不得用技术手段伪造等方式侵害他人肖像权,矛头直接指向 AI 换脸、变声。

“民法典正式施行后,即便用户利用 AI 技术换脸只是单纯的娱乐,没有营利目的,也有可能被认定为是侵犯肖像权。”广东合邦律师事务所律师肖锦阳对开源中国表示,《民法典》第 1019 条明确规定了肖像权的消极权能,这对 AI 换脸等滥用信息技术手段侵犯肖像权的行为进行禁止和预防具有积极意义。

我国新颁布的民法典中第 1019 条就规定:

任何组合或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外。

未经肖像权人同意,肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或公开肖像权人的肖像。

而在此之前,我国的肖像权保护主要参照《民法通则》第一百条规定:

公民享有肖像权,未经本人同意,不得以营利为目的使用公民的肖像。

AI 换脸在技术层面只是做深度学习训练的一个切入点,往往兼具娱乐性。但在应用和商业方面,很多换脸软件游走在灰色地带,甚至引发法律风险。现在,人们通常用 deepfake(可直译为深度造假)来指代那些会造成不良影响的 AI 换脸影像成品和软件。

随着 deepfake 的泛滥,多个国家已出台政策法规监管。此外,为防止技术作恶,人们正尝试用技术制衡技术,也有人在探讨如何为从事技术开发的人员增加一门 “道德伦理课”,以追求行业自律……

deepfake “游戏”泛滥

在 5 月 28 日民法典表决刚刚通过时,“AI 换脸被纳入监管”的 “提示”就立刻在 IT 业传播开来。

关注度在一定程度上反映了其热度。日前,GitHub 上一个集成各类 deepfake 功能的仓库 DeepFaceLab 登上热榜。DeepFaceLab 的介绍中赫然写着:DeepFaceLab 可以用来换脸,和改变政客们的言论。截至目前,DeepFaceLab 已有 14.7K Star。

制造 deepfake 影像的门槛正在变低。深圳大学计算机与软件学院副教授储颖告诉开源中国,无论是将人脸互换、还是直接生成虚假图片视频,技术上都属于深度学习范畴,差别无非就是数据集不同、模型不同、算法不同和参数不同。“人工智能的技术应用门槛正在变得越来越低”。

近两年,由于生成对抗网络技术 GAN 也被用在 deepfake 制作中,生成的虚假图片视频数量飞速上涨。

此外,人工智能在 2012 年开始火热也是由于图像分类识别研究的兴起,慢慢从图像识别、再到图像生成。而 AI 合成图像视频又是可以看得见、摸得着的应用,因此很多开发者都在尝试此类应用,这也让 “造假”不可避免地增多。加上虚假信息常和女星、政客、高热度人物捆绑,deepfake 应用和成品往往能飞快走红。

2019 年 8 月 30 日,陌陌上线一款智能换脸产品 ZAO。用户只需要在软件中上传一张自己清晰、正面的照片,便能将一些经典影视作品中的人物换成自己,同时保留影视人物特征和自己的部分面部特征,生成短视频和 GIF 动图。视频和动图处理过程仅需 1-10 秒,之后用户可以将其分享至微信、微博、QQ 等平台。

推出后的第三天,2019 年 9 月 1 日,ZAO 就登顶 Apple App Store 免费娱乐应用程序榜单。

(微博用户使用 ZAO AI 换脸鞠婧祎影视作品人物形象视频)

但由于 ZAO 的用户隐私条款存在争议,很快被微信封杀,陌陌也被网信办约谈整改,热度骤降。不过,ZAO 是用户将自己的脸套到其他人脸上,最终成果综合了两个人物的面部特征,此类换脸在肖像权和虚假信息传播方面引发的争议较小。

而通常我们在谈论 deepfake 有害时,更多指将别人(尤指公众人物)的脸换到自己、第三人、或虚拟人物的脸上,只保留该人物的面部特征,但套上了原本不属于他的面部表情,合成以假乱真的视频图片,导致虚假信息甚至新闻扩散。

deepfake 一词出现在 2017 年 12 月。当时 Reddit 上一个 ID 为 deepfake 的用户,上传了一个合成视频,内容是将好莱坞明星盖尔 · 加朵的脸换到情色电影中的女主角身上。该软件迅速流行起来,但由于很多人不满,2018 年初,Reddit 开始封禁 deepfake。2019 年 2 月,deepfake 在 GitHub 上的仓库遭限制访问。

但 deepfake 依然备受关注,更多的 deepfake 软件和视频在出现。现在最常见的是使用 AI 换脸,合成色情或政治人物言论视频,这可以带来黑产交易,甚至影响部分国家和地区的政治局势。

去年有人调查, AI 换脸一度形成一条完整的色情黑色产业链。闲鱼上曾有商家售卖女星的换脸合集视频,并且提供从成品情色视频,到软件制作各环节的交易和服务。当然,曝光之后平台方做了整改,现在在闲鱼上检索 “换脸”,已经没有相关商品。外媒也曾报道,有技术人员利用 GAN,开发出 deepnude 等应用程序,可快速使图像中的人物脱光衣服,以恐吓和骚扰他人。

另外,一些广为流传的 deepfake 视频,主角是知名政客。如下图中的奥巴马,均是 AI 合成。2018 年,加蓬出现一条涉及总统 Ali Bongo 新年致辞的虚假合成视频,甚至引起兵变。过去政客间惯用的以性丑闻打击对手的招数也借 deepfake 重燃。如 2019 年,马来西亚出现一条涉及内阁大臣的性丑闻录像带,后被指控为政治阴谋。

文章评论