9.6 案例分析：AI换脸技术的伦理之思在线视频

各位同学 大家好

在前面五节我们学习了大数据时代的

伦理问题的一些理论知识

今天我们来分析一个现实案例

AI换脸技术的伦理之思

大家请看视频

AI换脸作为新兴起的科技产业

一直在风口浪尖上接受大众的运用与审核

只要在APP上传一张照片

您想变成哪个明星就能变成哪个明星

听起来很梦幻

但却触手可及

2019年8月30号晚上

打出仅需一张照片

出演天下好戏口号的AI换脸APP

软件ZAO

开始刷屏朋友圈

不到24小时

在应用商店的下载量跃居娱乐类

免费排行榜的第二位

同期更登上了微博热搜

前10名

正当众人沉浸在

cosplay的氛围里无法自拔时

ZAO对于用户人脸照片完全免费

不可撤销

永久可转授权和可再许可的权利的

用户协议

引发的对于隐私安全的担忧和质疑声

扑面而来

同日ZAO被微信屏蔽分享链接

提示理由为网页存在安全风险

被多人投诉

从刷屏到质疑

不超过24个小时

从朋友圈爆红到被微信封杀

ZAO也只度过了短暂的三天时间

2019年9月3号

工业和信息化部网络安全管理局针对

ZAO APP用户隐私协议不规范

存在数据泄露风险等网络数据安全问题

约谈相关负责人

ZAO再次点燃了AI换脸技术的讨论热潮

而 AI换脸引发争议

已经不是什么新鲜事

早在2017年底

国外论坛就已经出现了ID为

DeepFakes的用户

发布了通过机器学习来更换

视频人脸的AI算法

不过当时该技术的使用门槛还比较高

需要编译代码之类的操作

而在数个月后

使用管理DeepFakes技术的简易版AI换脸工具

FakeAPP出现了

就算是普通用户也能够顺利操作

FakeAPP的出现

令AI换脸视频一度犹如黄河泛滥

一发不可收拾

很多女明星莫名其妙成为了不雅视频的主演

而深受其害

那么

AI换脸技术会带来怎样的伦理问题呢

第一

严峻挑战信息的真实性

PS发明后

有图不再有真相

而AI视频换脸技术的出现

则让视频也开始变得镜花水月起来了

人们普遍认为视频可以担当实锤

而现在这把实锤竟可凭空制造

这无疑会造成进一步的信任危机

有悖于弘扬社会主义核心价值观

有碍于营造风清气正的网络空间

第二

存在侵犯肖像权的隐患

和多用途的PS等修图软件不同

AI换脸技术的功能只有一个

那就是换脸

从这个角度来说

它的存在天然就是一种对肖像权的

威胁

出于对肖像权的保护

连色情网站的搜索功能也屏蔽了

DeepFakes

第三

存在信息泄露的隐患

对于用户来说

ZAO换脸服务最大的风险在于对用户

人脸数据的收集

毕竟脸部信息是一种生物信息

可以说是非常敏感的个人信息

一旦泄露带来的影响

远比上网时产生的数据信息泄露

风险更大

时至今日

当我们再去阅读ZAO App用户隐私协议时

虽然ZAO对原条款做了大幅删减

还在用户协议开头增加了特别提示

但是修改后的协议

仍没有打消用户的担忧

比如特别提示中

为了改善ZAO为您提供的服务的规定

就没有明确列举改善何种服务

第四

存在侵害知识产权的隐患

在前面的信息与网络空间伦理分析中

我们指出

在信息与网络空间里

存在着知识产权的争议问题

AI换脸技术应用更是如此

用户在没有取得授权的情况下

通过AI换脸传播经过改动的视频素材

这些内容如果构成作品

会侵犯他人著作权

和作品的信息网络传播权

由于上述提到的风险

AI换脸技术已经在相当程度上引起

恐慌

也难怪

当得知该技术能够接近完美捏造假视频的时候

担心自己的言行是否会被虚构

是很正常的自然反应

然而

在警惕AI换脸技术的同时

我们或许还需要意识到

AI技术仍在不断发展

目前的AI换脸视频或许远非终点

为此

我们在鼓励创新支持新技术新应用

发展的同时

也呼吁政府

企业

社会组织

专家学者

工程师将公众的安全 健康和福祉

置于首要地位

加强研究

主动作为

促进可持续的大数据创新

推动社会福祉的不断改善

同学们

本次课程到此结束

谢谢大家