当前课程知识点:工程伦理 > 期末试题 > 期末试题1 > 9.6 案例分析:AI换脸技术的伦理之思
各位同学 大家好
在前面五节我们学习了大数据时代的
伦理问题的一些理论知识
今天我们来分析一个现实案例
AI换脸技术的伦理之思
大家请看视频
AI换脸作为新兴起的科技产业
一直在风口浪尖上接受大众的运用与审核
只要在APP上传一张照片
您想变成哪个明星就能变成哪个明星
听起来很梦幻
但却触手可及
2019年8月30号晚上
打出仅需一张照片
出演天下好戏口号的AI换脸APP
软件ZAO
开始刷屏朋友圈
不到24小时
在应用商店的下载量跃居娱乐类
免费排行榜的第二位
同期更登上了微博热搜
前10名
正当众人沉浸在
cosplay的氛围里无法自拔时
ZAO对于用户人脸照片完全免费
不可撤销
永久可转授权和可再许可的权利的
用户协议
引发的对于隐私安全的担忧和质疑声
扑面而来
同日ZAO被微信屏蔽分享链接
提示理由为网页存在安全风险
被多人投诉
从刷屏到质疑
不超过24个小时
从朋友圈爆红到被微信封杀
ZAO也只度过了短暂的三天时间
2019年9月3号
工业和信息化部网络安全管理局针对
ZAO APP用户隐私协议不规范
存在数据泄露风险等网络数据安全问题
约谈相关负责人
ZAO再次点燃了AI换脸技术的讨论热潮
而 AI换脸引发争议
已经不是什么新鲜事
早在2017年底
国外论坛就已经出现了ID为
DeepFakes的用户
发布了通过机器学习来更换
视频人脸的AI算法
不过当时该技术的使用门槛还比较高
需要编译代码之类的操作
而在数个月后
使用管理DeepFakes技术的简易版AI换脸工具
FakeAPP出现了
就算是普通用户也能够顺利操作
FakeAPP的出现
令AI换脸视频一度犹如黄河泛滥
一发不可收拾
很多女明星莫名其妙成为了不雅视频的主演
而深受其害
那么
AI换脸技术会带来怎样的伦理问题呢
第一
严峻挑战信息的真实性
PS发明后
有图不再有真相
而AI视频换脸技术的出现
则让视频也开始变得镜花水月起来了
人们普遍认为视频可以担当实锤
而现在这把实锤竟可凭空制造
这无疑会造成进一步的信任危机
有悖于弘扬社会主义核心价值观
有碍于营造风清气正的网络空间
第二
存在侵犯肖像权的隐患
和多用途的PS等修图软件不同
AI换脸技术的功能只有一个
那就是换脸
从这个角度来说
它的存在天然就是一种对肖像权的
威胁
出于对肖像权的保护
连色情网站的搜索功能也屏蔽了
DeepFakes
第三
存在信息泄露的隐患
对于用户来说
ZAO换脸服务最大的风险在于对用户
人脸数据的收集
毕竟脸部信息是一种生物信息
可以说是非常敏感的个人信息
一旦泄露带来的影响
远比上网时产生的数据信息泄露
风险更大
时至今日
当我们再去阅读ZAO App用户隐私协议时
虽然ZAO对原条款做了大幅删减
还在用户协议开头增加了特别提示
但是修改后的协议
仍没有打消用户的担忧
比如特别提示中
为了改善ZAO为您提供的服务的规定
就没有明确列举改善何种服务
第四
存在侵害知识产权的隐患
在前面的信息与网络空间伦理分析中
我们指出
在信息与网络空间里
存在着知识产权的争议问题
AI换脸技术应用更是如此
用户在没有取得授权的情况下
通过AI换脸传播经过改动的视频素材
这些内容如果构成作品
会侵犯他人著作权
和作品的信息网络传播权
由于上述提到的风险
AI换脸技术已经在相当程度上引起
恐慌
也难怪
当得知该技术能够接近完美捏造假视频的时候
担心自己的言行是否会被虚构
是很正常的自然反应
然而
在警惕AI换脸技术的同时
我们或许还需要意识到
AI技术仍在不断发展
目前的AI换脸视频或许远非终点
为此
我们在鼓励创新支持新技术新应用
发展的同时
也呼吁政府
企业
社会组织
专家学者
工程师将公众的安全 健康和福祉
置于首要地位
加强研究
主动作为
促进可持续的大数据创新
推动社会福祉的不断改善
同学们
本次课程到此结束
谢谢大家
-第二章 章节作业
-第三章 章节作业
-第四章 章节作业
-第五章 章节作业
-第六章 章节作业
-第七章 章节作业
-第八章 章节作业
-第九章 章节作业
-期末试题1