10.1 信息与大数据的伦理问题在线视频

同学们好

今天我们进入工程伦理课程新的主题

信息与大数据伦理问题

信息技术对我们每一个人来说并不陌生

不过在人类文明几千年的历史上

信息技术只有短短近百年的时间

但是

它带给人们生产生活和思维方式的改变

却是十分巨大的

甚至被称为颠覆性的

近几年来

物联网

大数据

云计算

互联网+

人工智能

不仅是信息科技工作者的技术特长

而且进入了大众生活

在当今社会

一方面呢

信息技术不断的创新取得新的高度

比如说我们说到的

大数据 人工智能 区块链

5G商业应用

6G正在研发

他们都提供了更强大的通信能力

计算能力

分析能力

存储能力

另一方面

“互联网+”“智能+”等手段

让信息技术得以广泛应用

进入了工业

农业

国防

交通运输

金融

商务

政务

教育

文化

社会交往等

社会生产

人民生活

政务管理的方方面面

没有信息技术

我们就很难想象成千上万个部件组成的

手机

汽车

飞机

如何能完成精密的装配

高铁 飞机如何能保证高速精准运行

电子地图

社交媒体

电商平台

共享单车这些应用

如何发展成为现代生活几乎不可或缺的

存在

在本次课程中

我将聚焦大数据应用带来的数据伦理问题

进行分析

那么首先我将谈谈信息技术的社会影响

它呈现出哪些特点

其次我将结合大数据应用特点

从数据安全

数字身份

个人隐私

数据权利

大数据公共治理

5个方面来剖析大数据应用过程中

出现的

新的社会性问题

带来的伦理风险和伦理思考

在这些主题中

我会结合大数据应用和行业管理的实例

回顾工程伦理中的通用原理

包括前面讲过的工程中的风险

安全与责任的特点

工程中的价值利益和公正的判别

最后我还会对

选课中那些有志于投身大数据研究

从事大数据创新的学生和科技人员

谈一谈使命和责任

让我们从人脸识别进入信息技术的

社会影响主题

现在有很多商店

车站 社区

可以刷脸进出

刷脸支付

非常的方便

也有不少同学在外出住酒店时

都会经历人脸比对

在繁忙的交通路口

人流密集的广场 车站 码头 车厢

在小区的进出口

很多地方都架设了摄像头

通过使用人脸识别技术

有能力快速发现逃犯

或识别犯罪嫌疑人

让公共安全更有保证

但是

也有人在网上发现

一些人在出售未经加密的

真实的人脸图像数据库

就在我准备这次录课的时候

我看到媒体上有不少文章发出担忧

比方说

侠客岛的这篇题目为

《谁“偷”了我们的脸》

就成为一个关注的话题

也成为媒体上的热议

之所以可以通过视频摄像头

拍摄的人脸图像

快速准确的识别出你是谁

它背后的核心技术是图像处理

图像分析

模式识别

深度学习

人工智能等等

还有呢

通过在公共场所广泛布设的监控摄像头

方便的获取不断的增长所形成的巨大的

“人脸数据库”

大家在体验刷脸支付刷卡通关便利的同时

不禁会担心

由于自己的人脸常常暴露在公共空间中

很容易被摄像头采集

这些数据万一被不法分子获取

买卖

图谋不轨

将会对我们的财产甚至生命安全

形成巨大风险

这个例子可以充分的说明

信息技术具有以下四方面特点

首先它是强大的连接能力

无线的 有线的

局域的 广域的

各种各样的通信网络技术

加上手机 pad

计算机

嵌入式设备

等各种各样的前端智能设备

使得人

计算机物理系统可以形成全时空

可追溯

可预测的互联互通网络

第二个特点是多样的交互能力

符号

命令

文字

语音

图像

乃至手势

表情

都可以被计算设备来捕获

感知并且识别出来

因此

人和计算机之间

可以更加自然地进行交互和对话

第三个特点是广泛的渗透特性

现在家里的电视 烤箱 空调

冰箱等上网

也不是新鲜事

汽车也可以联网

农民种在地里的农作物

生长态势和销售状况

可以通过农业的物联网

送达农技人员

采购人员

也送到百姓的手机端

各种智能设备可以戴在手上

穿进鞋里

藏在筷子里

来监控我们的血压脉搏

等身体状况

记录我每天走了多少路

吃了多少卡路里

这种跨界渗透

是信息创新的重要源头

最后的特点是深度的融合能力

信息科技以数字化的0和1

为基本形式来记录

存储 传输 转换

不同的数字信息可以

方便的传输到同一个设备上

进行关联

匹配

融合和深度处理

产生了新的应用价值

就像刚才提到的人脸

摄像头捕获的彩色

数字图像

经过图像处理

就可能可以提取出特征

进行模式识别

深度学习等等

再用来我们身份识别等个人应用中间

或者用于监控布控

等公共安全的管理中

关于信息技术的社会影响

可以从机遇和挑战两个方面来说明

从机遇方面看

信息技术为人们的生活生产提供了

新的技术手段

经营业态

思想观念

社会网络

是我国经济又好又快发展的

稳定器

是社会进步的加速器

以在线学习

电子商务

电子政务为例

信息技术不断的创造出社会生活的新方式

从挑战方面看

首先

信息系统内在的信息安全隐患

随着物联网

社交网络的应用

而扩散到真实的物理系统和社会系统

从而对物理设施的安全运行和社会生活的

稳定有序

提出了巨大的挑战

其次

在我国信息技术普及应用

在东西部的空间分布上

在城乡之间

一二线城市和五六线

县市中的不同人群中

在老中青不同年龄

不同文化程度的人口中

是不平衡的

这些“数字鸿沟”如果不加以弥补应对

会进一步拉大

并且带来

扩大区域的不平衡

贫富的差距

甚至阻止代际“向上流动”

进而对社会公平和正义形成了新的挑战

第三

社交网络在线上的信息传播

变成线下快速的巨大的社会动员能力

使得“颜色革命”在一些国家和地区屡屡得手

一些政客借此操纵选举

谋求政治利益

这样对社会风险的防范

社会治理的实践和社会秩序的理论构建

都形成了新的挑战

总结本节内容

信息技术在带来利好消息的同时

也引发了很多社会新问题

因此

及时把握

加强研究

正确认识信息技术对社会变革

核心价值观

伦理规范的广泛和全面的影响

是非常及时

十分必要的

在信息技术萌芽期

就有不少学者开始关注到计算机

机器人对生命价值

道德准则的挑战

那时悲观的人甚至认为

人类终将被机器人所取代

人类社会长期形成的道德价值体系

终将灰飞烟灭

1950年

控制论的创始人罗伯特·维纳

在《人有人的用处》这一本书中

最早积极的开始研究

信息技术对人类核心价值的意义

他提出应当用“伟大的公正原则”

尊重人类所享有的生命健康

快乐等能力

和知识 自由 安全

发展等机会

维纳的这部著作被认为是计算机

或者信息伦理的开篇之作

70年来

信息伦理和计算机伦理从理论和实践

两方面展开

伦理学家研究

计算机能否带来人际关系的虚拟化

研究什么样的网络行为是正当的

研究如何用信息技术

来推动更广泛的社会平等和公正

研究数字形态的存储 加工 传播

所导致的知识产权

新问题

研究由于信息无边界传播所产生的全球化

信息交互治理问题

在实践方面

以美国计算机学会ACM为例

他制定推广并不断更新着计算机工程师

职业伦理规范

2012年左右

随着信息化应用广泛扩展

特别是社交媒体的发达

有人说我们进入了大数据时代

那么什么是大数据

从技术角度看

比较公认的说法是大数据具有数量大

类别多

增长速度快

真实可信等特点

大数据技术将不同来源的数据匹配融合

进而分析出事物的相关性

但不能保证

确保推断出因果性

从社会角度看

由于社交网络构成了人和人的便利连接

通过一些很容易复制 流转

分享 公开的数据

就可以准确的定位到某一台手机

定位到某一个上网的IP地址

定位到某一个用户的账户

甚至定位到真实的一个人

让我们来看看数据伦理

具体有哪些新挑战

大概有五个方面

第一

数据安全

大数据的全部流程

包括产生 获取 存储 关联计算 发布

以及交易存储

常常要连接很多自然人

法人或行政主体

它也存在着被窃取

被破解

被篡改

被主动泄露等多重安全风险

大数据应用开发者是否可以声称“安全免责”

第二

身份困境

一个人在网上的数字身份

也就是账号

用户名等等

和他在社会上的真实身份是可分离的呢

还是必须关联在一起

第三

隐私边界

当你听说某互联网公司负责人声称

隐私换取便利这句话的时候

你对大数据时代的个人隐私有什么感受

你希望法律能给你提供什么样的保护

第四

数据权利

有人说大数据是富矿是资源

谁掌握数据

谁就掌握了增值变现的权利

那么怎么界定大数据的拥有权

采集权

使用权

处置权

交易权

分红权

这些权利可以定价可以交换吗

这个与现有的市场规则

伦理道德

相符吗

最后

大数据用于公共治理

政府主导的

公共数据是否应当无条件的开放共享

基于大数据来进行社会监管

公共治理

公共服务等创新

如何才能做到大数据赋能

而不是扩大“数据鸿沟”

如何避免被“棱镜门”

威胁个人自由

2016年人工智能成为新的技术热点

对社会伦理提出了最强烈的挑战

美国工程伦理学家

把经典的“电车困境”思想实验

引入自动驾驶场景

2018年在著名的《科学》杂志上介绍了

他们的新发现

在这张图中

这个场景足以说明人工智能伦理更为复杂

如果我们事先能够把人类的道德准则

注入到人工智能的算法中

那么在伦理的义务论

功利主义

美德理论之间

工程师到底该把哪一种理论放进去呢

实际上现在更多的人工智能应用

依赖的是深度学习算法

它与被学习的大量样本有关

已经有实验发现

由于一款上线的聊天机器人

听到的网民的对话充斥着恶语

低俗的恶言恶语

而深度学习算法是“有样学样”的

结果就让这款机器人很快满口“脏话”

出现了不当的后果

不应该发生

如何去避免这种情况的发生

我们这个主题就会要在后面继续来剖析

这类问题

这节课就讲到这里