10.6 大数据工程师职业伦理在线视频

同学们好

今天我们来跟大家一起讨论一下大数据

工程师的职业伦理

同学们在前面的学习中应该都对工程师的

职业伦理有了初步的了解

那就是说工程师应当以促进安全

健康和社会福祉

作为共同的职业伦理责任

这一节

我们专门针对从事或准备从事

大数据研究

和创新开发的科技人员

做出一些分析

我们先看一下这篇网络报道的题目

人工智能正在暗中窥视那些想自杀的人

并悄悄的阻止这一切

这种窥视

是不是让人感觉到很温暖

这实际上是中科院行为科学重点实验室的

互联网心理危机监测预警中心所进行的

自杀干预的实践

他们在收集研究数据的过程中

发现微博账号走饭

实际上是一个树洞

吸引了

相当多有自杀倾向的抑郁症患者来留言

团队于是用人工智能的技术手段

检索出中间有自杀意念的微博账号

然后用他们团队拥有的一个账号

心理地图PsyMap

自动地去给对方发送私信

精准地投放一些帮助的信息

慢慢地团队就收到了一些患者的回信

其中也有一些人受到了鼓励

得到了心理学上的一些有效的支持

逐渐脱离了抑郁状态

重新开始积极的人生

再看一个相反的例子

前几年

一项基于

几十万个Facebook用户账号研究

悲观或者乐观情绪

是否会传染

这样一篇论文公开发表了

很快引起了伦理批评

因为研究者在没有提前通知被试者

明示可能存在的心理风险的情况下

他随机地从Facebook的用户中间

抽取了几十万个用户

并且分成了两个组

对其中的一组

人工调控他所能看见的帖子中间

呈现出悲观乐观的情绪的占比

他实际上就是调了一下顺序

把那些

相对来讲相对悲观的放在前面

让你更容易看见

或者是说把相对乐观的放到前面

研究结果证明了科学家的假设

就是悲观或乐观情绪是会感染的

批评者指责这项研究

缺乏对被试者的尊重

违背了知情同意的原则

有可能对那些

接受更多的负面信息的被试者

造成不可逆转的心理损伤

所以有悖学术伦理

那么

这项研究也让研究界提出了开始思考

开始提出

使用公开的社交媒体大数据进行研究

需要遵从什么样的学术伦理规范

那么大家比较同意的有这么几点

比如说

一定要对数据进行匿名化的处理

一定要保证研究数据的公开

透明

这里的透明主要的是含义是可以被审计

可以被问责

要尊重被试的意愿

要进行明显的风险揭示

要有知情同意这个环节

有的还必须经过确定的伦理审查

才可以开始进行

研究

第二点

我们讲一讲国内外的学术团体

行业协会在工程师

大数据工程师

职业伦理建设方面的一些工作

由于大数据应用存在相当大的

跨越传统领域边界

渗入社会生活的这种伦理风险

一些行业协会

学术团体

比如说

国际电子电气工程师学会

抓紧开始研究大数据伦理

人工智能伦理

研究和从业人员的规范

这些工作当下都在进行中间

我也是不断的在跟踪

这里就举出两个案例跟同学们分享

也希望同学们课后能够自己查找

主动的学习

特别是对于那些有志于从事这个行业的

工程师们

未来的工程师们

一定要了解这些工作

第1个呢

是国际电子电气工程师学会

就是我们说的IEEE

它是全球最大的信息类

学者工程师的学术性组织

2016年底的时候

他们就针对人工智能和自主无人系统的

伦理思考

制定了一个文本

发出了全球倡议

并在积极的组织研讨

传播共识

不断的在推进

另外一个是世界工程组织联合会

WFEO

那么现在WFEO的主席

是我们国家的巩克教授刚刚就任

他已经在国际的大会上提出了要制定

推动制定大数据和人工智能伦理的规则

便于推进工程伦理

特别是

对于这些工程师们的这些职业伦理

进行一些倡导

在这些文本中间

它的核心的伦理价值包括

重视人类共同利益

保证新技术不侵犯人权

要做负责任的科技创新

也要保证这个过程中间可以被追责

被问责

要保持算法运作的透明性

要在全社会同步提升伦理教育和安全意识

让更多的人

都能够建立起一个伦理的风险意识

和防范的一种能力

最后我结合快播案

对本次课程进行一个总结

据媒体报道

在2016年的1月8日

深圳快播公司涉黄案在北京市海淀法院

一审开庭

快播的CEO等4名高层

出庭受审

控辩的文字实录很快上网发布

一位高管在为自己辩护中说出

做技术不可耻

引起了很多工程师的共鸣

也引发了网友的热议

经过一审二审

该公司和相关责任人最终被判有罪

受到了法律的制裁

在这个案例中间

有两个主要的伦理问题

第1个呢

是网上的议论

表明很多工程师啊

还认为技术是中立的

这个认识是错误的

在我们这门课程工程伦理课程中间

就一直在强调了这一点

技术绝对不是中立的

因为我们每个人用技术来创造价值

他是有目的的

有价值观的

第2个伦理问题呢

就是对于信息技术大数据领域

有一些特别的特点

在我们大数据领域

在信息技术领域

法律建设往往滞后于信息技术的创新

所以在这时候伦理道德更重要来进行一些

社会关系的调节

社会利益

多方利益的调整

当你开决定开启大数据

人工智能等新技术创新的征途

要想使得基业长青

就必须提前做好部署

规范伦理建设

履行伦理责任

对于一家企业而言

或者说对于未来运行一家企业的

相关人员来说

我们可以从事前

事中

事

后三个环节来加强伦理建设

采取一定的措施

提高安全防范

从事前来说

主要就是要建立一个数据安全体系

和责任体系

那这里面呢

首先要做的一些事情是

要基于社会主义的核心价值观

建立良好的员工教育体系和安全工作架构

第2点

要加强对产品的安全风险评估

和伦理审查

减少风险的发生

第3点

对于仍然存在难以避免的风险

应该公开告知民事风险

第4点

公司应当公开法务联系

便于相关利益方

在感觉自己受到侵害

需要寻求法律知识的时候

那么能够及时的联系到

法务部门来进行受理

在事中的环节呢

那么对一家企业像快播这样的公司

一旦发现了涉黄涉版权的纠纷

在它的平台上传播

那么它都应该通过技术检测

来加强主动拦截

或者说做好日常的监控审计

对于监管部门或者用户举报的这类问题

要及时的安排查处

避免这样的风险扩大

在事后的环节

那么要对发生问题的相关的网站用户

进行封站处理

下线处理

同时要去

对内来检查自己部门内的业务流程

看看是不是有必要进行

业务流程的优化重建

补上一些组织上的漏洞

人员岗位上的漏洞

或者是安全责任上的漏洞

还要主动的听取法律部门的建议

来完善自己部门的法律体系

组织机构和责任体系

上面讲

企业可以从事前

事中

事后进行一些伦理的建设

加强这方面的责任

那么与企业自身的努力同步

我们技术团体

社会组织

专家 学者和政府也应当主动作为

加强研究

去积极的去揭示信息技术

大数据应用

人工智能应用

所带来的好的方面

和存在的一些风险

特别是伦理道德风险

实施及时有效的到位的监管

同时还要推动法律建设

及时能够跟上新技术发展的需要

从而提升对整个社会利益的

最大范围的保护

同学们

数据伦理问题

还是一个不断发展中的一个问题

本次课程介绍的只是中间的一部分内容

整个内容体系也受限于老师本人的一个

知识能力的范围

那么

我希望同学们在课后能够积极的

去探索实践

积累更多的经验

也欢迎同学们把你们的发现

把你们的感受分享给我

本次课程到此结束

谢谢大家