当前课程知识点：工程伦理 > 第十三章 全球化视野中的工程伦理 > 第十三章习题 > 10.6 大数据工程师职业伦理
同学们好
今天我们来跟大家一起讨论一下大数据
工程师的职业伦理
同学们在前面的学习中应该都对工程师的
职业伦理有了初步的了解
那就是说工程师应当以促进安全
健康和社会福祉
作为共同的职业伦理责任
这一节
我们专门针对从事或准备从事
大数据研究
和创新开发的科技人员
做出一些分析
我们先看一下这篇网络报道的题目
人工智能正在暗中窥视那些想自杀的人
并悄悄的阻止这一切
这种窥视
是不是让人感觉到很温暖
这实际上是中科院行为科学重点实验室的
互联网心理危机监测预警中心所进行的
自杀干预的实践
他们在收集研究数据的过程中
发现微博账号走饭
实际上是一个树洞
吸引了
相当多有自杀倾向的抑郁症患者来留言
团队于是用人工智能的技术手段
检索出中间有自杀意念的微博账号
然后用他们团队拥有的一个账号
心理地图PsyMap
自动地去给对方发送私信
精准地投放一些帮助的信息
慢慢地团队就收到了一些患者的回信
其中也有一些人受到了鼓励
得到了心理学上的一些有效的支持
逐渐脱离了抑郁状态
重新开始积极的人生
再看一个相反的例子
前几年
一项基于
几十万个Facebook用户账号研究
悲观或者乐观情绪
是否会传染
这样一篇论文公开发表了
很快引起了伦理批评
因为研究者在没有提前通知被试者
明示可能存在的心理风险的情况下
他随机地从Facebook的用户中间
抽取了几十万个用户
并且分成了两个组
对其中的一组
人工调控他所能看见的帖子中间
呈现出悲观乐观的情绪的占比
他实际上就是调了一下顺序
把那些
相对来讲相对悲观的放在前面
让你更容易看见
或者是说把相对乐观的放到前面
研究结果证明了科学家的假设
就是悲观或乐观情绪是会感染的
批评者指责这项研究
缺乏对被试者的尊重
违背了知情同意的原则
有可能对那些
接受更多的负面信息的被试者
造成不可逆转的心理损伤
所以有悖学术伦理
那么
这项研究也让研究界提出了开始思考
开始提出
使用公开的社交媒体大数据进行研究
需要遵从什么样的学术伦理规范
那么大家比较同意的有这么几点
比如说
一定要对数据进行匿名化的处理
一定要保证研究数据的公开
透明
这里的透明主要的是含义是可以被审计
可以被问责
要尊重被试的意愿
要进行明显的风险揭示
要有知情同意这个环节
有的还必须经过确定的伦理审查
才可以开始进行
研究
第二点
我们讲一讲国内外的学术团体
行业协会在工程师
大数据工程师
职业伦理建设方面的一些工作
由于大数据应用存在相当大的
跨越传统领域边界
渗入社会生活的这种伦理风险
一些行业协会
学术团体
比如说
国际电子电气工程师学会
抓紧开始研究大数据伦理
人工智能伦理
研究和从业人员的规范
这些工作当下都在进行中间
我也是不断的在跟踪
这里就举出两个案例跟同学们分享
也希望同学们课后能够自己查找
主动的学习
特别是对于那些有志于从事这个行业的
工程师们
未来的工程师们
一定要了解这些工作
第1个呢
是国际电子电气工程师学会
就是我们说的IEEE
它是全球最大的信息类
学者工程师的学术性组织
2016年底的时候
他们就针对人工智能和自主无人系统的
伦理思考
制定了一个文本
发出了全球倡议
并在积极的组织研讨
传播共识
不断的在推进
另外一个是世界工程组织联合会
WFEO
那么现在WFEO的主席
是我们国家的巩克教授刚刚就任
他已经在国际的大会上提出了要制定
推动制定大数据和人工智能伦理的规则
便于推进工程伦理
特别是
对于这些工程师们的这些职业伦理
进行一些倡导
在这些文本中间
它的核心的伦理价值包括
重视人类共同利益
保证新技术不侵犯人权
要做负责任的科技创新
也要保证这个过程中间可以被追责
被问责
要保持算法运作的透明性
要在全社会同步提升伦理教育和安全意识
让更多的人
都能够建立起一个伦理的风险意识
和防范的一种能力
最后我结合快播案
对本次课程进行一个总结
据媒体报道
在2016年的1月8日
深圳快播公司涉黄案在北京市海淀法院
一审开庭
快播的CEO等4名高层
出庭受审
控辩的文字实录很快上网发布
一位高管在为自己辩护中说出
做技术不可耻
引起了很多工程师的共鸣
也引发了网友的热议
经过一审二审
该公司和相关责任人最终被判有罪
受到了法律的制裁
在这个案例中间
有两个主要的伦理问题
第1个呢
是网上的议论
表明很多工程师啊
还认为技术是中立的
这个认识是错误的
在我们这门课程工程伦理课程中间
就一直在强调了这一点
技术绝对不是中立的
因为我们每个人用技术来创造价值
他是有目的的
有价值观的
第2个伦理问题呢
就是对于信息技术大数据领域
有一些特别的特点
在我们大数据领域
在信息技术领域
法律建设往往滞后于信息技术的创新
所以在这时候伦理道德更重要来进行一些
社会关系的调节
社会利益
多方利益的调整
当你开决定开启大数据
人工智能等新技术创新的征途
要想使得基业长青
就必须提前做好部署
规范伦理建设
履行伦理责任
对于一家企业而言
或者说对于未来运行一家企业的
相关人员来说
我们可以从事前
事中
事
后三个环节来加强伦理建设
采取一定的措施
提高安全防范
从事前来说
主要就是要建立一个数据安全体系
和责任体系
那这里面呢
首先要做的一些事情是
要基于社会主义的核心价值观
建立良好的员工教育体系和安全工作架构
第2点
要加强对产品的安全风险评估
和伦理审查
减少风险的发生
第3点
对于仍然存在难以避免的风险
应该公开告知民事风险
第4点
公司应当公开法务联系
便于相关利益方
在感觉自己受到侵害
需要寻求法律知识的时候
那么能够及时的联系到
法务部门来进行受理
在事中的环节呢
那么对一家企业像快播这样的公司
一旦发现了涉黄涉版权的纠纷
在它的平台上传播
那么它都应该通过技术检测
来加强主动拦截
或者说做好日常的监控审计
对于监管部门或者用户举报的这类问题
要及时的安排查处
避免这样的风险扩大
在事后的环节
那么要对发生问题的相关的网站用户
进行封站处理
下线处理
同时要去
对内来检查自己部门内的业务流程
看看是不是有必要进行
业务流程的优化重建
补上一些组织上的漏洞
人员岗位上的漏洞
或者是安全责任上的漏洞
还要主动的听取法律部门的建议
来完善自己部门的法律体系
组织机构和责任体系
上面讲
企业可以从事前
事中
事后进行一些伦理的建设
加强这方面的责任
那么与企业自身的努力同步
我们技术团体
社会组织
专家 学者和政府也应当主动作为
加强研究
去积极的去揭示信息技术
大数据应用
人工智能应用
所带来的好的方面
和存在的一些风险
特别是伦理道德风险
实施及时有效的到位的监管
同时还要推动法律建设
及时能够跟上新技术发展的需要
从而提升对整个社会利益的
最大范围的保护
同学们
数据伦理问题
还是一个不断发展中的一个问题
本次课程介绍的只是中间的一部分内容
整个内容体系也受限于老师本人的一个
知识能力的范围
那么
我希望同学们在课后能够积极的
去探索实践
积累更多的经验
也欢迎同学们把你们的发现
把你们的感受分享给我
本次课程到此结束
谢谢大家
-配套教材
-讨论题1
-讨论题2
-第一章 习题
-讨论题1
-讨论题2
-第二章习题
-讨论题1
-讨论题2
-第三章习题
-第四章习题
-材料讨论
-第五章习题
-讨论题1
-讨论题2
-第六章
-讨论题1
-讨论题2
-第七章作业
-材料讨论
-讨论题2
-第八章习题
-讨论1
-讨论题2
-第九章习题
-讨论题1
-讨论题2
-讨论题1
-讨论题2
-第十章习题
-第十一章习题
-讨论题1
-讨论题2
-第十二章习题
-讨论题1
-讨论题2
-讨论题3
-第十三章习题
