当前课程知识点:当代社会中的科学与技术 >  第五讲 科学技术与伦理 >  第七节 人工智能伦理 >  第七节 人工智能伦理

返回《当代社会中的科学与技术》慕课在线视频课程列表

第七节 人工智能伦理在线视频

下一节:第八节 负责任的技术创新

返回《当代社会中的科学与技术》慕课在线视频列表

第七节 人工智能伦理课程教案、知识点、字幕

各位同学

这一讲我们一起来探讨一下人工智能伦理

2016年和2017年

人工智能AlphaGo

分别战胜了世界围棋冠军李世石和柯洁

2017年10月

谷歌下属的Deep Mind公司

公布了最强版的阿尔法围棋

代号AlphaGo Zero

它不再需要学习历史的棋谱

仅仅依靠人工智能的计算

就能够提升自身的棋艺

汉森机器人公司生产的女机器人索菲亚

不仅可以模仿人的一举一动和面部表情

甚至拥有灵敏的反应能力

能够和人进行正常的对话和交流

再加上无人驾驶汽车 语音助手系统等等

这些事件给人类带来了无数的惊奇和震撼

同样也让人类感受到了巨大的恐惧和担忧

也许在不久的将来

那些曾经在科幻电影中出现的

机器人统治人类的现象将会变成现实

那么人工智能技能

将会对人类社会带来怎样的冲击呢

人工智能技术设计 运用和发展的伦理边界

又在哪里呢

这些都是我们今天需要关注的

人工智能伦理问题

科技哲学界普遍认为

科学技术与伦理

在人工智能的发展中扮演着同样重要的角色

科学技术引领技术的进步

而伦理道德规范研究的边界

美国学者安德森

在2007年的时候提出了机器伦理的概念

直指人工智能系统中的道德认知逻辑

以及人工智能载体行为后果的责任归属问题

国内学者认为

人工智能伦理

应该从机芯和人心两个方面展开讨论

相关研究分为人工智能道德哲学

人工智能道德算法

人工智能设计伦理

和人工智能社会伦理四个维度

面对人工智能技术带来的伦理挑战

各国政府和机构

也是纷纷出台了相关的政策法规

以规范推进人工智能伦理领域的研究和进步

2017年的7月

我国国务院

发布《新一代人工智能发展规划》时指出

要建立人工智能法律法规 伦理规范

和政策体系

形成人工智能安全评估与管控能力

2018年的4月

欧盟委员会发布《欧盟人工智能》提出

需要考虑建立适当的伦理和法律的框架

以便为技术创新提供法律的保障

2019年的2月11日

美国总统特朗普签署行政令

启动美国人工智能倡议

强调要制定与伦理有关联的人工智能治理标准

而2019年的5月25日

国内高校与科研机构

致力于人工智能伦理与安全规范的

《人工智能北京共识》发布

同时北京智源人工智能研究院

人工智能伦理与安全研究中心成立

这些举措都实实在在地告诉我们

在未来加强人工智能伦理研究与治理

十分的重要且必要

英国物理学家斯蒂芬·霍金曾经指出

人工智能日益强大的威力

使得机器人能够去复制自己

并且提高智能的速度

从而导致机器人可以学习智能

导致转折点或者叫技术奇点

2015年美国发明家和预言学家

库兹韦尔在《奇点临近》一书中指出

未来的20年中

人类智能将会大幅地提高

人类的未来也将会发生根本性的重塑

在奇点到来之际

机器将能通过人工智能进行自我的完善

超越人类

从而开启一个新的时代

英国伦敦帝国理工学院莫里·沙纳汉教授

在《技术奇点》一书中指出

随着技术的指数级的发展

这个奇点一定会到来

人工智能将会达到

甚至超越人类的智能

以色列青年历史学家

《人类简史》 《未来简史》

以及《今日简史》的作者

尤瓦尔·赫拉利描述了

未来人工智能发展的三个阶段

即弱人工智能 强人工智能和超人工智能

他预测超人工智能阶段

将在21世纪的40到60年代出现

到那个时候 整个社会就会裂变成两大阶层

其中99%的人沦为无用阶级

只有1%的人将完成下一次的生物进化

升级为新的物种

当然了 也有一些学者认为电脑和人工智能

是以认知主义和计算主义为基础的

这是一种知识论路径

而人本身则是一种超知识论的存在物

因此不管人工智能多么的智能

都将永远无法复制所有人类认知能力和创造力

尽管计算机能力和随之而来的人工智能软件

将会继续地去改进

但是与未来人工智能一起工作的

人类思维的组合

将比未来的人工智能系统

自身更加地去强大

也因此学者认为这个奇点是永远不可能出现的

在此我们不去讨论奇点的问题

我们只想结合一下人工智能

伦理领域的四个维度

来谈一谈未来人工智能可能带来的

伦理道德风险问题

那我们认为

未来的人工智能的发展

可能会带来至少四重的伦理风险

第一 人类个体价值的自我贬值

人工智能是以算法 大数据

和生物科学技术等等为基础的

在某种程度上来说

它是一种超越个体的集体脑

随着强人工(智能)时代的到来

人类整体的思维将会变得越来越重要

而个体生命将会

越来越沦为一种无关紧要的数据

在这种情况下

如何去重新认识

和反思人类自身的价值及其生命意义

就是极其重要的伦理问题

第二 人工智能算法的数据基础存在不确定性

人工智能的发展使得技术思潮中

技术决定论呈现出算法决定论

数据决定了这样的新形态

人工智能发展

是建立在算法和大数据统计之上的

但是这种数据和算法

不可能穷尽世界上一切可能的现象

或者是新的情况

因此在将人工智能投入使用之后

这种不确定性必然会引发一些新的社会风险

犹如核泄漏事故一样

这种风险的概率的不可预测性

和不可控制性将会大大的提升

阿西莫夫提出的机器人三定律

就是非常明显的例证

即 一 机器人不可以伤害人

或者通过不作为让任何人受到伤害

二 机器人必须遵从人类的指令

除非那个指令与第一定律相冲突

三 机器人必须保护自己的生存

条件是那样做与第一 第二定律没有冲突

第三 资本化运用中的人工智能设计

如果说机器的资本主义运用

将大部分的工人排斥在生产过程之外

沦为了相对过剩人口

那么在未来时代人工智能的资本化运用

将会冲击到各行各业

除了少数创造性劳动之外

人工智能将有可能取代各类的工人

成为就业市场的新宠

另一方面呢

新技术会带来巨大的经济增长

但是这种增长将会落入在少数国家

或者少数人的手里

而大部分民众是无法分享到

人工智能带来的经济发展成果的

马克思当年所预测的贫富差距

和两极分化趋势

就有可能变成现实

因此人工智能伦理要力图

将其设计目标引导向增进人类福祉

使得技术进步尽可能地福泽到人类的整体

而避免出现数字鸿沟

第四 军事化运用中的人工智能武器

那么在未来社会中

机器人统治人类的现象是否会出现

我们还不知道

但是有一点是可以确定的

人工智能的军事化运用

将是不可避免的

从现在的无人机到高级智能机器人

再到更加智能的新式武器

发达资本主义国家必然会将

各种先进的人工智能技术

运用到军事战争的领域

未来人工智能与人工智能

高级机器人与人类之间的对决

将可能出现在现实的战争情景中

2018年的7月

在斯德哥尔摩的

2018国际人工智能联合会议上

共有来自90个国家 160多个企业

或者机构的2400余名AI领域学者

共同签署了《禁止致命性自主武器宣言》

致命性自主武器系统

使用的问题之所以引发热议

正是因为人工智能在军事领域的应用

已经对国际安全

国际人道主义等等造成了严重的威胁和挑战

人工智能将对未来的人类社会产生巨大的影响

这一点已经成为了国际的共识

在第四次工业革命

和人工智能发展的时代大势面前

中国必须要迎头赶上

绝不可能因为担心人工智能

可能带来的风险就因噎废食

不过我们所需要的是一种为人类福祉服务的

善的社会和善的智能

也就是说善治和善智的良性的互动

而不是人类的智慧产物反过来奴役人本身

因此面对这些可能的风险

全面加强人工智能的风险研究

预防和治理已经不再是一句空话

而是未来社会的当务之急

那么未来的人工智能伦理研究

可以从哪些方面来展开呢

我们可以从国际 国家 社会三个层面

来试提几点人工智能伦理的任务

第一 从国际层面来看

我们必须要加强国际的交流

汇聚国际的共识

从技术层面和伦理层面

合力去建构国际规范体系

来有效的降低和防止人工智能的错用

甚至滥用

第二 从国家层面来看

应当确立以风险防范为核心的价值目标

构建以伦理为先导

以技术和法律为主导的

风险控制的综合治理体系

来为我国人工智能领域的健康发展保驾护航

第三 从社会层面来看 科学技术越发展

整个社会就越需要那种超越工具理性的

批判性思维和创新能力

这就需要伦理领域的研究

为人工智能技术安上一颗良心

从而有效实现善治与善智的有机融合

好 本节课我们就讲到这里

下节课我们一起来学习一下负责任的技术创新

当代社会中的科学与技术课程列表:

课程导学

-课程导学

-【测试】课程导学

第一讲 科学、技术及其相互关系

-第一节 当代社会为何要关注科学和技术

--第一节 当代社会为何要关注科学和技术

--【§1.1讨论】谈谈你对当代社会中科学技术重要性的理解

-第二节 历史上的科学(1)

--第二节 历史上的科学(1)

-第三节 历史上的科学(2)

--第三节 历史上的科学(2)

-【测试】科学、技术及其相互关系(第一节~第三节)

-第四节 科学的当代内涵

--第四节 科学的当代内涵

-第五节 何为技术

--第五节 何为技术

--【§1.5讨论】谈谈你对人与技术关系的看法

-第六节 科学与技术的关系

--第六节 科学与技术的关系

-【测试】科学、技术及其相互关系(第四节~第六节)

第二讲 科学技术与社会

-第一节 科学与社会的二分模型(1)

--第一节 科学与社会的二分模型(1)

-第二节 科学与社会的二分模型(2)

--第二节 科学与社会的二分模型(2)

--【§2.2讨论】谈谈你对“科学共同体”的看法

-第三节 二分模型的哲学批评

--第三节 二分模型的哲学批评

-【测试】科学技术与社会(第一节~第三节)

-第四节 社会建构论模型

--第四节 社会建构论模型

-第五节 社会建构论的哲学审视

--第五节 社会建构论的哲学审视

-第六节 互构模型

--第六节 互构模型

-第七节 互构模型的哲学审视

--第七节 互构模型的哲学审视

-【测试】科学技术与社会(第四节~第七节)

-第八节 技术与社会关系的两种决定论立场

--第八节 技术与社会关系的两种决定论立场

-第九节 技术与社会关系的互构论立场

--第九节 技术与社会关系的互构论立场

-【测试】科学技术与社会(第八节、第九节)

第三讲 科学技术与人文

-第一节 古代社会中的“科学”与人文

--第一节 古代社会中的“科学”与人文

--【§3.1讨论】你如何看待“李约瑟难题”

-第二节 走向分裂的两种文化

--第二节 走向分裂的两种文化

-第三节 科学与人文关系的两场争论

--第三节 科学与人文关系的两场争论

-第四节 斯诺命题与两种文化

--第四节 斯诺命题与两种文化

-【测试】科学技术与人文(第一节~第四节)

-第五节 从反思科学到“科学大战”(1)

--第五节 从反思科学到“科学大战”(1)

-第六节 从反思科学到“科学大战”(2)

--第六节 从反思科学到“科学大战”(2)

-第七节 如何实现科学和人文的融合

--第七节 如何实现科学和人文的融合

-【测试】科学技术与人文(第五节~第七节)

第四讲 科学规范与科学的社会运行

-第一节 科学社团及其历史作用

--第一节 科学社团及其历史作用

-第二节 科学规范及其历史变迁

--第二节 科学规范及其历史变迁

-第三节 科学的职业化与科学家的形象

--第三节 科学的职业化与科学家的形象

-第四节 科研不端行为及其治理

--第四节 科研不端行为及其治理

--【§4.4讨论】科研不端行为及其治理

-【测试】科学规范与科学的社会运行(第一节~第四节)

第五讲 科学技术与伦理

-第一节 生命伦理

--第一节 生命伦理

-第二节 生态伦理(1)

--第二节 生态伦理(1)

-第三节 生态伦理(2)

--第三节 生态伦理(2)

-【测试】科学技术与伦理(第一节~第三节)

-第四节 气候伦理(1)

--第四节 气候伦理(1)

-第五节 气候伦理(2)

--第五节 气候伦理(2)

-第六节 工程伦理

--第六节 工程伦理

-第七节 人工智能伦理

--第七节 人工智能伦理

-第八节 负责任的技术创新

--第八节 负责任的技术创新

--【§5.8讨论】当代社会中“负责任的技术创新”的重要性

-【测试】科学技术与伦理(第四节~第八节)

第七节 人工智能伦理笔记与讨论

也许你还感兴趣的课程:

© 柠檬大学-慕课导航 课程版权归原始院校所有,
本网站仅通过互联网进行慕课课程索引,不提供在线课程学习和视频,请同学们点击报名到课程提供网站进行学习。