4.3 科学技术的社会运行与人工智能治理 在线视频

科学技术是一把双刃剑

比如说人工智能的发展

他会对人类产生什么样的影响

它会不会科技成为一个异己的

力量

成为统治人控制人的力量

未来的人类 大家 我们的这种有机物

会不会被无机的机器人所统治

所统治

当然这是一个未知数

意味着我们要让科技在可控的范围内

符合我们的伦理的这样的范围内

它进行有效的运行

我们对科学技术的发展要注意

科技治理的问题

当然这也是我们教材里面所说的

科技社会的运行着一个

以社会建制的方式来进行运行

它是在一定的社会的规范之下

社会规范之下来进行运行

那么当然这种社会规范来制约

来调控科学技术发展的这种社会规范

我们需要从文化的角度

从科技自身发展规律角度

从社会需求的这些角度

我们来统筹考虑

我们对科学技术发展它所引发的风险

我们要怎么样

也应当能够有一定的这样一种评价

到底科技发展

比如说人工智能发展未来

它是利和弊

谁大谁小

我们如何来办

来考虑如何来规避风险

这都是我们必须要思考的问题

当然我们下面我们还要从

我们还要从科学技术

它的风险评价和决策角度

来给大家简单的分析一下

科学技术它的发展要考虑到

它可能面临的一些问题

它可能会带来的风险

当然这是由于科学技术

它是一把双刃剑

导致了这样一种结果

而我们一般认为科学技术它是价值中立

科学技术的风险主要是源于

我们人怎么样来使用这个技术

是技术的使用问题

当然科学技术在当代

在我们当下

它所引发的伦理层面的这样一种思考

甚至是一些争论争议

还是比较白热化的

那么科学技术到底是不是价值中立

我也希望我们同学大家要思考一下

因为我发现人工智能发展

前沿生物技术的发展

似乎对我们认为的科技的价值中立

科技这里面没有价值标准

科技与意识形态之间关系

我们这种传统认识

我觉得带来了一定的冲击

需要我们认真的去思考

比如说人工智能发展

我从宏观层面和大家说一下

那么我们看今年2月

2019年2月份

美国特朗普发布了一个美国

人工智能的倡议书

美国人工智能特朗普发布了

人工智能倡议

在倡议书里面他6次提到了价值

价值观

并且他也提出了人工智能发展

它要防止怎么样

中国和其他国家在人工智能发展

人工智能技术

对他们的价值文化价值观念的

这样一种冲击和影响

那么我们大家实际上你要注意观察的话

你会发现我们现在所谓的图像识别

计算机视觉是按道理说是技术

但是你在图像识别的过程中

你的算法你内在的从算法到你的数据

内在的会嵌入一些价值

价值观的一些东西

你的算法可能就存在一些什么

对不同肤质的人可能会有些偏见

那么这就意味着什么

人工智能这种技术和意识形态中

的价值观念

它里面耦合到了一起

那么这就让我们去思考人工智能属性

技术的属性

实际上关于人工智能技术属性

我们国家的新一代人工智能发展

这个规划里面已经明确提出

人工智能技术具有双重属性

一个是技术属性

一个是社会属性

并且是他这规划里面明确强调

我们要把握人工智能的技术水平

和社会属性的高度融合特征

这是什么意思

我们大家注意

因为现在人工智能科技的竞争

你当按照法国的总统

法国总马克龙他的这个说法

主要是什么

主要竞争是中美两国竞争

他说他们法国欧洲的这些国家

在人工智能技术的竞争这一块

他们没有优势

但是人工智能

是未来社会经济和产业发展的制高点

那么是战略必争的这样一个领域

欧洲它们如何来在下一轮的竞争中

能够占据优势地位呢

他们考虑什么

因为人工智能它内在的包含的价值观

价值标准

所以这些年欧洲非常关注

科学技术的伦理 伦理问题

他们早早地提出创新

应当是一个负责任的创新

他们今年4月份

欧盟发布了叫可信赖的

人工智能的伦理准则

他们发布这个组织

它们为什么要进行伦理研究

我们在座可能很多同学

我们理工科的同学

就是我们的科技这些东西没有关系

但是我们发现法国它做这个工作

是因为什么

它要抢占伦理准则制高点

因为如果你的算法通过他的检测

发现你这算法里面所包含的价值观念

和它制定的伦理准则不一致

那么你这个算法

你这项所谓的智能技术

就不能够在他的国家实施

对他的国家的企业是没有办法

用你这个技术的

他通过这个标准来建立一种新的

贸易保护的这样一个壁垒

所以我们大家能够看到这里面

伦理道德

科学技术

经济社会整个是交织在一起

我们现在常常说我们国家的创新

我们的发展

是被别人是卡脖子

或面对一些卡脖子的技术

比如说我们的芯片

但是你会发现

如果我们不提早在这种科技治理

这种所谓的价值观标准这一块

未雨绸缪

不仅会受到人家在芯片技术这一块

去看我们脖子

我们还会在伦理这个准则这块

被别人死死的卡住脖子

所以我们国家的科技的发展

我们面临西方将会面临西方

双重卡脖子风险

就是技术和伦理的双重卡风险

所以我们说我这里面给大家讲的是

从人工智能这个角度来看

那么除了人工智能

当今这个时代还有一项技术

还有一项技术也是怎么样

开始意识形态化

那么

这就是基因编辑前沿生物技术

我们大家看看基因编辑

基因能够干什么

理想的基因编辑能够帮助

我们人去定一些大家不喜欢的

一些基因片段给他敲除掉

当然我们可以加入一些我们喜欢

因为你的DNA就决定了

比如说你未来你想要个小孩

你孩子DNA到底什么样

决定未来孩子是什么

你想要一个聪明的漂亮的孩子

一个理性的孩子

他的一个怎么样

拥有高情商的这样一个孩子

那么我们都可以在基因这一块

进行编辑进行处理

进行处理

那么大家想想你喜欢什么样的孩子

这里面一个喜欢好恶

实际上就是与我们的价值标准

是联系在一起的

当然再提升一个高度

就和价值观

就和文化和意识形态联系在一起的

当然这是基因编辑这块

实际上前沿生物技术这里面有一个

还有什么叫合成生物学

人们说合成生物学

将会催生下一次的这种生物技术的革命

那么目前科学家们

那么他们做的一切可以让他

不是简单去做基因编辑这样的事情

他开始构建怎么样

新的遗传的密码

他用化学的方法来合成一些遗传因子

来构建一些生物体

比如说天津大学的一个团队

在酵母菌这一块

他做怎么样来合成新的酵母菌

这就再怎么样

合成新的生命中行不行

当然我们可以根据我们的这种信号

我们来合成我们的想要的

我们的合成生物

它可能是对某一种价值观念

对某种文化它有自己特殊的偏好

所以科学技术和意识形态和文化

紧密的怎么样

耦合在一起

科学技术是不是价值中立的

我想这个问题大家需要思考

在新时代如果科学技术它怎么样

它存在一种价值不中立的这样一种风险

那怎么办

我们就要考虑我们的研究

我们的创新

是不是负责任的

这个负责任不是怎么样对某一个小小群体

小团队的人怎么样负责任

不是为了满足某个人某些人的一己私利

我们可能还要从国家从人类社会

这种发展的高度来考虑科学技术

它的发展的所谓的负责任的创新问题

我们要考虑如何来来防范

科学技术它的双刃剑的效应

当然科学技术对经济对社会

对人类发展的影响

西方的一些学者

特别是从什么

他们从资本主义发展

这样一个现实的对象进行了分析

比如说西方马克思主义者

他就发扬了马克思主义

对资本主义这种批判精神

结合现代科学技术的一些发展

现在社会的一些变迁进行了反思

比如说法兰克福学派

他们就觉得现代科学技术的发展

在发挥正面这种社会作用的同时

也使人被怎么样

人变成了这种商品

消费者 使这个社会在成为富裕社会

富裕社会 在提高这种资本收益率过程中

又使这社会变成一个病态的社会

变成一个什么

单向度的这样一个城

比如说人工智能发展

从另外角度来解释所谓的单向度

我们长期的依赖于我们的手机

我们的交往方式

本来人和人怎么样

可以直接的这种交流对话

我们会发现我们现在喜欢怎么样

发个微信

那么用这样一种方式

甚至于俩夫妻俩同在一张床

直接可以对话的他也要通过微信

让这个信息在空间传播一个几十公里

然后怎么样再回到身边的

另外一个人的手机上

所以这是一种什么

人的是不是一种畸形的信息

交往的方式

是人的这种变化

生活方式的畸形的改变

所以这些东西都是需要我们去思考的

当然我重点在强调法兰克福学派

他说现代科学技术不是价值中立的

是不是价值中立刚才说我们要思考

那么现在的科学技术

有没有政治意向性呢

我们一般说来应当没有

但是人工智能的发展

特别是特朗普的美国的人工智能倡议书

我们看到他这里面充满了意识形态

政治影响的这样一种东西

当然科学技术的发展

它有可能成为控制人的一种新的形式

科学技术

似乎越来越具有了意识形态功能