第四节 人工智能创业伦理的治理平衡在线视频

在上一节中

来自中国科学院大学工程科学院的姜卉教授

为我们解读了如何提高

人工智能创业者的伦理决策和伦理领导力

那么今天我们来探讨一个新的有意思的话题

今年6月份

国家发布了新一代人工智能治理原则

发展负责任的人工智能

在这一篇原则报道当中

特别强调负责任这一个词

我们知道

在当今的人工智能时代

如果没有伦理的规范的话

那么人工智能技术不受人类所控制

其造成的社会风险可能对于人类社会

是一个毁灭性的打击

那么如果伦理规范过于严格的话

又可能会抑制人工智能的创新

这样一种环境之下

我们今天想问一问姜老师

我们究竟该如何去破解

这样一个矛盾的困境呢

好的

这是一个非常好的问题

实际上不止是在人工智能领域是这样子

在其他任何的我们说这种高科技领域吧

实际上都存在这样的问题

就是说如何我们的这个法律和伦理框架

如果框得太死的话

对吧

实际上它可能会遏制创新

因为毕竟创新嘛

它是一种新的产品

或者是一种新的事物的出现

那它实际上有这样的一种力量在里边

但是如果给框得过死的话

这种力量就冲破不出来了

这是我们所说的如果过严的话

就会遏制创新

但是如果我们的伦理规范

或者伦理监管过于松散的话

那么实际上又可能会给人类带来一些风险

甚至是毁灭性的打击

比如说咱们之前的这个

贺建奎的基因编辑事件

其实一个主要的原因

就是我们国家的伦理监管太过于松散了

所以世界上第一例基因编辑婴儿

是在中国诞生的

那实际上现在学术界有个词叫“伦理倾销”

也就是说

当你这样的一个国家

伦理监管过于松散的话

那么实际上一些新的这种创新性的课题

或者是这样的一些产业

那么就会在这样的国家落地

为什么呢

因为在这样的国家他不用负法律责任

所以

我们说它其实是一种矛盾

对吧

如果过严会遏制创新

如果过于松散又会引来社会风险

所以我们说这里边可能有个度的问题

那这里边我们说

提到一个词

“底线伦理”

也就是说在人工智能创业这个过程当中

那么创业者一定要坚守这个“底线伦理”

这是不可逾越的鸿沟

或者我们说不可逾越的底线

那么这种底线

甚至可以作为法律给它强制约束下来

这是我们所说的一方面

另外一方面

我们说这个“底线伦理”

它是一个大的框架

为什么是一个大的框架呢

就是说它是那种我们无论如何

都不能去触碰的这样一个框架

那我们要在这样一个框架当中行事

其实对于创业者来讲

他仍然会遇到这样的问题

就是哪些事该做

哪些事不该做

那么该做的事该如何去做

这样的一些问题

那么这就要求我们的创业者

他具备比较高的伦理素质

也就是说在这样一个相对比较自由的

这样一个大的框架里头

那么他自己能够去判断出这个事我能做

这个事我不能做

这个能做的事我应该这么做

所以对

还是又说到前边去了

就是我们创业者

他自身的伦理素质是格外重要的

姜老师

刚刚您所提到这个关于底线的问题

其实过去的创业领域的学者

也提出了这样一个论点

就是可持续创业也要坚持生态 社会

和经济的三重底线

那么今天我们所提到的

人工智能创业这一个底线又是什么呢

人工智能创业它其实跟传统创业

它有相似的地方

因为它其实是属于创业的一部分

对吧

只不过是因为它的产品具有智能性嘛

复杂性

所以它有它的特征

那实际上刚才你提到的这个可持续创业的

我们所说的经济 社会和生态

都应当去遵循

或者是应当遵守

但是由于我们所说的人工智能

它这个产品的智能性和复杂性

又会引来一些新的问题

那么实际上也就是说

在我们传统可持续创业的

这样的三重底线的基础之上

实际上人工智能创业它有它自己独特的

这样的一些伦理底线

那我举两个例子

其中的一个例子就是

我们说人工智能一旦发展到了一个

我们所说的这种智慧体的这样一个程度上

那我们可以想象一下

这个伦理规范是什么

伦理规范实际上它有社会性

它是约束我们人

其实在社会当中行事的这样一种框架

那你想想

当人工智能到了自己已经发展到这样一个

智慧体的这样一个程度上的时候

它自己也会想

它会有它的社会性

所以现在有一个名词嘛

叫“人工智能智慧社会”

这样的一个情况

或者叫“人工智能社会”

就是说它发展到一定程度的时候

它也会有社会属性的

那这时候可能就会出现

可能

当然这一天可能永远都不会到来

那可能就会出现

它认为我现在已经比人类要聪明了

对不对

那么人类应当听我的

我要建立我们人工智能的

价值观和伦理道德体系

来约束你们人类的行为

这就是我们所说的“底线伦理”

这一天我们是不可能让它到来的

就是我们一定在之前就给它框好

这就是我们所说的创业者

你不能制造出这种比我们人类智慧强很多

又不服人类这种控制和约束的这种智能体

这是我们所说的一个

我举两个例子

另外一个例子

其实跟这个是相关的

就是这个换句话来讲

就是人工智能发展到一定程度

它可能想要塑造自己的这样的一个社会形态

那么塑造自己这样的一个

社会价值观和伦理规范

来反过来制约人类

所以第二个红线就是

我们创造出来的人工智能

或者我们开发出来的人工智能

一定要服务于人类的福祉

全人类的福祉

这就是说

它不是说

比如说我们创造出来的人工智能

要服务于我们中国人民

不是这样的一个狭隘的这样的观念

它要服务于全人类

所以必须是这样的情况下

否则的话到那个时候

如果你没有这样的一个“底线伦理”

那国和国之间的竞争

把人工智能作为人工智能武器

那实际上这个社会真的是无法控制了

正如刚刚姜老师所提到的

作为人工智能创业者

不能够只关注于经济利益

同时也要重视社会风险

和生态风险这样的问题

那么最后

我们想问一问姜老师

您对中国未来的人工智能创业有什么展望呢

实际上是这样

其实我们看现在人工智能它的这个发展

已经是大势所趋了

可以说是

各个国家

包括欧盟 日本 美国

都把人工智能的发展

作为国家科技竞争的这样的一个重要的

（战略）对 是这样子的

所以在这种情况下

我们说人工智能创业

那么也是顺利了这样的一个大潮

顺应了这样的一个趋势

对吧

所以也是势不可挡

那我们说由于人工智能发展得特别快

而又由于这又赶上了这波热潮

所以我们说会有大量的创业者

进入到人工智能的这个领域

那这里面就会出现一个问题

就可能会出现我们所说这种鱼龙混杂

良莠不齐的情况

那又由于我们前面说过

这个人工智能产品它的这个智能性和复杂性

它的所带来的这种社会风险 生态风险

是我们无法充分认识的

对吧

其实每一个新的科技的产物

都有这样的一个特征

而由于人工智能它的这种智能性

它是跟人类可以相对的这样一个智慧体

那它所带来的风险可能就会更大

那这种情况下

我们说就更得加强我们这个

相应的伦理规范的这样的一些研究和应用

那么更得需要加强

我们关于人工智能创业这方面的伦理教育

那我们说人工智能创业

只有人工智能的硬技术

与人文智慧的软思想碰撞 融合

那么才会滋生出更多的优秀的创业公司

那李华晶老师的这门人工智能与创业智慧

可以说是生逢其时

那么在这样的一个时代

开这样的一门课程

那么这门课程必将给我们的创业者

以及潜在的创业者带来更多的创业智慧

谢谢姜老师对我们刚刚这一问题的解答

通过这几次对姜老师的访谈

我们对于人工智能创业时代下

人工智能创业的新特点

以及它对创业者的新要求

有了一个更加清晰的认识

在第三节当中

我们也一起讨论了如何提高

人工智能创业者的伦理决策和伦理领导力

在第四节当中

我们刚刚姜老师从底线思维的角度出发

来告诉我们如何去平衡好伦理规范

与人工智能创新之间的关系

上学期

姜老师

我也选修了一门商业伦理的专题课程

然后在这一门课程当中

这一门课程特别强调了

商业伦理与创业之间的关系

我想商业伦理与当前我们所提到的

人工智能创业的伦理之间

应该还是具有非常多的共通之处

当然

也会有一些差异

姜老师

您觉得呢

是这样的

的确

在当今的人工智能时代

我们特别希望通过这一门课程的学习

能够让大家更多的

让人工智能成为我们的好帮手

好推手和好助手

再一次感谢姜老师对于我们人工智能伦理

与人工智能创业之间问题的回答

谢谢

也谢谢你

大家好

不知道通过这四节同学们和姜老师的访谈

大家是否对这个新特征 新要求

以及领导力 决策力

还有这种规范底线的伦理思考

有了新的认识呢

说实话

我刚才通过对你们这个交流的这个

可以说学习

感受到这样一个问题

因为刚才两位同学

樊菲同学和王祖褀同学

他们的专业背景都是学经管类的

某种情况下他们学的是软科学

而人工智能我们了解到

您刚才也提到了

对吧

国家有很多这方面的技术 政策

甚至在教育领域里边

也都开设了很多这样的专业

有的学校还成立了人工智能学院等等

所以大概好像是有这样一个趋势

就是是不是在人工智能时代

想要去从事人工智能的创新创业

一定要学这个专业

或者要成为这个专业方面的大咖

才能够做这件事呢

不知道您怎么看

人工智能的这个硬专业 硬技术

和非专业人才的这种创新创业之间

这种可能矛盾的地方呢

能不能给我们大家一起分享一下您的想法

我简单重复下你的问题

您的意思就是说

在人工智能创新创业这里

就是我们是不是一定要

学习人工智能这个专业是吧

对

我个人觉得不是必要条件

为什么这么说呢

其实你看这个我们人类的创业历史

其实有不少的创业者

他并不具备相应的技术方面的专长和能力

那他也创业成功了

这是以往的创业历史能够给我们提供的借鉴

那针对人工智能创业也是这样子

因为人工智能

我们所说的它这个开发过程本身是有门槛的

对吧

但是我们说只要是这个创业者

他识别到了这个创业机会

他有这种创业的激情

他有这个想利用人工智能的产品

或者是人工智能的服务

来改变我们这个世界

我们这个社会的这样一种冲动

而且他又有相应的资源

那他就可以开展创业活动

这个我觉得二者之间没有必然的关系

非常感谢您的解答

这个姜老师刚才说的

让我一下想起了前段时间听到了

一位专门做人工智能技术方面

前研究院的院士提到了一个非常重要的问题

就是在人工智能发展的路上

它有基础研究

所以您刚才提到

这是基础研究层面

但是作为创新创业这个层面

它是希望对基础研究一个应用成果的转化

可能就像您刚才提到它落实到了一些产品端

对吧

它可能落实到了应用端

为更多的社会大众服务这个层面

所以把基础研究向一个社会成果转化

在这里我们还是有优势的

所以并不是说非得要学这门专业

或者成为这门专业的大咖

才能够来从事人工智能创业

是这样的吗

是这样的

好的

所以这也给了我们一些信息

当然也是姜老师一起提到这门课开设

咱们的一个定位

对吧

让人工智能的硬技术和人文机会的软思想

这个就包括人文 经管等等

这些社会科学思想

进行一个结合

所以大家可能也想到了

姜老师是来自中国科学院大学工程科学学院

某种情况下相比较我所在的经济管理学院

可能也是一个结合和碰撞

也是我们这门课最终的一个定位

姜老师

就是您刚才提到的让人工智能的硬技术

与人文智慧的软思想

在这样一个创新创业的时代

一起来牵手

是这样的

好的

非常感谢您对我们的启发

和对这个课程的锦上添花

也谢谢各位同学的参与

特别是您听了我们的访谈还有什么问题的话

我们平台有讨论区

也欢迎大家进行交流和留言

我们这次的课就到这里

谢谢