第二节 人工智能伦理的难题与伦理方向的决定者在线视频

大家好

欢迎继续来探讨人工智能与创业智慧

我们上次课已经开始了

人工智能与创业伦理的问题

已经提到一个命题

人工智能之初应当性本善

这个定论背后是有现实的难度的

我们给大家留了一个实验难题叫电车难题

不知道大家课下是否去查找它的出处

那今天我们从这个实验入手

看看它跟人工智能创业有什么样的联系呢

这个电车难题的实验大致内容是这样的

一辆有轨电车

正朝向五个人驶去

你想要救这五个人

唯一的方法就是控制开关

让电车朝另一个方向的另一条轨道开过去

但是如果这样做

另一条轨道上还有一个人

你就会把这个人压死

在这样的场景下

你会选择打开开关换一条轨道吗

对此

麻省理工学院参考伦理实验这个思想难题

虽然可能不是一个真实的故事

但这个思想难题的设计

给了麻省理工学院这样的一个思路

他们用 用户应该撞向路人

还是撞向障碍物

撞向障碍物意味着谁会遇难啊

对

车里的乘客

他们设计了这样一个场景

在2016年启动了一个

名为道德机器的在线测试项目

收集整理公众的道德决策数据

可能有同学课下查找这个实验

会看到这样的测试

这个测试在2018年10月的

《自然》杂志发表了研究的阶段性发现

研究人员对九个不同的因素进行了测试

其中包括用户是更倾向撞到男性还是女性

选择拯救多数人还是少数人

牺牲年轻人还是老人

普通行人还是横穿马路的行人

甚至还会在地位低

和地位高的人之间做出选择

换句话说

我要去撞的那些人

地位 性别 年龄 背景等等

是否影响火车它的转向呢

这个研究收集了

来自233个国家和地区的数百万用户

共计四千多万个道德决策的数据

发现出一些还是具有一致性的

全球偏好

什么偏好呢

大家在做这种选择的时候

更倾向于拯救人类

而不是动物

拯救多数人

牺牲少数人

优先拯救儿童

不过这个思想实验的结果

还需要与实践的做法形成共振才行啊

刚才这些研究表明

比如说大家倾向于拯救多数人

牺牲少数人

但是如果那个少数人是自己的孩子

多数人是陌生人

这样的场景下

测试者会怎么样呢

不少测试者会放弃转向

保护少数人

是一个难题吧

所以在创业管理当中

很多企业在面对这样的难题

也在做相应的解决方案

奔驰公司曾经给出了非常正面的直接的回应

他们说奔驰的下一代无人驾驶车

会优先保证什么

车上乘客的安全

如果有可能拯救生命

那么一定要先救车上的乘客

可是大家又想了

车上的乘客人数多还是少啊

年轻还是年老啊

对吧

所以这样的回应又引发了一些新的争论

当然技术人员会提出来

这个现实的场景或者这种选择

有的人认为可能不存在或者是并不成立

但是这样的思想实验

让我们感受到的是应当性本善后面

在现实当中实现的时候

需要关注一些什么呢

类似像根据公司这样一些管理者

他们面对这些命题和难题的时候

又怎么做呢

顺着电车难题

我们就来看看创业者的做法

电车难题继续往下走

就来到了创业领域当中一个非常重要的问题

人工智能的伦理方向是由谁来决定的

如果我把人工智能

比作刚才那辆疾驰当中的电车

那如何能让这个电车做善事

除了电车的技术本身

大家想想还应该关注谁啊

对啊

电车技术本身控制这个开关转向的是谁呢

决定技术转向的人

所以有人首先想

如果想要人工智能这个技术性本善

先找谁啊

先找这个技术背后的人啊

那他这个技术跟哪些人有关呢

咱们在第一次课提到了三驾马车背后的人呢

哪三驾马车啊

算法 算力和算料

有人说人工智能技术的性本善

要去看看算法 算力 算料背后的人

让他们不犯错误

积极向善

那我们逐一来看

首先人工智能的算法它的标志是深度学习

很多搞算法的人

都在与人工神经网络打交道

可以说现在人工智能专业 技术 知识

爆发的背后

就有很多的学习者在学这些相关的知识

比如说算法方面的

深度学习方面的一些硬知识

但是我们来看一下

前文YouTube公司的例子

它不是在大火背后又链接了恐怖袭击嘛

原因出在哪里啊

就是算法出了问题

所以当时YouTube公司已经承认

说我们的算法的确是这样

说面板是通过算法触发的

有时会犯错

所以有人把板子打到技术员身上

那么你依赖顶尖的科学家

你一定要让他有责任

有伦理道德感

但是

依赖这些科学家来完善道德算法

解决人工智能伦理问题

也潜藏着巨大的风险

纽约大学有一个研究所AI Now

在2019年4月发布的报告中就发出警告

他们统计发现

人工智能领域教授中的女性

和有色人种比例严重不足

白人男性编码人员过多

哎

这有什么问题吗

大家想一下

如果算法背后的人群有这样一个

比例或者背景各方面的这些指标的一个失衡

有没有可能他算法出来的问题

就是这一些独特的

占据引导主导作用人的一些行为规律呢

就有可能带来潜在的无意识的偏见啊

当然

西方的研究拿到中国的情境也是这样

它背后所说的不止是种族 性别的问题

更多的就是提醒企业

就是在技术和社会当中做非常重要的

这个桥梁纽带作用的

这样一个经济行为主体

应该发布更多的

按照多元化的

除了种族和性别之外

这样一些补偿性的数据来规避多样化的危机

这里我们就想停一停

给大家介绍一下为什么单一不好

在人力资源招聘当中

有人已经发现

很多人会无意识的招聘一些跟自己像的人

还是不像的人啊

像的人

有的可能是有意识的

哎

这是看上去很投缘

跟我很像

有些人是无意识的在选择

那如果说算法背后的人群有多样化的危机

有偏食的情况

想想他们出来的

人工智能学习能力会怎么样呢

有人说算法不行

来算力

对

人工智能算力以芯片为标志

那具有专用的架构

会应用在云端 终端的不同场景

是实现算法的载体

比如战胜李世石的这个AlphaGo

它用了什么

用了1920个CPU和280个GPU

当然现在还有TPU

这个算力

它才能完成计算

虽然算力看上去好像是不是硬件啊

不好不坏啊

稳定的中间派

要注意

算力是支持算法的效率加速器

当人工智能伦理方向出了问题

那么算力水平越高

则带来的危害越大

错误的路上

你走的越快

死的越快嘛

对吧

这就不难理解

为什么很多人会把芯片的“芯”

草字头

解读为“心”片

算法背后的人解决人工智能的大脑问题

但算力背后的人

需要关注人工智能的心的问题

在技术领域里说

拔电源

虽然听的简单粗暴

那说明一个问题

就是一旦停止跳动了呢

就是给人工智能拔电源

它不做错事了嘛

拔电源

但它后面反映的就是

算力对人工智能伦理的一个重要的影响作用

不仅仅是算法

那还有什么呢

比如说对三驾马车还漏了一个

算料啊

大家想想

算法科学技术人员的算法

算力背后当然支撑着芯片这样的技术

算料

大家意识到了

算料不就是我们吗

对啊

就是海量的数据啊

海量的数据是哪来的呀

是谁的海量数据啊

算料意味着

没有数据就没有人工智能发展的土壤

那么引爆这次人工智能人潮的关键因素之一

就是大数据应用发展最后一公里的打通啊

那这些海量数据

又跟人工智能的伦理有什么关系呢

它背后的人不就是我们吗

咱们进一步来说

算料加工是存在道德问题的

数据的加工分析也有这样的一个风险

而始作俑者可能就是提供原材料的用户自身

比如大家听说过大数据杀熟

很多人在不知情的情况下

被人工智能这个最懂我的人伤的最深

人工智能大数据形成了用户的画像

了解了消费的习惯

进而可以精准的议价

听上去好像挺好

但是呢

用户愿意或能够做到不把数据

甚至隐私数据

会给人工智能吗

所以说从算料上来看

伦理的问题

我们可以反思停下来想想自己

我们是数据的提供者

有人说喂数据对吧

那么这个数据分析带来的一些

可能伦理道德上有偏差

跟谁有关啊

可能还跟我们会有关系

所以由上可见

人工智能算法 算力 算料背后的

程序员 科学家 工程师和消费者

都难以独当一面

让人工智能伦理转向

那么如何联合这些人和更多的人

让人工智能伦理不跑偏呢

我们这次课从三个角度做了分析

结果产生了新的问题

哪些人可能能集合而不跑偏呢

我们下次课把目光关注到这群人身上

创业者看看他如何实现的

好

谢谢大家