应对伦理问题的基本框架在线视频

伦理的敏感性我们首先讲一个大的工程

这个工程在我们人类的工程史上

是有里程碑的意义的

不仅仅因为这个工程的社会影响力特别大

工程的参与者对待工程的态度

在工程的实施和最后结束的时候

他们的态度发生了很大的变化

而且这个工程作为一种管理的一种模式

成为后来很多大工程的效仿者

比如说后来的阿波罗的登月计划

包括我们国家的两弹一星计划

其实在工程组织管理上

都从这个工程也学到了很多

借鉴了很多组织的方法

这个工程就是曼哈顿工程

它开始是1942年到1945年

花了三年的时间

目的很明确

就是抢在德国之前把原子弹建造出来

提前结束战争

第一枚是在新墨西哥沙漠里试爆的

大家可以去看一本书叫做菊与刀

有同学看过吗

这本书其实和这个原子弹投到日本本土

有一些相关性

大家可以去看看

就是美国人对于这个战争

日本人对于战争的态度的一些评价

在这本书上其实是有所研究的

那在这里其实希望同学们去思考

工程和科学之间是什么一种关系

因为科学很多时候会体现出很多客观性

工程呢

工程会体现出很多社会性

正是因为工程有了很多社会性

所以工程才负载了很多很多的这种

不同群体之间的价值的诉求的冲突

才会有伦理的问题

大家其实可以看看这几张照片

我今年夏天的时候正好在美国参加4S大会

它的举办地就在新奥尔良

新奥尔良是美国的二战博物馆的所在地

所以我抽空去看了一下那个博物馆

其中有一个展厅就是曼哈顿工程的展厅

在展厅的展板上面非常清晰地

描述了原子核裂变的原理

并在黑板上展现出来

一个粒子去撞击这个原子核 让它裂变

用什么一种方式去撞击它

有很多方案

科学家在做评估

然后这个方案如果是可行的话

最后我要建造一个人工物

那么这个人工物是什么样子

你看这是在黑板上所描绘的草图

把这个草图要变成实实在在的一个大家伙

那我们怎么去构建它

那这是最后在新墨西哥沙漠最后成型的一个原子弹

所以大家其实可以看到

就是从一个科学原理

E=MC²

爱因斯坦所揭示出来这样一个科学原理

变成一个看得见摸得着的

大规模的一个杀伤性武器

它需要很多很多人类的智力去参与到里面去

理论 方法 材料 艺术 工艺上的种种难题去参与到它

所以这是一个巨大的工程

当时就耗资22亿美元

雇员有多少人呢

有61万人

其中有12.5万人就是原子弹的生产的工人

大家可以看到主要的基地有三个

一个是洛斯阿斯莫斯实验室

原子弹的原子能实验室

那么还有两个原子弹的这个工厂

有61万人参与到里面去

而且这个分布的地点

还有英国也有一些地方参与到里面

其中我们要说的一个非常重要的群体

就是科学家的群体

有一部分是要把这些科学原理变成工程物的

那当时是把纳粹德国的科学家之外的

世界上最优秀的核物理科学家

都吸纳到其中去

大家可以看到这张图

是洛斯阿斯莫斯实验室的主任奥本海默

非常英俊 也是非常有才华的一个人

那这张图是参与到这个原子弹决策的

一些核心人物

这是奥本海默 这是费米

都是响当当的人物

那这个人物叫做万尼瓦尔·布什(Vannevar Bush)

这个人是美国罗斯福总统的科学顾问

我把这放在这

待会还会讲到这个人

这个人他的影响是非常大的

当时科学家从事原子弹

他的价值诉求其实相对比较单纯

一个是早日结束这个战争

不要让原子弹落在纳粹德国人手里

那么第二个科学家有他的好奇心

我们怎么把一个科学原理变成一个人工物

怎么把它造出来

造出来是什么样子

是有这样好奇心的

但是这个原子弹真正爆炸的时候

科学家他对这个原子弹的这种思考

和刚开始的这种单纯的想法

有了很大的差别

结果没想到投下来之后

它的威力是科学家自己没想到的

广岛32.8万人

20万人5年之内死于原子弹的影响

2/3的建筑被摧毁

大家可以看到

寸草不生

那么长崎呢 25.9万人

有7万人在同一时期死去

其中这种放射性对人的影响也是非常大的

有研究3000名的婴儿尚在母腹当中

不管是心理还是生理其实都出现了一些影响

这个原子弹所造成的这种巨大的这种社会影响

那谁来承担这样一些原罪呢

其中有两个人物

他们的这种自责的心理是非常突出的

一个人是爱因斯坦

一件事就是给罗斯福总统写信

信中的内容其实有两个方面

一个方面就爱因斯坦的朋友去他那做客

就跟他讲说有两个消息

一个消息呢

你的E=MC²

我们发现其实可以用来做武器

那另外一个这个坏消息

就是德国人已经在刚果采取行动了

就是刚果的铀矿在开采

所以他当时他就想着我给比利时总统写信

因为当时刚果是比利时的殖民地

后来发现还是找美国

所以给罗斯福总统就写了这封信

那我这儿还放了另外一封信

这是在美国二战博物馆也拍的

这封信就是我刚刚提到那个人物

万尼瓦尔·布什(Vannevar Bush)写的

万尼瓦尔·布什(Vannevar Bush)在美国的科技政策领域

是非常有知名度的

他有一本书叫做《科学无止境的前沿》

在这本书中间他就倡导了基础研究

对于科学发展非常重要的作用

所以美国由此成立了国家科学基金会

他是罗斯福总统的非常信赖的一个科学顾问

他给罗斯福总统写的这封信

大家现在还可以看到这上面有绝密的字

当然现在已经开始解密了

那罗斯福总统拿到一个科学家的给他写的这封信

以及他自己信赖的科学顾问给他写的信

所以下定决心美国要抢在德国人之前

来把原子弹制造出来

这是这封信的这个中文的翻译

这是爱因斯坦和奥本海默

探讨原子弹的这个铀矿的提取的一个照片

他们合作过

爱因斯坦在1945年8月6号在纽约

他从纽约时报的记者那

得到了原子弹轰炸广岛的消息

他是感到极度震惊的

他说我现在最大的感想就是后悔

后悔不该给罗斯福总统写那封信

我当时要把原子弹从这一罪恶的杀人工具

从疯子希特勒手里抢过来

想不到的现在还把它送到另外一个疯子手里

我为什么要将几万无辜的男女老幼

作为这个新炸弹的活靶子呢

非常后悔

所以后来他致力于原子能的和平利用

在1948年他写给国际知识界和平大会的信中就提到

说作为世界各国的知识分子和学者

肩负着历史的重任

我们今天走到一起

我们从痛苦的经验中懂得光靠理性

还不足以解决我们生活的问题

深入的研究和专心致志的科学工作

常常给人类带来悲剧性的后果

科学家的悲剧性的命运使我们帮忙制造出了

更可怕威力更大的毁灭性的武器

因此防止这些武器被用于野蛮的目的

是我们义不容辞的责任

那这是爱因斯坦他特别后悔的

那么另外一个人物就是我刚才讲的这个奥本海默

奥本海默这个人能力是非常强的

甚至有些傲气

他当年在德国拿到博士学位的时候

他提交博士论文

答辩委员会的人没有人说话

后来去了伯克利当教授

学生对他也是特别崇拜

他还有一个特点

就是甚至有人认为有点不讲情面

就是他听讲座

不管上面是学生还是大名鼎鼎的教授

他有时候会冲上讲台

说我有一种方法比你的考虑的方法更加简单

就在黑板上把它画出来

当然这个人还有一个非常强的组织能力

所以这样一个重要的实验室

就得要有一个能力非常强的人去当主任

所以最后选定了他

但是原子弹最后爆炸的时候

这是他的这个后来采访的影像的资料

他说看到原子弹爆炸

他说我没想到

我对自己所完成的工作有点惊慌失措

我成了死神

世界的毁灭者的感觉

(他)后来和美国政府分道扬镳

其中有一次参加联合国大会

在这个很多记者面前

就跟美国后来的杜鲁门总统就讲

说总统我的双手沾满了鲜血

那总统也很恼火

说你是原子弹的设计者

那最后下命令的是我啊

奥本海默他后来说

无论是指责 讽刺或者赞扬

都不能使物理学家摆脱本能的内疚

因为他们知道

他们这种知识本来不应当拿来使用的

那我们可以看到一个优秀的科学家

或者把科学原理应用到工程物的这些工程师们

他们为什么会产生这么大的这种态度上的反差

这和工程上的一些特点有没有一些相关性

因为时间关系没法展开

我在这儿其实做了一个总结

第一个工程风险其实有很大的不确定性

就是我们往往对风险

我们总是用一个比较抽象的概念来进行描述

但是如果我们把发生风险的概率

以及我们对风险后果的了解程度

这个做一个象限区分的话

我们发现风险其实有很多类型

其中有一个类型叫做无知的状态

就是我又不知道它会发生什么风险

同时我又不知道它有多大程度会发生

那这是英国的科技政策学家 Andy Stirling

他在nature子刊上所发的一篇文章

这篇文章是讲转基因的风险的认知

他采访了转基因相关的一些行业的人士

有科学家 也有这些研究人员

他用他们对于转基因的技术的风险

用一个光谱来表示出来

大家其实可以在这张图上可以很清楚地看到

就是有些群体对于风险的认知

其实存在很多多样性的

diversity的这种趋势

也就是说对于科学家本身

他对于风险都没有一个确定的理解

那么第二个特点就是科林格里奇困境

科林格里奇困境讲的工程刚刚开始设计

或者建造的时候

我们其实很容易改变它

但那个时候它的风险不确定性我们很难去了解

但是随着工程的建造 使用

到了后期的阶段

我们很多时候是了解它的风险的

但是我们要改变它的时候

工程已经建起来了

所以很难去改变

所以在这里

对于那些有工程风险的担忧的那些工程师

或者是教育者行业人士来讲的话

我们如何去预防这些工程风险

是非常重要的一个话题

所以我们要强调的就是对工程风险的

或者是工程伦理的这种敏感性

这个例子我曾经也在别的课上给同学们去举过

就是纽约长岛的高速公路上的跨街天桥

有100多座跨街天桥

那这个天桥的设计者叫摩西斯

人们怀疑他是一个隐形的种族歧视者

因为这座天桥它连接的是纽约的长岛

长岛住着很多富人

富人在那里

他觉得自己的生活受到了影响

因为有很多流浪汉去那

影响到他的这个社会治安等等一些问题

那摩西斯这个桥它承载的一个功能

就是如何把这个社会治安的问题能够解决

大家可以去想一想

就是他最后怎么用在工程物的这样一个设计中间

去解决这个问题的

对我们同学来讲的话

我们的第一个标准是什么

我要变成一个卓越的工程师

我这座桥的质量一定要好 对吧

但是其实大家可以看到

我们在桥的背后

其实是有一定的群体和它是相关的

有富人的群体

还有一些流浪汉的群体

那摩西斯就很好地把这两个群体

通过这个桥的设计把它隔离开来

而且是通过我们看似比较客观的一些

技术人工物的设计来实现的

大家可以想想他是怎么做到的

同学们知道吗 去想一想

他做了一个调查

就是那部分人到长岛他是怎么过去的

交通工具

穷人呢

穷人坐大巴

富人呢

开小车

他们的高度一样吗

所以他把这个桥你看

低低的

大巴能不能过去

过不去

所以给大家一个提醒

就是工程的背后其实是有社会的因素在里面的

那这是摩西斯另外一个经典的案例

就是纽约的一个游泳池

这个游泳池白人和黑人都可以到里面去游泳

但是有一些移民

波多黎哥的移民身上有体味

有些人不喜欢跟他们在一起

怎么把这个游泳池设计

把这两个人群把它能分割开来

大家去想想游泳池用的最多的是什么

是水是不是

水有哪些特性

能把这两个人群分割开来

水温行不行

摩西斯就从这开始下手的

因为那些波多黎哥的移民不喜欢水太冷

所以这个游泳池的水

水温比别的游泳池水温要低不少

那么自然的就把这两个群体给分开了

所以对大家来讲的话

这个例子其实是提醒大家

就是我们工程的同学

往往比较看重于技术本身

但是你看工程它其实就是有它的社会性

它的社会性就和那些群体是相关的

那大家可以看看这个长凳上面有两个钉

它和哪些群体是相关的

他为什么要做这样两个设计

是为了美观吗

这两个长钉是和青少年滑板族相关的

他们喜欢在这上面玩一些滑板运动

那这两个钉子很明显告诉大家

你不要在这玩

要么就是对你自己身体可能造成伤害

要么你会破坏公物

因为时间关系其实我们没法做一些练习

大家其实可以看到我们现在讲无人驾驶汽车

我们同学都关注无人驾驶汽车的一些技术性能

但是无人驾驶汽车它能不能上路

不仅仅单单是技术上能不能实现的问题

而和一些社会因素相关的

那大家可以想想

有哪些社会群体和无人驾驶汽车相关

司机

对 司机有可能会失业

还有呢

交警 很好 还有交警

还有呢

发挥你们的想象力

快递 送快递的

有了这个智能的快递车

他们可能生计就会受到影响

很好

那其实我们简简单单看这个图

你看最近去年吧

在美国亚利桑那州吧

那个Uber的无人驾驶汽车出了车祸

那就涉及到保险公司

法院，谁来负责

这样一些群体对吧

当然我们乘客 行人 其他驾驶员

包括这个汽车的一些制造商 投资者

制造所需的那些原料以及那些原材料的工矿

采的那些采矿的那些工矿旁边那些周围的原住民

包括一些能源的供应商

发电厂旁边的一些居民

其实你可以想象把你的这个思维打开

你可以发现

这个展示出很多很多的这个利益群体在这里面

当然有些是核心的

有些是直接关联的

有些是间接关联的

那么这是我们给大家所了解的就是第一部分

就是我们要了解在这个工程设计过程中间

它是有一些利益相关者的

有一些这个群体他们对这个工程物

有不同的这个价值诉求

正是因为价值诉求的不同

所以会产生冲突

那伦理的抉择呢

如果你是工程师

你其实就要在中间去找寻一个合理的方案

所以伦理它是一种智慧

这个智慧是要把利益相关者的相应的利益

能够很好地去平衡它

用一些原则

用你自己的一些思考去平衡它

这是在实践中间所要考量的话题