当前课程知识点：职业伦理 > 第四章 科技伦理 > 4.3 相关研究的困境（以无人驾驶的伦理问题为例） > 研究的困境以及无人驾驶伦理问题
所以我们要考虑这是一个窗口
我们怎么去对待这个窗口
那么这里边就是人工智能
其实是一个例子
它里边包括涉及到了很多方面
科技工作者会面对一些伦理困境 第一
第二 技术总会被技术本身推动
说白了具备能力的人越来越多
那么有些事总会有人干的
你不许用核武器 它也在用 它也在做
你这个不许干这个不许干那个是吧
大家住宾馆
这里边要防止有摄像头什么的是吧
它总会被应用
所以我们要在这些方面要考虑一些约束了
这就像我们要防止动物园的动物都跑出来
这隔壁要是把笼子都打开
我们怎么办 不知道
首先我们要有社会规则约束着
不能把笼子都打开
第二 居安思危 大家锻炼好身体啊
这个是一个程序员困境
无人车上路 它要面对一些场景
比如说它前面突然出现了两个摩托车
一个戴着头盔 一个没戴头盔
程序员怎么去让这个无人车去动作
撞谁
来不及刹车了
也来不及打轮了
但是偏一下只撞一个是可以的
必然是不行的
总要撞一个 撞谁
这就是伦理问题
因为这里边大家肯定有人认为应该撞那个戴头盔的
因为他不容易被撞死
其实这个人的下意识反应也会是这样
大部分人会是这样
也有人认为应该去撞那个不带头盔的
他活该
因为我们肯定规定你出来得带头盔呀对吧
这里边这就是一个悖论
这个悖论到底应该怎么做还是次要的
关键是这个程序员该怎么办
这就是你研究过程中要面对的场景
这个场景你可以假设的
如果前面有人 车要刹车
或者是转弯
但是来不及刹车的时候怎么办
这个到底是以哪个角度撞上去伤害最小
这个还好 但关键是你有的选的时候
这个在国际上也有很多类似的悖论问题
比如说铁轨的那个问题
一个火车朝前开
在它正前方铁轨上站着5个人
但是边上有一条废弃的铁轨
它可以转过去
那上面有一个人
司机应该怎么选择
对吧 这都是悖论
他如果撞了5个人
那个人活下来了
他伤害了5个人
但他如果撞这一个人
保住了5条生命
这伤害了一条生命
但是那个人太无辜了
火车不该出现在那
而那5个人是他们不该出现在那儿
所以这些事情要讨论也能讨论很久
但是就是说你问题在于
这些事情大家都没有定论
连政府连法律都没有定论
你让程序员怎么办呀
那个火车要自动驾驶的话
这种情况怎么办
这个汽车自动驾驶
这种情况怎么办
所以这就是研究人员面对的一些困境
回过头再说
我们用的技术都是考虑全面的吗
都不是
没有一个技术是完善了才推入市场的
你就是人驾驶的汽车
它不也经常发生故障吗
刹车失灵 爆胎 这些都有可能
气囊没事了自己炸出来
这些它都是以一定的需求为牵引
做出来的东西
但是这些东西可能在你使用过程中
发生你不期望的情况
自动驾驶汽车也一样
所以这个回过头来就是我们做的所有技术
都会推动我们工具的进步
而我们的好奇心也好 需求也好
绝对不会等到我们把这件事做得很完美了
它才会发生
自动驾驶汽车现在热的不得了
到处在做什么L0到L5
这个都有人做
但是也是必然
反正卖的多了
你几百万辆卖出去
它不可能一台都不出事
再完美也会出事
你像特斯拉已经出事
号称是第一命案
我们也不去追究它是不是第一起
但是到现在为止它也一直在发生
不是一起两起了
这个事它怎么发生的呢
是因为你是用的人工视觉
它前面横着一个底盘特别高的大货柜车
它没有判断它是车
甚至没有判断前面有车
它就撞上去了
这就跟我们打个盹儿
不是打个盹儿
就是我们看见前面放着张报纸
我觉得没事 我撞上去了
其实报纸下面是个铁疙瘩
你判断错了呀
所以这个就是发生了命案
这发生了命案就是说我们技术不成熟
但回过头来
我没有去具体地研究这个事故它怎么处理
我觉得我作为一个社会人
我就会想这个责任到底是谁的
它是L3的 L2 L3的
它就不应该这样
开着车手离开方向盘冲着你笑
但是这不是那个瞬间
但就是说它的设定不是这样
司机有驾驶的错误
但另一方面这个司机认为它宣传上
你前面就是这么大个车
你居然会认不出来
特斯拉应该负责任
特斯拉就想我这个全是外包的呀
这是人工智能公司给我做的程序
我那个摄像头它拍出来
它导致它不清晰
那你说到底是摄像头公司
还是人工智能公司
然后人工智能公司说了
这事也没有人跟我说不行啊
反正就是这个体系现在不健全
后边反正总会有一些处理方式的
现在深圳 北京这个都有
这都是前年我弄上来的
这个自动驾驶
北京三部门允许自动驾驶上路路测
这都是前年的了
现在历史的车轮滚得特别快
现在路上已经开始有人玩这个了是吧
就是我们骑自行车还要练这撒把
深圳也有了
所以大家出门要注意安全
那么回过头就是这些东西
都是我们在做的事情
-1.1 概念辨析：道德与伦理
--作业：下列关于伦理和道德的描述正确的是
-1.2 常识性道德的局限
--常识性道德的局限
--作业：常识性道德有哪些局限
-1.3 常识性道德的局限：伦理电影解析
-1.4 道德理论：美德伦理学、功利主义
--作业：美德伦理学的主要观点
-1.5 道德理论：义务论、自然权利理论
-2.1 思想实验
--思想实验
--讨论：电车难题
-2.2 伦理原则之一
--行善原则
--作业：以下哪条符合行善原则
-2.3 伦理原则之二
--不伤害原则
-2.4 伦理原则之三
--作业：效益原则
-2.5 伦理原则之四
--自主原则
--作业：请举若干现实中违反自主原则的例子，并加以分析
-2.6 伦理原则之五
--其他几种原则
-3.1 基本概念
--基本概念
--作业
-3.2 科研不端行为的种类之一
-3.3 科研不端行为的种类之二
--作业
-3.4 科研不端行为的种类之三
--作业
-4.1 科技的概念、科技的两面性、科技角色的转换
--科技最重要的作用是什么
-4.2 科技伦理的概念及案例
-4.3 相关研究的困境（以无人驾驶的伦理问题为例）
-4.4 人工智能：机器人伦理
--人工智能伦理
-4.5 生物科技与生命伦理
-4.6 技术的发展与应用、技术被滥用的案例
--举例说明其它技术被滥用的案例，并讨论其中涉及的科技伦理。
--对未来技术发展可能面临的科技伦理问题的思考
-5.1 工程伦理基本概念
--工程伦理基本概念
--作业
-5.2 应对伦理问题的基本框架
--作业
-5.3 工程风险与伦理敏感性
-5.4 工程的规范与原则
--工程的规范与原则
-5.5 伦理情境中的方法
--伦理情境中的方法
-6.1 导引
--导引
-6.2 多重关系举例之一
--多重关系举例之一
-6.3 多重关系举例之二
--多重关系举例之二
-6.4 多重关系举例之三
--多重关系举例之三
-6.5 多重关系的界定与评估、界限侵犯与界限跨越
--哪些关系会影响职场关系？
-6.6 胜任力和专业责任感
-7.1 社会固化与不平等：网络反馈与贫困陷阱（Immobility and Inequality: Network Feedback and Poverty Traps）
-7.2 连接，但是群体性孤独（Connected, but Alone Together）
--连接，但是群体性孤独（Connected, but Alone Together）
--网络自我的三种新状态
-7.3 福格行为模型（Hooked: Fogg's Behavior Model）
--福格行为模型（Hooked: Fogg's Behavior Model）
--解释Fogg Behavior Model
-7.4 数字时代的对话力量（The Power of talk in a Digital Age）
