人工智能伦理在线视频

那么人工智能角色是什么

它肯定还是那个最基本的东西

我们认为它是工具

以前我们有很多觉得不可能

你比如说现在我们面对这个场景的时候

我们会说 有人就担心说

将来人工智能会消灭人类这个物种

变成这个世界的统治者

大家觉得不可能 为什么呢

因为它没有像我们一样的思维能力

然后这话很有道理

但是这个话特别熟悉

在我上本科的时候

那时候IBM就做出了一台机器

叫深蓝deep blue

在那之前大家就说

这个机器计算能力超过人了

但是智力活动它不可能超过人

比如说下棋

92年的时候他就做出来深蓝了

然后就把卡斯帕罗夫打败了

有胜有败

但是基本上至少那句话被打脸了

说不可能能胜得了人这事它已经发生了

世界冠军它都胜了

你不能说也许能胜世界冠军

不一定胜得了我

你这话就无聊了

总之就是它会智力活动了

就是会复杂的运算了

完了以后又有专家说

专家快变成贬义词了是吧

这个专家说这个东西

国际象棋特别简单

为什么呢

第一棋盘小

第二棋子种类多

棋子种类越多

你这个算法越简单

像围棋这种东西

变态啊

那么大棋盘

然后就两种棋子

这个是我们的技术怎么也发展不到那一步

说围棋 这种Go这个东西

这个机器能胜得了人

完了以后AlphaGo出来了

李世石又被打败了

什么柯洁什么的都去跟人家玩

你看又被打脸了

所以这个专家的预言我们很难去预测

当然也有一些预言是亘古不变

比如说地球会爆炸的

我也不说时间

然而AlphaGo

你看这中间经历了20多年的时间

20年 21年

然后AlphaGo出来了以后

他们就说你看它就是反正

它是用你所有的人的棋谱输进去

因为它算的快

所以它从中提取经验

所以它还是依赖于我们的经验的

这话也很有道理

但是过了不到两年时间

AlphaGo Zero就出来了

Zero什么意思

是我不需要依赖你的经验

我只需要告诉这个机器围棋规则是什么

两种棋子 361个点

然后怎么着判胜负

它自己去推演了

它就是瞎玩瞎玩

它也慢慢地玩出规律来了

我不需要你的经验

你告诉我怎么玩 我玩死你

就这个意思

然后大家又说了

专家反正是他不说话挣不到钱

所以又说你看它就是一台围棋嘛

它别的棋不行

然后AlphaGo Zero又出来了

它不是只是玩这个Go了

什么棋你告诉它都行

这个玩死你是吧

所以你看专家整天都被打脸

技术迭代的速度

已经远远地超出了我们的预期

另一方面什么是思维能力

我们现在都有这么多的什么语音识别

人脸识别 语音合成 表情合成

人就是一个黑箱子

你不用管它里边是怎么运行的

你只管它这个界面跟你之间发生什么

所以你管它思维活动干什么呀

你说现在好一点了是吧

前几年siri刚出来的时候

经常有人跟siri聊一晚上

那多好呀

这个小姑娘声音很好听

你想让她什么声音什么声音

她还不生气 更不摔东西是吧

但是这就是人的一些需求被她满足了

我们的需求在变

我们原来没这个需求

是因为原来没有这个技术

那什么是神仙啊

能感受到他 但是看不见摸不着

Siri就是神仙

所以这个另一方面

什么叫可能性小啊

第一 我们这么多人

不是说这屋这么多人

人类有70多亿个物种是吧

大家都学过数学 学过概率论

你所有的发生的可能性

都是概率乘以样本数

这就是我们林子大了什么鸟都有的理论依据

就是什么人都有

只不过是你没有机会遇到他

那么再回到技术本身

什么样的技术会发生

你比如说它没有思维能力

你认为它是吧

没准哪天打个雷闪个电它就有了

在我眼里边世界上最小的可能性是什么呀

是以前地球也是一个一团尘埃的星球

现在有在座各位

你现在面对一另外一团尘埃的时候

你觉得怎么可能

但是它确实发生了

所以我们确实是在某种程度上

对于一些技术的发展

我们应该有所约束

倒不是说不能做人工智能了

但是人工智能里边有些事不能做

这就像我们不是说不发展核能了

但是原子弹大家要慎重

各个国家不扩散

不扩散的意思就是我不能卖给无核国

朝鲜做不出来

我中国卖给他点 那不行

所以这个就是生物武器 化学武器 农药

还有一些人造的各种化工品

现在都有一些约束

在研究上我们克隆人有约束

那么在人工智能上我们也应该有所约束

对于这个场景后面会发生什么

这个有很多

大家看科幻小说

科幻小说无非是两类

一类是机器人的 一类是生化的

为什么只有这两类

也许还有别的

人类的追求目的是什么

人类的追求目的是永生

这个就是我可以不一定叫千秋万代

这个没有代了

我可以长生不老 对吧

所以在以前人类对美好生活的愿望

就是我希望自己永生

所以出现了宗教

除了解释问题以外也是给自己找一条路

找一条路还有不同的办法

有一些叫飞升

就是我从这个世界到另一个世界去了

这个东西叫反退 不要了

思想自由既是自由是吧

还有的呢是追求的就是在凡世长生不老

这个不死的肉身

这个都有是吧

现在吹牛的小说越来越多

基本上都是关于这个的

要么自己个人牛的不得了

要么自己上了另一个位面了

我也看一些

理解我儿子一点

现在来看技术的发展

让我们具备了一些可能性

就是利用技术来使我们永生

这个在古代也有

比如说葛洪是吧

我们化学始祖

这个炼丹就是一个技术过程

但是他炼完了说这个东西可以让你长生不老

这事就有问题

也有自然界里边

可能有自己长出来的仙丹

所以徐福带着500童男童女去找这个东西

所以后来又有了一些国家

这些都是我们对于美好生活的向往

我们要永生

但是现在永生

我们也可以通过这种电子的手段来永生

你看现在机器学习已经可以模仿你的语言

模仿你的表情

所以大家注意以后跟视频

来确定对方不是骗子也挺难的了

就得约定一些密码才行 说远了啊

后面你看它也在学习

它可以让它在表面上具备跟你一样的思维

产生一样的结论

它不需要用你同样的思维过程

大数据嘛 是吧

你这个 它这个整天记录你在干什么

然后遇到一件事在怎么做

它完全可以模仿你的日常行为

这一点我觉得我这个专家

还是认为它可能的

再往后微电子集成度越来越高

我们就完全可以

至少我们可以解决存储问题

这个存储和大脑存储机制不一样

但是能产生同样的效果 外部

里边全是黑盒子

另一方面它可以帮你去做一些事情

做一些任务

本身我们所有的工具都是为了帮你做任务

它可以外挂

你这个实在是累了

你给女朋友打电话

打着打着要睡着

你又怕她生气

你就让这个外挂去给她打电话就行了

它说话声音 表情包括语气都一样的

这是可能的是吧

你觉得有它挺好 它觉得你不太有用

哪一个是你 从外部是一样的

在你女朋友眼里边也觉得你看

它不得病 你老头疼

你这个我想说话的时候你老睡觉

但是现在很多科幻片里面

都把它作为一个描述永生的这个途径

这叫信息化了

你从黑客帝国到这个Lucy超体

都是这样了

但是这种情况

它不是所有人都希望这样发生的

那么就是在几十年前

咱们科幻小说的教父

就弄了这么一套定律

我小时候看的第一个动画片就是铁臂阿童木

里边有一条我就特别认同

就觉得未来的世界就是这样的

就是机器人永远不能伤害人类

我认为所有的机器人里边都会有赋值

它一伤害人类就跟撞墙上一样

可是发展到现在到处都是机器人了

这条规则没有任何人去设定它

所以实际上现在在学术界讨论的

就是怎么去设定这些规则

但是这些规则看起来特别有道理

一环套一环对吧

非常的有道理

40多年前的伟大预测

但是你去实施它的时候

仍然会遇到程序员困境

什么叫人类的整体利益

两个都认为自己正义的人

也会爆发一场不可挽回的战争

什么叫人类的整体利益

你连领袖级的人

圣人都无法界定

你这个程序员能去界定吗

还是你怎么把它数字化呀

还是让它自己去学

这一条就很难

你这一条没法设

你这底下的事儿都不好办了

因为它是大前提

那咱不说那个

你比如说这个下边这些

看到人类受到伤害而袖手旁观

什么程度的Action叫伤害

他拿着把刀明显地是

基本上活人也都认为他要杀人

这个我们可以判断是受害

伤害而且实际发生了

但是它有中间的界面很难清晰

比如说你这个男同学跟女同学一块出去

男同学讲了个笑话

女同学说讨厌

那这句话基本上伤害不大

她又用小拳头砸了你一下

这机器人就为难了

到底踹不踹是吧

就是这些东西

但是它都会发生的

就是你将来我们不一定有这些规则

但是也会有一些规则

就像我们约束核武器一样

你这个机器人的伦理

首先机器人 军用机器人就是用来杀伤的

无人机就是个机器人是吧

那什么叫机器人

不是说长成这样两条腿叫机器人

能够自主地执行任务就叫机器人

还有什么这些东西

这些实际上现在都没有约束

你看很多美剧它都是这样

它哪管你里边有没有平民呢

这些还有很多很多电影

黑客帝国 终结者这些