当前课程知识点:人工智能 > 6.机器学习 > 6.3归纳学习 > 6.3.2示例学习
示例学习是归纳学习的一种特例。它给学习者提供某一概念的一组正例和反例,学习者归纳出一个总的概念描述,并使这个描述适合于所有的正例,排除所有的反例。
一、示例学习主要有以下类别:
1.按例子的来源分类
① 例子来源于教师的示例学习
② 例子来源于学习者本身的示例学习
学习者明确知道自己的状态,但完全不清楚所要获取的概念。
③ 例子来源于学习者以外的外部环境的示例学习
例子的产生是随机的。
2.按例子的类型分类
① 仅利用正例的示例学习
这种学习方法会使推出的概念的外延扩大化。
② 利用正例和反例的示例学习
这是示例学习的一种典型方式,它用正例用来产生概念,用反例用来防止概念外延的扩大。
二、示例学习的模型的主要内容:
1.示例空间
是我们向系统提供的示教例子的集合。研究问题:例子质量,搜索方法。
2.解释过程
是从搜索到的示例中抽象出一般性的知识的归纳过程。解释方法:常量转换为变量,去掉条件,增加选择,曲线拟合等。
3.规则空间
是事务所具有的各种规律的集合。研究问题:对空间的要求,搜索方法
4.验证过程
是要从示例空间中选择新的示例,对刚刚归纳出的规则做进一步的验证和修改。
示例学习模型图
三、示例学习的解释方法
示例学习的解释方法是指解释过程从具体示例形成一般性知识所采用的归纳推理方法。最常用的解释方法有以下4种:
1.把常量转换为变量
把示例中的常量换成变量而得到一个一般性的规则。
2.去掉条件
把示例中的某些无关的子条件舍去。
3.增加选择
在析取条件中增加一个新的析取项。常用的增加析取项的方法有前件析取法和内部析取法两种
4.曲线拟合
对数值问题的归纳可采用最小二乘法进行曲线拟合 。
例:假设例子空间中有以下两个关于扑克牌中“同花”概念的示例:
示例1:花色(c1,梅花) ∧ 花色(c2,梅花) ∧ 花色(c3,梅花) ∧ 花色(c4,梅花)∧ 花色(c5,梅花) → 同花(c1, c2, c3, c4, c5)
示例2:花色(c1,红桃) ∧ 花色(c2,红桃) ∧ 花色(c3,红桃) ∧ 花色(c4,红桃)∧ 花色(c5,红桃) → 同花(c1, c2, c3, c4, c5)
其中,示例1表示5张梅花牌是同花,示例2表示5张红桃牌是同花。
解释过程:
(1) 把常量化为变量
例如,对这两个示例,只要把“梅花”和“红桃”用变量x代换,就可得到如下一般性的规则:
规则1:花色(c1,x) ∧ 花色(c2,x) ∧ 花色(c3,x) ∧ 花色(c4,x)∧ 花色(c5,x)→ 同花(c1, c2, c3, c4, c5)
(2)去掉条件
这种方法是要把示例中的某些无关的子条件舍去。例如,有如下示例:
示例3:花色(c1, 红桃)∧点数(c1,2)
∧花色(c2, 红桃)∧点数(c2,3)
∧花色(c3, 红桃)∧点数(c3,4)
∧花色(c4, 红桃)∧点数(c4,5)
∧花色(c5, 红桃)∧点数(c5,6)
→ 同花(c1, c2, c3, c4, c5)
为了学习同花的概念,除了需要把常量变为变量外,还需要把与花色无关的“点数”子条件舍去。这样也可得到上述规则1:
规则1:花色(c1,x) ∧ 花色(c2,x) ∧ 花色(c3,x) ∧ 花色(c4,x)∧ 花色(c5,x)→ 同花(c1, c2, c3, c4, c5)
(3)增加选择
在析取条件中增加一个新的析取项。包括前件析取法和内部析取法。
前件析取法:是通过对示例的前件的析取来形成知识的。例如:
示例4:点数(c1, J)→脸(c1)
示例5:点数(c1, Q)→脸(c1)
示例6:点数(c1, K)→脸(c1)
将各示例的前件进行析取,就可得到所要求的规则:
规则2:点数(c1, J)∨点数(c1, Q)∨点数(c1, K)→脸(c1)
内部析取法:是在示例的表示中使用集合与集合的成员关系来形成知识的。例如,有如下关于“脸牌”的示例:
示例7:点数c1∈{J}→脸(c1)
示例8:点数c1∈{Q}→脸(c1)
示例9:点数c1∈{K}→脸(c1)
用内部析取法,可得到如下规则:
规则3:点数(c1)∈{J, Q, K}→脸(c1)
(4)曲线拟合
对数值问题的归纳可采用曲线拟合法。假设示例空间中的每个示例(x, y, z)都是输入x, y与输出z之间关系的三元组。例如,有下3个示例:
示例10:(0, 2, 7)
示例11:(6, -1, 10)
示例12:(-1, -5, -16)
用最小二乘法进行曲线拟合,可得x, y, z之间关系的规则如下:
规则4:z=2x+3y+1
说明:在上述前三种方法中,方法(1)是把常量转换为变量;方法(2)是去掉合取项(约束条件);方法(3)是增加析取项。它们都是要扩大条件的适用范围。从归纳速度上看,方法(1)的归纳速度快,但容易出错;方法(2)归纳速度慢,但不容易出错。因此,在使用方法(1)时应特别小心。例如:
对示例4、示例5及示例6,若使用方法(1) ,则会归纳出如下的错误规则:
规则5:(错误)点数(c1, x)→脸(c1)
它说明,归纳过程是很容易出错的。
-1.1人工智能的定义与发展
--人工智能的诞生
--定义
--发展
-1.2智能的本质
--人类智能
--人工的智能
-1.3人工智能各学派的认知观
--AI的萌芽
-1.4人工智能的研究与应用领域
--AI的研究范围
--AI在中国
-资源推荐
--有趣的资源
-章节习题
-2.1知识的基本概念
-2.2状态空间法
--习题
-2.3问题归约法
-2.4谓词逻辑法
-章节习题
-3.1图搜索策略
--图搜索策略概述
-3.2盲目搜索策略
-3.3启发式搜索策略
-3.4消解原理
-章节习题
-4.1概述
--计算智能定义
-4.2神经网络
-4.3进化计算
-4.4蚁群算法
-4.5模拟退火算法
-4.6博弈搜索策略
--教师讲解:博弈树
--教师讲解:剪枝
-章节习题
-5.1专家系统概述
-5.2专家系统结构
--5.4 黑板模型
-5.3专家系统的应用与发展概况
-5.4专家系统实例
-6.1机器学习的基本概念
-6.2记忆学习
-6.3归纳学习
-- 6.3.3决策树学习
-6.4解释学习
-6.5神经学习
-章节习题
-7.1自然语言理解概述
--7.1.1概述
-7.2词法分析
--词法分析
-7.3句法分析
-7.4 统计语言建模
-7.5信息检索