7.4一维优化-进退试算法在线视频

各位同学大家好

今天我们继续学习

现代设计方法学第七章

机械优化设计这一部分的内容

那么在上节课我们给大家提到了

在

优化设计的求解过程当中

我们最常用的一种求解方法

就是数值迭代法

那么今天呢我们在讲新的内容之前

我们先把上节课的内容

我们简要的总结一下

数值迭代方法是我们机械优化设计

求解的最常用的这样的一种方法

那么对于数值迭代这样一种方法来说

它的迭代的格式或者说求解的步骤是

首先我们在设计空间当中给出

迭代的初始点

那么这个迭代的初始点大家需要注意

那么在有些优化算法当中

初始迭代点

也就是我们现在这地方显示的x0点

是可以在设计空间当中任意取值的

但是在有些优化算法当中

对初始点的选择有明确的规定

所以我们大家在后边在学习到

具体算法的时候

我们大家需要注意

那选定了这样一个初始点之后

那接下来的问题就是

我朝哪个方向来走的问题

也就是在整个的设计空间当中

我是大海捞针式的

去寻找我们的最优点

还是说沿着某一个特定的方向

来进行搜索

那么方向的确定

这是在数值迭代方法当中

非常重要的一个内容

那么方向的确定

是和我们的优化算法有着直接的关系

不同的优化算法会有不同的搜索方向

当我们的搜索方向确定之后

那接下来的问题就是

我们沿着这个方向

应该要走多远的问题

所以也就是我们在这里提到的

迭代步长

那么步长的选择不是我们随意来定的

而是我们要选择在这个方向上

最优的一个步长

那么这个步长呢

我们应该根据

在这个搜索方向上函数值下降最大的

这样的一个步长

来作为我们这里的迭代步长

所以在优化算法当中

大家一定要格外注意的是

它的搜索方向的确定

和迭代步长α的确定

那么这两个参数一旦确定了之后

那我们的新点就可以产生了

因为

我们的初始点现在是已知的

知道了搜索方向

知道了迭代步长

我们的第一个点就可以来确定

那么确定了这样一个新点之后

那么我们判断这个新点是不是我们的

最优点

那么如果这个新点不是我们的最优点

那么我们需要继续迭代

那么在上节课

我们也曾经给大家提到过

如何来判断

新生成的这个点是不是一个最优解呢

那么我们提到了三种优化迭代的

终止准则

那么第一个准则我们是点距最小准则

也就是相邻的新旧两个点

之间的距离足够小

那么还有函数值下降量足够小

那么以及我们的梯度足够小

所以根据这样的三个迭代终止的

判断准则

我们就能判断我们新生成的这个点

是不是我们的最优解

如果不是 我们反复迭代

直到得到我们的最优点为止

这就是我们数值迭代法的一般过程

那么如果我们用式子

给它表示出来的话

大家可以看到

那么我们如果现在从X(K)点出发

选定了

方向为S(K)

步长为αk的话

那我们的新的一点k+1点

那么用向量的形式就可以表示为

X(K+1)等于X(K)加上步长αk*S（K）

根据确定的这样一个公式

一步一步的重复计算就可以了

直到逼近我们的极小点

这就是我们的数值迭代方法

所以从上面的分析当中我们可以看到

数值迭代方法

来寻求最优点x*的这样一个过程

我们可以看到

它实际上就是要解决三个问题

一个问题是

我们要如何来确定我们的步长α

第二个我们怎么样来

确定我们的搜索方向

第三个我们如何判断

它是否找到了这样一个最优点

所以大家如果能够

准确的回答这样的三个问题

那么就对数值迭代方法的

基本概念就搞清楚了

好

那么回顾完上节课的内容之后

那接下来从今天开始

我们要进入到具体的优化算法

那今天呢

我们首先先来看一下

一维的优化问题求解

那么对于一维的优化问题求解来说

我们试着来看一下刚才

数值迭代方法当中的三个问题

由于它是一个一维的优化问题

所以它的搜索方向是确定的

因为只有一个方向

所以我们只能沿着这样一个方向

来进行寻找

所以S(K)是确定的

那么如果我们再选定了初始点

x0或者我们对于k点来说

我们选定了X(K)之后

那么这样的话我们看到

X(K+1)点也就是我们的新点

就可以来确定

那么它的确定我们可以看到

也就X(K+1)点应该等于

我们的初始点X(K)

再加上一个步长α乘上一个S(K)

那么这里面我们来看一下

X(K)是已知的S(K)也已知

那么剩下的一个问题就是

α我们如何来确定

那么α的确定我们在这里先给大家

初步的去

讨论一下

那么α的确定我们可以看到

在X(K+1)的表达式里面

X(K) S(K) 它是已知量

那么唯一的一个未知量是αk

因为我们现在是一个优化问题的求解

我们是想要求得目标函数的极小值

那么 因此我们可以看到

我们把得到的X(K+1)点

这样一个坐标代入到

我们的目标函数当中

我们去求k+1点的目标函数值

让这个目标函数值

取它的极小值

那么这样的一个问题

大家可以看到

我们求合适步长的问题

就转变成了一个一维变量极值的问题

那么对于一维变量极值的问题来说

那么这个我们大家在高等数学当中

我们都已经学过

我们就利用高等数学当中学过的

极值的求解方法就可以了

也就是求它的一阶导数为零

根据一阶导数为零我们去求α的值

那么解出来的这个值就是我们在这里

应该要选择的合适的步长

所以对于一维的优化问题来说

我们不存在方向确定的这样一个问题

因为它只有一个方向

接下来我们来看一下一维的搜索方法

虽然它的方向是确定的

那么接下来我们应该如何来走呢

我们应该在一个什么样的空间当中

来进行寻找呢

那么在这里面大家需要注意

对于一维的搜索方法来说

我们首先在方向S(K)上

要确定一个包含函数

极小点的初始区间

也就是说 我们

要确定的这样一个搜索区域当中

它必须要包含我们的极值

这样的话

我们才能够去找到这样一个极值点

极值的这样一个区间

是一个什么样的特点的区间呢

它应该是一个单峰的区间

所谓的单峰区间也就是在这个区间当中

它只有一个峰值

只有一个极值点

那么这样的一个区间

我们如何来确定呢

那么这是我们后边

要给大家讲到的内容

那么确定了这样一个

初始的搜索区间之后

那接下来我们如何来做呢

那么在一维的优化问题求解当中

我们的思路是这样的

在我们初始所确定的

这样一个搜索区间当中

我不断的去缩小这样一个区间

把这个区间缩小到足够小之后

那么这个区间的终点

就是我们的一维优化问题的极值点

所以

这是一维优化问题求解的基本思路

也就是

首先我们先要确定一个初始区间

那另外一个

我们在确定的初始区间当中

采用一定的方法

逐渐的去缩小这样一个区间

那么 从而逼近我们的极值点

在一维优化求解过程当中

我们的方法主要有这样的几种方法

第一种我们可以看到是分数法

还有黄金分割法

二次插值

三次插值这样的方法

那么在这里面呢

对黄金分割法来说

它是一个非常常用的方法

我们也把它称之为0.618法

那么这样的一种方法

我们如何来求解呢

那么这里的0.618又指的是什么呢

那么我们后边给大家来说

那么首先一个问题我们来看

在一维优化问题的求解当中

那么第一步我们需要确定一个

初始的区间

所以在这里给大家做一个提醒

如果题目当中没有给定

初始区间的情况下

那我们需要利用我们在这里

看到的进退试算法

自己去来确定一个初始的单峰区间

那么这个单峰区间我们怎么来确定呢

那么刚刚我们给大家提到过

这个单峰区间呢

实际上是一个在这个区间当中

函数只有一个峰值的区间

也就说在这个区间当中

它只有一个极值点

那么如果只有一个极值点的话

大家设想这样一种情况

如果在这个区间当中

我们能够找到这样的三个点

满足这样的一种特性

它的函数值满足高 低 高趋势

这里的高 低 高趋势指的是什么呢

我们现在假设

知道了区间当中的三个点

α1 α2和α3

那么在这个区间当中的这三个点

对应的函数值我们用f(α1)

f(α2)和f(α3)来表示

那么如果这三个点的函数值

它满足这样的一种关系

那么一点的函数值大于二点

二点的函数值小于三点

这种情况就像我们现在大家看到的

图当中的这样一种情况

在这种情况下我们可以看到

如果这三个点满足

函数值呈现高低高趋势的情况下

那么这个区间就满足

单峰区间的这样一个特性

那么因此呢

我们在这里提到的进退试算法

来确定单峰区间的这样的一种方法

就是想办法去找到

满足高 低 高趋势的三个点

只要找到了这三个点

这个单峰区间我们就能确定了

好

那么这是进退试算法的这样一个思路

好那接下来我们来看一下我们在

实际的

求解过程当中

我们如何来进行运算呢

那接下来我们来看一下

第一步我们应该是先给定一个初始点

给定了一个初始点我们如果用a0来表示

那么同时我们先给定一个

初始的步长h

假设我们的搜索区间是[a,b]

在搜索区间[a,b]当中

我们可以看到我从a0点开始出发

那么初始的步长是h

第二步呢 把a0和a0+h

代入到我们的目标函数当中

代入到目标函数当中 我们就可以求出

f(a0)和f(a0+h)

那么我们接下来来判断一下

a0点的目标函数值

和a0+h点的目标函数值

两者之间的大小关系

它们之间的大小关系如果满足

这样的一种特性 我们来看一下

大家可以考虑一下如果a0点的函数值

大于了a0+h点的函数值

那就说明极小点是在试算点的右侧

那么在试算点的右侧

现在我知道了两个点a0点和a0+h点

那第三个点我如何来确定呢

那么当然

我可以采取这样的一种方法

我从a0+h的点继续往前走一步

也就是得到a0+2h点

但是我们有的时候呢

为了做加速的计算

因为

我们只走了一个步长

也就是a0+2h之后

它有可能还没有越过极值点

所以我们为了加速计算

我们通常呢会把步长增加两倍

也就是使我们的新点为a0+h

再加上二倍的h

那么得到的这个新点呢

是a0+3h

那么如果a0+h点的目标函数值

小于等于a0+3h点的目标函数值的话

那么我们所计算的相邻三点的函数值

已经满足了我们刚才提到的

高低高的这样一个特征

那么因此呢

这个区间我们就可以确定

也就是我们这里的a0和a0+3h

这样的一个区间就是我们的单峰区间

那么这是一种情况

那么两个函数值的比较

还有另外的一种情况

也就是a0点的目标函数值

有可能小于a0+h

那么如果满足这样一种条件的话

我们大家知道它的极小点呢

是在试算点的左侧

那么在左侧怎么办呢我就需要往后退

往后退的时候呢

我们的步长

应该如何来选择呢

通常我们不退一步

因为退一步之后有可能会

把极值点

给它错过

所以在这种情况下我们怎么办呢

我们需要把后退的步长

缩短为原步长的1/4

也就是让我们的步长为负的h/4

那么这种情况下

我们从a0出发 然后呢往后退了h/4

得到了一个新的点a0-h/4

那么如果我们

得到的新点的目标函数值

大于了我们的初始点的函数值

那么我们可以看到

我们同样得到了一个满足

高 低 高趋势的三个点

那么这样的话呢

单峰区间我们也能够得到

好

那这就是我们今天要给大家讲到的

在一维优化问题求解当中的第一步

关于

初始的搜索区间所确定的

这样的一种方法进退试算法

好

今天的内容我们到此结束