2.1非线性优化数学模型与求解方法在线视频

本单元

讲授非线性优化问题的数学模型及求解方法

系统优化是系统量化作业的主要内容

是水资源系统分析的经典方法

在水资源系统规划管理的生产实践中

有大量的优化问题

其目标函数和约束条件是非线性的

这类优化问题就是所谓的非线性优化问题

非线性优化问题广泛见于水利工程

和水资源系统规划

设计及管理领域.

例如

防洪优化调度问题

水文模型参数优化率定问题等

可以用非线性优化模型描述

非线性优化

也称非线性规划

就是在有限维实空间上

求单值函数的极值

函数的自变量

可能受限于有限个等式

或不等式约束的问题

非线性规划问题通常可以写成

（2.1-1）

为后面的讨论方便

称之为标准形式

这里

是英文subject to（满足于）的缩写

称为约束条件

（2.1-1）为线性规划问题

当m=0

l=0时（2.1-1）

退化为无约束非线性规划问题（2.1-2）

当n=1

决策变量为一维情形

（2.1-1）为一维优化问题

当目标函数是二次函数

约束条件中hj（x）

gj（x）均是线性函数时

（2.1-1）为二次规划问题

非线性规划问题

（2.1-1）满足约束条件的点

称为可行点

所有可行点组成的集合称为可行域

记为D

显然

D可以表示为（2.1-3）

这就可以将（2.1-1）

写成如（2.1-4）所示简洁的形式

无约束非线性优化问题求解思路

是构造下降的迭代算法

应满足

（1）逐步迭代增优

（2）迭代序列要收敛

即构造点列{xk}使:

算法的核心是

当有了Xk

搜索Xk+1时

要确定搜索方向即在Xk

附近为下降的方向dk

和搜索步长αk

即Xk+1=Xk+αkdk

使f(Xk)>f(Xk+1)

这里

dk 是向量α

k 是标量α

k可以取最优

f(XK+1)=f(xk+αkdk)=minf(XK++α.dk)

这是一个一维优化问题

无约束非线性优化问题求解方法

可以分为解析法和直接方法

解析法就是求解过程中

利用了目标函数的导数信息即梯度信息

解析法有梯度法

牛顿法

共轭方向法等

梯度法中

搜索方向为目标函数的负梯度方向

需要对目标函数求导

搜索步长取最优

牛顿法中

搜索方向为Hesse矩阵的逆矩阵

左乘目标函数的负梯度方向

需要用到目标函数的二阶导数信息

共轭方向法中

搜索方向为一组共轭向量

而共轭向量的生成

需要用到目标函数的梯度信息

直接方法就是在求解过程中

仅用目标函数值信息

不利用或无法利用目标函数的导数信息

直接方法主要有坐标轮换法

Powell法

单纯形算法

复合形法等方法

SCE-UA算法

与群体复合形法

是为避免陷入局部最优解

而发展起来的全局优化方法

也是直接优化方法

目前快速发展的群体智能算法

也可以看作是直接方法.

一般地

约束非线性规划的求解思路

是转化为一系列无约束非线性规划求解

主要方法是罚函数法

包括内点法

外点法等各种罚函数方法

可变容差法的思路很好

值得尝试

在求解约束非线性规划问题的许多算法中

大部分时间都花费

在满足相当严格的可行性要求上

而可变容差法由可行点

和被称为近乎可行点的某些不可行点

提供的数据来改进目标函数值

当搜索向着最优解的方向前进过程中

逐步加强近乎可行的限制

直到在极限的情况下只有可行解被接受为止

可变容差法将问题转化为

采用可变多面体法（复合形法）求解

对于一类特殊的约束非线性规划

二次规划问题

求解方法有Wolfe法和有效集法

Wolfe方法的思路是转化为线性规划求解

有效集法的思路

是转化为一系列等式约束二次规划

可进一步转化为等式线性方程组求解

本节课到此结束

谢谢大家 再见