当前课程知识点:水资源系统分析理论与应用 > 第二章 实用非线性优化方法 > 2.3一维优化与线搜索 > 2.3一维优化与线搜索
本单元
主要讲授一维优化与线搜索
一维搜索问题是最简单的优化问题
也是非线性优化问题下降的迭代算法的组成部分
一维优化问题可以分为两类
(1)不使用导数的方法
如黄金分割法
分数法
两分法等
(2)使用导数的方法
如牛顿法
二次插值法
三次插值法等
下面主要介绍黄金分割法
划界算法
线搜索的概念及强wolfe线搜索
考虑一维非线性优化问题(2.3-1)
设f(x)在[a0,b0]上是下单峰(严格凸)函数
则f(x)在[a0,b0]有唯一的最优解x*
可采用区间分割法求最小值
算法如下
第一步
给定精度
选取
使得
计算
比较
若
则有
在区间分割法中
当采用比例0.618对称地分割和收缩区间时
称之为黄金分割法
如何确定黄金分割法的初始搜索区间
下面介绍的划界算法
可以确定黄金分割法的初始搜索区间.
下面的划界算法可以找出3个点
它满足
这就确定了初始搜索区间为[x2,x3]
求解无约束非线性规划问题(2.1-2)的
基本思路是构造下降的迭代算法
即构造点列{xk}使
下降的迭代算法如下
算法的核心是
当有了Xk,搜索Xk+1时
要确定搜索方向即在Xk附近为下降的方向dk
和搜索步长αk
即Xk+1=Xk+αkdk
使f(Xk)>f(Xk+1)
这里
dk 是向量α
k 是标量 α
k可以取最优
在前述下降的迭代算法中
优化问题(2.3-2)称为
无约束非线性规划问题(2.1-2)的线搜索
其中d为f(x)的下降方向
精确线搜索是指精确求解(2.3-2)
即及计算
使满足(2.3-3)
显然精确线搜索是一个特殊的一维优化问题
当n较大时
精确求解(2.3-3)的计算量是相当大的
非精确线搜索是指不精确求解(2.3-3)
即求一个使它满足某些条件
使得
最常见的一种非精确搜索是强Wolfe线搜索
它要求满足(2.3-4)和(2.3-5)
下面给出强Wolfe搜索算法
本单元的课就上到这里 再见
在强Wolfe搜索算法中
用到了目标函数的梯度
本单元的课就上到这里
同学们再见
-1.1 水资源系统分析问题的提出
-1.2 系统的概念与系统方法
-1.3系统分析的概念和内容
-1.4水资源系统分析方法
-1.5水资源系统分析量化方法案例
-第一章测试
-2.1非线性优化数学模型与求解方法
-2.2最优性条件
--2.2最优性条件
-2.3一维优化与线搜索
-2.4无约束极值问题的解析法
-2.5二次规划
--2.5二次规划
-2.6约束非线性优化罚函数法
-2.7非线性优化直接方法
-2.8 SCE-UA算法
-2.9可变容差法
--2.9可变容差法
-第二章测试
-3.1多阶段决策问题
-3.2动态规划基本原理
-3.3水库优化调度建模及求解
-3.4 随机动态规划模型
-3.5水库优化调度实例
-第三章测试
-4.1遗传算法
--4.1遗传算法
-4.2粒子群算法
--4.2粒子群算法
-4.3蚁群算法
--4.3蚁群算法
-4.4狼群算法
--4.4狼群算法
-第四章测试
-5.1多目标规划问题与特点
-5.2多目标规划模型与解的概念
-5.3多目标规划求解方法
-5.4多目标规划的实例
-第五章测试
-6.1动态系统预测方法导论
-6.2时间序列方法
-6.3线性动态系统模型方法
-6.4 BP人工神经网络方法
-6.5支持向量机方法
-6.6洪水过程动态系统预报方法实例
-第六章测试
-7.1评价程序与评价指标
-7.2层次分析法
--7.2层次分析法
-7.3模糊综合评价法
-7.4投影寻踪评价法
-第七章测试
-8.1决策分析的基本概念
-8.2 不确定性的基本概念
-8.3 完全不确定型决策
-8.4 风险的多维度量
-8.5 风险型决策(1)
-8.6风险型决策(2)
-第八章测试
-期末测试
-期末论文