2.5 凸函数在线视频

我们来介绍凸函数的概念

那我们这一回来讲的凸函数函数的凸性呢

就是来保证你所求出的极值问题

就是你的最值问题

那我们来看一下函数的凸性单峰性

第一我们还是由简单到复杂的

简单什么一元函数最简单的一元函数

一元函数的凸性

定义如果说函数f（x）曲线上任意两点的连线

永远不在f（x）曲线的下方

则f（x）称为是凸函数

给了一个看起来比较抽象的一个概念

我们画一个图来看一下就很好理解

一元函数我只有一个变量然后函数值

什么意思呢如果说我f（x）是这样的一个f（x）

我随便画了一个f（x）这样子

f（x）上面取两点

随便取一点取两点

这两点之间的连线的线段

永远不在f（x）曲线下方意思是什么

这条线段永远在这个曲线上方

那么我们称为f（x）为凸函数

实际上大家一看就好像是凹函数一样

但我们说是凸函数是个凹的对吧

它永远是那个斜线永远在它上方

那意思就是说我x1取f（x1）x2取f（x2）

那你可以很好判断你可以连线做出一条直线

那在这里边呢

我随便取一点实际上我们在说随便取一点

那么这一点完了以后呢

那么这一点的函数值x是f（x）

与之对应的同样是x值

在这条直线上的这个点所对应的函数值是

我们定义它为另外一个y

如果y永远大于f（x）的话

那我们就认为它在上方

那么这时候我们认为是凸函数

那么几何意义呢

就是f（x）永远是小于等于y的

y不小于f（x）y大于等于f（x）

f（x）永远小于等于y

那么这时候呢我们认为是凸函数

那么我们可以来数学表示形式形式一下

那么线段x1x2可以表示成什么

是不是这样子x2减x乘以x2减x1等于λ

λ是大于0小于1的

然后呢那么则我可以表示什么

x等于λx1加1减λx2

很简单是吧我们说这样的一个函数

这是一个y这是一个x

我给了你两点两点确定一条直线

这条直线的函数形式谁都会写出来

那么有什么λ等于1的时候x等于x1

λ等于0的时候 x等于x2

这肯定代进去是成立的所以是等于它

那么画两条这样的一个辅助线

我们由图可知什么呢

是不是f（x2）减去y

比上f（x2）减f（x1）等于

x2减x x2减x1等于λ对不对等于它

等比例吗等比例三角形等比例

然后y就等于λf（x1）减去1减λf（x2）等于它

那么对于一元凸函数表达形式应该是什么呢

我总有什么

把x这点代到这里头吗f（x）吗

fλx1加上1减λx2代进去这个值总小于什么

x这点的f（x）值总小于x这点的y这个值吗

那就这个值吗总小于它就行了

就这个式子就是这个式子

我把它展开了这个式子总小于它

那我们称为它是一个凸函数

那么有了一元函数以后呢

我们来推广到多元函数

多元函数的凸性

那么讲多元函数的时候呢我们首先讲一个凸集

因为既然多元函数的话

不管它是可行域或者它解集都行

那么它的解集变成了是个集合

那么这个对于一个集合来说呢

我们有个定义叫做凸集

什么是凸集定义

如果说大D为Rn中的一个集合

是一个n维的一个集合

如果对D中任意两点x1x2的连线仍在D中

则称D为Rn的一个凸集否则为非凸集

什么意思我们再画个图看一下就很明白

几何意义给一个这样一个这么个集合

在这个集合里面呢我任意取两点

一个点两个点

这两点之间的连线也在这个集合中

我们就认为这个集合是凸集

这不就是这样子吗那怎么还会有其他情况呢

我们来画一个其他情况

比如说这样一个集合这样一个集合

有可能我这个集合

是这样一个解集是这样一个集合

那么如果是这样子的话呢我随意取两点

我取这一点再取这一点它们两者连线

中间是不有一部分不在这个集合内的

我用红色标注出来不在集合内的

那么这样子的话那么这个集合为非凸集

不满足这个定义那么就是它的就是为非凸集

所以说我们对于一个集合

它有凸集和非凸集区分很好理解的概念

那比如说呢我们看一个

如果说我这样的约束条件我没有给整个的模型

我只给了一个约束条件这样一个约束条件

我让你判断它是凸集还是非凸集呢

那实际上很好判断我们来画一个

因为是二阶的我们可以画出来

然后呢x1x2我们来看一看

对于g1x我们还记不记得

对于画这样的一个可行域怎么画的

怎么画可行域

是不令gux等于0啊

画这个什么约束线或约束面

然后呢判断可行域对不对

那首先g1x如果等于0的话

x1平方加x2平方减1等于0的话是个什么东西

是个圆对不对对吧二阶的二次项都是等于

这前面系数是相等的不就是个圆吗

是个圆所以是个圆

那这g1x等于0那到底是这边还是这边

怎么判断

上节课我讲过是不把这点代进去就可以对不对

0 0代进去0加0减1等于负1

负1小于0是满足是不这边是满足的

所以说呢

是不应该是这样子这底下这个

那么第二个负x1小于0负x2小于0什么意思

是不是就这条线和这条线啊对吧

负x1小于0 x1大于0x1大于0是那条线

是不这半边啊

x2大于0是那个是不这半边啊

所以是这条线和这条线

不可行的就打掉了

那好了是这样两条线

那所以说这个集合呢就是这里面的一个集合

就这里面的一个集合就是集合D集合D

那么这个可行域应该是一个凸集

应该是一个凸集

任意取两点它的连线都在这个集合内

它是个凸集

多元凸函数的定义

如果说设f（x）为定义

在Rn中的一个凸集D上的函数

如果对于任何实数λ λ大于0小于1

以及对D中任意两点x1x2

什么跟我们的一元函数类似一样的

fλx1加上1减λx2小于等于λfx1加上1减λfx2

如果是它则f（x）为定义在

凸集D上的一个凸函数

跟我们一元函数是类似

只不过这里边是大X不是小x

这样一个凸函数如果满足这样

那就是多元函数的这是一个凸函数

凸函数判定方法

如果说f（x）在凸集D上

具有连续的二阶可导性二阶导数

则f（x）为凸集D上的凸函数的充分必要条件

充要条件是什么呢

f（x）的Hessian矩阵为半正定矩阵

既非负定的不是负定的

如果f（x）的Hessian矩阵为正定

f（x）为严格凸函数

告诉你的凸函数条件什么它判定什么

充要条件既是充分又是必要的充要条件

凸规划对于这样的一个

我们说规划或者我们说优化问题也好

minf（x）Subject to gux小于等于0

对于这样的一个问题

如果f（x）和gux均为凸函数

我们称为它是凸规划什么意思

如果说我的目标函数

和我的约束条件里面的这个约束函数

都为凸函数的话我们认为它是凸规划

我们认为它是凸规划

凸规划的性质

第一f(x)的等值线呈现大圆套小圆的形式

不管是正圆还是椭圆

都是呈现为大圆套小圆的形式

第二可行域为凸集

如果是凸规划保证可行域一定是凸集

第三就是我们要解的

局部极小点一定是全局最优解

解决什么问题啊

解决我们有极值问题到最值问题的问题

如果说什么意思啊

如果说我所解决的问题

你首先判断是一个凸规划的问题的话

你所求出来的局部极小值就是全局的最小值

局部的极大值就是全局的最大值因为什么

在整个问题中只有那么一个值

那么你是个极值就是我们这个全局最优解

如果你能证明它是凸规划问题

你所解出来的极小值就是我们的最小值

你就找到什么

找到在可行域内的一个最优解

极值点和最值点还是有区别的

比如说我们很简单问题比如说你做设计问题

那现在比如说现在的这些电子类产品

或什么产品那都是拼什么拼价格拼性能的

那你所找到的这套方案所生产出来这个东西

可能是一个极小值点

那在一定范围内你是最好的

那你并不保证是最优之解那你可能什么

可能你的竞争对手他所生产的

可能就比你的性能好那么一点点

比你的价格便宜那么一点点

那么他是一个最值解那他什么

很容易迅速占领市场就把你打败了

所以说呢你这个极值点和最值点的问题

有时候还是很关键的