第二章 极值理论
本章
内容
财务内部控制制度的内容财务内部控制制度的内容人员招聘与配置的内容项目成本控制的内容消防安全演练内容
及教学安排
多维函数的方向导数、梯度、海赛矩阵 1学时
无约束目标函数的极值条件 2学时
一元函数的极值问
题
快递公司问题件快递公司问题件货款处理关于圆的周长面积重点题型关于解方程组的题及答案关于南海问题
多元函数的极值问题
函数的凸性 1学时
第一节 函数的方向导数、梯度、海赛矩阵
一、函数的偏导数
偏导数是指在某个坐标值方向函数值的变化率。
对于连续可微二维函数
：
在点
附近，如果保持
不变，
沿
方向的变化率，称为函数沿
方向的偏导数，表示为：
如果保持
不变，
沿
方向的变化率，称为函数沿
方向的偏导数，表示为：
推广到连续可微n维函数
：在点
的一阶偏导数分别为：
二、函数的方向导数
从任一点
沿不同的方向，函数的变化率是不同的。
设二维函数
是连续可微的，方向S与坐标的夹角分别是
和
，方向S是一个向量，它的单位向量可以写为：
函数沿方向的变化率可以表示为方向导数：
推广到连续可微n维函数
，在点
附近的方向导数为：
用向量的内积表示为
方向S是一个单位向量
三、函数的梯度
1、梯度的定义：
对n维函数：
称为函数的梯度，它是一个向量，只与函数的性质有关
故方向导数可以表示为：
若
则沿此方向函数上升
则沿此方向函数下降
常用函数的梯度公式：
１)若f(x)=c(常数），则
２)若f(x)=bTx，
，则
解释：
所以
3）
4）若Ａ是对称方阵，则有
2、梯度的性质意义：
（1）梯度方向
是函数在局部上升最快的方向，负梯度方向
是函数下降最快的方向。
证明：由柯西不等式知
即：
等价于
β为向量之间的夹角
最大值和最小值分别对应的是
和
，即
=0和π
（2）函数梯度的模
对应的是函数局部变化率的最大值。
（3）函数梯度
与
点的切线相垂直。
四、函数的海赛矩阵
称函数的二阶偏导数矩阵
为海赛矩阵，它是一个
阶对称矩阵
第二节 无约束目标函数的极值条件
一、多元函数的泰勒展开式
1、泰勒展开式
多元函数的形式往往是很复杂的，为了讨论其极值问题，需要用简单函数做局部逼近，即用函数的泰勒展开式得到目标函数在某点邻近的近似表达式。
对于一元函数
点附近若存在1到n+1阶导数，则可展开成如下的泰勒公式：
其中
称为余项，且
就是说可以用自变量的有理整函数（多项式）在
点的充分小的领域内来逼近函数
。
对于多元函数也同样可以展开成泰勒公式。
在
点的邻近的泰勒展开式取到二次项：
写成向量矩阵的形式：
可以简写为：
式中：
如果函数用线性逼近时，就取泰勒级数前二项：
2、二次型函数
n个实变量
的函数
（注：没有一次项和常数项）
称为二次型函数或简称为实二次型。式中
为常系数。
实二次型可以写成矩阵形式：
式中：
，称矩阵
为二次型矩阵。因
，所以
，因而A是一个对称矩阵。
实二次型函数可以作如下分类：
（1） 对于所有的非零向量X，若
，则称
是正定的；
（2） 对于一切向量X，若
成立，且存在至少一个非零向量X，使得
，则称
是正半定的；
（3） 对于所有的非零向量X，若
，则称
是负定的；
（4） 对于一切向量X，若
成立，且存在至少一个非零向量X，使得
，则称
是负半定的；
（5） 若
恒为零，则称之为不定的。
若对于二次型矩阵A，当
为正定（负定）时，称之为正定（负定）矩阵，记作A>0（A<0）；
若对于二次型矩阵A，当
为正半定（负半定）时，称之为正半定（负半定）矩阵，记作A≥0（A≤0）。
多元函数
按泰勒公式展开到二次项，在某给定点处近似地用二次函数来表示
写成二次函数的一般形式
式中：A—
在
处的二阶偏导数对称矩阵，
；
b—常数向量，
C—常数。
它的梯度
其中，
就是海赛矩阵
二、一元函数的极值问题
由微分学的知识可知，如果一元函数的一阶导数
存在，则
为极值点的必要条件为：
函数
的点称为驻点。极值点一定是驻点，但驻点不一定是极值点。
要判断驻点是否为极值点，需要通过二阶导数进行判断。
判断方法：
在驻点
附近
，即二阶导数均为负值，则
为极大值点；
，即二阶导数均为正值，则
为极小值点；
如果在驻点两侧二阶导数的符号不同，则
为拐点。这是
为极值点的充分条件。
说明：二阶导数是一阶导数的变化率。
三、n元函数的极值问题
二元函数极值点的必要条件是：
多元函数极值点的必要条件是
充分条件：
在函数
的驻点
附近用泰勒公式展开
因为
故：
若在
点附近的邻域内，对一切的
都有
即
则为极小值；
否则，若：
即
则为极大值；
由以上二式得到极小点的条件为
极大点的条件为
结论：
多元函数极值点的充分条件是：如果
的二阶偏导数（即海赛矩阵）是负定的，则
是极大值点；如果
的二阶偏导数是正定的，则
是极小值点。
海赛矩阵判断法：
正（负）定矩阵：对称矩阵
为正定的充要条件是：
的各阶主子式都为正，即：
对称矩阵
为负定的充要条件是：
的各阶主子式都为一正一负。
作业：
四、函数的凸性
优化设计一般总期望能获得函数的全局最优解，但在什么情况下可以获得全局最优解，这与函数的凸性有密切关系。
最小值与极小值的关系：极小值是局部特性。对于全局而言，最小值一定是极小值，而极小值不一定是最小值。
可以利用函数的凸性来判断极小点是否为最小点。众所周知，对于一维函数来说，若f(x)在a≤x≤b区间内是下凸的且为单峰，则它在[a，b]区间内必有唯一的极小点。因而，我们称这种函数为具有凸性的函数。
1.凸集
若集合D中任意两个点
和
的连线都属于集合D，则称这种集合是一个凸集。
在n维空间中，
与
的连线的数学表达式为：
其中
，若
，对应于
的一切值均有
，则D为凸集
2.凸函数的定义
凸函数的定义如下：设
为定义在n维空间中凸集D上的函数，若对任何实数
及D中任意两点
存在如下不等式：
则称函数
是定义在凸集D上的一个凸函数
若上式中的符号为不等号，则为严格的凸函数。
3.凸函数的判定
若函数
的海赛矩阵处处正半定，则函数为凸函数；
若处处正定，则为严格的凸函数
4.凸函数的极值
凸规划：可行区是凸集，目标函数为凸函数
在凸规划问题中，其极小值为全局最小值（局部最优为全局最优）。
5.凸集的判定
1）若约束函数
为凸函数，则约束条件
所构成的可行区为凸集
2）若约束函数若约束函数
为凹函数，则约束条件
所构成的可行区为凸集
本章作业
1.求函数
在点
沿方向
和
的方向导数
2.例2-4
3、证明若约束函数
为凸函数，则约束条件
所构成的可行区为凸集
浙公网安备 33021202002483