凸优化15:凸函数的一阶、二阶条件

一阶条件

假设可微,即梯度在开集内处处存在,则函数是凸函数的充要条件:是凸集且任意,下式成立:

得出的仿射函数即为函数在点附近的近似。

这个不等式说明从一个凸函数的局部信息可以得到一些全局信息。

同理,严格凸性也可以用一节条件刻画,只需要去掉凸性的一节条件的定义式中的取等即可。对于凹函数,只需要将改为即可。

二阶条件

假设函数二阶可导,即对于开集内的任意一点,其矩阵或者二阶导数存在,则函数是凸函数的充要条件是,其Hessian矩阵是半正定的,也即对于所有的.

上,这个条件退化为. 此条件说明的导数是非减的。条件从几何上可以立即为函数图像在点处有向上的曲率。

类似地,函数是凹的的充要条件是。是凸集且对于任意.

严格凸的条件可以部分由二阶条件来刻画,如果对于任意,则函数严格凸。反过来不一定成立,例如严格凸,但是在处其二阶导数为0.

凸函数的例子

首先,前面所有提到过的线性函数、仿射函数都为凸函数(同时也是凹函数)。

上的一些例子:

指数函数,幂函数,绝对值的幂函数

负熵:函数在其定义域上是凸函数(定义域为

上的一些例子

范数是凸函数

最大值函数:上是凸的。

二次-线性分式函数,例如是凸的,其定义域为

指数和的对数:。这个函数可以看成时最大值函数的近似,因为总有:

几何平均:几何平均函数在定义域上是凹函数