凸优化21：共轭函数

介绍共轭函数定义、性质和例子

共轭函数的定义

设函数，定义函数为 此函数称为的共轭函数。

使上述的上确界有限，即差值在有上界的所有的构成了共轭函数的定义域.

容易看出，是关于的一系列仿射函数的逐点上确界，因此无论是否为凸函数，都是凸的。

共轭函数的一些例子

上的一些例子

仿射函数：，当且仅当的时候，有界，则此时共轭函数的定义域为单点集，且

负对数函数：，当的时候，无上界，时，在处取到最大值。因此

指数函数：

负熵函数：

更一般的一些例子

严格凸的二次函数：

示性函数：时某个集合（不一定是凸集）的示性函数，即时，. 其共轭函数. 其是集合的支撑函数

共轭函数的基本性质

Fenchel不等式

任意，有

根据定义，这是显而易见的

共轭的共轭

“共轭”的名字暗示了凸函数的共轭函数的共轭函数是原函数，即：如果函数是凸函数且是闭的，则

可微函数

可微函数的共轭函数也被称为的Legendre变换。

设函数凸且可微，定义域为，使取最大值的满足，反之，若满足,在处取最大值，因此如果，则有.

所以，给定任意，可以求解梯度方程，从而得到处的共轭函数

伸缩变化、复合仿射变换

若以及，的共轭函数为.

设非奇异，，则函数的共轭函数为，其定义域为

独立函数的和

如果函数，其中是凸函数，且共轭函数分别是，则.

换言之，独立凸函数的和的共轭函数是各个凸函数的共轭函数的和（其中“独立”是指两个函数具有不同的变量）。