凸优化理论与应用凸函数课件

,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,信息与通信工程学院 庄伯金 ,*,凸优化理论与应用,第二章,凸函数,1,信息与通信工程学院 庄伯金 ,凸优化理论与应用第二章 凸函数1信息与通信工程学院 庄伯金,凸函数的定义,1.定义域 为凸集；,2.，有,凸函数的定义：函数 ，满足,凸函数的扩展定义：若 为凸函数，则可定义其扩展函数 为,凸函数的扩展函数也是凸函数！,2,信息与通信工程学院 庄伯金 ,凸函数的定义1.定义域 为凸集；2.,凸函数的一阶微分条件,若函数 的定义域 为开集，且函数 一阶可微，则函数 为凸函数当且仅当 为凸集，且对,3,信息与通信工程学院 庄伯金 ,凸函数的一阶微分条件若函数 的定义域 为开,凸函数的二阶微分条件,若函数 的定义域 为开集，且函数 二阶可微，则函数 为凸函数当且仅当 为凸集，且对 ，其,Hessian,矩阵,4,信息与通信工程学院 庄伯金 ,凸函数的二阶微分条件若函数 的定义域,凸函数的例,幂函数,负对数函数,负熵函数,范数函数,指数函数,5,信息与通信工程学院 庄伯金 ,凸函数的例幂函数负对数函数负熵函数范数函数指数函数5信息与通,凸函数的例,6,信息与通信工程学院 庄伯金 ,凸函数的例6信息与通信工程学院 庄伯金 bjzhuangb,下水平集(sublevel set),定理：凸函数的任一下水平集均为凸集。,任一下水平集均为凸集的函数,不一定,为凸函数。,称为 的 下水平集。,定义：集合,7,信息与通信工程学院 庄伯金 ,下水平集(sublevel set)定理：凸函数的任一下水平,函数上半图(epigraph),定理：函数 为凸函数,当且仅当,的上半图为凸集。,称为函数 的上半图。,定义：集合,8,信息与通信工程学院 庄伯金 ,函数上半图(epigraph)定理：函数 为凸函数当且,Jensen不等式,为凸函数，则有：,Jensen,不等式的另外形式：,9,信息与通信工程学院 庄伯金 ,Jensen不等式 为凸函数，则有：Jensen不等式的,保持函数凸性的算子,凸函数的逐点最大值,凸函数与仿射变换的复合,凸函数的非负加权和,10,信息与通信工程学院 庄伯金 ,保持函数凸性的算子凸函数的逐点最大值凸函数与仿射变换的复合凸,保持函数凸性的算子,复合运算,最小值算子,凸函数的透视算子,11,信息与通信工程学院 庄伯金 ,保持函数凸性的算子复合运算最小值算子凸函数的透视算子11信息,共轭函数(conjugate function),定义：设函数 ，其共轭函数 ，定义为,共轭函数的例,共轭函数具有凸性！,12,信息与通信工程学院 庄伯金 ,共轭函数(conjugate function)定义：设函数,共轭函数的性质,Fenchels inequality,性质：若 为凸函数，且 的上半图是闭集，则有,性质：设 为凸函数，且可微，对于 ，若,则,13,信息与通信工程学院 庄伯金 ,共轭函数的性质Fenchels inequality性质：,准凸函数(,quasiconvex function),准凸函数的例,定义：设函数 ，若函数的定义域和任意下水平集,则称函数 为准凸函数。,14,信息与通信工程学院 庄伯金 ,准凸函数(quasiconvex function)准凸函数,准凸函数的判定定理,定理：函数 为准凸函数，当且仅当 为凸集，且对 ，有,定理：若函数 一阶可微，则 为准凸函数，当且仅当 为凸集，且对 ，有,，有,定理：若函数 二阶可微，且满足对,则函数 准凸函数。,15,信息与通信工程学院 庄伯金 ,准凸函数的判定定理定理：函数 为准凸函数，当且,最小值函数,非负权值函数的最大值函数,保持准凸性的算子,复合函数,16,信息与通信工程学院 庄伯金 ,最小值函数非负权值函数的最大值函数保持准凸性的算子复合函数1,准凸函数的凸函数族表示,若 为准凸函数，根据 的任意 下水平集，我们可以构造一个凸函数族 ，使得,性质：若 为准凸函数 的凸函数族表示，对每一个 ，若 ，则有,17,信息与通信工程学院 庄伯金 ,准凸函数的凸函数族表示若 为准凸函数，根据,对数凸函数,为凸集,为凸函数。,定义：函数 称为对数凸函数，若函数 满足：,定理：函数 的定义域为凸集，且 ，则 为对数凸函数，当且仅当对,有,对数凸函数的例,18,信息与通信工程学院 庄伯金 ,对数凸函数 为凸集为凸函数。定,对数凸函数和凹函数的性质,性质：对数凸性与凹性对函数乘积和正数数乘运算均保持封闭。,定理：函数 二阶可微，则 为对数凸函数当且仅当,性质：对数凸性对函数加运算保持封闭。但对数凹性对函数加运算不封闭。,推论：函数 对每一个 在 上对数凸，则函数 也是对数凸函数。,19,信息与通信工程学院 庄伯金 ,对数凸函数和凹函数的性质性质：对数凸性与凹性对函数乘积和正数,对数凸函数和凹函数的性质,定理：函数 为对数凹函数，则函数 是对数凹函数。,20,信息与通信工程学院 庄伯金 ,对数凸函数和凹函数的性质定理：函数,广义不等式下的凸性,广义单调性的定义：设 为真锥，函数 称为 单调增，若函数 满足：,广义凸函数的定义：设 为真锥，函数 称为 凸，若函数 满足对,均有,定理(对偶等价,)：,函数 为 凸函数，当且仅当对所有 ，为凸函数。,21,信息与通信工程学院 庄伯金 ,广义不等式下的凸性广义单调性的定义：设,作业(1),P116 3.16,P116 3.21,22,信息与通信工程学院 庄伯金 ,作业(1)P116 3.1622信息与通信工程学院 庄伯金,作业(2),P121 3.41,P122 3.49 (1)(2),23,信息与通信工程学院 庄伯金 ,作业(2)P121 3.4123信息与通信工程学院 庄伯金,