凸优化理论与应用-凸函数课件

,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,信息与通信工程学院 庄伯金 bjzhuang,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,信息与通信工程学院 庄伯金 bjzhuang,*,可编辑,1,凸优化理论与应用,第二章,凸函数,可编辑1凸优化理论与应用第二章 凸函数,可编辑,2,凸函数的定义,1.定义域 为凸集；,2. ，有,凸函数的定义：函数 ，满足,凸函数的扩展定义：若 为凸函数，则可定义其扩展函数 为,凸函数的扩展函数也是凸函数！,可编辑2凸函数的定义1.定义域 为凸集；2,可编辑,3,凸函数的一阶微分条件,若函数 的定义域 为开集，且函数 一阶可微，则函数 为凸函数当且仅当 为凸集，且对,可编辑3凸函数的一阶微分条件若函数 的定义域,可编辑,4,凸函数的二阶微分条件,若函数 的定义域 为开集，且函数 二阶可微，则函数 为凸函数当且仅当 为凸集，且对 ，其,Hessian,矩阵,可编辑4凸函数的二阶微分条件若函数 的定义域,可编辑,5,凸函数的例,幂函数,负对数函数,负熵函数,范数函数,指数函数,可编辑5凸函数的例幂函数负对数函数负熵函数范数函数指数函数,可编辑,6,凸函数的例,可编辑6凸函数的例,可编辑,7,下水平集(,sublevel set),定理：凸函数的任一下水平集均为凸集。,任一下水平集均为凸集的函数,不一定,为凸函数。,称为 的 下水平集。,定义：集合,可编辑7下水平集(sublevel set)定理：凸函数的任,可编辑,8,函数上半图(,epigraph),定理：函数 为凸函数,当且仅当,的上半图为凸集。,称为函数 的上半图。,定义：集合,可编辑8函数上半图(epigraph)定理：函数 为凸,可编辑,9,Jensen,不等式,为凸函数，则有：,Jensen,不等式的另外形式：,可编辑9Jensen不等式 为凸函数，则有：Jensen,可编辑,10,保持函数凸性的算子,凸函数的逐点最大值,凸函数与仿射变换的复合,凸函数的非负加权和,对固定 ， 为凸函数。,可编辑10保持函数凸性的算子凸函数的逐点最大值凸函数与仿射变,逐点最大值函数变换的例,向量中 个最大分量之和：,对称矩阵的最大特征值,可编辑,11,逐点最大值函数变换的例向量中 个最大分量之和：可编辑11,可编辑,12,保持函数凸性的算子,复合运算,凸函数的透视算子,最小值算子,为凸函数。,可编辑12保持函数凸性的算子复合运算凸函数的透视算子最小值算,可编辑,13,共轭函数,(conjugate function),定义：设函数 ，其共轭函数 ，定义为,共轭函数的例,共轭函数具有凸性！,可编辑13共轭函数(conjugate function)定,可编辑,14,共轭函数的性质,Fenchel,s inequality,性质：若 为凸函数，且 的上半图是闭集，则有,性质：设 为凸函数，且可微，对于 ，若,则,可编辑14共轭函数的性质Fenchels inequali,可编辑,15,准凸函数(,quasiconvex function),准凸函数的例,定义：设函数 ，若函数的定义域和任意下水平集,为凸集，则称函数 为准凸函数。,可编辑15准凸函数(quasiconvex function,可编辑,16,准凸函数的判定定理,定理：函数 为准凸函数，当且仅当 为凸集，且对 ，有,可编辑16准凸函数的判定定理定理：函数 为准凸,准凸函数的判定定理,可编辑,17,定理：若函数 一阶可微，则 为准凸函数，当且仅当 为凸集，且对 ，有,准凸函数的判定定理可编辑17定理：若函数 一,准凸函数的判定定理,可编辑,18,，有,定理：若函数 二阶可微，且满足对,则函数 准凸函数。,准凸函数的判定定理可编辑18,可编辑,19,最小值函数,非负权值函数的最大值函数,保持准凸性的算子,复合函数,是关于 和 的准凸函数，且 为凸集。,可编辑19最小值函数非负权值函数的最大值函数保持准凸性的算子,可编辑,20,准凸函数的凸函数族表示,若 为准凸函数，根据 的任意 下水平集，我们可以构造一个凸函数族 ，使得,性质：若 为准凸函数 的凸函数族表示，对每一个 ，若 ，则有,例：,可编辑20准凸函数的凸函数族表示若 为准凸函,可编辑,21,对数凸函数,为凸集,为凸函数。,定义：函数 称为对数凸函数，若函数 满足：,定理：函数 的定义域为凸集，且 ，则 为对数凸函数，当且仅当对,有,对数凸函数的例,可编辑21对数凸函数 为凸集为,可编辑,22,对数凸函数和凹函数的性质,性质：对数凸性与凹性对函数乘积和正数数乘运算均保持封闭。,定理：函数 二阶可微，则 为对数凸函数当且仅当,性质：对数凸性对函数加运算保持封闭。但对数凹性对函数加运算不封闭。,推论：函数 对每一个 在 上对数凸，则函数 也是对数凸函数。,可编辑22对数凸函数和凹函数的性质性质：对数凸性与凹性对函数,可编辑,23,对数凸函数和凹函数的性质,定理：函数 为对数凹函数，则函数 是对数凹函数。,可编辑23对数凸函数和凹函数的性质定理：函数,可编辑,24,广义不等式下的凸性,广义单调性的定义：设 为真锥，函数 称为 单调增，若函数 满足：,广义凸函数的定义：设 为真锥，函数 称为 凸，若函数 满足对,均有,定理(对偶等价,)：,函数 为 凸函数，当且仅当对所有 ， 为凸函数。,可编辑24广义不等式下的凸性广义单调性的定义：设,可编辑,25,作业,P116 3.16,P116 3.21,P121 3.41,P122 3.49 (1)(2),可编辑25作业P116 3.16,