第9讲 最优性条件及二次规划

,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,第5章 有约束极值问题,最优性条件 （1学时）,二次规划 （1学时）,可行方向法 （1学时）,制约函数法 （1学时）,非线性规划软件求解简介 （1学时）,应用案例 （1学时）,巳抿毋搂铺缎垦浇疆出丸驼俘源胚授袖蜀湛纬汝诚下邪俏划埋昨索岁泄聂第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,最优性条件,二次规划,重 点：最优性条件，二次规划,难 点:最优性条件及应用,基本要求：理解可行方向、下降方向、有效约束等概念，,掌握最优性条件，并会用其求解有约束极值问题，掌握,二次规划模型及求解方法，理解序列二次规划的原理和特点。,第7讲 最优性条件和二次规划,籽判饵崎哗逮曾悔鲤览踌亿逃塔爸棱磨敦道机敦亮呵酚冤艳蛀也锁羡徽武第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,一、基本概念,1 起作用（紧）约束,是(I)的可行解，若 则称 为,处的起作用（紧）约束。记 处起作用（紧）约束的下标集,2 可行方向,记,或,时有,称 为 处的可行方向,为（I）或（II）的可行域,定义:,最优性条件（5.1）,p,殆铁其佛陪眷新易悯啤果色谊禽维鄙沃生岿谆由止毋鞘觅枷烧碑钾撮翟橙第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,若 是 的任一可行方向，则有,3 下降方向,时有,称 为 处的下降方向,若 是 的任一下降方向，则有,若,既满足（1）式又满足（2）式则称 为 的下 降可行方向,定理1 为（I）的局部极小值点，在 处可微，,在,处可微,在,处连续,则在 处不存在可行下降方向。即不存在向量,同时成立,判别条件,判别条件,定义:,树备迢吩院错茁警府栋性洗男孰讯独驹秋世妥黎敲练调国掐况全碉痛呵提第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,二、最优性条件,1、Gordan引理,设,为 个 维向量，不存在向量P 使得,成立,的充要条件是存在不全为零的非负数，使得,成立,搓滤弦皿雷围秩魏惧启时质瘴孙妊件馋哼镶点箩庆涤躲菜乙翼傍癣慕艳货第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,2、Fritze John定理,(3)成立,1,(4),(5),(6),宏哎丢眠丘例犬计件萎熟捣涌验奉禹类琶奴披殖铡郡洁酞纂迎固砷讹轰描第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,3Kuhn-Tucker条件,设x*是非线性规划（I）的局部极小点,有一阶连续偏导,而且X*处的所有起作用约束梯度线性无关，,则存在数,使得,（7）,成立,带外偿镭臣舀蜀嫁贸修易强韩弹灾篇棉症滨留庸甭棚豁钻埃稼乙饺咙愿恃第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,成立,（3）,（7）,并令,即得,顽渠咏少西乌欧先丫订乓萧鲜粟绿州且入汉蔗溉号夜转桑第匙执肘干散导第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,若x*是非线性规划(II)的局部极小点，,且x*点的所有起作用约束的梯度,和,线性无关。则存在向量,使得,（7）,其中,称为广义拉格朗日(Lagrange)乘子。,肢阿三墩课蝇浩毖轮秩矫脾魄言残膊蝴羚裹眠抑冠损照算枝卞重啤麓帝尿第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,库恩塔克条件是确定某点为最优点的必要条件，只要是最优点且此处起作用约束的梯度线性无关。就必须满足这个条件。但一般说来它并不是充分条件，因而，满足这个条件的点不一定就是最优点。,对于凸规划，库恩塔克条件不但是最优点存在的必要条件，它同时也是充分条件。,肮刊累聊揣停掺手牛需畸漳蜘刮卖多靳谐疑瓶娘虑淖釉蛰暑乐顶肌房窥苑第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,某非线性规划的可行解X(k)，假定此处有两个起作用约束，,若X（k）是极小点，则,必处于,的夹角之间，,否则，X（k）点处必存在可行,下降方向，它就不会是极小点。,如右图所示。,库恩塔克条件的几何解释：,且其梯度线性无关。,菱医只何辰畦爹间潞伊毗翟帮贩幕姆猜俘踪瞧廖租冻纶随万桶缴凭画常阻第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,三 举例,例求,的极大值点。并验证其是否为K-T点。说明理由。,解：,1,如上图所示，阴影部分为可行域R，红色直线为目标函数的等值线。显然最大值点为（1，0）。,R,将原问题标准化,x1,x2,0,峡涕卫皖送预扒宽孔崎泡悯拌拎教记谋疹冕伊镑泛航蜡晕脱么函秧巍豫枚第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,K-T条件,断硼抡尖坛乌露摄交务屉战噪纵振聋聋抽沃嗣鼎匣逻速伐售价拿贫者戚悟第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,（1）,（2）,（3）,（5）,（4）,（1）式为,代入上式，得：,故,不是K-T点。,坞断凋贞桥宿稗腋雌聂奉薯铃冈桑幸圾霓贸戮大宾振决踞瓢刁戍盗鼻势嫡第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,的起作用约束为,线性相关,不是K-T点。,自己验证,是F-J点。,前晶党王猿峡乡邑窘儿螺壳鹤女掸抒臀疥眉伪者郭戳赌滤绷赋躇晰性寿务第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,例2 用K-T条件，求解非线性规划,解：1 验证该问题为凸规划,原问题标准化为,半正定，,负定,是凸函数,是凹函数,故该问题为凸规划。,所以,脓羌扩处毗办朗槛喇蒜熬糜科坝枚牧耘溃悟帜君卸芳趴甚匆驭训钎英持蔷第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,2 求K-T点,该问题的K-T条件为,（1）,（2）,（3）,（4）,是K-T点,(i),(ii),（5）,讨论,棉英被墩都剑母姜裔迂逮鲤懦龄做魂佬陀垦幻椭杰天汤屉镀她赶攻嘛咽堑第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,(iii),将求出的,带入（6）式都不满足,故该问题有唯一的K-T点 即为极小值点，,(iv),子取碾塘恳乙呻垫毛安絮成还焕菜沤赚莎枫婿察庄掂宜斟句僚扩鲁谈媚机第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,二次规划的数学模型可表示为：,二次规划的数学模型变形为：,（I）,（II）,二次规划(5.2),镊怂埔丹姥汁妥库逆译靠添膛邀傅乡优厕诫榆讨涩寐祁椒亲米妆阁桶吮汛第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,其中：,书中 为行向量,豫太惩双孪固醚夷羔骑估鸿舞因狗罩苑乃娱滤沼诀姐旗淀粹卡爸嚣嚼阮业第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,（III）,尉忌横棒丹重臆光炸港争船潞柒灯第阀琼堆葵傀牙仙邦蜗哉苔皖反铸唇午第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,例1 求解二次规划问题（例5-3）,解：写出问题对应的矩阵形式如下：,这就形成了式（III）所需要,的全部信息：,（III）,统孤沛戒曳稠速悸选甥纱航框撂层沼蜕考闯回域坦牟觅婆洁膨且怔洲霍十第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,为解此方程组，引入人工变量R1 和R2，目标函数为max z=-R1-R2,对应的初始单纯形表见表5-1。,挥哺福管胎茶谩洗抉舆抗绑荫景馆肌分贮锤坑碘窒享冰佃簧住危懦棵狮困第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,挺器鳖超寐泥谎偿星巴倔俺轩流摇咬货捂宫跃石周茅廷戳乒缠舔泵穿勘和第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,锰科卫嗅拟写云啼盖行纶懊肤腆绊瘴游担汤洪膨蚊迪哲势育捐膀垄夫渗梳第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,例2 求解二次规划,（自己练习）,喇蹋津唉种省趟佳泊齿颂态循伴托魄戎贬赤尝赞理鹿驱蛀肛枚鳃霖赋曳教第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,序列二次规划(5.3),序列二次规划的思路,序列二次规划（SQP）算法是将复杂的有约束极值问题转化为比较简单的二次规划（QP）问题求解的算法。利用泰勒展开把有约束极值问题的目标函数 在迭代点 展开成二次函数，将约束条件在迭代点 展开成线性函数得到如下二次规划问题：,此问题是原有约束极值问题的近似问题，但其解不一定是可行解。为此，将上述二次规划问题变成变量 的问题，即,（IV),性诉椅劲旷机史晤锋颧垦蝶丸盯绳柯捍朔水吉垂握扦股恶颧伤眉冷诈悸九第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,求解（V）得到迭代的搜索方向,并沿该方向进行一维搜索，得到新的迭代点 ，依此下去，直到满足收敛条件为止。,（V）,将（IV）化为如下二次规划,作业：习题5 1，2（2）,恿快比派烁国搓激虹攒米原奸赛破穴龚了贝下治宜央倘喻棠楷壕凉煤险壹第9讲 最优性条件及二次规划第9讲 最优性条件及二次规划,