动态规划的基本方法.ppt

动态规划的基本思想及应用 Dynamicprogramming 5 1动态规划的实例 5 2动态规划的基本概念 5 4资源分配问题 5 5背包问题 5 3动态规划方法的基本思想 5 6排序问题 动态规划是用来解决多阶段决策过程最优化的一种数量方法 其特点在于 它可以把一个n维决策问题变换为几个一维最优化问题 从而一个一个地去解决 需指出 动态规划是求解某类问题的一种方法 是考察问题的一种途径 而不是一种算法 必须对具体问题进行具体分析 运用动态规划的原理和方法 建立相应的模型 然后再用动态规划方法去求解 5 1动态规划的实例 即在系统发展的不同时刻 或阶段 根据系统所处的状态 不断地做出决策 每个阶段都要进行决策 目的是使整个过程的决策达到最优效果 动态决策问题的特点 系统所处的状态和时刻是进行决策的重要因素 找到不同时刻的最优决策以及整个过程的最优策略 多阶段决策问题 是动态决策问题的一种特殊形式 在多阶段决策过程中 系统的动态过程可以按照时间进程分为状态相互联系而又相互区别的各个阶段 多阶段决策问题的典型例子 1 生产决策问题 企业在生产过程中 由于需求是随时间变化的 因此企业为了获得全年的最佳生产效益 就要在整个生产过程中逐月或逐季度地根据库存和需求决定生产计划 2 机器负荷分配问题 某种机器可以在高低两种不同的负荷下进行生产 在高负荷下进行生产时 产品的年产量g和投入生产的机器数量u1的关系为g g u1 1 2 n 状态 决策 状态 决策 状态 状态 决策 这时 机器的年完好率为a 0 a 1 即如果年初完好机器的数量为u1 到年终完好的机器就为au1 0 a 1 在低负荷下生产时 产品的年产量h和投入生产的机器数量u2的关系为h h u2 假定开始生产时完好的机器数量为s1 要求制定一个五年计划 在每年开始时 决定如何重新分配完好的机器在两种不同的负荷下生产的数量 使在五年内产品的总产量达到最高 相应的机器年完好率b 0 b 1 3 航天飞机飞行控制问题 由于航天飞机的运动的环境是不断变化的 因此就要根据航天飞机飞行在不同环境中的情况 不断地决定航天飞机的飞行方向和速度 状态 使之能最省燃料和实现目的 如软着落问题 不包含时间因素的静态决策问题 本质上是一次决策问题 也可以适当地引入阶段的概念 作为多阶段的决策问题用动态规划方法来解决 4 线性规划 非线性规划等静态的规划问题也可以通过适当地引入阶段的概念 应用动态规划方法加以解决 5 最短路问题 给定一个交通网络图如下 其中两点之间的数字表示距离 或花费 试求从A点到G点的最短距离 总费用最小 1 2 3 4 5 6 A B1 B2 C1 C2 C3 C4 D1 D2 D3 E1 E2 E3 F1 F2 G 5 3 1 3 6 8 7 6 3 6 8 5 3 3 8 4 2 2 2 1 3 3 3 5 2 5 6 6 4 3 1 阶段 把一个问题的过程 恰当地分为若干个相互联系的阶段 以便于按一定的次序去求解 描述阶段的变量称为阶段变量 阶段的划分 一般是根据时间和空间的自然特征来进行的 但要便于问题转化为多阶段决策 2 状态 表示每个阶段开始所处的自然状况或客观条件 通常一个阶段有若干个状态 描述过程状态的变量称为状态变量 一个数 一组数 一个向量 状态变量的取值有一定的允许集合或范围 此集合称为状态允许集合 5 2动态规划的基本概念 3 决策 表示当过程处于某一阶段的某个状态时 可以作出不同的决定 从而确定下一阶段的状态 这种决定称为决策 描述决策的变量 称为决策变量 决策变量是状态变量的函数 可用一个数 一组数或一向量 多维情形 来描述 在实际问题中决策变量的取值往往在某一范围之内 此范围称为允许决策集合 系统在某一阶段的状态转移不但与系统的当前的状态和决策有关 而且还与系统过去的历史状态和决策有关 4 多阶段决策过程 可以在各个阶段进行决策 去控制过程发展的多段过程 其发展是通过一系列的状态转移来实现的 图示如下 状态转移方程是确定过程由一个状态到另一个状态的演变过程 如果第k阶段状态变量sk的值 该阶段的决策变量一经确定 第k 1阶段状态变量sk 1的值也就确定 其状态转移方程如下 一般形式 能用动态规划方法求解的多阶段决策过程是一类特殊的多阶段决策过程 即具有无后效性的多阶段决策过程 动态规划中能处理的状态转移方程的形式 状态具有无后效性的多阶段决策过程的状态转移方程如下 无后效性 马尔可夫性 如果某阶段状态给定后 则在这个阶段以后过程的发展不受这个阶段以前各段状态的影响 过程的过去历史只能通过当前的状态去影响它未来的发展 构造动态规划模型时 要充分注意是否满足无后效性的要求 状态变量要满足无后效性的要求 如果状态变量不能满足无后效性的要求 应适当地改变状态的定义或规定方法 5 策略 是一个按顺序排列的决策组成的集合 在实际问题中 可供选择的策略有一定的范围 称为允许策略集合 从允许策略集合中找出达到最优效果的策略称为最优策略 6 状态转移方程 是确定过程由一个状态到另一个状态的演变过程 描述了状态转移规律 7 指标函数和最优值函数 用来衡量所实现过程优劣的一种数量指标 为指标函数 指标函数的最优值 称为最优值函数 在不同的问题中 指标函数的含义是不同的 它可能是距离 利润 成本 产量或资源消耗等 动态规划模型的指标函数应具有可分离性 并满足递推关系 指标函数 指标函数形式 和 积 可递推 最优函数 解多阶段决策过程问题 求出 f1 s1 从k到终点最优策略子策略的最优目标函数值 1 动态规划方法的关键在于正确地写出基本的递推关系式和恰当的边界条件 简称基本方程 要做到这一点 就必须将问题的过程分成几个相互联系的阶段 恰当的选取状态变量和决策变量及定义最优值函数 从而把一个大问题转化成一组同类型的子问题 然后逐个求解 即从边界条件开始 逐段递推寻优 在每一个子问题的求解中 均利用了它前面的子问题的最优化结果 依次进行 最后一个子问题所得的最优解 就是整个问题的最优解 5 3动态规划的基本思想 2 在多阶段决策过程中 动态规划方法是既把当前一段和未来一段分开 又把当前效益和未来效益结合起来考虑的一种最优化方法 因此 每段决策的选取是从全局来考虑的 与该段的最优选择答案一般是不同的 最优化原理 作为整个过程的最优策略具有这样的性质 无论过去的状态和决策如何 相对于前面的决策所形成的状态而言 余下的决策序列必然构成最优子策略 也就是说 一个最优策略的子策略也是最优的 3 在求整个问题的最优策略时 由于初始状态是已知的 而每段的决策都是该段状态的函数 故最优策略所经过的各段状态便可逐段变换得到 从而确定了最优路线 建立动态规划模型的步骤1 划分阶段划分阶段是运用动态规划求解多阶段决策问题的第一步 在确定多阶段特性后 按时间或空间先后顺序 将过程划分为若干相互联系的阶段 对于静态问题要人为地赋予 时间 概念 以便划分阶段 2 正确选择状态变量选择变量既要能确切描述过程演变又要满足无后效性 而且各阶段状态变量的取值能够确定 一般地 状态变量的选择是从过程演变的特点中寻找 3 确定决策变量及允许决策集合通常选择所求解问题的关键变量作为决策变量 同时要给出决策变量的取值范围 即确定允许决策集合 4 确定状态转移方程根据k阶段状态变量和决策变量 写出k 1阶段状态变量 状态转移方程应当具有递推关系 5 确定阶段指标函数和最优指标函数 建立动态规划基本方程阶段指标函数是指第k阶段的收益 最优指标函数是指从第k阶段状态出发到第n阶段末所获得收益的最优值 最后写出动态规划基本方程 以上五步是建立动态规划数学模型的一般步骤 由于动态规划模型与线性规划模型不同 动态规划模型没有统一的模式 建模时必须根据具体问题具体分析 只有通过不断实践总结 才能较好掌握建模方法与技巧 例从A地到D地要铺设一条煤气管道 其中需经过两级中间站 两点之间的连线上的数字表示距离 如图所示 问应该选择什么路线 使总距离最短 A B1 B2 C1 C2 C3 D 2 4 3 3 3 3 2 1 1 1 4 最短路径问题 解 整个计算过程分三个阶段 从最后一个阶段开始 第一阶段 C D C有三条路线到终点D A B1 B2 C1 C2 C3 D 2 4 3 3 3 3 2 1 1 1 4 D C1 C2 C3 显然有f1 C1 1 f1 C2 3 f1 C3 4 d B1 C1 f1 C1 3 1f2 B1 mind B1 C2 f1 C2 min3 3d B1 C3 f1 C3 1 44 min6 45 第二阶段 B C B到C有六条路线 A B1 B2 C1 C2 C3 D 2 4 3 3 3 3 2 1 1 1 4 D C1 C2 C3 B1 B2 最短路线为B1 C1 D d B2 C1 f1 C1 2 1f2 B2 mind B2 C2 f1 C2 min3 3d B2 C3 f1 C3 1 43 min6 35 A B1 B2 C1 C2 C3 D 2 4 3 3 3 3 2 1 1 1 4 D C1 C2 C3 B1 B2 最短路线为B2 C1 D 第三阶段 A B A到B有二条路线 f3 A 1 d A B1 f2 B1 2 4 6f3 A 2 d A B2 f2 B2 4 3 7 f3 A min min 6 7 6 d A B1 f2 B1 d A B2 f2 B2 最短路线为A B1 C1 D A B1 B2 C1 C2 C3 D 2 4 3 3 3 3 2 1 1 1 4 D C1 C2 C3 B1 B2 A A B1 B2 C1 C2 C3 D 2 4 3 3 3 3 2 1 1 1 4 D C1 C2 C3 B1 B2 A 最短路线为A B1 C1 D路长为6 例5 1 A B1 B2 C1 C2 C3 C4 D1 D2 D3 E1 E2 E3 F1 F2 G 5 3 1 3 6 8 7 6 3 6 8 5 3 3 8 4 2 2 2 1 3 3 3 5 2 5 6 6 4 最优路线为 A B1 C2 D1 E2 F2 G路长 18 求从A到G的最短路径 3 k 5 出发点E1 E2 E3 k 2 f2 B1 13u2 B1 C2f2 B2 16u2 B2 C3 759 u5 E2 F2 u6 F2 G 最优策略 A B1 B2 C1 C2 C3 C4 D1 D2 D3 E1 E2 E3 F1 F2 G 5 3 1 3 6 8 7 6 3 6 8 5 3 3 8 4 2 2 2 1 3 3 3 5 2 5 6 6 4 3 求从A到E的最短路径 路线为A B2 C1 D1 E 最短路径为19 A B2 B1 B3 C1 C3 D1 D2 E C2 5 2 14 1 12 6 10 10 4 3 12 11 13 9 6 5 8 10 5 2 课堂练习 1 例5 2利用动态规划的顺推解法求解下列问题 解 按问题中变量的个数分为三个阶段 设状态变量为s0 s1 s2 s3 并记s3 9 取x1 x2 x3为各阶段的决策变量 各阶段指标函数按加法方式结合 令最优值函数fk sk 表示第k阶段的结束状态为sk 从第1阶段到第k阶段的最大值 设3x1 s1 s1 2x2 s2 s2 x3 s3 则有x1 s1 3 0 x2 s2 2 0 x3 s3 用顺推法 从前向后依次有 当k 1时 当k 2时 有 令 由得 由于该点不在允许决策集合内 所以最大值点不可能在该点取得 所以无需验证 因此 h2 x2 的最大值必在两个端点上选取 计算得到 所以h2 x2 的最大值在x2 0处取得 且有 当k 3时 有 令 由 又 所以x3 2s3 11为极小值点 由此可得 函数h3 x3 的最大值点必在两个端点上选取 计算两个端点的函数值 有 所以h3 x3 的最大值点在x3 s3处 由此可知 由于s3未知 故须再对s3求一次极值 即 显然 当s3 9时 f3 s3 达到最大值 即 再按计算的顺序反推算 可以求得最优解和最优值 现有数量为a 万元 的资金 计划分配给n个工厂 用于扩大再生产 假设 xi为分配给第i个工厂的资金数量 万元 gi xi 为第i个工厂得到资金后提供的利润值 万元 问题是如何确定各工厂的资金数 使得总的利润为最大 据此 有 5 4资源分配问题 令 fk x 以数量为x的资金分配给前k个工厂所得到的最大利润值 用动态规划求解 就是求fn a 的问题 当k 1时 f1 x g1 x 因为只给一个工厂 当1 k n时 其递推关系如下 设 y为分给第k个工厂的资金 其中0 y x 此时还剩x y 万元 的资金需要分配给前k 1个工厂 如果采取最优策略 则得到的最大利润为fk 1 x y 因此总的利润为 gk y fk 1 x y 如果a是以万元为资金分配单位 则式中的y只取非负整数0 1 2 x 上式可变为 所以 根据动态规划的最优化原理 有下式 例5 3设国家拨给60万元投资 供四个工厂扩建使用 每个工厂扩建后的利润与投资额的大小有关 投资后的利润函数如下表所示 解 依据题意 是要求f4 60 按顺序解法计算 第一阶段 求f1 x 显然有f1 x g1 x 得到下表 第二阶段 求f2 x 此时需考虑第一 第二个工厂如何进行投资分配 以取得最大的总利润 最优策略为 40 20 此时最大利润为120万元 同理可求得其它f2 x 的值 最优策略为 30 20 此时最大利润为105万元 最优策略为 20 20 此时最大利润为90万元 最优策略为 20 10 此时最大利润为70万元 最优策略为 10 0 或 0 10 此时最大利润为20万元 f2 0 0最优策略为 0 0 最大利润为0万元 得到下表 最优策略为 20 0 此时最大利润为50万元 第三阶段 求f3 x 此时需考虑第一 第二及第三个工厂如何进行投资分配 以取得最大的总利润 最优策略为 20 10 30 最大利润为155万元 同理可求得其它f3 x 的值 得到下表 第四阶段 求f4 60 即问题的最优策略 最优策略为 20 0 30 10 最大利润为160万元 练习 求投资分配问题得最优策略 其中a 50万元 其余资料如表所示 例 某公司打算在3个不同的地区设置4个销售点 根据市场部门估计 在不同地区设置不同数量的销售点每月可得到的利润如表所示 试问在各地区如何设置销售点可使每月总利润最大 x1 2 x2 1 x3 1 f3 4 47 资源连续分配问题 这类问题需要考虑资源的回收利用 其中的决策变量为连续值 此类分配问题一般叙述如下 设有数量为s1的某种资源 可投入生产A和B两种产品 第一年若以数量u1投入生产A 剩下s1 u1的就投入生产B 可得收入为 这种资源投入A B生产后 年终还可回收再投入生产 设年回收率分别为0 a 1和0 b 1 则在第一年生产后 回收的资源数量合计为 第二年再将资源数量s2中的u2和s2 u2分别再投入生产A和B 则第二年又可得到的收入为 如此继续进行n年 试问 应当如何决定每年投入A生产的资源量u1 u2 un 才能使总的收入最大 此问题写成静态规划问题为 用动态规划方法求解的思路如下 设sk为状态变量 表示在第k阶段 第k年 可投入生产A和B两种产品的资源量 uk为决策变量 表示在第k阶段 第k年 用于生产A的资源量 则sk uk为用于生产B的资源量 状态转移方程为 最优值函数fk sk 表示有资源sk 从第k阶段至第n阶段采取最优分配方案进行生产后所得到的最大总收入 因此可以写出动态规划的逆推关系式为 最后求出的f1 s1 即为所求问题的最大收入 例5 4 机器负荷分配问题 某种机器可在高低两种不同的负荷下进行生产 设机器在高负荷下生产的产量函数为g 8u1 其中u1为投入生产的机器数量 年完好率a 0 7 在低负荷下生产的产量函数为h 5y 其中y为投入生产的机器数量 年完好率为b 0 9 假定开始生产时完好机器的数量s1 1000 试问每年如何安排机器在高 低负荷下的生产 使在5年内生产的产品总产量最高 解 设阶段序数k表示年度 状态变量sk为第k年度初拥有的完好机器数量 同时也是第k 1年度末时的完好机器数量 决策变量uk为第k年度中分配高负荷下生产的机器数量 则该年度中分配在低负荷下生产的机器数量为sk uk 这里sk和uk均取连续变量 状态转移方程为 k段允许决策集合为 设vk sk uk 为第k年度的产量 则 指标函数为 令最优值函数fk sk 表示由资源量sk出发 从第k年开始到第5年结束时所生产的产品的总产量最大值 则有逆推关系式 采用逆推法 从第5年度开始向前逆推计算 最优策略为即前两年应把年初全部完好机器投入低负荷生产 后三年应把年初全部完好机器投入高负荷生产 这样所得的产量最高 总计为23691 2 在得到整个问题的最优指标函数值和最优策略后 还需反过来确定每年年初的机器状态 即从始端向终端递推计算出每年年初完好机器数 已知s1 1000台 则可得 采用LINGO程序来进行求解 该问题的静态规划模型为 sets stages 1 6 s years 1 5 u endsetsdata a 0 7 b 0 9 enddatamax sum years i 8 u i 5 s i u i s 1 1000 for stages j j ge 2 s j 0 7 u j 1 0 9 s j 1 u j 1 for years i u i s i 上面所讨论的最优策略过程 始端状态s1是固定的 终端状态s6是自由的 由此所得出的最优策略称为始端固定终端自由的最优策略 实现的是5年里的产品总产量最高 如果在终端也附加一定的约束条件 如规定在第5年度结束时 完好的机器数量为500台 上面只有277 83台 问如何安排生产才能在满足这一终端要求的情况下产量最高 如果采用LINGO程序进行求解 则只要在以上的程序清单中增加一条约束 即增加语句s 6 500 运算结果如下 Globaloptimalsolutionfound Objectivevalue 21832 85Totalsolveriterations 2VariableValueReducedCostS 1 1000 0000 000000S 2 900 00000 000000S 3 810 00000 000000S 4 729 00000 000000S 5 656 10000 000000S 6 500 00000 000000U 1 0 0000002 407300U 2 0 0000001 897000U 3 0 0000001 330000U 4 0 0000000 7000000U 5 452 45000 000000 即在前4年将完好机器全部在低负荷状态下运行 第5年年初将656 1台完好的机器中的452 45台用于高负荷生产 其他的机器在低负荷状态下生产 则在第5年末完好的机器数为500台 最优的总产量为21832 85 有一个徒步旅行者 其可携带物品重量的限度为a公斤 设有n种物品可供他选择装入包中 已知每种物品的重量及使用价值 作用 问此人应如何选择携带的物品 各几件 使所起作用 使用价值 最大 这就是背包问题 类似的还有工厂里的下料问题 运输中的货物装载问题 人造卫星内的物品装载问题等 5 5背包问题 设xj为第j种物品的装件数 非负整数 则问题的数学模型如下 用动态规划方法求解 令fk y 总重量不超过y公斤 包中只装有前k种物品时的最大使用价值 其中y 0 k 1 2 n 所以问题就是求fn a 其递推关系式为 当k 1时 有 例5 5 求下面背包问题的最优解 a 5 解 a 5 问题是求f3 5 所以 最优解为X 1 1 0 最优值为Z 13 练习 某厂生产三种产品 各种产品重量与利润的关系如表所示 现将此三种产品运往市场出售 运输能力总重量不超过6吨 问如何安排运输 使总利润最大 最优方案 X1 0 2 0 X2 1 0 1 Z 260 5 6 1n 1排序问题 即n种零件经过1种设备进行加工 已知每种零件的加工时间和交货日期 如何安排加工顺序才能使 1 平均通过设备的时间最小 2 所有零件均能按时交货 3 既能满足交货时间 又使平均通过时间最小 例5 6有5种零件需要在同一台机器上加工 每种零件的加工时间和需要交货的时间如下表所示 5 6排序问题 1 平均通过设备的时间最小按零件加工时间非负次序排列顺序 其时间最小 即将加工时间由小到大排列即可 各零件的加工顺序如图5 4所示 其中 某零件实际通过设备的时间 前面加工的零件实际通过时间 该零件的加工时间平均通过时间 各零件实际通过时间之和 零件数延迟交货时间 max 各零件实际通过时间 交货时间 0 因此 本例中平均通过时间 1 4 8 13 20 5 9 2延迟交货时间 max 1 8 4 23 8 14 13 6 20 20 7 2 按时交货排列顺序如果要求按时交货 则零件的加工顺序可按交货时间从小到大的顺序对零件进行加工 如例5 6 满足按时交货要求的加工顺序如图5 5所示 平均通过时间 5 6 10 17 20 5 11 6延迟时间 max 5 6 6 8 10 4 17 20 20 23 0 0 3 既满足交货时间 又使平均通过时间最小首先按照 平均通过设备的时间最小 的排序方法进行排序 如果出现不满足按时交货的工序 则与其前一工序的顺序对调 直到所有零件均满足按时交货时间为止 例5 6的 既满足交货时间又使平均通过时间最小 的排序如图5 6所示 延迟时间 max 1 8 6 6 9 23 13 14 20 20 0 0平均通过时间 20 13 9 6 1 5 9 8 5 6 2n 2排序问题设有n个工件需要在机床A和B上加工 每个工件都必须经过先A而后B的两道加工工序 见图5 7 以ai bi分别表示工件i在A B上的加工时间 问如何在两机床上安排各工件加工的顺序 使在机床A上加工第一个工件开始到在机床B上将最后一个工件加工完为止 所用的加工总时间最少 可以证明 最优加工顺序在两台机床上可同时产生 因此 最优排序方案只能在机床A B上加工顺序相同的排序中去寻找 即便如此 所有可能的方案仍有个n 个 用穷举法是不现实的 用动态规划方法解决同顺序两台机床加工n个工件的排序问题 可以得到最优排序的规则如下 1 先作工件的加工时间的工时矩阵 2 在工时矩阵M中找出最小元素 若最小元素不止一个 可任选其一 若它在上行 则将相应的工件排在最前位置加工 若它在下行 则将相应的工件排在最后位置 3 将排定位置的工件所对应的列从M中划掉 然后对余下的工件重复按 2 进行 但那时的最前位置 或最后位置 是在已排定位置的工件之后 或之前 如此进行下去 直至把所有工件都排完为止 概括起来说 它的基本思路是 尽量减少在机床B上等待加工的时间 因此 把在机床B上加工时间长的工件先加工 在B上加工时间短的工件后加工 总的加工周期 例5 7有5个工件需在机床A和B上加工 加工的顺序是先A后B 每个工件所需加工时间 单位 小时 如表5 8所示 问如何安排加工顺序 使机床连续加工完所有工件的加工总时间最少 并求出总加工时间 解 工件的加工工时矩阵为 根据最优排序规则可得到最优加工顺序为 工件加工示意图如图5 8所示 总加工时间为 小时 5 6 3n 3排序问题有n种零件需要经过A B C三种设备进行加工 问如何安排加工顺序 才能使得所有的零件在所有设备上均加工完所使用的总时间最小 对于n 3排序问题 可以参照n 2排序问题的思路 将A B和B C分别组合起来 形成一个n 2排序问题 然后按照n 2排序问题的排序方法进行 下面以例子来说明n 3排序问题的排序方法 例5 8有5种零件需要经过A B C三种设备加工 各设备的加工时间 单位 小时 如表5 9所示 问如何安排加工顺序 使设备连续加工完所有零件的加工总时间最少 并求出总加工时间 解 对以上的表作变换得表5 10 将问题转换为n 2排序问题 零件加工工时矩阵为根据最优排序规则可得到最优加工顺序为 总加工时间的计算规则如下 当时 当时 所以 本例总加工时间