第5354节贝叶斯网络和主观贝叶斯方法课件

第第5.3节节 贝叶斯网络贝叶斯网络计算机科学与技术系计算机科学与技术系12勘误勘误nP173页关于图页关于图5.4的的CPT有误。有误。nP175页倒数第页倒数第3行，行，“对于对于S、L和和E”应为应为“对于对于S，L和和E”。nP178页第页第1行，行，“具有以上具有以上3个属性之一个属性之一”应为应为“同时具有以同时具有以上上3个属性个属性”。nP178页页14行，行，“结点结点E阻塞了结点阻塞了结点C和和”应为应为“结点结点S阻塞阻塞了结点了结点C和和”。nP178页页16行，行，“而对于给定结点而对于给定结点E、S和和L之间之间”应为应为“而而对于给定结点对于给定结点E，S和和L之间之间”。nP180页页15行，行，“P(S|C)”应为应为“P(S|C)”。注：新印刷的可能已纠正。注：新印刷的可能已纠正。2008-2009学年第1学期25.1-5.2节 贝叶斯网络和主观贝叶斯方法3n贝叶斯网络（贝叶斯网络（Bayesian Network）q有坚实的数学理论基础；有坚实的数学理论基础；q采用采用概率概率形式的不确定性形式的不确定性表示表示和和推理推理；q20世纪世纪80年代，成功应用于专家系统。年代，成功应用于专家系统。2008-2009学年第1学期35.1-5.2节 贝叶斯网络和主观贝叶斯方法45.3.1 贝叶斯网络的基本概念贝叶斯网络的基本概念n有向无环图有向无环图qDirected Acyclic Graph，缩写，缩写DAG；q可用于表示因果关系网。可用于表示因果关系网。n结点代表证据或结论，权代表证据或结论的不确定结点代表证据或结论，权代表证据或结论的不确定度；度；n弧代表规则（即因果关系），权代表规则的不确定弧代表规则（即因果关系），权代表规则的不确定度。度。2008-2009学年第1学期45.1-5.2节 贝叶斯网络和主观贝叶斯方法5nCondition Probability Table，缩写，缩写CPT；n对于对于所有所有父结点的父结点的每种每种指派，确定子结点的发生概率。指派，确定子结点的发生概率。n例：例：CPT包括包括qP(C|A,B),P(C|A,B),P(C|A,B),P(C|A,B)qP(A),P(B)ABC条件概率表条件概率表2008-2009学年第1学期55.1-5.2节 贝叶斯网络和主观贝叶斯方法6n贝叶斯网络的构造方法贝叶斯网络的构造方法q确定包含哪些结点；确定包含哪些结点；q建立反映建立反映条件独立条件独立的有向无环图；的有向无环图；q指派局部概率分布，即指派局部概率分布，即CPT。n如果如果CPT包含了包含了足够的足够的条件概率，可以计算出任条件概率，可以计算出任何何联合概率联合概率，则称此网络是可计算的（即可推理，则称此网络是可计算的（即可推理的）。的）。2008-2009学年第1学期65.1-5.2节 贝叶斯网络和主观贝叶斯方法7因果关系网的示例因果关系网的示例n结点及其解释结点及其解释qS(Smoker)：该患者为吸烟者：该患者为吸烟者qC(Coal miner)：该患者是煤矿工人：该患者是煤矿工人qL(Lung cancer)：他患了肺癌：他患了肺癌qE(Emphysema)：他患了肺气肿：他患了肺气肿n因果关系qS可能可能导致导致L和和EqC可能可能导致导致E。SCLE因果关系从哪里得来呢？因果关系从哪里得来呢？2008-2009学年第1学期75.1-5.2节 贝叶斯网络和主观贝叶斯方法8贝叶斯网络贝叶斯网络n是结点间增加是结点间增加连接强度连接强度的因果关系网。的因果关系网。q连接强度用条件概率表示；连接强度用条件概率表示；n例：例：P(B|A)为为A到到B的连接强度；的连接强度；n例：例：P(B|AC)表示表示A、C对对B的联合作用。的联合作用。qCPT除了包含上述条件概率，还包括顶点（即无父结点除了包含上述条件概率，还包括顶点（即无父结点的结点）的的结点）的无条件概率无条件概率（即（即先验概率先验概率）。）。n贝叶斯网络贝叶斯网络=网络结构网络结构+CPT注：贝叶斯网络不允许包含注：贝叶斯网络不允许包含循环因果循环因果关系！关系！2008-2009学年第1学期85.1-5.2节 贝叶斯网络和主观贝叶斯方法9ACEBDGF贝叶斯网络的结构贝叶斯网络的结构贝叶斯网络的贝叶斯网络的完整完整CPTP(A)、P(C)、P(D)、P(B|ACD)、P(B|A,C,D)、P(B|A,C,D)、P(B|A,C,D)、P(B|A,C,D)、P(B|A,C,D)、P(B|A,C,D)、P(B|A,C,D)、P(E|B)、P(E|B)、P(F|E)、P(F|E)、P(G|DEF)、P(G|D,E,F)、P(G|D,E,F)、P(G|D,E,F)、P(G|D,E,F)、P(G|D,E,F)、P(G|D,E,F)、P(G|D,E,F)一般，父结点一般，父结点发生发生或或不发生不发生的所有组合都要给出。的所有组合都要给出。2008-2009学年第1学期95.1-5.2节 贝叶斯网络和主观贝叶斯方法10SCLE网络的结构网络的结构不够完整的不够完整的CPTP(S)=0.4P(C)=0.3P(E|S,C)=0.9P(E|S,C)=0.3P(E|S,C)=0.5P(E|S,C)=0.1P(L|S)=0.6P(L|S)=0.5剩余的条件概率剩余的条件概率2008-2009学年第1学期105.1-5.2节 贝叶斯网络和主观贝叶斯方法11条件独立条件独立n有结点有结点A、B和和C，若，若 P(A|BC)=P(A|B)，则称，则称A和和C在在B条条件下件下独立、独立、A在在B条件下条件下独立于独立于C，或，或A和和C关于关于B独立。独立。q所谓所谓“关于关于B”，有时是，有时是给定给定B的不确定度，有时是的不确定度，有时是完全不完全不知道知道B的不确定度。的不确定度。n“条件独立条件独立”是贝叶斯网络中是贝叶斯网络中隐含隐含的断言（的断言（assertion）、假）、假设（设（assumption），），贝叶斯网络就是一个表示条件独立关贝叶斯网络就是一个表示条件独立关系的图模型系的图模型。n实际中，若已知实际中，若已知A在在B条件下条件下独立于独立于C，则，则P(A|BC)=P(A|B)。2008-2009学年第1学期115.1-5.2节 贝叶斯网络和主观贝叶斯方法12事件独立事件独立与与贝叶斯网络中的条件独立贝叶斯网络中的条件独立n事件独立事件独立q若若P(AB)=P(A)P(B)，则，则A与与B相互独立。相互独立。q性质性质2：若：若A与与B独立，且独立，且P(B)0，则，则P(A|B)=P(A)。n P(A|B)=P(AB)/P(B)=P(A)P(B)/P(B)q独立和互斥独立和互斥不一会儿事不一会儿事！n若若AB=，则A与与B互斥，有互斥，有P(A B)=P(A)+P(B)nP(A)0，P(B)0，若若AB=，则P(AB)=0，A与与B互斥但不相互独立；互斥但不相互独立；n与任何事件与任何事件独立独立，但，但与任何事件与任何事件不互斥不互斥。n贝叶斯网络中的条件独立贝叶斯网络中的条件独立q若若 P(A|BC)=P(A|B)，则，则A和和C关于关于B条件独立。条件独立。一个事件的概率与另一一个事件的概率与另一事件的概率没关系事件的概率没关系两个事件不可两个事件不可能同时发生能同时发生给定某条件时给定某条件时，一个，一个事件的概率与另一个事件的概率与另一个事件的概率没关系事件的概率没关系2008-2009学年第1学期125.1-5.2节 贝叶斯网络和主观贝叶斯方法13条件独立条件独立断言断言有什么用呢？有什么用呢？例：例：P(S,C,L,E)=P(E|S,C,L)P(L|S,C)P(C|S)P(S)=P(E|S,C)P(L|S,C)P(C|S)P(S)=P(E|S,C)P(L|S)P(C|S)P(S)=P(E|S,C)P(L|S)P(C)P(S)联合概率公式联合概率公式不不给定给定E，C独立于独立于S给定给定S，L独立于独立于C给定给定S，E独立于独立于LCPT给出给出这些概率这些概率SCLE贝叶斯网络的结构贝叶斯网络的结构2008-2009学年第1学期135.1-5.2节 贝叶斯网络和主观贝叶斯方法14贝叶斯网络隐含着哪些条件独立断言？贝叶斯网络隐含着哪些条件独立断言？串行连接串行连接qA通过通过B影响影响C；qC通过通过B影响影响A；q如果给定如果给定B，则，则A和和C互不影响，这时称互不影响，这时称A和和C关于关于B条条件独立。件独立。注：所谓注：所谓“影响影响”与箭头方向无关。与箭头方向无关。ACB血糖血糖 胃酸胃酸 饿饿条件独立断言是合理的条件独立断言是合理的2008-2009学年第1学期145.1-5.2节 贝叶斯网络和主观贝叶斯方法15分叉连接分叉连接q如果给定如果给定A，没有信息可经由没有信息可经由A传递给传递给A的子结点，即的子结点，即给定给定A时，时，A的子结点之间的子结点之间相互相互独立，称子结点独立，称子结点B、C、F关于关于A条件独立。条件独立。ACBF2008-2009学年第1学期155.1-5.2节 贝叶斯网络和主观贝叶斯方法16汇集连接汇集连接u多个原因（多个原因（causes）有）有一个共同一个共同结果（结果（effect）。对）。对结果结果一无所一无所知时，原因之间条件独立。知时，原因之间条件独立。u当当结果或其某个子孙结果或其某个子孙已知，父结已知，父结点之间就不再独立了。点之间就不再独立了。ACBFeACBFeHK2008-2009学年第1学期165.1-5.2节 贝叶斯网络和主观贝叶斯方法17汇集连接的解释汇集连接的解释nA和和B有共同的结果有共同的结果C；n在在有向图有向图中，结点中，结点C称为称为冲突子（冲突子（collider）；）；n不给定不给定C时，时，A和和B之间之间是相互独立的；是相互独立的；n给定给定C时，时，A和和B之间就之间就不再独立了。不再独立了。电池没电电池没电油箱空油箱空汽车发动不了汽车发动不了ABCDavid Papineau于于1985年发现了给年发现了给定冲突子时父结点之间的因果联系。定冲突子时父结点之间的因果联系。2008-2009学年第1学期175.1-5.2节 贝叶斯网络和主观贝叶斯方法18摘自摘自摘自摘自nHead-to-tailnTail-to-tailnHead-to-head X Y Z X Y ZY未知，路径不阻塞未知，路径不阻塞 Y已知，路径被阻塞已知，路径被阻塞 X Z Y X Z YY未知，路径不阻塞未知，路径不阻塞 Y已知，路径被阻塞已知，路径被阻塞Y未知未知，路径被阻塞，路径被阻塞 Y已知已知，路径不阻塞，路径不阻塞 Z X Y ZX Y2008-2009学年第1学期185.1-5.2节 贝叶斯网络和主观贝叶斯方法19定义：定义：Vi 和和Vj被被Vb 阻塞阻塞ViVb3VjVb1Vb2证据证据集集给定结点集给定结点集，Vi 和和Vj 的每个无的每个无向路经都有结点向路经都有结点Vb，如果，如果 Vb ，且路径上两条弧都以，且路径上两条弧都以Vb为尾；为尾；Vb，且路径上一条弧以，且路径上一条弧以Vb 为尾，一条以为尾，一条以Vb为头；为头；Vb及其后继都不及其后继都不属于属于，且路，且路径上两条弧都以径上两条弧都以Vb为头。为头。称称Vi 和和Vj 被被Vb 阻塞。阻塞。2008-2009学年第1学期195.1-5.2节 贝叶斯网络和主观贝叶斯方法20定义：一条路径的阻塞定义：一条路径的阻塞给定证据集给定证据集，当上述任一条件满足时，当上述任一条件满足时，Vb 阻阻塞塞相应的那条相应的那条路径。路径。定义：定义：D分离（分离（Dependence separation）给定证据集给定证据集，如果，如果Vi和和Vj之间的之间的所有所有路径被阻路径被阻塞，则结点集塞，则结点集可以可以D分离分离Vi和和Vj。定义：条件独立定义：条件独立如果证据集如果证据集可以可以D分离分离Vi和和Vj，则，则Vi和和Vj条件独条件独立于立于证据集证据集。2008-2009学年第1学期205.1-5.2节 贝叶斯网络和主观贝叶斯方法21n当当Vi 和和Vj条件独立于证据集条件独立于证据集时，时，q记为记为I(Vj,Vi|)或或I(Vi,Vj|)，q且有且有P(Vi|Vj,)=P(Vi|)q和和P(Vj|Vi,)=P(Vj|)2008-2009学年第1学期215.1-5.2节 贝叶斯网络和主观贝叶斯方法22D-分离的示例分离的示例nI(L,E|S)或或I(L,E|S)q应用示例：应用示例：P(L|E,S)=P(L|S)nI(L,C|S)或或I(L,C|S)q应用示例：应用示例：P(L|C,S)=P(L|S)nI(L,C,E|S)nI(S,C)、I(S,C)、I(S,C)或或I(S,C)q应用示例：应用示例：P(S|C)=P(S)SCLE CPT不含不含P(E)2008-2009学年第1学期225.1-5.2节 贝叶斯网络和主观贝叶斯方法235.3.2 贝叶斯网络的推理模式贝叶斯网络的推理模式因果推理：已知父结点，计算子结点的条件概率因果推理：已知父结点，计算子结点的条件概率例：给定例：给定S，计算计算P(E|S)。S称为推理的证据，称为推理的证据，E称称为询问结点。为询问结点。SCLE已知：已知：P(S)=0.4，P(C)=0.3，P(E|S,C)=0.9，P(E|S,C)=0.3，P(E|S,C)=0.5，P(E|S,C)=0.1不完整的不完整的CPT2008-2009学年第1学期235.1-5.2节 贝叶斯网络和主观贝叶斯方法24例例(续续)P(E|S)=P(E,C|S)+P(E,C|S)P(E,C|S)=P(E,C,S)/P(S)=P(E|C,S)P(C|S)P(S)/P(S)=P(E|C,S)P(C|S)=P(E|C,S)P(C)P(E,C|S)=P(E|C,S)P(C)P(E|S)=P(E|C,S)P(C)+P(E|C,S)P(C)=0.48SCLE要点：利用要点：利用条件概率性质条件概率性质3引入所有父结点，利用引入所有父结点，利用条件概率条件概率定义定义将父结点移到将父结点移到“|”右侧，利用右侧，利用条件独立条件独立简化公式，代入简化公式，代入CPT中的值求解。中的值求解。条件概率性质条件概率性质32008-2009学年第1学期245.1-5.2节 贝叶斯网络和主观贝叶斯方法25条件概率性质条件概率性质3n若若B1B2=，则P(B1 B2|A)=P(B1|A)+P(B2|A)n证证明：明：P(B1 B2|A)=P(B1 B2)A)/P(A)=P(B1A B2A)/P(A)=P(B1A)+P(B2A)/P(A)=P(B1A)/P(A)+P(B2A)/P(A)=P(B1|A)+P(B2|A)条件概率定义条件概率定义事件运算分配率事件运算分配率概率定义性质概率定义性质3条件概率定义条件概率定义2008-2009学年第1学期255.1-5.2节 贝叶斯网络和主观贝叶斯方法26诊断推理诊断推理已知一个子结点，计算父结点的条件概率。已知一个子结点，计算父结点的条件概率。例：计算例：计算P(C|E)。SCLE要点：将要点：将诊断诊断推理转化为推理转化为因果因果推理。推理。已知：已知：P(S)=0.4，P(C)=0.3，P(E|S,C)=0.9，P(E|S,C)=0.3，P(E|S,C)=0.5，P(E|S,C)=0.12008-2009学年第1学期265.1-5.2节 贝叶斯网络和主观贝叶斯方法27例（续）例（续）P(C|E)=P(E|C)P(C)/P(E)P(E|C)=P(E,S|C)+P(E,S|C)=P(E|S,C)P(S|C)+P(E|S,C)P(S|C)=P(E|S,C)P(S)+P(E|S,C)P(S)=0.82 P(C|E)=0.82P(C)/P(E)=0.574/P(E)同理，同理，P(C|E)=P(E|C)P(C)/P(E)=0.102/P(E)由由P(C|E)+P(C|E)=1，得，得P(E)=0.676 P(C|E)=0.849SCLE贝叶斯公式贝叶斯公式条件概率性质条件概率性质32008-2009学年第1学期275.1-5.2节 贝叶斯网络和主观贝叶斯方法28辩解推理辩解推理已知的已知的既有父结点又有子结点既有父结点又有子结点，询问其他父结点。，询问其他父结点。例：计算例：计算P(C|E,S)。SCLE2008-2009学年第1学期285.1-5.2节 贝叶斯网络和主观贝叶斯方法29P(C|E,S)=P(E,S|C)P(C)/P(E,S)=P(E|S,C)P(S|C)P(C)/P(E,S)=P(E|S,C)P(S)P(C)/P(E,S)=P(E|S,C)P(S)P(C)/(P(E|S)P(S)=0.807SCLE要点：先用贝叶斯公式要点：先用贝叶斯公式，把，把要询问的父结点要询问的父结点移至移至“|”“|”右侧；再利用右侧；再利用条件概率定义条件概率定义将将“|”“|”左侧的父结点移至左侧的父结点移至“|”“|”右侧右侧；条件独立随时可用于简化公式。；条件独立随时可用于简化公式。2008-2009学年第1学期295.1-5.2节 贝叶斯网络和主观贝叶斯方法30例（摘自）例（摘自）CPT如下：如下：P(R)=0.2P(S|R)=0.01P(S|R)=0.4P(G|S,R)=0.99P(G|S,R)=0.8P(G|S,R)=0.9P(G|S,R)=0.0求：求：P(R|G)SprinklerRainGrass wetSprinkler：洒水车洒水了：洒水车洒水了Rain：下雨了：下雨了Grass wet：草湿了：草湿了2008-2009学年第1学期305.1-5.2节 贝叶斯网络和主观贝叶斯方法31解：解：P(R|G)=P(G|R)P(R)/P(G)=P(G,S|R)+P(G,S|R)P(R)/P(G)=P(G|S,R)P(S|R)+P(G|S,R)P(S|R)P(R)/P(G)=0.990.01+0.80.99 0.2/P(G)=0.16038/P(G)P(G)=P(G,S,R)+P(G,S,R)+P(G,S,R)+P(G,S,R)=P(G|S,R)P(S|R)P(R)+P(G|S,R)P(S|R)P(R)+P(G|S,R)P(S|R)P(R)+P(G|S,R)P(S|R)P(R)=0.99*0.01*0.2+0.8*0.99*0.2+0.9*0.4*0.8+0.0=0.44838 P(R|G)=0.16038/0.44838=0.35769SRG诊断推理诊断推理贝叶斯公式贝叶斯公式条件概率性质条件概率性质3概率定义性质概率定义性质32008-2009学年第1学期315.1-5.2节 贝叶斯网络和主观贝叶斯方法32方法二：方法二：P(R|G)=P(G|S,R)P(S|R)+P(G|S,R)P(S|R)P(R)/P(G)=0.990.01+0.80.99 0.2/P(G)=0.16038/P(G)P(R|G)=P(G|S,R)P(S|R)+P(G|S,R)P(S|R)P(R)/P(G)=0.90.4+0.00.6 0.8/P(G)=0.288/P(G)由由P(R|G)+P(R|G)=1，得，得P(G)=0.44838 P(R|G)=0.16038/0.44838=0.35769SRG2008-2009学年第1学期325.1-5.2节 贝叶斯网络和主观贝叶斯方法33作业作业n5.152008-2009学年第1学期335.1-5.2节 贝叶斯网络和主观贝叶斯方法第第5.4节节 主观贝叶斯方法主观贝叶斯方法王庆江王庆江计算机科学与技术系计算机科学与技术系3435勘误勘误nP182页页15行，行，LS表达式中表达式中缺少缺少一个等号。一个等号。nP188页第页第2行，行，“(300*0.02+1)”应为应为“(3001)*0.02+1)”。nP203页图页图5.15，E1和和E2，应分别为，应分别为T1和和T2。注：新印刷的可能已纠正。注：新印刷的可能已纠正。2008-2009学年第1学期355.1-5.2节 贝叶斯网络和主观贝叶斯方法36n主观贝叶斯方法主观贝叶斯方法q1976年，年，R.O.Duda等提出等提出;q用于地矿勘测系统用于地矿勘测系统PROSPECTOR;q仍断言因果关系网络蕴含条件独立；仍断言因果关系网络蕴含条件独立；q引入引入LS、LN两个因子，分别表示两个因子，分别表示规则规则成立的充分性成立的充分性和必要性程度。和必要性程度。n而不是用而不是用P(xi|pai)表示连接强度，表示连接强度，pai表示表示xi的父结的父结点集。点集。2008-2009学年第1学期365.1-5.2节 贝叶斯网络和主观贝叶斯方法37规则的不确定性规则的不确定性n规则：规则：ABn由贝叶斯定理，由贝叶斯定理，A发生后发生后B发生的概率为发生的概率为B不发生的概率为不发生的概率为两式相除得两式相除得2008-2009学年第1学期375.1-5.2节 贝叶斯网络和主观贝叶斯方法38充分性因子充分性因子LS 先验几率、后验几率分别定义为先验几率、后验几率分别定义为由由 定义定义LS，使得，使得LS2008-2009学年第1学期385.1-5.2节 贝叶斯网络和主观贝叶斯方法39LS的含义的含义LS表示表示A真对真对B的影响程度。的影响程度。LS=时，时，P(B|A)=0，P(B|A)=1。说明说明A对于对于B是逻辑充分的，即规则成立是充分的。是逻辑充分的，即规则成立是充分的。LS称作称作充分充分似然率因子。似然率因子。2008-2009学年第1学期395.1-5.2节 贝叶斯网络和主观贝叶斯方法40LS的含义（续）的含义（续）qLS=1，O(B|A)=O(B)，A对对B无影响无影响u可推得可推得P(B)=P(B|A)，即，即B独立于独立于A。qLS 1，O(B|A)O(B)，A支持支持Bu可推得可推得P(B)P(B|A)，即，即A发生提高了发生提高了B发生的概率。发生的概率。qLS 1，O(B|A)P(B|A)，即，即A发生降低了发生降低了B发生的概率。发生的概率。2008-2009学年第1学期405.1-5.2节 贝叶斯网络和主观贝叶斯方法41必要必要性因子性因子LNn规则：规则：ABn由贝叶斯定理，由贝叶斯定理，A不不发生时发生时B发生的概率为发生的概率为B不发生的概率为不发生的概率为两式相除得两式相除得2008-2009学年第1学期415.1-5.2节 贝叶斯网络和主观贝叶斯方法42 先验几率、后验几率分别为先验几率、后验几率分别为且且 得得必要似然率因子必要似然率因子LN2008-2009学年第1学期425.1-5.2节 贝叶斯网络和主观贝叶斯方法43LN的含义的含义LN表示表示A假（即不存在）对假（即不存在）对B的影响程度。的影响程度。LN=0时，时，P(B|A)=0。说明说明A对于对于B是逻辑必要的，即规则成立的必要性。是逻辑必要的，即规则成立的必要性。LN称作称作必要必要似然率因子。似然率因子。2008-2009学年第1学期435.1-5.2节 贝叶斯网络和主观贝叶斯方法44LN的含义（续）的含义（续）nLN表示表示A不存在对不存在对B发生的影响度发生的影响度qLN=1，O(B|A)=O(B)，A对对B无影响无影响n可推得可推得P(B)=P(B|A)，即，即B独立于独立于 A。qLN 1，O(B|A)O(B)，A支持支持Bn可推得可推得P(B)P(B|A)qLN P(B|A)2008-2009学年第1学期445.1-5.2节 贝叶斯网络和主观贝叶斯方法45LS、LN的关系的关系nLN0，LS0，且，且LN和和LS彼此彼此不独立不独立。n证明：证明：n 理论上理论上LS1,LN1;LS1;LS=LN=12008-2009学年第1学期455.1-5.2节 贝叶斯网络和主观贝叶斯方法46LS和和LN的取值与证据的关系的取值与证据的关系LS0 A为真则为真则B为假，即为假，即A对对B是必然的是必然的0 LS 1 A为真时对为真时对B不利不利1 A为真时对为真时对B无影响无影响1 LS A为真时对为真时对B有利有利 A为真时对为真时对B逻辑充分逻辑充分，即，即B必然为真必然为真LN0 A为假则为假则B为假，即为假，即A对对B是必然的是必然的0 LN 1 A为假时对为假时对B不利不利1 A为假时对为假时对B无影响无影响1 1且且LN=1是合理的。这时，只能说贝叶斯是合理的。这时，只能说贝叶斯定理是不适合的。定理是不适合的。nLS、LN表明了先验几率到后验几率有多大的变化表明了先验几率到后验几率有多大的变化（这正好适合专家意见的表达）。（这正好适合专家意见的表达）。2008-2009学年第1学期475.1-5.2节 贝叶斯网络和主观贝叶斯方法48指定指定LS、LN的示例的示例例：例：“如果有石英矿，则必有钾矿带如果有石英矿，则必有钾矿带”。LS=300,LN=0.2。这意味着：发现石英矿，对判断发现钾矿带非常有利。这意味着：发现石英矿，对判断发现钾矿带非常有利。而没有发现石英矿，并不暗示一定没有钾矿带。如果而没有发现石英矿，并不暗示一定没有钾矿带。如果 LN P(B1)时，有时，有 P(B2|A)=0.02+(0.860-0.02)(0.454-0.04)/(1-0.04)=0.390参见图参见图5.125.12的线性插值的线性插值AB2B1R1R22008-2009学年第1学期635.1-5.2节 贝叶斯网络和主观贝叶斯方法64例例例例5.25.2：已知：已知：已知：已知A A1 1和和和和A A2 2必然发生，且必然发生，且必然发生，且必然发生，且P(B)=0.03P(B)=0.03，R R1 1:A:A1 1BB，LSLS1 1=20=20，LNLN1 1=1=1，R R2 2:A:A2 2BB，LSLS2 2=300=300，LNLN2 2=1=1，计算，计算，计算，计算B B的的的的更新值。更新值。更新值。更新值。解法一解法一：P(B)=0.03O(B)=P(B)/(1 P(B)=0.0309O(B|A1)=LS1 O(B)=20 0.0309=0.619P(B|A1)=O(B|A1)/(1+O(B|A1)=0.382O(B|A1A2)=LS2 O(B|A1)=185.565P(B|A1A2)=185.565/(1+185.565)=0.99464B 的概率由的概率由 0.03 更新为更新为 0.99464。B1A2A1R1R22008-2009学年第1学期645.1-5.2节 贝叶斯网络和主观贝叶斯方法65解法二解法二：P(B)=0.03O(B)=P(B)/(1 P(B)=0.0309O(B|A1A2)=LS1 LS2 O(B|A1)=20 300 0.0309=185.4P(B|A1A2)=185.4/(1+185.4)=0.99464B 的概率由的概率由 0.03 更新为更新为 0.99464。这里内在地假设：这里内在地假设：A1、A2相互独立。相互独立。例例例例5.25.2：已知：已知：已知：已知A A1 1和和和和A A2 2必然发生，且必然发生，且必然发生，且必然发生，且P(B)=0.03P(B)=0.03，R R1 1:A:A1 1BB，LSLS1 1=20=20，LNLN1 1=1=1，R R2 2:A:A2 2BB，LSLS2 2=300=300，LNLN2 2=1=1，计算，计算，计算，计算B B的的的的更新值。更新值。更新值。更新值。B1A2A1R1R22008-2009学年第1学期655.1-5.2节 贝叶斯网络和主观贝叶斯方法66例例例例5.35.3：已知：已知：已知：已知A A必然发生，且必然发生，且必然发生，且必然发生，且P(BP(B1 1)=0.03)=0.03，P(BP(B2 2)=0.01,)=0.01,R R1 1:AB:AB1 1，LSLS1 1=20=20，LNLN1 1=1=1；R R2 2:B:B1 1BB2 2，LSLS2 2=300=300，LNLN2 2=0.0001=0.0001，计算，计算，计算，计算B B2 2的更新值的更新值的更新值的更新值解：解：P(B1)=0.03；O(B1)=P(B1)/(1 P(B1)=0.0309O(B1|A)=LS1 O(B1)=20 0.0309=0.619P(B1|A)=O(B1|A)/(1+O(B1|A)=0.382 P(B1|A)P(B1)，计算计算当P(B1|A)=1时的P(B2|B1)。P(B2|B1)=P(B2|A)=300 0.01/(3001)0.01+1)=0.75188用线性插值法，得用线性插值法，得P(B2|A)=P(B2)+(P(B2|B1)-P(B2)(P(B1|A)-P(B1)/(1-P(B1)=0.3AB2B1R1R22008-2009学年第1学期665.1-5.2节 贝叶斯网络和主观贝叶斯方法67主观贝叶斯方法的特点主观贝叶斯方法的特点nDuda公式蕴涵公式蕴涵条件独立条件独立语义；语义；q给定给定A时，时，B独立于独立于A，故，故P(B|A,A)=P(B|A)；q多因一果时，假设多因一果时，假设证据相互独立证据相互独立。n但实际中，多因一果时，证据之间不相互独立；但实际中，多因一果时，证据之间不相互独立；n由概率可计算出规则的由概率可计算出规则的LS和和LN，但概率往往难以准确获，但概率往往难以准确获得，故一般由专家给出。得，故一般由专家给出。2008-2009学年第1学期675.1-5.2节 贝叶斯网络和主观贝叶斯方法68思考题思考题n5.1n5.2n5.4作业作业n5.9（图（图5.15中的中的E1和和E2，应分别为，应分别为T1和和T2）2008-2009学年第1学期685.1-5.2节 贝叶斯网络和主观贝叶斯方法69习题习题5.9S1、S2、S3都必然发生；都必然发生；P(F1|S1)=0.7P(F2|S2)=0.6P(T2|S3)=0.02P(F1)=0.2P(F2)=0.4P(T1)=0.1P(T2)=0.03P(H)=0.01求求P(H|S1S2S3)HT1T2F1F20.010.030.10.40.2(300,0.0001)(65,0.01)(100,0.00001)(2,0.000001)S2S1S32008-2009学年第1学期695.1-5.2节 贝叶斯网络和主观贝叶斯方法70H有直接证据有直接证据T1和和T2，但不确定，但不确定发生；发生；影响影响T1的确定发生的证据的集合的确定发生的证据的集合A为为S1,S2；影响影响T2的确定发生的证据的集合的确定发生的证据的集合A为为S3；先求先求O(H|A)和和O(H|A)，然后，然后证据合成，得证据合成，得O(H|A,A)。HT1T2F1F20.010.030.10.40.2(300,0.0001)(65,0.01)(100,0.00001)(2,0.000001)S2S1S32008-2009学年第1学期705.1-5.2节 贝叶斯网络和主观贝叶斯方法71HT1T2F1F20.010.030.10.40.2(300,0.0001)(65,0.01)(100,0.00001)(2,0.000001)S2S1S3 P(F1|S1)=0.7，P(F1)=0.2 假设假设P(F1|S1)=1，计算，计算根据插值法，有根据插值法，有2008-2009学年第1学期715.1-5.2节 贝叶斯网络和主观贝叶斯方法72HT1T2F1F20.010.030.10.40.2(300,0.0001)(65,0.01)(100,0.00001)(2,0.000001)S2S1S3 P(F2|S2)=0.6，P(F2)=0.4 假设假设P(F2|S2)=1，计算，计算根据插值法，有根据插值法，有2008-2009学年第1学期725.1-5.2节 贝叶斯网络和主观贝叶斯方法73HT1T2F1F20.010.030.10.40.2(300,0.0001)(65,0.01)(100,0.00001)(2,0.000001)S2S1S3根根据据证证据据合合成成（见见P187），及及O(T1)=P(T1)/(1 P(T1)=0.1/(1 0.1)=0.11112008-2009学年第1学期735.1-5.2节 贝叶斯网络和主观贝叶斯方法74HT1T2F1F20.010.030.10.40.2(300,0.0001)(65,0.01)(100,0.00001)(2,0.000001)S2S1S3 P(T1|S1,S2)P(T1)假设假设P(T1|S1,S2)=1，计算，计算根据插值法，有根据插值法，有2008-2009学年第1学期745.1-5.2节 贝叶斯网络和主观贝叶斯方法 结束语当你尽了自己的最大努力时，失败也是伟大的，所以不要放弃，坚持就是正确的。When You Do Your Best,Failure Is Great,So DonT Give Up,Stick To The End75谢谢大家荣幸这一路，与你同行ItS An Honor To Walk With You All The Way演讲人：XXXXXX 时 间：XX年XX月XX日 76