不确定性推理主观BAYES法第2讲

1 第五章 不确定性推理 (Chapter5 Uncertainty Reasoning ) 董春游 (Chunyou Dong) PhD,Professor Email: Heilongjiang institute of Science and Technology Harbin 150027， China) March 10, 2006第一稿 2012年 6月 1第五次 修改稿 人工智能 Artificial Intelligence 逆概率方法要求给出结论 Hi的先验概率 P(Hi)以及证据 Ej 的条件概率 P(Ej/Hi)，这在实际中是相当困难的。杜达、哈 特于 1976年在 Bayes公式的基础上提出了主观 Bayes方法。 主观 Bayes方法 知识不确定性的表示 在主观 Bayes方法中，知识是用 产生式规则 表示的，形 式为： IF E THEN (LS,LN) H (P(H) (1) E是知识的前提条件 (2) H是结论， P(H)是 H的先验概率 ，其值是由领域专家根据 以往的实践及经验给出。 (3) LS称为充分性度量 ，用于指出 E对 H的支持程 度，取值范围是 0， +），其定义为： (4) LN称为必要性度量 ，用于指出 E对 H的支持 程度，即 E对 H为真的必要性程度，取值范围是 0， +），其定义为： LS、 LN的值由领域专家给出。 )H/E(P )H/E(PLS )H/E(P1 )H/E(P1 )H/E(P )H/E(PLN 证据不确定性表示 在主观 Bayes方法中，证据的不确定性也是用 概率 表示的。在 PROSPECTOR中，由于根据观察 S 直接求出 P(E/S)非常困难，所以它采用了一种变通 的方法，即引进了 可信度 C(E/S)的概念，用户可根 据实际情况在 -5,5中选取一个整数作为初始证据的 可信度。可信度 C(E/S)与概率 P(E/S)的对应关系可 用下式表示： C(E/S)=-5，表示在观察 S下证据 E肯定不存在，即 P(E/S)=0； C(E/S)=0 ，表示在观察 S与证据 E无关，即 P(E/S)=P(E)； C(E/S)=5 ，表示在观察 S下证据 E肯定存在，即 P(E/S)=1。 P(E/S) -5 5 P(E) C(E/S) 组合证据不确定性的算法 （ 1）对于组合证据 E E1 AND E2AND AND En 则 P(E/S) minP(E1/S), P(E2/S), ,P(En/S) （ 2）对于组合证据 E E1 OR E2 OR OR En 则 P(E/S) maxP(E1/S),P(E2/S), ,P(En/S) （ 3）对于 “ 非 ” 运算 P(E/S)=1-P(E/S) 不确定性的传递算法 在主观 Bayes方法中， P(H)是专家对结论给出的先 验概率，是在没有考虑任何证据时给出的，随着证 据的获得，对 H的信任度应有所改变， 主观 Bayes方 法就是 根据证据 E的概率 P(E)及 LS、 LN的值，把 H 的先验概率 P(H)改为后验概率 P(H/E)或 P(H/E)。 P(H) P(H/E)或 P(H/E) P(E) LS,LN 几率函数 为了下面讨论方便，我们引入几率函数 ，它 与概率的关系为： (x)= P(x) 1-P(x) P(x)= (x) 1+ (x) (x)表示 x的出现概率与不出现概率之比，显然随 P(x)的 加大 (x)也加大，而且 当 P(x)=0时，有 (x) 0 当 P(x)=1时，有 (x) 于是， P(x)取值于 0,1 ， (x)取值于 0, 。 下面就证据 E存在的情况分几种情况介绍： 1、证据肯定存在的情况 证据 E确定出现时，即 P(E)=P(E/S)=1，由 Bayes公 式 以上两式相除，得 由 LS的定义和几率公式，可得： (H/E) = LS (H） 表示证据肯定存在时， 先验几率 (H)更新为后验几率 (H/E)的计算公式 。 )H(LS )H(P )H(P )H/E(P )H/E(P )E/H(P )E/H(P )E/H(P1 )E/H(P )E/H( 如果把几率换成概率，有 表示证据肯定存在时， 先验概率 P(H)更新为后验概率 P(H/E)的计算公式 。 由以上两式可以看出： （ 1）当 LS 1时， (H/E) (H)，表明证据 E的存在，将增大 结论 H为真的概率 E的存在对 H为真是充分的，故为 充分性 度量 。 （ 2）当 LS =1时， (H/E) = (H)，表明证据 E与结论 H无关； （ 3）当 LS 1时， (H/E) 1时， (H/ E) (H)，表明证据 E不存在，将 增大结论 H为真的概率。 （ 2）当 LN =1时， (H/E) = (H)，表明 E与结论 H无关； （ 3）当 LN 1时， (H/ E) 1, LN1 (2) LS1, LN1，所以在 E1与 E2存 在时需要计算 P(H1/E1)和 P(H2/E2)。 由于 R3中的 LS=1，所以 E3存在时对 H3不产 生影响，不需要计算 P(H3/E3) ，但因它的 LN10)。 由此可见，由于 E3的不存在使 H3为真的可能性减少了 350 倍 很必要 (LN=0.002)； 3、证据不确定的情况 当证据 E不确定时，即 0P(E/S)1 就不能用上面的公式计算后验概率，可用 Duda于 1976年给出的公式 P(H/S)=P(H/E) P(E/S)+P(H/E) P(E/S) 来计算出后验概率。这分为四种情况： 当 P(E/S) 为其它值时，通过 分段线性插值 的 方法，就可以得到计算 P(H/S) 的公式 P(E/S) 0 1 P(E) P(H/S) P(H) P(H/E) P(H/E) 结论不确定性的合成算法 若有 n条规则都支持相同的结论，而且每条规则的 前提条件所对应的证据 i（ i = 1,2, ,n）都有相 应的观察 Si与之对应，此时只要先对每条规则分别 求出 )H()H( )S/H()H( )S/H()H( )S/H()S,S,S/H( n21n21 例 5.4 设有如下知识： r1: IF E1 THEN (2, 0.001) H1 r2: IF E2 THEN (100, 0.001) H1 r3: IF H1 THEN (200, 0.01) H2 已知： (H1)=0.1, (H2)=0.01 C(E1/S1)=2, C(E2/S2)=1 求： (H2/S1,S2)= ? H2 E1 E2 H1 S1 S2 (200,0.01) (2,0.001) (100,0.001) C(E1/S1)=2 C(E2/S2)=1 14.0 878.0 122.0 )1S/1H(P1 )1S/1H(P )1S/1H( 122.0)09.017.0(09.0 )1S/1E(C)1H(P)1E/1H(P)1H(P)1S/1H(P ).1S/1H(PCP 02)1S/1E(C 17.0 1.021 1.02 )1H(1LS1 )1H(1LS )1E/1H(1 )1E/1H( )1E/1H(P 09.0 1.01 1.0 )1H(1 )1H( )1H(P )1S/1H()1(: 5 2 5 1 公式的后半部计算使用 计算解 476.0)1H( )1H( )2S/1H( )1H( )1S/1H( )2S,1S/1H( )2S,1S/1H()3( 34.0 02541 254.0 )2S/1H(P1 )2S/1H(P )2S/1H( 254.0)09.091.0(09.0 )2S/2E(C)1H(P)2E/1H(P)1H(P)2S/1H(P ).2S/1H(PCP 01)2S/2E(C 91.0 1.01001 1.0100 )1H(2LS1 )1H(2LS )2E/1H(1 )2E/1H( )2E/1H(P 09.0)1H(P )2S/1H()2( 5 1 5 1 计算 公式的后半部计算使用 由上面的计算得知 计算 212.0 175.01 175.0 )2S,1S/2H(P1 )2S,1S/2H(P )2S,1S/2H( 175.0165.001.0 )01.067.0(01.0)2S,1S/2H(P 67.0 01.02001 01.0200 )2H(3LS1 )2H(3LS )1H/2H(1 )1H/2H( )1H/2H(P 32.0 )2S,1S/1H(1 )2S,1S/1H( )2S,1S/1H(P 01.0 01.01 01.0 )2H(1 )2H( )2H(P )2H(P)1H/2H(P )1H(P1 )1H(P)2S,1S/1H(P )2H(P)2S,1S/2H(P ,EH )1H(P)2S,1S/1H(P )1H()2S,1S/1H( 1.0)1H(,476.0)2S,1S/1H( )2S,1S/2H()2S,1S/2H(P)4( 09.01 09.032.0 476.1 476.0 即公式的后半部分选用 即 及计算 H2的原先几率是 0.01， 运用知识后 H2的后验 几率是 0.212，增加了 20多倍。 主观 Bayes方法的特点 主观 Bayes方法是在概率论的基础上发展起来的， 具有较完善的理论基础，且知识的输入转化为 对 LS 和 LN的赋值 ，这就避免了大量的数据统计工作，是 一种比较实用且较灵活的不确定性推理方法。但是， 它在要求专家给出 LS和 LN的同时，还要求 给出先验 概率 P(H)，而且要求 事件间相互独立 ，这仍然比较 困难，从页也就限制了它的应用。