不确定性推理课件

1.不确定性推理概论 不确定性及其类型 不确定性推理概念2.不确定性推理中的基本问题 表示问题 计算问题3.不确定性推理方法分类4.经典的不确定性推理模型 可信度方法 主观贝叶斯方法2024/8/11本章内容1.不确定性推理概论2023/7/231不确定性：由于客观世界的复杂、多变性和人类自身认识的局限、主观性，致使我们所获得、所处理的信息和知识中，往往含有不肯定、不准确、不完全甚至不一致的成分。事实上，不确定性大量存在于我们所处的信息环境中，例如人的日常语言中就几乎处处含有不确定性（瞧！这句话本身就含有不确定性：什么叫“几乎”？）。不确定性也大量存在于我们的知识特别是经验性知识之中。2024/8/12不确定性概述不确定性：由于客观世界的复杂、多变性和人类自身认1、（狭义）不确定性：一个命题的真实性不能完全肯定，而只能对其为真的可能性给出某种估计。2、不确切性（模糊性）：一个命题中所出现的某些言词其含意不够确切，从概念角度讲，也就是其代表的概念的内涵没有硬性的标准或条件。3、不完全性：对某些事物，关于它的 信息或知识还不全面、不完整、不充分。4、不一致性：在推理过程中发生了前后不相容的结论，或者随着时间的推移或者范围的扩带，原来的一些成立的命题就变得不合适、不成立了。2024/8/13不确定性分类（广义）1、（狭义）不确定性：一个命题的真实性不 不确定性推理泛指除精确推理以外的其它各种推理问题。包括不完备、不精确知识的推理，模糊知识的推理，非单调性推理等。不确定性推理过程实际上是一种从不确定的初始证据出发，通过运用不确定性知识，最终推出具有一定不确定性但却又是合理或基本合理的结论的思维过程。2024/8/14不确定性推理概念 不确定性推理泛指除精确推理以外的 要实现对不确定性知识的处理，必须要解决不确定知识的表示问题，不确定信息的计算问题，以及不确定性表示和计算的语义解释问题。1表示问题表达要清楚。表示方法规则不仅仅是数，还要有语义描述。2.计算问题不确定性的传播和更新。也是获取新信息的过程。3.语义问题将各个公式解释清楚。2024/8/15不确定性推理中的基本问题 要实现对不确定性知识的处理，必须一、知识的不确定性表示 知识不确定性的表示方式是与不确定性推理方法密切相关的一个问题。在选择知识的不确定性表示时，通常需要考虑以下两个方面的因素：要能够比较准确地描述问题本身的不确定性便于推理过程中不确定性的计算2024/8/16不确定性推理的表示问题一、知识的不确定性表示 2023/7/（1）狭义不确定性知识的表示 我们只讨论随机性产生式规则的表示。对于狭义不确定性，一般采用信度（或称可可信信度度）来刻划。一个命题的信度是指该命题为真的可信程度。例如，(这场球赛甲队取胜，0.9)这里的0.9就是命题“这场球赛甲队取胜”的可信度。它表示“这场球赛甲队取胜”这个命题为真（即这个事件发生）的可能性程度是0.9。在实际应用中，知识的不确定性是由领域专家给出的。2024/8/17知识的不确定性表示 （1）狭义不确定性知识的表示 20（2）不确切性知识的表示 对于不确切性，一般采用程度或集合来刻划。所谓程度就是一个命题中所描述的事物的属性、状态和关系等的强度。例如，我们用三元组（张三，体型，(胖，0.9）)表示命题“张三比较胖”，其中的0.9就代替“比较”而刻划了张三“胖”的程度。这种程度表示法，一般是一种针对对象的表示法。其一般形式为（，(，）)2024/8/18知识的不确定性表示（2）不确切性知识的表示2023/7/2二、证据的不确定性的表示二、证据的不确定性的表示推理中的证据有两种来源：一种是用户在求解问题时所提供的初始证据，如病人的症状、检查结果等；另一种是在推理中得出的中间结果，即把当前推理中所得到的中间结论放入综合数据库，并作为以后推理的证据来使用。一般来说，证据的不确定性表示应该与知识的不确定性表示保持一致，以便推理过程能对不确定性进行统一处理。证据的不确定性可以用概率来表示，也可以用可信度等来表示，其意义与知识的不确定性类似。2024/8/19证据的不确定性的表示二、证据的不确定性的表示2023/7/2（1）组合证据的不确定性如何由两个证据A1和A2的可信度度量P(A1)、P(A2)计算“与”、“或”逻辑计算结果的可信度度量：P(A1A2)=f(P(A1),P(A2)、P(A1A2)=f(P(A1),P(A2)最大最小法：P(A1A2)min(P(A1)，P(A2)P(A1A2)max(P(A1)，P(A2)概率方法：P(A1A2)P(A1)P(A2)P(A1A2)P(A1)+P(A2)-P(A1)P(A2)有界方法：P(A1A2)max(0，P(A1)+P(A2)-1)P(A1A2)min(1，P(A1)+P(A2)2024/8/110不确定性推理的计算问题（1）组合证据的不确定性2023/7/（2）结论不确定性的合成 用多个不同知识推理得到了 相同的结论，但不确定性程度不同。系统需要将相同结论的多个不确定性进行综合，即对不确定性进行合成。结论不确定合成的方法也很多，一般视不同推理方法而定2024/8/111不确定性的计算（2）结论不确定性的合成2023/7/2311关于不确定性推理的类型由多种不同的分类方法，关于不确定性推理的类型由多种不同的分类方法，如果按照是否采用数值来描述非精确性，可将其如果按照是否采用数值来描述非精确性，可将其分为数值方法和非数值方法两大类型。分为数值方法和非数值方法两大类型。非数值方法是指出数值方法外的其他各种处理不确定性的方法,它采用集合来描述和处理不确定性，而且满足概率推理的性质。非数值方法数值方法是对不确定性的一种定量表示和处理方法。数值方法2024/8/112不确定性推理方法分类关于不确定性推理的类型由多种不同的分类方 对于数值方法，按其依据的理论不同又可分为以下两类：1、基于概率的方法：是基于概率论的有关理论发展起来的方法，如可信度方法、主观Bayes方法、证据理论等；2、模糊推理：是基于模糊逻辑理论发展起来的可能性理论方法2024/8/113不确定性推理方法分类 对于数值方法，按其依据的理论不同又可分模糊推理模糊推理基于概率的方法基于概率的方法主观主观BayesBayes方法方法 可信度方法可信度方法证据理论证据理论数数值值方方法法非非数数值值方方法法不不确确定定性性推推理理框架推理框架推理 语义网络推理语义网络推理 常识推理常识推理2024/8/114不确定性推理方法分类模糊推理基于概率的方法主观Bayes方法规则的一般表示形式：IF E THEN H，CF (H，E)其中：E 表示规则的前提条件，即证据 H 表示规则的结论部分，即假设 C F(H,E)表示规则的精确程度或可信度。任何一个不确定性推理模型必须解决三个问题：前提(证据，事实)的不确定性描述 规则(知识)的不确定性描述 不确定性的更新算法2024/8/115不确定性推理模型基本结构规则的一般表示形式：2023/7/2证据的不确定性 C F(E),表示证据E为真的程度。需定义其在三种典型情况下的取值：E 为真 E 为假 对 E 一无所知 (该情况下的取值称为证据的单位元e(E)规则的不确定性 CF(H，E),表示规则的强度。需定义其在三种典型情况下的取值：若 E 为真，则H为真 若 E 为假，则H 为假 E对 H没有影响(该情况下的取值称为规则的单位元 e(H,E)2024/8/116不确定性推理模型基本结构证据的不确定性 C F(E)E.Short 和B.Buchanan 在MYCIN系统研制过程中产生了可信度方法,第一个采用了不确定推理逻辑，在70年代很有名。2024/8/117可信度方法E.Short 和B.Buchanan 在MYCI所谓可信度就是在实际生活中根据自己的经验对某一事物或现象进行观察，判断相信其为真得程度。例如，张三昨天没有上课，他的理由是肚子疼，就此理由而言，听话的人可能完全相信，也可能完全不相信，也可能在某种程度上相信，这与张三平时的表现和人们对他的话相信程度有关。这里的相信程度就是我们说的可信度。可信度也称为确定性因子。2024/8/118可信度概念所谓可信度就是在实际生活中根据自己的经验对某一事物 显然，可信度具有较大的主观性和经验性，其准确性是难以把握的。但是，对于某一具体领域而言，由于该领域的专家具有丰富的专业知识和实践经验，要给出该领域知识的可信度还是完全有可能的。另外，人工智能所面临的问题，通常都较难用精确的数学模型进行描述，而且先验概率及条件概率的确定也比较困难，因此用可信度来表示知识及证据的不确定性仍然不失为一种可行的方法。2024/8/119可信度 显然，可信度具有较大的主观性和经验性，其准确性是难以 CF模型是基于可信度表示的不确定性推理的基本方法，其它可信度方法都是在此基础上发展起来 其一般形式为：IF E THEN H，CF(H,E)CF(H,E)是该条知识的可信度，称为可信度因子或规则强度.它指出当前提条件E为真时，它对结论H为真的支持程度，CF(H,E)的值越大，就越支持结论H为真。证据的不确定性也是用可信度因子表示。证据E的可信度表示为CF(E).2024/8/120可信度方法-CF模型 CF模型是基于可信度表示的不确定性-1 CF(H,E)1CF(B,A)的特殊值：CF(B,A)=1，前提真，结论必真CF(B,A)=-1，前提真，结论必假CF(B,A)=0，前提真假与结论无关实际应用中CF(B,A)的值由专家确定，并不是由P(B|A),P(B)计算得到的。2024/8/121可信度方法-CF模型-1 CF(H,E)1 规则 E H，可信度表示为CF(H,E)。2024/8/122当P(H|E)P(H)当P(H|E)=P(H)当P(H|E)P(H)当P(H|E)CF是由称为信任增长度MB和不信任增长度MD相减而来的。即 CF(H，E)MB(H，E)-MD(H，E)2024/8/123 当P(H)=1否则 当P(H)=0 否则 可信度方法-CF模型CF是由称为信任增长度MB和不信任增当MB(H，E)0，表示由于证据E的出现增加了对H的信任程度。当MD(H，E)0，表示由于证据E的出现增加了对H的不信任程度。由于对同一个证据E，它不可能既增加对H的信任程度又增加对H的不信任程度，因此，MB(H,E)与MD(H,E)是互斥的，即当MB(H，E)0时，MD(H，E)0；当MD(H，E)0时，MB(H，E)0。2024/8/124可信度方法-CF模型当MB(H，E)0，表示由于证据E 前提证据事实总前提证据事实总CF值计算值计算 CF(E1E2En)minCF(E1)，CF(E2)，CF(En)CF(E1E2En)maxCF(E1)，CF(E2)，CF(En)其中E1，E2，En是与规则前提各条件匹配的事实。推理结论推理结论CF值计算值计算 CF(H)CF(H，E)max0，CF(E)其中E是与规则前提对应的各事实，CF(H，E)是规则中结论的可信度，即规则强度。2024/8/125可信度方法-CF模型的计算 前提证据事实总CF值计算2重复结论的重复结论的CF值计算值计算若同一结论H分别被不同的多条规则推出，但可信度不同，则可用合成算法求出综合可信度。多条知识的综合可通过两两的合成实现。当两条规则推出同一结论H时，CF(H)的计算：CF(H)1CF(H)2CF(H)1CF(H)2 ，当CF(H)10，且CF(H)20CF(H)=CF(H)1CF(H)2CF(H)1CF(H)2 ，当CF(H)10，且CF(H)20 CF(H)1CF(H)2 ，否则 2024/8/126可信度方法-CF模型重复结论的CF值计算2023/7/2已知R:IF(E1 or E2)and E3 THEN H (0.8)，CF(E1)=0.4、CF(E2)=0.6、CF(E3)=0.7，求CF（H）。解：设E=(E1 or E2)and E3 CF(E1 or E2)=max(CF(E1),CF2(E2)=0.6 CF(E)=min(CF(E1 or E2)，CF(E3)=0.6 CF(H)=CF(E)CF(H,E)=0.60.8=0.48前提证据事实总前提证据事实总CF值计算值计算推理结论推理结论CF值计算值计算2024/8/127可信度方法举例(一)已知R:IF(E1 or E2)anR1:IF E1 THEN H CF(H，E1)=(0.8)R2:IF E2 THEN H CF(H，E2)=(0.7)CF(E1)=0.4、CF(E2)=0.6 解：CF1(H)=CF(E1)CF(H，E1)=0.4 0.8=0.32 CF2(H)=CF(E2)CF(H，E2)=0.6 0.7=0.42 CF(H)=0.32+0.42-0.320.42=0.6重复结论的重复结论的CF值计算值计算推理结论推理结论CF值计算值计算2024/8/128可信度方法举例(二)R1:IF E1 THEN H 主主观观贝贝叶叶斯斯方方法法是是R.O.DudaR.O.Duda等等人人于于19761976年年提提出出的的一一种种不不确确定定 性性 推推 理理 模模 型型,并并 成成 功功 地地 应应 用用 于于 地地 质质 勘勘 探探 专专 家家 系系 统统PROSPECTORPROSPECTOR。主主观观贝贝叶叶斯斯方方法法是是以以概概率率统统计计理理论论为为基基础础,将将贝贝叶叶斯斯(Bayesian)(Bayesian)公公式式与与专专家家及及用用户户的的主主观观经经验验相相结结合合而而建建立的一种不确定性推理模型。立的一种不确定性推理模型。1.1.不确定性度量不确定性度量主主观观贝贝叶叶斯斯方方法法的的不不确确定定性性度度量量为为概概率率P P(x x),),另另外外还还有有三三个个辅辅助助度度量量:LSLS,LNLN和和O O(x x),),分分别别称称充充分分似似然然性性因因子子、必必要要似似然性因子和几率函数。然性因子和几率函数。2024/8/129 在在PROSPECTORPROSPECTOR中中,规则一般表示为规则一般表示为 if Eif E then then(LSLS,LNLN)H H(P P(H H)或者图示为或者图示为 其其中中,E E为为前前提提(称称为为证证据据););H H为为结结论论(称称为为假假设设););P P(H H)为为H H为为真真的的先先验验概概率率;LSLS,LNLN分别为充分似然性因子和必要似然性因子分别为充分似然性因子和必要似然性因子,其定义为其定义为 (8-8)(8-8)2024/8/130在PROSPECTOR中,规则一般表示为 if E (8-9)(8-9)前前者者刻刻画画E E为为真真时时对对H H的的影影响响程程度度,后后者者刻刻画画E E为为假假时时对对H H的的影影响响程程度度。另另外外,几几率率函数函数O O(x x)的定义为的定义为 (8-10)(8-10)它它反反映映了了一一个个命命题题为为真真的的概概率率(或或假假设设的的似似然然性性(likelihood)(likelihood)与与其其否否定定命命题题为为真真的的概率之比概率之比,其取值范围为其取值范围为0,+0,+。2024/8/131(8-9)前者刻画E为真时对H的影响程度,后者刻画E为假时下下面面我我们们介介绍绍LSLS,LNLN的的来来历历并并讨讨论论其其取取值值范范围围和和意意义义。由由概概率率论论中中的的贝贝叶叶斯斯公公式式 有有 两式相除得两式相除得 2024/8/132下面我们介绍LS,LN的来历并讨论其取值范围和意义。由即即 亦即亦即 O O(H H|E E)=)=O O(H H)LSLS 从而从而 由此式不难看出：由此式不难看出：LS1 LS1 当且仅当当且仅当O(H|E)O(H),O(H|E)O(H),说明说明E E以某种程度支持以某种程度支持H;H;LS1 LS1 当且仅当当且仅当O(H|E)O(H),O(H|E)11当且仅当当且仅当O(H|O(H|E E)O()O(H H),),说明说明 E E以某种程度支持以某种程度支持H;H;LN LN11当且仅当当且仅当O(H|O(H|E E)O()1,1,且且LNLN1;1;LSLS1,1;1;LSLSLNLN1 1。2024/8/135 因为一个证据E及其否定 E不可能同时既支持又反对一个需需说说明明的的是是,在在概概率率论论中中,一一个个事事件件的的概概率率是是在在统统计计数数据据的的基基础础上上计计算算出出来来的的,这这通通常常需需要要大大量量的的统统计计工工作作。为为了了避避免免大大量量的的统统计计工工作作,在在主主观观贝贝叶叶斯斯方方法法中中,一一个个命命题题的的概概率率可可由由领领域域专专家家根根据据经经验验直直接接给给出出,这这种种概概率率称称为为主主观观概概率率。推推理理网网络络中中每每个个陈陈述述H H的的先先验验概概率率P P(H H)都都是是由由专专家家直直接接给给出出的的主主观观概概率率。同同时时,推推理理网网络络中每条规则的中每条规则的LSLS、LNLN也需由专家指定。例如也需由专家指定。例如PROSPECTORPROSPECTOR中有规则中有规则 2024/8/136需说明的是,在概率论中,一个事件的概率是在统计数据的基说说明明专专家家认认为为:当当CVRCVR为为真真时时,它它支支持持FLEFLE为为真真;但但当当CVRCVR为为假假时时,FLEFLE的的成成立立与与否否与与CVRCVR无无关关。而而按按理理论论限限制制应应有有LSLS80018001时时,LNLN1)=0.7 P P(E E1 1)=0.5)=0.5 所以应采用公式所以应采用公式 2024/8/149 例3 设有规则if E1 then(100,0.即即 其中其中P P(H H1 1 )、P P(E E1 1)已知，还需要计算已知，还需要计算E E1 1肯定存在的情况下的肯定存在的情况下的P P(H H1 1|E E1 1)，我们直接，我们直接采用前面例采用前面例1 1的结果，于是有的结果，于是有 2024/8/150即 其中P(H1)、P(E1)已知，还需要计算E1肯定存在例例8.10 8.10 设有规则设有规则 R R1 1:if :if E E1 1 then (200,0.02)then (200,0.02)H H R R2 2:if :if E E2 2 then (300,1)then (300,1)H H 已知证据已知证据E E1 1和和E E2 2必然发生，并且必然发生，并且P P(H H)=0.04)=0.04，求，求H H的后验概率的后验概率P P(H H|E E1 1 E E2 2)。解解 由由P P(H H)=0.04)=0.04，有，有 O(O(H H)=0.04/(1-0.04)=0.04)=0.04/(1-0.04)=0.04 由由R R1 1有有 O(O(H H|E E1 1)=)=LSLS1 1O(O(H H)=200*0.04=8)=200*0.04=8 2024/8/151例8.10 设有规则 R1:if E1 then 由由R R2 2有有 O(O(H H|E E2 2)=)=LSLS2 2O(O(H H)=300*0.04=12)=300*0.04=12 于是于是 从而从而 2024/8/152由R2有 O(H|E2)=LS2O(H)=300*0.04=2024/8/153谢谢 谢谢 ！2023/7/2353谢 谢！谢谢你的阅读v知识就是财富v丰富你的人生谢谢你的阅读知识就是财富不确定性推理课件