证据理论基础课件

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,.,*,万,江,文,多源测试信息融合,证据理论基础（,1,）,.,万 江 文多源测试信息融合证据理论基础（1）.,1,主要内容,引言,证据理论基础,证据理论研究现状,未来研究方向,.,2024/8/23,2,主要内容引言.2023/8/312,主要内容,引言,证据理论基础,证据理论研究现状,未来研究方向,.,2024/8/23,3,主要内容引言.2023/8/313,1,引言,主观贝叶斯理论的缺点：,(1),要求概率（各证据之间）都是独立的；,(2),要求先验概率,P(O,i,),和条件概率,P(D,j,|O,i,),；,(3),要求统一的识别框架，不能实现不同层,次的组合；,(4),不能区分“不确定”和“不知道”。,.,2024/8/23,4,1 引言主观贝叶斯理论的缺点：.2023/8/314,1,引言,不确定性分类,不确定性可以分为,随机性,、,模糊性,和,认识不确定性,三种。,随机性,：在自然界中客观存在，可根据历史资料得到的统计数字来描述，常用概率论和数理统计来解决这方面问题。,模糊性,：通常指发生在概念上的模糊，如大、中、小界限的模糊等。模糊理论是处理此问题的有力工具。,认识的不确定性,：是由于人们认识水平的局限以及知识缺乏所造成的。,随机性和模糊性是,客观的不确定性,，认识的不确定性是,主观的不确定性,。,.,2024/8/23,5,1 引言不确定性分类.2023/8/315,1,引言,概率的解释,证据理论出现以前，概率的解释主要有,客观解释,，,个人主义解释,及,必要性解释,。,客观解释概率,：认为概率描述了一个可以重复出现事件的客观事实，用试验次数趋于无穷时，该事件发生的频率的极限来刻划。,个人主义解释,：认为概率反映了个人的某种偏好，它根据某个人在赌博中或其他带有不确定性结果的事件中所表现出来的行为来推算。,.,2024/8/23,6,1 引言 概率的解释.2023/8/316,1,引言,必要性解释,：则认为概率是测量一个命题推出另一个命题程度的量，这个量由两个命题之间的逻辑关系完全决定，与个人的偏好无任何关系，又称为,逻辑主义解释,。,Shafer,指出以上三种概率的解释都,没有涉及概率推断的构造特征,，因此，,Shafer,提出了对概率的第四种解释,构造性解释,:,概率是指某人在证据的基础上构造出的他对某一命题为真的信任程度，简称信度。,.,2024/8/23,7,1 引言 必要性解释：则认为概率是测量一个命,主要内容,引言,证据理论基础,证据理论研究现状,未来研究方向,.,2024/8/23,8,主要内容引言.2023/8/318,4.2,证据理论基础,证据理论的起源,证据理论源于,20,世纪,60,年代美国哈弗大学的数学家,A.P.Dempster,利用上、下概率来解决多值映射问题方面的研究工作。后来他的学生,G.Shafer,对证据理论做了进一步的发展和推广完善，引入了信任函数概念，形成了一套利用,证据,和,组合,来处理不确定性推理问题的数学方法。它作为一种不确定性推理方法，正受到越来越多的关注。称为,（,D-S,）证据理论,和,信任函数理论,。,.,2024/8/23,9,4.2 证据理论基础证据理论的起源.2023/8/319,2,证据理论基础,（,1),识别框架,假设现有一个判决问题，对于该问题我们所能认识到的,所有可能答案,的集合用,表示，且,中的所有元素都满足两两互斥；任一时刻的问题答案只能取,中的某一子集，答案可以是数值变量，也可以是非数值变量，则称此互不相容命题的完备集合,为,识别框架,，,可表示为：,(2-1),其中,i,为识别框架的一个,元素,或,事件,。,.,2024/8/23,10,2 证据理论基础（1) 识别框架.2023/8/3110,2,证据理论基础,（,1),识别框架（续,1,）,集合,的选取问题,识别框架的选取,集合,的选取依赖于我们的,认识水平,和,知识结构,包含我们,所知道的,和,想要知道的,。当一个命题对应于该识别框架的一个子集时，称该框架能够识别该命题，否则认为识别框架是无效的。因此，,的选取应当足够的丰富，使我们所考虑的任何特定的命题集都可以对应于,的某一集类,R,，（,R,）称为,命题空间,。当,中含有,N,个元素时，,R,中最多有,2,N,个子集。需要说明的是，集合,可以为,有限集,也可以为,无限集,。本课程只讨论,有限集,。,.,2024/8/23,11,2 证据理论基础（1) 识别框架（续1）.2023/8/31,2,证据理论基础,（,1),识别框架（续,2,）,由识别框架中所有子集构成的一个有限集合称为,的,幂集合,，记作,(2-2,),其中,表示空集。,识别框架的任一子集,A,都对应于一个命题，一般可描述为“,问题的答案在,A,中,”。,.,2024/8/23,12,2 证据理论基础（1) 识别框架（续2）.2023/8/31,2,证据理论基础,例,1:,以掷骰子为例，要判断其可能所出现的点数，则识别框架,=,1,2,3,4,5,6,，而,1,则表示“掷出的点数为,1,”,，则,2,4,6,表示“掷出的点数为偶数”，,1,2,3,4,5,则表示“掷出的点数不为,6,”,，即“掷出的点数为,1, 2, 3, 4, 5,中的某一个”。由此可见，幂集合中的每一个,子集,A,都代表一个,命题,。,.,2024/8/23,13,2 证据理论基础例1:.2023/8/3113,2,证据理论基础,证据理论是建立在识别框架基础上的推理模型，其,基本思路如下,：,a),建立识别框架,。利用集合论方法来研究命题；,b),建立初始信任分配,。根据证据提供的信息，分配证据对每一集合（命题）,A,本身的支持程度，该支持程度不能再细分给,A,的真子集。,c),根据因果关系，计算所有命题的信任度,。一个命题的信任度等于证据对它的所有前提的初始信任度之和。这是因为，若证据支持一个命题，则他同样支持该命题的推论。,d),证据合成,。利用证据理论合成公式融合多个证据提供的信息，得到各命题融合后的信任度。,e),根据融合后的信任度进行,决策,，一般选择信任度最大的命题。,.,2024/8/23,14,2 证据理论基础 证据理论是建立在识别框架基础上,2,证据理论基础,证据函数,(2),证据函数,证据是整个证据理论的核心，证据函数又是描述证据的有力工具。下面将详细介绍证据理论中几个证据函数的基本概念及相关定理。,基本置信度指派函数；,信任度函数；,似真度函数,等,.,2024/8/23,15,2 证据理论基础证据函数(2) 证据函数,2,证据理论基础,基本置信度指派函数,定义,1:,设,为一识别框架，函数,m,是,2,0,1,的映射，,A,为,2,任一子集，记作 ，且满足：,(2-3),则称,m,是,2,上的,基本置信度分配函数,，,也称为,质量函数,或,mass,函数,。,m(A),为命题,A,的,基本置信度指派值,，表示证据对,A,的信任程度，空集,的基本信任分配值为,0,。,.,2024/8/23,16,2 证据理论基础基本置信度指派函数定义1:设为一识别框,2,证据理论基础,基本置信度指派函数,基本置信度指派函数相关的几个定义（,1,）,对于识别框架的任一子集,A,，只要满足,m(A)0,，则称,A,为证据的,焦元,。,证据的焦元和它的基本置信度指派构成的二元体,(A, m(A),称为,证据体,证据是由若干证据体组成。,.,2024/8/23,17,2 证据理论基础基本置信度指派函数基本置信度指派函数相关,2,证据理论基础,基本置信度指派函数,基本置信度指派函数相关的几个定义（,2,）,焦元中所包含识别框架中的元素个数称为该焦元的,基,，记作,|A|,。,当子集,A,中只包含一个元素时，即,|A|=1,，称为,单元素焦元,。当子集,A,中包含,i,个元素时，即,|A|=,i,，称为,i,元素焦元,。,全体焦元的集合称为证据的,核,。,核就是,识别框架的幂集,2,吗,?,.,2024/8/23,18,2 证据理论基础基本置信度指派函数基本置信度指派函数相关,2,证据理论基础,基本置信度指派函数,基本置信度指派函数的作用,把,的任一子集都映射到,0,1,上的一个数,m(A),：,（,1,）,当,A,由单个元素组成时，,m(A),表示对相应命题,A,的精确信任度；,（,2,）当 ，,A,，,且,A,由多个元素组成时，,m(A),也是相应命题,A,的精确信任程度，但却不知道这部分信任度该分给,A,中的哪些元素；,（,3,）当,A=,时，,m(A),是对,的各个子集进行信任分配后剩下的部分，它表示不知道该如何对它进行分配。,.,2024/8/23,19,2 证据理论基础基本置信度指派函数基本置信度指派函数的作,2,证据理论基础,基本置信度指派函数,例,2,：,泄漏诊断时，设识别框架,=A1,，,A2,，,A3,，,A1,表示“发生大泄漏”，,A2,表示“发生小泄漏”，,A3,表示无泄漏，基本置信度指派分别为,m(,)=0,，,m(A1)=0.3,，,m(A2)=0,，,m(A3)=0.1,m(A1,，,A2)=0.2,，,m(A1,，,A3)=0.2,，,m(A2,，,A3)=0.1,，,m(A1,，,A2,，,A3)=0.1,返例,3,.,2024/8/23,20,2 证据理论基础基本置信度指派函数例2：返例3.2023,2,证据理论基础,基本置信度指派函数,当,A =A1,时，,m(A)=0.3,，它表示对命题“答案是大泄漏”的精确信任度为,0.3,。,当,A =A1,，,A2,时，,m(A)=0.2,，它表示对命题“答案或是大泄漏，或是小泄漏”的精确信任度为,0.2,，但却不知道该把这,0.2,分给,大泄漏,还是分给,小泄漏,。,当,A =A1,，,A2,，,A3,时，,m(A)=0.1,，它表示不知道该把它如何分配；它不属于,A1,，就属于,A2,或,A3,，只是基于现有的知识，还不知道该如何进行分配。,.,2024/8/23,21,2 证据理论基础基本置信度指派函数 当A,2,证据理论基础,信任度函数,定义,2:,信任度函数,：集合,A,是识别框架,的任一子集，,A,中全部子集对应的基本置信度之和称为信任函数,Bel(A),，即,Bel,：,2,0,，,1,其中，,Bel(A),成为事件,A,的信任值，它表示证据对,A,为真的信任程度；空集的信任值为,0,。,.,2024/8/23,22,2 证据理论基础信任度函数定义2:.2023/8/312,2,证据理论基础,信任度函数,信任度函数表示对假设的信任程度的,下限估计,。由信任度分配函数的定义容易得到：,如果对于,中的任意两个子集,A,1,A,2,，满足：,则称为,弱信任度函数,。,.,2024/8/23,23,2 证据理论基础信任度函数 信任度函数表示对假设的,2,证据理论基础,信任度函数,例,3,：,同,例,2,，已知：,m(,)=0,，,m(A1)=0.3,，,m(A2)=0,，,m(A3)=0.1,m(A1,，,A2)=0.2,，,m(A1,，,A3)=0.2,，,m(A2,，,A3)=0.1,，,m(A1,，,A2,，,A3)=0.1,求,.,Bel(A1),和,Bel(A1,A2),的信任度值,.,解：根据题意，可得,Bel(A1) = m(A1) =0.3,Bel(A1,A2)=m(A1)+m(A2)+m(A1,A2)=0.5.,.,2024/8/23,24,2 证据理论基础信任度函数例3：同例2，已知：.2023,2,证据理论基础,信任度函数,引理,1,:,假设,A,是一个有限集合，则下式成立,证明：令 是一个有限的非空集合，其中,n,为正整数，则有,.,2024/8/23,25,2 证据理论基础信任度函数引理1: 假设A是一个有限集合,2,证据理论基础,信任函数,引理,2.2,:,若,A,是有限集，且 ，则：,证明：,根据引理,2.1,，可证。,.,2024/8/23,26,2 证据理论基础信任函数引理2.2: 若A是有限集，且,2,证据理论基础,似真度函数,定义,3,：,似真度函数：,设识别框架,，幂集,2,0,1,映射，,A,为识别框架内的任一子集，似真度函数,Pl,(,A,),定义为对,A,的非假信任度，即对,A,似乎可能成立的不确定性度 ，此时有：,Pl,(,A,),表示,A,为非假的信任程度，,A,的上限估计，且,Bel,(,A,) ,Pl,(,A,),；,Bel,(,),表示对,A,为假的信任程度，即对,A,的怀疑程度。,.,2024/8/23,27,2 证据理论基础似真度函数定义3：.2023/8/312,2,证据理论基础,信任区间,信任区间,定义,4,：,信任区间,表示事件发生的下限估计到上限估计的范围，即：,Bel,(A),，,Pl,(A),称为命题,A,的,信任区间,，,Pl,(A)-,Bel,(A),描述了对,A,的不确定性，有时也称为,不确定区间,。,区间的下限等于直接证据对命题的支持程度，即命题的信任度；区间的上限等于潜在证据对命题的支持程度，即命题的似真度。,证据区间划分示意图,.,2024/8/23,28,2 证据理论基础信任区间信任区间定义4：证据区间划分,2,证据理论基础,信任区间,例,4,：,说说下列信任区间，对命题,A,表示的实际意义：,Bel(A),Pl(A),意义,0,，,1,对命题,A,一无所知,0,，,0,命题,A,为假,1,，,1,命题,A,为真,0.5,，,0.5,对命题,A,的准确信任度为,0.5,0.4,，,1,证据提供对命题,A,的部分支持度,0,，,0.7,证据对命题,的部分支持度,0.3,，,0.9,证据对命题,A,的信任区间为,0.3-0.9,.,2024/8/23,29,2 证据理论基础信任区间例4： Bel(A), Pl(,2,证据理论基础,证据函数总结,m(A),、,Bel(A),和,Pl(A),的意义,m(A),反映了对,A,本身的信任度大小,Bel(A),是分配到,A,上的总信任度,Pl(A),是所有与,A,相容的命题本身的信任度之和,.,2024/8/23,30,2 证据理论基础证据函数总结 m(A)、Bel(A) 和,课程内容,引言,证据理论基础,证据理论研究现状,未来研究方向,.,2024/8/23,31,课程内容引言.2023/8/3131,3,证据理论研究现状,(1),证据理论模型解释,(2),证据融合悖论,(3),证据组合算法实现,(4),证据理论的应用,(5),国内研究现状,.,2024/8/23,32,3 证据理论研究现状(1)证据理论模型解释.2023/8/3,3,证据理论研究现状,(1),证据理论模型的几种解释,上、下概率解释,广义贝叶斯理论解释,随机集理论模型解释,可传递信度模型解释,.,2024/8/23,33,3 证据理论研究现状(1) 证据理论模型的几种解释.2023,3,证据理论研究现状,Dempster,对,证据理论模型解释,上、下概率解释模型，认为,置信函数,是概率的下界，,似真函数,是概率的上界，,Dempster,正是通过这个概念创立了证据理论。,广义贝叶斯理论模型，,认为证据理论是贝叶斯理论的扩展,，所有应用贝叶斯概率推理方法的数据融合系统都可以,用证据理论,方法来替代。当,BPA,函数的所有焦元都是,单个假设集,，且这些焦元都满足贝叶斯独立条件时，,Dempster,合成公式就退化为贝叶斯公式。,随机集理论模型把证据的合成看作是随机条件事件的并,(,或交,),。按照这种解释模型的观点，数据融合过程就相当于随机集的集合运算过程。,以上三种解释模型的共同点都是以,概率理论为,基础。,.,2024/8/23,34,3 证据理论研究现状Dempster对证据理论模型解释.20,3,证据理论研究现状,Smets,对,证据理论模型解释,Smets,发现许多,DS,模型的研究者只看到了,BPA,是在识别框架的幂集上的静态概率分布，都没有从研究,DS,模型的动态部分，即信度是如何更新的，因此提出了一种不依赖任何概率理论的“,可传递信度模型,”,(TBM),。这种模型的基本假设是证据不充分，以致不足以把信任度指派给识别框架中的元素。从数据融合的角度来看，,TBM,模型在它是一种层次化的递进模型，体现了数据融合系统的层次化描述特征，尤其适用于需要逐层进行数据、特征或决策融合的数据融合系统。,TBM,模型理论和实际应用上都很有价值。,.,2024/8/23,35,3 证据理论研究现状Smets对证据理论模型解释.2023/,3,证据理论研究现状,(2),证据融合悖论,在证据理论的实际应用中，常常会面临各种不确定的冲突信息，,而当参与合成的证据间具有较大的不一致性或冲突时,，证据合成方法就不能使用，若使用会得出与事实相悖的结果。这一局限性成为制约证据理论进一步推广的主要问题，所以基于冲突证据的合成方法的研究和改进是一个亟待解决的问题。为了解决冲突证据的合成问题，不少学者对冲突证据的合成方法进行了研究，并提出了许多解决方法。,.,2024/8/23,36,3 证据理论研究现状(2) 证据融合悖论.2023/8/31,3,证据理论研究现状,(3),证据算法的实现,目前证据算法实现主要有以下三种途径：,1,）针对特殊的证据组织结构，构造相应的快速算法,2,）近似计算,3,）修改,D-S,合成公式法,.,2024/8/23,37,3 证据理论研究现状(3) 证据算法的实现.2023/8/,3,证据理论研究现状,1,）快速算法构造,Shafer,给出在层次情况下精确实现,Dempster,合成规则的算法。,Barnett,针对一类简单的证据结构提出了一个快速实现,D-S,的算法；,为达到简化计算量的目的，,Pearl,在层次假设空间中使用了一种贝叶斯形式的推理算法；,.,2024/8/23,38,3 证据理论研究现状1）快速算法构造.2023/8/3138,3,证据理论研究现状,2,）,近似计算,近似计算方法的思路是通过减少置信函数的焦元个数来简化计算。,Voorbraak,提出了一种置信函数的贝叶斯近似算法，他研究证明：如果置信任函数的合成将产生一个贝叶斯信任函数，即一个识别框架上的概率测度，则信任函数用他们的贝叶斯近似来代替，将不会影响,Dempster,合成规则的结果。,Voorbraak,证明了在一般的情况下，置信函数的贝叶斯近似的合成等于这些置信函数的合成的贝叶斯近似，大大简化了计算量。,.,2024/8/23,39,3 证据理论研究现状2）近似计算 .2023/8/3139,3,证据理论研究现状,Dubois,（迪布瓦）提出了一致近似性算法，该方法的特点是通过近似计算后的焦元是嵌套的，并且焦元的个数不超过识别框架中的假设个数。,Tessem,（特塞姆）提出了,(k,l,x),近似算法，,k,表示保留的焦元个数,l,保留的焦点元素最多个数，,x,表示允许被删除的最大,mass,值，,x,通常在,0,0.1,上取值。,Simard,（西马德）提出了一种称为,TDS,算法，主要思想为：首先给出要保留的焦点元素的最大个数、上限,BPA,和下限,BPA,，然后判断,BPA,的数值的大小以决定其对应的焦点元素是否应该保留。,.,2024/8/23,40,3 证据理论研究现状 Dubois（迪布瓦）,3,证据理论研究现状,3,）修改,D-S,方法,修改,D-S,方法主要是指,Mahler,提出的条件化证据理论，它是一种在先验知识可能是非贝叶斯的情况下，处理证据的概率计算。,Ishizuka,等人结合了,D-S,方法和模糊集理论的优点来表示和处理不确定的和模糊的信息，通过定义模糊集合的包含度和相关度来实现这个目的，并将置信函数重新定义，给出了包含度的定义并相应地修正了,Dempster,合成公式。,.,2024/8/23,41,3 证据理论研究现状3）修改D-S方法 .2023/8/31,3,证据理论研究现状,(4),证据理论的应用,证据理论为不确定信息的表达和合成提供了强有力的方法，使得它在数据融合领域得到了广泛的应用。在军事方面，如目标检测、识别、跟踪和态势评估与决策分析；在非军事方面，如故障诊断、数字图像处理、经济决策、网络入侵检测、机器人导航等。,随着证据理论的发展，它的应用也越来越广。目前，证据理论在信息融合，风险评估功伪、专家系统、企业诊断、模式识别、决策分析等方面均有成功的应用。,.,2024/8/23,42,3 证据理论研究现状(4) 证据理论的应用.2023/8/3,3,证据理论研究现状,(5),国内研究状况,近十几年来，证据理论在我国也有了一定的发展，国内许多学者在理论和应用方面做了大量工作，发表了一些研究论文。段新生在,1993,年出版了一般专门论述证据理论的专著,证据理论与决策、人工智能,，但由于出版时间较早，内容不是很新，未能反映证据理论及其应用方面的最新研究成果。刘大有等专家较早的研究该理论的模型解释、理论扩展以及近似实现等问题。此外，顾伟康、,张文修,、徐从富等专家都对证据理论的完善做出了重要的贡献。,.,2024/8/23,43,3 证据理论研究现状(5) 国内研究状况.2023/8/31,引言,证据理论基础,证据理论研究现状,未来研究方向,.,2024/8/23,44,引言.2023/8/3144,4,未来研究方向,理论角度出发,(1),推广和提升证据理论,进而给出新的证据组合规则：,首先如何解决识别框架构建条件（,框架内元素是互斥，穷尽）对证据理论的限制；,其次,在横向上,与其他不确定性理论进行关联,如可能性理论、粗集理论等,;,在纵向上,从更高的理论层次上来解释证据理论和推广组合规则,如随机集、条件事件代数等。,.,2024/8/23,45,4 未来研究方向理论角度出发 .2023/8/3145,4,未来研究方向,理论角度出发,(2),推广证据理论到模糊证据理论,并定义模糊证据组合规则在模式识别和决策分析等领域中,随机性和模糊性信息可能同时存在,为此,有些学者提出结合证据理论和模糊集理论为模糊证据理论,:,辨识框架的命题为模糊子集。然而,组合规则的推广并不是直接的,需要考虑焦元的模糊集合属性,目前这方面的理论和应用研究还比较有限。,.,2024/8/23,46,4 未来研究方向理论角度出发 .2023/8/3146,4,未来研究方向,(3),丰富证据冲突的内涵,随着证据数目的增加,冲突会越来越大。如何解决冲突问题，尽管人们提出了很多改进的组合规则,有的规则在理论上已经和,Dempster,组合规则差别很大,但是并没有对证据间的冲突作相应的讨论和丰富。,.,2024/8/23,47,4 未来研究方向 (3)丰富证据冲突的内涵.2023/8/3,总结,证据理论基础,识别框架,证据函数,基本置信度指派函数；,信任度函数；,似真度函数；,证据理论研究现状,.,2024/8/23,48,总结证据理论基础.2023/8/3148,