模糊等价矩阵课件

,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,2024/10/2,1,本章内容,4.1,模糊关系,4.2,模糊等价关系,4.3,聚类分析,2022/10/111本章内容4.1 模糊关系,2024/10/2,2,模糊关系的三个性质,自反性,对称性,传递性,2022/10/112模糊关系的三个性质自反性,2024/10/2,3,自反性,若模糊关系,R,满足,R(u,u)=1,或,I,R,，则称,R,具有自反性,模糊自反矩阵,r,ii,= 1,例如：,2022/10/113自反性若模糊关系R满足R(u,u)=1,2024/10/2,4,自反矩阵的定理,定理,.,设模糊矩阵,A M,nn,是自反矩阵，则有,I,A,A,2,A,3,A,n-1,A,n,证明,:,2022/10/114自反矩阵的定理定理. 设模糊矩阵 A,2024/10/2,5,对称性,若模糊关系,R,满足,R(u,v)=R(v,u),，则称,R,具有对称性,模糊对称矩阵,r,ij,= r,ji,例如：,2022/10/115对称性若模糊关系R满足R(u,v)=R,2024/10/2,6,传递性,若模糊关系,R,满足,R,R,R,，则称,R,具有,传递性,模糊传递矩阵,2022/10/116传递性若模糊关系R满足RRR，则称,2024/10/2,7,模糊传递矩阵,例,2022/10/117模糊传递矩阵例,2024/10/2,8,模糊传递矩阵的定理,定理,.,设模糊矩阵,Q M,nn,是传递矩阵，则有,Q,Q,2,Q,3,Q,n-1,Q,n,证明,:,2022/10/118模糊传递矩阵的定理定理. 设模糊矩阵,2024/10/2,9,模糊等价关系,定义,.,模糊关系,RF(UU) ,满足,（,1,）自反性：,R (u,u)=1;,（,2,）对称性：,R(u,v)=R(v,u);,（,3,）传递性：,R,2,R,则称,R,为,模糊等价关系,2022/10/119模糊等价关系定义. 模糊关系RF(U,2024/10/2,10,模糊等价矩阵,若论域,U,是有限论域，则,U,上的模糊等价关系,R,可表示为模糊等价矩阵,模糊等价矩阵,自反性,r,ii,= 1,对称性,r,ij,= r,ji,传递性,2022/10/1110模糊等价矩阵若论域U是有限论域，则U,2024/10/2,11,R,是否为模糊等价矩阵？,2022/10/1111R是否为模糊等价矩阵？,2024/10/2,12,等价布尔关系,一个布尔矩阵具有如下特性，则称其为等价的布尔矩阵，对应一个普通的等价关系,自反性,对称性,传递性,2022/10/1112等价布尔关系一个布尔矩阵具有如下特性,2024/10/2,13,模糊等价矩阵的性质,若,R,为模糊等价矩阵，则,R= R,2,= R,3,= = R,n-1,= R,n,证明：,自反性：,R,R,2,R,n-1,R,n,传递性,:,R,R,2,R,n-1,R,n,2022/10/1113模糊等价矩阵的性质若R为模糊等价矩阵,2024/10/2,14,模糊等价矩阵的定理,1,定理,1. R,是模糊等价矩阵,对于任何,0,1,，,R,是等价布尔矩阵。,证明：,对称性、自反性显然,传递性,2022/10/1114模糊等价矩阵的定理1定理1. R是,2024/10/2,15,定理,1,的意义,模糊等价矩阵,普通等价矩阵,普通等价矩阵,普通等价关系,普通等价关系可以分类,当,在,0,1,上变动时，得到不同的,R,从而得到不同的分类,2022/10/1115定理1的意义模糊等价矩阵普通等价矩,2024/10/2,16,模糊等价矩阵分类,例,设,X=x,1, x,2, x,3,x,4, x,5,求当,1, 0.8, 0.6, 0.5, 0.4,时的聚类结果。,2022/10/1116模糊等价矩阵分类例设X=x1,2024/10/2,17,1,利用,1,时的截关系，将,X,分成,5,个等价类：,x,1, x,2, x,3, x,4, x,5,2022/10/1117 1利用 1时的截关系，将X,2024/10/2,18,0.8,利用,0.8,时的截关系，将,X,分成,4,个等价类：,x,1, x,3, x,2, x,4, x,5,2022/10/1118 0.8利用 0.8时的截关,2024/10/2,19,0.6,利用,0.6,时的截关系，将,X,分成,3,个等价类：,x,1, x,3, x,2, x,4, x,5,2022/10/1119 0.6利用 0.6时的截关,2024/10/2,20,0.5,利用,0.5,时的截关系，将,X,分成,2,个等价类：,x,1, x,3, x,4, x,5, x,2,2022/10/1120 0.5利用 0.5时的截关,2024/10/2,21,0.4,利用,0.4,时的截关系，将,X,分成,1,个等价类：,x,1, x,2, x,3, x,4, x,5,2022/10/1121 0.4利用 0.4时的截关,2024/10/2,22,动态聚类图,由,1,变到,0,，,R,的分类由细到粗,x1,x2,x3,x4,x5, =1, =0.8, =0.4, =0.6, =0.5,2022/10/1122动态聚类图由1变到0，R的分类由,2024/10/2,23,模糊等价矩阵的定理,2,定理,2. R ,nn,是模糊等价矩阵，则对于任何, 0,1,，且,I,R,R,2,R,n,t(R)=R,n,R,m, ,k=1,R,k,=,t(R),传递闭包的定理,4,2022/10/1134定理4. 设Rnn 为相似矩阵,2024/10/2,35,模糊相似矩阵,模糊等价矩阵,将相似矩阵改造成等价矩阵,只需求相似矩阵的传递闭包,2022/10/1135模糊相似矩阵模糊等价矩阵将相似矩阵,2024/10/2,36,定理,5.,设,R,nn,是模糊相似矩阵，则存在一个最小自然数,k (kn),，使得传递闭包,t(R)=R,k,，对于任何自然数,bk,，都有,R,b,=R,k,，此时，,t(R),是模糊等价矩阵。,传递闭包的定理,5,2022/10/1136定理5. 设Rnn 是模糊相似,2024/10/2,37,平方法求传递闭包,从模糊相似矩阵,R,出发，依次求平,方：,当第一次出现,R,k,R,k,=R,k,时，,R,k,就是,所求的传递闭包,t(R),2022/10/1137平方法求传递闭包从模糊相似矩阵R出发,2024/10/2,38,时间复杂度,2022/10/1138时间复杂度,2024/10/2,39,课堂作业,2022/10/1139课堂作业,2024/10/2,40,课堂作业,4-1,设,请问至多几次平方可以到达传递闭包？,请给出传递闭包,t(R),2022/10/1140课堂作业4-1设,2024/10/2,41,课堂作业,4-2,证明：若,Q,R,是传递的，则,QR,也是传递的,.,2022/10/1141课堂作业4-2证明：若Q,R是传递的,2024/10/2,42,本章内容,4.1,模糊关系,4.2,模糊等价关系,4.3,聚类分析,2022/10/1142本章内容4.1 模糊关系,2024/10/2,43,4-3,聚类分析,2022/10/11434-3 聚类分析,2024/10/2,44,聚类分析是把对象自动划分成多个类簇，使得同类簇内对象相近、异类簇间对象相异；,聚类分析对于发现数据的隐含模式、获取知识、预测数据的功能或行为等，具有十分重要的意义。,移动通信网客户聚类,图像像素点聚类,蛋白质聚类,聚类分析,2022/10/1144 聚类分析是把对象自动划分成多个类簇,2024/10/2,45,聚类分析,与模式分类的区别：,模式分类是已知若干模式，要求我们正确判断当前的新样本属于哪个模式；,聚类分析所讨论的对象是一大批样本，事先没有给定任何模式供参考，要求我们按样本各自的属性值加以分类。,从机器学习的角度来看，分类是有监督学习，聚类是无监督学习。,2022/10/1145聚类分析与模式分类的区别：模式分类是,2024/10/2,46,聚类分析方法,简单说，,聚类分析就是用数学方法对事物进行分类。通过适当聚类，事物便于研究，事物的内部规律容易为人类所掌握。现有方法主要有：,（,1,）层次聚类算法：通过数据的分裂或聚合，以形成层次类簇。适用于小规模数据集。,（,2,）划分式聚类：事先指定类簇数或类簇中心，通过反复迭代，逐步降低目标函数的值。当目标函数收敛时，得到最终类簇。,（,3,）基于密度和网格的聚类：通过密度或网格发现类簇。适用于大规模数据集。,2022/10/1146聚类分析方法 简单说，聚类分析,2024/10/2,47,模糊聚类分析,模糊数学产生之前，聚类分析是数理统计多元分析的一个分支。,现实分类问题往往具有模糊性，例如“环境污染分类”、“临床症状资料分类”、“岩石分类”等等，因此，用模糊数学语言进行模糊聚类分析更为自然。,2022/10/1147模糊聚类分析模糊数学产生之前，聚类分,2024/10/2,48,基于模糊等价矩阵的聚类分析方法,2022/10/1148基于模糊等价矩阵的聚类分析方法,2024/10/2,49,基于模糊等价矩阵的聚类分析步骤,第一步：建立模糊矩阵 ；,第二步：建立模糊等价矩阵；,第三步：聚类（求动态聚类图）,2022/10/1149基于模糊等价矩阵的聚类分析步骤第一步,2024/10/2,50,第一步：建立模糊矩阵,设,U =u,1, u,2, , u,n,为待分类的全体对象，其中每个待分类对象由一组,数据表征,如下：,问题转化为：如何建立对象,u,i,与,u,j,之间的相似关系,2022/10/1150第一步：建立模糊矩阵设U =u1,2024/10/2,51,例,1,环境污染,例如，要对一些环境单元进行聚类，判断它们的污染程度,每个环境单元包括四个要素：空气、水分、土壤、作物,环境单元的污染状况由,污染物在四个要素中含量的超限度,来描述,2022/10/1151例1环境污染例如，要对一些环境单,2024/10/2,52,现有,5,个污染单元，,U=,它们的污染数据如下,:,=(5,5,3,2),=(2,3,4,5),=(5,5,2,3),=(1,5,3,1),=(2,4,5,1),2022/10/1152现有5个污染单元，,2024/10/2,53,建立模糊矩阵,如何建立对象,u,i,与,u,j,之间的相似关系？,有许多方法，应用时根据实际情况，选择一种方法来求,u,i,与,u,j,的相似关系,R(u,i, u,j,)=r,ij,在“环境污染”的例子中，如何给出模糊相似矩阵？,2022/10/1153建立模糊矩阵如何建立对象ui与uj之,2024/10/2,54,建立模糊相似矩阵,建立模糊相似矩阵的注意事项：,r,ij,0,1,自反,对称,“环境”例中，采用“绝对值减数法”,问：,得到的相似矩阵的维数是多少？,2022/10/1154建立模糊相似矩阵建立模糊相似矩阵的注,2024/10/2,55,模糊相似矩阵,2022/10/1155模糊相似矩阵,2024/10/2,56,步骤,2,：相似关系,等价关系,步骤,1,得到的矩阵一般满足自反性和对称性,将模糊相似矩阵改造成模糊等价矩阵,平方法,求传递闭包,2022/10/1156步骤2：相似关系等价关系步骤1得到,2024/10/2,57,至多计算多少次？,模糊相似矩阵,55,k=log,2,5+1=2+1=3,最坏情况下，,R,R,2,R,4,R,8,，计算到,R,8,2022/10/1157至多计算多少次？模糊相似矩阵55,2024/10/2,58,2022/10/1158,2024/10/2,59,模糊等价矩阵,2022/10/1159模糊等价矩阵,2024/10/2,60,步骤,3,：聚类,R,的传递闭包,t(R)=R,4,对于,t(R),，依次取截关系,2022/10/1160步骤3：聚类R的传递闭包t(R)=R,2024/10/2,61,1,利用,1,时的截关系，将,X,分成,5,个等价类：,x,1, x,2, x,3, x,4, x,5,2022/10/1161 1利用 1时的截关系，将X,2024/10/2,62,0.8,利用,0.8,时的截关系，将,X,分成,4,个等价类：,x,1, x,3, x,2, x,4, x,5,2022/10/1162 0.8利用 0.8时的截关,2024/10/2,63,0.6,利用,0.6,时的截关系，将,X,分成,3,个等价类：,x,1, x,3, x,2, x,4, x,5,2022/10/1163 0.6利用 0.6时的截关,2024/10/2,64,0.5,利用,0.5,时的截关系，将,X,分成,2,个等价类：,x,1, x,3, x,4, x,5, x,2,2022/10/1164 0.5利用 0.5时的截关,2024/10/2,65,0.4,利用,0.4,时的截关系，将,X,分成,1,个等价类：,x,1, x,2, x,3, x,4, x,5,2022/10/1165 0.4利用 0.4时的截关,2024/10/2,66,动态聚类图,由,1,变到,0,，,R,的分类由细到粗,x1,x2,x3,x4,x5, =1, =0.8, =0.4, =0.6, =0.5,2022/10/1166动态聚类图由1变到0，R的分类由,2024/10/2,67,讨论,2022/10/1167讨论,2024/10/2,68,讨论,1,：建立相似矩阵的其他方法,非常多！主要分为,3,类,相似系数法,距离法（绝对值减数法就是距离法之一）,主观法,在后面给出,2022/10/1168讨论1：建立相似矩阵的其他方法非常多,2024/10/2,69,讨论,2,：直接基于相似矩阵聚类？,建立模糊相似矩阵,R,后，求其传递闭包,t(R),计算量较大。,若直接从,R,出发，进行聚类，会怎么样？,2022/10/1169讨论2：直接基于相似矩阵聚类？建立,2024/10/2,70,取,=1(,最大值,),，对每个,x,i,，确定其相似类,x,i,1,将满足,r,ij,=1,的,x,i,和,x,j,放在一类，构成相似类,x,1, x,2, x,3, x,4, x,5,2022/10/1170取=1(最大值)，对每个xi，确定,2024/10/2,71,取,=0.8(,次大值,),，对每个,x,i,确定其相似类,x,i,R,x,1, x,3, x,2, x,4, x,5,2022/10/1171取=0.8(次大值)，对每个xi,2024/10/2,72,依次取,=0.6,、,0.4,等，确定其相似类。,x,1, x,3, x,2, x,4, x,5,x,1, x,3,x,4, x,2, x,5, x,1, x,3,x,1, x,4,x,5,x,2, x,4, x,5,2022/10/1172依次取=0.6、0.4等，确定其相,2024/10/2,73,相似矩阵直接聚类,vs.,等价矩阵聚类,对于一个固定的,，等价矩阵聚类得到的等价类没有公共元素！,相似矩阵聚类得到的,相似类则有公共元素,，这是因为不具有“传递性”,2022/10/1173相似矩阵直接聚类vs.等价矩阵聚类对,2024/10/2,74,讨论,3,：如何选取,？,在实际应用中，需要选择适当的,，从而给出一个较明确的分类。,1,）由具有丰富经验的领域专家结合领域知识确定,，从而得到,水平上的等价分类。,2,）,用统计学中的,F,检验方法，刷掉不合格的类，使分类变得较清晰。,2022/10/1174讨论3：如何选取？在实际应用中，,2024/10/2,75,最佳阈值确定,F,统计量,F,统计量：,分子表示类间平均距离，分母表示类内样本间的距离，,F,值越大，表示类与类间的差异越大，分类越好。,2022/10/1175最佳阈值确定F统计量F统计量：,2024/10/2,76,讨论,1:,模糊相似矩阵的建立,2022/10/1176讨论1:模糊相似矩阵的建立,2024/10/2,77,1,、数据预处理,数据标准化,设论域,U =x,1, x,2, , x,n,为待聚类对象，,每个对象由,m,个指标表示其性状：,将原始数据矩阵中的元素通过,适当的变换,压缩到,0,1,上。,2022/10/11771、数据预处理数据标准化设论域U,2024/10/2,78,程序,3,：玉米螟,1:78,月平均气温,2:,上年,122,月平均气温,3: 4,月份温湿系数,4: 4,月份雨日数,5: 4,月份日照数,6: 4,月份平均风速,7: 5,月上旬温湿系数,8: 5,月田间调查的玉米螟卵数,2022/10/1178程序3：玉米螟1:78月平均气温,2024/10/2,79,数据标准化,数据标准化常用的两种变换：,平移极差变换,平移标准差变换,2022/10/1179数据标准化数据标准化常用的两种变换：,2024/10/2,80,数据标准化,平移极差变换,(,变换至,0-1,区间,),：,请计算,:=(5,5,3,2),=(2,3,4,5),=(5,5,2,3),=(1,5,3,1),=(2,4,5,1),2022/10/1180数据标准化平移极差变换(变换至0-,2024/10/2,81,数据标准化,平移标准差变换,(,消除量纲,),：,2022/10/1181数据标准化平移标准差变换(消除量纲,2024/10/2,82,2,、模糊相似矩阵的建立,相似系数法,距离法,其它方法：主观评分法,2022/10/11822、模糊相似矩阵的建立相似系数法,2024/10/2,83,1),相似系数法,(1),数量积法,|r,ij,|,0,1,，若为负，要将其压缩到,0,1,，压缩方法：平移极差变换或,r,ij,(r,ij,+1)/2,2022/10/11831)相似系数法(1) 数量积法,2024/10/2,84,1),相似系数法,(2),夹角余弦法：,(3),相关系数法：,2022/10/11841)相似系数法(2)夹角余弦法：,2024/10/2,1),相似系数法,(4),指数相似系数法：,2022/10/111)相似系数法(4)指数相似系数法：,2024/10/2,86,1),相似系数法,(5),最大最小法：,(6),算数平均最小法：,(7),几何平均最小法：,上述三种方法要求,x,ij,0,，否则也要作适当变换。,2022/10/11861)相似系数法(5)最大最小法：上述,2024/10/2,87,2),距离法,(1),绝对值倒数法：,(2),绝对值指数法：,2022/10/11872)距离法(1)绝对值倒数法：,2024/10/2,88,2),距离法,(3),直接距离法：,r,ij,1-c*d(x,i,x,j,),海明距离：,欧式距离：,切比雪夫距离：,2022/10/11882)距离法(3)直接距离法：rij,2024/10/2,89,3),主观评分法,专家直接给出相似度，专家数为,N,，,r,ij,(k),表示第,k,个专家给出的,i,与,j,的相似度，,a,ij,(k),为专家的自信度。,2022/10/11893)主观评分法专家直接给出相似度，专,2024/10/2,90,程序演示,2022/10/1190程序演示,2024/10/2,91,程序,1,：环境,第,4,章,数据文件,编辑,E.exe,打开”环境,.dat”,第,4,章,模糊聚类,E.exe,2022/10/1191程序1：环境第4章数据文件编辑E,2024/10/2,92,程序,1,：环境,2022/10/1192程序1：环境,程序,1,：环境,2024/10/2,93,程序1：环境2022/10/1193,2024/10/2,94,程序,2,：家族,论域,U,= ,x,1,x,2,x,3,x,4,x,5,表示来自,2,个家族的,5,个人,已经利用某种方法建立了相似矩阵：,第,4,章,数据文件,编辑,E.exe,打开”家族,.dat”,用模糊聚类分析确定他们的家族关系。,第,4,章,模糊聚类,E.exe,2022/10/1194程序2：家族论域U = x1, x,2024/10/2,95,程序,2,：家族,2022/10/1195程序2：家族,2024/10/2,96,程序,3,：玉米螟,第,4,章,数据文件,编辑,E.exe,打开”玉米螟,.dat”,用模糊聚类分析确定各年份间关系，以应用于害虫预报。,第,4,章,模糊聚类,E.exe,2022/10/1196程序3：玉米螟第4章数据文件编辑,2024/10/2,97,程序,3,：玉米螟,2022/10/1197程序3：玉米螟,2024/10/2,98,程序,3,：玉米螟,2022/10/1198程序3：玉米螟,2024/10/2,99,程序,4,：土壤,第,4,章,数据文件,编辑,E.exe,打开”土壤,.dat”,21,个土壤样本，每个样本,9,个量化指标：含氮百分比、含磷百分比、有机质、,PH,值、耕层厚度、持水量等。,第,4,章,模糊聚类,E.exe,分析结果为进一步做土壤分类提供参考。,2022/10/1199程序4：土壤第4章数据文件编辑E,2024/10/2,100,程序,4,：土壤,2022/10/11100程序4：土壤,2024/10/2,101,课后作业,2022/10/11101课后作业,2024/10/2,102,1,、著名聚类的例子,日本学者,Tamura,给出，在模糊数学中广泛使用,有三个家庭，共,16,人。每个家庭人数为,4-7,人。,每人提供一张照片，共计,16,张,由若干素不相识的中学生对照片两两进行比较，按相貌相似程度进行评分，分数在,0,1,上。每对照片的相似程度由所有人对他们的评分的平均值确定。,要求：把三个家庭区分开来（即对这,16,个人进行聚类），可使用直接聚类法,2022/10/111021、著名聚类的例子日本学者Tamu,2024/10/2,103,得到相似矩阵,2022/10/11103得到相似矩阵,2024/10/2,104,作业,2,要建立下面四个对象的相似矩阵，请给出合理的建立公式，并用传递闭包法进行模糊聚类。,2022/10/11104作业2要建立下面四个对象的相似矩阵,