模糊神经网络课件

模糊神经网络模糊神经网络模糊数学基础模糊数学基础“模糊模糊”是指客观事物彼此间的差异在中间过渡时，是指客观事物彼此间的差异在中间过渡时，界限不明显，呈现出的界限不明显，呈现出的“亦此亦彼亦此亦彼”性。性。“模糊模糊”是是相对于相对于“精确精确”而言的。而言的。“精确精确”：“老师老师”、“学生学生”、“工人工人”“模糊模糊”：“高个子高个子”、“热天气热天气”、“年轻人年轻人”模糊数学基础模糊数学基础经典集合经典集合一一个个元元素素对对于于一一个个集集合合，要要么么属属于于，要要么么不不属属于于，二二者者必必居居其其一一，绝不允许模棱两可，这样的集合称为经典集合。绝不允许模棱两可，这样的集合称为经典集合。经典集合的描述：特征函数经典集合的描述：特征函数模糊集合模糊集合设设X X是全集是全集(或论域或论域)，称映射，称映射A A：X0,1X0,1确确定定了了一一个个X X中中的的模模糊糊集集合合A A，A(x)A(x)称称为为A A的的隶隶属属函函数数，它它表表示示x x对对A A的隶属程度。的隶属程度。模糊集合的描述：隶属函数模糊集合的描述：隶属函数隶属度刻画元素属于某集合的程度隶属度刻画元素属于某集合的程度模糊数学基础模糊数学基础例例：设设论论域域X X=0,0,100100表表示示年年龄龄的的集集合合，X X中中模模糊糊集集合合A=A=“年年老老”和和B=B=“年轻年轻”的隶属函数可分别定义为的隶属函数可分别定义为模糊数学基础模糊数学基础模糊关系模糊关系设设X=x1,x2,X=x1,x2,xm,xm，Y=y1,y2,Y=y1,y2,yn,yn，X X Y Y的的子子集集R R称称为为从从 X X到到Y Y的的关关系系，记记为为 ，由由隶隶属属度度函函数数 刻刻画画，表表示示X X中中的的元元素素x x与与Y Y中元素中元素y y具有关系具有关系 的程度。的程度。矩阵表示：矩阵表示：例：例：模糊数学基础模糊数学基础语言变量语言变量语言变量是自然语言中的词或句，它的取值不是通常的数，而语言变量是自然语言中的词或句，它的取值不是通常的数，而是用模糊语言表示的模糊集合。是用模糊语言表示的模糊集合。例如例如“年龄年龄”就可以是一个模糊语言变量，其取值为就可以是一个模糊语言变量，其取值为“年幼年幼”，“年轻年轻”，“年老年老”等模糊集合。等模糊集合。模糊数学基础模糊数学基础定义一个语言变量需要定义以下定义一个语言变量需要定义以下4 4个方面的内容：个方面的内容：定义变量名称定义变量名称定义变量的论域定义变量的论域定义变量的语言值（每个语言值是定义在变量论域上的一个定义变量的语言值（每个语言值是定义在变量论域上的一个 模糊集合）模糊集合）定义每个模糊集合的隶属函数定义每个模糊集合的隶属函数例：例：试根据定义语言变量的试根据定义语言变量的4 4要素来定义语言变量要素来定义语言变量“速度速度”。首先，定义变量名称为首先，定义变量名称为“速度速度”，记做，记做x x；其次，定义变量其次，定义变量“速度速度”的论域为的论域为00，200km/h200km/h；再次，在论域再次，在论域00，200200上定义变量的语言值为上定义变量的语言值为 慢，中，快慢，中，快；最后，在论域上分别定义各语言值的隶属函数为最后，在论域上分别定义各语言值的隶属函数为 模糊数学基础模糊数学基础定义的隶属函数形状如图定义的隶属函数形状如图 模糊蕴含关系模糊蕴含关系人人类类在在生生产产实实践践和和生生活活中中的的操操作作经经验验和和控控制制规规则则往往往往可可以以用用自自然然语言来描述。语言来描述。模糊数学基础模糊数学基础“如果如果u u是是A A，则，则v v是是B B；否则，；否则，v v是是C C”,其蕴涵的模糊关系其蕴涵的模糊关系R R为为如果如果那么那么，否则，否则模糊数学基础模糊数学基础例例：定定义义两两语语言言变变量量“误误差差u u”和和“控控制制量量v v”；两两者者的的论论域域：U U=V V=1 1,2,2,3,3,4,4,5,5；定定义义在在论论域域上上的的语语言言值值为为：小小，大大，很很大，不很大大，不很大=A=A，B B，G G，CC；定义各语言值的隶属函数为；定义各语言值的隶属函数为如果如果u u 是小，那么是小，那么 v v 是大；否则，是大；否则，v v 是不很大是不很大模糊数学基础模糊数学基础如果如果u u是是A A1 1，则，则v v是是B B1 1；否则，如果否则，如果u u是是A A2 2，则，则v v是是B B2 2 ；否则，如果否则，如果u u是是A An n，则，则v v是是B Bn n。如果如果u u是是A A1 1，则，则v v是是B B1 1；否则，如果否则，如果u u是是A A2 2，则，则v v是是B B2 2 ；否则，如果否则，如果u u是是A An n，则，则v v是是B Bn n。如果如果u u1 1是是A A1111，且且u u2 2是是A A1212，且，且u um m是是A A1 1m m，则，则v v是是B B1 1；否则，如果否则，如果u u1 1是是A A2121，且且u u2 2是是A A2222，且，且u um m是是A A2 2m m，则，则v v是是B B2 2；否则，如果否则，如果u u1 1是是A An1n1，且且u u2 2是是A An2n2，且，且u um m是是A An nm m，则，则v v是是B Bn n；模糊数学基础模糊数学基础模糊推理模糊推理常规推理：常规推理：已知已知x，y之间的函数关系之间的函数关系yf(x)，则对于某个，则对于某个x*，根据根据f()可以推理得到相应的可以推理得到相应的y*。xyf()x*y*=f(x*)推理推理模糊推理：模糊推理：知道了语言控制规则中蕴涵的模糊关系后，就可知道了语言控制规则中蕴涵的模糊关系后，就可以根据模糊关系和输入情况，来确定输出情况，这就叫做以根据模糊关系和输入情况，来确定输出情况，这就叫做“模糊推理模糊推理”。xyRx*=Ay*=B推理推理球跟踪球跟踪1.模糊化模糊化观测量：观测量：两球间的位移差两球间的位移差 和速度差和速度差 作为观测量作为观测量观测量观测量 分为分为7个等级，为观测量个等级，为观测量 建立建立5个模糊集合，个模糊集合，（正大）、（正大）、（正小）、（正小）、（零）、（零）、（负小）和（负小）和 （负大（负大）。）。观测量观测量disSx隶属函数隶属函数-3-2-10123PBx000000.51PSx000010.50Ox000.510.500NSx00.510000NBx10.500000球跟踪球跟踪观测量观测量disVx分为测量分为测量 7个等级，为观测量个等级，为观测量 建立建立5个模糊集合，个模糊集合，（正大）、（正大）、（正小）、（正小）、（零）、（零）、（负小）和（负小）和 （负大）（负大）观测量观测量disVx隶属函数隶属函数-3-2-10123PBv000000.51PSv000010.50Ov000.510.500NSv00.510000NBv10.500000球跟踪球跟踪控制量：加速度控制量：加速度建立建立5个模糊集合，个模糊集合，PBa（正大）、（正大）、PSa（正小）、（正小）、Oa（零）、（零）、NSa（负小）和（负小）和 NBa（负大）。（负大）。控制量控制量 隶属函数隶属函数-4-3-2-101234PBa0000000.20.51PSa0000010.50.20Oa000.20.510.50.200NSa00.20.5100000NBa10.50.2000000球跟踪球跟踪2.模糊控制规则模糊控制规则采用若采用若A且且B则则C运算公式运算公式:模糊控制规则表模糊控制规则表3.模糊判决模糊判决采用最大隶属度原则采用最大隶属度原则PBvPSvOvNSvNBvPBxNBaNBaNBaNSaPSaPSxNBaNSaNSaOaPSaOxNBaNSaOaPSaPBaNSxNSaOaPSaPSaPBaNBxNSaPSaPBaPBaPBa球跟踪球跟踪球跟踪球跟踪模糊神经网络二者的结合是发展的必然二者的结合是发展的必然1二者的结合是人脑结构和功能的再现二者的结合是人脑结构和功能的再现2二者的结合实现优势互补二者的结合实现优势互补v 拓宽神经网络的处理信息的范围和能力。拓宽神经网络的处理信息的范围和能力。v 使模糊系统成为一种自适应的系统。使模糊系统成为一种自适应的系统。模糊神经网络神经网络与模糊系统的合作系统的结构图神经网络与模糊系统的合作系统的结构图 模糊神经网络传统神经元传统神经元x=(x1,x2,x=(x1,x2,xn)xn)w=(w1,w2,w=(w1,w2,wn)wn)y=g(w.x)y=g(w.x)模糊神经网络模糊神经元模糊神经元或神经元或神经元与神经元与神经元y=OR(x1 AND w1,x2 AND w2 xn AND wn)y=AND(x1 OR w1,x2 OR w2 xn OR wn)模糊神经网络(mamdani模型)第一层：将输入值第一层：将输入值 传入下一层传入下一层 节点数：节点数：第第二二层层:每每个个节节点点代代表表一一语语言言变变量量值值，如如NBNB，PSPS等等，计计算算各各输输入入 分量属于各语言变量值模糊集合的隶属度函数分量属于各语言变量值模糊集合的隶属度函数 。节点数：节点数：模糊神经网络第三层：每个节点代表一个模糊规则，用于匹配模糊规则的前件，第三层：每个节点代表一个模糊规则，用于匹配模糊规则的前件，计算出每条规则的适用度，即计算出每条规则的适用度，即 节点数：节点数：模糊神经网络第四层：实现归一化操作第四层：实现归一化操作 节点数：节点数：模糊神经网络第五层：输出层，实现清晰化第五层：输出层，实现清晰化模糊神经网络学习算法学习算法 其其学学习习算算法法可可以以采采用用通通用用学学习习算算法法,也也可可以以通通过过对对原原有有神神经经网网络络的的学学习习算算法法进进行行拓拓展展得得到到.反反向向传传播播学学习习算算法法、随随机机搜搜索索法法、遗传算法等是几种与具体神经网络结构无关的通用学习算法。遗传算法等是几种与具体神经网络结构无关的通用学习算法。模糊神经网络误差反向传播算法误差反向传播算法隶属度函数采用高斯函数表示的铃形函数隶属度函数采用高斯函数表示的铃形函数误差代价函数，和误差代价函数，和 表示输出与实际输出表示输出与实际输出学习算法：学习算法：为学习率为学习率模糊神经网络基于广义模糊加权型推理法的神经网络（基于广义模糊加权型推理法的神经网络（WFNNWFNN）实现模糊规则的自动提取和隶属度函数的自动改进实现模糊规则的自动提取和隶属度函数的自动改进(A)(A)层：层：O Oi i=I Ii i=X Xi i(B)(B)层：层：O Oi i=I Ii i-W Wbibi=X Xi i-W Wbibi(C)(C)层：层：O Oi i=SigmoidSigmoid(W Wcici*I*Ii i)或或 =Exp(-IExp(-Ii i/W/Wcici)2 2 或或 =1-Sigmoid(W1-Sigmoid(Wcici*I*Ii i)(D)(D)层：层：O Oi i=I Ii i(E)(E)层：层：O Oi i=Sigmoid(=Sigmoid(I(Ii i*W*Weiei)(F)(F)层：层：O O1 1=(W(Wf fi i*I*Ii i)；O O2 2=I Ii i (G)(G)层：层：O=IO=I1 1/I/I2 2 模糊神经网络在天气预报中的应用在天气预报中的应用以以海海温温距距平平(X1)(X1)和和500mb500mb高高度度距距平平(X2)(X2)为为输输入入，降降水水量量(Y)(Y)为为输输出出，输输入入变变量量定定义义了了三三个个模模糊糊子子集集small,mid,bigsmall,mid,big，分分别别表表 示示 小小、中中、大大，输输 出出 变变 量量 定定 义义 了了 五五 个个 模模 糊糊 子子 集集H1,H2,H3,H4,H5H1,H2,H3,H4,H5分分别别表表示示旱旱、偏偏旱旱、正正常常、偏偏涝涝、涝涝。隶隶属属度度函数为函数为 Hi(x)=Exp(-(x-4)/4)2)模糊神经网络天津市天津市1952198119521981年气象数据年气象数据 年代年代 海温距平海温距平(X1)500mb高度距平高度距平(X2)降水量降水量(Y)19520.73-5.282831953-2.085.186471954-3.5310.237311955-3.314.2156119560.53-2.4646719572.337.323991958-0.23-10.8131519780.4922.636261979-0.09-7.3242219800.04-6.9231819810.662.37501模糊神经网络输入输入/输出变量隶属度函数曲线输出变量隶属度函数曲线 模糊神经网络用用遗遗传传算算法法训训练练网网络络，将将网网络络可可变变阈阈值值WbWb、可可变变权权值值WcWc、WeWe、Wf Wf 作作为为基基因因组组成成染染色色体体。群群体体中中第第i i条条染染色色体体的的适适应应度度为为:S(i)=1/E(i)S(i)=1/E(i)其中其中初始染色体数：初始染色体数：200200每次遗传操作选取每次遗传操作选取100100对染色体进行交叉变异操作对染色体进行交叉变异操作变异概率为变异概率为0.10.1，变异步长，变异步长0.010.01 模糊神经网络天气预报输出结果天气预报输出结果 模糊神经网络如：如：rule1rule1：if X1 is small and X2 is small then Y is H1 if X1 is small and X2 is small then Y is H1 1.0,0.66,0.48,0.50 1.0,0.66,0.48,0.50 rule45rule45：if X1 is big and X2 is big then Y is H5if X1 is big and X2 is big then Y is H51.02,0.84,1.05,1.27 1.02,0.84,1.05,1.27 按按此此方方法法，可可提提取取出出重重要要性性提提高高的的9 9条条规规则则作作为为实实际际应应用用的的参参考考如下所示：如下所示：rule1rule1：if X1 is small and X2 is small then Y is H3 with 1.49 if X1 is small and X2 is small then Y is H3 with 1.49 rule2rule2：if X1 is small and X2 is mid then Y is H4 with 1.69if X1 is small and X2 is mid then Y is H4 with 1.69rule3rule3：if X1 is small and X2 is bigs then Y is H5 with 2.09if X1 is small and X2 is bigs then Y is H5 with 2.09rule4rule4：if X1 is mid and X2 is small then Y is H3 with 2.20if X1 is mid and X2 is small then Y is H3 with 2.20rule5rule5：if X1 is mid and X2 is mid then Y is H1 with 1.52if X1 is mid and X2 is mid then Y is H1 with 1.52rule6rule6：if X1 is mid and X2 is big then Y is H1 with 1.88if X1 is mid and X2 is big then Y is H1 with 1.88rule7rule7：if X1 is big and X2 is small then Y is H1 with 1.51if X1 is big and X2 is small then Y is H1 with 1.51rule8rule8：if X1 is big and X2 is mid then Y is H4 with 1.60if X1 is big and X2 is mid then Y is H4 with 1.60rule9rule9：if X1 is big and X2 is big then Y is H5 with 1.27 if X1 is big and X2 is big then Y is H5 with 1.27 模糊神经网络训练前训练前 -训练后训练后输入输入/输出变量隶属度函数曲线的变化输出变量隶属度函数曲线的变化