资源描述
人人 工工 智智 能能神经计算神经计算模糊计算模糊计算4.1 概述概述w 信息科学与生命科学的相互交叉、相互浸透和相互促进是现代科学技术开展的一个显著特点。w 计算智能涉及神经网络、模糊逻辑、进化计算和人工生命等领域，它的研讨和开展正反映了当代科学技术多学科交叉与集成的重要开展趋势。什么是计算智能 w 把神经网络NN归类于人工智能AI能够不大适宜，而归类于计算智能CI更能阐明问题本质。进化计算、人工生命和模糊逻辑系统的某些课题，也都归类于计算智能。w 计算智能取决于制造者manufacturers提供的数值数据，不依赖于知识；另一方面，人工智能运用知识精品knowledge tidbits。人工神经网络该当称为计算神经网络。4.1 概述计算智能与人工智能的区别和关系 输入输入人类知识人类知识()传感输入传感输入知识知识()传感数据传感数据计算计算()传感器传感器C数值的数值的A符号的符号的B生物的生物的层次层次复杂性复杂性复杂性复杂性BNNBPRBIANNAPRAICNNCPRCI4.1 概述w 上图由贝兹德克于1994年提出，表示ABC与神经网络NN、方式识别PR和智能I之间的关系w AArtificial，表示人工的非生物的；w BBiological，w 表示物理的化学的？生物的；w CComputational，表示数学计算机 w 计算智能是一种智力方式的低层认知，它与人工智能的区别只是认知层次从中层下降至低层而已。中层系统含有知识精品，低层系统那么没有。4.1 概述w 定义定义1：当一个系统只涉及数值低层：当一个系统只涉及数值低层数据，含有方式识别部分，不运用人工数据，含有方式识别部分，不运用人工智能意义上的知识，而且可以呈现出：智能意义上的知识，而且可以呈现出：w 1计算顺应性；计算顺应性；w 2计算容错性；计算容错性；w 3接近人的速度；接近人的速度；w 4误差率与人相近，误差率与人相近，w 那么该系统就是计算智能系统。那么该系统就是计算智能系统。w 定义定义2：当一个智能计算系统以非数值：当一个智能计算系统以非数值方式加上知识精品值，即成为人工方式加上知识精品值，即成为人工智能系统。智能系统。4.1 概述w 1943年麦卡洛克和皮茨提出神经网络模型年麦卡洛克和皮茨提出神经网络模型称为称为MP模型的概念。模型的概念。w 20世纪世纪60年代威德罗和霍夫提出自顺应线性年代威德罗和霍夫提出自顺应线性元件。元件。w 60年代末期至年代末期至80年代中期，整个神经网络研年代中期，整个神经网络研讨处于低潮。讨处于低潮。w 80年代后期以来，人工神经网络研讨得到复年代后期以来，人工神经网络研讨得到复苏和开展，在方式识别、图象处置、自动控苏和开展，在方式识别、图象处置、自动控制等领域得到广泛运用。制等领域得到广泛运用。4.2 神经计算4.2.1 人工神经网络研讨的进展人工神经网络的特性w 并行分布处置w 非线性映射w 经过训练进展学习w 顺应与集成w 硬件实现4.2 神经计算4.2.2 人工神经网络的构造4.2 神经计算W j 1X1X2Wj2X nW j n ()Yi图图4.2 神经元模型神经元模型1.神经元及 其特性 图图4.2中的神经元单元由多个输入中的神经元单元由多个输入xi，i=1,2,.,n和一个输出和一个输出y组成。中间形状组成。中间形状由输入信号的权和表示，而输出为由输入信号的权和表示，而输出为4.1 式中，式中，j为神经元单元的偏置阈为神经元单元的偏置阈值，值，wji为衔接权系数。为衔接权系数。n为输入信号为输入信号数目，数目，yj为神经元输出，为神经元输出，t为时间，为时间，f()为输出变换函数，如图为输出变换函数，如图4.3。4.2 神经计算nijijijxwfty1)()(a)xf(x)1x00图图4.3 神经元中的某些变换激发函数神经元中的某些变换激发函数(a)二值函数二值函数(b)S形函数形函数 (c)双曲正切函数双曲正切函数4.2 神经计算(c)xf(x)1-1(b)f(x)x1 02.人工神经网络的根本特性和构造w 人工神经网络是具有以下特性的有向图：w 对于每个节点 i 存在一个形状变量xi；w 从节点 j 至节点 i，存在一个衔接权系统数wji；w 对于每个节点 i，存在一个阈值 i；w 对于每个节点 i，定义一个变换函数fi；对于最普通的情况，此函数取w 方式。)(jijijixwf 4.2 神经计算w 递归反响网络递归反响网络:在递归网络中，多在递归网络中，多个神经元互连以组个神经元互连以组织一个互连神经网织一个互连神经网络，如图络，如图4.4。图图4.4 反响网络反响网络x1x2xnV1V2Vn输入输入输出输出x1x2xn4.2 神经计算w 前馈多层网络前馈多层网络:前馈网络具前馈网络具有递阶分层构造，由同层神经有递阶分层构造，由同层神经元间不存在互连的层级组成，元间不存在互连的层级组成，如图如图4.5。4.2 神经计算x1x2输入层输入层输出层输出层隐层隐层y1ynw11w1m图图4.5 前馈网络前馈网络反向传播反向传播3.人工神经网络的主要学习算法w 有师学习算法：可以根据期望输出和实有师学习算法：可以根据期望输出和实践网络输出对应于给定输入间的差践网络输出对应于给定输入间的差别来调整神经元间衔接的强度权。别来调整神经元间衔接的强度权。w 无师学习算法：不需求知道期望输出。无师学习算法：不需求知道期望输出。w 强化学习算法：采用一个强化学习算法：采用一个“评论员来评论员来评价与给定输入相对应的神经网络输出评价与给定输入相对应的神经网络输出的优度质量因数。强化学习算法的的优度质量因数。强化学习算法的一个例子是遗传算法一个例子是遗传算法GA。4.2 神经计算BP算法w BP算法的权值调整方法：w 令输出结点家j的误差为 那么k个训练样本的误差平方和为性能目的w 隐层到输出层的权值调整梯度法：w 输入层到隐层的权值调整梯度法：w BP网络的训练步骤：w 用小随机数初始化网络各层权值；w 样本数据输入；w 误差计算；w 权值变化量计算；w 权值调整)()()(kykdkejjj22)()(21)(21)(kjjjkjjkykdkeWJ)()()()()()()(kykkykSfkykdWWJhkjhjkjjhj)()()(kSfkekjjj其中khjhjhjkykWWJW)()()()()()()()()()()(,kxkkxkSfWkSfkykdWWJikhihhjjjkjjihjjhjhhkWkSfk)()()(其中kihihihkxkWWJW)()()(4.2 神经计算表 4.2 人工神经网络的典型模型 模型名称 有师或无师 学习规则 正向或反向传播 应用领域 AG 无 Hebb 律 反向 数据分类 SG 无 Hebb 律 反向 信息处理 ART-I 无 竞争律 反向 模式分类 DH 无 Hebb 律 反向 语音处理 CH 无 Hebb/竞争律 反向 组合优化 BAM 无 Hebb/竞争律 反向 图象处理 AM 无 Hebb 律 反向 模式存储 ABAM 无 Hebb 律 反向 信号处理 CABAM 无 Hebb 律 反向 组合优化 FCM 无 Hebb 律 反向 组合优化 LM 有 Hebb 律 正向 过程监控 DR 有 Hebb 律 正向 过程预测，控制 LAM 有 Hebb 律 正向 系统控制 4.2.3 人工神经网络的典型模型4.2 神经计算续前表：续前表：OLAM 有 Hebb 律 正向 信号处理 FAM 有 Hebb 律 正向 知识处理 BSB 有 误差修正 正向 实时分类 Perceptron 有 误差修正 正向 线性分类，预测 Adaline/Madaline 有 误差修正 反向 分类，噪声抑制 BP 有 误差修正 反向 分类 AVQ 有 误差修正 反向 数据自组织 CPN 有 Hebb 律 反向 自组织映射 BM 有 Hebb/模拟退火 反向 组合优化 CM 有 Hebb/模拟退火 反向 组合优化 AHC 有 误差修正 反向 控制 ARP 有 随机增大 反向 模式匹配，控制 SNMF 有 Hebb 律 反向 语音/图象处理 4.2 神经计算4.2.4 基于神经网络的知识表示基于神经网络的知识表示与推理与推理 w 1.基于神经网络的知识表示基于神经网络的知识表示 w 在这里，知识并不像在产生式系在这里，知识并不像在产生式系统中那样独立地表示为每一条规那么，统中那样独立地表示为每一条规那么，而是将某一问题的假设干知识在同一网而是将某一问题的假设干知识在同一网络中表示。络中表示。w例如，在有些神经网络系统中，例如，在有些神经网络系统中，知识是用神经网络所对应的有向权图的知识是用神经网络所对应的有向权图的邻接矩阵及阈值向量表示的。邻接矩阵及阈值向量表示的。4.2 神经计算002-1.51x1x2x3x4y11-11-11x1x2y000101011110“异或逻辑问题真值表w 例1：表示“异或问题的两层感知器模型w 例2：基于B-P网络的医疗诊断系统w 该医疗诊断系统只思索 6 种病症、2 种疾病、3种治疗方案w 病症：对每一病症采集三种信息 有1、无-1、没有记录0w 疾病：对每一疾病采集三种信息 有1、无-1、没有记录0w 治疗方案：对每一治疗方案采集两种信息 是、否w 每个病人的信息构成一个训练样例，用一批训练样例对网络进展训练B-P算法，假设得到的是如下图的神经网络w x1-x6 为病症输入w x7,x8 为疾病名w x9,x10,x11 为治疗方案输出2.基于神经网络的推理基于神经网络的推理 w 基于神经网络的推理是经过网络计算实现的。把用户提供的初始证据用作网络的输入，经过网络计算最终得到输出结果。w 普通来说，正向网络推理的步骤如下：w 把知数据输入网络输入层的各个节点。w 利用特性函数分别计算网络中各层的输出。w 用阈值函数对输出层的输出进展断定，从而得到输出结果。4.2 神经计算定义定义4.1 模糊集合模糊集合(Fuzzy Sets)论域论域U到到0,1区间的任一映射区间的任一映射 ，即即 ，都确定，都确定U的一个模糊子集的一个模糊子集F；称为称为F的隶属函数或隶属度。在论域的隶属函数或隶属度。在论域U中，中，可把模糊子集表示为元素可把模糊子集表示为元素u与其隶属函数与其隶属函数 的序偶集合，记为：的序偶集合，记为：(4.7)F 1,0:UF)(uF|)(,(UuuuFF 4.3 模糊计算模糊计算4.3.1 模糊集合、模糊逻辑及模糊集合、模糊逻辑及其运算其运算F w 假设某模糊集是论域假设某模糊集是论域U中一切满足中一切满足 的元素的元素u构成的集合，那么称该集合为构成的集合，那么称该集合为模糊集模糊集F的支集。的支集。w 当当u满足满足 ，称为模糊单点。，称为模糊单点。定义定义4.2 模糊支集模糊单点模糊支集模糊单点0)(uF 0.1 F 4.3 模糊计算w 设设A和和B为论域为论域U中的两个模糊集，其隶属函数分别中的两个模糊集，其隶属函数分别为为 和和 ，那么对于一切，那么对于一切 ，存在以下运算：，存在以下运算：w A与与B的并逻辑或记为的并逻辑或记为 ，其隶属函数定义，其隶属函数定义为：为：w (4.10)w A与与B的交逻辑与记为的交逻辑与记为 ，其隶属函数定义，其隶属函数定义为：为：w (4.11)w A的补逻辑非记为的补逻辑非记为 ，其传送函数定义为：，其传送函数定义为：w (4.12)定义定义4.3 模糊集的运算模糊集的运算4.3 模糊计算A B Uu BA)()()(uuuBABA )(),(maxuuBA )()()(uuuBABA )(),(minuuBA BA)(1)(uuAA A定义定义4.4 直积笛卡儿乘积，代数积直积笛卡儿乘积，代数积 假设假设 分别为论域分别为论域 中的中的模糊集合，那么这些集合的直积是乘积空间模糊集合，那么这些集合的直积是乘积空间 中一个模糊集合，其隶属函数为：中一个模糊集合，其隶属函数为：(4.13)nUUU,21nAAA,.,21nUUU 21 )(,),(min),(12111nAAnAAuuuuunn )()()(2121nAAAuuun 定义定义4.5 模糊关系模糊关系 假设假设U，V是两个非空模糊集合，那么其直是两个非空模糊集合，那么其直积积UV中的模糊子集中的模糊子集R称为从称为从U到到V的模糊关系，的模糊关系，表示为：表示为：(4.14)VvUuvuvuVUR ,|),(),(4.3 模糊计算式式(4.9)中的中的*号可为三角范式内的恣意一种算号可为三角范式内的恣意一种算子，包括模糊交、代数积、有界积和直积等。子，包括模糊交、代数积、有界积和直积等。其隶属函数为：其隶属函数为：，(4.16)定义定义4.6 复合关系复合关系 假设假设R和和S分别为分别为UV和和VW中的模糊关系，中的模糊关系，那么那么R和和S的复合是一个从的复合是一个从U到到W的模糊关系，记的模糊关系，记为：为：(4.15)(,);sup(,)(,)RSv VR Su wu vv w,WwVvUu ),(),(),(wvvuwuSRVvSR)(),(WUwu 4.3 模糊计算定义定义4.7 正态模糊集、凸模糊集和模正态模糊集、凸模糊集和模糊数糊数 以实数以实数R为论域的模糊集为论域的模糊集F，假设其隶属函，假设其隶属函数满足数满足 那么那么F为正态模糊集；假设为正态模糊集；假设对于恣意实数对于恣意实数x，ax？w 解：4.3 模糊计算0000000000000005.05.000015.000015.00000005.0111 BA 模糊规那么转换为模糊关系矩阵如下：模糊现实与规那么的合成推理：5.05.00000000000000000005.05.000015.0000005.015.02RA)(iNx 4.3.3 模糊判决方法模糊判决方法w 在推理得到的模糊集合中取一个相对最能代在推理得到的模糊集合中取一个相对最能代表这个模糊集合的单值的过程就称作解模糊表这个模糊集合的单值的过程就称作解模糊或模糊判决或模糊判决Defuzzification。模糊判决可。模糊判决可以采用不同的方法：重心法、最大隶属度方以采用不同的方法：重心法、最大隶属度方法、加权平均法、隶属度限幅元素平均法。法、加权平均法、隶属度限幅元素平均法。w 下面引见各种模糊判决方法，并以下面引见各种模糊判决方法，并以“水温适水温适中为例，阐明不同方法的计算过程。这里中为例，阐明不同方法的计算过程。这里假设假设“水温适中的隶属函数为：水温适中的隶属函数为：w =X:0.0/0+0.0/10+0.33/20+0.67/30+1.0/40+1.0/50+0.75/60+0.5/70+0.25/80+0.0/90+0.0/100 4.3 模糊计算 重心法就是取模糊隶属函数曲线与横坐标重心法就是取模糊隶属函数曲线与横坐标轴围成面积的重心作为代表点。实际上应该计轴围成面积的重心作为代表点。实际上应该计算输出范围内一系列延续点的重心，即算输出范围内一系列延续点的重心，即 (4.35)但实践上是计算输出范围内整个采样点的重心，但实践上是计算输出范围内整个采样点的重心，用足够小的取样间隔来提供所需求的精度，即：用足够小的取样间隔来提供所需求的精度，即：xNxNdxxdxxxu)()(=48.2 )()(iNiNixxxu 4.3 模糊计算1.重心法 这种方法最简单，只需在推理结论的模糊这种方法最简单，只需在推理结论的模糊集合中取隶属度最大的那个元素作为输出量即集合中取隶属度最大的那个元素作为输出量即可。要求这种情况下其隶属函数曲线一定是正可。要求这种情况下其隶属函数曲线一定是正规凸模糊集合即其曲线只能是单峰曲线。规凸模糊集合即其曲线只能是单峰曲线。例如，对于例如，对于“水温适中，按最大隶属度原水温适中，按最大隶属度原那么，有两个元素那么，有两个元素40和和50具有最大隶属度具有最大隶属度1.0，那就对一切取最大隶属度的元素那就对一切取最大隶属度的元素40和和50求平均值，求平均值，执行量应取：执行量应取：452/)5040(max u4.3 模糊计算2.最大隶属度法3.系数加权平均法w 系数加权平均法的输出执行量由下式系数加权平均法的输出执行量由下式决议：决议：w (4.36)w 式中，系数式中，系数 的选择要根据实践情的选择要根据实践情况而定，不同的系统就决议系统有不况而定，不同的系统就决议系统有不同的呼应特性。同的呼应特性。iiikxku/4.3 模糊计算ik 用所确定的隶属度值用所确定的隶属度值对隶属度函数曲线进对隶属度函数曲线进展切割，再对切割后等于该隶属度的一切元素展切割，再对切割后等于该隶属度的一切元素进展平均，用这个平均值作为输出执行量，这进展平均，用这个平均值作为输出执行量，这种方法就称为隶属度限幅元素平均法。种方法就称为隶属度限幅元素平均法。例如，当取例如，当取为最大隶属度值时，表示为最大隶属度值时，表示“完完全隶属关系，这时全隶属关系，这时1.0。在。在“水温适中的水温适中的情况下，情况下，40和和50的隶属度是的隶属度是1.0，求其平均，求其平均值得到输出代表量：值得到输出代表量：452/)5040(u4.3 模糊计算4.隶属度限幅元素平均法4.4 小结v计算智能计算智能v神经计算神经计算v模糊计算模糊计算v进化计算进化计算v人工生命人工生命v神经计算：人工神经网络神经计算：人工神经网络v模糊计算：模糊逻辑模糊计算：模糊逻辑
展开阅读全文