第三章 神经网络控制及应用(基础)

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,*,第三章 人工神经网络控制及应用,人工神经网络定义,人工神经网络是一个由许多简单的并行工作的处理单元组成的系统，其功能取决于网络的结构、连接强度以及各单元的处理方式。,人工神经网络是一种旨在模仿人脑结构及其功能的信息处理系统,。,神经网络是由多个非常简单的处理单元彼此按某种方式相互连接而形成的计算系统，该系统是靠其状态对外部输入信息的动态响应来处理信息的。,11/15/2024,1,3.1.1,神经网络的基本特征与功能,结构特征：,并行式处理,分布式存储,容错性,能力特征：,自学习,自组织,自适应性,11/15/2024,2,3.1.1,神经网络的基本特征与功能,联想记忆功能,11/15/2024,3,非线性映射功能,3.1.1,神经网络的基本特征与功能,11/15/2024,4,分类与识别功能,3.1.1,神经网络的基本特征与功能,11/15/2024,5,优化计算功能,3.1.1,神经网络的基本特征与功能,11/15/2024,6,知识处理功能,3.1.1,神经网络的基本特征与功能,11/15/2024,7,3.1.2,生物神经元及其信息处理,生物神经元,人工神经元模型,人类大脑大约包含有,1.4,10,11,个,神经元，每个神经元与大约,10,3,10,5,个其它神经元相连接，构成一个极为庞大而复杂的网络，即生物神经网络。,3.1.2,生物神经元及其信息处理,9,神经生理学和神经解剖学的研究结果表明,，神经元,(Neuron),是脑组织的基本单元，是人脑信息处理系统的最小单元。,3.1.2,生物神经元及其信息处理,11/15/2024,10,3.1.2.1,生物神经元的结构,生物神经元在结构上由,细胞体,(Cell body),树突,(Dendrite),轴突,(Axon),突触,(Synapse),四部分组成。用来完成神经元间信息的接收、传递和处理。,3.1.2,生物神经元及其信息处理,11/15/2024,11,11/15/2024,12,11/15/2024,13,3.1.2.2,生物神经元的信息处理机理,信息的产生,神经元间信息的产生、传递和处理是一种电化学活动。,神经元状态：,静息,兴奋,抑制,膜电位：,极 化,去极化,超极化,11/15/2024,14,信息的传递与接收,3.1.2.2,生物神经元的信息处理机理,11/15/2024,15,信息的整合,空间整合：,同一时刻产生的刺激所引起的膜电位变化，大致等于各单独刺激引起的膜电位变化的代数和。,时间整合：,各,输入脉冲,抵达神经元的时间先后不一样。,总的突触后膜电位为一段时间内的累积。,3.1.2.2,生物神经元的信息处理机理,11/15/2024,16,3.1.2.3,生物神经网络,由多个生物神经元以确定方式和拓扑结构,相互连接即形成生物神经网络。,生物神经网络的功能不是单个神经元信息,处理功能的简单叠加。,神经元之间的突触连接方式和连接强度不,同并且具有可塑性，这使神经网络在宏观,呈现出千变万化的复杂的信息处理能力。,11/15/2024,17,3.1.3,人工神,经元模型及人工神经网络模型,神经元及其突触是神经网络的基本器件。因此，模拟生物神经网络应首先模拟生物神经元。在人工神经网络中，神经元常被称为“处理单元”。有时从网络的观点出发常把它称为“节点”。人工神经元是对生物神经元的一种形式化描述。,11/15/2024,18,3.1.3.1,人工神,经元模型,神经元模型示意图,11/15/2024,19,神经元的数学模型,ij,输入输出间的突触时延；,T,j,神经元,j,的阈值；,w,ij,神经元,i,到,j,的突触连接系数或称,权重值；,f,(),神经元转移函数。,(3-1),(3-2),3.1.3.1,人工神,经元模型,11/15/2024,20,(3-3),net,j,=,W,j,T,X,(3-4),W,j,=(,w,1,w,2,w,n,),T,X=,(,x,1,x,2,x,n,),T,令,x,0,=-1,，,w,0,=,T,j,，,则有,-,T,j,=,x,0,w,0,3.1.3.1,人工神,经元模型,神经元的数学模型,11/15/2024,21,(3-5),o,j,=,f,(,net,j,)=,f,(,W,j,T,X,),(3-6),神经元的数学模型,3.1.3.1,人工神,经元模型,11/15/2024,22,神经元的转移函数,(1),阈值型转移函数,1 x,0,f,(,x,),=,(3-7),0 x0,3.1.3.1,人工神,经元模型,11/15/2024,23,(2),非线性转移函数,神经元的转移函数,(3-8),3.1.3.1,人工神,经元模型,11/15/2024,24,(3),分段线性转移函数,0,x,0,f,(,x,),=,cx,0,x,x,c,(3-9),1,x,c,x,神经元的转移函数,3.1.3.1,人工神,经元模型,11/15/2024,25,层次型结构,3.1.3.2,人工神,经网络模型,按神经元连接方式分类,11/15/2024,26,输出层到输入层有连接,3.1.3.2,人工神,经网络模型,按神经元连接方式分类,11/15/2024,27,层内有连接的层次型结构,3.1.3.2,人工神,经网络模型,按神经元连接方式分类,11/15/2024,28,全互连型结构,按神经元连接方式分类,3.1.3.2,人工神,经网络模型,11/15/2024,29,按网络信息流向分类,前馈型网络,3.1.3.2,人工神,经网络模型,11/15/2024,30,反馈型网络,按网络信息流向分类,3.1.3.2,人工神,经网络模型,11/15/2024,31,神经网络能够通过对样本的学习训练，不断改变网络的连接权值以及拓扑结构，以使网络的输出不断地接近期望的输出。这一过程称为神经网络的学习或训练，其本质是可变权值的动态调整。,3.1.3.3,人工神,经网络的学习,11/15/2024,32,神经网络的学习算法,：,有导师学习,(,有监督学习,),无导师学习,(,无监督学习,),3.1.3.2,人工神,经网络模型,11/15/2024,33,3.1.3.2,人工神,经网络模型,11/15/2024,34,