神经网络控制及应用基础课件

第三章第三章 人工神经网络人工神经网络控制及应用控制及应用2024/7/132人工神经网络定义人工神经网络定义 人人工工神神经网网络是是一一个个由由许多多简单的的并并行行工工作作的的处理理单元元组成成的的系系统，其其功功能能取取决决于于网网络的的结构、构、连接接强度以及各度以及各单元的元的处理方式。理方式。人人工工神神经网网络是是一一种种旨旨在在模模仿仿人人脑结构构及及其其功能的信息功能的信息处理系理系统。神神经经网网络络是是由由多多个个非非常常简简单单的的处处理理单单元元彼彼此此按按某某种种方方式式相相互互连连接接而而形形成成的的计计算算系系统统，该该系系统统是是靠靠其其状状态态对对外外部部输输入入信信息息的的动动态态响响应应来来处处理信息的。理信息的。2024/7/1333.1.13.1.1神经网络的基本特征与功神经网络的基本特征与功能能结构特征：结构特征：并行式处并行式处理理分布式存分布式存储储容错性容错性能力特征：能力特征：自学习自学习自组织自组织自适应性自适应性 3.1.1 神经网络的基本特征与功神经网络的基本特征与功能能联联想想记记忆忆功功能能2024/7/135非线性映射功能非线性映射功能 3.1.1 神经网络的基本特征与功神经网络的基本特征与功能能2024/7/136分类与识别功能分类与识别功能 3.1.1 神经网络的基本特征与功神经网络的基本特征与功能能2024/7/137优化计算功能优化计算功能 3.1.1 神经网络的基本特征与功神经网络的基本特征与功能能2024/7/138知识处理功能知识处理功能 3.1.1 神经网络的基本特征与功神经网络的基本特征与功能能3.1.2 生物神经元及其信息处生物神经元及其信息处理理生物神经元生物神经元人工神经元模型人工神经元模型10 人人类类大大脑脑大大约约包包含含有有1.4 1011个个神神经经元元，每每个个神神经经元元与与大大约约10103 310105 5个个其其它它神神经经元元相相连连接接，构构成成一一个个极极为为庞庞大而复杂的网络，即生物神经网络。大而复杂的网络，即生物神经网络。3.1.2 生物神经元及其信息处生物神经元及其信息处理理2024/7/1311 神经生理学和神经解剖学的研神经生理学和神经解剖学的研究结果表明究结果表明，神经元，神经元(Neuron)(Neuron)是是脑组织的基本单元，是人脑信息脑组织的基本单元，是人脑信息处理系统的最小单元。处理系统的最小单元。3.1.2 生物神经元及其信息处生物神经元及其信息处理理2024/7/13123.1.2.1生物神经元的结构生物神经元的结构 生物神经元在结构上由生物神经元在结构上由 细胞体细胞体(Cell body)树突树突(Dendrite)轴突轴突(Axon)突触突触(Synapse)四部分组成。用来完成神经元间信息的四部分组成。用来完成神经元间信息的接收、传递和处理。接收、传递和处理。3.1.2 生物神经元及其信息处生物神经元及其信息处理理2024/7/13132024/7/13142024/7/13153.1.2.2 生物神经元的信息处理机生物神经元的信息处理机理理信息的产生信息的产生 神神经经元元间间信信息息的的产产生生、传传递递和和处处理理是是一种电化学活动。一种电化学活动。神经元状态：神经元状态：静息静息兴奋兴奋抑制抑制 膜电位：膜电位：极极 化化去极化去极化超极化超极化2024/7/1316信信息息的的传传递递与与接接收收3.1.2.2 生物神经元的信息处理机生物神经元的信息处理机理理2024/7/1317信息的整合信息的整合空间整合：空间整合：同一时刻产生的刺激所引起的同一时刻产生的刺激所引起的膜电位变化，大致等于各单独刺激引起的膜电位变化，大致等于各单独刺激引起的膜电位变化的代数和。膜电位变化的代数和。时间整合：时间整合：各各输入脉冲输入脉冲抵达神经元的时间抵达神经元的时间先后不一样。先后不一样。总的突触后膜电位为一段时总的突触后膜电位为一段时间内的累积。间内的累积。3.1.2.2 生物神经元的信息处理机生物神经元的信息处理机理理2024/7/13183.1.2.3 生物神经网络生物神经网络 由多个生物神经元以确定方式和拓扑结构由多个生物神经元以确定方式和拓扑结构 相互连接即形成生物神经网络。相互连接即形成生物神经网络。生物神经网络的功能不是单个神经元信息生物神经网络的功能不是单个神经元信息 处理功能的简单叠加。处理功能的简单叠加。神经元之间的突触连接方式和连接强度不神经元之间的突触连接方式和连接强度不 同并且具有可塑性，这使神经网络在宏观同并且具有可塑性，这使神经网络在宏观 呈现出千变万化的复杂的信息处理能力。呈现出千变万化的复杂的信息处理能力。2024/7/13193.1.3人工神人工神经元模型及人工神经网络经元模型及人工神经网络模型模型 神神神神经经经经元元元元及及及及其其其其突突突突触触触触是是是是神神神神经经经经网网网网络络络络的的的的基基基基本本本本器器器器件件件件。因因因因此此此此，模模模模拟拟拟拟生生生生物物物物神神神神经经经经网网网网络络络络应应应应首首首首先先先先模模模模拟拟拟拟生生生生物物物物神神神神经经经经元元元元。在在在在人人人人工工工工神神神神经经经经网网网网络络络络中中中中，神神神神经经经经元元元元常常常常被被被被称称称称为为为为“处处处处理理理理单单单单元元元元”。有有有有时时时时从从从从网网网网络络络络的的的的观观观观点点点点出出出出发发发发常常常常把把把把它它它它称称称称为为为为“节节节节点点点点”。人人人人工工工工神神神神经经经经元元元元是是是是对对对对生生生生物物物物神神神神经经经经元的一种形式化描述。元的一种形式化描述。元的一种形式化描述。元的一种形式化描述。2024/7/13203.1.3.1 人工神人工神经元模型经元模型神神经经元元模模型型示示意意图图2024/7/1321神神经经元元的的数数学学模模型型ij 输入输出间的突触时延；输入输出间的突触时延；Tj 神经元神经元j的阈值；的阈值；wij 神经元神经元i到到 j 的突触连接系数或称的突触连接系数或称 权重值；权重值；f()神经元转移函数。神经元转移函数。(3-1)(3-2)3.1.3.1 人工神人工神经元模型经元模型2024/7/1322(3-3)netnetj j=W Wj jT TX X (3-4)(3-4)W Wj j=(=(w1 w2 wn)T T X=X=(x1 x2 xn)T T 令令x0=-1，w0=Tj，则有则有-Tj=x0w03.1.3.1 人工神人工神经元模型经元模型神神经经元元的的数数学学模模型型2024/7/1323(3-5)oj=f(netj)=f(W Wj jT TX X)(3-6)(3-6)神神经经元元的的数数学学模模型型3.1.3.1 人工神人工神经元模型经元模型2024/7/1324神神经经元元的的转转移移函函数数(1)阈值型转移函数阈值型转移函数 1 x0f(x)=(3-7)0 x03.1.3.1 人工神人工神经元模型经元模型2024/7/1325(2)非线性转移函数非线性转移函数神神经经元元的的转转移移函函数数(3-8)3.1.3.1 人工神人工神经元模型经元模型2024/7/1326(3)分段线性转移函数分段线性转移函数 0 x0f(x)=cx 0 0 xxc (3-9)1 xc x 神神经经元元的的转转移移函函数数3.1.3.1 人工神人工神经元模型经元模型2024/7/1327层次型结构层次型结构3.1.3.2 人工神人工神经网络模型经网络模型按按神神经经元元连连接接方方式式分分类类 2024/7/1328输出层到输入层有连接输出层到输入层有连接3.1.3.2 人工神人工神经网络模型经网络模型按按神神经经元元连连接接方方式式分分类类 2024/7/1329层内有连接的层次型结构层内有连接的层次型结构3.1.3.2 人工神人工神经网络模型经网络模型按按神神经经元元连连接接方方式式分分类类 2024/7/1330全互连型结构全互连型结构按按神神经经元元连连接接方方式式分分类类 3.1.3.2 人工神人工神经网络模型经网络模型2024/7/1331按按网网络络信信息息流流向向分分类类前馈型网络前馈型网络3.1.3.2 人工神人工神经网络模型经网络模型2024/7/1332反馈型网络反馈型网络按按网网络络信信息息流流向向分分类类3.1.3.2 人工神人工神经网络模型经网络模型2024/7/1333 神经网络能够通过对样本的学习训练，神经网络能够通过对样本的学习训练，不断改变网络的连接权值以及拓扑结构，不断改变网络的连接权值以及拓扑结构，以使网络的输出不断地接近期望的输出。以使网络的输出不断地接近期望的输出。这一过程称为神经网络的学习或训练，其这一过程称为神经网络的学习或训练，其本质是可变权值的动态调整。本质是可变权值的动态调整。3.1.3.3 人工神人工神经网络的学习经网络的学习2024/7/1334 神经网络的学习算法神经网络的学习算法：有导师学习有导师学习(有监督学习有监督学习)无导师学习无导师学习(无监督学习无监督学习)3.1.3.2 人工神人工神经网络模型经网络模型2024/7/13353.1.3.2 人工神人工神经网络模型经网络模型后面内容直接删除就行资料可以编辑修改使用资料可以编辑修改使用资料仅供参考，实际情况实际分析主要经营：课件设计，文档制作，网络软件设计、图文设计制作、发布广告等秉着以优质的服务对待每一位客户，做到让客户满意！致力于数据挖掘，合同简历、论文写作、PPT设计、计划书、策划案、学习课件、各类模板等方方面面，打造全网一站式需求The user can demonstrate on a projector or computer,or print the presentation and make it into a film to be used in a wider field