A神经网络神经网络控制论引论与辨识

,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,单击此处编辑母版标题样式,第五章：神经网络控制论,第一节引言,一、神经网络控制的优越性,从控制角度看，神经网络用于控制的优越性主要表现为：,神经网络的智能处理能力及控制系统所面临的愈来愈严重的挑战是神经网络控制的发展动力。由于神经网络本身具备传统的控制手段无法实现的一些优点和特征，使得神经网络控制器的研究迅速发展。,1,2）,并行,分布式信息处理方式，具有很强的容错性。在处理实时性要求高的系统显示出极大的优越性。,1）处理那些,难以,用模型或规则描述的过程或系统。用神经网络理论来研究和模仿人类的活动是相当有潜力的。,3）本质的,非线性,系统。它可以实现任何非线性映射。而在非线性系统的控制中有很大前途。,2,5）,硬件实现,愈趋方便。大规模集成电路技术的发展为神经网络的硬件实现提供了技术手段。,4）具有很强的,信息综合,能力。它能够同时处理大量不同类型的输入。利用此功能人们可以有效地进行信息的融合。,3,神经网络控制系统设计中的应用一般分为两类，一类称,神经控制,，它是以神经网络为基础而形成的独立智能控制系统；,二、神经网络控制器分类,另一类称为,混合神经网络控制,，它代表着那些利用神经网络学习和优化能力来改善传统控制的现代控制方法。如,自适应神经控制,等。 综合目前各国专家的分类法，将一些典型的神经网络的控制结构和学习方式归结为以下七类。,4,（1）导师指导下的控制器神经网络控制结构的学习样本直接取自于,专家的控制经验,。结构示意图如图5-1所示：,神经网络的输入信号来自传感器的信息和命令信号。神经网络的输出就是系统的控制信号。,动力学系统,专家经验控制器,神经网络,动力学系统,图5-1导师指导下的神经控制结构图,一旦神经网络的训练达到能够充分描述人的控制行为，则网络训练结束。,5,（2）逆控制器。 如果一个动力学系统可以用一个逆动力学函数来表示，则采用简单的控制结构和方式是可能的。如下所示。,图5-2逆控制器的结构图,神经网络,动力学系统,动力学系统,6,神经网络的训练器,目的,就是为了逼近此系统的逆动力学模型。,神经网络接受系统被控状态信息，神经网络的输出与该被控制系统的控制信号,之差,作为,调整神经网络权系数,的校正信号，并可利常规的BP学习算法（改进的算法更佳）来进行控制网络的训练。,一旦训练成，即要实现期望的控制输出只要将此信息加到神经网络的输入端就可以。,7,（3）自适应网络控制器,下图给出了自适应网络控制器的系统结构。,将控制误差（实际系统的输出与参考模型的输出之差）反馈到控制器中去并利用它对控制器特性进行修正最终使其误差趋于极小。,网络控制器,神经网络,非线性系统,参考模型,图5-3自适应网络控制器结构图,8,自适应网络控制器有两个控制结构；一是,直接自适应网络,控制结构；二是,间接自适应网络,控制结构。直接自适应网络控制结构是将系统误差信号直接用于神经控制器的自适应调整。但目前还没有一种可行的方法来解决未知动力学模型的控制问题。间接自适应网络控制结构利用神经网络辨识器和神经网络控制器代替经典控制结构中的辨识模型和控制器，使得系统的学习和控制能够实现。,9,（4）神经内模控制结构,此控制结构，在反馈回路中直接使用系统的前向模型和逆模型。如下图所示。,神经网络控制器C,非线性系统,神经网络模型M,图5-4神经网络内模控制结构图,10,在内模控制结构中，与实际系统并行的网络模型一并建立，系统实际输出与模型的输出信号差用于反馈的目。这个反馈信号通过前向通道上的控制子系统预处理，通常 是一个滤波器，用于提高系统的鲁棒性。系统模型和由神经网络来实现。,11,（5）前馈控制结构,基于鲁棒性问题而提出来的。,通常单纯的求逆控制结构不能很好地起到抗干扰能力，而结合反馈控制的思想组成前馈补偿器的网络控制结构,图5-5前馈补偿控制结构图,反馈控制的目在在于提高抗随机扰动的能力，而控制器的非线性成分将由网络控制器完成。此控制器设计的主要困难是如何找到一种有效的学习方法实现对系统模型未知条件下网络控制在线学习。,反馈控制,神经网络,非线性控制,12,（6）,自适应评价网络,整个学习系统由一个相关的搜索单元和一个自适应评价单元组成。在这个算法中，相关搜索单元是作用网络，自适应评价单元为评价网络。不需要控制系统数学模型，只是通过对某一指标准则的处理和分析得到奖励或惩罚信号。,（7）,混合控制系统,由神经网络技术与模糊控制、专家系统等结合形成的一种具有很强学习能力的智能控制系统，它集人工智能各分支的优点，使系统同时具有学习、推理和决策能力成为智能控制的最新发展方向。,13,三、神经网络的逼近能力,在研究控制系统的神经网络辨识和控制时，首先要搞清楚到底什么样的被控系统可以用神经网络来描述。,本节只介绍一种比较成熟的多层前向传播神经网络的逼近能力。由于这种神经网络广泛用于控制系统的辨识和控制中，所以对它的进一步研究必将具有重要意义。,本节将回答多层前向传播神经网络是否只是一般的个例经验性的成功,。,14,1988年结论3单层隐含层前向传播神经网络的映射能力，且对神经元激励函数并不一定是单调S型的限制。结论指出，对于在紧凑集中的任何平方可积函数可以通过有限个隐含神经元组成的二层前向传播神经网络来逼近，并能达到任意的逼近精度。考虑具有单个隐含层的前向传播神经网络其输出属于集合。,1987年结论2前向传播神经网络若含有,两个隐含层,，且神经元激励函数为单调的,S型,函数，则此神经网络能够得到合适的逼近精度。,15,式中，x表示n维输入矢量，表示隐含层第个神经元到输出层权值；表示输入矢量到隐含第个神经元的权值矢量；为隐含层神经元个数；为隐含层神经元特征。,16,这里，我们只考虑仅含一个隐含层的神经元网络。不难看出，只要这样的神经网络能够逼近任意非线性函数，那么，对于含有多个隐含层的神经网络肯定也能逼近任意非线性函数,。,17,为了讨论输出函集合在函数空间中的逼近能力，先引入一些数学定义。其中数学内容略结论：定理5-1若神经元的激励函数是S型连续函数，那么，在中是稠密。 这个定理说明，只要是有限空间中的连续函数，总存在具有上述神经元特征的三层网络，使得其输出函数能够以任意精度逼近。对于连续函数而言，我们已有了明确的结论。那么，对于非连续函数是否也有类似的神经网络来逼近它呢？如果能够实现这样的逼近，则结论该如何？结论是多层前向传播神经网络可以逼近任意连续函数和分段连续函数。,18,第二节非线性动态系统的神经网络辨识,一、神经网络的辨识基础 辨识是在输入和输出数据的基础上，从一组给定的模型中，确定一个与所测系统等价的模型。,辨识具有三个基本要素：1）输入/输出数据指能够量测到的系统的输入/输出。2）模型类指所考虑的系统的结构。3）等价准则指辨识的优化目标。,19,从实用的观点看，辨识就是从一组模型中选择一个模型，按照某种准则，使之能最好地拟合所关心的实际系统的动态或静态特性。,下图给出了常见的辨识结构。神经网络辨识就是从神经网络模型中选择一个模型来逼近实际系统模型。,被控对象,辨识模型,图5-7神经网络辨识结构,20,使用非线性系统的输入输出数据来训练神经网络可认为是非线性函数的逼近问题。逼近理论是一种经典的数学方法。 多项式函数和其它逼近方法都可以逼近任意的非线性函数。但这些方法不如神经网络方法。所以神经网络方法发展较快。本章我们选择多层前向传播网络为辨识模型类，神经网络辨识要考虑以下三大因素。,21,2、输入信号的选择为了能够有效地对未知系统进行辨识，输入信号必须满足,一定的条件,。即在辨识时间内要求输入信号持续激励系统。即充分激励系统的所有模态。,1、模型的选择在建立实际系统中的模型时，存在着,精确性和复杂性,这一对矛盾。在神经网络中辨识这一问题上主要表现为网络隐含层数的选择和隐含层内节点的选择。要实现精度和复杂性这一折衷方案的唯一途径是进行多次仿真实验。,22,通常记作：其中是误差矢量 的函数，用得最多的是平方函数，即它是衡量模型接近实际系统程度的标准。这里误差指的是广义误差，既可以表示输出误差又可以表示输入误差甚至是两种误差函数的合成。,3、误差准则的选,择,23,神经网络辨识具有以下五个特点：,1）神经网络本质上已作为一种辨识模型，其可调参数反映在网络内部的极值上。,2）对本质的非线性系统进行辨识。网络内部隐含着系统的特性，辨识是通过网络外部输入/输出来拟合系统的输入/输出。,3）辨识的收敛速度不依赖于辨识系统的维数，只与神经网络本身所采用的学习算法有关。这与传统辨识不同。,4）神经网络具有大量的连接，这些连接权值在辨识中对应着模型参数。通过调节这些权值使用网络输出逼近系统输出。,5）神经网络作为实际系统的辨识模型，实际上也是系统的一个物理实现，可用于在线控制,。,24,二、神经网络辨识模型的结构非线性动力学系统的神经网络建模问题根据模糊表示方式不同，主要有两大类：前向建模逆模糊法。所谓前向建模指的是利用神经网络来逼近非线性系统的前向动力学模型。其结构图如下：,25,非线性系统,TDL,TDL,TDL,神经网络N,学习规则,图5-8前向建模示意图,26,其中TDL表示延迟抽头，神经网络模型在结构上与实际系统并行。网络训练的导师信号直接利用系统的实际输出与网络输出的误差作为网络训练的信号。目前，对于动态系统的建模有两种方法。一种是把系统动力学特性直接引入到网络本身中来，如回归网络模型和动态神经元模型，另一种方法是在网络输入信号中考虑系统的动态因素，即将输入-输出的.滞后信号加到网络输入中来，从而保证网络的输出含有先前的输入、输出信息，模拟离散的动态系统。由于多层前向传播网络具备良好的学习算法，故动态系统的这一建模方法往往选择前向多层传播网络。不失一般性，考虑这样一类非线性离散,动态系统。,27,当前k+1时刻的系统输出依赖于过去时刻的n个输出值和过去m个控制值，比较直观的一种建模方法是选择神经网络的输入输出结构与系统的结构一致，即也使神经网络的输出为,一般来说，针对同一非线性离散动态系统，用神经网络来辨识系统也是相当复杂的，即可能有多种神经网络结构来逼近此系统模型。前向建模方法建立起来的神经网络模型表示的系统是从系统的输入u经过前向网络传播后输出Y。,这种方法确实反映了系统动力学模型的输入出关系，然而，在大多数基于神经网络控制的非线性系统中，往往选考虑动态系统的逆模型。因此如何建立非线性系统的逆动力模型对于以后将讨论的神经控制是至关重要的，因此有必要先分折一下逆模型法。,28,逆模型建立的最直接的方法是将系统输出作为网络的输入，将网络输出与其期望输出即系统输入进行比较得到的误差作为神经网络训练的信号，如下图图5-9逆模型直接法示意图但是这种逆模型建模方法在实用上并不理想。其主要原因在于此方法存在以下缺陷。,神经网络N,TDL,非线性系统,学习规则,TDL,29,1）学习过程不一定是目标最优的。因为神经网络无法完全表示整个非线性系统的特性（样本无法无限地取得）因此只是局部的逼近。2）一旦非线性系统的对应关系不是一对一的，那么不准确的逆模型可能会被建立。,逆模型网络N,非线性系统,前向神经网络N,克服缺陷1）的方法，可采用下图所示的逆模型建模结构。 图5-10实用逆模型建模图,30,在这种结构中，逆模型的输入可以遍及整个系统的输入空间。由于它的指导思想和学习方法与神经控制器有相近之处，后面第三节再讨论。选择非线性系统的辨识模型和控制模型仍然是一个困难的问题。,31,三、非线性动态系统的神经网络辨识,非线性离散时间动态系统模型是非常重要的，其神经网络辨识对系统的建模至关重要。为了减小神经网络模型的复杂程度。神经网络也应有其最佳的辨识模型结构。归纳起来，非线性离散时间动态系统一般有以下四种类型。,32,其中分别为适当的非线性函数。表示在时刻的输入-输出对。为了能够利用神经网络对如上四种类型的系统进行辨识。假定：线性部分的阶次已知。,33,系统是稳定的，即对于所有给定的有界输入其输出响应必定也是有界的。反映在模型1上要求线性部分的特征多项式的根应全部位于单位圆内。系统是最小相位系统，反映在模型2上要求 的零点全部位于单位圆内。 与可量测。 以下研究的是线性部分的参数未知情况的辨识。采用最小二乘辨识算法和BP学习算法，结合模型2和模型3的特点提出了一种新的神经网络辨识结构如下图。,34,模型1,TDL,神经网络W,TDL,线性部分 a,图5-13模型 1 的辨识结构,35,设线性部分未知参数用矢量表示，非线性部分的神经网络模型参数用阵表示，则对于模型1的混合递推辨识算法可归结为,36,式中，为前一隐含层的神经元下标变量。针对模型1，特别要注意的是由于线性模型和非线性模型的期望输出和 在这里都是未知的，已知的只是两个模型的输出之和。而它们的期望值应该是系统在当前时刻的实际输出矢量值。因此在实际对如上算法计算时可交替使用和 去近似地代替 。在一定条件下（即可用神经网络逼近非线性函数）可以保证如上算法随着学习过程的进行而逐步逼近真实参数。其中，表示迭代学习的下标量，表示系统的时间变量。,37,下面的仿真例子可以进一步说明本节提出的混合学习辨识结构是稳定的。例5-1考虑如下非线性离散系统在此仿真例子中，取：对于这个可分离系统，待辨识的参数由线性部分的系数 和非线性函数两部分组成。其中性部分采用最小二乘学习法、非线性部分 采用前向传播多层神经网络来逼近，且选择神经网络结构为，即一个神经网络输入单元,38,一个输出单元、两层隐含层其隐含单元分别为8个和4个。神经网络的辨识结构模型如图5-11所示，取初始估计遗忘因子那么，经过780次学习后，其辨识模型输出与实际系统输出的平方误差少于0.0818。线性部分的参数估计值为：整个学习过程的收敛曲线由图5-14给出。,均方误差,39,为了进一步说明此辨识模型的有效性，对其进行了模型校验。取模型校验输入信号为则辨识模型和实际系统的输出响应曲线如下图。其中实线表示实际系统输出，“”表示辨识模型的系统响应。,40,