人工智能鱼——典型模型与算法课件

,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,人工智能鱼,典型模型与算法,人工智能鱼典型模型,1.,人工智能鱼体系结构模型概述,2.,人工智能鱼感知系统模型,主讲内容,3.,人工智能鱼认知系统模型,4.,人工智能鱼行为系统模型,5.,人工智能鱼运动系统模型,6.,海底虚拟环境模型,7.,经典人工智能技术介绍,1.人工智能鱼体系结构模型概述2.人工智能鱼感知系统模型主讲,1.,人工鱼体系结构模型概述,机器鱼演示,涂晓媛鱼演示,1.人工鱼体系结构模型概述机器鱼演示,涂晓媛鱼建模框架结构,涂晓媛鱼建模框架结构,基于认知模型的人工鱼组成,(,班哓娟,),基于认知模型的人工鱼组成 (班哓娟),感知系统,:,信息获取系统,包括一组感受器、感知处理器模块和信息融合模块。人工鱼具有视觉、嗅觉、味觉、触觉、听觉感受器，在同一时刻，不同的感受器得到不同的环境状态信息，各种感受器将感知到的信息预处理后再经过聚焦融合，为后续的信息处理和行为决策做准备。,认知系统,:,信息处理系统，以感知系统的输出为输入，对感知信息进行处理，作出行为决策，传递给行为系统来执行。,感知系统:,行为系统,:,行为规划的执行机构，直接作用于环境。有一组行为程序，是高层的行为，如集群行为。,运动系统,:,由运动控制器和物理模型构成。运动控制器作为构建行为的模块，由参数化进程实现。如逃逸行为，是有合适参数的运动控制器序列，按照特定意义的次序，进行创作而表现出来的。,物理模型是利用自然鱼的数字图像和三维几何显示模型“包装”人工鱼的生物力学模型。,行为系统: 行为规划的执行机构，直接作用于环境。有,2.,人工智能鱼感知系统模型,2.1,基于,BP,神经网络的视觉感受器模型,(1),感知范围,（班哓娟，,2004,）,2.人工智能鱼感知系统模型2.1基于BP神经网络的视觉感受器,(2),视觉遮挡,(2) 视觉遮挡,(3),特征提取与选择,a.,提取目标区域中每个像素的红、绿、蓝三个值,并分别计算所有像素红、绿、蓝的平均值,R,G,B,作为三个特征量（用于区分,人工鱼、食物、水草,）。,R,G,B,的计算公式为,:,式中,R,i,G,i,B,i,为目标区域中每个像素的红、绿、蓝值，,N,为目标区域的,像素数目。,(3) 特征提取与选择a. 提取目标区域中每个像素的红、绿、,b.,目标区域中所有像素红、绿、蓝的方差值,R, G, B,作为另三个特征量（用于识别,是否存在着花纹,）,. R, G, B,的计算公式如下,:,b. 目标区域中所有像素红、绿、蓝的方差值R, G, B,c.,紧凑性参数，体现形状特征（区别食物）：,式中，,P,为目标区域的周长，,A,为目标区域的面积。目标区域为圆形时，,C,值为,1,；为其它形状时，,C,值大于,1,。,d.,目标区域面积,A,通过对目标区域像素数目求和获得,(,区分水草是否茂盛,),c. 紧凑性参数，体现形状特征（区别食物）： 式,(4),构建基于,BP,人工神经网络的分类器,R,食物,输出层,隐藏层,输入层,G,水草,背景,A,石头,带花纹的鱼,不带花纹的鱼,(4) 构建基于BP人工神经网络的分类器R食物输出层隐藏层输,2.1,基于模糊推理的人工鱼嗅觉感知模型,嗅觉信号发生器,在虚拟的海洋世界中,任何具有气味的物体,(,食物、鲨鱼、人工鱼、水草）都是一个信号发生器。其可定义为：,（孟宪宇，,2007,）,2.1 基于模糊推理的人工鱼嗅觉感知模型 嗅觉信号发生器（孟,（,2,）人工鱼嗅觉识别框图,（2）人工鱼嗅觉识别框图,（,3,）人工鱼嗅觉识别流程图,：第,i,种信息类别的特征指标,：第,i,种信息类别的权重,（3）人工鱼嗅觉识别流程图：第i种信息类别的特征指标：第i种,（,4,）人工鱼嗅觉中枢模式识别方法,多元统计分析中的主成分分析法（,PCA,）,人工神经网络（,ANN,）,偏最小二乘法（,PLS,）,模糊逻辑推理,（4）人工鱼嗅觉中枢模式识别方法多元统计分析中的主成分分析法,2.3,基于模糊神经网络的人工鱼味觉感知模型,（孟宪宇，,2008,）,2.3基于模糊神经网络的人工鱼味觉感知模型（孟宪宇，2008,人工鱼味觉感知过程,人工鱼味觉感知过程,人工鱼味觉识别模糊神经网络模型,人工鱼味觉识别模糊神经网络模型,3.,人工智能鱼认知系统模型,人工鱼行为,预定义行为：,建立预定义行为的认知模型，只要将事先定义好的人工鱼所在环境的领域知识赋予人工鱼系统，人工鱼就可以根据人们的要求采取某种行动。,随意性行为：,随意性的行为不容易控制。为了实现人为的控制，采取的是一种折中的方法，即将领域知识和人的指导赋予人工鱼，使人工鱼主动地向人们希望它达到的目标发展。,例如：若有障碍物或礁石，小人工鱼可以利用礁石来躲避，或尽可能快逃离鲨鱼。,例如：饥饿的鲨鱼要吃小人工鱼，小人工鱼必须设法逃避。,（班哓娟，,2004,）,3.人工智能鱼认知系统模型预定义行为：建立预定义行为的认知模,人工鱼产生交配欲望的认知模型,人工鱼的生理发育模型,人工鱼精神状态模型,人工鱼产卵的认知模型,人工鱼环境选择的认知模型,3.1,预定义行为的认知模型,人工鱼产生交配欲望的认知模型3.1 预定义行为的认知模型,人工鱼的生理发育模型,基于在理论生物学的基础上提出的生长法则,VBGF,模型来建立人工鱼的生理发育函数，,VBGF,得到的是鱼的体重和长度随全程生长的变化值。,定义人工鱼的生理发育函数,D(,t,),在闭区间,0,1,上取值。忽略环境等次要因素的影响，认为人工鱼的发育函数,D,是只同时间和人工鱼的自然寿命长短相关的函数，,D(,t,),由以下公式给出：,其中a表示由遗传基因决定的某条鱼的寿命，k为生理发育系数，k,0,为常数,人工鱼的生理发育模型基于在理论生物学的基础上提出的生长法则V,人工鱼的生理发育模型,当k=8.47,k,0,=0.015时，其生理发育模型函数如右图：,人工鱼的发育曲线在生命初期呈快速上升趋势，在仿真程序中，当人工鱼的生理发育函数,D,0.7时，表示人工鱼发育成熟，具有了繁殖能力，在条件成熟时，能够交配产生后代。其它时间是生长期或衰老期，不适合繁殖。,人工鱼的生理发育模型当k=8.47,k0=0.015时，其生,人工鱼精神状态模型,摄食欲望函数,其中，,t,表示时间，,u,表示人工鱼平均消耗的食物量，可通过计算食物颗粒数或被捕食鱼数目的减少量来计算。其中0, 1,是消化率，不同的人工鱼 的取值不同，t是自从上次进食以来的时间。,C,是表明鱼的胃口大小，,C,值与鱼的大小有关：,C,为摄食量，W为鱼体重,(,动画中可为鱼体长,),，,a,，,b,为常数。,b,一般情况下不小于,1,。随着鱼体增长，食物重量与体重的相对比例下降。,人工鱼精神状态模型摄食欲望函数,人工鱼精神状态模型,性欲函数,其中，,t,表示时间，,1,是常数，t是从上次交配以来的时间间隔，,1,t表示性欲强弱，时间间隔越长，性欲越强。,S(,t,),是时刻,t,的摄食欲望函数，摄食欲望较低时，才可能产生性欲。当人工鱼的性欲函数值接近,1,时，性欲最强。,人工鱼精神状态模型性欲函数,人工鱼精神状态模型,恐惧感函数,其中,恐惧感,F,的值在闭区间0,1中变化，,D,o=,200,是一个常数；,F,i和,d,i分别表示对所发现的捕食者,i,的恐惧感和距离。,人工鱼精神状态模型恐惧感函数,人工鱼产卵的认知模型,鱼类繁殖方式根据产出幼体的形式可以分为卵生、胎生和卵胎生。,不同的鱼繁殖力不同。鱼类的繁殖力是指雌鱼产出的、受精之后存活的卵的数目。,一般情况下，繁殖力的大小同体长相关。如公式所示：,其中，,F,为绝对繁殖力，,L,为体长，,a,，,b,为常数。不同的鱼,a,，,b,的值不同，a为表示鱼种类的参数，,b,为喂养好坏的标示，喂养好的鱼类繁殖力高。,人工鱼产卵的认知模型鱼类繁殖方式根据产出幼体的形式可以分为卵,人工鱼产卵的认知模型,人工鱼产卵的认知模型,人工鱼环境选择的认知模型,人工鱼进行环境选择的原因很多。为了简单地表现动画，只选取其中的两个原因：食物和捕食者建模。人工鱼对环境的选择是平衡食物和捕食者两个因素的结果。如公式所示：,F(t),表示在时刻,t,人工鱼能感知的生活环境中的食物量；,P(f),表示在时刻,t,人工鱼能感知的生活环境中的捕食者数量。 并不表示简单算术加和，而是基于某种原则之上的综合，其实质是一个综合算法。,人工鱼环境选择的认知模型人工鱼进行环境选择的原因很多。为了简,3.2,随意性行为的认知模型,面向目标的行为,情景树,(Situation Tree),对情景树的子集进行搜索,面向自繁衍的人工鱼的行动框架,3.2 随意性行为的认知模型,面向目标的行为,描述面向目标行为的第一步是引出定义认知角色目标的方法。例如，人工鱼的目标是产卵：,显然，人工鱼在任何情况s下，都将完成产卵的任务，因为产卵的,goal(s,),为真。我们知道任何状态可能是初始状态,S,0,或是其它状态,s,=do(,an-1,.,do(a,0,s,0,).)。如果目标不为真，那么人工鱼必须搜索一个行动序列a,0,.,a,n-1,来完成目标：,面向目标的行为描述面向目标行为的第一步是引出定义认知角色目标,情景树,(Situation Tree),为了说明人工鱼如何能够自动得到完成目标的行动序列，引入情景树。可以将行动和影响看成是描述未来可能状态的树，树根是初始状态机树的每个分支是一个行动，每一个节点是一个状态。,情景树(Situation Tree)为了说明人工鱼如何能够,4.,人工智能鱼行为系统模型,（,1,）个体行为程序,躲避障碍物、进食、求偶、离开等。,（,2,）鱼群自组织模型,鱼群形成流程,鱼群运动模型,鱼群觅食模型,群体逃逸算法,（班哓娟等,.,人工鱼群高级行为的自组织算法与实现,.2007,年,),4. 人工智能鱼行为系统模型（1）个体行为程序（班哓娟等.人,人工智能鱼典型模型与算法课件,行为建模准则,a. 行为优先权：例如躲避危及生命的行为，应该优先于其它行为；,b. 行为的持续性（或延时性），以便动物的行为不发生抖动；,c. 折衷行动；,d. 机遇：意味着正在进行的行为的临时中断，而另一个行为随即发生，这种行为目前可能有利于该动物；,e. 快速反应时间,行为建模准则,路径规划,可利用人工势场法、模糊逻辑算法以及遗传算法来实现。,人工势场法其控制结构简单，便于底层的实时控制，广泛地用于机器人实时避障、轨迹跟踪控制以及路径规划中。,模糊逻辑算法由于需要根据实时的传感信息，基于经验或是规则信息实现局部路径规划，但是由于其对专家经验的依赖比较高，对于未知系统难于得到模糊控制规则。因此限制了模糊控制算法的使用。,遗传算法是一种多点搜索的算法能够搜索到全局最优解，但是其运算速度不高，进行众多的规划需要占据较大的存储空间和较多的运算时间,。,路径规划 可利用人工势场法、模糊逻辑算法以及遗传算法,5.,人工智能鱼运动系统模型,5. 人工智能鱼运动系统模型,5.1,形态与外观模型NURBS,鱼体表面由,2,个并列的,NURBS,（非均匀有理,B,样条）曲面构建,沿,u,v,的三次曲面，则控制点共计有,v*u,个。,NURBS曲面有如下形式：,其中， 是控制多面体的控制顶点， 是权因子， 是B样条函数,B样条函数可以通过如下公式递归得到：,其中,5.1 形态与外观模型NURBS鱼体表面由2个并列的NU,形态与外观模型控制点网,形态与外观模型控制点网,获取纹理,可变形网,描绘纹理模型,获取纹理,5.2,生物力学模型,采用可变形的“质点-弹簧-阻尼”系统来构建人工鱼的动态模型，其中：,“质点-弹簧-阻尼”模型是一种简单的、离散的机械结构，适用于非线性、非刚性的动力学问题。,“弹簧-阻尼”是粘弹性单元，可同时作为几何模型和变形控制的基本单元,某些粘弹性单元可以做成会主动收缩的，这样，它们可同时作为简单的肌肉模型,5.2 生物力学模型采用可变形的“质点-弹簧-阻尼”系统来构,5.2,生物力学模型（2）,下图为由,23,个质点和,91,个弹簧,-,阻尼单元所组成的弹簧阻尼模型。黑点表示质点；鱼体外表面质点由交叉的弹簧,-,阻尼元件连接，而其中,12,条粗线为肌肉的可变形单元。,5.2 生物力学模型（2）下图为由23个质点和91个弹簧-阻,5.2,生物力学模型（3）,自然界中的鱼大多为流线型，它们的身体的最大外径正好位于鱼体中部，流线型的身体减少了向前运动时水的阻力，而鱼体中部的大表面引起两侧相当大的水作用力，减轻了侧向的不稳定性。,5.2 生物力学模型（3）自然界中的鱼大多为流线型，它们的身,5.2,生物力学模型生物力学分析,每对弹簧-阻尼形成一个单轴的粘弹性单元，一个粘弹性单元由一个粘性元件与弹性元件并联组成。设S,ij,表示连接质点i和质点j的粘弹性单元，它的弹性常数是C,ij,，粘性常数是k,ij,，静止长度为l,ij,(t),弹性部件的变形是,其中,表示质点i的坐标,5.2 生物力学模型生物力学分析,5.2,生物力学模型生物力学分析（2）,粘弹性单元的弹性单元对质点i的弹性力为,粘弹性单元的粘性单元对质点i的粘性力为,其中,质点,i,和,j,的速率差为,5.2 生物力学模型生物力学分析（2）粘弹性单元的弹性单,5.2,生物力学模型生物力学分析（3）,所以粘弹性单元在质点,i,上的合力为,其中 称为粘弹性单元的有效硬度,5.2 生物力学模型生物力学分析（3）所以粘弹性单元在质,5.2,生物力学模型生物力学分析（4）,广义牛顿运动方程决定了人工鱼的动态模型方程：,其中 表示质点,i,的质量；,表示质点,i,在时刻,t,的加速度；,是质点,i,上的总内力，来源于点,的粘弹性单元，这里 是,i,的相邻质点集合；,是质点,i,上的外力，即水动力。,5.2 生物力学模型生物力学分析（4）广义牛顿运动方程决,5.2,生物力学模型肌肉与水动力学,当鱼尾部摆动的时候，它迫使一部分水运动，被排开的水的惯性会产生垂直鱼体的、鱼单位时间排水量成比例的反作用力，推动鱼体向前运动。,5.2 生物力学模型肌肉与水动力学当鱼尾部摆动的时候，它,5.2,生物力学模型肌肉与水动力学（2）,假设水是无漩涡的、不能压缩的，并且不是很粘稠的流体，同时为了提高效率，我们将质点之间鱼模型的表面视为三角形，对每个三角形，估算其水动力为：,其中 是流体介质的粘度，,A,是三角形的面积， 是鱼体表面向外的单位法线，,v,是鱼体表面和流体之间的相对速率，在三角形中，三个质点的每个质点上的外力各增加了,f/3,。,5.2 生物力学模型肌肉与水动力学（2）假设水是无漩涡的,5.2,生物力学模型数字仿真法,非线性、有阻尼的、弹性动态系统的运动方程，可写成标准的矩阵形式：,其中，,M,，,C,和,K,分别表示质量，阻尼和硬度矩阵，矩阵,M,是主对角线为质点质量,mi,的常数对角矩阵，,C,和,K,是随时间变化的非对角矩阵，这三个矩阵都是,nn,维的，,n,是生物力学模型中的质点数。,矩阵 、 和,X,分别表示质点的加速度矢量、速度矢量和位置，,F,是外力矢量矩阵，这四个矩阵是,n3,维的，每行包含每个矢量的,3,个分量。,由于人工鱼动态系统中粘弹性单元的特殊的性质，上述方程中的阻尼项 和硬度项,K,（,X,）可以很方便的形成有效的硬度矩阵,且有,5.2 生物力学模型数字仿真法非线性、有阻尼的、弹性动态,5.2,生物力学模型数字仿真法（2）,将连续时间分离为时间步,0,，,t,，,，,t,，,t+,t,，,，则有下式：,而近似的有,结合上面,3,个式子，得到关于 的线性方程,其中,最后通过对系统矩阵进行汇集和因子分解以及半隐式仿真算法可以进行仿真。,5.2 生物力学模型数字仿真法（2）将连续时间分离为时间,5.3,运动控制器,九个运动控制器来实现：,游动 swim-MC,左转 left-turn-MC,右转 right-turn-MC,滑行 glide-MC,上浮 ascend-MC,下沉 descend-MC,平衡 balance-MC,制动 brake-MC,后退 backward-MC,5.3 运动控制器九个运动控制器来实现：,6.,海底虚拟环境模型,水流：模拟简化的流场。,海草及浮游生物,动态的海草能对虚拟的水流做出逼真的反应，每一簇海草的叶子是一种“质点,-,弹簧”链。,海草随着引起叶子摆动的模拟海流而漂流。,6. 海底虚拟环境模型水流：模拟简化的流场。,7.,经典人工智能技术介绍,7. 经典人工智能技术介绍,7.1 BP,网络,7.1,基本,BP,算法,7.2,算法的改进,7.3,算法的实现,7.1 BP网络7.1 基本BP算法,2024/8/30,7.1,基本,BP,算法,1.,网络的构成,神经元的网络输入：,神经元的输出：,2023/9/57.1 基本BP算法 1.网络的构成,7.1,基本,BP,算法输出函数分析,1,（,0,0.5,）,net,（,0,0,）,0.5,f (net),0.25,o,0,1,启发：,应该将,net,的值尽量控制在收敛比较快的范围内,可以用其它的函数作为激活函数，只要该函数是处处可导的,7.1 基本BP算法输出函数分析（0,0.5）net,7.1,基本,BP,算法网络的拓扑结构,BP,网的结构,输入向量、输出向量的维数、网络隐藏层的层数和各个隐藏层神经元的个数的决定,实验：增加隐藏层的层数和隐藏层神经元个数不一定总能够提高网络精度和表达能力。,BP,网一般都选用二级网络。,7.1 基本BP算法网络的拓扑结构 BP网的结构,7.1,基本,BP,算法网络的拓扑结构（2）,x,1,o,1,输出层,隐藏层,输入层,x,2,o,2,o,m,x,n,7.1 基本BP算法网络的拓扑结构（2）x1o1输出层隐,7.1.,基本,BP,算法训练过程概述,样本：,(,输入向量，理想输出向量,),权初始化：“小随机数”与饱和状态；“不同”保证网络可以学。,1,、向前传播阶段：,（,1,）从样本集中取一个样本（,X,p,，,Y,p,），将,X,p,输入网络；,（,2,）计算相应的实际输出,O,p,：,7.1. 基本BP算法训练过程概述 样本：(输入向量，,7.1.,基本,BP,算法训练过程概述（2）,2,、向后传播阶段,误差传播阶段：,（,1,）计算实际输出,O,p,与相应的理想输出,Y,p,的差；,（,2,）按极小化误差的方式调整权矩阵。,网络关于第,p,个样本的误差测度：,网络关于整个样本集的误差测度：,7.1. 基本BP算法训练过程概述（2） 2、向后传播,7.1,基本,BP,算法隐藏层权的调整,AN,p,AN,q,AN,h,v,hp,pk-1,1k,w,p1,w,pm,qk,w,pq,mk,第,k-2,层,第,k,层,第,k-1,层,7.1 基本BP算法隐藏层权的调整 ANpANqANh,7.1,基本,BP,算法隐藏层权的调整（2）,pk-1,的值和,1k,，,2k,，,，,mk,有关,不妨认为,pk-1,通过权,w,p2,对,2k,做出贡献，,通过权,w,p1,对,1k,做出贡献，,通过权,w,pm,对,mk,做出贡献。,7.1 基本BP算法隐藏层权的调整（2）pk-1的值和,7.1,基本,BP,算法隐藏层权的调整（3）,即：,7.1 基本BP算法隐藏层权的调整（3）即：,算法,思想,样本集：,S=(X,1,Y,1,),(X,2,Y,2,),(X,s,Y,s,),基本思想 ：,网络根据,(X,1,Y,1,),计算出实际输出,O,1,和误差测度,E,1,，对,W,(1),，,W,(2),，,，,W,(M),各做一次调整；在此基础上，再根据（,X,2,Y,2,）计算出实际输出,O,2,和误差测度,E,2,，对,W,(1),，,W,(2),，,，,W,(M),分别做第二次调整；,；如此下去。本次循环最后再根据（,X,s,Y,s,）计算出实际输出,O,s,和误差测度,E,s,，对,W,(1),，,W,(2),，,，,W,(M),分别做第,s,次调整。这个过程，相当于是对样本集中各个样本的一次循环处理。重复这个循环，直到,E,p, do,4.1 E=0;,BP算法描述 1 for h=1 to M do,4.2,对,S,中的每一个样本（,X,p,Y,p,）：,4.2.1,计算出,X,p,对应的实际输出,O,p,；,4.2.2,计算出,E,p,；,4.2.3 E=E+E,p,；,4.2.4,根据相应式子调整,W,(M),；,4.2.5 h=M-1,；,4.2.6 while h0 do,4.2.6.1,根据相应式子调整,W,(h),；,4.2.6.2 h=h-1,4.3 E=E/2.0,4.2 对S中的每一个样本（Xp,Yp）：,BP,算法的改进,1,、,BP,网络接受样本的顺序仍然对训练的结果有较大的影响。比较而言，它更“偏爱”较后出现的样本,2,、给集中的样本安排一个适当的顺序，是非常困难的。,3,、样本顺序对结果的影响的原因分析：“分别”、“依次”,4,、用,(X,1,Y,1,),，（,X,2,Y,2,），,，（,X,s,Y,s,）的“总效果”修改,W,(1),，,W,(2),，,，,W,(M),。,BP算法的改进 1、BP网络接受样本的顺序仍然对训练的结果有,算法,4-2,消除样本顺序影响的,BP,算法,描述,1 for h=1 to M do,1.1,初始化,W,(h),；,2,初始化精度控制参数,；,3 E=+1;,4 while E do,4.1 E=0;,4.2,对所有的,i,，,j,，,h,：,w,(h),ij,=0,；,算法4-2 消除样本顺序影响的BP算法 描述1 for h,4.3,对,S,中的每一个样本（,X,p,Y,p,）：,4.3.1,计算出,X,p,对应的实际输出,O,p,；,4.3.2,计算出,E,p,；,4.3.3 E=E+E,p,；,4.3.4,对所有,i,，,j,根据相应式子计算,p,w,(M),ij,；,4.3.5,对所有,i,，,j,： ；,4.3.6 h=M-1,；,4.3.7 while h0 do,4.3.7.1,对所有,i,j,根据相应式子计算,p,w,(h),ij,；,4.3.7.2,对所有,i,j,： ；,4.3.7.3 h=h-1,4.4,对所有,i,，,j,，,h,：,;,4.5 E=E/2.0,4.3 对S中的每一个样本（Xp,Yp）：,2024/8/30,72,算法,4-2,分析,较好地解决了因样本的顺序引起的精度问题和训练的抖动问题,收敛速度：比较慢,偏移量：给每一个神经元增加一个偏移量来加快收敛速度,冲量：联接权的本次修改要考虑上次修改的影响，以减少抖动问题,2023/9/572算法4-2 分析 较好地解决了因样本的顺,2024/8/30,73,算法,4-2,分析,冲量设置,Rumelhart,等人,1986,年,w,ij,为上一次的修改量，,为冲量系数，一般可取到,0.9,1987,年，,Sejnowski,与,Rosenberg,给出了基于指数平滑的方法,w,ij,也是上一次的修改量，,在,0,和,1,之间取值,2023/9/573算法4-2 分析冲量设置Rumelh,2024/8/30,74,3.,算法的实现,主要数据结构,WH,，,m,输出层的权矩阵；,Vn,，,H,输入（隐藏）层的权矩阵；,o,m,输出层各联接权的修改量组成的向量；,h,H,隐藏层各联接权的修改量组成的向量；,O,1,隐藏层的输出向量；,O,2,输出层的输出向量；,(X,，,Y),一个样本。,2023/9/5743.算法的实现 主要数据结构,2024/8/30,75,算法的主要实现步骤,用不同的小伪随机数初始化,W,，,V,；,初始化精度控制参数,；学习率,；,循环控制参数,E=+1,；循环最大次数,M,；循环次数控制参数,N=0,；,while E & NM do,4.1 N=N+1,；,E=0,；,4.2,对每一个样本,(X,，,Y),，执行如下操作,2023/9/575算法的主要实现步骤 用不同的小伪随机数初,2024/8/30,76,4.2.1,计算：,O,1,=F,1,（,XV,）；,O,2,=F,2,（,O,1,W,）；,4.2.2,计算输出层的权修改量,for i=1 to m,4.2.2.1 ,o,i=,（,1- O,2,i,）（,Yi-O,2,i,）；,4.2.3,计算输出误差：,for i=1 to m,4.2.3.1,；,2023/9/5764.2.1 计算：O1=F1（XV）；,2024/8/30,77,4.2.4,计算隐藏层的权修改量：,for i=1 to H,4.2.4.1 Z=0,；,4.2.4.2 for j=1 to m do Z=Z+Wi,，,j* ,o,j,；,4.2.4.3 ,h,i=Z,；,4.2.5,修改输出层权矩阵：,for k=1 to H & i=1 to m,4.2.5.1,；,4.2.5,修改隐藏层权矩阵：,for k=1 to n & i=1 to H,4.2.5.1,；,2023/9/5774.2.4 计算隐藏层的权修改量：fo,2024/8/30,78,7.2,Hopfield,网络,网络结构,X,1,X,n,o,1,o,m,2023/9/5787.2 Hopfield网络 网络结构,2024/8/30,79,7.2,Hopfield,网络的组织（2）,联接：神经元之间都是互联的,w,ij,，每个神经元都没有到自身的联接,w,ii,=0,。,神经元个数,h,，输入向量维数,n,，输出向量维数,m,。,hn,，,hm,，,n1,，,m1,。,最基本的,Hopfield,网络：,n=m=h,神经元：输入神经元，输出神经元，隐藏神经元。,状态变化：非同步、同步,输入向量：,X=(x,1,，,x,2,，,，,x,n,),输出向量：,O=(o,1,，,o,2,，,，,o,m,),2023/9/5797.2 Hopfield网络的组织（2）,2024/8/30,80,7.2,Hopfield,网络的组织（3）,神经元的网络输入：,阈值函数：,2023/9/5807.2 Hopfield网络的组织（3）,2024/8/30,81,7.3,最基本的,Hopfield,网,o,1,o,n,o,2,x,2,x,1,x,n,W,2023/9/5817.3 最基本的Hopfield网 o1,2024/8/30,82,7.3,最基本的,Hopfield,网（2）,希望网络网络的联接矩阵存放的是一组这样的样本，在联想过程中实现对信息的“修复”和“加强”，要求：它的输入向量和输出向量是相同的向量，即，,X=Y,样本集：,S= Y,1,，,Y,2,，,，,Y,s,2023/9/5827.3 最基本的Hopfield网（2）,2024/8/30,83,7.3,最基本的,Hopfield,网（3）,权矩阵：,w,ij,= i,j,w,ii,=01in,W,是一个对角线元素为,0,的对称矩阵：,W= Y,1,T,Y,1,+Y,2,T,Y,2,+Y,s,T,Y,s,- W0,W,是各个样本向量自身的外积的和,网络实现的是自相联映射。,2023/9/5837.3 最基本的Hopfield网（3）,人工神经网络功能演示,人工神经网络功能演示,85,Thank you!,85Thank you!,