人工神经网络课件2

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,人工神经网络及其经济管理应用,(2),The Application of ANN to Economics & Management,学习算法,学习：,因经验而发生的持久的行为改变。,神经网络学习,：学习是一个过程，通过该过程神经网络的自由参数在其嵌入的环境的激励过程中得到调节。学习的类型由参数改变的方式决定。（,Mendal&McClaren,1970),学习算法,：解决学习问题的一个恰当定义的规则集合。,学习算法不唯一。,学习的基本范式,有教师学习,无教师学习：,（,1,）增强式学习,/,神经动态规划,（,2,）无监督学习,/,自组织学习,有教师学习,环境,状态向量,教师,状态向量,无教师学习：（,1,）增强式学习,/,神经动态规划,环境,评价,学习系统,环境输入向量,操作,原始增强信号,启迪增强信号,特点：存在和环境之间的交互作用。即：学习过程影响环境。,目标：,Cost to go,函数最小化。,Cost to go,函数：系统按照一个时间序列采取动作所造成代价的累积期望值。体现一种逐步决策但要达到整体最优的思想。,以上可以认为是,Bellman,法则的一种应用。,无教师学习：（,2,）无监督学习,/,自组织学习,环境,学习系统,状态向量,网络内部组织规则,特点：学习过程是网络的自主行为，神经网内部存在大量互联，相互关系存在一定的规则。,除非施加外部干预，学习过程将持续下去。,目标：神经网络试图寻找输入数据的统计特征并与之保持一致。,举例：竞争网络的“赢者通吃”规则。,典型学习算法：误差修正学习,P(t,),A(t,),T(t,),E(t,),W(t,),误差,E(t,)=,T(t,) ,A(t,),误差,E(t,),驱动控制机制，最终使得,A(t,),T(t,),为此可定义能量函数,通过使能量函数逐步趋近于,0,，使网络达到稳定状态。,以上规则的特例：,Widrow,Hoff,规则,基本学习算法：,Hebb,学习规则,1,、如果连接两侧的神经元被同步激活，该连接的强度将被增强。,2,、如果连接两侧的神经元被异步激活，该连接的强度将被减弱。,Hebb,规则的特点：,1,、时间依赖：依赖于突触前后信号出现的确切时间。,2,、局部机制：基于相邻时空的局部信息。,3,、交互机制：改变取决于交互而非一方的单独行为。,4,、关联机制：具有统计意义上的相关。,Hebb,假设,协方差假设,基本学习算法：竞争学习规则,神经网络输出神经元通过竞争来成为活跃神经元。,在任意时刻，只有一个输出神经元是激活的。,适合于发现统计上的特征。,ak,基本学习算法：,Boltzman,学习,递归网络，二值方式运行。构造能量函数：,在某一个时刻,t,，以某一个概率,sd,把任意一个神经元从所处状态,a,翻转到状态,a.,定义这个翻转导致的能量改变为,E,，则,sd,是,E,的函数。,可以证明反复使用则个规则，网络将达到平衡状态。,