神经网络控制(Boltzmann机).ppt

神经网络控制 刘慧文 2016年4月 智能控制理论与技术 3 3 3Boltzmann机 Boltzmann机是一种随机神经网络 也是一种反馈型神经网络 它在很多方面类似于离散Hopfield网络 Boltzman机应用 模式分类 预测 组合优化与规划 1 网络的结构和工作方式 Boltzmann机特点 3 功能上 Boltzmann可以看成是多层网络 其中一部分结点是输入结点 一部分是输出结点 还有一部分是隐结点 隐结点不与外界发生联系 它主要用来实现输入与输出之间的高阶联系 1 结构上 Boltzmann机是单层的反馈网络 2 形式上 与离散Hopfield网一样 具有对称的连接权系数 即Wij Wji 且Wii 0 Boltzmann机每个神经元的工作方式 T为 温度 Boltzmann机的能量函数为 Boltzmann机也有同步和异步工作方式 考虑异步工作方式 k时刻第i个神经元调整状态 根据Hopfield网络有 这时 的概率为 1 若 a 若 b 若 综上所述 则较大概率 2 若 则较大概率 a 若 b 若 不管以上何种情况 随着系统状态的演变 从概率的意义上 系统的能量总是朝小的方向变化 所以系统最后总能稳定到能量的极小点附近 由于这是随机网络 在能量极小点附近 系统也不会停止在某一个固定的状态 1 由于神经元状态按概率取值 因此以上分析只是从概率意义上说网络的能量总的趋势是朝着减小的方向演化 但在有些步神经元状态可能按小概率取值 从而使能量增加 在有些情况下这对跳出局部极值是有好处的 这也是Boltzmann机与Hopfield网另一个不同之处 2 为了有效地演化到网络能量函数的全局极小点 通常采用模拟退火的方法 即开始采用较高的温度T 此时各状态出现概率的差异不大 比较容易跳出局部极小点进入到全局极小点附近 然后再逐渐减小温度T 各状态出现概率的差别逐渐拉大 从而一方面可较准确地运动到能量的极小点 同时阻止它跳出该最小点 两点说明 根据前面的结果 当xi由1变为0时 xi k 1 则 设xi k 1 1 其它状态不变 的概率为p1 相应的能量函数为E1 xi k 1 0 其它状态不变 的概率为p0 相应的能量函数为E0 则 有 推广之 容易得到 对于网络中任意两个状态 和 出现的概率与它们的能量E 和E 之间也满足 这正好是Boltzmann分布 也就是该网络称为Boltzmann机的来由 两点结论 1 Boltzmann机处于某一状态的概率主要取决于在此状态下的能量 能量越低 概率越大 2 此概率还取决于温度参数T T越大 不同状态出现概率的差异就越小 较容易跳出能量的局部极小点而到达全局的极小点 T越小时情形正相反 这也就是采用模拟退火方法寻求全局最优的原因所在 2 网络的学习和训练 Boltzman机和Hopfield网络的异同 有相同的能量函数 1 相似之处 2 不同之处 类似结构 均为单层反馈网络 离散Hopfield网络是Boltzmann机的特例 都包括学习训练 设计 和工作两个阶段 Hopfield网络为确定型网络 而Boltzmann机是随机网络 功能上 前者为单层网络 而后者为多层网络 按概率取值 Boltzmann机可跳出局部极小值