神经网络控制理论

1 2 目 录第 一 篇 神 经 网 络 控 制 及 其 MATLAB实 现 第 二 篇 模 糊 逻 辑 控 制 及 其 MATLAB实 现第 三 篇 模 型 预 测 控 制 及 其 MATLAB实 现 3 第 一 篇 神 经 网 络 控 制及 其 MATLAB实 现 4 v1.1 神 经 网 络 的 基 本 概 念 v1.2 典 型 神 经 网 络 的 模 型 及 其 MATLAB实 现 v1.3 神 经 网 络 控 制 系 统 第 1章 神 经 网 络 控 制 理 论 5 人 脑 是 一 部 不 寻 常 的 智 能 机 ， 它 能 以 惊 人 的 高 速度 解 释 感 觉 器 官 传 来 的 含 糊 不 清 的 信 息 。 它 能 觉 察 到喧 闹 房 间 内 的 窃 窃 私 语 ， 能 够 识 别 出 光 线 暗 淡 的 胡 同中 的 一 张 面 孔 ， 更 能 通 过 不 断 地 学 习 而 产 生 伟 大 的 创造 力 。 古 今 中 外 ， 许 许 多 多 科 学 家 为 了 揭 开 大 脑 机 能的 奥 秘 ， 从 不 同 的 角 度 进 行 着 长 期 的 不 懈 努 力 和 探 索 ，逐 渐 形 成 了 一 个 多 学 科 交 叉 的 前 沿 技 术 领 域 神 经网 络 (Neural Network)。 6 人 工 神 经 系 统 的 研 究 可 以 追 溯 到 1800年 Frued的 精神 分 析 学 时 期 ， 他 已 经 做 了 一 些 初 步 工 作 。 1913年 人工 神 经 系 统 的 第 一 个 实 践 是 由 Russell描 述 的 水 力 装 置。 1943年 美 国 心 理 学 家 Warren S McCulloch与 数 学 家Walter H Pitts合 作 ， 用 逻 辑 的 数 学 工 具 研 究 客 观 事 件在 形 式 神 经 网 络 中 的 描 述 ， 从 此 开 创 了 对 神 经 网 络 的理 论 研 究 。 他 们 在 分 析 、 总 结 神 经 元 基 本 特 性 的 基 础上 ， 首 先 提 出 神 经 元 的 数 学 模 型 ， 简 称 MP模 型 。 从脑 科 学 研 究 来 看 ， MP模 型 不 愧 为 第 一 个 用 数 理 语 言描 述 脑 的 信 息 处 理 过 程 的 模 型 。 后 来 MP模 型 经 过 数学 家 的 精 心 整 理 和 抽 象 ， 最 终 发 展 成 一 种 有 限 自 动 机理 论 ， 再 一 次 展 现 了 MP模 型 的 价 值 ， 此 模 型 沿 用 至今 ， 直 接 影 响 着 这 一 领 域 研 究 的 进 展 。 7 1949年 心 理 学 家 D.O.Hebb提 出 关 于 神 经 网 络 学 习机 理 的 “ 突 触 修 正 假 设 ” ， 即 突 触 联 系 效 率 可 变 的 假设 ， 现 在 多 数 学 习 机 仍 遵 循 Hebb学 习 规 则 。 1957年 ，Frank Rosenblatt首 次 提 出 并 设 计 制 作 了 著 名 的 感 知 机（ Perceptron） ， 第 一 次 从 理 论 研 究 转 入 过 程 实 现 阶 段， 掀 起 了 研 究 人 工 神 经 网 络 的 高 潮 。 今 天 ， 随 着 科 学技 术 的 迅 猛 发 展 ， 神 经 网 络 正 以 极 大 的 魅 力 吸 引 着 世界 上 众 多 专 家 、 学 者 为 之 奋 斗 。 在 世 界 范 围 内 再 次 掀起 了 神 经 网 络 的 研 究 热 潮 ， 难 怪 有 关 国 际 权 威 人 士 评论 指 出 ， 目 前 对 神 经 网 络 的 研 究 其 重 要 意 义 不 亚 于 第二 次 世 界 大 战 时 对 原 子 弹 的 研 究 。 8 人 工 神 经 网 络 特 有 的 非 线 性 适 应 性 信 息 处 理 能 力， 克 服 了 传 统 人 工 智 能 方 法 对 于 直 觉 ， 如 模 式 、 语 音识 别 、 非 结 构 化 信 息 处 理 方 面 的 缺 陷 ， 使 之 在 神 经 专家 系 统 、 模 式 识 别 、 智 能 控 制 、 组 合 优 化 、 预 测 等 领域 得 到 成 功 应 用 。 人 工 神 经 网 络 与 其 他 传 统 方 法 相 结合 ， 将 推 动 人 工 智 能 和 信 息 处 理 技 术 不 断 发 展 。 近 年来 ， 人 工 神 经 网 络 正 向 模 拟 人 类 认 知 的 道 路 上 更 加 深入 发 展 ， 与 模 糊 系 统 、 遗 传 算 法 、 进 化 机 制 等 结 合 ，形 成 计 算 智 能 ， 成 为 人 工 智 能 的 一 个 重 要 方 向 ， 将 在实 际 应 用 中 得 到 发 展 。 9 使 用 神 经 网 络 的 主 要 优 点 是 能 够 自 适 应 样 本 数 据， 当 数 据 中 有 噪 声 、 形 变 和 非 线 性 时 ， 它 也 能 够 正 常地 工 作 ， 很 容 易 继 承 现 有 的 领 域 知 识 ， 使 用 灵 活 ， 能够 处 理 来 自 多 个 资 源 和 决 策 系 统 的 数 据 ； 提 供 简 单 工具 进 行 自 动 特 征 选 取 ， 产 生 有 用 的 数 据 表 示 ， 可 作 为专 家 系 统 的 前 端 （ 预 处 理 器 ） 。 此 外 ， 神 经 网 络 还 能提 供 十 分 快 的 优 化 过 程 ， 尤 其 以 硬 件 直 接 实 现 网 络 时， 而 且 可 以 加 速 联 机 应 用 程 序 的 运 行 速 度 。 当 然 ， 过分 夸 大 神 经 网 络 的 应 用 能 力 也 是 不 恰 当 的 ， 毕 竞 它 不是 无 所 不 能 的 。 这 就 需 要 在 实 际 工 作 中 具 体 分 析 问 题， 合 理 选 择 。 10 基 于 神 经 网 络 的 控 制 称 为 神 经 网 络 控 制（ NNC） ， 简 称 神 经 控 制 （ NCNeurocontrol）这 一 新 词 是 在 国 际 自 控 联 杂 志 自 动 化 （ Automatica） 1994年 No.11首 次 使 用 的 ， 最 早 源于 1 9 9 2 年 H To l l e 和 E E r s u 的 专 著 Neurocontrol 。 基 于 神 经 网 络 的 智 能 模 拟 用 于控 制 ， 是 实 现 智 能 控 制 的 一 种 重 要 形 式 ， 近 年 来获 得 了 迅 速 发 展 。 本 节 介 绍 神 经 控 制 的 基 本 概 念 、基 本 结 构 、 神 经 控 制 系 统 的 组 成 及 其 实 现 神 经 控制 和 神 经 模 糊 控 制 的 基 本 方 法 。 11 1.1 神 经 网 络 的 基 本 概 念 1.1.1 生 物 神 经 元 的 结 构 与 功 能 特 点 神 经 生 理 学 和 神 经 解 剖 学 证 明 了 人 的 思 维 是 由人 脑 完 成 的 。 神 经 元 是 组 成 人 脑 的 最 基 本 单 元 ，它 能 够 接 受 并 处 理 信 息 ， 人 脑 大 约 由 10111012个 神经 元 组 成 ， 其 中 每 个 神 经 元 约 与 104105个 神 经 元通 过 突 触 连 接 ， 因 此 ， 人 脑 是 一 个 复 杂 的 信 息 并行 加 工 处 理 巨 系 统 。 探 索 脑 组 织 的 结 构 、 工 作 原理 及 信 息 处 理 的 机 制 ， 是 整 个 人 类 面 临 的 一 项 挑战 ， 也 是 整 个 自 然 科 学 的 前 沿 领 域 。 12 1 生 物 神 经 元 的 结 构 生 物 神 经 元 （ 以 下 简 称 神 经 元 ） ， 也 称 神 经 细胞 ， 是 构 成 神 经 系 统 的 基 本 单 元 。 神 经 元 主 要 由细 胞 体 、 树 突 和 轴 突 构 成 ， 其 基 本 结 构 如 图 1-1所示 。 图 1 1 生 物 神 经 元 的 结 构 13 （ 1） 细 胞 体 细 胞 体 由 细 胞 核 、 细 胞 质 与 细 胞 膜 等 组 成 。 一般 直 径 为 5100m， 大 小 不 等 。 细 胞 体 是 神 经 元 的主 体 ， 它 是 神 经 元 的 新 陈 代 谢 中 心 ， 同 时 还 负 责接 收 并 处 理 从 其 他 神 经 元 传 递 过 来 的 信 息 。 细 胞体 的 内 部 是 细 胞 核 ， 外 部 是 细 胞 膜 ， 细 胞 膜 外 是许 多 外 延 的 纤 维 ， 细 胞 膜 内 外 有 电 位 差 ， 称 为 膜电 位 ， 膜 外 为 正 ， 膜 内 为 负 。 14 （ 2） 轴 突 轴 突 是 由 细 胞 体 向 外 伸 出 的 所 有 纤 维 中 最 长 的一 条 分 枝 。 每 个 神 经 元 只 有 一 个 轴 突 ， 长 度 最 大可 达 1m以 上 ， 其 作 用 相 当 于 神 经 元 的 输 出 电 缆 ，它 通 过 尾 部 分 出 的 许 多 神 经 末 梢 以 及 梢 端 的 突 触向 其 他 神 经 元 输 出 神 经 冲 动 。 15 （ 3） 树 突 树 突 是 由 细 胞 体 向 外 伸 出 的 除 轴 突 外 的 其 他 纤维 分 枝 ， 长 度 一 般 均 较 短 ， 但 分 枝 很 多 。 它 相 当于 神 经 元 的 输 入 端 ， 用 于 接 收 从 四 面 八 方 传 来 的神 经 冲 动 。 突 触 是 轴 突 的 终 端 ， 是 神 经 元 之 间 的 连 接 接 口 ，每 一 个 神 经 元 约 有 104105个 突 触 。 一 个 神 经 元 通过 其 轴 突 的 神 经 末 梢 ， 经 突 触 与 另 一 神 经 元 的 树突 连 接 ， 以 实 现 信 息 的 传 递 。 16 2 生 物 神 经 元 的 功 能 特 点 从 生 物 控 制 论 的 观 点 来 看 ， 作 为 控 制 和 信 息 处理 基 本 单 元 的 神 经 元 ， 具 有 以 下 功 能 特 点 。（ 1） 时 空 整 合 功 能 神 经 元 对 于 不 同 时 间 通 过 同 一 突 触 传 入 的 信 息 ，具 有 时 间 整 合 功 能 ； 对 于 同 一 时 间 通 过 不 同 突 触传 入 的 信 息 ， 具 有 空 间 整 合 功 能 。 两 种 功 能 相 互结 合 ， 是 使 生 物 神 经 元 具 有 时 空 整 合 的 输 入 信 息处 理 功 能 。 17 （ 2） 动 态 极 化 性 在 每 一 种 神 经 元 中 ， 信 息 都 是 以 预 知 的 确 定 方向 流 动 的 ， 即 从 神 经 元 的 接 收 信 息 部 分 （ 细 胞 体 、树 突 ） 传 到 轴 突 的 起 始 部 分 ， 再 传 到 轴 突 终 端 的突 触 ， 最 后 再 传 给 另 一 神 经 元 。 尽 管 不 同 的 神 经元 在 形 状 及 功 能 上 都 有 明 显 的 不 同 ， 但 大 多 数 神经 元 都 是 按 这 一 方 向 进 行 信 息 流 动 的 。 18 （ 3） 兴 奋 与 抑 制 状 态 神 经 元 具 有 两 种 常 规 工 作 状 态 ， 即 兴 奋 状 态 与抑 制 状 态 。 所 谓 兴 奋 状 态 是 指 神 经 元 对 输 入 信 息经 整 合 后 使 细 胞 膜 电 位 升 高 ， 且 超 过 了 动 作 电 位的 阈 值 ， 此 时 产 生 神 经 冲 动 并 由 轴 突 输 出 。 抑 制状 态 是 指 对 输 入 信 息 整 合 后 ， 细 胞 膜 电 位 值 下 降到 低 于 动 作 电 位 的 阈 值 ， 从 而 导 致 无 神 经 冲 动 输出 。 19 （ 4） 结 构 的 可 塑 性 由 于 突 触 传 递 信 息 的 特 性 是 可 变 的 ， 也 就 是 它随 着 神 经 冲 动 传 递 方 式 的 变 化 ， 传 递 作 用 强 弱 不同 ， 形 成 了 神 经 元 之 间 连 接 的 柔 性 ， 这 种 特 性 又称 为 神 经 元 结 构 的 可 塑 性 。（ 5） 脉 冲 与 电 位 信 号 的 转 换 突 触 界 面 具 有 脉 冲 与 电 位 信 号 的 转 换 功 能 。 沿轴 突 传 递 的 电 脉 冲 是 等 幅 的 、 离 散 的 脉 冲 信 号 ，而 细 胞 膜 电 位 变 化 为 连 续 的 电 位 信 号 ， 这 两 种 信号 是 在 突 触 接 口 进 行 变 换 的 。 20 （ 6） 突 触 延 期 和 不 应 期 突 触 对 信 息 的 传 递 具 有 时 延 和 不 应 期 ， 在 相 邻的 两 次 输 入 之 间 需 要 一 定 的 时 间 间 隔 ， 在 此 期 间 ，无 激 励 ， 不 传 递 信 息 ， 这 称 为 不 应 期 。（ 7） 学 习 、 遗 忘 和 疲 劳 由 于 神 经 元 结 构 的 可 塑 性 ， 突 触 的 传 递 作 用 有增 强 、 减 弱 和 饱 和 的 情 况 。 所 以 ， 神 经 细 胞 也 具有 相 应 的 学 习 、 遗 忘 和 疲 劳 效 应 （ 饱 和 效 应 ） 。 21 1.1.2 人 工 神 经 元 模 型 生 物 神 经 元 经 抽 象 化 后 ， 可 得 到 如 图 1-2所 示 的一 种 人 工 神 经 元 模 型 ， 它 有 三 个 基 本 要 素 。1 连 接 权 连 接 权 对 应 于 生 物神 经 元 的 突 触 ， 各 个神 经 元 之 间 的 连 接 强度 由 连 接 权 的 权 值 表示 ， 权 值 为 正 表 示 激活 ， 为 负 表 示 抑 制 。 图 1-2 基 本 神 经 元 模 型 22 2 求 和 单 元 用 于 求 取 各 输 入 信 号 的 加 权 和 （ 线 性 组 合 ） 。3 激 活 函 数 激 活 函 数 起 非 线 性 映 射 作 用 ， 并 将 神 经 元 输 出 幅度 限 制 在 一 定 范 围 内 ， 一 般 限 制 在 (0,1)或 (-1,1)之 间 。激 活 函 数 也 称 传 输 函 数 。此 外 还 有 一 个 阈 值 k (或 偏 值 b k= -k)。以 上 作 用 可 分 别 以 数 学 式 表 达 出 来 ：式 中 为 输 入 信 号 ， 为 神 经 元 k的 权值 ， 为 线 性 组 合 结 果 ， 为 阈 值 ， 为 激 活 函 数 ， 为神 经 元 k的 输 出 ， )(,1 kkkkkkpj jkjk vyunetvxwu pxxx , 21 kpkk www , 21 ku k )( ky 23图 1-2 输 入 扩 维 后 的 神 经 元 模 型 若 把 输 入 的 维 数 增 加 一 维 ，则 可 把 阈 值 k包 括 进 去 。 即 此 处 增 加 了 一 个 新 的 连 接 ， 其输 入 ， 权 值 或 ，如 图 1-2所 示 。激 活 函 数 ， 一 般 有 以 下 几 种形 式 ：(1) 阶 跃 函 数函 数 表 达 式 ： )(,0 kkpj jkjk uyxwu 10 x (0 kkw )kb)( 01 01)( xxxy 24 (2)分 段 线 性 函 数 函 数 表 达 式 ： (3)Sigmoid函 数 最 常 用 的 Sigmoid型 函 数 为式 中 参 数 a可 控 制 其 斜 率 。 另 一 种 常 用 的 Sigmoid型 函 数 为 双 曲 正 切 S型 函 数 ，即 这 类 函 数 具 有 平 滑 和 渐 近 线 ， 并 保 持 单 调 性 。 )1(1 )11()1(21 )1(1)( x xx xxy )exp(1 1)( axx )exp(1 )exp(1)21tanh()( xxxx 25 1.1.3 神 经 网 络 的 结 构 人 工 神 经 网 络 （ Artificial Neural Networks，ANN） 是 由 大 量 人 工 神 经 元 经 广 泛 互 连 而 组 成 的 ，它 可 用 来 模 拟 脑 神 经 系 统 的 结 构 和 功 能 。 人 工 神 经网 络 可 以 看 成 是 以 人 工 神 经 元 为 节 点 ， 用 有 向 加 权弧 连 接 起 来 的 有 向 图 。 在 此 有 向 图 中 ， 人 工 神 经 元（ 以 下 在 不 易 引 起 混 淆 的 情 况 下 ， 人 工 神 经 元 简 称神 经 元 ） 就 是 对 生 物 神 经 元 的 模 拟 ， 而 有 向 加 权 弧则 是 轴 突 突 触 树 突 对 的 模 拟 。 有 向 弧 的 权值 表 示 相 互 连 接 的 两 个 人 工 神 经 元 间 相 互 作 用 的 强弱 。 26 人 工 神 经 网 络 是 生 物 神 经 网 络 的 一 种 模 拟 和 近 似 。它 主 要 从 两 个 方 面 进 行 模 拟 。 一 种 是 从 生 理 结 构 和实 现 机 理 方 面 进 行 模 拟 ， 它 涉 及 到 生 物 学 、 生 理 学 、心 理 学 、 物 理 及 化 学 等 许 多 基 础 科 学 。 由 于 生 物 神经 网 络 的 结 构 和 机 理 相 当 复 杂 ， 现 在 距 离 完 全 认 识它 们 还 相 差 甚 远 ； 另 外 一 种 是 从 功 能 上 加 以 模 拟 ，即 尽 量 使 得 人 工 神 经 网 络 具 有 生 物 神 经 网 络 的 某 些功 能 特 性 ， 如 学 习 、 识 别 、 控 制 等 功 能 。 本 书 仅 讨 论 后 者 ， 从 功 能 上 来 看 ， 人 工 神 经 网 络（ 以 下 简 称 神 经 网 络 ， NN） 根 据 连 接 方 式 主 要 分 为两 类 。 27图 1-4 前 馈 网 络 1 前 馈 型 网 络 前 馈 神 经 网 络 是 整 个 神 经 网 络 体 系 中 最 常 见 的 一种 网 络 ， 其 网 络 中 各 个 神 经 元 接 受 前 一 级 的 输 入 ， 并输 出 到 下 一 级 ， 网 络 中 没 有 反 馈 ， 如 图 1-4所 示 。 节点 分 为 两 类 ， 即 输 入单 元 和 计 算 单 元 ， 每 一计 算 单 元 可 有 任 意 个 输入 ， 但 只 有 一 个 输 出（ 它 可 耦 合 到 任 意 多个 其 他 节 点 作 为 输 入 ） 。 28 通 常 前 馈 网 络 可 分 为 不 同 的 层 ， 第 i层 的 输 入 只与 第 i-1层 输 出 相 连 ， 输 入 和 输 出 节 点 与 外 界 相 连 ， 而其 他 中 间 层 称 为 隐 层 ， 它 们 是 一 种 强 有 力 的 学 习 系 统 ，其 结 构 简 单 而 易 于 编 程 。 从 系 统 的 观 点 看 ， 前 馈 神 经网 络 是 一 静 态 非 线 性 映 射 ， 通 过 简 单 非 线 性 处 理 的 复合 映 射 可 获 得 复 杂 的 非 线 性 处 理 能 力 。 但 从 计 算 的 观点 看 ， 前 馈 神 经 网 络 并 非 是 一 种 强 有 力 的 计 算 系 统 ，不 具 备 有 丰 富 的 动 力 学 行 为 。 大 部 分 前 馈 神 经 网 络 是学 习 网 络 ， 并 不 注 意 系 统 的 动 力 学 行 为 ， 它 们 的 分 类能 力 和 模 式 识 别 能 力 一 般 强 于 其 他 类 型 的 神 经 网 络 。 29 2 反 馈 型 网 络 反 馈 神 经 网 络 又 称 递 归 网 络 ， 或 回 归 网 络 。 在 反 馈网 络 中 (Feedback NNs)， 输 入 信 号 决 定 反 馈 系 统 的 初 始状 态 ， 然 后 系 统 经 过 一 系 列 状 态 转 移 后 ， 逐 渐 收 敛 于平 衡 状 态 。 这 样 的 平 衡 状 态 就 是 反 馈 网 络 经 计 算 后 输出 的 结 果 ， 由 此 可 见 ， 稳 定 性 是 反 馈 网 络 中 最 重 要 的问 题 之 一 。 图 1-5 单 层 全 连 接 反 馈 网 络 30 如 果 能 找 到 网 络 的 Lyapunov函 数 ， 则 能 保 证 网络 从 任 意 的 初 始 状 态 都 能 收 敛 到 局 部 最 小 点 。 反馈 神 经 网 络 中 所 有 节 点 都 是 计 算 单 元 ， 同 时 也 可接 受 输 入 ， 并 向 外 界 输 出 ， 可 画 成 一 个 无 向 图 ，如 图 1-5(a)所 示 ， 其 中 每 个 连 接 弧 都 是 双 向 的 ， 也可 画 成 图 1-4(b)的 形 式 。 若 总 单 元 数 为 n， 则 每 一个 节 点 有 n-l个 输 入 和 一 个 输 出 。 31 神 经 网 络 的 工 作 过 程 主 要 分 为 两 个 阶 段 ： 第 一阶 段 是 学 习 期 ， 此 时 各 计 算 单 元 状 态 不 变 ， 各 连 接权 上 的 权 值 可 通 过 学 习 来 修 改 ； 第 二 阶 段 是 工 作 期 ，此 时 各 连 接 权 固 定 ， 计 算 单 元 变 化 ， 以 达 到 某 种 稳定 状 态 。 从 作 用 效 果 看 ， 前 馈 网 络 主 要 是 函 数 映 射 ， 可用 于 模 式 识 别 和 函 数 逼 近 。 反 馈 网 络 按 对 能 量 函 数的 极 小 点 的 利 用 来 分 类 有 两 种 ： 第 一 类 是 能 量 函 数的 所 有 极 小 点 都 起 作 用 ， 这 一 类 主 要 用 作 各 种 联 想存 储 器 ； 第 二 类 只 利 用 全 局 极 小 点 ， 它 主 要 用 于 求解 最 优 化 问 题 。 1.1.4 神 经 网 络 的 工 作 方 式 32 1.1.5 神 经 网 络 的 学 习1 学 习 方 式通 过 向 环 境 学 习 获 取 知 识 并 改 进 自 身 性 能 是 神 经网 络 的 一 个 重 要 特 点 ， 在 一 般 情 况 下 ， 性 能 的 改 善是 按 某 种 预 定 的 度 量 调 节 自 身 参 数 （ 如 权 值 ） 随 时间 逐 步 达 到 的 ， 学 习 方 式 （ 按 环 境 所 供 信 息 的 多 少分 ） 有 以 下 三 种 。 33 （ 1） 有 监 督 学 习 （ 有 教 师 学 习 ） 图 1-6 有 监 督 学 习 框 图 这 种 学 习 方 式 需 要 外 界 存 在 一 个 “ 教 师 ” ， 他 可对 一 组 给 定 输 入 提 供 应 有 的 输 出 结 果 （ 正 确 答 案 ） ， 这 组 已 知 的 输 入 输 出 数 据 称 为 训 练 样 本 集 。 学 习系 统 可 根 据 已 知 输 出 与 实 际 输 出 之 间 的 差 值 （ 误 差 信号 ） 来 调 节 系 统 参 数 ， 如 图 1-6所 示 。 34 在 有 监 督 学 习 当 中 ， 学 习 规 则 由 一 组 描 述 网 络行 为 的 训 练 集 给 出 ：x1,t1,x1,t1, xN,tN其 中 xi为 网 络 的 输 入 ， ti为 相 应 的 目 标 输 出 。 当 输 入作 用 到 网 络 时 ， 网 络 的 实 际 输 出 与 目 标 输 出 相 比 较 ，然 后 学 习 规 则 调 整 网 络 的 权 值 和 域 值 ， 从 而 使 网 络的 实 际 输 出 越 来 越 接 近 于 目 标 输 出 。 35 （ 2） 无 监 督 学 习 （ 无 教 师 学 习 ） 无 监 督 学 习 时 不 存 在 外 部 教 师 ， 学 习 系 统 完 全 按照 环 境 所 提 供 数 据 的 某 些 统 计 规 律 来 调 节 自 身 参 数 或结 构 （ 这 是 一 种 自 组 织 过 程 ） ， 以 表 示 外 部 输 入 的 某种 固 有 特 性 （ 如 聚 类 ， 或 某 种 统 计 上 的 分 布 特 征 ） ，如 图 1-7所 示 。 在 无 监 督 学 习 当 中 ， 仅 仅 根 据 网 络 的 输入 调 整 网 络 的 权 值 和 域 值 ， 它 没 有 目 标 输 出 。 乍 一 看这 种 学 习 似 乎 并 不 可 行 ： 不 知 道 网 络 的 目 的 是 什 么 ，还 能 够 训 练 网 络 吗 ？ 实 际 上 ， 大 多 数 这 种 类 型 的 算 法都 是 要 完 成 某 种 聚 类 操 作 ，学 会 将 输 入 模 式 分 为 有 限 的几 种 类 型 。 这 种 功 能 特 别 适合 于 诸 如 向 量 量 化 等 应 用 问 题 。 图 1-7 无 监 督 学 习 框 图 36 （ 3） 强 化 学 习 （ 或 再 励 学 习 ） 图 1-8 强 化 学 习 框 图 这 种 学 习 介 于 上 述 两 种 情 况 之 间 ， 外 部 环 境 对系 统 输 出 结 果 只 给 出 评 价 （ 奖 或 罚 ） 而 不 是 给 出 正确 答 案 ， 学 习 系 统 通 过 强 化 那 些 受 奖 励 的 动 作 来 改善 自 身 性 能 ， 如 图 1-8所 示 。 强 化 学 习 与 有 监 督 的 学习 类 似 ， 只 是 它 不 像 有 监 督 的 学 习 一 样 为 每 一 个 输入 提 供 相 应 的 目 标 输 出 ， 而 是 仅 仅 给 出 一 个 级 别 。这 个 级 别 （ 或 评 分 ） 是 对 网 络 在 某 些 输 入 序 列 上 的性 能 测 度 。 当 前 这 种 类 型的 学 习 要 比 有 监 督 的 学 习少 见 。 它 最 为 适 合 控 制 系统 应 用 领 域 。 37 2 学 习 算 法（ 1） 学 习 规 则 （ 误 差 修 正 规 则 ） 令 yi(k)为 输 入 x(k)时 神 经 元 i在 k时 刻 的 实 际 输 出 ，ti(k)表 示 相 应 的 期 望 输 出 ， 则 误 差 信 号 可 写 为 ：ei(k)= ti(k) -yi(k) 误 差 纠 正 学 习 的 最 终 目 的 是 使 某 一 基 于 ei(k)的 目 标函 数 达 最 小 ， 以 使 网 络 中 每 一 输 出 单 元 的 实 际 输 出 在某 种 统 计 意 义 上 最 逼 近 于 期 望 输 出 。 一 旦 选 定 了 目 标函 数 形 式 ， 误 差 纠 正 学 习 就 成 为 一 个 典 型 的 最 优 化 问题 。 38 最 常 用 的 目 标 函 数 是 均 方 误 差 判 据 ， 定 义 为 ：其 中 E是 统 计 期 望 算 子 ， 上 式 的 前 提 是 被 学 习 的 过 程是 宽 平 稳 的 ， 具 体 方 法 可 用 最 陡 梯 度 下 降 法 。 直 接 用 J作 为 目 标 函 数 时 ， 需 要 知 道 整 个 过 程 的 统 计 特 性 ， 为解 决 这 一 困 难 用 J在 时 刻 k的 瞬 时 值 J(k)代 替 J， 即 Ni ii ytEJ 1 2)(21 Ni iNi ii keytkJ 1 21 2 )(21)(21)( 39 问 题 变 为 求 J(k)对 权 值 wij的 极 小 值 ， 根 据 最 陡 梯 度 下降 法 可 得 ：式 中 ， 为 学 习 速 率 或 步 长 （ 01） ， f()为 激 活 函数 。 这 就 是 通 常 说 的 误 差 纠 正 学 习 规 则 （ 或 称 规 则 ）， 用 于 控 制 每 次 误 差 修 正 值 。 它 是 基 于 使 输 出 方 差 最小 的 思 想 而 建 立 的 。 )()()()()()( kxxWfkekxkkw jiijiij 40 （ 2） Hebb学 习神 经 心 理 学 家 Hebb提 出 的 学 习 规 则 可 归 结 为 “ 当 某一 突 触 （ 连 接 ） 两 端 的 神 经 元 的 激 活 同 步 （ 同 为 激 活或 同 为 抑 制 ） 时 ， 该 连 接 的 强 度 应 增 加 ， 反 之 则 应 减弱 ” ， 用 数 学 方 式 可 描 述 为 ：式 中 yi(k)， xj(k)分 别 为 wij两 端 神 经 元 的 状 态 ， 其 中 最常 用 的 一 种 情 况 为 ：式 中 为 学 习 速 率 。 由 于 wij(k)与 yi(k)， xj(k)的 相 关 成比 例 ， 有 时 称 之 为 相 关 学 习 规 则 。 上 式 定 义 的 Hebb规则 实 际 上 是 一 种 无 监 督 的 学 习 规 则 ， 因 它 不 需 要 关 于目 标 输 出 的 任 何 相 关 信 息 。 )(),()( kxkyFkw jiij )()()( kxkykw jiij 41 原 始 的 Hebb学 习 规 则 对 权 值 矩 阵 的 取 值 未 做 任 何限 制 ， 因 而 学 习 后 权 值 可 取 任 意 值 。 为 了 克 服 这 一 弊病 ， 在 Hebb学 习 规 则 的 基 础 上 增 加 一 个 衰 减 项 ， 即 衰 减 项 的 加 入 能 够 增 加 网 络 学 习 的 “ 记 忆 ” 功 能 ，并 且 能 够 有 效 地 对 权 值 的 取 值 加 以 限 制 。 衰 减 系 数 dr的 取 值 在 0,1之 间 。 当 取 0时 ， 就 变 成 原 始 的 Hebb学习 规 则 。 另 外 ， Hebb规 则 还 可 以 采 用 有 监 督 的 学 习 ， 对 于 有监 督 学 习 的 Hebb规 则 而 言 ， 将 目 标 输 出 代 替 实 际 输 出。 由 此 ， 算 法 被 告 知 的 就 是 网 络 应 该 做 什 么 ， 而 不 是网 络 当 前 正 在 做 什 么 ， 可 描 述 为 ： )(*)()()( kwdrkxkykw ijjiij )()()( kxktkw jiij 42Kohonen规 则 ： Instar规 则 ：Outstar规 则 ： 图 1-8 竞 争 学 习 网 络 （ 3） 竞 争 （ Competitive） 学 习 顾 名 思 义 ， 在 竞 争 学 习 时 网 络 各 输 出 单 元 互 相 竞 争 ，最 后 达 到 只 有 一 个 最 强 者 激 活 。 最 常 见 的 一 种 情 况 是输 出 神 经 元 之 间 有 侧 向 抑 制 性 连 接 ， 如 图 1-8所 示 。 这样 众 多 输 出 单 元 中 如 有 某 一 单 元 较 强 ， 则 它 将 获 胜 并抑 制 其 他 单 元 ， 最 后 只 有 比 较 强 者 处 于 激 活 状 态 。 最常 用 的 竞 争 学 习 规 则 有 以 下 三 种 ： 竞 争 失 败， 若 神 经 元 竞 争 获 胜， 若 神 经 元 jj0 )()( ijjij wxkw 竞 争 失 败， 若 神 经 元 竞 争 获 胜， 若 神 经 元 jj0 )()( ijjiij wxykw 竞 争 失 败， 若 神 经 元 竞 争 获 胜， 若 神 经 元 jj0 /)()( jijiij xwykw 43图 1-9 自 适 应 学 习 框 图 3 学 习 与 自 适 应 当 学 习 系 统 所 处 环 境 平 稳 时 （ 统 计 特 征 不 随 时 间变 化 ） ， 从 理 论 上 说 通 过 监 督 学 习 可 以 学 到 环 境 的 统计 特 征 ， 这 些 统 计 特 征 可 被 学 习 系 统 （ 神 经 网 络 ） 作为 经 验 记 住 。 如 果 环 境 是 非 平 稳 的 （ 统 计 特 征 随 时 间变 化 ） ， 通 常 的 监 督 学 习 没有 能 力 跟 踪 这 种 变 化 ， 为 解决 此 问 题 需 要 网 络 有 一 定 的自 适 应 能 力 ， 此 时 对 每 一 个不 同 输 入 都 作 为 一 个 新 的 例子 对 待 ， 其 工 作 过 程 如 图 1-9。 44 此 时 模 型 （ 如 NN） 被 当 作 一 个 预 测 器 ， 基 于 前 一时 刻 输 出 x(k-1)和 模 型 在 k-1时 刻 的 参 数 ， 它 估 计 出 k时 刻 的 输 出 ， 与 实 际 值 x(k)（ 作 为 应 有 的 正 确答 案 ） 比 较 ， 其 差 值 e(k)称 为 “ 新 息 ” ， 如 新 息e(k)=0， 则 不 修 正 模 型 参 数 ， 否 则 应 修 正 模 型 参 数 以便 跟 踪 环 境 的 变 化 。 )( ky )( ky 45 1.1.6 神 经 网 络 的 分 类 神 经 网 络 根 据 不 同 的 情 况 ， 可 按 以 下 几 方 面 进行 分 类 ： (1)按 功 能 分 ： 连 续 型 与 离 散 型 、 确 定 型 与 随 机型 、 静 态 与 动 态 神 经 网 络 ； (2)按 连 接 方 式 分 ： 前 馈 （ 或 称 前 向 ） 型 与 反 馈型 神 经 网 络 ； (3)按 逼 近 特 性 分 ： 全 局 逼 近 型 与 局 部 逼 近 型 神经 网 络 ； (4)按 学 习 方 式 分 ： 有 监 督 学 习 、 无 监 督 学 习 和强 化 学 习 神 经 网 络 。 46 1. 2 典 型 神 经 网 络 的 模 型 自 1957年 F. Rosenblatt在 第 一 届 人 工 智 能 会 议 上 展示 他 构 造 的 第 一 个 人 工 神 经 网 络 模 型 以 来 ， 据 统 计 到目 前 为 止 已 有 上 百 种 神 经 网 络 问 世 。 根 据 HCC公 司 及IEEE的 调 查 统 计 ， 有 十 多 种 神 经 网 络 比 较 著 名 。 47 以 下 按 照 神 经 网 络 的 拓 扑 结 构 与 学 习 算 法 相 结 合的 方 法 ， 将 神 经 网 络 的 类 型 分 为 前 馈 网 络 、 竞 争 网 络 、反 馈 网 络 和 随 机 网 络 四 大 类 ， 并 按 类 介 绍 MP模 型 、 感知 机 、 自 适 应 线 性 网 络 （ Adaline） 、 BP网 络 、 径 向 基网 络 、 自 组 织 竞 争 网 络 、 自 组 织 特 征 映 射 网 络（ SOM） 、 反 传 网 络 （ CPN） 、 自 适 应 共 振 理 论（ ART） 、 学 习 向 量 量 化 (LVQ)网 络 、 Elman网 络 、Hopfield网 络 和 Boltzmann机 的 网 络 特 点 、 拓 扑 结 构 、工 作 原 理 和 学 习 机 理 ， 以 揭 示 神 经 网 络 所 具 有 的 功 能和 特 征 。 运 用 这 些 神 经 网 络 模 型 可 实 现 函 数 逼 近 、 数据 聚 类 、 模 式 分 类 、 优 化 计 算 等 功 能 。 因 此 ， 神 经 网络 广 泛 应 用 于 人 工 智 能 、 自 动 控 制 、 机 器 人 、 统 计 学等 领 域 的 信 息 处 理 中 。 48 1.2.1 模 型 MP模 型 最 初 是 由 美 国 心 理 学 家 McCulloch和 数学 家 Pitts在 1943年 共 同 提 出 的 ， 它 是 有 固 定 的 结 构和 权 组 成 的 ， 它 的 权 分 为 兴 奋 性 突 触 权 和 抑 制 性 突触 权 两 类 ， 如 抑 制 性 突 触 权 被 激 活 ， 则 神 经 元 被 抑制 ， 输 出 为 零 。 而 兴 奋 性 突 触 权 的 数 目 比 较 多 ， 兴奋 性 突 触 权 能 否 激 活 ， 则 要 看 它 的 累 加 值 是 否 大 于一 个 阈 值 ， 大 于 该 阈 值 神 经 元 即 兴 奋 。 49 MP模 型 的 结 构 如 图 1-11所 示 (a)早 期 模 型 (b)具 有 突 触 的 模 型 图 1-11 MP模 型 中 单 个 神 经 元 示 意 图 50式 中 xe j(j=1,1,n)为 兴 奋 性 突 触 的 输 入 ，xik(k=1,2,n)为 抑 制 性 突 触 的 输 入 ， 则 输 入 与 输 出 的转 换 关 系 为 00 000 01 I EI EIy , , , 变 换 关 系 为 nk iknj ej xIxE 11 , 51 MP模 型 是 早 期 提 出 的 。 在 图 1-11(a)中 ， 模 型 的 权值 均 为 1， 它 可 以 用 来 完 成 一 些 逻 辑 性 关 系 。 如 果 兴 奋与 抑 制 突 触 用 权 1表 示 ， 而 总 的 作 用 用 加 权 的 办 法 实现 ， 兴 奋 为 1， 抑 制 为 -1， 如 图 1-11(b)所 示 ， 则 有 nk iknj ej nk iknj ej xx xxy 11 1101 52图 1-12 用 MP模 型 实 现 的 布 尔 逻 辑 图 1-12(a),(b),(c),(d)和 (e)是 利 用 MP模 型 分 别 表 示 的 或 、 与 、非 以 及 一 些 逻 辑 关 系 式 。 53 MP模 型 的 权 值 、 输 入 和 输 出 都 是 二 值 变 量 ， 这同 由 逻 辑 门 组 成 的 逻 辑 关 系 式 的 实 现 区 别 不 大 ， 又由 于 它 的 权 值 无 法 调 节 ， 因 而 现 在 很 少 有 人 单 独 使用 。 54 1.2.2 感 知 机 神 经 网 络1 感 知 机 的 网 络 结 构 1957年 心 理 学 家 Frank Rosenblatt及 其 合 作 者 为 了研 究 大 脑 的 存 储 、 学 习 和 认 知 过 程 而 提 出 的 一 类 神 经网 络 模 型 ， 并 称 其 为 感 知 机 （ Perceptron） 。 感 知 机 较MP模 型 又 进 一 步 ， 它 的 输 入 可 以 是 非 离 散 量 ， 它 的 权不 仅 是 非 离 散 量 ， 而 且 可 以 通 过 调 整 学 习 而 得 到 。 感知 机 可 以 对 输 入 的 样 本 矢 量 进 行 模 式 分 类 ， 而 且 多 层的 感 知 机 ， 在 某 些 样 本 点 上 对 函 数 进 行 逼 近 ， 但 感 知机 是 一 个 线 性 阈 值 单 元 组 成 的 网 络 ， 在 结 构 和 算 法 上都 成 为 其 他 前 馈 网 络 的 基 础 ， 尤 其 它 对 隐 单 元 的 选 取比 其 他 非 线 性 阈 值 单 元 组 成 的 网 络 容 易 分 析 ， 而 对 感知 机 的 讨 论 ， 可 以 对 其 他 网 络 的 分 析 提 供 依 据 。 55图 1-13 感 知 机 的 结 构 由 于 感 知 机 的 权 值 可 以 通 过 学 习 调 整 而 得 到 ， 因 此它 被 认 为 是 最 早 提 出 的 一 种 神 经 网 络 模 型 。 图 1-13为感 知 机 的 两 种 结 构 。 56 在 这 种 模 型 中 ， 输 入 模 式 x=x1,x2,xMT通 过 各 输入 端 点 分 配 给 下 一 层 的 各 节 点 ， 下 一 层 就 是 中 间 层 ，中 间 层 可 以 是 一 层 也 可 以 是 多 层 ， 最 后 通 过 输 出 层 节点 得 到 输 出 模 式 y=y1,y2,yLT。 在 这 类 前 馈 网 络 中 没有 层 内 连 接 ， 也 没 有 隔 层 的 前 馈 连 接 。 每 一 节 点 只 能前 馈 联 接 到 其 下 一 层 的 所 有 节 点 。 然 而 ， 对 于 含 有 隐含 层 的 多 层 感 知 机 当 时 没 有 可 行 的 训 练 方 法 ， 所 以 初期 研 究 的 感 知 机 为 一 层 感 知 机 或 称 为 单 感 知 机 ， 我 们通 常 就 把 它 称 为 感 知 机 。 虽 然 简 单 感 知 机 有 其 局 限 性 ，但 人 们 对 它 作 了 深 入 的 研 究 ， 有 关 它 的 理 论 仍 是 研 究其 他 网 络 模 型 的 基 础 。 57 如 果 在 输 入 层 和 输 出 层 单 元 之 间 加 入 一 层 或 多 层处 理 单 元 ， 即 可 构 成 多 层 感 知 机 ， 因 而 多 层 感 知 机 由输 入 层 、 隐 含 层 、 输 出 层 组 成 。 隐 含 层 的 作 用 相 当 于特 征 检 测 器 ， 提 取 输 入 模 式 中 包 含 的 有 效 特 征 信 息 ，使 输 出 单 元 所 处 理 的 模 式 是 线 性 可 分 的 。 但 需 注 意 ，多 层 感 知 机 模 型 只 允 许 一 层 连 接 权 值 可 调 ， 这 是 因 为无 法 设 计 出 一 个 有 效 的 多 层 感 知 机 学 习 算 法 。 58 图 1-14是 一 个 两 层感 知 机 结 构 （ 包 括 输入 层 、 一 个 隐 含 层 和一 个 输 出 层 ） ， 有 两层 连 接 权 ， 其 中 输 入层 和 隐 含 层 单 元 间 的连 接 权 值 是 随 机 设 定的 固 定 值 ， 不 可 调 节 ；输 出 层 与 隐 含 层 单 元间 的 连 接 权 值 是 可 调的 。 图 1-14 两 层 感 知 机 59 值 得 注 意 的 是 ： 在 神 经 网 络 中 由 于 输 入 层 仅 仅 起输 入 信 号 的 等 值 传 输 作 用 ， 而 不 对 信 号 进 行 运 算 ， 故在 定 义 多 少 层 神 经 网 络 时 ， 一 般 不 把 输 入 层 计 算 在 内 ，如 上 所 述 。 也 就 是 说 一 般 把 隐 含 层 称 为 神 经 网 络 的 第一 层 ， 输 出 层 称 为 神 经 网 络 的 第 二 层 （ 假 如 只 有 一 个隐 含 层 ） 。 如 果 有 两 个 隐 含 层 ， 则 第 一 个 隐 含 层 称 为神 经 网 络 的 第 一 层 ， 第 二 个 隐 含 层 称 为 神 经 网 络 的 第二 层 ， 而 输 出 层 称 为 神 经 网 络 的 第 三 层 。 如 果 有 多 个隐 含 层 ， 依 次 类 推 。 在 MATLAB神 经 网 络 工 具 箱 中 的定 义 也 类 同 。 60 感 知 机 神 经 元 网 络 是 由 hardlim产 生 的 符 号 函 数 阈 值元 件 组 成 的 。 对 于 具 有 M个 输 入 、 L个 输 出 的 单 层 感 知机 网 络 ， 如 图 1-12(a)所 示 。 该 网 络 通 过 一 组 权 值wij(i=1,2,., L； j=1,2, M)与 L个 神 经 元 组 成 。 根 据 结构 图 ， 可 以 写 出 ， 输 出 层 的 第 i个 神 经 元 的 输 入 总 和（ 即 激 活 函 数 ） 和 输 出 分 别 为 (i=1,2,., L) (1-1) 式 中 i 为 输 出 层 神 经 元 i的 阈 值 ， M为 输 入 层 的 节 点 数， 即 输 入 的 个 数 。 f(.)为 激 活 函 数 。 感 知 机 中 的 激 活 函数 使 用 了 阶 跃 限 幅 函 数 ， 因 此 感 知 机 能 够 将 输 入 向 量分 为 两 个 区 域 ， 即 有 )(, 1 iiiMj jiji netfyxwnet 0,0 0,1)( xxxf 61 2 感 知 机 学 习 感 知 机 的 学 习 是 典 型 的 有 教 师 学 习 ， 可 以 通 过 样本 训 练 达 到 学 习 的 目 的 。 训 练 的 条 件 有 两 个 ： 训 练 集和 训 练 规 则 。 感 知 机 的 训 练 集 就 是 由 若 干 个 输 入 输 出 模 式 对 构 成 的 一 个 集 合 ， 所 谓 输 入 输 出 模 式 对 是指 一 个 输 入 模 式 及 其 期 望 输 出 模 式 所 组 成 的 向 量 对 。它 包 括 二 进 制 值 输 入 模 式 及 其 期 望 输 出 模 式 ， 每 个 输出 对 应 一 个 分 类 。 F. Rosenblatt业 已 证 明 ， 如 果 两 类 模式 是 线 性 可 分 的 （ 指 存 在 一 个 超 平 面 将 它 们 分 开 ） ，则 算 法 一 定 收 敛 。 62 设 有 N个 训 练 样 本 ， 在 感 知 机 训 练 期 间 ， 不 断 用 训练 集 中 的 每 个 模 式 对 训 练 网 络 。 当 给 定 某 一 个 样 本 p的 输 入 输 出 模 式 对 时 ， 感 知 机 输 出 单 元 会 产 生 一 个 实际 输 出 向 量 ， 用 期 望 输 出 与 实 际 的 输 出 之 差 来 修 正 网络 连 接 权 值 。 权 值 的 修 正 采 用 简 单 的 学 习 规 则 ， 它是 一 个 有 教 师 的 学 习 过 程 ， 其 基 本 思 想 是 利 用 某 个 神经 单 元 的 期 望 输 出 与 实 际 的 输 出 之 间 的 差 来 调 整 该 神经 单 元 与 上 一 层 中 相 应 神 经 单 元 的 连 接 权 值 ， 最 终 减小 这 种 偏 差 。 也 就 是 说 ， 神 经 单 元 之 间 连 接 权 的 变 化正 比 于 输 出 单 元 期 望 输 出 与 实 际 的 输 出 之 差 。 63 简 单 感 知 机 输 出 层 的 任 意 神 经 元 i的 连 接 权 值 wij和 阈值 i修 正 公 式 为 (i=1,2,., L； j=1,2,M) (1-2) (i=1,2,., L) (1-3)式 中 表 示 在 样 本 p作 用 下 的 第 i个 神 经 元 的 期 望 输 出， 表 示 在 样 本 p作 用 下 的 第 i个 神 经 元 的 实 际 输 出 。为 学 习 速 率 （ 01） ， 用 于 控 制 权 值 调 整 速 度 。学 习 速 率 较 大 时 ， 学 习 过 程 加 速 ， 网 络 收 敛 较 快 。 但是 太 大 时 ， 学 习 过 程 变 得 不 稳 定 ， 且 误 差 会 加 大 。 因此 学 习 速 率 的 取 值 很 关 键 。 pitpiy pjpipjpipiij xexytw )( pipipii eyt 1)( 64 感 知 机 的 学 习 规 则 属 误 差 修 正 规 则 ， 该 法 已 被 证明 ， 经 过 若 干 次 叠 代 计 算 后 ， 可 以 收 敛 到 正 确 的 目标 向 量 。 由 上 可 知 ， 该 算 法 无 需 求 导 数 ， 因 此 比 较简 单 ， 又 具 有 收 敛 速 度 快 和 精 度 高 的 优 点 。 期 望 输 出 与 实 际 输 出 之 差 为 (1-4) )1)(,0(1 )(0 )0)(,1(1)( kyt kyt kytkyte pipi pipi pipipipipi 由 此 可 见 ， 权 值 变 化 量 与 两 个 量 有 关 ； 输 入 状 态xj和 输 出 误 差 。 当 且 仅 当 输 出 单 元 i有 输 出 误 差 且 相连 输 入 状 态 xj为 l时 ， 修 正 权 值 或 增 加 一 个 量 或 减 少一 个 量 。 65 感 知 机 的 学 习 过 程 又 称 为 最 小 方 差 学 习 过 程