《人工智能课件》PPT课件

Uncertainty Reasoning) 4.1 不 确 定 性 推 理 概 述4.2 可 信 度 方 法4.3 主 观 Bayes方 法4.4 证 据 理 论 4.5 模 糊 推 理 本 章 小 结 参 考 文 献第 4章 不 确 定 性 推 理 方 法 4.1 不 确 定 性 推 理 概 述4.1.1 不 确 定 性 推 理 的 概 念4.1.2 不 确 定 性 推 理 方 法 的 分 类4.1.3 不 确 定 性 推 理 的 基 本 问 题 概 述 (1)p推 理 从 已 知 事 实 （ 证 据 ） 出 发 运 用 相 关 知 识 （ 规 则 ） 证 明 某 个 假 设 成 立 or 不 成 立p上 一 章 介 绍 的 推 理 方 法 属 于 确 定 性 推 理 ： 所 依 据 的 证 据 是 确 定 的 ， 即 要 么 为 真 ， 要 么 为 假 推 理 过 程 以 数 理 逻 辑 为 基 础 ， 严 密 ， 所 推 出 的 结 论 也是 确 定 的 ， 即 结 论 要 么 成 立 ， 要 么 不 成 立 概 述 (2) 而 在 现 实 生 活 中 ， 证 据 、 知 识 往 往 是 不 确 定 的 ： 推 理 所 需 知 识 不 完 备 、 不 精 确 所 需 知 识 描 述 模 糊 ： 如 果 李 红 这 个 人 比 较 好 ， 我 就把 他 当 作 好 朋 友 多 种 原 因 导 致 同 一 结 论 问 题 的 背 景 知 识 不 足 ： 疑 难 杂 症 、 地 震 预 报 概 述 (3)p 不 确 定 性 推 理 ： 从 不 确 定 性 的 初 始 证 据 （ 即 已 知 事 实 ） 出 发 运 用 不 确 定 性 的 知 识 （ 或 规 则 ） 推 出 具 有 一 定 程 度 的 不 确 定 性 但 却 是 合 理 或 近 乎 合理 的 结 论 不 确 定 性 推 理 方 法 的 分 类模 型 方 法控 制 方 法把 不 确 性 的 证 据 和 知 识 分 别 与 某种 度 量 标 准 对 应 起 来 ， 并 给 出 更新 结 论 不 确 定 性 的 算 法 通 过 识 别 领 域 中 引 起 不 确 定 性 的 某 些特 征 及 相 应 的 控 制 策 略 来 限 制 或 减 少不 确 定 性 系 统 产 生 的 影 响启 发 式 搜 索回 溯相 关 性 制 导非 数 值 方 法数 值 方 法对 不 确 定 性 的 定量 表 示 和 处 理基 于 概 率 的 方 法模 糊 推 理 方 法 可 信 度 方 法主 观 Bayse方 法证 据 理 论 方 法 不 确 定 性 推 理 中 的 基 本 问 题 不 确 定 性 的 表 示 不 确 定 性 推 理 计 算 不 确 定 性 的 度 量 不 确 定 性 推 理 中 的 基 本 问 题 不 确 定 性 的 表 示 不 确 定 性 推 理 计 算 不 确 定 性 的 度 量 证 据 不 确 定 性 的 表 示 ： 证 据 具 有 不 确 定 性 ： 通 过 观 察 而 得 到 的 初 始 证 据 。 由 观 察 引 起 前 面 推 理 过 程 中 推 出 的 结 论 。 由 前 面 推 理 过 程 引 起 。 表 示 为 一 数 值 ： 初 始 证 据 由 专 家 给 出 ， 前 面 推 理 所 得结 论 由 不 确 定 性 传 递 算 法 计 算 得 到 知 识 不 确 定 性 的 表 示 表 示 知 识 的 不 确 定 性 时 要 考 虑 的 因 素 ： 要 将 领 域 问 题 的 特 征 比 较 准 确 地 描 述 出 来 ， 满 足 问 题求 解 的 需 要 ； 要 便 于 推 理 过 程 中 对 不 确 定 性 的 推 算 。 知 识 的 不 确 定 性 由 领 域 专 家 给 出 ， 以 一 个 数 值 表 示 /该数 值 表 示 了 相 应 知 识 的 不 确 定 程 度 。 不 确 定 性 推 理 计 算 (1) 不 确 定 性 推 理 过 程 包 括 不 确 定 性 的 传 递 计 算 、 证 据 不确 定 性 的 合 成 和 结 论 不 确 定 性 的 更 新 或 合 成 。 不 确 定 性 传 递 计 算 :研 究 如 何 将 证 据 E的 不 确 定 性 CF(E)和 规 则 EH的 不 确 定 性 CF(H, E)传 递 到 结 论 上 CF(H)。 证 据 不 确 定 性 合 成 问 题 ： 当 支 持 结 论 的 证 据 不 止 一 个 ，而 是 几 个 ， 这 几 个 证 据 可 能 是 AND或 OR的 关 系 ， 如如 何 由 不 确 定 性 推 理 计 算 (2) 结 论 不 确 定 性 合 成 问 题 ： 如 果 有 两 个 证 据 分 别 由 两 条规 则 支 持 结 论 ， 如 何 根 据 这 两 个 证 据 和 两 条 规 则 的 不确 定 性 确 定 结 论 的 不 确 定 性 。第 3章 确 定 性 推 理 方 法 不 确 定 性 度 量 (1) 不 同 的 知 识 和 不 同 的 证 据 ， 其 不 确 定 性 的 程 度 一 般 是不 同 的 。 推 理 所 得 结 论 的 不 确 定 性 也 会 随 之 变 化 ， 需 要 用 不 同的 数 值 对 它 们 的 不 确 定 性 程 度 进 行 表 示 ， 同 时 还 需 对它 的 取 值 范 围 进 行 规 定 。 只 有 规 定 了 范 围 ， 每 个 数 值才 有 意 义 。 不 确 定 性 度 量 是 指 ， 用 一 定 的 数 值 来 表 示 知 识 、 证 据和 结 论 的 不 确 定 程 度 时 ， 这 种 数 值 的 取 值 方 法 和 取 值范 围 。 不 确 定 性 度 量 (2) 在 确 定 一 种 量 度 方 法 及 其 范 围 时 ， 应 注 意 以 下 几 点 ： 量 度 要 能 充 分 表 达 相 应 知 识 及 证 据 的 不 确 定 性 程 度 ； 范 围 的 指 定 应 便 于 领 域 专 家 及 用 户 对 证 据 或 知 识 不 确定 性 的 估 计 ； 量 度 要 便 于 不 确 定 性 的 推 理 计 算 ， 而 且 所 得 到 的 结 论之 不 确 定 值 应 落 在 不 确 定 性 量 度 所 规 定 的 范 围 之 内 ； 量 度 的 确 定 应 当 是 直 观 的 ， 也 应 当 有 相 应 的 理 论 依 据 。 不 确 定 推 理 中 的 3个 基 本 问 题 不 确 定 性 的 表 示 ： 证 据 不 确 定 性 的 表 示 知 识 不 确 定 性 的 表 示 推 理 计 算 不 确 定 性 传 递 问 题 证 据 不 确 定 性 合 成 问 题 结 论 不 确 定 性 的 更 新 或 合 成 问 题 不 确 定 性 度 量 取 值 方 法 取 值 范 围 4.2 可 信 度 方 法 由 美 国 斯 坦 福 大 学 E.H.Shortliffe等 人 在 确 定 性 理 论 的基 础 上 ， 结 合 概 率 论 提 出 的 一 种 不 确 定 性 推 理 方 法 可 信 度 方 法 中 不 确 定 性 用 可 信 度 来 表 示 1976年 在 血 液 病 诊 断 专 家 系 统 MYCIN中 首 先 应 用 应 用 最 早 、 且 简 单 有 效 的 方 法 之 一 主 要 内 容4.2.1 可 信 度 的 概 念4.2.2 知 识 的 不 确 性 表 示4.2.3 证 据 的 不 确 定 性 表 示4.2.4 不 确 定 性 的 推 理 计 算 可 信 度 的 概 念 可 信 度 ： 人 们 在 实 际 生 活 中 根 据 自 己 的 经 验 或 观 察 对某 一 事 件 或 现 象 为 真 的 相 信 程 度 。 可 信 度 具 有 较 大 的 主 观 性 和 经 验 性 ， 其 准 确 性 难 以 把握 。 但 是 ， 对 某 一 具 体 领 域 而 言 ， 由 于 该 领 域 专 家 具有 丰 富 的 专 业 知 识 及 实 践 经 验 ， 要 给 出 该 领 域 知 识 的可 信 度 还 是 完 全 有 可 能 的 。 人 工 智 能 所 面 临 的 问 题 ， 较 难 用 精 确 的 数 学 模 型 进 行描 述 ， 并 且 先 验 概 率 及 条 件 概 率 的 确 定 也 比 较 困 难 ，因 此 用 可 信 度 来 表 示 知 识 及 证 据 的 不 确 定 性 仍 不 失 为一 种 可 行 的 方 法 。 在 基 于 可 信 度 的 不 确 定 性 推 理 模 型 中 ， 知 识 是 以 产 生式 的 形 式 表 示 的 ， 知 识 的 不 确 定 性 则 是 以 可 信 度 CF(H，E)表 示 的 。 其 一 般 形 式 为 E是 知 识 的 前 提 条 件 或 称 为 证 据 。 它 既 可 以 是 一 个 简 单条 件 ， 也 可 以 是 用 或 把 多 个 简 单 条 件 连 接 起 来 所构 成 的 复 合 条 件 。 H是 结 论 ， 可 以 是 单 一 的 结 论 ， 也 可 以 是 多 个 结 论 CF(H， E)是 该 条 知 识 的 可 信 度 ， 称 为 可 信 度 因 子 或 规则 强 度 。 知 识 可 信 度 的 定 义 (1) 在 MYCIN中 ， CF(H,E)被 定 义 为 MB(Measure Belief)为 信 任 增 长 度 ， 表 示 由 于 与 前 提 条件 E匹 配 的 证 据 的 出 现 ， 使 结 论 H为 真 的 信 任 增 长 度 ； MD(Measure Disbelief)为 不 信 任 增 长 度 ， 它 表 示 由 于 与前 提 条 件 E匹 配 的 证 据 的 出 现 ， 对 结 论 H为 真 的 不 信 任增 长 度 。 知 识 可 信 度 的 定 义 (2) 知 识 可 信 度 的 定 义 (3) 根 据 前 面 CF(H,E)的 定 义 以 及 MB(H,E)和 MD(H,E)的 互斥 性 ， 得 到 CF(H,E)的 计 算 公 式 ： 知 识 可 信 度 的 定 义 (4) CF(H,E)的 取 值 范 围 知 识 可 信 度 的 定 义 (5) 当 0CF(H,E)1时 ， 有 P(H/E) P(H)。 表 明 由 于 证 据 E的 出 现 增 加 了 结 论 H为 真 的 可 信 度 。 CF(H,E)的 值 愈 大 ，则 增 加 H为 真 的 可 信 度 越 大 。 若 CF(H,E)=1， 则 有 P(H/E)=1， 即 由 于 E的 出 现 ， 使 H为 真 。 当 -1 CF(H,E)0时 ， 有 P(H/E)0， 且 这 种 支 持 力 度 越 大 ， 就 使 CF(H,E)值 越 大 ； 如 果 E的 出 现 使 结 论 H为 假 的 可 信 度 增 加 了 ， 则 使 CF(H,E)0， 且 这 种 支 持 力 度 越 大 ， 就 使 CF(H,E)值 越 小 ； 若 E的 出 现 与 否 与 H无 关 ， 则 使 CF(H,E)=0； CF(H,E)的 取 值 范 围 是 -1,1。 证 据 的 不 确 定 性 表 示 初 始 证 据 ， 其 可 信 度 值 一 般 由 提 供 证 据 的 用 户 直 接 指定 。 指 定 的 方 法 也 是 用 可 信 度 因 子 对 证 据 不 确 定 性 进行 表 示 。 例 如 CF(E)=0.8表 示 证 据 E的 可 信 度 为 0.8。 用 先 前 推 出 的 结 论 作 为 当 前 推 理 的 证 据 ： 由 不 确 定 性传 递 算 法 计 算 得 到 (传 递 算 法 将 在 下 面 讨 论 )。 证 据 E的 可 信 度 CF(E)取 值 范 围 ： -1， 1 不 确 定 性 的 推 理 计 算 (1) 即 从 不 确 定 的 证 据 出 发 ， 通 过 运 用 相 关 的 不 确 定 性 知识 ， 最 终 推 出 结 论 并 求 出 结 论 的 可 信 度 值 。 不 确 定 性 的 传 递 /只 有 单 条 知 识 支 持 结 论 时 / ： 如 果 支 持 结 论 的 知 识 只 有 一 条 (IF E THEN H)， 且 已知 证 据 E的 可 信 度 CF(E)和 规 则 的 可 信 度 CF(H,E),则 结论 H的 可 信 度 计 算 公 式 为 ： CF(H)=CF(H,E) max0,CF(E) 若 CF(E)0， 即 证 据 的 可 信 度 为 假 时 ， CF(H)=0， 因此 上 述 公 式 没 有 考 虑 证 据 为 假 时 对 H的 影 响 。 当 证 据 为 真 即 CF(E)=1时 ， CF(H)=CF(H,E)， 即 当 证据 为 真 时 ， 结 论 的 可 信 度 就 是 规 则 的 可 信 度 。 不 确 定 性 的 推 理 计 算 (2)2. 证 据 不 确 定 性 的 合 成 /支 持 结 论 的 证 据 有 多 个 当 证 据 是 多 个 单 一 证 据 的 合 取 时 ， 即 E=E1 E2 En CF(E)=minCF(E1),CF(E2),CF(En) 当 证 据 是 多 个 单 一 证 据 的 析 取 时 ， 即 E=E1 E2 , En CF(E)=maxCF(E1),CF(E2),CF(En) 不 确 定 性 的 推 理 计 算 (3) 结 论 的 不 确 定 性 合 成 /多 条 知 识 支 持 同 一 结 论 时 ， 结 论不 确 定 性 的 合 成 多 条 知 识 的 综 合 可 以 通 过 两 两 的 合 成 实 现 。 因 此 ， 以 两 条 知 识 为 例 ， 如 对 结 论 H的 综 合 可 信 度 的 计 算 分 为 两 步 ： 不 确 定 性 的 推 理 计 算 (4) 计 算 每 一 条 知 识 的 结 论 可 信 度 CF(H) 利 用 下 式 求 出 E1和 E2对 H的 综 合 影 响 所 形 成 的 可 信 度 CF1,2(H)： 不 确 定 性 的 推 理 计 算 (5) 结 论 的 不 确 定 性 更 新 ： 已 知 证 据 E对 结 论 H有 影 响 ， 且知 识 EH CF(H， E)， 而 H原 来 的 可 信 度 为 CF(H)， 那么 如 何 求 在 证 据 E下 H的 可 信 度 更 新 值 CF(H/E)呢 ？ 当 CF(E) 1时 ， 即 证 据 肯 定 出 现 时 不 确 定 性 的 推 理 计 算 (6) 当 0CF(E)0 (i=1,2,n)。 对 于 任 一 事 件 A能且 只 能 与 B1,B2,Bn中 的 任 何 一 个 同 时 发 生 ， 且 P(A)0 ，则 有 如 果 用 产 生 式 EH中 的 E代 替 Bayes公 式 中 的 A， Hi代 替公 式 中 的 B i， 则 有1 2 . nB B B 1 / 1,2,./ i ini j jjP A PP A i nP A PB BB B B 1 / 1,2,./ i ini j jjP E PP E i nP E PH HH H H 基 本 Bayes公 式 (2) 当 有 多 个 证 据 E1, E2,Em和 多 个 结 论 H1, H2,Hm，并 且 每 个 证 据 都 以 一 定 的 程 度 支 持 结 论 ， 则 直 接 利 用 Bayes公 式 进 行 计 算 简 单 明 了 ， 并 且 它 具有 较 强 的 理 论 背 景 和 良 好 的 数 学 特 性 。 但 是 要 求 B1,B 2,Bn是 相 互 无 关 ， 这 实 际 上 难 以 保 证 ， 若 证 据间 出 现 相 互 依 赖 ， 则 不 能 用 Bayes公 式 了 。 另 外 P(A|Bi)和 P(Bi)的 计 算 困 难 1 21 2 1 21 / / ./ . 1,2,./ / .i i ini m j j jjP P PP i nP PE H E H HH EE E E H E H H 主 观 Bayes方 法 及 其 推 理 网 络 (1) 主 观 Bayes方 法 又 称 为 主 观 概 率 论 ， 是 由 R.O.Duda等 人于 1976年 提 出 在 地 质 勘 探 专 家 系 统 PROSPECTOR中 得 到 了 成 功 的 应用 ， 其 中 为 了 便 于 推 理 ， 利 用 了 一 个 推 理 网 络 推 理 网 络 ： 把 所 有 的 知 识 规 则 连 接 成 一 个 有 向 图 ， 图中 的 叶 节 点 代 表 证 据 ， 其 他 节 点 代 表 假 设 结 论 ， 弧 代表 规 则 ， 并 引 入 两 个 数 值 (LS, LN)与 每 条 弧 相 联 系 ， 用来 度 量 规 则 成 立 的 充 分 性 和 必 要 性 。 LS表 示 规 则 成 立的 充 分 性 ， LN表 示 规 则 成 立 的 必 要 性 。 主 观 Bayes方 法 及 其 推 理 网 络 (2) 推 理 网 络 将 一 些 证 据 和 一 些 重 要 的 假 设 结 论 联 系 起 来 。其 中 ， 叶 子 节 点 表 示 向 用 户 提 问 获 取 的 证 据 ， 其 他 节点 表 示 假 设 结 论 。 推 理 开 始 时 ， 每 个 假 设 结 论 的 真 、假 未 知 ， 经 过 推 理 ， 其 真 、 假 程 度 就 可 以 建 立 起 来 。 一 般 每 个 结 论 节 点 H都 附 上 先 验 概 率 值 P(H)； P(H)， (LS,LN)由 领 域 专 家 给 出 知 识 不 确 定 性 的 表 示 (1) 知 识 (规 则 )是 推 理 网 络 中 的 一 条 弧 ， 它 的 不 确 定 性 以 一个 值 对 (LS， LN)来 进 行 描 述 。 若 以 产 生 式 的 形 式 表 示 ，则 为 IF E THEN (LS， LN) H (P(H) H是 结 论 ， P(H)是 H的 先 验 概 率 ， 它 指 出 在 没 有 任 何 专门 证 据 的 情 况 下 结 论 H为 真 的 概 率 。 P(H)的 值 由 领 域专 家 给 出 E是 证 据 ， 可 以 是 单 个 证 据 ， 也 可 以 是 多 个 证 据 的 组 合 (LS， LN)是 为 度 量 产 生 式 规 则 的 不 确 定 性 而 引 入 的 一组 数 值 ， LS表 示 规 则 成 立 的 充 分 性 ， 用 于 表 示 E对 H为真 的 支 持 程 度 ； LN表 示 规 则 成 立 的 必 要 性 ， 表 示 E对 H为 真 的 必 要 程 度 。 定 义 如 下 / / 1 /,/ / 1 /P E H P E H P E HLS LNP E H P E H P E H 知 识 不 确 定 性 的 表 示 (2) LS， LN 意 义 的 讨 论 。先 建 立 几 率 函 数表 示 证 据 X的 出 现 概 率 与 不 出 现 概 率 之 比 ， 显 然 随 P(X) 增 加O(X)也 增 加 ， 而 且 P(X)=0 时 O(X)=0 P(X)=1 时 O(X)=这 样 ， 取 值 0,1的 P(X)放 大 为 取 值 0,便 得 O(X)。由 于两 式 相 除 ， 得 到 /O H E LS O H 1P XO X P X / P E H P HP H E P E / / / / P H E P E H P H LS O HP H E P E H P H / / P E H P HP H E P E 相 仿 地 也 可 得 根 据 以 上 两 式 ， 可 以 得 到 /O H E LN O H 1 O H|E O(H) E H1 O H|E O(H) E H1 O H|E O(H) E HLS 当 ， 即 对 没 有 影 响当 ， 即 支 持当 ， 即 不 支 持 1 O H|E O(H) E HN 1 O H|E O(H) E H1 O H|E O(H) E HL 当 ， 即 对 没 有 影 响当 ， 即 支 持当 ， 即 不 支 持 可 看 出 ， LS表 示 E真 时 ， 对 H为 真 的 影 响 程 度 ， 表示 规 则 EH成 立 充 分 性 。 LN表 示 E假 时 ， 对 H为真 的 影 响 程 度 ， 表 示 规 则 EH成 立 的 必 要 性 。 由 LS， LN 的 定 义 知 ， LS， LN均 0,而 且 LS， LN不 是独 立 取 值 的 ， 只 能 出 现 LS1， LN1或 LS1 或LS LN 1。 由 于 E和 E不 能 同 时 支 持 或 反 对 H， 因 此 ，不 能 出 现 两 者 同 时 1或 同 时 1。 在 实 际 系 统 中 ， LS， LN的 值 是 由 专 家 凭 经 验 给 出 的 ，而 不 是 依 LS， LN的 定 义 来 计 算 的 。 当 E越 支 持 H为 真时 ， LS越 大 ； 当 E对 于 H越 是 重 要 时 ， LN值 就 越 小 证 据 不 确 定 性 的 表 示 对 初 始 证 据 E： 可 以 是 先 验 概 率 ， 也 可 以 是 用 户 根 据 观察 S给 出 的 后 验 概 率 P(E|S)。 但 由 于 P(E|S)的 给 出 比 较 困难 ， 因 此 在 PROSPECTOR系 统 中 引 入 了 可 信 度 C(E|S)的 概 念 。 P(E|S)和 C(E|S)的 关 系 为 则 这 样 ， 用 户 只 要 对 初 始 证 据 给 出 相 应 的 可 信 度 C(E S)，就 可 由 系 统 将 它 转 换 为 相 应 的 P(E S)。 证 据 不 确 定 性 的 表 示 ： 组 合 证 据 当 证 据 是 多 个 单 一 证 据 的 合 取 时 ， 即 E=E1 E2 En 如 果 已 知 P(E1/S ), P(E2/S ), P(En/S ), P(E/S)=minP(E1/S ), P(E2/S ), P(En/S ) 当 证 据 是 多 个 单 一 证 据 的 析 取 时 ， 即 E=E1 E2 , En 如 果 已 知 P(E1/S ), P(E2/S ), P(En/S ), P(E/S)=maxP(E 1/S ), P(E2/S ), P(En/S ) 不 确 定 性 的 推 理 计 算 主 观 Bayes推 理 计 算 的 任 务 是 根 据 证 据 E的 概 率 P(E)以及 影 响 结 论 的 知 识 强 度 (LS， LN)， 把 H的 先 验 概 率 P(H)更 新 为 后 验 概 率 P(H/E) 在 推 理 网 络 中 ， 一 条 知 识 对 结 论 的 影 响 是 依 赖 证 据 的 ，证 据 出 现 情 况 的 不 同 ， 计 算 H的 后 验 概 率 的 方 法 不 同 ； 下 面 就 确 定 性 证 据 和 不 确 定 证 据 两 种 情 况 讨 论 结 论 H后验 概 率 的 推 理 计 算 方 法 不 确 定 性 的 推 理 计 算 ： 确 定 性 证 据 证 据 肯 定 出 现 的 情 况 ： P(E)=P(E/S)=1 由 得 到 证 据 肯 定 不 出 现 : P(E)=P(E/S)=0 由 得 到 /O H E LS O H 1 P XO X P X / 1 1LS P HP H E LS P H /O H E LN O H / 1 1LN P HP H E LN P H 不 确 定 性 的 推 理 计 算 ： 不 确 定 性 证 据 用 概 率 表 示 证 据 的 不 确 定 性 时 在 观 察 S下 ， 用 户 可 以 根 据 概 率 P(E/S)来 表 达 证 据 E为 真的 程 度 Duda 1976年 给 出 根 据 P(E/S)计 算 P(H|S)的 公 式 考 虑 以 下 三 种 情 况 ： P(E|S)=1， 即 证 据 肯 定 出 现 时 ， P(E|S)=0， 即 证 据 肯 定 不 出 现 时 ， 当 P(E|S)=P(E)， 即 E与 S无 关 时 ， | |P H S P H E | | | | |P H S P H E P E S P H E P E S | |P H S P H E | | | ( )P H S P H E P E P H E P E P H 利 用 以 上 三 个 特 殊 点 ， 以 及 分 段 线 性 插 值 函 数 ， 得 到 用 可 信 度 表 示 证 据 的 不 确 定 性 ， / | 0 | / / | 11 P H P H EP H E P E S P E S P EP EP H S P H E P HP H P E S P E P E P E SP E 1/ / | 1 | 05| 1/ | | 05P H E P H P H E C E S C E SP H S P H P H E P H C E S C E S 不 确 定 性 推 理 计 算 证 据 肯 定 出 现 时 ， 证 据 肯 定 不 出 现 时 证 据 以 一 定 的 概 率 出 现 / 1 1LS P HP H E LS P H / 1 1LN P HP H E LN P H / | 0 | / / | 11 P H P H EP H E P E S P E S P EP EP H S P H E P HP H P E S P E P E P E SP E 1/ / | 1 | 05| 1/ | | 05P H E P H P H E C E S C E SP H S P H P H E P H C E S C E S 结 论 不 确 定 性 合 成 若 有 n条 知 识 都 支 持 相 同 的 结 论 ， 而 且 每 条 知 识 的 前提 条 件 所 对 应 的 证 据 Ei(i=1， 2,.,n） 都 有 相 应 的 观 察Si与 之 相 对 应 ， 先 对 每 条 知 识 分 别 求 出 O(H|Si) 运 用 公 式 求 出 O(H|S1,S2,Sn) 利 用 几 率 函 数 的 定 义 ， 得 到 1 21 2 | | , ,., . nn O HO H O HO H O HO H O H O HSS SS S S 1 21 2 1 2| , ,.,| , ,., 1 | , ,., nn nO HP H O HS S SS S S S S S 结 论 不 确 定 性 更 新 首 先 利 用 第 一 条 规 则 对 结 论 的 先 验 概 率 进 行 更 新 ， 再把 得 到 的 更 新 概 率 作 为 第 二 条 规 则 的 先 验 概 率 ； 再 把 第 二 条 知 识 对 其 进 行 更 新 ， 把 更 新 后 得 到 的 值 作为 第 三 条 知 识 的 先 验 概 率 ； 这 样 继 续 下 去 直 到 所 有 的 规 则 使 用 完 为 止 主 观 贝 叶 斯 方 法 的 优 缺 点 主 观 贝 叶 斯 方 法 是 基 于 贝 叶 斯 规 则 的 计 算 方 法 ， 具 有公 理 基 础 和 易 于 理 解 的 数 学 性 质 。 它 要 求 所 有 假 设 的 概 率 都 是 独 立 的 。 当 这 种 独 立 性 不被 满 足 时 ， 主 观 贝 叶 斯 方 法 会 导 致 错 误 的 结 果 。 4.4 证 据 理 论4.4.1 证 据 理 论 的 数 学 基 础4.4.2 特 定 概 率 分 配 函 数4.4.3 基 于 特 定 概 率 分 配 函 数 的 不 确 定 性 推 理 模 型 证 据 理 论 又 称 D-S理 论 ， 由 A.P.Dempster首 先 提 出 ,G Shafer 进 一 步 发展 起 来 能 够 区 分 “ 不 确 定 ” 与 “ 不 知 道 ” 的 差 异 ， 具 有 较 大 的 灵活 性 ； 采 用 信 任 函 数 而 不 是 概 率 作 为 不 确 定 性 度 量 ， 通 过 对 一 些事 件 的 概 率 加 以 约 束 来 建 立 信 任 函 数 而 不 必 说 明 精 确 的 难于 获 得 的 概 率 ， 当 这 种 约 束 限 制 为 严 格 的 概 率 时 ， 证 据 理论 就 退 化 为 概 率 论 了 。 D-S理 论 的 数 学 基 础 在 可 信 度 方 法 和 主 观 Bayes方 法 中 ， 知 识 是 以 产 生 式 形式 表 示 的 。 在 可 信 度 的 方 法 中 ， 证 据 、 结 论 以 及 知 识的 不 确 定 性 是 以 可 信 度 进 行 度 量 的 。 在 主 观 Bayes方 法中 ， 证 据 及 结 论 的 不 确 定 性 是 以 概 率 的 形 式 进 行 度 量 ，而 知 识 的 不 确 定 性 则 是 以 数 值 对 (LS， LN)来 进 行 度 量的 。 在 D-S理 论 中 ， 知 识 也 是 用 产 生 式 形 式 表 示 的 ， 但 证 据和 结 论 都 要 以 集 合 进 行 表 示 。 例 如 ， 假 设 D是 所 有 可 能疾 病 的 集 合 ， 医 生 为 进 行 诊 断 而 进 行 的 各 种 检 查 所 获得 的 就 是 证 据 。 这 些 证 据 就 构 成 了 证 据 集 合 E/根 据 E中的 证 据 ， 就 可 以 判 断 病 人 的 疾 病 。 通 常 ， 有 的 证 据 所 支 持 的 不 只 是 一 种 疾 病 ， 而 是 多 种疾 病 ， 这 些 疾 病 构 成 了 D的 一 个 子 集 H/H为 结 论 集 合 。 在 D-S理 论 中 ， 知 识 的 不 确 定 性 通 过 一 个 集 合 形 式 的“ 可 信 度 因 子 ” 来 表 示 ， 而 证 据 和 结 论 的 不 确 定 性 度量 则 采 用 信 任 函 数 和 似 然 函 数 来 表 示 。 证 据 理 论 用 集 合 来 表 示 命 题 。 设 D是 变 量 y的 样 本 空 间 ，其 中 具 有 n个 元 素 ， 则 D中 元 素 所 构 成 的 子 集 个 数 为 2n个 。 在 任 何 时 刻 变 量 y的 取 值 都 会 落 入 某 个 子 集 。 也 就是 说 ， 每 一 个 子 集 A都 对 应 着 一 个 关 于 y的 命 题 /用 集 合A表 示 某 个 命 题 概 率 分 配 函 数 设 D为 样 本 空 间 ， 其 中 有 n个 元 素 ， 则 D中 元 素 所 构 成的 子 集 个 数 为 2n， 并 以 2D来 表 示 这 个 集 合 。 概 率 分 配函 数 的 作 用 是 将 D上 的 任 意 一 个 子 集 A都 映 射 为 0,1上的 一 个 数 M(A)。 当 A对 应 一 个 命 题 时 ， M(A)即 是 对 相应 命 题 不 确 定 性 的 度 量 设 D为 样 本 空 间 ， 领 域 内 的 命 题 都 用 D的 子 集 表 示 ， 如果 定 义 函 数 M(x)为 集 合 2D到 区 间 0,1上 的 一 个 映 射 函 数 ，其 满 足 下 列 条 件 ： 则 称 M(x)为 2 D上 的 概 率 分 配 函 数 。 M(A)称 为 命 题 A的 基本 概 率 数 0, 1A DM M A 概 率 分 配 函 数 不 是 概 率 ： 根 据 概 率 分 配 函 数 的 定 义 ，集 合 D的 所 有 子 集 的 概 率 分 配 数 之 和 为 1。 而 概 率 的 定义 则 认 为 D上 各 元 素 的 基 本 概 率 数 之 和 为 1。 信 任 函 数 定 义 ： 设 D为 样 本 空 间 ， A为 2D中 的 一 个 命 题 ， 定 义 函 数 Bel(x)为 将 集 合 2D映 射 到 0， 1上 的 一 个 函 数 ， 即 0 Bel(x)1,并 且 满 足 条 件 则 称 Bel(x)为 信 任 函 数 ， 或 下 限 函 数 信 任 函 数 Bel(A)是 表 示 对 命 题 A为 真 的 信 任 程 度 。 从 定 义 看 出 ， A的 信 任 函 数 值 为 A的 所 有 子 集 的 基 本 概 率 数 之 和 。 容 易 得 到 B ABel A M B 0 1BelBel D 似 然 函 数 定 义 设 函 数 Pl(x)是 从 集 合 2D到 区 间 0， 1的 映 射 函 数 ，且 有 则 称 Pl(x)为 似 然 函 数 因 为 Bel(A)表 示 对 命 题 A为 真 的 信 任 程 度 ， Bel(A)表示 对 命 题 A为 假 的 信 任 程 度 ， 1-Bel(A)表 示 对 A非 假 的信 任 程 度 。 非 假 不 一 定 为 真 ， 则 有 Pl(A) Bel(A) Pl(A)- Bel(A)表 示 对 A既 不 为 假 又 不 为 真 的 信 任 程 度 ，即 既 信 任 A又 不 信 任 A， “ 不 知 道 ” 一 般 用 Bel(A), Pl(A)描 述 命 题 A的 不 确 定 性 1 B APl A Bel A M B 概 率 分 配 函 数 的 正 交 和 命 题 的 不 确 定 性 需 要 信 任 函 数 和 似 然 函 数 ， 而 这 些 函数 的 定 义 又 依 赖 于 概 率 分 配 函 数 ， 则 概 率 分 配 函 数 是命 题 不 确 定 性 度 量 的 基 础 。 有 些 情 况 ， 由 于 数 据 来 源 不 同 ， 同 样 的 证 据 会 得 到 两个 不 同 的 概 率 分 配 函 数 。 这 又 如 何 来 度 量 命 题 的 不 确定 性 呢 ？ 将 两 个 概 率 分 配 函 数 合 成 一 个 概 率 分 配函 数 。 A.Dempster提 出 了 一 种 组 合 方 法 ， 即 对 两 个 概 率 分 配函 数 进 行 正 交 和 运 算 定 义 设 M1和 M2是 两 个 概 率 分 配 函 数 ， 则 它 们 的 正 交 和 为 若 K0， 则 正 交 和 M也 是 一 个 概 率 分 配 函 数 ；若 K=0， 则 不 存 在 正 交 和 ， 称 M1和 M2矛 盾 。1 2M M M 例 ： 设 D=c, d 求 M1和 M2是 组 合 后 的 概 率 分 配 函 数 。 定 义 设 M1, M2, Mn是 n个 概 率 分 配 函 数 ， 则 正 交 和 为1 2 . nM M M M 特 定 概 率 分 配 函 数 推 理 模 型 是 建 立 在 概 率 分 配 函 数 的 基 础 上 ， 所 选 取 的概 率 分 配 函 数 之 复 杂 性 ， 就 直 接 影 响 推 理 模 型 的 复 杂性 ， 进 而 影 响 不 确 定 性 计 算 的 复 杂 性 。 定 义 设 样 本 空 间 D=S1,S2,.,Sn， 领 域 内 的 命 题 都 用 D的 子 集 表 示 ， 则 定 义 2D上 的 概 率 分 配 函 数 M(x)满 足 如下 条 件 ： D 只 有 含 有 单 个 元 素 的 子 集 和 样 本 空 间 D本 身 的 基 本 概 率 数 才有 可 能 大 于 0， 其 他 子 集 的 基 本 概 率 数 为 0。 得 到 如 下 性 质 ： 基 于 特 定 概 率 分 配 函 数 的 不 确 定 性 推 理 模 型 用 Bel(A)和 Pl(A)构 造 信 任 度 函 数 f(A)以 度 量 命 题 的 不 确 定 性 证 据 的 不 确 定 性 表 示 0， 1 知 识 不 确 定 性 的 表 示 表 示 形 式 ： CF是 该 条 知 识 的 可 信 度 因 子 ， 用 集 合 形 式 表 示 。 其 中 ，ci用 来 指 出 hi(i=1,2,n)的 可 信 度 , ci与 hi对 应 ， ci应 满 足以 下 条 件 不 确 定 性 的 传 递 推 理 方 法 假 设 有 知 识 则 结 论 H的 可 信 度 f(H)通 过 下 列 步 骤 得 到 ： 求 出 H的 概 率 分 配 函 数 如 果 两 条 知 识 支 持 同 一 结 论 ， 即 则 分 别 求 出 每 一 条 知 识 的 概 率 分 配 函 数然 后 利 用 公 式 求 出 M1 和 M2 的 正 交 和 ， 即 可得 到 结 论 H的 概 率 分 配 函 数 M 求 出 H的 信 任 度 函 数 Bel(H)和 似 然 函 数 Pl(H) 求 出 结 论 H的 信 任 度 f(H)1 2M M M 证 据 理 论 的 优 缺 点 D-S证 据 理 论 方 法 有 极 强 的 理 论 基 础 , 可 以 表 示 主 、 客观 信 息 , 区 分 不 确 定 和 不 知 道 ， 方 便 地 定 义 各 种 问 题 ，处 理 概 率 、 模 糊 等 不 确 定 类 型 ， 在 20世 纪 80年 代 相 当流 行 缺 点 ： 如 果 证 据 之 间 是 冲 突 的 ， 即 证 据 分 别 以 较 大 的 概 率 支持 不 同 的 对 立 的 命 题 时 ， 若 直 接 运 用 D-S证 据 理 论 的 组合 公 式 进 行 推 理 ， 往 往 会 得 到 与 现 实 相 悖 的 结 论 ， 即冲 突 的 证 据 焦 元 在 推 理 后 往 往 会 变 得 很 小 ， 甚 至 会 变成 零 ， 而 组 合 前 的 概 率 很 小 的 命 题 可 能 会 变 得 很 大 ，或 者 成 为 必 然 事 件 ， 很 明 显 和 想 要 得 到 的 结 果 相 悖 。 例 1： 两 个 医 生 检 查 了 同 一 名 病 人 ， 认 为 这 个 病 人 可 能得 的 病 是 ： 脑 膜 炎 (M)、 脑 震 荡 (C)、 脑 瘤 (T)。 假 设 这两 个 医 生 都 认 为 这 个 病 人 得 脑 瘤 的 可 能 性 很 小 ， 但 是脑 膜 炎 还 是 脑 震 荡 ， 两 个 医 生 存 在 很 大 的 分 歧 ， 他 们的 诊 断 如 下 ： m1(M)=0.99， m1(T)=0.01， m2(C)=0.99， m2(T)=0.01m (M)=0， m (C)=0， m (T)=1与 事 实 不 符 合 D-S证 据 理 论 方 法 所 面 临 的 另 一 个 重 要 问 题 是 其 对 焦 元的 基 本 概 率 分 配 敏 感 ， 鲁 棒 性 差 。 即 当 某 个 证 据 源 对焦 元 的 基 本 概 率 分 配 函 数 发 生 较 小 的 变 化 时 ， 多 源 证据 的 组 合 结 果 会 发 生 剧 烈 的 变 化 。 为 了 便 于 说 明 ， 下面 将 例 1的 概 率 分 配 函 数 做 一 个 微 小 的 调 整 得 到 例 2，然 后 利 用 D-S证 据 理 论 对 例 2进 行 合 成 ， 看 看 得 到 合 成结 果 变 化 的 幅 度 。 例 2： R1： m1(M)=0.98， m1(C)=0.01， m1(T)=0.01 R2： m2(M)=0， m2(C)=0.99， m2(T)=0.01根 据 例 2， 利 用 D-S证 据 理 论 的 合 成 结 果 是 m (M)=0， m (C)=0.99， m(T)=0.01。 可 见 ， 与 例 1相 比 ， 证 据 R1发 生了 微 小 的 变 化 ， 但 利 用 D-S证 据 理 论 方 法 产 生 的 结 果 却 发生 剧 烈 的 变 化 。 即 对 T的 信 任 程 度 由 例 1的 几 乎 完 全 肯 定(m (T)=1)改 变 为 几 乎 完 全 否 定 (m (T)=0.01)； 而 对 C的 信任 程 度 由 例 1的 完 全 否 定 (m (C)=0)变 为 几 乎 完 全 肯 定 (m (C)=0.99)。 可 见 ， 对 焦 元 的 基 本 概 率 分 配 函 数 作 微 小 的调 整 会 导 致 组 合 结 果 发 生 剧 烈 的 变 化 。 不 确 定 推 理 方 法 研 究 现 状 针 对 某 种 不 确 定 推 理 方 法 的 问 题 提 出 改 进 方 法 ， 如 为了 解 决 D-S证 据 理 论 的 冲 突 证 据 问 题 ， Yager5率 先 发现 冲 突 证 据 组 合 时 产 生 的 问 题 ， 并 提 出 将 冲 突 信 息 部分 归 结 为 未 知 以 较 小 冲 突 ， Dubios6则 进 一 步 提 出 组合 中 的 冲 突 应 当 适 当 予 以 保 留 。 此 后 的 学 者 不 断 进 行改 进 ， 文 献 711使 用 “ 距 离 ” 的 概 念 来 衡 量 证 据 的 相似 度 以 缓 解 冲 突 ； 文 献 1214采 用 统 一 信 念 函 数 的 概念 建 立 参 数 化 的 合 成 规 则 ， 而 规 则 根 据 影 响 因 子 的 大小 确 定 冲 突 证 据 分 配 给 不 同 识 别 框 架 下 不 同 子 集 的 比例 。 文 献 15， 16则 分 别 对 合 成 规 则 中 的 证 据 损 耗 和 信念 函 数 中 的 冲 突 程 度 进 行 了 分 析 。 借 鉴 新 的 技 术 ， 如 粗 糙 集 、 模 糊 集 、 神 经 网 络 等 多 种 方 法 的 融 合 ， 文 献 21表 明 联 合 使 用 D-S证 据 理 论 方 法 与 模 糊推 理 方 法 能 提 高 系 统 的 精 确 性 和 可 靠 性 。 文 献 18提 出 了 不 确 定推 理 方 法 的 三 种 联 合 方 案 用 以 进 行 目 标 识 别 。 第 一 种 是 联 合 使 用粗 糙 集 和 D-S证 据 理 论 ： 首 先 利 用 粗 糙 集 理 论 对 源 数 据 进 行 信 息约 简 ， 然 后 利 用 D-S证 据 理 论 进 行 合 成 ； 第 二 种 是 联 合 使 用 粗 糙集 理 论 和 人 工 神 经 网 络 (Artificial Neural Networks, 简 称 ANN)：首 先 利 用 粗 糙 集 理 论 对 源 数 据 进 行 信 息 约 简 ， 然 后 利 用 ANN进 行合 成 ； 第 三 种 ， 将 粗 糙 集 理 论 、 D-S证 据 理 论 和 ANN三 者 联 合 使用 ： 首 先 利 用 粗 糙 集 理 论 对 源 数 据 进 行 信 息 约 简 ， 然 后 利 用 ANN进 行 初 步 信 息 融 合 以 为 下 一 步 的 D-S证 据 理 论 计 算 每 个 目 标 的 基本 可 信 度 分 配 ， 最 后 利 用 D-S证 据 理 论 方 法 进 行 融 合 (如 图 1所 示 )。仿 真 实 验 表 明 ， 以 上 三 种 混 合 推 理 的 目 标 识 别 正 确 率 均 比 单 一 使用 粗 糙 集 理 论 、 D-S证 据 理 论 和 ANN的 识 别 率 高 。 图 1 粗 糙 集 、 ANN和 D-S证 据 理 论 三 级 混 合推 理 结 构 4.5 模 糊 推 理 概 述 模 糊 推 理 不 同 于 以 前 介 绍 的 不 确 定 推 理 以 前 介 绍 的 不 确 定 推 理 模 型 是 以 概 率 为 基 础 ， 所 研 究的 事 件 本 身 具 有 确 切 含 义 ， 只 是 由 于 条 件 限 制 ， 使 人们 对 它 还 不 能 充 分 认 识 ， 从 而 在 条 件 与 事 件 之 间 不 能出 现 确 定 的 因 果 关 系 ， 这 种 不 确 定 性 是 由 随 机 性 引 起的 模 糊 推 理 的 理 论 基 础 是 模 糊 集 理 论 和 在 此 基 础 上 发 展起 来 的 模 糊 逻 辑 ， 它 所 处 理 的 对 象 本 身 是 模 糊 的 ， 概念 本 身 没 有 明 确 的 外 延 ， 一 个 对 象 是 否 符 合 这 个 概 念是 不 明 确 的 。 如 ： 好 ， 坏 ， 多 ， 少 等 ， 本 身 是 模 糊 的 。 OUTLINE4.5.1 模 糊 集 理 论 与 模 糊 逻 辑4.5.2 模 糊 知 识 表 示4.5.3 模 糊 证 据 表 示4.5.3 模 糊 推 理 模 型 在 现 实 世 界 中 ， 很 多 的 类 似 事 物 在 形 态 和 属 性 方 面 存在 着 一 系 列 的 过 渡 状 态 ， 使 彼 此 之 间 没 有 明 确 的 分 界线 。 如 “ 那 个 房 间 面 积 比 较 大 ， 但 高 度 不 是 很 高 ” ，“ 比 较 大 ” 、 “ 不 是 很 高 ” 是 两 个 模 糊 概 念 /对 房 子 体征 的 描 述 存 在 着 模 型 性 ， 这 种 模 糊 性 就 是 一 种 不 确 定性 为 了 处 理 模 糊 性 引 起 的 不 确 定 性 ， L. A. Zadeh对 模 糊性 的 度 量 和 处 理 进 行 了 大 量 的 研 究 ， 提 出 了 模 糊 集 、隶 属 函 数 和 模 糊 推 理 等 概 念 ， 为 模 型 性 的 定 量 描 述 和处 理 提 供 了 一 种 新 的 途 径 模 糊 集 与 隶 属 函 数 模 糊 集 和 隶 属 函 数 是 从 传 统 的 集 合 及 其 特 征 函 数 发 展而 来 的 ， 是 专 为 处 理 模 糊 性 而 提 出 的 。 在 传 统 的 集 合 中 ， 把 论 域 中 具 有 某 种 属 性 的 事 物 全 体称 为 集 合 ， 其 中 的 每 一 个 事 物 称 为 集 合 的 元 素 由 于 集 合 中 的 每 个 元 素 都 具 有 某 种 属 性 ， 因 此 可 用 集合 表 示 某 种 确 定 性 的 概 念 ， 而 且 可 以 用 一 个 函 数 来 刻画 它 ， 该 函 数 称 为 特 征 函 数 。 定 义 如 下 定 义 ： 设 A是 论 域 U上 的 一 个 集 合 ， 对 任 意 的 u U，令 则 称 CA(u)为 集 合 A的 特 征 函 数 。 特 征 函 数 CA(u) 在 u=u0处 的 取 值 为 u0对 集 合 A的 隶 属 度 。 特 征 函 数 的 值 域 为 0，1 一 个 确 定 性 的 概 念 可 以 用 一 个 集 合 表 示 ， 并 用 相 应 的特 征 函 数 来 刻 画 它 10A u Uu u UC 如 对 于 论 域 U= 1， 2， 3， 4， 5， 6， 7， 在 此 论 域 上“ 偶 数 ” 是 一 个 确 定 性 的 概 念 ， 可 以 用 集 合 A=2， 4，6表 示 ， 并 且 可 以 用 特 征 函 数 来 刻 画 它 ： 1 2,4,60 1,3,5,7A uu uC 对 于 模 糊 概 念 ， 由 于 其 没 有 明 确 的 边 界 线 ， 应 用 普 通集 合 及 其 特 征 函 数 很 难 将 模 糊 概 念 之 间 存 在 的 连 续 过渡 特 征 表 示 出 来 ， 因 此 ， Zadeh把 普 通 集 合 论 中 特 征函 数 的 取 值 范 围 由 0， 1推 广 到 闭 区 间 0， 1上 ， 引 入了 模 糊 集 和 隶 属 函 数 的 概 念 定 义 ： 在 论 域 U上 定 义 一 个 模 糊 集 A， 其 对 U的 任意 一 元 素 x均 指 定 一 个 值 uA(x) 0, 1， 以 表 示 它对 A的 隶 属 程 度 uA： 0, 1 （ uAA的 隶 属 函 数 ） 模 糊 集 的 表 示 方 法（ 1） 论 域 是 离 散 且 元 素 数 目 有 限 :或 ni i