湘潭大學(xué) 人工智能課件 機(jī)器學(xué)習(xí)

《湘潭大學(xué) 人工智能課件 機(jī)器學(xué)習(xí)》由會(huì)員分享，可在線閱讀，更多相關(guān)《湘潭大學(xué) 人工智能課件 機(jī)器學(xué)習(xí)（75頁珍藏版）》請(qǐng)?jiān)谘b配圖網(wǎng)上搜索。

1、Artificial Intelligence (AI)人工智能第七章：機(jī)器學(xué)習(xí) 內(nèi)容提要第 七 章 ： 機(jī) 器 學(xué) 習(xí) 系 統(tǒng)1.機(jī) 器 學(xué) 習(xí) 的 基 本 概 念2.機(jī) 器 學(xué) 習(xí) 策 略 與 基 本 結(jié) 構(gòu)3.歸 納 學(xué) 習(xí)4.類 比 學(xué) 習(xí)5.解 釋 學(xué) 習(xí)6.神 經(jīng) 網(wǎng) 絡(luò) 學(xué) 習(xí)8.其 他7.知 識(shí) 發(fā) 現(xiàn) 阿 法 狗 通 過 神 經(jīng) 網(wǎng) 絡(luò) 學(xué) 習(xí) 所 有 高 水 平 圍棋 棋 譜 ， 大 概 是 歷 史 上 有 的 20萬 個(gè) 左 右 職 業(yè) 棋譜 ， 從 而 獲 得 了 在 盤 面 上 如 何 落 子 的 直 覺 。 類 似 的 深 度 學(xué) 習(xí) 是 在 近 幾 年 出 現(xiàn) 的

2、 ，目 前 ， 這 項(xiàng) 科 技 也 有 了 一 些 應(yīng) 用 ， 最 簡(jiǎn) 單 的例 子 就 是 通 過 深 度 學(xué) 習(xí) 識(shí) 別 貓 。 通 過 這 項(xiàng) 識(shí)別 驗(yàn) 證 ， 已 經(jīng) 引 申 出 了 更 多 具 有 實(shí) 際 意 義 的應(yīng) 用 ， 比 如 識(shí) 別 某 一 個(gè) 圖 片 中 是 否 有 癌 細(xì) 胞， 某 一 個(gè) 鐵 路 沿 線 上 的 軌 道 是 否 存 在 磨 損 ，甚 至 軍 事 作 戰(zhàn) 中 ， 對(duì) 方 的 視 線 中 是 否 有 坦 克， 都 可 以 通 過 深 度 學(xué) 習(xí) 實(shí) 現(xiàn) 。 谷 歌 的 自 動(dòng) 駕駛 ， 其 中 很 重 要 的 就 是 識(shí) 別 道 路 、 交 通 信 號(hào)燈

3、、 路 標(biāo) 等 ， 這 都 是 通 過 深 度 學(xué) 習(xí) 獲 得 。 阿 法 狗 走 的 是 通 用 學(xué) 習(xí) 的 道 路 。 它 的 估 值 函 數(shù)， 不 是 專 家 攻 關(guān) 搗 哧 出 來 的 。 它 的 作 者 只 是 搭 了 一個(gè) 基 本 的 框 架 （ 一 個(gè) 多 層 的 神 經(jīng) 網(wǎng) 絡(luò) ） ， 除 了 圍 棋最 基 本 的 規(guī) 則 外 ， 沒 有 任 何 先 驗(yàn) 知 識(shí) 。 你 可 以 把 它想 象 成 一 個(gè) 新 生 兒 的 大 腦 ， 一 張 白 紙 。 然 后 ， 直 接用 人 類 高 手 對(duì) 局 的 3000萬 個(gè) 局 面 訓(xùn) 練 它 ， 自 動(dòng) 調(diào)節(jié) 它 的 神 經(jīng) 網(wǎng) 絡(luò)

4、參 數(shù) ， 讓 它 的 行 為 和 人 類 高 手 接 近。 這 樣 ， 阿 法 狗 就 具 有 了 基 本 的 棋 感 ， 看 到 一 個(gè) 局面 大 致 就 能 知 道 好 還 是 不 好 。 阿 法 狗 的 核 心 技 術(shù) 還 包 括 策 略 網(wǎng) 絡(luò) 的 訓(xùn) 練 和蒙 特 卡 洛 樹 搜 索 。 內(nèi)容提要第 七 章 ： 機(jī) 器 學(xué) 習(xí) 系 統(tǒng)1.機(jī) 器 學(xué) 習(xí) 的 基 本 概 念2.機(jī) 器 學(xué) 習(xí) 策 略 與 基 本 結(jié) 構(gòu)3.歸 納 學(xué) 習(xí)4.類 比 學(xué) 習(xí)5.解 釋 學(xué) 習(xí)6.神 經(jīng) 網(wǎng) 絡(luò) 學(xué) 習(xí)8.其 他7.知 識(shí) 發(fā) 現(xiàn) 機(jī) 器 學(xué) 習(xí) 是 人 工 智 能 的 核 心 ， 通 過

5、 使 機(jī) 器模 擬 人 類 學(xué) 習(xí) 行 為 ， 智 能 化 地 從 過 去 的 經(jīng) 歷 中獲 得 經(jīng) 驗(yàn) ， 從 而 改 善 其 整 體 性 能 ， 重 組 內(nèi) 在 知識(shí) 結(jié) 構(gòu) ， 并 對(duì) 未 知 事 件 進(jìn) 行 準(zhǔn) 確 的 推 斷 。 機(jī) 器學(xué) 習(xí) 在 科 學(xué) 和 工 程 諸 多 領(lǐng) 域 都 有 著 非 常 廣 泛 的應(yīng) 用 ， 例 如 金 融 分 析 、 數(shù) 據(jù) 挖 掘 、 生 物 信 息 學(xué)、 醫(yī) 學(xué) 診 斷 等 。 生 活 中 常 見 的 一 些 智 能 系 統(tǒng) 也廣 泛 使 用 機(jī) 器 學(xué) 習(xí) 算 法 ， 例 如 電 子 商 務(wù) 、 手 寫輸 入 、 郵 件 過 濾 等 。 人 類

6、 的 未 來 生 活 和 工 作 ， 還 將 有 機(jī) 器 人 參 與 。 機(jī) 器 人 的 自 主 學(xué)習(xí) ， 更 離 不 開 人 臉 識(shí) 別 技 術(shù) 。 2015年 3月 16日 ， 馬 云 在 德 國 參 加 活 動(dòng) 時(shí) ， 為 嘉 賓 演 示 了 一項(xiàng) “ Smile to Pay”的 掃 臉 技 術(shù) 。 在 網(wǎng) 購 后 的 支 付 認(rèn) 證 階 段 ， 通過 掃 臉 取 代 傳 統(tǒng) 的 密 碼 ， 實(shí) 現(xiàn) “ 刷 臉 支 付 ” 。 機(jī)器學(xué)習(xí)的基本概念n 機(jī) 器 學(xué) 習(xí) 的 兩 大 學(xué) 派 機(jī) 器 學(xué) 習(xí) ： 人 工 智 能 的 重 要 分 支p 構(gòu) 造 具 有 學(xué) 習(xí) 能 力 的 智 能

7、系 統(tǒng)p 知 識(shí) 、 推 理 、 學(xué) 習(xí) p 手 段 ： 統(tǒng) 計(jì) ， 邏 輯 ， 代 數(shù) 統(tǒng) 計(jì) 機(jī) 器 學(xué) 習(xí)p 從 大 量 樣 本 出 發(fā) ， 運(yùn) 用 統(tǒng) 計(jì) 方 法 ， 發(fā) 現(xiàn) 統(tǒng) 計(jì) 規(guī) 律p 有 監(jiān) 督 學(xué) 習(xí) 、 無 監(jiān) 督 學(xué) 習(xí) 、 半 監(jiān) 督 學(xué) 習(xí)p 問 題 ： 分 類 ， 聚 類 ， 回 歸 機(jī)器學(xué)習(xí)的基本概念n 機(jī) 器 學(xué) 習(xí) 的 定 義 西 蒙 （ Simon,1983） ： 學(xué) 習(xí) 就 是 系 統(tǒng) 中 的 適 應(yīng) 性變 化 ， 這 種 變 化 使 系 統(tǒng) 在 重 復(fù) 同 樣 工 作 或 類 似 工 作時(shí) ， 能 夠 做 得 更 好 。 明 斯 基 （ Minsky,

8、1985） ： 學(xué) 習(xí) 是 在 人 們 頭 腦 里（ 心 理 內(nèi) 部 ） 有 用 的 變 化 。 學(xué) 習(xí) 是 一 個(gè) 有 特 定 目 的 知 識(shí) 獲 取 和 能 力 增 長(zhǎng) 過 程 ，其 內(nèi) 在 行 為 是 獲 得 知 識(shí) 、 積 累 經(jīng) 驗(yàn) 、 發(fā) 現(xiàn) 規(guī) 律 等 ，其 外 部 表 現(xiàn) 是 改 進(jìn) 性 能 、 適 應(yīng) 環(huán) 境 、 實(shí) 現(xiàn) 自 我 完 善等 。 機(jī) 器 學(xué) 習(xí) 是 研 究 如 何 使 用 機(jī) 器 來 模 擬 人 類 學(xué) 習(xí) 活 動(dòng)的 一 門 學(xué) 科 。 機(jī)器學(xué)習(xí)的基本概念n 機(jī) 器 學(xué) 習(xí) 的 任 務(wù) 根 據(jù) 有 限 樣 本 集 Q ， 推 算 這 個(gè) 世 界 W 的 模型 ，

9、 使 得 其 對(duì) 這 個(gè) 世 界 為 真 。 機(jī)器學(xué)習(xí)的基本概念n 機(jī) 器 學(xué) 習(xí) 的 三 要 素 一 致 性 假 設(shè) ： 假 設(shè) 世 界 W與 樣 本 集 Q具 有 某 種相 同 性 質(zhì) 機(jī) 器 學(xué) 習(xí) 的 條 件 。 樣 本 空 間 劃 分 ： 將 樣 本 集 放 到 一 個(gè) n維 空 間 ， 尋找 一 個(gè) 決 策 面 (等 價(jià) 關(guān) 系 )， 使 得 問 題 決 定 的 不同 對(duì) 象 被 劃 分 在 不 相 交 的 區(qū) 域 。 泛 化 能 力 ： 從 有 限 樣 本 集 合 中 獲 得 的 規(guī) 律 是 否對(duì) 學(xué) 習(xí) 集 以 外 的 數(shù) 據(jù) 仍 然 有 效 。 泛 化 能 力 決 定模 型

10、對(duì) 世 界 的 有 效 性 。 內(nèi)容提要第 七 章 ： 機(jī) 器 學(xué) 習(xí) 系 統(tǒng)1.機(jī) 器 學(xué) 習(xí) 的 基 本 概 念2.機(jī) 器 學(xué) 習(xí) 策 略 與 基 本 結(jié) 構(gòu)3.歸 納 學(xué) 習(xí)4.類 比 學(xué) 習(xí)5.解 釋 學(xué) 習(xí)6.神 經(jīng) 網(wǎng) 絡(luò) 學(xué) 習(xí)8.其 他7.知 識(shí) 發(fā) 現(xiàn) 機(jī)器學(xué)習(xí)策略與基本結(jié)構(gòu)n 機(jī) 器 學(xué) 習(xí) 的 主 要 策 略 ： 按 照 學(xué) 習(xí) 中 使 用 推 理 的多 少 ， 機(jī) 器 學(xué) 習(xí) 所 采 用 的 策 略 大 體 上 可 分 為 4種 機(jī) 械 學(xué) 習(xí) ： 記 憶 學(xué) 習(xí) 方 法 ， 即 把 新 的 知 識(shí) 存 儲(chǔ) 起 來 ，供 需 要 時(shí) 檢 索 調(diào) 用 ， 而 不 需 要

11、計(jì) 算 和 推 理 。 示 教 學(xué) 習(xí) ： 外 界 輸 入 知 識(shí) 與 內(nèi) 部 知 識(shí) 的 表 達(dá) 不 完 全一 致 ， 系 統(tǒng) 在 接 受 外 部 知 識(shí) 時(shí) 需 要 推 理 、 翻 譯 和 轉(zhuǎn)化 。 類 比 學(xué) 習(xí) ： 需 要 發(fā) 現(xiàn) 當(dāng) 前 任 務(wù) 與 已 知 知 識(shí) 的 相 似 之處 ， 通 過 類 比 給 出 完 成 當(dāng) 前 任 務(wù) 的 方 案 。 示 例 學(xué) 習(xí) ： 需 要 從 一 組 正 例 和 反 例 中 分 析 和 總 結(jié) 出一 般 性 的 規(guī) 律 ， 在 新 的 任 務(wù) 中 推 廣 、 驗(yàn) 證 、 修 改 規(guī)律 。 機(jī)器學(xué)習(xí)策略與基本結(jié)構(gòu)n 學(xué) 習(xí) 系 統(tǒng) 的 基 本 結(jié)

12、構(gòu)n 影 響 學(xué) 習(xí) 系 統(tǒng) 設(shè) 計(jì) 的 要 素 環(huán) 境 ： 環(huán) 境 向 系 統(tǒng) 提 供 信 息 的 水 平 （ 一 般 化 程 度 ）和 質(zhì) 量 （ 正 確 性 ） 知 識(shí) 庫 ： 表 達(dá) 能 力 ， 易 于 推 理 ， 容 易 修 改 ， 知 識(shí) 表示 易 于 擴(kuò) 展 。環(huán) 境 學(xué) 習(xí) 知 識(shí) 庫 執(zhí) 行 內(nèi)容提要第 七 章 ： 機(jī) 器 學(xué) 習(xí) 系 統(tǒng)1.機(jī) 器 學(xué) 習(xí) 的 基 本 概 念2.機(jī) 器 學(xué) 習(xí) 策 略 與 基 本 結(jié) 構(gòu)3.歸 納 學(xué) 習(xí)4.類 比 學(xué) 習(xí)5.解 釋 學(xué) 習(xí)6.神 經(jīng) 網(wǎng) 絡(luò) 學(xué) 習(xí)8.其 他7.知 識(shí) 發(fā) 現(xiàn) 歸納學(xué)習(xí)n 歸 納 學(xué) 習(xí) （ Inductio

13、n Learning） 歸 納 學(xué) 習(xí) 是 應(yīng) 用 歸 納 推 理 進(jìn) 行 學(xué) 習(xí) 的 一 種 方 法 。 歸 納 學(xué) 習(xí) 的 模 式 ： 解 釋 過 程 實(shí) 例 空 間 規(guī) 則 空 間 規(guī) 劃 過 程 實(shí) 驗(yàn) 規(guī) 劃 過 程 通 過 對(duì) 實(shí) 例 空 間 的 搜 索 完 成 實(shí) 例 選 擇 ， 并 將 這 些 選 中拿 到 的 活 躍 實(shí) 例 提 交 給 解 釋 過 程 。 解 釋 過 程 對(duì) 實(shí) 例 加 以 適 當(dāng) 轉(zhuǎn) 換 ， 把 活躍 實(shí) 例 變 換 為 規(guī) 則 空 間 中 的 特 定 概 念 ， 以 引 導(dǎo) 規(guī) 則 空 間 的 搜 索 。 歸納學(xué)習(xí)n 歸 納 學(xué) 習(xí) （ Inductio

14、n Learning） 歸 納 學(xué) 習(xí) 是 目 前 研 究 得 最 多 的 學(xué) 習(xí) 方 法 ， 其 學(xué) 習(xí) 目的 是 為 了 獲 得 新 概 念 、 構(gòu) 造 新 規(guī) 則 或 發(fā) 現(xiàn) 新 理 論 。 根 據(jù) 歸 納 學(xué) 習(xí) 有 無 教 師 指 導(dǎo) ， 可 把 它 分 為 p 示 例 學(xué) 習(xí) ： 給 學(xué) 習(xí) 者 提 供 某 一 概 念 的 一 組 正 例 和反 例 ， 學(xué) 習(xí) 者 歸 納 出 一 個(gè) 總 的 概 念 描 述 （ 規(guī) 則 ） ，并 使 這 個(gè) 描 述 適 合 于 所 有 的 正 例 ， 排 除 所 有 的 反例 。p 觀 察 發(fā) 現(xiàn) 學(xué) 習(xí) ：p 概 念 聚 類 ： 按 照 一 定

15、的 方 式 和 準(zhǔn) 則 分 組 ， 歸 納 概 念p 機(jī) 器 發(fā) 現(xiàn) ： 從 數(shù) 據(jù) 和 事 例 中 發(fā) 現(xiàn) 新 知 識(shí) 內(nèi)容提要第 七 章 ： 機(jī) 器 學(xué) 習(xí) 系 統(tǒng)1.機(jī) 器 學(xué) 習(xí) 的 基 本 概 念2.機(jī) 器 學(xué) 習(xí) 策 略 與 基 本 結(jié) 構(gòu)3.歸 納 學(xué) 習(xí)4.類 比 學(xué) 習(xí)5.解 釋 學(xué) 習(xí)6.神 經(jīng) 網(wǎng) 絡(luò) 學(xué) 習(xí)8.其 他7.知 識(shí) 發(fā) 現(xiàn) 類比學(xué)習(xí)n 類 比 推 理 和 類 比 學(xué) 習(xí) 方 式 類 比 學(xué) 習(xí) （ learning by analogy） 就 是 通 過 類 比 ，即 通 過 對(duì) 相 似 事 物 加 以 比 較 所 進(jìn) 行 的 一 種 學(xué) 習(xí) 。 類 比 學(xué)

16、 習(xí) 是 利 用 二 個(gè) 不 同 領(lǐng) 域 （ 源 域 、 目 標(biāo) 域 ） 中的 知 識(shí) 相 似 性 ， 可 以 通 過 類 比 ， 從 源 域 的 知 識(shí) （ 包括 相 似 的 特 征 和 其 它 性 質(zhì) ） 推 導(dǎo) 出 目 標(biāo) 域 的 相 應(yīng) 知識(shí) ， 從 而 實(shí) 現(xiàn) 學(xué) 習(xí) 。 例 如 ：p 1. 一 個(gè) 從 未 開 過 truck的 司 機(jī) ， 只 要 他 有 開 car的 知 識(shí) 就 可完 成 開 truck的 任 務(wù) 。p 2. 若 把 某 個(gè) 人 比 喻 為 消 防 車 ， 則 可 通 過 觀 察 消 防 車 的 行 為 ，推 斷 出 這 個(gè) 人 的 性 格 。 類比學(xué)習(xí)n 類 比

17、 推 理 和 類 比 學(xué) 習(xí) 方 式 類 比 學(xué) 習(xí) 系 統(tǒng) 可 以 使 一 個(gè) 已 有 的 計(jì) 算 機(jī) 應(yīng) 用系 統(tǒng) 轉(zhuǎn) 變 為 適 應(yīng) 于 新 的 領(lǐng) 域 ， 來 完 成 原 先 沒有 設(shè) 計(jì) 的 相 類 似 的 功 能 。 類 比 推 理 過 程 ： p 回 憶 與 聯(lián) 想 ： 找 出 當(dāng) 前 情 況 的 相 似 情 況p 選 擇 ： 選 擇 最 相 似 的 情 況 及 相 關(guān) 知 識(shí)p 建 立 對(duì) 應(yīng) 關(guān) 系 ： 建 立 相 似 元 素 之 間 的 映 射p 轉(zhuǎn) 換 ： 求 解 問 題 或 產(chǎn) 生 新 的 知 識(shí) 類比學(xué)習(xí)n 類 比 學(xué) 習(xí) 研 究 類 型 問 題 求 解 型 的 類

18、比 學(xué) 習(xí) ： 求 解 一 個(gè) 新 問 題 時(shí) ，先 回 憶 以 前 是 否 求 解 過 類 似 問 題 ， 若 是 ， 則以 此 為 依 據(jù) 求 解 新 問 題 。 預(yù) 測(cè) 推 理 型 的 類 比 學(xué) 習(xí) p 傳 統(tǒng) 的 類 比 法 ： 用 來 推 斷 一 個(gè) 不 完 全 確 定 的事 物 可 能 還 有 的 其 他 屬 性p 因 果 關(guān) 系 型 ： 已 知 因 果 關(guān) 系 S1:A-B， 如 果有 A A， 則 可 能 有 B滿 足 A-B 內(nèi)容提要第 七 章 ： 機(jī) 器 學(xué) 習(xí) 系 統(tǒng)1.機(jī) 器 學(xué) 習(xí) 的 基 本 概 念2.機(jī) 器 學(xué) 習(xí) 策 略 與 基 本 結(jié) 構(gòu)3.歸 納 學(xué) 習(xí)4

19、.類 比 學(xué) 習(xí)5.解 釋 學(xué) 習(xí)6.神 經(jīng) 網(wǎng) 絡(luò) 學(xué) 習(xí)8.其 他7.知 識(shí) 發(fā) 現(xiàn) 解釋學(xué)習(xí)n 解 釋 學(xué) 習(xí) (Explanation-based learning, EBL) 解 釋 學(xué) 習(xí) 興 起 于 20世 紀(jì) 80年 代 中 期 ， 根 據(jù) 任 務(wù)所 在 領(lǐng) 域 知 識(shí) 和 正 在 學(xué) 習(xí) 的 概 念 知 識(shí) ， 對(duì) 當(dāng) 前實(shí) 例 進(jìn) 行 分 析 和 求 解 ， 得 出 一 個(gè) 表 征 求 解 過 程的 因 果 解 釋 樹 ， 以 獲 取 新 的 知 識(shí) 。 例 如 ： 學(xué) 生 根 據(jù) 教 師 提 供 的 目 標(biāo) 概 念 、 該 概 念的 一 個(gè) 例 子 、 領(lǐng) 域 理 論 及

20、 可 操 作 準(zhǔn) 則 ， 首 先 構(gòu)造 一 個(gè) 解 釋 來 說 明 為 什 么 該 例 子 滿 足 目 標(biāo) 概 念 ，然 后 將 解 釋 推 廣 為 目 標(biāo) 概 念 的 一 個(gè) 滿 足 可 操 作準(zhǔn) 則 的 充 分 條 件 。 解釋學(xué)習(xí)n 解 釋 學(xué) 習(xí) 過 程 和 算 法 米 切 爾 提 出 了 一 個(gè) 解 釋 學(xué) 習(xí) 的 統(tǒng) 一 算 法 EBG， 建 立了 基 于 解 釋 的 概 括 過 程 ， 并 用 知 識(shí) 的 邏 輯 表 示 和 演繹 推 理 進(jìn) 行 問 題 求 解 。 其 一 般 性 描 述 為 ： 給 定 ： p 領(lǐng) 域 知 識(shí) DTp 目 標(biāo) 概 念 TCp 訓(xùn) 練 實(shí) 例 T

21、Ep 操 作 性 準(zhǔn) 則 OC 找 出 ： 滿 足 OC的 關(guān) 于 TC的 充 分 條 件目 標(biāo) 概 念 新 規(guī) 則操 作 準(zhǔn) 則訓(xùn) 練 例 子 知 識(shí) 庫 解釋學(xué)習(xí)n EBG算 法 可 概 括 為 兩 步 ： 1.構(gòu) 造 解 釋 ： 運(yùn) 用 領(lǐng) 域 知 識(shí) 進(jìn) 行 演 繹 ， 證 明 提 供 給系 統(tǒng) 的 訓(xùn) 練 實(shí) 例 為 什 么 是 滿 足 目 標(biāo) 概 念 的 一 個(gè) 實(shí) 例 。 例 如 ： p 設(shè) 要 學(xué) 習(xí) 的 目 標(biāo) 概 念 是 “ 一 個(gè) 物 體 （ Obj1） 可以 安 全 地 放 置 在 另 一 個(gè) 物 體 （ Obj2） 上 ” ， 即 ： Safe-To-Stack(Ob

22、j1,obj2)p 領(lǐng) 域 知 識(shí) 是 把 一 個(gè) 物 體 放 置 在 另 一 個(gè) 物 體 上 面 的安 全 性 準(zhǔn) 則 ： 解釋學(xué)習(xí)n EBG算 法 可 概 括 為 兩 步 ：p 領(lǐng) 域 知 識(shí) ：- Fragile (y) Safe-To-Stack (x ,y):如 果 y不 是 易 碎 的 ， 則 x可 以 安 全 地 放 到 y的 上 面- Lighter (x, y) Safe-To-Stack (x ,y):如 果 x 比 y輕 ， 則 x可 以安 全 地 放 到 y的 上 面 - Volume (p, v) Density (p, d) *(v, d, w) Weight (p

23、, w):如 果 p的 體 積 是 v、 密 度 是 d、 v乘 以 d的 積 是 w， 則 p的 重 量是 w- Isa(p, table)Weight (p, 15) :若 p是 桌 子 ， 則 p的 重 量 是 15 - Weight(p1,w1) Weight(p2,w2) Smaller(w1,w2)Lighter(p1,p2):如 果 p1的 重 量 是 w1、 p2的 重 量 是 w2、 w1比 w2小 ， 則 p1比 p2輕 解釋學(xué)習(xí)n EBG算 法 可 概 括 為 兩 步 ：p Safe-To-Stack(Obj1,obj2)解 釋 結(jié) 構(gòu) ：Safe-To-Stack(Ob

24、j1,obj2)Lighter(Obj1,obj2)Weight(Obj1,0.1) Weight(Obj2,15) Smaller(0.1,15)Isa(Obj2,table)Voume(Obj1,1) Density(Obj1,0.1) *(1,0.1,0.1) 解釋學(xué)習(xí)n EBG算 法 可 概 括 為 兩 步 ： 2.獲 取 一 般 性 的 知 識(shí) ：p 任 務(wù) ： 對(duì) 上 一 步 得 到 的 解 釋 結(jié) 構(gòu) 進(jìn) 行 一 般 化 的 處理 ， 從 而 得 到 關(guān) 于 目 標(biāo) 概 念 的 一 般 性 知 識(shí) 。 p 方 法 ： 將 常 量 換 成 變 量 ， 并 把 某 些 不 重 要 的

25、 信 息去 掉 ， 只 保 留 求 解 問 題 必 須 的 關(guān) 鍵 信 息 。p 例 如 ： Volume (O1, v1) Density (O1, d1) *(v1, d1, w1) Isa(O2,table) Smaller(w1,15) Safe-To-Stack(Obj1,obj2) 解釋學(xué)習(xí)n EBG算 法 可 概 括 為 兩 步 ：p Safe-To-Stack(O1,O2)一 般 化 解 釋 結(jié) 構(gòu)Safe-To-Stack(O1,O2)Lighter(O1,O2)Weight(O1,w1) Weight(O2,15) Smaller(w1,15)Isa(O2,table)Vo

26、ume(O1,v1) Density(O1,d1) *(v1,d1,w1)以 后 求 解 類 似 問 題 時(shí) ， 就 可 以 直 接利 用 這 個(gè) 知 識(shí) 進(jìn) 行 求 解 ， 提 到 了 系統(tǒng) 求 解 問 題 的 效 率 。 內(nèi)容提要第 七 章 ： 機(jī) 器 學(xué) 習(xí) 系 統(tǒng)1.機(jī) 器 學(xué) 習(xí) 的 基 本 概 念2.機(jī) 器 學(xué) 習(xí) 策 略 與 基 本 結(jié) 構(gòu)3.歸 納 學(xué) 習(xí)4.類 比 學(xué) 習(xí)5.解 釋 學(xué) 習(xí)6.神 經(jīng) 網(wǎng) 絡(luò) 學(xué) 習(xí)8.其 他7.知 識(shí) 發(fā) 現(xiàn) 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)n 神 經(jīng) 生 理 學(xué) 研 究 表 明 ， 人 腦 的 神 經(jīng) 元 既 是 學(xué) 習(xí)的 基 本 單 位 ， 同 是 也 是

27、記 憶 的 基 本 單 位 。n 目 前 ， 關(guān) 于 人 腦 學(xué) 習(xí) 和 記 憶 機(jī) 制 的 研 究 有 兩 大學(xué) 派 ： 化 學(xué) 學(xué) 派 ： 認(rèn) 為 人 腦 經(jīng) 學(xué) 習(xí) 所 獲 得 的 信 息 是 記 錄 在某 些 生 物 大 分 子 之 上 的 。 例 如 ， 蛋 白 質(zhì) 、 核 糖 核 酸 、神 經(jīng) 遞 質(zhì) ， 就 像 遺 傳 信 息 是 記 錄 在 DNA（ 脫 氧 核 糖核 酸 ） 上 一 樣 。 突 觸 修 正 學(xué) 派 ： 認(rèn) 為 人 腦 學(xué) 習(xí) 所 獲 得 的 信 息 是 分 布在 神 經(jīng) 元 之 間 的 突 觸 連 接 上 的 。 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)n 按 照 突 觸 修 正 學(xué) 派

28、 的 觀 點(diǎn) ， 人 腦 的 學(xué) 習(xí)和 記 憶 過 程 實(shí) 際 上 是 一 個(gè) 在 訓(xùn) 練 中 完 成的 突 觸 連 接 權(quán) 值 的 修 正 和 穩(wěn) 定 過 程 。 其中 ， 學(xué) 習(xí) 表 現(xiàn) 為 突 觸 連 接 權(quán) 值 的 修 正 ，記 憶 則 表 現(xiàn) 為 突 觸 連 接 權(quán) 值 的 穩(wěn) 定 。n 突 觸 修 正 假 說 已 成 為 人 工 神 經(jīng) 網(wǎng) 絡(luò) 學(xué) 習(xí)和 記 憶 機(jī) 制 研 究 的 心 理 學(xué) 基 礎(chǔ) ， 與 此 對(duì)應(yīng) 的 權(quán) 值 修 正 學(xué) 派 也 一 直 是 人 工 神 經(jīng) 網(wǎng)絡(luò) 研 究 的 主 流 學(xué) 派 。 n 突 觸 修 正 學(xué) 派 認(rèn) 為 ， 人 工 神 經(jīng) 網(wǎng) 絡(luò) 的

29、 學(xué)習(xí) 過 程 就 是 一 個(gè) 不 斷 調(diào) 整 網(wǎng) 絡(luò) 連 接 權(quán) 值的 過 程 。n 按 照 學(xué) 習(xí) 規(guī) 則 ， 神 經(jīng) 學(xué) 習(xí) 可 分 為 ： Hebb學(xué) 習(xí) 、 糾 錯(cuò) 學(xué) 習(xí) 、 競(jìng) 爭(zhēng) 學(xué) 習(xí) 及 隨 機(jī) 學(xué) 習(xí)等 。 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)n Hebb學(xué) 習(xí) Hebb學(xué) 習(xí) 的 基 本 思 想 ： 如 果 神 經(jīng) 網(wǎng) 絡(luò) 中 某 一 神經(jīng) 元 同 另 一 直 接 與 它 連 接 的 神 經(jīng) 元 同 時(shí) 處 于興 奮 狀 態(tài) ， 那 么 這 兩 個(gè) 神 經(jīng) 元 之 間 的 連 接 強(qiáng)度 將 得 到 加 強(qiáng) ， 反 之 應(yīng) 該 減 弱 。 Hebb學(xué) 習(xí) 對(duì) 連 接 權(quán) 值 的 調(diào) 整 可 表

30、示 為 ：p wij (t+1)表 示 對(duì) 時(shí) 刻 t 的 權(quán) 值 修 正 一 次 后 所 得 到 的 新 的 權(quán) 值 ；p 取 正 值 ， 稱 為 學(xué) 習(xí) 因 子 ， 它 取 決 于 每 次 權(quán) 值 的 修 正 量 ；p xi(t)、 xj(t)分 別 表 示 t 時(shí) 刻 第 i 個(gè) 和 第 j 個(gè) 神 經(jīng) 元 的 狀 態(tài) 。 )()()()1( txtxtwtw jiijij 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)n 糾 錯(cuò) 學(xué) 習(xí) 糾 錯(cuò) 學(xué) 習(xí) 的 基 本 思 想 ： 利 用 神 經(jīng) 網(wǎng) 絡(luò) 的 期 望 輸 出 與實(shí) 際 輸 出 之 間 的 偏 差 作 為 連 接 權(quán) 值 調(diào) 整 的 參 考 ， 并 最終 減

31、少 這 種 偏 差 。 糾 錯(cuò) 學(xué) 習(xí) 是 一 種 有 導(dǎo) 師 的 學(xué) 習(xí) 過 程 。 最 基 本 的 誤 差 修 正 規(guī) 則 為 ： 連 接 權(quán) 值 的 變 化 與 神 經(jīng)元 希 望 輸 出 和 實(shí) 際 輸 出 之 差 成 正 比 。 其 聯(lián) 結(jié) 權(quán) 值 的計(jì) 算 公 式 為 ： p yj (t)為 神 經(jīng) 元 j 的 實(shí) 際 輸 出 ;p dj (t)為 神 經(jīng) 元 j 的 希 望 輸 出 ； )()()()()1( txtytdtwtw ijjijij 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)n 競(jìng) 爭(zhēng) 學(xué) 習(xí) 基 本 思 想 ： 網(wǎng) 絡(luò) 中 某 一 組 神 經(jīng) 元 相 互 競(jìng) 爭(zhēng) 對(duì) 外 界 刺激 模 式 響 應(yīng)

32、 的 權(quán) 力 ， 在 競(jìng) 爭(zhēng) 中 獲 勝 的 神 經(jīng) 元 ， 其 連接 權(quán) 會(huì) 向 著 對(duì) 這 一 刺 激 模 式 競(jìng) 爭(zhēng) 更 為 有 利 的 方 向 發(fā)展 。n 隨 機(jī) 學(xué) 習(xí) 基 本 思 想 ： 結(jié) 合 隨 機(jī) 過 程 、 概 率 和 能 量 （ 函 數(shù) ） 等概 念 來 調(diào) 整 網(wǎng) 絡(luò) 的 變 量 ， 從 而 使 網(wǎng) 絡(luò) 的 目 標(biāo) 函 數(shù) 達(dá)到 最 大 （ 或 最 小 ） 。 他 不 僅 可 以 接 受 能 量 函 數(shù) 減 少（ 性 能 得 到 改 善 ） 的 變 化 ， 而 且 還 可 以 以 某 種 概 率分 布 接 受 使 能 量 函 數(shù) 增 大 （ 性 能 變 差 ） 的 變

33、化 。 n感知器學(xué)習(xí) 單層感知器學(xué)習(xí)算法 單層感知器學(xué)習(xí)的例子n BP網(wǎng)絡(luò)學(xué)習(xí)n Hopfield網(wǎng)絡(luò)學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí) 單層感知器學(xué)習(xí)實(shí)際上是一種基于糾錯(cuò)學(xué)習(xí)規(guī)則，采用迭代的思想對(duì)連接權(quán)值和閾值進(jìn)行不斷調(diào)整，直到滿足結(jié)束條件為止的學(xué)習(xí)算法。 假設(shè)X(k)和W(k)分別表示學(xué)習(xí)算法在第k次迭代時(shí)輸入向量和權(quán)值向量，為方便，把閾值作為權(quán)值向量W(k)中的第一個(gè)分量，對(duì)應(yīng)地把“-1”固定地作為輸入向量X(k)中的第一個(gè)分量。即W(k)和X(k)可分別表示如下： X(k)=-1, x1(k), x2(k), , xn(k) W(k)=(k),w1(k), w2(k), ,wn(k)即x0(k)=-1，

34、w0(k)=(k)。 單層感知器學(xué)習(xí)是一種有導(dǎo)師學(xué)習(xí)，它需要給出輸入樣本的期望輸出。 假設(shè)一個(gè)樣本空間可以被劃分為A、B兩類，定義: 功能函數(shù)：若輸入樣本屬于A類，輸出為+1，否則其輸出為-1。 期望輸出：若輸入樣本屬于A類，期望輸出為+1，否則為-1。 單 層 感 知 器 學(xué) 習(xí) 算 法算 法 思 想 單 層 感 知 器 學(xué) 習(xí) 算 法 可 描 述 如 下 ： (1) 設(shè) t=0， 初 始 化 連 接 權(quán) 和 閾 值 。 即 給 wi(0)(i=1, 2, ,n)及 (0)分 別 賦 予 一 個(gè) 較 小 的 非 零 隨 機(jī) 數(shù) ， 作 為 初 值 。其 中 ， wi(0)是 第 0次 迭 代

35、 時(shí) 輸 入 向 量 中 第 i個(gè) 輸 入 的 連 接 權(quán) 值 ； (0)是 第 0次 迭 代 時(shí) 輸 出 節(jié) 點(diǎn) 的 閾 值 ； (2) 提 供 新 的 樣 本 輸 入 xi(t)(i=1, 2, , n)和 期 望 輸出 d(t)； (3) 計(jì) 算 網(wǎng) 絡(luò) 的 實(shí) 際 輸 出 ： nittxtwfty ni ii ,.,2,1)()()()( 1 單層感知器學(xué)習(xí)算法算法描述 (4) 若 y(t)=d(t)， 不 需 要 調(diào) 整 連 接 權(quán) 值 ， 轉(zhuǎn) (6)。 否 則 ， 需要 調(diào) 整 權(quán) 值 (5) 調(diào) 整 連 接 權(quán) 值其 中 ， 是 一 個(gè) 增 益 因 子 ， 用 于 控 制 修 改

36、 速 度 ， 其 值 如 果 太 大， 會(huì) 影 響 wi(t)的 收 斂 性 ； 如 果 太 小 ， 又 會(huì) 使 wi(t)的 收 斂 速 度 太慢 ; (6) 判 斷 是 否 滿 足 結(jié) 束 條 件 ， 若 滿 足 ， 算 法 結(jié) 束 ； 否 則 ， 將t值 加 1， 轉(zhuǎn) (2)重 新 執(zhí) 行 。 這 里 的 結(jié) 束 條 件 一 般 是 指 w i(t)對(duì) 一切 樣 本 均 穩(wěn) 定 不 變 。 若 輸 入 的 兩 類 樣 本 是 線 性 可 分 的 ， 則 該 算 法 就 一 定 會(huì) 收 斂。 否 則 ， 不 收 斂 。 nitxtytdtwtw iii ,.,2,1)()()()()1(

37、單層感知器學(xué)習(xí)算法算法描述 例 用單層感知器實(shí)現(xiàn)邏輯“與”運(yùn)算。 解：根據(jù)“與”運(yùn)算的邏輯關(guān)系，可將問題轉(zhuǎn)換為：輸入向量： X1=0, 0, 1, 1 X2=0, 1, 0, 1輸出向量： Y=0, 0, 0, 1 為減少算法的迭代次數(shù)，設(shè)初始連接權(quán)值和閾值取值如下： w1(0)=0.5, w2(0)=0.7, (0)=0.6并取增益因子=0.4。 算法的學(xué)習(xí)過程如下： 設(shè)兩個(gè)輸入為x 1(0)=0和x2(0)=0，其期望輸出為d(0)=0，實(shí)際輸出為： y(0)=f(w1(0)x1(0)+ w2(0)x2(0)-(0) =f(0.5*0+0.7*0-0.6)=f(-0.6)=0實(shí)際輸出與期望

38、輸出相同，不需要調(diào)節(jié)權(quán)值。 單層感知器學(xué)習(xí)的例子學(xué)習(xí)例子(1/4) 再取下一組輸入：x1(0)=0和x2(0)=1， 期望輸出d(0)=0，實(shí)際輸出： y(0)=f(w1(0) x1(0)+ w2(0) x2(0)-(0) =f(0.5*0+0.7*1-0.6)=f(0.1)=1實(shí)際輸出與期望輸出不同，需要調(diào)節(jié)權(quán)值，其調(diào)整如下： (1)=(0)+(d(0)- y(0)*(-1)=0.6+0.4*(0-1)*(-1)=1 w1(1)=w1(0)+(d(0)- y(0)x1(0)=0.5+0.4*(0-1)*0=0.5 w2(1)=w2(0)+(d(0)- y(0)x2(0)=0.7+0.4*(0

39、-1)*1=0.3取下一組輸入：x1(1)=1和x2(1)=0，其期望輸出為d(1)=0，實(shí)際輸出為： y(1)=f(w 1(1) x1(1)+ w2(1) x2(1)-(1) =f(0.5*1+0.3*0-1)=f(-0.51)=0實(shí)際輸出與期望輸出相同，不需要調(diào)節(jié)權(quán)值。 單 層 感 知 器 學(xué) 習(xí) 的 例 子學(xué) 習(xí) 例 子 (2/4) 再取下一組輸入：x1(1)=1和x2(1)=1，其期望輸出為d(1)=1，實(shí)際輸出為： y(1)=f(w1(1) x1(1)+ w2(1) x2(1)-(1) =f(0.5*1+0.3*1-1)=f(-0.2)=0 實(shí)際輸出與期望輸出不同，需要調(diào)節(jié)權(quán)值，其調(diào)

40、整如下： (2)=(1)+(d(1)- y(1)*(-1)=1+0.4*(1-0)*(-1)=0.6 w1(2)=w1(1)+(d(1)- y(1)x1(1)=0.5+0.4*(1-0)*1=0.9 w2(2)=w2(1)+(d(1)- y(1)x2(1)=0.3+0.4*(1-0)*1=0.7 取下一組輸入：x1(2)=0和x2(2)=0，其期望輸出為d(2)=0，實(shí)際輸出為： y(2)=f(0.9*0+0.7*0-0.6)=f(-0.6)=0實(shí)際輸出與期望輸出相同，不需要調(diào)節(jié)權(quán)值. 單層感知器學(xué)習(xí)的例子學(xué)習(xí)例子(3/4) 再取下一組輸入：x1(2)=0和x2(2)=1，期望輸出為d(2)=

41、0，實(shí)際輸出為： y(2)=f(0.9*0+0.7*1-0.6)=f(0.1)=1 實(shí)際輸出與期望輸出不同，需要調(diào)節(jié)權(quán)值，其調(diào)整如下： (3)=(2)+(d(2)- y(2)*(-1)=0.6+0.4*(0-1)*(-1)=1 w1(3)=w1(2)+(d(2)- y(2)x1(2)=0.9+0.4*(0-1)*0=0.9 w2(3)=w2(2)+(d(2)- y(2)x2(2)=0.7+0.4*(0-1)*1=0.3 實(shí)際上，由與運(yùn)算的閾值條件可知，此時(shí)的閾值和連接權(quán)值以滿足結(jié)束條件，算法可以結(jié)束。 對(duì)此，可檢驗(yàn)如下： 對(duì)輸入：“0 0”有y=f(0.9*0+0.3*0-1)=f(-1)=0

42、 對(duì)輸入：“0 1”有y=f(0.9*0+0.3*0.1-1)=f(-0.7)=0 對(duì)輸入：“1 0”有y=f(0.9*1+0.3*0-1)=f(-0.1)=0 對(duì)輸入：“1 1”有y=f(0.9*1+0.3*1-1)=f(0.2)=1單層感知器學(xué)習(xí)的例子學(xué)習(xí)例子(4/4) 多層感知器可以解決非線性可分問題，但其隱層神經(jīng)元的期望輸出卻不易給出。 而單層感知器學(xué)習(xí)是一種有導(dǎo)師指導(dǎo)的學(xué)習(xí)過程，因此其學(xué)習(xí)算法無法直接用于多層感知器。 由于多層感知器和BP網(wǎng)絡(luò)都屬于前向網(wǎng)絡(luò)，并能較好解決多層前饋網(wǎng)絡(luò)的學(xué)習(xí)問題. 因此，可用BP學(xué)習(xí)來解決多層感知器學(xué)習(xí)問題。多層感知器學(xué)習(xí)問題 BP網(wǎng)絡(luò)學(xué)習(xí)的網(wǎng)絡(luò)基礎(chǔ)是具

43、有多層前饋結(jié)構(gòu)的BP網(wǎng)絡(luò)。為討論方便，采用如下圖所示的三層BP網(wǎng)絡(luò)。BP網(wǎng)絡(luò)學(xué)習(xí)的基礎(chǔ)1. 三層BP網(wǎng)絡(luò) x1x n y1yl12mwij w jki j k1n l1三層BP網(wǎng)絡(luò)工作信號(hào)的正向傳播誤差的反向傳播 對(duì) 上 述 三 層 BP網(wǎng) 絡(luò) ， 分 別 用 I,j,k表 示 輸 入 層 、 隱 含 層 、 輸出 層 節(jié) 點(diǎn) ， 且 以 以 下 符 號(hào) 表 示 ： Oi, Oj, Ok分 別 表 示 輸 入 層 節(jié) 點(diǎn) i、 隱 含 層 節(jié) 點(diǎn) j， 輸 出 層 節(jié)點(diǎn) k的 輸 出 ； Ii , Ij ,Ik,分 別 表 示 輸 入 層 節(jié) 點(diǎn) i、 隱 含 層 節(jié) 點(diǎn) j， 輸 出 層節(jié)

44、點(diǎn) k的 輸 入 ； wij, wjk分 別 表 示 從 輸 入 層 節(jié) 點(diǎn) i到 隱 含 層 節(jié) 點(diǎn) j， 從 隱 含 層節(jié) 點(diǎn) j輸 出 層 節(jié) 點(diǎn) k的 輸 入 節(jié) 點(diǎn) j的 連 接 權(quán) 值 ； j 、 k分 別 表 示 隱 含 層 節(jié) 點(diǎn) j、 輸 出 層 節(jié) 點(diǎn) k的 閾 值 ； 對(duì) 輸 入 層 節(jié) 點(diǎn) i有 ： BP網(wǎng)絡(luò)學(xué)習(xí)的基礎(chǔ)2. 網(wǎng)絡(luò)節(jié)點(diǎn)的輸入/輸出關(guān)系(1/2) ),.,2,1( nixOI iii （7.1） 對(duì)輸出層節(jié)點(diǎn)有：BP網(wǎng)絡(luò)學(xué)習(xí)的基礎(chǔ)2. 網(wǎng)絡(luò)節(jié)點(diǎn)的輸入/輸出關(guān)系(2/2) mj kjjkk lkOwI 1 ,.,2,1 lkIfO kk ,.,2,1)( （7

45、.5）（7.4）mjxwOwI jni iijjini ijj ,.,2,111 ( ) 1,2,.,j jO f I j m 對(duì)隱含層節(jié)點(diǎn)有：（7.2）（7.3） BP網(wǎng)絡(luò)學(xué)習(xí)的方式BP網(wǎng)絡(luò)學(xué)習(xí)的基礎(chǔ)BP網(wǎng)絡(luò)的激發(fā)函數(shù)和學(xué)習(xí)方式 mj kjjkk lkOwI 1 ,.,2,1 lkIfO kk ,.,2,1)( （7.5）（7.4）mjxwOwI jni iijjini ijj ,.,2,111 ( ) 1,2,.,j jO f I j m BP網(wǎng)絡(luò)的激發(fā)函數(shù)（7.3） 通常采用連續(xù)可微的S函數(shù)，包括單極 BP網(wǎng)絡(luò)學(xué)習(xí)過程是一個(gè)對(duì)給定訓(xùn)練模式，利用傳播公式，沿著減小誤差的方向不斷調(diào)整網(wǎng)絡(luò)聯(lián)結(jié)

46、權(quán)值和閾值的過程。 設(shè)樣本集中的第r個(gè)樣本，其輸出層結(jié)點(diǎn)k的期望輸出用drk表示，實(shí)際輸出用yrk表示。其中，drk由訓(xùn)練模式給出，yrk由7.5式計(jì)算得出。即有 yrk = Ork 如果僅針對(duì)單個(gè)輸入樣本，其實(shí)際輸出與期望輸出的誤差為 BP算法的傳播公式誤差 上述誤差定義是針對(duì)單個(gè)訓(xùn)練樣本的誤差計(jì)算公式，它適用于網(wǎng)絡(luò)的順序?qū)W習(xí)方式。若采用批處理學(xué)習(xí)方式，需要定義其總體誤差。假設(shè)樣本集中有R個(gè)樣本，則對(duì)整個(gè)樣本集的總體誤差定義為 lk kk ydE 1 2)(21 Rr lk rkrkRr rR ydEE 1 1 21 )(21 （ 7.6） （ 7.7） 針對(duì)順序?qū)W習(xí)方式，其聯(lián)結(jié)權(quán)值的調(diào)整公

47、式為 BP算法的傳播公式權(quán)值變化量(1/2) （ 7.8） （ 7.9）式中，為增益因子，取0, 1區(qū)間的一個(gè)正數(shù)，其取值與算法的收斂速度有關(guān)； 由下式計(jì)算jkjkjk wtwtw )()1(式中，wjk (t)和wjk(t+1)分別是第t次迭代和t+1次迭代時(shí)，從結(jié)點(diǎn)j到結(jié)點(diǎn)k的聯(lián)結(jié)權(quán)值；wjk是聯(lián)結(jié)權(quán)值的變化量。 為了使聯(lián)結(jié)權(quán)值能沿著E的梯度下降的方向逐漸改善，網(wǎng)絡(luò)逐漸收斂，權(quán)值變化量wjk的計(jì)算公式如下： jkjk wEw jkwE jkkkjk wIIEwE （ 7.10） 根據(jù)7.2式，可得到輸出層節(jié)點(diǎn)k的Ik為 BP算法的傳播公式權(quán)值變化量(1/2) （ 7.11）（ 7.12）令

48、局部梯度（ 7.13）jmj jkk OwI 1 jjmj jkjkjkk OOwwwI 1對(duì)該式求偏導(dǎo)數(shù)有 kk IE將7.10式、7.11式和7.12式代入7.9式有jkjkkkjkjk OwIIEwEw 對(duì)k的計(jì)算，須區(qū)分k是輸出層上還是隱含層上的結(jié)點(diǎn)。下面分別討論。 如果結(jié)點(diǎn)k是輸出層上的結(jié)點(diǎn)，則有Ok=yk，因此 BP算法的傳播公式節(jié)點(diǎn)k是輸出層節(jié)點(diǎn)(1/3) （ 7.14）（ 7.15）由7.6式，有即而kkkkk IyyEIE )( )()(221)(21( 1 2kk kkkkklk kkk yd yyydy ydyE )( kkk ydyE k kky f II （ 7.16

49、） 將7.15式和7.16式代入7.14式，有BP算法的傳播公式節(jié)點(diǎn)k是輸出層節(jié)點(diǎn)(2/3) （ 7.17）（ 7.15）由于f(Ik) = f(Ik)1-f(Ik)，且f(Ik)=yk，因此有再將7.18式代入7.13式，有根據(jù)7.8，對(duì)輸出層有（ 7.20）)()( kkkk Ifyd )1()( kkkkk yyyd （ 7.18） jkkkkjk Oyyydw )1)( ( 1) ( )( ) ( )(1 )jk jk jkjk k k k k jw t w t ww t d y y y O 如果k不是輸出層結(jié)點(diǎn)它表示聯(lián)結(jié)權(quán)值是作用于隱含層上的結(jié)點(diǎn)，此時(shí)，有k=j ，j按下式計(jì)算 BP

50、算法的傳播公式節(jié)點(diǎn)k是隱含層節(jié)點(diǎn)(1/3) （ 7.22）由7.3式，Oj=f (Ij-j)，因此有式中，（ 7.21）jjjjj IOOEIE )( jjj IfOE是一個(gè)隱函數(shù)求導(dǎo)問題，其推導(dǎo)過程為 jOE mj jjkjlk k jklk kj OwOIE OIIEOE 11 1 )( jklk k wIE )(1 由7.12式有 BP算法的傳播公式節(jié)點(diǎn)k是隱含層節(jié)點(diǎn)(2/3) （ 7.24）將7.23式代入7.22式，有 它說明，低層結(jié)點(diǎn)的值是通過上一層結(jié)點(diǎn)的值來計(jì)算的。這樣，我們就可以先計(jì)算出輸出層上的值，然后把它返回到較低層上，并計(jì)算出各較低層上結(jié)點(diǎn)的值。 由于f (Ij) = f

51、(Ij) 1-f (Ij) ，故由7.24可得（ 7.23） lk jkkj wOE 1 lk jkkjj wIf 1 )( lk jkkjjj wIfIf 1)(1)( （ 7.25） 再將7.25式代入7.13式，并將其轉(zhuǎn)化為隱函數(shù)的變化量，有7.3.2 BP算法的傳播公式節(jié)點(diǎn)k是隱含層節(jié)點(diǎn)(3/3)再由7.1式和7.3式，有根據(jù)7.8，對(duì)隱含層有（ 7.26）（ 7.28）ilk jkkjjij OwIfIfw )(1)( 1 ilk jkkjjij xwOOw )(1( 1 ilk jkkjjij ijijij xwOOtw wtwtw )(1()( )()1( 1 （ 7.27） 對(duì)

52、三層BP網(wǎng)絡(luò)，設(shè)wij是輸入層到隱層，wjk是隱層到輸出層的聯(lián)結(jié)權(quán)值；R是樣本個(gè)數(shù)，其計(jì)數(shù)器為r；T是訓(xùn)練過程的最大迭代數(shù)，其計(jì)數(shù)器為t。 (1) 初始化網(wǎng)絡(luò)及學(xué)習(xí)參數(shù)：將wij、wjk、j、k均賦以較小的隨機(jī)數(shù)；設(shè)置為0,1區(qū)間的數(shù)；置訓(xùn)練樣本計(jì)數(shù)器r=0，誤差E=0、誤差閾值為很小的正數(shù)。 (2) 隨機(jī)輸入一個(gè)訓(xùn)練樣本，r=r+1，t=0。 (3) 按7.1-7.5式計(jì)算隱層神經(jīng)元的狀態(tài)和輸出層每個(gè)節(jié)點(diǎn)的實(shí)際輸出y k，按7.6式計(jì)算該樣本的誤差E。 BP網(wǎng)絡(luò)學(xué)習(xí)算法算法描述 (4) 檢查E ? 若是，執(zhí)行下一步；否則，轉(zhuǎn)（8）。 (5) t=t+1。 (6) 檢查t T ？若是，執(zhí)行下一

53、步；否則，轉(zhuǎn)（8）。 (7) 按7.18式計(jì)算輸出層結(jié)點(diǎn)k的k，按7.25式計(jì)算隱層結(jié)點(diǎn)j的j，按 7.20式計(jì)算wjk(t+1)，按 7.28式計(jì)算wij(t+1)，返回(3)。其中，對(duì)閾值按聯(lián)結(jié)權(quán)值的學(xué)習(xí)方式修正，即把閾值設(shè)想為神經(jīng)元的聯(lián)結(jié)權(quán)值，并假定其輸入信號(hào)值總是為1。 (8) 檢查r = R ? 若是，執(zhí)行下一步；否則，轉(zhuǎn)(2)。 (9) 結(jié)束。BP網(wǎng)絡(luò)學(xué)習(xí)算法算法描述 BP網(wǎng)絡(luò)學(xué)習(xí)算法算法流程隨機(jī)輸入一個(gè)訓(xùn)練樣本，置r=r+1,t=0初始化網(wǎng)絡(luò)及學(xué)習(xí)參數(shù)wij,wjk,j,k,R,T,置E=0,r=0 對(duì)輸入樣本，計(jì)算該樣本的每一個(gè)yk，計(jì)算該樣本的誤差EE？ t=t+1 tT ？

54、計(jì)算輸出層結(jié)點(diǎn)k的k修正各層的wjk(t),wij(t) E？ 結(jié)束是否是否否是 BP網(wǎng)絡(luò)模型是目前使用較多的一種神經(jīng)網(wǎng)絡(luò)，其主要優(yōu)、缺點(diǎn)如下。 優(yōu)點(diǎn) （1）算法的優(yōu)點(diǎn)是算法推導(dǎo)清楚，學(xué)習(xí)精度較高； （2）從理論上說，多層前饋網(wǎng)絡(luò)可學(xué)會(huì)任何可學(xué)習(xí)的東西； （3）經(jīng)過訓(xùn)練后的BP網(wǎng)絡(luò)，運(yùn)行速度極快，可用于實(shí)時(shí)處理。 缺點(diǎn) （1）由于其數(shù)學(xué)基礎(chǔ)是非線性優(yōu)化問題，因此可能陷入局部最小區(qū)域； （2）算法收斂速度很慢，通常需要數(shù)千步或更長(zhǎng)，甚至還可能不收斂； （3）網(wǎng)絡(luò)中隱含結(jié)點(diǎn)的設(shè)置無理論指導(dǎo)。 上述缺點(diǎn)的解決辦法 對(duì)于局部最小區(qū)域問題，通常需要采用模擬退火算法或遺傳算法。 對(duì)于算法收斂慢的問題，其主

55、要原因在于誤差是時(shí)間的復(fù)雜非線性函數(shù)。為提高算法收斂速度，可采用逐次自動(dòng)調(diào)整增益因子，或修改激活函數(shù)f(x)的方法來解決。BP網(wǎng)絡(luò)學(xué)習(xí)的討論 Hopfield網(wǎng)絡(luò)學(xué)習(xí) Hopfield網(wǎng)絡(luò)學(xué)習(xí)的過程實(shí)際上是一個(gè)從網(wǎng)絡(luò)初始狀態(tài)向其穩(wěn)定狀態(tài)過渡的過程。而網(wǎng)絡(luò)的穩(wěn)定性又是通過能量函數(shù)來描述的。這里主要針對(duì)離散Hopfield網(wǎng)絡(luò)討論其能量函數(shù)和學(xué)習(xí)算法。uHopfield網(wǎng)絡(luò)的能量函數(shù)uHopfield網(wǎng)絡(luò)學(xué)習(xí)算法 式中，n是網(wǎng)絡(luò)中的神經(jīng)元個(gè)數(shù)，wij是神經(jīng)元i和神經(jīng)元j之間的連接權(quán)值，且有wij=wji； vi和vj分別是神經(jīng)元i和神經(jīng)元j的輸出；i是神經(jīng)元i的閾值。 可以證明，對(duì)Hopfield

56、網(wǎng)絡(luò)，無論其神經(jīng)元的狀態(tài)由“0”變?yōu)椤?”，還是由“1”變?yōu)椤?”，始終有其網(wǎng)絡(luò)能量的變化： E0因此： nkjj kkjkkjnkjj kkjkkjk tvvtvwtvvtvwE 11 )()()1()1( )( 011 nkjj kjkjnkjj kjkj vwvw 0 kE Hopfield的能量函數(shù)能量函數(shù)定義及性質(zhì)(6/7)當(dāng)神經(jīng)元k的輸出vk由0變1時(shí)，有此時(shí)，由于神經(jīng)元k的輸出為0，即有：0 1 knkjj jkjvw 因此： nkjj kkjkkjnkjj kkjkkjk tvvtvwtvvtvwE 11 )()()1()1( )( )(0 1 1 nkjj kjkjnkjj

57、kjkjvw vw 0 kE Hopfield的能量函數(shù)能量函數(shù)定義及性質(zhì)(7/7) 可見，無論神經(jīng)元k的狀態(tài)由“1”變?yōu)椤?” 時(shí)，還是由“0”變?yōu)椤?” 時(shí)，都總有： 它說明離散Hopfield網(wǎng)絡(luò)在運(yùn)行中，其能量函數(shù)總是在不斷降低的，最終 將趨于穩(wěn)定狀態(tài)。 Ek0 由于神經(jīng)元k是網(wǎng)絡(luò)中的任一神經(jīng)元，因此它具有一般性，即對(duì)網(wǎng)絡(luò)中的任意神經(jīng)元都有： E0 例 如圖所示的三個(gè)節(jié)點(diǎn)的Hopfield網(wǎng)絡(luò)，若給定的初始狀態(tài)為： V0=1,0,1各節(jié)點(diǎn)之間的聯(lián)結(jié)權(quán)值為： w12=w21=1，w13=w31=-2，w23=w32=3各節(jié)點(diǎn)的閾值為 1=-1， 2=2， 3=1 請(qǐng)計(jì)算在此狀態(tài)下的網(wǎng)絡(luò)能

58、量。 解：E=-(1/2)(w12v1v2+w13v1v3+w21v2v1+w23v2v3+w31v3v1+w32v3v2) + 1v1+ 2v2+ 3v3 = -(w12v1v2+w13v1v3+w23v2v3)+ 1v1+ 2v2+ 3v3 =-(110+(-2)11+301)+(-1) 1+20+11 =2 Q1Q2 Q3v1v2 v3w12 w13w23 Hopfield的能量函數(shù)計(jì)算網(wǎng)絡(luò)能量的例子 (1) 設(shè)置聯(lián)結(jié)權(quán)值其中，xis 為S型樣例（即記憶模式）的第i個(gè)分量，它可以為1或0（或-1），樣例類別數(shù)為m，節(jié)點(diǎn)數(shù)為n。 (2) 對(duì)未知類別的樣例初始化其中，y i(t)為節(jié)點(diǎn)i時(shí)刻

59、t的輸出，yi(0)是節(jié)點(diǎn)的初值；xi為輸入樣本的第i個(gè)分量。 (3) 迭代運(yùn)算其中，函數(shù)f為閾值型。重復(fù)這一步驟，直到新的迭代不能再改變節(jié)點(diǎn)的輸出為止，即收斂為止。這時(shí)，各節(jié)點(diǎn)的輸出與輸入樣例達(dá)到最佳匹配。否則 (4) 轉(zhuǎn)第(2)步繼續(xù)。 njiji jixxw ms sjsiij ,1,0 ,1 nixiy ii 1,)( njtywfty ni iiji 1),)()1( 1 Hopfield網(wǎng)絡(luò)學(xué)習(xí)算法 神經(jīng)學(xué)習(xí)n 單 層 感 知 器 算 法 ： 感 知 器 網(wǎng) 絡(luò) ： 單 層 前 向 網(wǎng) 絡(luò) 學(xué) 習(xí) 算 法 ： 糾 錯(cuò) 學(xué) 習(xí) 方 法 用 梯 度 下 降 法 調(diào) 整 網(wǎng) 絡(luò) 連 接

60、權(quán) 值 ， 使 總 的 輸 出 誤 差向 減 小 的 方 向 變 化n BP算 法 ： 反 向 傳 播 算 法 多 層 感 知 器 網(wǎng) 絡(luò) （ BP網(wǎng) 絡(luò) ） 學(xué) 習(xí) 算 法 收 斂 速 度 非 常 慢 ， 且 隨 著 訓(xùn) 練 樣 例 維 數(shù) 增 加 ， 網(wǎng) 絡(luò)性 能 變 差 。 內(nèi)容提要第 七 章 ： 機(jī) 器 學(xué) 習(xí)1.機(jī) 器 學(xué) 習(xí) 的 基 本 概 念2.機(jī) 器 學(xué) 習(xí) 策 略 與 基 本 結(jié) 構(gòu)3.歸 納 學(xué) 習(xí)4.決 策 樹5.類 比 學(xué) 習(xí)6.解 釋 學(xué) 習(xí)7.神 經(jīng) 學(xué) 習(xí)8.其 他 其他機(jī)器學(xué)習(xí)方法n 其 他 機(jī) 器 學(xué) 習(xí) 方 法 遷 移 學(xué) 習(xí) ： 將 在 先 前 任 務(wù) 中

61、 學(xué) 到 的 知 識(shí) 或 技 能 應(yīng) 用 于一 個(gè) 新 的 任 務(wù) 或 新 的 領(lǐng) 域 增 強(qiáng) 機(jī) 器 學(xué) 習(xí) ： 從 變 化 環(huán) 境 中 學(xué) 習(xí) 蘊(yùn) 含 在 環(huán) 境 中 的 知識(shí) 流 形 機(jī) 器 學(xué) 習(xí) ： 把 一 組 在 高 維 空 間 中 的 數(shù) 據(jù) 在 低 維 空間 中 重 新 表 示 半 監(jiān) 督 機(jī) 器 學(xué) 習(xí) ： 結(jié) 合 標(biāo) 記 和 非 標(biāo) 記 樣 本 多 實(shí) 例 機(jī) 器 學(xué) 習(xí) ： 一 個(gè) 對(duì) 象 可 能 同 時(shí) 有 多 個(gè) 描 述 Ranking機(jī) 器 學(xué) 習(xí) ： 獲 得 關(guān) 于 檢 索 中 “ 喜 歡 ” 順 序 的模 型 數(shù) 據(jù) 流 機(jī) 器 學(xué) 習(xí) ： 從 數(shù) 據(jù) 流 中 發(fā) 現(xiàn) 知 識(shí)