模式識(shí)別_第一章_緒論P(yáng)PT課件

《模式識(shí)別_第一章_緒論P(yáng)PT課件》由會(huì)員分享，可在線閱讀，更多相關(guān)《模式識(shí)別_第一章_緒論P(yáng)PT課件（49頁(yè)珍藏版）》請(qǐng)?jiān)谘b配圖網(wǎng)上搜索。

模式識(shí)別 思考 如何區(qū)分蘋(píng)果與桔子 與模式識(shí)別相關(guān)的學(xué)科 統(tǒng)計(jì)學(xué)概率論線性代數(shù) 矩陣計(jì)算 形式語(yǔ)言 機(jī)器學(xué)習(xí)人工智能圖像處理計(jì)算機(jī)視覺(jué) 教學(xué)目標(biāo) 掌握模式識(shí)別的基本概念和方法有效地運(yùn)用所學(xué)知識(shí)和方法解決實(shí)際問(wèn)題為研究新的模式識(shí)別的理論和方法打下基礎(chǔ) 教材及參考文獻(xiàn) 齊敏 李大健 郝重陽(yáng) 模式識(shí)別導(dǎo)論 清華大學(xué)出版社 2009 5 R Duda P Hart D Stork PatternClassification secondedition 2000 有中譯本 邊肇祺 模式識(shí)別 第二版 清華大學(xué)出版社 2000 張學(xué)工 模式識(shí)別 第三版 清華大學(xué)出版社 2010 蔡元龍 模式識(shí)別 西北電訊工程學(xué)院出版社 1986 第一章緒論 什么是模式 Pattern 什么是模式 廣義地說(shuō) 存在于時(shí)間和空間中可觀察的物體 如果我們可以區(qū)別它們是否相同或是否相似 都可以稱之為模式 模式是一個(gè)客觀事物的描述 及一個(gè)可以用來(lái)仿效的完善的例子 模式所指的不是事物本身 而是從事物獲得的信息 因此 模式往往表現(xiàn)為具有時(shí)間和空間分布的信息 模式的直觀特性 可觀察性可區(qū)分性相似性 一 模式識(shí)別的概念 模式識(shí)別 直觀 無(wú)所不在 物以類聚 人以群分 周圍物體的認(rèn)知 桌子 椅子人的識(shí)別 張三 李四聲音的辨別 汽車 火車 狗叫 人語(yǔ)氣味的分辨 炸帶魚(yú) 紅燒肉人和動(dòng)物的模式識(shí)別能力是極其平常的 但對(duì)計(jì)算機(jī)來(lái)說(shuō)卻是非常困難的 狹義定義模式識(shí)別 研究一種自動(dòng)技術(shù) 依靠這種技術(shù) 計(jì)算機(jī)將自動(dòng)地 或人盡量少地干涉 把待別識(shí)模式分配到各自的模式類中去 廣義定義模式識(shí)別 patternrecognition 按哲學(xué)的定義是一個(gè) 外部信息到達(dá)感覺(jué)器官 并被轉(zhuǎn)換成有意義的感覺(jué)經(jīng)驗(yàn) 的過(guò)程 例 識(shí)別熱水 字跡等 模式識(shí)別的概念 二 模式識(shí)別的研究 目的 利用計(jì)算機(jī)對(duì)物理對(duì)象進(jìn)行分類 在錯(cuò)誤概率最小的條件下 使識(shí)別的結(jié)果盡量與客觀物體相符合 Y F X X的定義域取自特征集Y的值域?yàn)轭悇e的標(biāo)號(hào)集F是模式識(shí)別的判別方法 三 模式識(shí)別簡(jiǎn)史 1929年G Tauschek發(fā)明閱讀機(jī) 能夠閱讀0 9的數(shù)字 30年代Fisher提出統(tǒng)計(jì)分類理論 奠定了統(tǒng)計(jì)模式識(shí)別的基礎(chǔ) 50年代NoamChemsky提出形式語(yǔ)言理論 傅京蓀提出句法結(jié)構(gòu)模式識(shí)別 60年代L A Zadeh提出了模糊集理論 模糊模式識(shí)別方法得以發(fā)展和應(yīng)用 80年代以Hopfield網(wǎng) BP網(wǎng)為代表的神經(jīng)網(wǎng)絡(luò)模型導(dǎo)致人工神經(jīng)元網(wǎng)絡(luò)復(fù)活 并在模式識(shí)別得到較廣泛的應(yīng)用 90年代小樣本學(xué)習(xí)理論 支持向量機(jī)也受到了很大的重視 四 模式識(shí)別的應(yīng)用 舉例 生物學(xué)自動(dòng)細(xì)胞學(xué) 染色體特性研究 遺傳研究天文學(xué)天文望遠(yuǎn)鏡圖像分析 自動(dòng)光譜學(xué)經(jīng)濟(jì)學(xué)股票交易預(yù)測(cè) 企業(yè)行為分析醫(yī)學(xué)心電圖分析 腦電圖分析 醫(yī)學(xué)圖像分析 模式識(shí)別的應(yīng)用 舉例 工程產(chǎn)品缺陷檢測(cè) 特征識(shí)別 語(yǔ)音識(shí)別 自動(dòng)導(dǎo)航系統(tǒng) 污染分析軍事航空攝像分析 雷達(dá)和聲納信號(hào)檢測(cè)和分類 自動(dòng)目標(biāo)識(shí)別安全指紋識(shí)別 人臉識(shí)別 監(jiān)視和報(bào)警系統(tǒng) 五 模式識(shí)別方法 模式識(shí)別系統(tǒng)的目標(biāo) 在特征空間和解釋空間之間找到一種映射關(guān)系 這種映射也稱之為假說(shuō) 特征空間 從模式得到的對(duì)分類有用的度量 屬性或基元構(gòu)成的空間 解釋空間 將c個(gè)類別表示為其中為所屬類別的集合 稱為解釋空間 六 假說(shuō)的兩種獲得方法 監(jiān)督學(xué)習(xí) 概念驅(qū)動(dòng)或歸納假說(shuō) 在特征空間中找到一個(gè)與解釋空間的結(jié)構(gòu)相對(duì)應(yīng)的假說(shuō) 在給定模式下假定一個(gè)解決方案 任何在訓(xùn)練集中接近目標(biāo)的假說(shuō)也都必須在 未知 的樣本上得到近似的結(jié)果 依靠已知所屬類別的訓(xùn)練樣本集 按它們特征向量的分布來(lái)確定假說(shuō) 通常為一個(gè)判別函數(shù) 在判別函數(shù)確定之后能用它對(duì)未知的模式進(jìn)行分類 對(duì)分類的模式要有足夠的先驗(yàn)知識(shí) 通常需要采集足夠數(shù)量的具有典型性的樣本進(jìn)行訓(xùn)練 假說(shuō)的兩種獲得方法 續(xù) 非監(jiān)督學(xué)習(xí) 數(shù)據(jù)驅(qū)動(dòng)或演繹假說(shuō) 在解釋空間中找到一個(gè)與特征空間的結(jié)構(gòu)相對(duì)應(yīng)的假說(shuō) 這種方法試圖找到一種只以特征空間中的相似關(guān)系為基礎(chǔ)的有效假說(shuō) 在沒(méi)有先驗(yàn)知識(shí)的情況下 通常采用聚類分析方法 基于 物以類聚 的觀點(diǎn) 用數(shù)學(xué)方法分析各特征向量之間的距離及分散情況 如果特征向量集聚集若干個(gè)群 可按群間距離遠(yuǎn)近把它們劃分成類 這種按各類之間的親疏程度的劃分 若事先能知道應(yīng)劃分成幾類 則可獲得更好的分類結(jié)果 七 模式分類的主要方法 數(shù)據(jù)聚類統(tǒng)計(jì)分類結(jié)構(gòu)模式識(shí)別神經(jīng)網(wǎng)絡(luò) 1 數(shù)據(jù)聚類 目標(biāo) 用某種相似性度量的方法將原始數(shù)據(jù)組織成有意義的和有用的各種數(shù)據(jù)集 是一種非監(jiān)督學(xué)習(xí)的方法 解決方案是數(shù)據(jù)驅(qū)動(dòng)的 2 統(tǒng)計(jì)分類 基于概率統(tǒng)計(jì)模型得到各類別的特征向量的分布 以取得分類的方法 特征向量分布的獲得是基于一個(gè)類別已知的訓(xùn)練樣本集 是一種監(jiān)督分類的方法 分類器是概念驅(qū)動(dòng)的 3 結(jié)構(gòu)模式識(shí)別 該方法通過(guò)考慮識(shí)別對(duì)象的各部分之間的聯(lián)系來(lái)達(dá)到識(shí)別分類的目的 識(shí)別采用結(jié)構(gòu)匹配的形式 通過(guò)計(jì)算一個(gè)匹配程度值 matchingscore 來(lái)評(píng)估一個(gè)未知的對(duì)象或未知對(duì)象某些部分與某種典型模式的關(guān)系如何 當(dāng)成功地制定出了一組可以描述對(duì)象部分之間關(guān)系的規(guī)則后 可以應(yīng)用一種特殊的結(jié)構(gòu)模式識(shí)別方法 句法模式識(shí)別 來(lái)檢查一個(gè)模式基元的序列是否遵守某種規(guī)則 即句法規(guī)則或語(yǔ)法 4 神經(jīng)網(wǎng)絡(luò) 神經(jīng)網(wǎng)絡(luò)是受人腦組織的生理學(xué)啟發(fā)而創(chuàng)立的 由一系列互相聯(lián)系的 相同的單元 神經(jīng)元 組成 相互間的聯(lián)系可以在不同的神經(jīng)元之間傳遞增強(qiáng)或抑制信號(hào) 增強(qiáng)或抑制是通過(guò)調(diào)整神經(jīng)元相互間聯(lián)系的權(quán)重系數(shù) weight 來(lái)實(shí)現(xiàn) 神經(jīng)網(wǎng)絡(luò)可以實(shí)現(xiàn)監(jiān)督和非監(jiān)督學(xué)習(xí)條件下的分類 八 模式識(shí)別系統(tǒng) 1 模式識(shí)別系統(tǒng)的基本構(gòu)成 數(shù)據(jù)獲取 特征提取和選擇 預(yù)處理 分類決策 分類器設(shè)計(jì) 2 模式識(shí)別系統(tǒng)組成單元 數(shù)據(jù)獲取 用計(jì)算機(jī)可以運(yùn)算的符號(hào)來(lái)表示所研究的對(duì)象二維圖像 文字 指紋 地圖 照片等一維波形 腦電圖 心電圖 季節(jié)震動(dòng)波形等物理參量和邏輯值 體溫 化驗(yàn)數(shù)據(jù) 參量正常與否的描述預(yù)處理單元 去噪聲 提取有用信息 并對(duì)輸入測(cè)量?jī)x器或其它因素所造成的退化現(xiàn)象進(jìn)行復(fù)原 2 模式識(shí)別系統(tǒng)組成單元 特征提取和選擇 對(duì)原始數(shù)據(jù)進(jìn)行變換 得到最能反映分類本質(zhì)的特征測(cè)量空間 原始數(shù)據(jù)組成的空間特征空間 分類識(shí)別賴以進(jìn)行的空間模式表示 維數(shù)較高的測(cè)量空間 維數(shù)較低的特征空間分類決策 在特征空間中用模式識(shí)別方法把被識(shí)別對(duì)象歸為某一類別基本做法 在樣本訓(xùn)練集基礎(chǔ)上確定某個(gè)判決規(guī)則 使得按這種規(guī)則對(duì)被識(shí)別對(duì)象進(jìn)行分類所造成的錯(cuò)誤識(shí)別率最小或引起的損失最小 3 模式識(shí)別過(guò)程實(shí)例 在傳送帶上用光學(xué)傳感器件對(duì)魚(yú)按品種分類鱸魚(yú) Seabass 品種鮭魚(yú) Salmon 識(shí)別過(guò)程 數(shù)據(jù)獲取 架設(shè)一個(gè)攝像機(jī) 采集一些樣本圖像 獲取樣本數(shù)據(jù)預(yù)處理 去噪聲 用一個(gè)分割操作把魚(yú)和魚(yú)之間以及魚(yú)和背景之間分開(kāi) 識(shí)別過(guò)程 特征提取和選擇 對(duì)單個(gè)魚(yú)的信息進(jìn)行特征選擇 從而通過(guò)測(cè)量某些特征來(lái)減少信息量長(zhǎng)度亮度寬度魚(yú)翅的數(shù)量和形狀嘴的位置 等等 分類決策 把特征送入決策分類器 4 模式分類器的獲取和評(píng)測(cè)過(guò)程 數(shù)據(jù)采集特征選取模型選擇訓(xùn)練和測(cè)試計(jì)算結(jié)果和復(fù)雜度分析 反饋 訓(xùn)練和測(cè)試 訓(xùn)練集 是一個(gè)已知樣本集 在監(jiān)督學(xué)習(xí)方法中 用它來(lái)開(kāi)發(fā)出模式分類器 測(cè)試集 在設(shè)計(jì)識(shí)別和分類系統(tǒng)時(shí)沒(méi)有用過(guò)的獨(dú)立樣本集 系統(tǒng)評(píng)價(jià)原則 為了更好地對(duì)模式識(shí)別系統(tǒng)性能進(jìn)行評(píng)價(jià) 必須使用一組獨(dú)立于訓(xùn)練集的測(cè)試集對(duì)系統(tǒng)進(jìn)行測(cè)試 實(shí)例 統(tǒng)計(jì)模式識(shí)別 19名男女同學(xué)進(jìn)行體檢 測(cè)量了身高和體重 但事后發(fā)現(xiàn)其中有4人忘記填寫(xiě)性別 試問(wèn) 在最小錯(cuò)誤的條件下 這4人是男是女 體檢數(shù)值如下 實(shí)例 統(tǒng)計(jì)模式識(shí)別 續(xù) 待識(shí)別的模式 性別 男或女 測(cè)量的特征 身高和體重訓(xùn)練樣本 15名已知性別的樣本特征目標(biāo) 希望借助于訓(xùn)練樣本的特征建立判別函數(shù) 即數(shù)學(xué)模型 實(shí)例 統(tǒng)計(jì)模式識(shí)別 續(xù) 由訓(xùn)練樣本得到的特征空間分布圖 實(shí)例 統(tǒng)計(jì)模式識(shí)別 續(xù) 從圖中訓(xùn)練樣本的分布情況 找出男 女兩類特征各自的聚類特點(diǎn) 從而求取一個(gè)判別函數(shù) 直線或曲線 只要給出待分類的模式特征的數(shù)值 看它在特征平面上落在判別函數(shù)的哪一側(cè) 就可以判別是男還是女了 實(shí)例 句法模式識(shí)別 問(wèn)題 如何利用對(duì)圖像的結(jié)構(gòu)信息描述 識(shí)別如下所示圖片 實(shí)例 句法模式識(shí)別 續(xù) 將整個(gè)場(chǎng)景圖像結(jié)構(gòu)分解成一些比較簡(jiǎn)單的子圖像的組合 子圖像又用一些更為簡(jiǎn)單的基本圖像單元來(lái)表示 直至子圖像達(dá)到了我們認(rèn)為的最簡(jiǎn)單的圖像單元 基元 所有這些基元按一定的結(jié)構(gòu)關(guān)系來(lái)表示 利用多級(jí)樹(shù)結(jié)構(gòu)對(duì)其進(jìn)行描述 這種描述可以采用形式語(yǔ)言理論 實(shí)例 句法模式識(shí)別 續(xù) 多級(jí)樹(shù)描述結(jié)構(gòu) 實(shí)例 句法模式識(shí)別 續(xù) 訓(xùn)練過(guò)程 用已知結(jié)構(gòu)信息的圖像作為訓(xùn)練樣本 先識(shí)別出基元 比如場(chǎng)景圖中的X Y Z等簡(jiǎn)單平面 和它們之間的連接關(guān)系 例如長(zhǎng)方體E是由X Y和Z三個(gè)面拼接而成 并用字母符號(hào)代表之 然后用構(gòu)造句子的文法來(lái)描述生成這幅場(chǎng)景的過(guò)程 由此推斷出生成該場(chǎng)景的一種文法 實(shí)例 句法模式識(shí)別 續(xù) 識(shí)別過(guò)程 先對(duì)未知結(jié)構(gòu)信息的圖像進(jìn)行基元提取及其相互結(jié)構(gòu)關(guān)系的識(shí)別 然后用訓(xùn)練過(guò)程獲得的文法做句法分析 如果能被已知結(jié)構(gòu)信息的文法分析出來(lái) 則該幅未知圖像與訓(xùn)練樣本具有相同的結(jié)構(gòu) 識(shí)別成功 否則就不是這種結(jié)構(gòu) 識(shí)別失敗 模式識(shí)別的應(yīng)用 例1 1不停車收費(fèi)系統(tǒng) 1 提取車輛外形幾何參數(shù)進(jìn)行處理分析 實(shí)現(xiàn)分類 如視頻檢測(cè)方法 紅外檢測(cè)方法 2 測(cè)量車輛的其他物理參數(shù) 噪聲 振動(dòng) 壓重等 實(shí)現(xiàn)分類 如動(dòng)態(tài)稱重 電磁感應(yīng)等 3 直接識(shí)別車輛身份的方法實(shí)現(xiàn)分類 如電子標(biāo)簽 視頻牌照識(shí)別等 例如第一種方式 交通部的收費(fèi)標(biāo)準(zhǔn) 按噸位劃分 收費(fèi)站 按車型收費(fèi) 間接按車輛設(shè)計(jì)載重量收費(fèi) 關(guān)鍵 車型的自動(dòng)分類 幾種主要技術(shù) 頂長(zhǎng)比 車高 例1 2生物識(shí)別技術(shù) 根據(jù)每個(gè)人獨(dú)有的可以采樣和測(cè)量的生物學(xué)特征 生理特征 和行為學(xué)特征進(jìn)行身份識(shí)別的技術(shù) 1 指紋識(shí)別 最早 最成熟的識(shí)別技術(shù) 2 掌紋識(shí)別 研究紋線上某幾個(gè)點(diǎn)的幅值 灰度值 線長(zhǎng)與線所對(duì)應(yīng)的角之比等特征 3 人臉識(shí)別 4 虹膜識(shí)別 5 簽名識(shí)別6 擊鍵分析 本門(mén)課程的主要內(nèi)容 第一章概論第二章聚類分析第三章判別函數(shù)第四章統(tǒng)計(jì)判別第五章特征選擇和提取第六章句法模式識(shí)別第七章模糊模式識(shí)別第八章神經(jīng)網(wǎng)絡(luò) 小結(jié) 模式和模式識(shí)別的概念模式識(shí)別的發(fā)展簡(jiǎn)史和應(yīng)用模式識(shí)別的主要方法模式識(shí)別的系統(tǒng)和實(shí)例 同學(xué)們 來(lái)學(xué)校和回家的路上要注意安全 同學(xué)們 來(lái)學(xué)校和回家的路上要注意安全