《《機(jī)器學(xué)習(xí)》教學(xué)大綱》由會員分享，可在線閱讀，更多相關(guān)《《機(jī)器學(xué)習(xí)》教學(xué)大綱（2頁珍藏版）》請?jiān)谘b配圖網(wǎng)上搜索。
1、《機(jī)器學(xué)習(xí)》教學(xué)大綱
課程主要內(nèi)容框架：各章節(jié)的主要內(nèi)容、目的與要求
1. 決策論與信息論基礎(chǔ)（2學(xué)時(shí)）：了解并掌握統(tǒng)計(jì)決策理論和信息論的基礎(chǔ)知識。
a) 損失函數(shù)、錯(cuò)分率的最小化、期望損失的最小化等
b) 相對熵、互信息
2. 概率分布（4學(xué)時(shí)）：熟悉常見的分布，熟練掌握最大似然估計(jì)方法，學(xué)會利用無信息先驗(yàn)和共軛先驗(yàn)簡化計(jì)算，了解一些常用的非參數(shù)方法。
a) 高斯分布、混合高斯分布、Dirichlet分布、 beta分布等
b) 指數(shù)分布族：最大似然估計(jì)、充分統(tǒng)計(jì)量、共軛先驗(yàn)、無信息先驗(yàn)等
c) 非參數(shù)方法：核密度估計(jì)、近鄰法
3. 回歸的線性模型（4學(xué)時(shí)）：掌握線性回歸的
2、一般方法，學(xué)會使用R中有關(guān)回歸的程序包，并能將之用于解決實(shí)際問題。
a) 線性基函數(shù)模型
b) 貝葉斯線性回歸
c) 貝葉斯模型比較
4. 分類的線性模型（4學(xué)時(shí)）：對分類問題有一個(gè)全面的了解，掌握一些常用的分類方法。
a) 判別函數(shù)：二分類和多分類的Fisher線性判別
b) 概率生成模型：連續(xù)輸入、離散特征
5. 神經(jīng)網(wǎng)絡(luò)（4學(xué)時(shí)）：熟練掌握經(jīng)典神經(jīng)網(wǎng)絡(luò)模型的建模和實(shí)現(xiàn)，了解貝葉斯神經(jīng)網(wǎng)絡(luò)的基本算法，學(xué)會使用FBM（flexible Bayesian Modeling）軟件。
a) 前饋網(wǎng)絡(luò)函數(shù)
b) 神經(jīng)網(wǎng)絡(luò)的訓(xùn)練：參數(shù)的最優(yōu)化、梯度下降最優(yōu)化等
c) 錯(cuò)誤的后傳播
3、
d) 貝葉斯神經(jīng)網(wǎng)絡(luò)：后驗(yàn)參數(shù)分布、超參數(shù)最優(yōu)化、應(yīng)用
6. 核方法（4學(xué)時(shí)）：了解核方法的最新進(jìn)展，熟練掌握核函數(shù)參數(shù)估計(jì)的常用方法。
a) 對偶表示
b) 構(gòu)造核函數(shù)
c) 徑向基函數(shù)網(wǎng)絡(luò)：Nadaraya-Watson模型
d) 高斯過程：高斯過程模型用于回歸和分類、Laplace逼近、與神經(jīng)網(wǎng)絡(luò)的聯(lián)系
7. 支持向量機(jī)（4學(xué)時(shí)）：掌握支持向量機(jī)的基本原理，面對各自研究領(lǐng)域中的具體問題學(xué)會使用支持向量機(jī)，粗略了解統(tǒng)計(jì)學(xué)習(xí)理論。
a) 最大邊緣分類器：歷史回顧
b) 用于多分類和回歸的支持向量機(jī)：幾何背景、各種變種
c) 統(tǒng)計(jì)學(xué)習(xí)理論簡介：Vapnik等人的工作
8.
4、 圖模型（4學(xué)時(shí)）：從建模到算法實(shí)現(xiàn)。
a) 貝葉斯網(wǎng)絡(luò)
b) Markov隨機(jī)場：條件獨(dú)立、因子分解
c) 圖模型中的推斷
9. 混合模型和期望最大化（Expectation Maximization，EM）算法（4學(xué)時(shí)）：掌握EM算法的基本理論，學(xué)會使用EM算法。
a) 高斯混合模型的參數(shù)估計(jì)：最大似然估計(jì)、EM算法
b) EM一般算法及其應(yīng)用：貝葉斯線性回歸
10. 隨機(jī)模擬技術(shù)（6學(xué)時(shí)）：了解并掌握一些經(jīng)典的Monte Carlo方法，學(xué)會使用JAGS（Just Another Gibbs Sampler）軟件。
a) 拒絕采樣和重要性采樣
b) Markov cha
5、in Monte Carlo（MCMC）方法：Metropolis-Hastings算法
c) Gibbs采樣
11. 隱Markov模型和條件隨機(jī)場模型（4學(xué)時(shí)）：掌握隱Markov模型的幾個(gè)經(jīng)典算法，學(xué)會利用隱Markov模型和條件隨機(jī)場模型解決具體問題，如自然語言處理中的詞性標(biāo)注、蛋白質(zhì)結(jié)構(gòu)的分析和預(yù)測等。
a) 隱Markov模型：向前-向后算法、Viterbi算法、Baum-Welch算法等
b) 條件隨機(jī)場及其應(yīng)用
12. 模型的組合（4學(xué)時(shí)）：學(xué)會在已有模型的基礎(chǔ)上構(gòu)造新模型進(jìn)一步改進(jìn)效果。
a) 貝葉斯模型均衡
b) 助推法：指數(shù)錯(cuò)誤的最小化、助推法的錯(cuò)誤函數(shù)
6、c) 基于樹的模型
d) 條件混合模型：線性回歸模型的混合、logistic模型的混合等
主要參考文獻(xiàn)
1. Bishop, C. M. (2006) Pattern Recognition and Machine Learning, Spring Science + Business Media, LLC
2. Mitchell, T. M. (1997) Machine Learning, The McGraw-Hill Companies, Inc.
教學(xué)方式
采用多媒體教學(xué)和傳統(tǒng)教學(xué)相結(jié)合的方式，在理論介紹上做到簡潔直觀，在實(shí)驗(yàn)展示上做到生動活潑。通過理論學(xué)習(xí)，學(xué)生將掌握統(tǒng)計(jì)機(jī)器學(xué)習(xí)的經(jīng)典理論，了解當(dāng)前最新的進(jìn)展，并學(xué)會針對各自學(xué)科的具體問題建模和設(shè)計(jì)算法。
掌握統(tǒng)計(jì)計(jì)算語言R及各種常用的機(jī)器學(xué)習(xí)工具包，最終實(shí)現(xiàn)算法、完成實(shí)驗(yàn)結(jié)果分析?？紤]到統(tǒng)計(jì)機(jī)器學(xué)習(xí)的特點(diǎn)，在教學(xué)上始終貫徹理論聯(lián)系實(shí)踐的宗旨，培養(yǎng)學(xué)生的動手能力，以解決具體問題為驅(qū)動，在學(xué)中用、在用中學(xué)。
考試方式
最后成績的評定采用：
1. 平時(shí)成績（作業(yè)）30%
2. 期中考試（筆試）30%
3. 期末考試（筆試）40%
2
《機(jī)器學(xué)習(xí)》教學(xué)大綱
