SPSS課件10-聚類分析.ppt

《SPSS課件10-聚類分析.ppt》由會(huì)員分享，可在線閱讀，更多相關(guān)《SPSS課件10-聚類分析.ppt（28頁珍藏版）》請?jiān)谘b配圖網(wǎng)上搜索。

1,第10章 聚類分析,10.1 聚類分析的一般問題 10.2 層次聚類 10.3 K-Means 聚類(快速聚類),2,例 對10位應(yīng)聘者做智能檢驗(yàn)。3項(xiàng)指標(biāo)X，Y和Z分別表示數(shù)學(xué)推理能力，空間想象能力和語言理解能力。其得分如下，選擇合適的統(tǒng)計(jì)方法對應(yīng)聘者進(jìn)行分類。,3,什么是聚類分析,聚類分析是統(tǒng)計(jì)學(xué)所研究的“物以類聚”問題的一種方法,它屬于多元統(tǒng)計(jì)分析的范疇. 它是一種建立分類的方法,能夠?qū)⒁慌鷺颖緮?shù)據(jù)(或變量)按照它們在性質(zhì)上的親疏程度在沒有先驗(yàn)知識(shí)的情況下自動(dòng)進(jìn)行分類。這里,一個(gè)類就是一個(gè)具有相似性的個(gè)體的集合,不同類之間具有明顯的非相似性。在分類過程中,不必事先給出一個(gè)分類標(biāo)準(zhǔn),聚類分析能夠從樣本數(shù)據(jù)出發(fā),客觀地決定分類標(biāo)準(zhǔn)。,4,樣品間親疏程度的測度,研究樣品或變量的親疏程度的數(shù)量指標(biāo)有兩種，一種叫相似系數(shù)，性質(zhì)越接近的變量或樣品，它們的相似系數(shù)越接近于1或一l，而彼此無關(guān)的變量或樣品它們的相似系數(shù)則越接近于0，相似的為一類，不相似的為不同類；另一種叫距離，它是將每一個(gè)樣品看作p維空間的一個(gè)點(diǎn)，并用某種度量測量點(diǎn)與點(diǎn)之間的距離，距離較近的歸為一類，距離較遠(yuǎn)的點(diǎn)應(yīng)屬于不同的類。,5,變量之間的聚類即R型聚類分析，常用相似系數(shù)來測度變量之間的親疏程度。而樣品之間的聚類即Q型聚類分析，則常用距離來測度樣品之間的親疏程度。,6,常用距離的算法,設(shè) 和 是第i和 j 個(gè)樣品的觀測值，則二者之間的距離 為：,歐氏距離,歐氏距離測度,7,聚類分析的幾點(diǎn)說明,1.所選擇的變量應(yīng)符合聚類的要求 2.各變量的變量值不應(yīng)有數(shù)量級(jí)的差異 消除數(shù)量級(jí)常用的方法是 標(biāo)準(zhǔn)化處理: 3.各變量間不應(yīng)有較強(qiáng)的線性相關(guān)性,8,層次聚類法,層次聚類分析的基本思想是,在聚類分析的開始,每個(gè)樣本自成一類;然后,按照某種方法度量所有樣本之間的親疏程度,并把其中最親密或稱最相似的樣本首先聚成一小類;接下來,度量剩余的樣本和小類之間的親疏程度,并將當(dāng)前最親密的樣本或小類再聚成一類;再接下來,再度量剩余下的樣本和小類(或小類和小類)間的親疏程度,并將當(dāng)前最親密的樣本或小類再聚成一類;如此反復(fù),直到所有的樣本分別聚成一類為止。,由此可見,層次聚類方法中,度量數(shù)據(jù)之間的親疏程度是極為關(guān)鍵的。要注意的是,這里并沒有給定分類的標(biāo)準(zhǔn),也沒有給出所有數(shù)據(jù)分成幾類,而要求比較客觀地從數(shù)據(jù)自身出發(fā)進(jìn)行分類。 層次聚類分析的結(jié)果是凝聚狀態(tài)表、冰柱圖和樹形圖。 連續(xù)變量的樣本距離測度方法有歐氏距離,歐氏距離平方,切比雪夫距離,Block距離,明考夫斯基距離,夾角余弦距離，用戶自定義距離等。 樣本數(shù)據(jù)與小類、小類與小類間親疏程度的度量方法有最短距離法,最長距離法,組間平均鏈鎖法,組內(nèi)平均鏈鎖法,重心法,離差平方和法。,10,樣本數(shù)據(jù)與小類、小類與小類之間的度量,1 、最短距離（Nearest Neighbor),,11,最長距離（Furthest Neighbor ）,,12,,,?,?,?,?,?,?,,,,,,,,,,組間平均連接（Between-group Linkage),13,1 、組內(nèi)平均連接法（Within-group Linkage),,,,,,,14,重心法（Centroid clustering):均值點(diǎn)的距離,,15,用spss輸出的凝聚狀態(tài)表,16,冰柱圖,17,K-Means 聚類(快速聚類),一、思想 層次聚類法是一種比較成功的聚類方法。然而當(dāng)樣本點(diǎn)數(shù)量十分龐大時(shí)，則是一件非常繁重的工作，且聚類的計(jì)算速度也比較慢。比如在市場抽樣調(diào)查中，有4萬人就其對衣著的偏好作了回答，希望能迅速將他們分為幾類。這時(shí)，采用層次聚類法就很困難，而快速聚類法就會(huì)顯得方便，適用。,18,和層次聚類分析一致，快速聚類分析也以距離為樣本間親疏程度的標(biāo)志。 但兩者的不同點(diǎn)在于: 層次聚類可以對不同的聚類類數(shù)產(chǎn)生一系列的聚類解，而快速聚類只能產(chǎn)生固定類數(shù)的聚類解，類數(shù)需要用戶事先指定。,19,快速聚類分析的計(jì)算過程,首先需要用戶指定聚類成多少類（如k類） 然后確定k個(gè)類的初始類中心。指定方式有兩種：1）用戶指定；2）系統(tǒng)指定。Spss系統(tǒng)會(huì)根據(jù)樣本數(shù)據(jù)的實(shí)際情況，選擇k個(gè)有代表性的樣本數(shù)據(jù)作為初始類中心。 計(jì)算所有樣本數(shù)據(jù)點(diǎn)到k個(gè)類中心的歐氏距離，并按照距k個(gè)類中心點(diǎn)距離最短原則，把所有樣本數(shù)據(jù)點(diǎn)分派到各中心點(diǎn)所在的類中，形成一個(gè)新的k類，完成一次迭代過程。,20,,重新確定k個(gè)類中心。 Spss計(jì)算每個(gè)類中各個(gè)變量的變量值均值，并以均值點(diǎn)作為新的類中心點(diǎn)。 然后重復(fù)上面的兩步計(jì)算過程，直到達(dá)到指定的迭代次數(shù)，或終止迭代的判斷要求為止。,21,（a）空間的群點(diǎn) (b) 任取兩個(gè)聚核,,,,,,,(c) 第一次分類 (d) 求各類中心,,,,,,,22,(e) 第二次分類,,,,23,,可見，與層次聚類不同，快速聚類是一個(gè)反復(fù)迭代的分類過程，在聚類過程中，樣本所屬的類會(huì)不斷調(diào)整，直到最終達(dá)到穩(wěn)定為止。,24,用spss輸出的結(jié)果,25,,26,27,,28,,