《哈爾濱工程大學(xué) 計(jì)量經(jīng)濟(jì)學(xué) 課件》由會(huì)員分享，可在線閱讀，更多相關(guān)《哈爾濱工程大學(xué) 計(jì)量經(jīng)濟(jì)學(xué) 課件（32頁(yè)珍藏版）》請(qǐng)?jiān)谘b配圖網(wǎng)上搜索。
1、多元線性模型的統(tǒng)計(jì)檢驗(yàn)與區(qū)間估計(jì)Statistical Test of Multiple Linear Regression Model返回到目錄第三章第三章 多元線性回歸模型的統(tǒng)計(jì)多元線性回歸模型的統(tǒng)計(jì)檢驗(yàn)與區(qū)間估計(jì)檢驗(yàn)與區(qū)間估計(jì)3.1擬合優(yōu)度檢驗(yàn)擬合優(yōu)度檢驗(yàn)(R檢驗(yàn)檢驗(yàn))3.2方程顯著性檢驗(yàn)方程顯著性檢驗(yàn)(F檢驗(yàn)檢驗(yàn))3.3變量顯著性檢驗(yàn)變量顯著性檢驗(yàn)(t檢驗(yàn)檢驗(yàn))哈工程經(jīng)濟(jì)管理學(xué)院計(jì)計(jì)量量經(jīng)經(jīng)濟(jì)濟(jì)學(xué)學(xué)模模型型是是應(yīng)應(yīng)用用數(shù)數(shù)理理統(tǒng)統(tǒng)計(jì)計(jì)方方法法建建立立的的一一類類經(jīng)經(jīng)濟(jì)濟(jì)數(shù)數(shù)學(xué)學(xué)模模型型，模模型型必必須須滿滿足足數(shù)數(shù)學(xué)學(xué)理理論論與與方方法法上上的的要要求求，所所以以在在模模型型參參數(shù)數(shù)估
2、估計(jì)計(jì)后后，需需要要檢檢驗(yàn)驗(yàn)其其是是否否滿滿足足數(shù)數(shù)學(xué)學(xué)理理論論與與方方法法上上的的要要求求。哈工程經(jīng)濟(jì)管理學(xué)院 我們所要進(jìn)行的統(tǒng)計(jì)檢驗(yàn)包括兩個(gè)方我們所要進(jìn)行的統(tǒng)計(jì)檢驗(yàn)包括兩個(gè)方面，一方面檢驗(yàn)回歸方程對(duì)樣本數(shù)據(jù)的面，一方面檢驗(yàn)回歸方程對(duì)樣本數(shù)據(jù)的擬合程度，通過(guò)可決系數(shù)來(lái)分析；另一擬合程度，通過(guò)可決系數(shù)來(lái)分析；另一方面檢驗(yàn)回歸方程的顯著性，方面檢驗(yàn)回歸方程的顯著性，通過(guò)假設(shè)通過(guò)假設(shè)檢驗(yàn)檢驗(yàn)對(duì)模型中被解釋變量與解釋變量之對(duì)模型中被解釋變量與解釋變量之間的線性關(guān)系在總體上是否顯著成立作間的線性關(guān)系在總體上是否顯著成立作出推斷出推斷，包括對(duì)回歸方程線性關(guān)系的檢包括對(duì)回歸方程線性關(guān)系的檢驗(yàn)和對(duì)回歸系數(shù)顯
3、著性的檢驗(yàn)。驗(yàn)和對(duì)回歸系數(shù)顯著性的檢驗(yàn)。哈工程經(jīng)濟(jì)管理學(xué)院3.1擬合優(yōu)度檢驗(yàn)擬合優(yōu)度檢驗(yàn)(R檢驗(yàn)檢驗(yàn))Testing the Simulation Level哈工程經(jīng)濟(jì)管理學(xué)院 擬合優(yōu)度檢驗(yàn)，顧名思擬合優(yōu)度檢驗(yàn)，顧名思義，是檢驗(yàn)?zāi)Ｐ蛯?duì)樣本觀測(cè)義，是檢驗(yàn)?zāi)Ｐ蛯?duì)樣本觀測(cè)值的擬合程度。值的擬合程度。哈工程經(jīng)濟(jì)管理學(xué)院1、總體平方和、殘差平方和和回歸平方和、總體平方和、殘差平方和和回歸平方和 TSS TSS為總體平方和為總體平方和（Total Sum of SquaresTotal Sum of Squares），反，反映樣本觀測(cè)值總體離差的大??；映樣本觀測(cè)值總體離差的大小；ESSESS為回歸平方和為
4、回歸平方和（Explained Sum of SquaresExplained Sum of Squares），反映由模型中，反映由模型中解釋變量所解釋的那部分離差的大小；解釋變量所解釋的那部分離差的大小；RSSRSS為殘差為殘差平方和平方和（Residual Sum of SquaresResidual Sum of Squares），反映樣本，反映樣本觀測(cè)值與估計(jì)值偏離的大小，也是模型中解釋變觀測(cè)值與估計(jì)值偏離的大小，也是模型中解釋變量未解釋的那部分離差的大小。量未解釋的那部分離差的大小。TSS=RSS+ESS 222)()()(iiiiYYRSSYYESSYYTSS哈工程經(jīng)濟(jì)管理學(xué)院 2
5、 2、擬合優(yōu)度檢驗(yàn)統(tǒng)計(jì)量：、擬合優(yōu)度檢驗(yàn)統(tǒng)計(jì)量：可決系數(shù)可決系數(shù)R2和校正可決系數(shù)和校正可決系數(shù) （1）可決系數(shù)）可決系數(shù) 用可決系數(shù)用可決系數(shù)2R進(jìn)行擬合優(yōu)度檢驗(yàn)，進(jìn)行擬合優(yōu)度檢驗(yàn)，可決系可決系數(shù)的計(jì)算公式為：數(shù)的計(jì)算公式為：222YYYYRii ，該統(tǒng)計(jì)量越接近于，該統(tǒng)計(jì)量越接近于 1，模型，模型的擬合優(yōu)度越高。的擬合優(yōu)度越高。2R102 R哈工程經(jīng)濟(jì)管理學(xué)院哈工程經(jīng)濟(jì)管理學(xué)院22RR2R)1()1(1122RknnR（2）校正可決系數(shù)）校正可決系數(shù))(1()(1(12YnYYknYXBYYn哈工程經(jīng)濟(jì)管理學(xué)院3.2方程顯著性檢驗(yàn)方程顯著性檢驗(yàn)(F檢驗(yàn)檢驗(yàn))Testing the Over
6、all Significance哈工程經(jīng)濟(jì)管理學(xué)院F F檢驗(yàn)的思想檢驗(yàn)的思想來(lái)自于總離差平方和的分解式：TSS=ESS+RSS由于回歸平方和ESS是解釋變量X聯(lián)合體對(duì)被解釋變量Y的線性作用的結(jié)果，所以，如果ESS/RSS的比值較大，則X的聯(lián)合體對(duì)Y的解釋程度高，可認(rèn)為總體存在線性關(guān)系，反之總體上可能不存在線性關(guān)系。因此因此,可通過(guò)該比值的大小對(duì)總體線性關(guān)系進(jìn)可通過(guò)該比值的大小對(duì)總體線性關(guān)系進(jìn)行推斷行推斷。1 1、F F檢驗(yàn)的思想檢驗(yàn)的思想哈工程經(jīng)濟(jì)管理學(xué)院由于iY服從正態(tài)分布，根據(jù)數(shù)理統(tǒng)計(jì)學(xué)中的定義，iY的一組樣本的平方和服從2分布。所以有：2)(YYESSi2()k 2)(iiYYRSS21
7、()nk即回歸平方和、殘差平方和分別服從自由度為k和()nk1的2分布。進(jìn)一步根據(jù)數(shù)理統(tǒng)計(jì)學(xué)中的定義，如果構(gòu)造一個(gè)統(tǒng)計(jì)量 FE S SkR S Snk()1則該統(tǒng)計(jì)量服從自由度為（k，n-k-1）的F分布。哈工程經(jīng)濟(jì)管理學(xué)院2.2.關(guān)于假設(shè)檢驗(yàn)關(guān)于假設(shè)檢驗(yàn) 假設(shè)檢驗(yàn)是統(tǒng)計(jì)推斷的一個(gè)主要內(nèi)容，它的基本假設(shè)檢驗(yàn)是統(tǒng)計(jì)推斷的一個(gè)主要內(nèi)容，它的基本任務(wù)是根據(jù)樣本所提供的信息，對(duì)未知總體分布任務(wù)是根據(jù)樣本所提供的信息，對(duì)未知總體分布的某些方面的假設(shè)作出合理的判斷。的某些方面的假設(shè)作出合理的判斷。假設(shè)檢驗(yàn)的程序是，先根據(jù)實(shí)際問(wèn)題的要求提出假設(shè)檢驗(yàn)的程序是，先根據(jù)實(shí)際問(wèn)題的要求提出一個(gè)論斷，稱為統(tǒng)計(jì)假設(shè)；然
8、后根據(jù)樣本的有關(guān)一個(gè)論斷，稱為統(tǒng)計(jì)假設(shè)；然后根據(jù)樣本的有關(guān)信息，對(duì)假設(shè)的真?zhèn)芜M(jìn)行判斷，作出拒絕或接受信息，對(duì)假設(shè)的真?zhèn)芜M(jìn)行判斷，作出拒絕或接受假設(shè)的決策。假設(shè)的決策。假設(shè)檢驗(yàn)的基本思想是概率性質(zhì)的反證法。假設(shè)檢驗(yàn)的基本思想是概率性質(zhì)的反證法。概率性質(zhì)的反證法的根據(jù)是小概率事件原理，該概率性質(zhì)的反證法的根據(jù)是小概率事件原理，該原理認(rèn)為原理認(rèn)為“小概率事件在一次試驗(yàn)中幾乎是不可小概率事件在一次試驗(yàn)中幾乎是不可能發(fā)生的能發(fā)生的”。哈工程經(jīng)濟(jì)管理學(xué)院哈工程經(jīng)濟(jì)管理學(xué)院 對(duì)于對(duì)于一元線性回歸模型，假設(shè)為：一元線性回歸模型，假設(shè)為：0:0:1110HH 然后根據(jù)樣本觀測(cè)值和估計(jì)值，計(jì)算然后根據(jù)樣本觀測(cè)值和
9、估計(jì)值，計(jì)算F統(tǒng)計(jì)量統(tǒng)計(jì)量的數(shù)值：的數(shù)值：1/)1(22knYYkYYknRSSkESSFiii哈工程經(jīng)濟(jì)管理學(xué)院 F F 統(tǒng)計(jì)量服從自由度為統(tǒng)計(jì)量服從自由度為(,)k nk1的的F分布。選定分布。選定一個(gè)顯著性水平一個(gè)顯著性水平，查，查F分布表分布表（見本書附錄），（見本書附錄），可以得到一個(gè)臨界值可以得到一個(gè)臨界值Fk nk(,)1。1/1/22knRkRF其中，其中，2R為判定系數(shù)，為判定系數(shù)，k為模型中解釋變量的個(gè)為模型中解釋變量的個(gè)數(shù)，數(shù)，n為樣本容量。為樣本容量。哈工程經(jīng)濟(jì)管理學(xué)院 如果所計(jì)算的如果所計(jì)算的FFk nk(,)1，則在，則在(1(1)的的置信概率下拒絕原假設(shè)置信概率下
10、拒絕原假設(shè)H0，即模型的線性關(guān)系顯著，即模型的線性關(guān)系顯著成立，模型通過(guò)方程顯著性檢驗(yàn)。如果所計(jì)算的成立，模型通過(guò)方程顯著性檢驗(yàn)。如果所計(jì)算的F Fk nk(,)1，則在，則在(1(1)的置信概率下接受的置信概率下接受原假設(shè)原假設(shè)H0，即模型的線性關(guān)系顯著不成立，模型未，即模型的線性關(guān)系顯著不成立，模型未通過(guò)方程顯著性檢驗(yàn)。通過(guò)方程顯著性檢驗(yàn)。哈工程經(jīng)濟(jì)管理學(xué)院4 4、方程顯著性、方程顯著性F F檢驗(yàn)的例題檢驗(yàn)的例題哈工程經(jīng)濟(jì)管理學(xué)院哈工程經(jīng)濟(jì)管理學(xué)院 擬合優(yōu)度檢驗(yàn)和方程顯著性檢驗(yàn)是從不同擬合優(yōu)度檢驗(yàn)和方程顯著性檢驗(yàn)是從不同原理出發(fā)的兩類檢驗(yàn)，前者是從已經(jīng)得到估計(jì)原理出發(fā)的兩類檢驗(yàn)，前者是從已
11、經(jīng)得到估計(jì)的模型出發(fā)，檢驗(yàn)它對(duì)樣本觀測(cè)值的擬合程度，的模型出發(fā)，檢驗(yàn)它對(duì)樣本觀測(cè)值的擬合程度，后者是從樣本觀測(cè)值出發(fā)檢驗(yàn)?zāi)Ｐ涂傮w線性關(guān)后者是從樣本觀測(cè)值出發(fā)檢驗(yàn)?zāi)Ｐ涂傮w線性關(guān)系的顯著性。系的顯著性。5 5、關(guān)于擬合優(yōu)度檢驗(yàn)與方程顯著性檢驗(yàn)、關(guān)于擬合優(yōu)度檢驗(yàn)與方程顯著性檢驗(yàn)關(guān)系的討論關(guān)系的討論哈工程經(jīng)濟(jì)管理學(xué)院 可見，與R2同向變化：當(dāng)R2 時(shí)，；當(dāng)R2=1時(shí)，為無(wú)窮大；R2越大，值也越大。RnnkkF2111FE S SkR S Snk()1)1/()1/(12nTSSknRSSR因此，檢驗(yàn)是所估計(jì)回歸總顯著性的一個(gè)度量，也是對(duì)的一個(gè)顯著性檢驗(yàn)。即：2R檢驗(yàn)原假設(shè)，等價(jià)于檢驗(yàn)0:20RH0:2
12、10H哈工程經(jīng)濟(jì)管理學(xué)院3.3變量顯著性檢驗(yàn)變量顯著性檢驗(yàn)(t檢驗(yàn)檢驗(yàn))Testing the Individual Significance哈工程經(jīng)濟(jì)管理學(xué)院變量顯著性檢驗(yàn)即變量顯著性檢驗(yàn)即對(duì)回歸系數(shù)的顯著性進(jìn)對(duì)回歸系數(shù)的顯著性進(jìn)行檢驗(yàn)，行檢驗(yàn)，如果變量是顯著的，那么如果變量是顯著的，那么回歸系回歸系數(shù)數(shù)應(yīng)該顯著地不為應(yīng)該顯著地不為0。于是，在變量顯著性。于是，在變量顯著性檢驗(yàn)中設(shè)計(jì)的原假設(shè)為檢驗(yàn)中設(shè)計(jì)的原假設(shè)為：H0：i=0而備擇假設(shè)為：而備擇假設(shè)為：H1:i 0 其中其中 的下角標(biāo)的下角標(biāo)i，在一元回歸模型中取值，在一元回歸模型中取值1：在二元回歸模型中取值在二元回歸模型中取值1、2。哈
13、工程經(jīng)濟(jì)管理學(xué)院然后根據(jù)樣本觀測(cè)值和估計(jì)值，計(jì)算統(tǒng)計(jì)量然后根據(jù)樣本觀測(cè)值和估計(jì)值，計(jì)算統(tǒng)計(jì)量：iiiSt)1(kntt該統(tǒng)計(jì)量服從自由度為該統(tǒng)計(jì)量服從自由度為()nk1的的t分布，即分布，即 在在t統(tǒng)計(jì)量的算式中，統(tǒng)計(jì)量的算式中，i為總體回歸系數(shù)，為總體回歸系數(shù)，i為相應(yīng)的參數(shù)估計(jì)量，為相應(yīng)的參數(shù)估計(jì)量，iS為參數(shù)估計(jì)量為參數(shù)估計(jì)量i的標(biāo)準(zhǔn)差。的標(biāo)準(zhǔn)差。哈工程經(jīng)濟(jì)管理學(xué)院對(duì)于一元回歸模型，對(duì)于一元回歸模型，221ixS，其中，其中2為隨機(jī)為隨機(jī)誤差項(xiàng)方差的估計(jì)量，誤差項(xiàng)方差的估計(jì)量，21221222nxyknYYiiii對(duì)于二元回歸模型，對(duì)于二元回歸模型，2212221221222122212
14、221)()(xxxxxSExxxxxSE哈工程經(jīng)濟(jì)管理學(xué)院222221212222221iiiiiixxyyyekne計(jì)算出計(jì)算出t統(tǒng)計(jì)量后，要選定一個(gè)顯著性水平統(tǒng)計(jì)量后，要選定一個(gè)顯著性水平，結(jié)合自由度結(jié)合自由度()nk1，由，由t分布表分布表（見附表（見附表 5），），查得臨界值查得臨界值tnk21()。哈工程經(jīng)濟(jì)管理學(xué)院如果計(jì)算出的如果計(jì)算出的t統(tǒng)計(jì)量的絕對(duì)值統(tǒng)計(jì)量的絕對(duì)值ttnk21()，則在則在(1)的置信概率下拒絕原假設(shè)的置信概率下拒絕原假設(shè)H0。表。表明在明在(1)的置信概率下，的置信概率下，i不是由不是由0i這樣的這樣的總體產(chǎn)生的，總體產(chǎn)生的，i顯著地不為顯著地不為 0，即變
15、量，即變量iX對(duì)被對(duì)被解釋變量的影響是顯著的；解釋變量的影響是顯著的；哈工程經(jīng)濟(jì)管理學(xué)院如果如果t)1(2knt，則在，則在(1)的置的置信概率下接受原假設(shè)信概率下接受原假設(shè) H0，表明在，表明在(1)的置信概率下，的置信概率下，與與 0 沒(méi)有什麼差別，沒(méi)有什麼差別，即變量即變量 Xi對(duì)被解釋變量的影響是不顯著對(duì)被解釋變量的影響是不顯著的。的。哈工程經(jīng)濟(jì)管理學(xué)院對(duì)于對(duì)于一元線性回歸模型，一元線性回歸模型，F(xiàn) 檢驗(yàn)與檢驗(yàn)與 t 檢驗(yàn)檢驗(yàn)的假設(shè)均為：的假設(shè)均為：0:0:1110HH此時(shí)，此時(shí)，兩種檢驗(yàn)兩種檢驗(yàn)是一致的。是一致的。在一元線性回歸中，在一元線性回歸中，t t檢驗(yàn)與檢驗(yàn)與F F檢驗(yàn)是一致的檢驗(yàn)是一致的哈工程經(jīng)濟(jì)管理學(xué)院另一方面，兩個(gè)統(tǒng)計(jì)量之間有如下關(guān)系：22212221222122)2()2()2()2(iiiiiiiixnexnenexneyF 2222112txneii但在多元回歸情況下，兩種檢驗(yàn)說(shuō)明的問(wèn)題不同、但在多元回歸情況下，兩種檢驗(yàn)說(shuō)明的問(wèn)題不同、作用不同，不能相互取代。作用不同，不能相互取代。哈工程經(jīng)濟(jì)管理學(xué)院
哈爾濱工程大學(xué) 計(jì)量經(jīng)濟(jì)學(xué) 課件
