《效應(yīng)的最小二乘估計(jì)》由會(huì)員分享，可在線(xiàn)閱讀，更多相關(guān)《效應(yīng)的最小二乘估計(jì)（18頁(yè)珍藏版）》請(qǐng)?jiān)谘b配圖網(wǎng)上搜索。
1、效應(yīng)的最小二乘估計(jì) 最小二乘方差分析 簡(jiǎn)要介紹 一、最小二乘分析法的原理和方法 這里主要討論次級(jí)樣本容量不等的最小二乘分析法 的基本內(nèi)容 與其他方法相比，最小二乘分析法至少有以下幾個(gè) 優(yōu)點(diǎn)： 1、最小二乘分析法適用于線(xiàn)性和非線(xiàn)性數(shù)學(xué)模型 2、最小二乘分析法與最重要的一個(gè)統(tǒng)計(jì)量 算術(shù) 平均數(shù)發(fā)生關(guān)系 3、適應(yīng)范圍廣 最小二乘分析法特別適合于以下幾種情況： 1、試驗(yàn)條件復(fù)雜，成本太高、來(lái)源一致的大樣本資 料不容易獲得 2、來(lái)自各試驗(yàn)單位的資料不平衡、需要進(jìn)行校正 3、次要因素不容易控制 4、資料需要校正合并 5、資料次級(jí)樣本容量不等，而使得平方和的可加性 遭到破壞 目前，絕大多數(shù)統(tǒng)計(jì)軟件中的方差分
2、析均為最小二 乘方差分析法 設(shè)有一批觀(guān)測(cè)值 以下均以 代替以前的 根據(jù)最小二乘原理求出處理效應(yīng)的估計(jì)值，即取這 樣一個(gè) y值 ,作為這批數(shù)據(jù) 的最佳值，它應(yīng)當(dāng)與各 個(gè) 的平方和最小，即 對(duì) 求微分，并令之為 0，則有 y即為算術(shù)平均數(shù) 1, 2 ,.,iy i n iy ix 2 2 2 12 2 . m in n i f y y y y y y y yy iy iy fy 20iyy 0iy ny 1 iyyn y 繼續(xù)求其二級(jí)微分，可知 為極小 即算術(shù)平均數(shù) 是一批觀(guān)測(cè)值的最小二乘估計(jì)值 在線(xiàn)性方程組 中，如果 ，即方程組非齊次 X的秩 =b的維數(shù)（即 X為非奇異陣） 增廣矩陣 |Xy|的
3、秩 =X的秩（即方程組相容 ） 則方程組有唯一解： 當(dāng) X不是方陣（即方程組中方程的個(gè)數(shù)與未知數(shù)的 個(gè)數(shù)不等）， 必為一非奇異陣，則方程組 的解可由 其中， 即為 b的最小二乘估計(jì)值 y fy Xb y 0y 1b X y XX 1 X X b X y b X X X y b 可以證明， 是唯一的、無(wú)偏的 任何數(shù)學(xué)模型均可用矩陣形式表示 如線(xiàn)性模型 的矩陣形式為 其中， y為 n維觀(guān)測(cè)值向量 X為固定效應(yīng)的結(jié)構(gòu)矩陣 b為固定效應(yīng)向量 e為隨機(jī)誤差向量，且 在 中，絕大多數(shù)情況下， X不會(huì)是方陣，即 方程個(gè)數(shù)與未知數(shù)個(gè)數(shù)不等，為使方程有解 ij i ijy y Xb e 20,E e V e I
4、 y Xb e 方程可改寫(xiě)成 可以證明，該式必有解： 當(dāng) 滿(mǎn)秩時(shí)，必有 存在，且為唯一，即 其中， 是唯一的，且是 b的最小二乘估計(jì)值，是 b的 最佳線(xiàn)性無(wú)偏估計(jì)值 當(dāng) 不滿(mǎn)秩時(shí)， 有無(wú)窮多個(gè)解 為使方程有唯一解，可加入約束條件，從而使 為滿(mǎn)秩，得出唯一解 常用的約束條件有很多，如：和約束、相對(duì)約束 （ ）等，但約束條件不同，解也不同 X X b X y XX 1XX 1 b X X X y b 0i 0k X X b X yXX XX 二、單向分類(lèi)資料的最小二乘分析法 例：設(shè)計(jì)了三種草本植物添加劑作飼養(yǎng)試驗(yàn)，得數(shù)據(jù) 如下： 添加劑種類(lèi) 增重效果 1.2 1.0 1.1 1.1 1.4 1.3
5、 1.0 0.9 1.2 本例中， ， ， 設(shè)三種添加劑的效應(yīng)值分別為 每一觀(guān)測(cè)值完整的數(shù)學(xué)模型為： 1 4n 2 2n 3 3n 1 2 3, 1 2 3ij ijy 請(qǐng)回顧一下，用 普通方差分析法 該如何分析之？ 當(dāng)有 k個(gè)組時(shí)，觀(guān)測(cè)值的一般通式為： 本例每一觀(guān)測(cè)值的數(shù)學(xué)模型： 第一組： 第二組： 第三組： 12 .ij k ijy 1 2 3 1 11 .2 1 0 0 1 2 3 2 11 . 4 0 1 0 1 2 3 3 11 . 0 0 0 1 其結(jié)構(gòu)矩陣 X為： X= 該結(jié)構(gòu)陣不是一個(gè)方陣，因此應(yīng)求 XX 1 1 0 0 1 1 0 0 1 1 0 0 1 1 0 0 1 0
6、1 0 1 0 1 0 1 0 0 1 1 0 0 1 1 0 0 1 1 2 3 XX= = XX的一般通式是： 111111111 1 1 1 1 0 0 0 0 0 0 0 0 0 1 1 0 0 0 0 0 0 0 0 0 1 1 1 1 1 0 0 1 1 0 0 1 1 0 0 1 1 0 0 1 0 1 0 1 0 1 0 1 0 0 1 1 0 0 1 1 0 0 1 9 4 2 3 4 4 0 0 2 0 2 0 3 0 0 3 1 11 . . k kk n n n nn nn 而 Xy= Xy= 上式中： 10.2 4.4 2.7 3.1 1 2 . k y y y y
7、12 1. 2. . . 1 . . i k k n i ij j n n n n y y y y yy 因此，矩陣方陣為： 其通式是： 可以看出， XX是不滿(mǎn)秩的，因此它無(wú)唯一解 1 2 3 9 4 2 3 10 .2 4 4 0 0 4. 4 2 0 2 0 2. 7 3 0 0 3 3. 1 12 1 1 1 1. 2 2 2 2. . . . . . k k k k k n n n n y n n y n n y n n y 由于 是其約束條件，因此可以將該方程組減 去一個(gè) （習(xí)慣上總是減去最后一個(gè) ） 首先作行相減，第一行是 方程，因此不減 從第二行逐行減去最后一個(gè)方程： 然后作列相
8、減，即除第一列外的各列均減去最后一 列： 0i k 1 2 9 4 2 3 1 0 .2 1 4 0 3 1 .3 1 0 2 3 0 .4 1 2 9 1 1 1 0 .2 1 7 3 1 .3 1 3 5 0 .4 這一過(guò)程稱(chēng)為矩陣的降階，降階后的矩陣稱(chēng)為降階矩 陣，降階矩陣與原矩陣相比，少了一行一列，即由 原來(lái)的（ k+1）行（ k+1）列降為 k行 k列 降階后的矩陣仍為對(duì)稱(chēng)陣，且滿(mǎn)秩，因此有唯一解： 1 1 2 9 1 1 10. 2 1 7 3 1.3 1 3 5 0.4 0.1 204 0.0 370 0.0 463 10. 2 1.1 611 0.0 370 0.2 037 0
9、.1 296 1.3 0.0 611 0.0 463 0.1 296 0.2 870 0.4 0.1 889 即 （總體效應(yīng)值） =1.1611，此即為最小二乘均 值 LSM（ least square mean） （第一種中草藥添加劑效應(yīng)值） =-0.0611 （第二種中草藥添加劑效應(yīng)值） =0.1889 （第三種中草藥添加劑效應(yīng)值） = =-（ -0.0611+0.1889） =-0.1278 三種中草藥添加劑的最小二乘均值（ LSM）則分別 為： 1 2 3 11 22 33 1.16 11 0.06 11 1.1 1.16 11 0.18 89 1.35 1.16 11 0.12 78 1.03 3 y y y 數(shù)據(jù)比較簡(jiǎn)單時(shí)，手工計(jì)算和統(tǒng)計(jì)軟件運(yùn)算兩者差 別不大，但當(dāng)數(shù)據(jù)結(jié)構(gòu)比較復(fù)雜，或數(shù)據(jù)量很大 時(shí)，則必須借助于統(tǒng)計(jì)軟件 這里僅用單因素的數(shù)據(jù)結(jié)構(gòu)來(lái)說(shuō)明最小二乘分析法 的原理和基本方法，以作為統(tǒng)計(jì)軟件中方差分析 方法的說(shuō)明 兩因素、多因素的最小二乘分析法此處不再介紹， 其基本原理是一樣的，僅方法上更復(fù)雜一些 （ *） end
效應(yīng)的最小二乘估計(jì)
