線性回歸方程的求法.ppt

《線性回歸方程的求法.ppt》由會(huì)員分享，可在線閱讀，更多相關(guān)《線性回歸方程的求法.ppt（50頁(yè)珍藏版）》請(qǐng)?jiān)谘b配圖網(wǎng)上搜索。

1、1.1線性回歸方程的求法,必修3(第二章 統(tǒng)計(jì))知識(shí)結(jié)構(gòu),收集數(shù)據(jù) (隨機(jī)抽樣),整理、分析數(shù)據(jù)估計(jì)、推斷,簡(jiǎn)單隨機(jī)抽樣,分層抽樣,系統(tǒng)抽樣,用樣本估計(jì)總體,變量間的相關(guān)關(guān)系,用樣本的頻率分布估計(jì)總體分布,用樣本數(shù)字特征估計(jì)總體數(shù)字特征,線性回歸分析,,,統(tǒng)計(jì)的基本思想,,,,實(shí)際,樣本,模 擬,抽 樣,分 析,兩個(gè)變量的關(guān)系,,不相關(guān),相關(guān)關(guān)系,,函數(shù)關(guān)系,線性相關(guān),非線性相關(guān),現(xiàn)實(shí)生活中兩個(gè)變量間的關(guān)系有哪些呢？,思考：相關(guān)關(guān)系與函數(shù)關(guān)系有怎樣的不同？,函數(shù)關(guān)系中的兩個(gè)變量間是一種確定性關(guān)系 相關(guān)關(guān)系是一種非確定性關(guān)系,函數(shù)關(guān)系是一種理想的關(guān)系模型 相關(guān)關(guān)系在現(xiàn)實(shí)生活中大量存在

2、，是更一般的情況,自變量取值一定時(shí)，因變量的取值帶有一定隨機(jī)性的兩個(gè)變量之間的關(guān)系叫做相關(guān)關(guān)系。,1、定義：,1）：相關(guān)關(guān)系是一種不確定性關(guān)系；,注,2、現(xiàn)實(shí)生活中存在著大量的相關(guān)關(guān)系。 如：人的身高與年齡； 產(chǎn)品的成本與生產(chǎn)數(shù)量； 商品的銷售額與廣告費(fèi)； 家庭的支出與收入。等等,探索：水稻產(chǎn)量y與施肥量x之間大致有何規(guī)律？,10 20 30 40 50,500 450 400 350 300,,,,,,,,發(fā)現(xiàn)：圖中各點(diǎn)，大致分布在某條直線附近。,,探索2：在這些點(diǎn)附近可畫直線不止一條， 哪條直線最能代表x與y之間的關(guān)系呢？,施化肥量,水稻產(chǎn)量,,散點(diǎn)圖,10

3、 20 30 40 50,500 450 400 350 300,,,,,,,,,施化肥量,水稻產(chǎn)量,,怎樣求回歸直線？,最小二乘法：,稱為樣本點(diǎn)的中心。,（3）對(duì)兩個(gè)變量進(jìn)行的線性分析叫做線性回歸分析。,2、回歸直線方程：,（2）相應(yīng)的直線叫做回歸直線。,（1）所求直線方程 叫做回歸直線方程； 其中,（注意回歸直線一定經(jīng)過樣本點(diǎn)的中心）,例1 假設(shè)關(guān)于某設(shè)備的使用年限x和所有支出的維修費(fèi)用y(萬元)有如下的統(tǒng)計(jì)數(shù)據(jù)：,若由此資料所知y對(duì)x呈線性相關(guān)關(guān)系，試求： 回歸直線方程 估計(jì)使用年限為10年時(shí)，維修費(fèi)用是多少？,解題步驟：,作散點(diǎn)圖,2.把數(shù)據(jù)列表，計(jì)算相應(yīng)的值，求出回

4、歸系數(shù),3.寫出回歸方程,并按要求進(jìn)行預(yù)測(cè)說明。,例2 （2007年廣東）下表提供了某廠節(jié)能降耗技術(shù)改造后生產(chǎn)甲產(chǎn)品過程中記錄的產(chǎn)量x（噸）與相應(yīng)的生產(chǎn)能耗y (噸標(biāo)準(zhǔn)煤)的幾組對(duì)應(yīng)數(shù)據(jù)。,請(qǐng)畫出上表數(shù)據(jù)的散點(diǎn)圖 請(qǐng)根據(jù)上表提供的數(shù)據(jù)，用最小二乘法求出y關(guān)于x的 性回歸方程,(3)已知該廠技改前100噸甲產(chǎn)品的生產(chǎn)能耗為90噸標(biāo)準(zhǔn) 煤，試根據(jù)（2）求出的線性回歸方程，預(yù)測(cè)生產(chǎn)100 噸甲產(chǎn)品的生產(chǎn)能耗比技改前降低多少噸標(biāo)準(zhǔn)煤？,（參考數(shù)值：,）,小結(jié)：求回歸直線方程的步驟,（2）所求直線方程 叫做回歸直線方程； 其中,（1）作散點(diǎn)圖，通過圖看出樣本點(diǎn)是否呈條狀分 布，進(jìn)而判斷兩

5、個(gè)量是否具有線性相關(guān)關(guān)系。,（3）根據(jù)回歸方程，并按要求進(jìn)行預(yù)測(cè)說明。,相關(guān)系數(shù),1.計(jì)算公式 2相關(guān)系數(shù)的性質(zhì) (1)|r|1 (2)|r|越接近于1，相關(guān)程度越大；|r|越接近于0，相關(guān)程度越小 問題：達(dá)到怎樣程度，x、y線性相關(guān)呢？它們的相關(guān)程度怎樣呢？,負(fù)相關(guān),正相關(guān),相關(guān)系數(shù),正相關(guān)；負(fù)相關(guān)通常， r-1,-0.75--負(fù)相關(guān)很強(qiáng); r0.75,1正相關(guān)很強(qiáng); r-0.75,-0.3--負(fù)相關(guān)一般; r0.3, 0.75正相關(guān)一般; r-0.25, 0.25--相關(guān)性較弱;,第一章 統(tǒng)計(jì)案例,1.1回歸分析的基本思想及其初步應(yīng)用,（第二課時(shí)）,a. 比數(shù)學(xué)3

6、中“回歸”增加的內(nèi)容,數(shù)學(xué)統(tǒng)計(jì) 畫散點(diǎn)圖 了解最小二乘法的思想 求回歸直線方程 ybxa 用回歸直線方程解決應(yīng)用問題,選修-統(tǒng)計(jì)案例 引入線性回歸模型 ybxae 了解模型中隨機(jī)誤差項(xiàng)e產(chǎn)生的原因 了解相關(guān)指數(shù) R2 和模型擬合的效果之間的關(guān)系 了解殘差圖的作用 利用線性回歸模型解決一類非線性回歸問題 正確理解分析方法與結(jié)果,什么是回歸分析：,“回歸”一詞是由英國(guó)生物學(xué)家F.Galton在研究人體身高的遺傳問題時(shí)首先提出的。,根據(jù)遺傳學(xué)的觀點(diǎn)，子輩的身高受父輩影響，以X記父輩身高，Y記子輩身高。 雖然子輩身高一般受父輩影響，但同樣身高的父親，其子身高并不一致，因此， X和Y之間存在一種相關(guān)關(guān)系

7、。,一般而言，父輩身高者，其子輩身高也高，依此推論，祖祖輩輩遺傳下來，身 高必然向兩極分化，而事實(shí)上并非如此，顯然有一種力量將身高拉向中心，即子輩 的身高有向中心回歸的特點(diǎn)?！盎貧w”一詞即源于此。,雖然這種向中心回歸的現(xiàn)象只是特定領(lǐng)域里的結(jié)論，并不具有普遍性，但從它 所描述的關(guān)于X為自變量，Y為不確定的因變量這種變量間的關(guān)系看，和我們現(xiàn)在的 回歸含義是相同的。,不過，現(xiàn)代回歸分析雖然沿用了“回歸”一詞，但內(nèi)容已有很大變化，它是一種應(yīng)用 于許多領(lǐng)域的廣泛的分析研究方法，在經(jīng)濟(jì)理論研究和實(shí)證研究中也發(fā)揮著重要作用。,回歸分析的內(nèi)容與步驟：,統(tǒng)計(jì)檢驗(yàn)通過后，最后是利用回歸模型，根據(jù)自變量去估計(jì)、預(yù)測(cè)

8、因變量。,回歸分析通過一個(gè)變量或一些變量的變化解釋另一變量的變化。,其主要內(nèi)容和步驟是， 首先根據(jù)理論和對(duì)問題的分析判斷，將變量分為自變量和因變量；,其次，設(shè)法找出合適的數(shù)學(xué)方程式（即回歸模型）描述變量間的關(guān)系；,由于涉及到的變量具有不確定性，接著還要對(duì)回歸模型進(jìn)行統(tǒng)計(jì)檢驗(yàn)；,,例1 從某大學(xué)中隨機(jī)選取8名女大學(xué)生，其身高和體重?cái)?shù)據(jù)如表1-1所示。,求根據(jù)一名女大學(xué)生的身高預(yù)報(bào)她的體重的回歸方程，并預(yù)報(bào)一名身高為 172cm的女大學(xué)生的體重。,案例1：女大學(xué)生的身高與體重,解：1、選取身高為自變量x，體重為因變量y，作散點(diǎn)圖：,2、由散點(diǎn)圖知道身高和體重有比較好的 線性相關(guān)關(guān)系，因此可以用線性

9、回歸方程 刻畫它們之間的關(guān)系。,3、從散點(diǎn)圖還看到，樣本點(diǎn)散布在某一條 直線的附近，而不是在一條直線上，所以 不能用一次函數(shù)y=bx+a描述它們關(guān)系。,我們可以用下面的線性回歸模型來表示： y=bx+a+e，其中a和b為模型的未知參數(shù)， e稱為隨機(jī)誤差。,思考P3 產(chǎn)生隨機(jī)誤差項(xiàng)e 的原因是什么？,思考P4 產(chǎn)生隨機(jī)誤差項(xiàng)e的原因是什么？,隨機(jī)誤差e的來源(可以推廣到一般）： 1、其它因素的影響：影響身高 y 的因素不只是體重 x，可能 還包括遺傳基因、飲食習(xí)慣、生長(zhǎng)環(huán)境等因素； 2、用線性回歸模型近似真實(shí)模型所引起的誤差； 3、身高 y 的觀測(cè)誤差。,函數(shù)模型與回歸模型之間的差別,函數(shù)模型

10、：,回歸模型：,可以提供 選擇模型的準(zhǔn)則,,函數(shù)模型與回歸模型之間的差別,函數(shù)模型：,回歸模型：,線性回歸模型y=bx+a+e增加了隨機(jī)誤差項(xiàng)e，因變量y的值由自變量x和隨機(jī)誤差項(xiàng)e共同確定，即自變量x只能解析部分y的變化。,在統(tǒng)計(jì)中，我們也把自變量x稱為解析變量，因變量y稱為預(yù)報(bào)變量。,,例1 從某大學(xué)中隨機(jī)選取8名女大學(xué)生，其身高和體重?cái)?shù)據(jù)如表1-1所示。,求根據(jù)一名女大學(xué)生的身高預(yù)報(bào)她的體重的回歸方程，并預(yù)報(bào)一名身高為 172cm的女大學(xué)生的體重。,案例1：女大學(xué)生的身高與體重,解：1、選取身高為自變量x，體重為因變量y，作散點(diǎn)圖：,2、由散點(diǎn)圖知道身高和體重有比較好的 線性相關(guān)關(guān)系，因

11、此可以用線性回歸方程 刻畫它們之間的關(guān)系。,3、從散點(diǎn)圖還看到，樣本點(diǎn)散布在某一條 直線的附近，而不是在一條直線上，所以 不能用一次函數(shù)y=bx+a描述它們關(guān)系。,我們可以用下面的線性回歸模型來表示： y=bx+a+e，其中a和b為模型的未知參數(shù)， e稱為隨機(jī)誤差。,根據(jù)最小二乘法估計(jì) 和 就是未知參數(shù)a和b的最好估計(jì)，,根據(jù)最小二乘法估計(jì) 和 就是未知參數(shù)a和b的最好估計(jì)，,于是有b=,所以回歸方程是,所以，對(duì)于身高為172cm的女大學(xué)生，由回歸方程可以預(yù)報(bào)其體重為,,探究P4： 身高為172cm的女大學(xué)生的體重一定是60.316kg嗎？如果不是，你能解析一下原因嗎？,探究P4： 身高為17

12、2cm的女大學(xué)生的體重一定是60.316kg嗎？ 如果不是，你能解析一下原因嗎？,答：身高為172cm的女大學(xué)生的體重不一定是60.316kg， 但一般可以認(rèn)為她的體重在60.316kg左右。,對(duì)回歸模型進(jìn)行統(tǒng)計(jì)檢驗(yàn),表1-4列出了女大學(xué)生身高和體重的原始數(shù)據(jù)以及相應(yīng)的殘差數(shù)據(jù)。,在研究?jī)蓚€(gè)變量間的關(guān)系時(shí)，首先要根據(jù)散點(diǎn)圖來粗略判斷它們是否線性相關(guān)， 是否可以用回歸模型來擬合數(shù)據(jù)。,殘差分析與殘差圖的定義：,然后，我們可以通過殘差 來判斷模型擬合的效果，判斷原始 數(shù)據(jù)中是否存在可疑數(shù)據(jù)，這方面的分析工作稱為殘差分析。,我們可以利用圖形來分析殘差特性，作圖時(shí)縱坐標(biāo)為殘差，橫坐標(biāo)可

13、以選為樣本 編號(hào)，或身高數(shù)據(jù)，或體重估計(jì)值等，這樣作出的圖形稱為殘差圖。,殘差圖的制作及作用。 坐標(biāo)縱軸為殘差變量，橫軸可以有不同的選擇； 若模型選擇的正確，殘差圖中的點(diǎn)應(yīng)該分布在以橫軸為心的帶形區(qū)域； 對(duì)于遠(yuǎn)離橫軸的點(diǎn)，要特別注意。,身高與體重殘差圖,,,幾點(diǎn)說明： 第一個(gè)樣本點(diǎn)和第6個(gè)樣本點(diǎn)的殘差比較大，需要確認(rèn)在采集過程中是否有人為的錯(cuò)誤。如果數(shù)據(jù)采集有錯(cuò)誤，就予以糾正，然后再重新利用線性回歸模型擬合數(shù)據(jù)；如果數(shù)據(jù)采集沒有錯(cuò)誤，則需要尋找其他的原因。 另外，殘差點(diǎn)比較均勻地落在水平的帶狀區(qū)域中，說明選用的模型計(jì)較合適，這樣的帶狀區(qū)域的寬度越窄，說明模型擬合精度越高，回歸方程的預(yù)報(bào)精度

14、越高。,樣本決定系數(shù) （判定系數(shù) R2 ）,1.回歸平方和占總偏差平方和的比例,反映回歸直線的擬合程度 取值范圍在 0 , 1 之間 R2 1，說明回歸方程擬合的越好；R20，說明回歸方程擬合的越差 判定系數(shù)等于相關(guān)系數(shù)的平方，即R2(r)2,顯然，R2的值越大，說明殘差平方和越小，也就是說模型擬合效果越好。,在線性回歸模型中，R2表示解析變量對(duì)預(yù)報(bào)變量變化的貢獻(xiàn)率。,R2越接近1，表示回歸的效果越好（因?yàn)镽2越接近1，表示解析變量和預(yù)報(bào)變量的 線性相關(guān)性越強(qiáng)）。,如果某組數(shù)據(jù)可能采取幾種不同回歸方程進(jìn)行回歸分析，則可以通過比較R2的值 來做出選擇，即選取R2較大的模型作為這組數(shù)據(jù)的模型。,總

15、的來說： 相關(guān)指數(shù)R2是度量模型擬合效果的一種指標(biāo)。 在線性模型中，它代表自變量刻畫預(yù)報(bào)變量的能力。,從表3-1中可以看出，解析變量對(duì)總效應(yīng)約貢獻(xiàn)了64%，即R2 0.64，可以敘述為 “身高解析了64%的體重變化”，而隨機(jī)誤差貢獻(xiàn)了剩余的36%。 所以，身高對(duì)體重的效應(yīng)比隨機(jī)誤差的效應(yīng)大得多。,這些問題也使用于其他問題。,涉及到統(tǒng)計(jì)的一些思想： 模型適用的總體； 模型的時(shí)間性； 樣本的取值范圍對(duì)模型的影響； 模型預(yù)報(bào)結(jié)果的正確理解。,小結(jié)：,一般地，建立回歸模型的基本步驟為：,（1）確定研究對(duì)象，明確哪個(gè)變量是解析變量，哪個(gè)變量是預(yù)報(bào)變量。,（2）畫出確定好的解析變量和預(yù)報(bào)變量的散點(diǎn)圖，觀

16、察它們之間的關(guān)系 （如是否存在線性關(guān)系等）。,（3）由經(jīng)驗(yàn)確定回歸方程的類型（如我們觀察到數(shù)據(jù)呈線性關(guān)系，則選用線性 回歸方程y=bx+a）.,（4）按一定規(guī)則估計(jì)回歸方程中的參數(shù)（如最小二乘法）。,（5）得出結(jié)果后分析殘差圖是否有異常（個(gè)別數(shù)據(jù)對(duì)應(yīng)殘差過大，或殘差呈現(xiàn) 不隨機(jī)的規(guī)律性，等等），過存在異常，則檢查數(shù)據(jù)是否有誤，或模型是 否合適等。,建構(gòu)數(shù)學(xué)模型,我們將y=bx+a+e 稱為線性回歸模型其中a, b為模型的未知參數(shù)，解釋變量x，預(yù)報(bào)變量y，e稱為隨機(jī)誤差。 思考1：e產(chǎn)生的主要原因是什么？ (1)所用確定函數(shù)模型不恰當(dāng)； (2)忽略了某些因素的影響； (3)觀測(cè)誤差

17、。,,思考2：如何檢查擬合效果的好壞？,（1）散點(diǎn)圖,（2）相關(guān)系數(shù),（3）殘差分析,（4）回歸效果的相關(guān)系數(shù),被害棉花,紅鈴 蟲喜高溫高濕，適宜各蟲態(tài)發(fā)育的溫度為 25一32C，相對(duì)濕度為80一100，低于 20C和高于35C卵不能孵化，相對(duì)濕度60 以下成蟲不產(chǎn)卵。冬季月平均氣溫低于一48 時(shí)，紅鈴蟲就不能越冬而被凍死。,問題情景,1953年，18省發(fā)生紅鈴蟲大災(zāi)害，受災(zāi)面積300萬公頃，損失皮棉約二十萬噸。,,例2、現(xiàn)收集了一只紅鈴蟲的產(chǎn)卵數(shù)y和溫度x之間的7組觀測(cè)數(shù)據(jù)列于下表：,（1）試建立產(chǎn)卵數(shù)y與溫度x之間的回歸方程；并預(yù)測(cè)溫度為28oC時(shí)產(chǎn)卵數(shù)目。 （2）你所建立的模型中溫度在多

18、大程度上解釋了產(chǎn)卵數(shù)的變化？,問題呈現(xiàn)：,假設(shè)線性回歸方程為 ：=bx+a,由計(jì)算器得：線性回歸方程為y=19.87x-463.73 相關(guān)指數(shù)R2=r20.8642=0.7464,所以，一次函數(shù)模型中溫度解釋了74.64%的產(chǎn)卵數(shù)變化。,問題探究,,,,,,,,,,方案1,當(dāng)x=28時(shí)，y =19.8728-463.73 93,,教法,9366！? 模型不好？,奇怪？,方案2,問題3,合作探究,方案2解答,平方變換：令t=x2，產(chǎn)卵數(shù)y和溫度x之間二次函數(shù)模型y=bx2+a就轉(zhuǎn)化為產(chǎn)卵數(shù)y和溫度的平方t之間線性回歸模型y=bt+a,作散點(diǎn)圖，并由計(jì)算器得：y和t之間的線性回歸方程為y=0.36

19、7t-202.54，相關(guān)指數(shù)R2=r20.8962=0.802,將t=x2代入線性回歸方程得： y=0.367x2 -202.54 當(dāng)x=28時(shí)，y=0.367282-202.5485，且R2=0.802， 所以，二次函數(shù)模型中溫度解 釋了80.2%的產(chǎn)卵數(shù)變化。,,教法,0.367,-202.54,R2=r20.8962=0.802,y=0.367x2 -202.54,產(chǎn)卵數(shù),氣溫,,指數(shù)函數(shù)模型,方案3,合作探究,教法,對(duì)數(shù),方案3解答,由計(jì)算器得：z關(guān)于x的線性回歸方程 為z=0.118x-1.665 ， 相關(guān)指數(shù)R2=r20.99252=0.985,當(dāng)x=28oC 時(shí)，y 44 ，指數(shù)回歸模型中溫度解釋了98.5%的產(chǎn)卵數(shù)的變化,最好的模型是哪個(gè)?,,線性模型,二次函數(shù)模型,指數(shù)函數(shù)模型,教法,,最好的模型是哪個(gè)?,教法,比一比,選修1-2：P13-3,練習(xí),小結(jié):,（1）如何發(fā)現(xiàn)兩個(gè)變量的關(guān)系？ （2）如何選用、建立適當(dāng)?shù)姆蔷€性回歸模型 ？ （3）如何比較不同模型的擬合效果？,,,歸納小結(jié),