《概率論與數(shù)理統(tǒng)計》第八章.ppt》由會員分享,可在線閱讀,更多相關(guān)《概率論與數(shù)理統(tǒng)計》第八章.ppt(57頁珍藏版)》請在裝配圖網(wǎng)上搜索。
1、第八章 參數(shù)估計,8.1 估計量的優(yōu)劣標(biāo)準(zhǔn) 8.2 獲得估計量的方法點(diǎn)估計 8.3 區(qū)間估計,研究參數(shù)估計,要解決兩個方面的問題: 1.怎樣估計參數(shù),即用什么樣的辦法對參數(shù)進(jìn)行估計; 2.對估計出的參數(shù)值用什么標(biāo)準(zhǔn)衡量其優(yōu)劣程度。,參數(shù)估計的概念,定義 設(shè)總體X的分布函數(shù)F(x; )的形式為已知, 。其中為未知參數(shù), 為參數(shù)空間, X1, , Xn是總體X的一個樣本,若統(tǒng)計量 f(X1, , Xn)可作為的一個估計,則稱其為的 一個估計量,記為,注:X的分布函數(shù)F(x;)也可用分布律或密度函數(shù)代替.,若x1, , xn是樣本的一個觀測值。,在不致混淆的情況下統(tǒng)稱估計量與估計值為估計,8.1 估
2、計量的優(yōu)劣標(biāo)準(zhǔn),(一) 一致估計,定義8.1,一致性是對于極限性質(zhì)而言的,它只在樣本容量較大時才起作用。,(二)無偏估計,例1 從總體中 取一樣本( X1, ,Xn ),E = , D = 2 , 試證樣本平均數(shù),分別是及2的無偏估計。,證,樣本均值X是的無偏估計。,怎樣證明?,S2是2的無偏估計,如果從總體中隨機(jī)取出兩個相互獨(dú)立的樣本( X11 , ,X1n1 )及(X21 , ,X2n2),則可以證明,分別是總體中和2的無偏估計量。其中,,對總體的某一參數(shù)的無偏估計量往往不止一個,而且無偏性僅僅表明所有可能取的值按概率平均等于,可能它取的值大部分與相差很大。為保證的取值能集中與附近,自然要
3、求的方差越小越好。,(三)有效估計,由定義可知,一個無偏估計量取的值是在可能范圍內(nèi)最密集與未知參數(shù)的真值 附近擺動。,定義8.3 設(shè)和都是的無偏估計,若樣本容量為 n, 的方差小于的方差,則稱是比有效的估計量。如果在的一切無偏估計量中, 的方差達(dá)到最小,則稱為的有效估計量。,實際上,樣本平均數(shù)X是總體期望值的有效估計量。,例2 比較總體期望值的兩個無偏估計的有效性。,解:,利用不等式,8.2 獲得估計量的方法點(diǎn)估計,點(diǎn)估計就是以樣本的某一函數(shù)值作為 總體中未知參數(shù)的估計值的一種估計方法,若x1, , xn是樣本的一個觀測值。,由于f (x1, , xn) 是實數(shù)域上的一個點(diǎn),現(xiàn)用它來估計, 故
4、稱這種估計為點(diǎn)估計。 點(diǎn)估計的經(jīng)典方法是矩估計法與極大似然估計法。,(一)矩估計法(簡稱“矩法”),關(guān)鍵點(diǎn):1.用樣本矩作為總體同階矩的估計,即,2.約定:若 是未知參數(shù)的矩估計,則f()的矩估計為f( ),矩法是求估計量的最古老的方法。 具體的做法是:以樣本矩作為相應(yīng)的總體矩的估計, 以樣本矩的函數(shù)作為相應(yīng)的總體矩的同一函數(shù)的估計。 常用的是用樣本平均數(shù) 估計總體期望值 。,例1 某燈泡廠某天生產(chǎn)了一大批燈泡,從中抽取了10個進(jìn)行壽命實驗,得數(shù)據(jù)如下(單位:小時)問該天生產(chǎn)的燈泡平均壽命是多少?,矩法比較直觀,求估計量有時也比較直接,但它產(chǎn)生的估計量往往不夠理想。,解 計算出X1147,以此
5、作為總體期望值的估計。,(二)最大似然估計法,1、最大似然思想 有兩個射手,一人的命中率為0.9,另一人的命中率為0.2,現(xiàn)在他們中的一個向目標(biāo)射擊了一發(fā),結(jié)果命中了,估計是誰射擊的?,一般說,事件A發(fā)生的概率與參數(shù)有關(guān),取值不同,則P(A)也不同。因而應(yīng)記事件A發(fā)生的概率為P(A|).若A發(fā)生了,則認(rèn)為此時的值應(yīng)是在中使P(A|) 達(dá)到最大的那一個。這就是最大似然思想,最大似然法是要選取這樣的,當(dāng)它作為 的估計值時,使觀察結(jié)果出現(xiàn)的可能性最大。,設(shè)為連續(xù)性隨機(jī)變量,它的分布函數(shù)是F(x;),概率密度是 其中是未知參數(shù),可以是一個值,也可以是一個向量。由于樣本的獨(dú)立性,則樣本,對于連續(xù)型的隨機(jī)
6、變量就是估計概率密度中的。,對于離散型的隨機(jī)變量就是估計概率函數(shù)中的參數(shù);,的聯(lián)合概率密度是,對每一個取定的樣本值 是常數(shù),L是參數(shù) 的函數(shù),稱L為樣本的似然函數(shù)(如果 是一個向量,則L 是多元函數(shù))。,設(shè)為離散型隨機(jī)變量,有概率函數(shù) 則似然函數(shù),定義8.4 如果 在 處達(dá)到最大值,則稱是 的最大似然估計。,式子右邊的表示函數(shù)關(guān)系。問題是如何把的最大似然估計求出來,由于 L與L同時達(dá)到最大值,故只需求 L的最大值點(diǎn)即可。,與樣本有關(guān),它是樣本的函數(shù),即,如果是一個向量,即,一般情況下, L在最大值點(diǎn) 的一階偏導(dǎo)數(shù)等于0,即 是上面方程組的解。要求最大似然估計,首先要解這個似然方程組。,考慮方程
7、組:,1.設(shè)總體X為離散型隨機(jī)變量,它的分布律為,現(xiàn)有樣本觀察值x1,x2,xn,其中xi取值于xi, i=1,2 問:根據(jù)極大似然思想,如何用x1,x2,xn估計q?,例5.設(shè)X1, , Xn為取自參數(shù)為的泊松分布總體的樣本,求的極大似然估計,2.設(shè)總體X為連續(xù)型隨機(jī)變量,概率密度(x; ) 現(xiàn)有樣本觀察值x1,x2,,xn, 問:根據(jù)極大似然思想,如何用x1,x2,xn估計q?,2、似然函數(shù)與極大似然估計,為該總體的似然函數(shù)。,定義:若有,使得,則稱 為的極大似然估計.記為,3、求極大似然估計的步驟,(1) 做似然函數(shù),(2) 做對數(shù)似然函數(shù),(3) 求導(dǎo)數(shù),列似然方程,若該方程有解,則其
8、解就是的最大似然估計。,(4) 解似然方程,注1:若概率函數(shù)中含有多個未知參數(shù),則可解方程組,例6:設(shè)X1, , Xn為取自 N(,2 ) 總體的樣本,求參數(shù) ,2 的極大似然估計。,注2:極大似然估計具有下述性質(zhì): 若 是未知參數(shù)的極大似然估計, g()是的嚴(yán)格單調(diào)函數(shù),則g()的矩極大似然估計為g( ),例7:設(shè)X1, , Xn為取自參數(shù)為的指數(shù)分布 總體的樣本,a0為一給定實數(shù)。 求p=PXa的極大似然估計,注3:由似然方程解不出的似然估計時,可由定義通過分析直接推求。事實上 滿足,例8:設(shè)X1, , Xn為取自 U(0,) 總體的樣本, 0未知,求參數(shù) 的極大似然估計。,例2 已知,為
9、 的一組樣本觀察值,求的最大似然估計。,解 似然函數(shù),解似然方程,x 就是 的最大似然估計。,例3 某電子管的使用壽命(從開始使用到初次失效為止)服從指數(shù)分布(概率密度見例2),今抽取一組樣本,其具體數(shù)據(jù)如下;問如何估計 ?,解 根據(jù)例2的結(jié)果,參數(shù)用樣本平均數(shù)估計,為的估計值。,為的一組樣本觀察值,用最大似然估計法估計 的值。,解,例4 已知服從正態(tài)分布,解似然方程組,解似然方程組,EX,P164 2、3、4 7、8、11、15、16、19,8.3 區(qū)間估計 P157 一、概念,定義: 設(shè)總體X的分布函數(shù)F(x;)含有未知參數(shù),對于給定值(0 1),若由樣本X1, , Xn確定的兩個統(tǒng)計量
10、使,則稱隨機(jī)區(qū)間 為的置信度為1的置信區(qū)間,注:F(x;)也可換成概率密度或分布律。,估計未知參數(shù)所在的范圍 的方法稱為區(qū)間估計,單正態(tài)總體參數(shù)的區(qū)間估計,1、2已知,估計,/2,/2,1-,可取,(1-),1-,的置信度為1的置信區(qū)間為,注:的1置信區(qū)間不唯一。,都是的1置信區(qū)間.但可以證明=1/2時區(qū)間長最短.,(1)根據(jù)實際問題構(gòu)造樣本的函數(shù),要求僅含待估參數(shù)且分布已知; (2)令該函數(shù)落在由分位點(diǎn)確定的區(qū)間里的概率為給定的置信度1,要求區(qū)間按幾何對稱或概率對稱; (3)解不等式得隨機(jī)的置信區(qū)間; (4)由觀測值及值查表計算得所求置信區(qū)間。,求正態(tài)總體參數(shù)置信區(qū)間的解題步驟:,例2 若燈
11、泡壽命服從正態(tài)分布N( ,8),從中抽取了10個進(jìn)行壽命實驗,得數(shù)據(jù)如下(單位:小時)試估計平均壽命所在范圍(a=0.05).,解:已知總體方差2,估計總體期望,對于給定的,查表確定,解:已知總體方差2,估計總體期望,對于給定的0.05,查表確定,根據(jù)樣本值計算,的置信度為1- 0.95的置信區(qū)間是 (1145.25,1148.75),例3 已知某煉鐵廠的鐵水中含碳量在正常情況下服從 正態(tài)分布,其方差2 = 0.1082 .現(xiàn)在測定了9爐鐵水,其 平均含碳量為4.484.按此資料計算該廠鐵水平均含碳量 的置信區(qū)間,并要求有95% 的可靠性。,解:已知總體方差2,估計總體期望,對于給定的置信系數(shù)
12、1-0.95,查表確定,根據(jù)樣本值計算,的置信系數(shù)為1- 0.95的置信區(qū)間是(4.413,4.555),2、總體方差2未知,估計期望,m的1-a置信區(qū)間為,1-,即得,/2,/2,例4 假定初生嬰兒(男孩)的體重服從正態(tài)分布,隨機(jī)抽取12名嬰兒,測其體重為3100,2520,3000,3600,3160,3560,3320,2880,2600,3400,2540。試以0.95的置信系數(shù)估計新生嬰兒的平均體重(單位:g),解: 方差 2未知,估計 的置信區(qū)間,對于給定的,查表確定,的置信度為0.95置信區(qū)間是,根據(jù)樣本值計算:,對于給定的置信系數(shù)1-0.95,查表確定,3、單正態(tài)總體方差的置信區(qū)間,假定m未知,估計2,s2的置信度為1的置信區(qū)間為,例5 根據(jù)例4測的數(shù)據(jù)對新生男嬰兒體重的方差進(jìn)行區(qū)間估計(=0.05).,解: 未知,估計方差 2的置信區(qū)間,對于給定的0.05,查表確定,則s2的置信度為1的置信區(qū)間為(70752,405620),4、雙正態(tài)總體均值差的置信區(qū)間,可解得1- 2 的置信區(qū)間,5、雙正態(tài)總體方差比的置信區(qū)間,假定1,2未知,一、點(diǎn)估計:,1.矩法估計 2.最大似然估計,二、區(qū)間估計,1.已知總體方差2 ,估計期望,2.未知總體方差2 ,估計期望,3.未知總體期望,估計方差2,4、雙正態(tài)總體均值差的置信區(qū)間,5、雙正態(tài)總體方差比的置信區(qū)間,總結(jié):,小結(jié),