1625915142-52fa2794958ee6e606a6276d57de83ae (843872), страница 14
Текст из файла (страница 14)
., ìîìåíòû ïîðÿäêà k äëÿ ðàñïðåäåëåíèÿ F âûáîðêè (ðàçóìååòñÿ, åñëè îíè ñóùåñòâóþò). Åñëè F íåèçâåñòíî, òî, çíà÷èò,è åãî ìîìåíòû íàì íåäîñòóïíû. Îäíàêî, êàê ìû âèäåëè, ðàñïðåäåëåíèå F ìîæíîïðèáëèçèòü ýìïèðè÷åñêèì ðàñïðåäåëåíèåì Fn∗ .Âîçíèêàåò âîïðîñ: íåëüçÿ ëè íåèçâåñòíûå íàì ìîìåíòû a1 , a2 , . . . òåîðåòè÷åñêîãî ðàñïðåäåëåíèÿ õîðîøî ïðèáëèçèòü ìîìåíòàìè, âû÷èñëåííûìè ïî ýìïèðè÷åñêîéôóíêöèè ðàñïðåäåëåíèÿ Fn∗ ? Îêàçûâàåòñÿ, ìîæíî.Ïðè ôèêñèðîâàííîé âûáîðêå ýìïèðè÷åñêîå ðàñïðåäåëåíèå òàáëè÷íûì ñïîñîáîìçàäàåòñÿ òàê:X 1 X2 X3 . .
.Çíà÷åíèÿÂåðîÿòíîñòè 1/n 1/n 1/n . . .Ñëåäîâàòåëüíî, äëÿ ýìïèðè÷åñêîãî ðàñïðåäåëåíèÿ ìîìåíò ïîðÿäêà k äîëæåí íàõîäèòüñÿ ïî ôîðìóëån1X k∗X .ak =n i=1 iÌû áóäåì íàçûâàòü åãî âûáîðî÷íûì ìîìåíòîì â îòëè÷èå îò òåîðåòè÷åñêîãî. Ðàçóìååòñÿ, âûáîðî÷íûå ìîìåíòû ÿâëÿþòñÿ ñëó÷àéíûìè âåëè÷èíàìè (òàê êàê ñòðîÿòñÿèç íàáëþäåíèé) è ñóùåñòâóþò äëÿ ëþáîãî k . Âûáîðî÷íûé ìîìåíò ïåðâîãî ïîðÿäêàîáîçíà÷àåòñÿ ÷àùå âñåãîX1 + .
. . + X nX=nè íàçûâàåòñÿ âûáîðî÷íûì ñðåäíèì. Öåíòðàëüíûé âûáîðî÷íûé ìîìåíò âòîðîãî ïîðÿäêà íàçûâàåòñÿ âûáîðî÷íîé äèñïåðñèåé è îáîçíà÷àåòñÿnn1X 21XS =(Xi − X)2 =Xi − (X)2 = a∗2 − (a∗1 )2 .n i=1n i=1263Ýòè îáîçíà÷åíèÿ áóäóò ÷àñòî èñïîëüçîâàòüñÿ â äàëüíåéøåì.6.6.1.Îöåíèâàíèå íåèçâåñòíûõ ïàðàìåòðîâÏîñòàíîâêà çàäà÷è. Íåñìåùåííîñòü è ñîñòîÿòåëüíîñòüÏóñòü èìååòñÿ âûáîðêà X (ñ ýòîãî íà÷èíàåòñÿ ëþáàÿ ñòàòèñòè÷åñêàÿ çàäà÷à). ýòîì ðàçäåëå ìû áóäåì ïðåäïîëàãàòü, ÷òî X ⊂= Fθ , ò. å. ðàñïðåäåëåíèå âûáîðêèçàâèñèò îò íåêîòîðîãî ïàðàìåòðà θ, êîòîðûé íàì íåèçâåñòåí è êîòîðûé ìû õîòèìîöåíèòü ïî âûáîðêå.
Ïàðàìåòð ìîæåò áûòü êàê îäíîìåðíûì, òàê è ìíîãîìåðíûì.Îïðåäåëåíèå. Îöåíêîé íåèçâåñòíîãî ïàðàìåòðà θ íàçûâàåòñÿ ëþáàÿ ôóíêöèÿ îòâûáîðêè θ∗ = g(X1 , . . . , Xn ), â òîì èëè èíîì ñìûñëå ïðèáëèæàþùàÿ θ.Åñëè θ ∈ Rk , òî è g : Rn → Rk .Ñðåäè ðàñïðåäåëåíèé, ðàññìàòðèâàâøèõñÿ íàìè ðàíåå â êà÷åñòâå ïðèìåðîâ, ïî÷òèâñå îáëàäàëè îäíèì èëè äâóìÿ ïàðàìåòðàìè.Ðàçóìååòñÿ, â îäíîé è òîé æå ñèòóàöèè ìîæíî ïîñòðîèòü áåñêîíå÷íî ìíîãî ðàçëè÷íûõ îöåíîê. Íàì æå õî÷åòñÿ èìåòü õîðîøóþ îöåíêó.
×òî ýòî çíà÷èò?Ðàññìîòðèì íåñêîëüêî æåëàòåëüíûõ ñâîéñòâ îöåíîê.Îïðåäåëåíèå. Îöåíêà θ∗ ïàðàìåòðà θ íàçûâàåòñÿ íåñìåùåííîé, åñëè Eθ∗ = θ.Ýòî çíà÷èò, ÷òî â ñðåäíåì çíà÷åíèå îöåíêè ñîâïàäàåò ñî çíà÷åíèåì ïàðàìåòðà,êîòîðûé îíà è ïðèçâàíà îöåíèâàòü.Ìîæåò âîçíèêíóòü âîïðîñ: êàê æå ìû áóäåì âû÷èñëÿòü Eθ∗ = Eg(X1 , . . . , Xn ),åñëè ðàñïðåäåëåíèå íàáëþäåíèé çàâèñèò îò íåèçâåñòíîãî íàì ïàðàìåòðà?Ìû çäåñü ðàññóæäàåì òàê: ïðåäïîëîæèì, ÷òî èñòèííîå çíà÷åíèå ïàðàìåòðà ðàâíî θ, ïîñëå ÷åãî íà÷èíàåì âû÷èñëÿòü Eθ∗ (÷òîáû ïîä÷åðêíóòü ýòî ïðåäïîëîæåíèå,ñèìâîëû ìàòîæèäàíèÿ, äèñïåðñèè è âåðîÿòíîñòè ÷àñòî ñíàáæàþò èíäåêñîì θ: Eθ θ∗ ).Åñëè â èòîãå ýòèõ âû÷èñëåíèé ìû âíîâü ïîëó÷èì θ, ýòî è áóäåò îçíà÷àòü íåñìåùåííîñòü îöåíêè.Îïðåäåëåíèå.
Îöåíêà θ∗ ïàðàìåòðà θ íàçûâàåòñÿ àñèìïòîòè÷åñêè íåñìåùåííîé,åñëè Eθ∗ → θ ïðè n → ∞.Âåëè÷èíà Eθ∗ − θ íàçûâàåòñÿ ñìåùåíèåì îöåíêè.Àñèìïòîòè÷åñêîé íåñìåùåííîñòüþ äîâîëüñòâóþòñÿ, êàê ïðàâèëî, â òåõ ñëó÷àÿõ,êîãäà îáû÷íîé íåñìåùåííîñòè äîñòè÷ü íå óäàåòñÿ èëè æå åñëè ñìåùåíèå íàñòîëüêîìàëî ïðè áîëüøèõ n, ÷òî èì ìîæíî ïðåíåáðå÷ü.Ìîìåíòû ðàñïðåäåëåíèÿ òîæå ìîãóò ðàññìàòðèâàòüñÿ êàê íåèçâåñòíûå ïàðàìåòðû. Äëÿ èõ îöåíèâàíèÿ ìû ïðåäïîëàãàëè ïîëüçîâàòüñÿ âûáîðî÷íûìè ìîìåíòàìè.Íåòðóäíî âèäåòü, ÷òî âûáîðî÷íûå ìîìåíòû ÿâëÿþòñÿ íåñìåùåííûìè îöåíêàìè äëÿìîìåíòîâ òåîðåòè÷åñêèõ:Ea∗k =nak1(EX1k + .
. . + EXnk ) == ak .nn òîì ÷èñëå EX = a1 , çàïîìíèì ýòî. Çàîäíî âû÷èñëèì äèñïåðñèþ äëÿ X :DX =1nσ 2σ2(DX+...+DX)==,1nn2n2nãäå σ 2 = DX1 = a2 − a21 .Îêàçûâàåòñÿ, âûáîðî÷íàÿ äèñïåðñèÿ S 2 íå áóäåò ÿâëÿòüñÿ íåñìåùåííîé îöåíêîéäëÿ σ 2 . Äåéñòâèòåëüíî, 2σσ22∗222ES = Ea2 − E(X) = a2 − (DX + (EX) ) = a2 −+ a1 = σ 2 − .nn64Îöåíêà îêàçàëàñü àñèìïòîòè÷åñêè íåñìåùåííîé. Åñëè n âåëèêî, òî ñìåùåíèåì−σ /n ìîæíî ïðåíåáðå÷ü. Ìîæíî ïîñòóïèòü ïî-äðóãîìó: âìåñòî S 2 èñïîëüçîâàòüîöåíêón1 XnS02 =(Xi − X)2 =S 2.n − 1 i=1n−12 ýòîì ñëó÷àåES02 =nES 2 = σ 2 ,n−1ò. å. îöåíêà S02 ÿâëÿåòñÿ íåñìåùåííîé.Îïðåäåëåíèå. Îöåíêà θ∗ îäíîìåðíîãî ïàðàìåòðà θ íàçûâàåòñÿ ñîñòîÿòåëüíîé,Påñëè θ∗ → θ ïðè n → ∞.Ñîñòîÿòåëüíîñòü îçíà÷àåò, ÷òî ïðè óâåëè÷åíèè îáúåìà âûáîðêè (ò.
å. ïðè íàêàïëèâàíèè âñå áîëüøåãî îáúåìà èíôîðìàöèè) çíà÷åíèå îöåíêè äîëæíî ñáëèæàòüñÿ ñîöåíèâàåìûì çíà÷åíèåì ïàðàìåòðà. Òàê è äîëæíî áûòü ïî ëîãèêå âåùåé. Åñëè ýòîãîíå ïðîèñõîäèò, òî îöåíêà ïëîõà, íåðàçóìíà. Íå ðåêîìåíäóåòñÿ ïîëüçîâàòüñÿ íåñîñòîÿòåëüíûìè îöåíêàìè! ñèëó çàêîíà áîëüøèõ ÷èñåë, âûáîðî÷íûå ìîìåíòû ÿâëÿþòñÿ ñîñòîÿòåëüíûìèîöåíêàìè ìîìåíòîâ íàñòîÿùèõ:na∗k1X k PXi → EX1k = ak .=n i=1Èç èçó÷åííûõ ðàíåå ñâîéñòâ ñõîäèìîñòè ïî âåðîÿòíîñòè âûòåêàåò, ÷òî S 2 è S02 îáå ÿâëÿþòñÿ ñîñòîÿòåëüíûìè îöåíêàìè äëÿ äèñïåðñèè.  ñàìîì äåëå, ïîëîæèì g(a1 , a2 ) =a2 − a21 ; ýòà ôóíêöèÿ íåïðåðûâíà âñþäó íà ïëîñêîñòè, ïîýòîìóPS 2 = a∗2 − (a∗1 )2 = g(a∗1 , a∗2 ) → g(a1 , a2 ) = σ 2 ,1nPS2 = S2 +S 2 → σ2.n−1n−1Äàëåå ìû èçó÷èì äâà ìåòîäà ïîñòðîåíèÿ âåñüìà òî÷íûõ îöåíîê äëÿ íåèçâåñòíûõïàðàìåòðîâ ðàñïðåäåëåíèÿ âûáîðêè.S02 =6.2.Ìåòîä ìîìåíòîâÏóñòü X ⊂= Fθ è θ = (θ1 , . .
. , θk ) íåèçâåñòíûé âåêòîðíûé ïàðàìåòð ðàñïðåäåëåíèÿ. Ïðèìåíåíèå ìåòîäà ìîìåíòîâ ñâîäèòñÿ ê äâóì ýòàïàì.Ïåðâûé ýòàï. Âûðàæàåì θ1 , . . . , θk ÷åðåç ìîìåíòû a1 , a2 , . . . ðàñïðåäåëåíèÿ. Âèòîãå ïîëó÷àåì, íàïðèìåð, òàêèå ñîîòíîøåíèÿ:θ1θ2θk= g1 (a1 , a2 , . . . , ak ),= g2 (a1 , a2 , . . . , ak ),...= gk (a1 , a2 , . . . , ak ).×àùå âñåãî èìåííî ÷åðåç ïåðâûå k ìîìåíòîâ ìîæíî âûðàçèòü âñå íåèçâåñòíûåïàðàìåòðû. Åñëè ýòî íå óäàåòñÿ ñäåëàòü, òî áåðóòñÿ ëþáûå äðóãèå ìîìåíòû, ëèøüáû ÷åðåç íèõ âûðàæàëèñü âñå θ1 , . .
. , θk .Ïîñêîëüêó ðàñïðåäåëåíèå âûáîðêè çàâèñèò îò íåèçâåñòíûõ ïàðàìåòðîâ, òî è ìîìåíòû a1 , a2 , . . . íåèçáåæíî áóäóò îò íèõ çàâèñåòü. Äðóãèìè ñëîâàìè, ïîêà ÷òî ìû65âûðàçèëè îäíè íåèçâåñòíûå âåëè÷èíû ÷åðåç äðóãèå. Îäíàêî äëÿ ìîìåíòîâ íàì óæåèçâåñòíû õîðîøèå îöåíêè âûáîðî÷íûå ìîìåíòû. Ïîýòîìó ïåðåõîäèì êî âòîðîìóýòàïó.Âòîðîé ýòàï. Çàìåíÿåì â ïîëó÷åííûõ ñîîòíîøåíèÿõ ìîìåíòû a1 , a2 , . . .
, ak íàâûáîðî÷íûå ìîìåíòû a∗1 , a∗2 , . . . , a∗k . Òåì ñàìûì ïîëó÷èì îöåíêè ïî ìåòîäó ìîìåíòîâ(ÌÌ-îöåíêè):= g1 (a∗1 , a∗2 , . . . , a∗k ),= g2 (a∗1 , a∗2 , . . . , a∗k ),...= gk (a∗1 , a∗2 , . . . , a∗k ).θ1∗θ2∗θk∗Çàìå÷àíèÿ1.  îäíîé è òîé æå ñèòóàöèè ìåòîäîì ìîìåíòîâ ìîæíî ïîëó÷àòü ðàçíûå îöåíêè,ïîòîìó ÷òî ïåðâûé ýòàï ìîæíî ðåàëèçîâûâàòü ïî-ðàçíîìó. Íàïðèìåð, åñëè X ⊂= Πλ , òî, ñ îäíîé ñòîðîíû, λ = a1 , ïîýòîìó λ∗ = a∗1 = X . Åñëè æå íà ïåðâîì ýòàïåâîñïîëüçîâàòüñÿ ôîðìóëîé λ = a2 − a21 , òî ïðèäåì ê äðóãîé îöåíêå: λ∗1 = a∗2 − (a∗1 )2 =S 2.2.
Åñëè âîçíèêàþò çàòðóäíåíèÿ ïðè ðåàëèçàöèè ïåðâîãî ýòàïà, òî ìîæíî ñíà÷àëà âûïîëíèòü äåéñòâèÿ, ñêàæåì, íà íóëåâîì ýòàïå: íàéòè ìîìåíòû ðàñïðåäåëåíèÿa1 , a2 , . . . , ak . Ïîëó÷èòñÿ íàáîð ñîîòíîøåíèé âèäàa1 = h1 (θ1 , θ2 , . . . , θk ),a2 = h2 (θ1 , θ2 , .
. . , θk ),...ak = hk (θ1 , θ2 , . . . , θk ).Ïîñëå ÷åãî íóæíî ðàçðåøèòü ýòó ñèñòåìó óðàâíåíèé îòíîñèòåëüíî θ1 , . . . , θk òåì ñàìûì ïîëó÷èì íóæíûå íàì ôîðìóëû äëÿ ïåðâîãî ýòàïà.Ïðèìåð. Ïóñòü X ⊂= Γα,λ . Íàéäåì ÌÌ-îöåíêè α∗ , λ∗ .Íà÷íåì ñ íóëåâîãî ýòàïà. Äëÿ ìîìåíòîâ ãàììà-ðàñïðåäåëåíèÿ èìååìakαλ=Γ(λ)Z∞k λ−1 −αtt te1dt = kα Γ(λ)0Z∞y k+λ−1 e−y dy =0(k + λ − 1)(k + λ − 2) . . . (λ + 1)λΓ(λ)Γ(k + λ)===αk Γ(λ)αk Γ(λ)(k + λ − 1) .
. . (λ + 1)λ=.αkÏîýòîìóλ a1 = α , a = λ(λ + 1).2α2λÂûðàæàåì èç ïåðâîãî óðàâíåíèÿ α =è ïîäñòàâëÿåì âî âòîðîå:a1!λ(λ + 1) 21a2 =a1 = 1 +a21 .2λλ66Îòñþäà ïîëó÷àåì ñîîòíîøåíèÿ ïåðâîãî ýòàïàλ=a21,a2 − a21α=a1.a2 − a21Ñëåäîâàòåëüíî,(X)2Xλ =, α∗ = 2 .2SSÒåîðåìà. Ïóñòü θ = g(a1 , .
. . , ak ) îäíîìåðíûé ïàðàìåòð ðàñïðåäåëåíèÿ âûáîðêè. Ïðåäïîëîæèì, ÷òî ôóíêöèÿ g íåïðåðûâíà â òî÷êå (a1 , . . . , ak ). Òîãäàθ∗ = g(a∗1 , . . . , a∗k ) ÿâëÿåòñÿ ñîñòîÿòåëüíîé îöåíêîé äëÿ θ.PÄîêàçàòåëüñòâî.  ñèëó ñõîäèìîñòè a∗i → ai , i = 1, . . . , k , äàííîå óòâåðæäåíèåâûòåêàåò èç ñâîéñòâà 2 ñõîäèìîñòè ïî âåðîÿòíîñòè.∗Âåðíåìñÿ ê ðàññìîòðåííîìó ïðèìåðó, ãäå X ⊂= Γα,λ .
Ïîñêîëüêó a2 −a21 = DX1 > 0,òî ôóíêöèèy12y1,g(y,y)=g1 (y1 , y2 ) =212y2 − y12y2 − y12íåïðåðûâíû â òî÷êå (a1 , a2 ), α = g1 (a1 , a2 ), λ = g2 (a1 , a2 ). Çíà÷èò, ïîëó÷åííûå íàìèÌÌ-îöåíêè ñîñòîÿòåëüíû.Ñâîéñòâî íåñìåùåííîñòè ïðîâåðÿåòñÿ â êàæäîì ñëó÷àå ïî-ñâîåìó, îáû÷íî ìåòîäìîìåíòîâ ïðèâîäèò ê íåñìåùåííûì èëè àñèìïòîòè÷åñêè íåñìåùåííûì îöåíêàì.6.3.Ìåòîä ìàêñèìàëüíîãî ïðàâäîïîäîáèÿÏóñòü, êàê è ðàíåå, X ⊂= Fθ è θ ∈ R íåèçâåñòíûé ïàðàìåòð, ïîäëåæàùèé îöåíêå.1. Äèñêðåòíûé ñëó÷àé. Ïîïðîáóåì ïîÿñíèòü îñíîâíóþ èäåþ ìåòîäà íà ïðèìåðå.Ïóñòü, ñòðåëÿÿ 10 ðàç ïî ìèøåíè â òèðå, ìû òðèæäû ïîïàëè è 7 ðàç ïðîìàõíóëèñü.Ìû íå çíàåì, êàêîâà âåðîÿòíîñòü p ïîïàäàíèÿ ïðè îäíîì âûñòðåëå, ìîæåì ñòðîèòüëèøü ðàçëè÷íûå ïðåäïîëîæåíèÿ îá ýòîì.
Ðàññìîòðèì òðè èç íèõ:1) p = 0.01;2) p = 0.3;3) p = 0.9.Êàêîå èç íèõ âûãëÿäèò áîëåå ïðàâäîïîäîáíûì ïîñëå òîãî, êàê ñòðåëüáà çàâåðøåíà?Ðàçóìååòñÿ, âòîðîå. Êîíå÷íî, ïðè êàæäîì èç ýòèõ ïðåäïîëîæåíèé ìû ìîãëè áû 7 ðàçïðîìàõíóòüñÿ è 3 ðàçà ïîïàñòü, íî âåðîÿòíîñòü òàêîãî ðåçóëüòàòà ñòðåëüáû áóäåòíàèáîëüøåé ïðè p = 0.3.Ýòè ñîîáðàæåíèÿ è ëåãëè â îñíîâó ìåòîäà ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ.Ïðåäïîëîæèì ñíà÷àëà, ÷òî ðàñïðåäåëåíèå Fθ äèñêðåòíî, è îáîçíà÷èì f (θ, t) =P(X1 = t).
Èìååò ñìûñë ðàññìàòðèâàòü çäåñü òîëüêî òå çíà÷åíèÿ t, äëÿ êîòîðûõ ýòèâåðîÿòíîñòè ïîëîæèòåëüíû. Ïóñòü, äàëåå, äëÿ t = (t1 , . . . , tn )f (θ, t) = P(X1 = t1 , . . . , Xn = tn ) =nYf (θ, ti )i=1 âåðîÿòíîñòü òîãî, ÷òî âûáîðêà ïðèìåò êîíêðåòíîå çíà÷åíèå (t1 , . . . , tn ). Êîëü ñêîðîâ ðåçóëüòàòå íàøèõ ýêñïåðèìåíòîâ ðåàëèçîâàëàñü âûáîðêà X , òî, ïîäñòàâèâ åå âôóíêöèþ f , ïîëó÷èì f (θ, X), ÷òî ïðè ôèêñèðîâàííîì çíà÷åíèè âûáîðêè ðàâíÿåòñÿâåðîÿòíîñòè åå ïîÿâëåíèÿ.Ôóíêöèÿ f (θ, X) íàçûâàåòñÿ ôóíêöèåé ïðàâäîïîäîáèÿ.67Èäåÿ ìåòîäà ñîñòîèò â ñëåäóþùåì: ìû ïîäáèðàåì òàêîå çíà÷åíèå θ, ïðè êîòîðîìâåðîÿòíîñòü ïîëó÷èòü íàøó âûáîðêó ìàêñèìàëüíà.