1625915142-52fa2794958ee6e606a6276d57de83ae (843872), страница 15
Текст из файла (страница 15)
Äðóãèìè ñëîâàìè, ìû ïîäáèðàåìíàèáîëåå ïðàâäîïîäîáíîå ñ òî÷êè çðåíèÿ ïîëó÷åííîãî ðåçóëüòàòà çíà÷åíèå ïàðàìåòðà.Àíàëèòè÷åñêè ýòî îçíà÷àåò, ÷òî ìû äîëæíû èññëåäîâàòü íà ìàêñèìóì ôóíêöèþ ïðàâäîïîäîáèÿ è âçÿòü â êà÷åñòâå îöåíêè ìåòîäà ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ(ÌÌÏ-îöåíêè) òî çíà÷åíèå θ∗ , ïðè êîòîðîìf (θ∗ , X) = max f (θ, X).θQnÏîñêîëüêó f (θ, X) = i=1 f (θ, Xi ), òî â ðÿäå ñëó÷àåâ èññëåäîâàòü ýòó ôóíêöèþíà ìàêñèìóì óäîáíåå, ïðåäâàðèòåëüíî âçÿâ îò íåå ëîãàðèôì:l(θ, X) = ln f (θ, X) =nXln f (θ, Xi ).i=1Ôóíêöèÿ l(θ, X) íàçûâàåòñÿ ëîãàðèôìè÷åñêîé ôóíêöèåé ïðàâäîïîäîáèÿ.
Òî÷êè ìàêñèìóìà ó l(θ, X) è f (θ, X) ñîâïàäàþò, à ñ ñóììîé ðàáîòàòü óäîáíåå, ÷åì ñ ïðîèçâåäåíèåì.Åñëè ïðîèçâîäíàÿ ïî θ ñóùåñòâóåò è íåïðåðûâíà, òî òî÷êó ýêñòðåìóìà ìîæíîíàéòè èç óðàâíåíèÿ∂l(θ, X)= 0.∂θÓáåäèâøèñü, ÷òî â íàéäåííîé òî÷êå äåéñòâèòåëüíî äîñòèãàåòñÿ ìàêñèìóì, à íå ìèíèìóì, ìû òåì ñàìûì íàõîäèì ÌÌÏ-îöåíêó êàê ðåøåíèå äàííîãî óðàâíåíèÿ.λt −λe è äëÿ ôóíêöèè ïðàâäîïîäîáèÿÏðèìåð. Ïóñòü X ⊂= Πλ .
Òîãäà f (λ, t) =t!èìååìnYλXi −λλX1 +...+Xn −nλf (λ, X) =e =e .X!X!...X!i1ni=1Êàê ôóíêöèÿ ïåðåìåííîé λ > 0, ýòî âûðàæåíèå ðàâíî ñòåïåííîé ôóíêöèè, óìíîæåííîé íà ýêñïîíåíòó â îòðèöàòåëüíîé ñòåïåíè. Ýòà ôóíêöèÿ äèôôåðåíöèðóåìà ïîλ ñêîëü óãîäíî ðàç, è ðàâåíñòâî íóëþ ïåðâîé ïðîèçâîäíîé ïðèâåäåò íàñ ê òî÷êå ìàêñèìóìà.
Äëÿ óäîáñòâà íàéäåìl(λ, X) = (X1 + . . . + Xn ) ln λ − nλ − ln(X1 ! . . . Xn !).Äàëåå íàõîäèì òî÷êó ìàêñèìóìà:∂l(λ, X)X1 + . . . + Xn=− n = 0,∂λλλ∗ =X1 + . . . + X n= X.nÏóñòü òåïåðü ôóíêöèÿ ðàñïðåäåëåíèÿ Fθ àáñîëþòíî íåïðåðûâíà. Îáîçíà÷èì f (θ, t)ñîîòâåòñòâóþùóþ åé ïëîòíîñòü ðàñïðåäåëåíèÿ. Ïóñòü äëÿ t = (t1 , .
. . , tn )f (θ, t) =nYf (θ, ti )i=1 ïëîòíîñòü ðàñïðåäåëåíèÿ ñëó÷àéíîãî âåêòîðà X .Ïî àíàëîãèè ñ äèñêðåòíûì ñëó÷àåì ôóíêöèåé ïðàâäîïîäîáèÿ áóäåì íàçûâàòüf (θ, X). ÌÌÏ-îöåíêîé íàçûâàåòñÿ òî çíà÷åíèå θ = θ∗ , êîòîðîå ìàêñèìèçèðóåò ôóíêöèþ ïðàâäîïîäîáèÿ:f (θ∗ , X) = max f (θ, X).θ68Êàê è ðàíåå, ìîæíî ââåñòè ëîãàðèôìè÷åñêóþ ôóíêöèþ ïðàâäîïîäîáèÿ l(θ, X) =ln f (θ, X) è ðàáîòàòü ñ íåé.Ïðèìåð. Ïóñòü X ⊂= Eα . Ïîñêîëüêó âñå íàáëþäåíèÿ ïðè òàêîì óñëîâèè ïîëîæèòåëüíû, òî èìååìnYf (α, X) =αe−αXi = αn e−α(X1 +...+Xn ) .i=1ßñíî, ÷òî äèôôåðåíöèðîâàíèå ïðèâåäåò íàñ ê òî÷êå ìàêñèìóìà.l(α, X) = n ln α − α(X1 + . .
. + Xn );n∂l(α, X)= − (X1 + . . . + Xn ) = 0,∂ααα∗ =Çàìå÷àíèÿn1= .X1 + . . . + X nX1. Åñëè θ = (θ1 , . . . , θk ), òî âñå îñòàåòñÿ ïî-ïðåæíåìó, òîëüêî èññëåäîâàòü íà ìàêñèìóì ôóíêöèþ ïðàâäîïîäîáèÿ íóæíî áóäåò êàê ôóíêöèþ k ïåðåìåííûõ. Íàïðèìåð,ïîèñê ìàêñèìóìà ñ ïîìîùüþ äèôôåðåíöèðîâàíèÿ ïðèâåäåò ê ñèñòåìå óðàâíåíèé∂l(θ, X)= 0,∂θ1...∂l(θ, X)= 0.∂θk2. Åñëè ôóíêöèÿ ïðàâäîïîäîáèÿ äîñòèãàåò ìàêñèìàëüíîãî çíà÷åíèÿ â íåñêîëüêèõòî÷êàõ, òî âñå îíè, ïî îïðåäåëåíèþ, ñ÷èòàþòñÿ ÌÌÏ-îöåíêàìè.3.
ÌÌÏ-îöåíêè, êàê ïðàâèëî, ÿâëÿþòñÿ àñèìïòîòè÷åñêè íåñìåùåííûìè è ñîñòîÿòåëüíûìè.4. Âî ìíîãèõ ñëó÷àÿõ ÌÌ-îöåíêè ñîâïàäàþò ñ ÌÌÏ-îöåíêàìè, íî ýòî ïðîèñõîäèòíå âñåãäà.Ïðèìåð. Ïóñòü X ⊂= U0,θ , è θ íåèçâåñòíî. ÏîñêîëüêóZθak =θk1,t dt =θk+1k0òî ìû ïîëó÷àåì öåëóþ ïîñëåäîâàòåëüíîñòü ÌÌ-îöåíîê:θ = ((k + 1)ak )1/k ,θk∗ = ((k + 1)a∗k )1/k ,k = 1, 2, . .
. . òî æå âðåìÿ ÌÌÏ-îöåíêà áóäåò èíîé. Ïîñòðîèì ôóíêöèþ ïðàâäîïîäîáèÿ. Äëÿt∈R1,åñëè 0 ≤ t ≤ θ,f (θ, t) = θ0,èíà÷å.Ïîýòîìó1, åñëè 0 ≤ Xi ≤ θ ïðè âñåõ i = 1, . . . , n,f (θ, X) = θn0,èíà÷å.Òàê êàê âñå Xi ≥ 0, òî ìîæíî ïåðåïèñàòü1, åñëè max(X1 , . . . , Xn ) = X(n) ≤ θ,f (θ, X) = θn0,åñëè X(n) > θ.Ïîñòðîèì ãðàôèê çàâèñèìîñòè ôóíêöèè ïðàâäîïîäîáèÿ îò θ.696f (θ, X)0-θX(n)ßñíî, ÷òî ìàêñèìóì äîñòèãàåòñÿ â òî÷êå θ∗ = X(n) ýòî è áóäåò ÌÌÏ-îöåíêîé.Äàííûé ïðèìåð ñëóæèò íàïîìèíàíèåì î òîì, ÷òî äëÿ íàõîæäåíèÿ òî÷êè ìàêñèìóìà íå ñòîèò ñïåøèòü ñ äèôôåðåíöèðîâàíèåì ôóíêöèè. Ïåðåõîä ê ëîãàðèôìè÷åñêîé ôóíêöèè ïðàâäîïîäîáèÿ çäåñü òàêæå íåóìåñòåí.6.4.Ñðàâíåíèå îöåíîêÏóñòü X ⊂= Fθ , θ ∈ R íåèçâåñòíûé ïàðàìåòð, è ïóñòü ìû óæå ïîñòðîèëè äâå ðàçëè÷íûå îöåíêè θ1∗ è θ2∗ .
Îáå îêàçàëèñü õîðîøèìè: íàïðèìåð, íåñìåùåííûìè (àñèìïòîòè÷åñêè íåñìåùåííûìè) è ñîñòîÿòåëüíûìè. Êàêóþ èç íèõ ïðåäïî÷åñòü?Ìû äî ñèõ ïîð íå ó÷èòûâàëè åùå îäíî âàæíîå ñâîéñòâî îöåíîê. ×åì ìåíüøå ðàçáðîñ çíà÷åíèé îöåíêè îòíîñèòåëüíî íåèçâåñòíîãî ïàðàìåòðà, òåì îíà òî÷íåå. Åñòåñòâåííî èç äâóõ îöåíîê âûáèðàòü òó, ó êîòîðîé ýòîò ðàçáðîñ ìåíüøå.
Ðàçáðîñ ìîæíîõàðàêòåðèçîâàòü ïî-ðàçíîìó. Ìû áóäåì èñïîëüçîâàòü ñðåäíåå êâàäðàòè÷åñêîå îòêëîíåíèå.Îïðåäåëåíèå. Áóäåì ñ÷èòàòü, ÷òî îöåíêà θ1∗ ëó÷øå, ÷åì θ2∗ , åñëè ïðè âñåõ çíà÷åíèÿõ θEθ (θ1∗ − θ)2 ≤ Eθ (θ2∗ − θ)2è õîòÿ áû ïðè îäíîì çíà÷åíèè θ íåðàâåíñòâî ÿâëÿåòñÿ ñòðîãèì.Åñëè îöåíêà θ∗ íåñìåùåííàÿ, òî Eθ (θ∗ − θ)2 = Dθ θ∗ . Ñëåäîâàòåëüíî, èç äâóõíåñìåùåííûõ îöåíîê ëó÷øå òà, ó êîòîðîé äèñïåðñèÿ ìåíüøå.Åñëè ñðåäè âñåõ íåñìåùåííûõ îöåíîê (à èõ áåñêîíå÷íî ìíîãî) íàéäåòñÿ òà, óêîòîðîé äèñïåðñèÿ ìèíèìàëüíà, òî îíà íàçûâàåòñÿ ýôôåêòèâíîé.Ýôôåêòèâíûå îöåíêè ÿâëÿþòñÿ íàèáîëåå òî÷íûìè, ê èõ îòûñêàíèþ è íóæíî ñòðåìèòüñÿ. Äåëàòü ýòî íåïðîñòî, õîòÿ ñîîòâåòñòâóþùèå ìåòîäû ðàçðàáîòàíû. Èç-çà äåôèöèòà âðåìåíè ìû óïîìÿíåì òîëüêî îäèí ïîäõîä, ïîçâîëÿþùèé âî ìíîãèõ ñëó÷àÿõîïðåäåëÿòü, ÿâëÿåòñÿ ëè äàííàÿ îöåíêà ýôôåêòèâíîé.
 ìàòåìàòè÷åñêîé ñòàòèñòèêåèçâåñòíî íåðàâåíñòâî ÐàîÊðàìåðà, êîòîðîå ãëàñèò: åñëè f (θ, t) êàê ôóíêöèÿ ïåðåìåííîé θ îáëàäàåò îïðåäåëåííûìè ñâîéñòâàìè ðåãóëÿðíîñòè (ìû íå óòî÷íÿåì çäåñü êàêèìè), òî äëÿ ëþáîé íåñìåùåííîé îöåíêè θ∗Dθ θ∗ ≥ C(θ, n).Êîíñòàíòà C(θ, n) ëåãêî âû÷èñëÿåòñÿ, ïîñëå ÷åãî ñ íåé ìîæíî ñðàâíèâàòü äèñïåðñèè îöåíîê. Åñëè äëÿ íåêîòîðîé îöåíêè â íåðàâåíñòâå ÐàîÊðàìåðà âûïîëíÿåòñÿðàâåíñòâî, çíà÷èò, ýòà îöåíêà îáëàäàåò íàèìåíüøåé äèñïåðñèåé, â ñèëó íåðàâåíñòâàìåíüøå óæå íå áûâàåò.Ïðèìåð. Âåðíåìñÿ ê ñèòóàöèè, ðàññìîòðåííîé âûøå: X ⊂= U0,θ , è θ íåèçâåñòíî.∗∗Ñðàâíèì ÌÌ-îöåíêó θ1 = 2X è ÌÌÏ-îöåíêó θ = X(n) . Ïåðâàÿ èç íèõ ÿâëÿåòñÿíåñìåùåííîé:θE (2X) = 2E X1 = 2 = θ.270Äëÿ íååDθ1∗ = 4DX1θ2= .n3nÈññëåäóåì âòîðóþ îöåíêó.Fθ∗ (t) = P(X(n) < t) = P(X1 < t, .
. . , Xn < t) =nYP(Xi < t) =i=10, nt= (U0,θ (t))n =,nθ1,åñëè t ≤ 0,åñëè 0 < t ≤ θ,åñëè t > θ.Îòñþäà, êñòàòè, ñëåäóåò ñîñòîÿòåëüíîñòü îöåíêè θ∗ . Ïîñêîëüêó âñåãäà X(n) ≤ θ,òî äëÿ ëþáîãî ε > 0P(|X(n) − θ| ≥ ε) = P(θ − X(n) ≥ ε) = P(X(n) ≤ θ − ε) =(θ − ε)n→0θnïðè n → ∞.Äàëåå íàõîäèì ïëîòíîñòü n−1 nt,nf (θ, t) = θ0,åñëè 0 < t ≤ θ,èíà÷åè ìîìåíòû∗ZEθ =0θntn−1nθt n dt =,θn+1∗ 2ZθE(θ ) =0ntn−1nθ2tdt =.θnn+22Îöåíêà θ∗ îêàçàëàñü ñìåùåííîé; ÷òîáû ñðàâíåíèå áûëî ñïðàâåäëèâûì, ïîäïðàâèìåå, ñäåëàâ, êàê è θ1∗ , íåñìåùåííîé. Ïóñòüθ2∗ =n+1 ∗θ ,nEθ2∗ = θ,è äàëüøå ñðàâíèâàåì θ1∗ è θ2∗ .
Íàéäåì äèñïåðñèþ íîâîé îöåíêè.!2 222(n + 1)(n + 1)nθnθθ2∗=Dθ2∗ =Dθ=−.n2n2n+2n+1n(n + 2)Ìû âèäèì, ÷òî Dθ2∗ < Dθ1∗ ïðè n > 1, ïðè÷åì Dθ2∗ ñòðåìèòñÿ ê íóëþ ñ ðîñòîì n íàïîðÿäîê áûñòðåå, ÷åì Dθ1∗ .7.7.1.Äîâåðèòåëüíûå èíòåðâàëûÍåêîòîðûå ðàñïðåäåëåíèÿ, ñâÿçàííûå ñ íîðìàëüíûìÍàì ïîòðåáóåòñÿ ââåñòè íåêîòîðûå ðàñïðåäåëåíèÿ, èãðàþùèå áîëüøóþ ðîëü âìàòåìàòè÷åñêîé ñòàòèñòèêå.71I. Ðàñïðåäåëåíèå õè-êâàäðàò.
Ïî îïðåäåëåíèþ, ðàñïðåäåëåíèåì õè-êâàäðàò ñ nñòåïåíÿìè ñâîáîäû íàçûâàåòñÿ χ2n = Γ1/2, n/2 . Òàêèì îáðàçîì, ýòî ðàñïðåäåëåíèå ñïëîòíîñòüþ1ntt 2 −1 e− 2 , t > 0,n/2γ1/2, n/2 (t) = 2 Γ(n/2)0,t ≤ 0.γ1/2, n/2 (t)6n=1n>2n=2-0tÑâîéñòâà ðàñïðåäåëåíèÿ õè-êâàäðàò1. Åñëè ñëó÷àéíûå âåëè÷èíû Z1 è Z2 íåçàâèñèìû, Z1 ⊂= χ2n1 , Z2 ⊂= χ2n2 , òî2Z1 + Z2 ⊂= χn1 +n2 .Ýòî ñâîéñòâî â ñâîå âðåìÿ áûëî äîêàçàíî â îáùåì âèäå äëÿ ñâåðòîê ïëîòíîñòåéãàììà-ðàñïðåäåëåíèÿ.2. Ïóñòü ñëó÷àéíûå âåëè÷èíû Y1 , .
. . , Yn íåçàâèñèìû è Yi ⊂= Φ0,1 ïðè âñåõi = 1, . . . , n. ÒîãäàY12 + . . . + Yn2 ⊂= χ2n .Äîêàçàòåëüñòâî. Äîñòàòî÷íî ïðîâåðèòü óòâåðæäåíèå äëÿ n = 1 è çàòåì âîñïîëüçîâàòüñÿ ïðåäûäóùèì ñâîéñòâîì. Èìååì FY12 (y) = P(Y12 < y) = 0 äëÿ y ≤ 0. Åñëèy > 0, òî√FY12 (y) =P(Y121√√< y) = P(− y < Y1 < y) = √2πZy√− yu2exp −2du =√2= √2πZy 2uexp −du.20Ñäåëàâ çàìåíó t = u2 , ïîëó÷èì1FY12 (y) = √2πZy−1/2t texp −dt = Γ1/2, 1/2 (y).203.
Ïðè áîëüøèõ çíà÷åíèÿõ n ðàñïðåäåëåíèå χ2n (y) ìîæíî àïïðîêñèìèðîâàòü íîðìàëüíûì.Äåéñòâèòåëüíî, ïîëüçóÿñü îáîçíà÷åíèÿìè ïðåäûäóùåãî óòâåðæäåíèÿ, íàõîäèì!222Y+...+Y−nEYy−nEY111p nχ2n (y) = P(Y12 + . . . + Yn2 < y) = P< p.22nDY1nDY172Åñëè n âåëèêî, òî ìîæíî ïðèìåíèòü ÖÏÒ.
Çäåñü EY12 = 1, EY14 = 3 (ïîñëåäíååïðåäëàãàåòñÿ ïðîâåðèòü â êà÷åñòâå ñàìîñòîÿòåëüíîãî óïðàæíåíèÿ), ïîýòîìóDY12 = 2. Ïîëó÷àåìy−n2χn (y) ' Φ0,1 √.2nII. Ðàñïðåäåëåíèå Ñòüþäåíòà. Ïóñòü ñëó÷àéíûå âåëè÷èíû Y è Zn íåçàâèñèìû,Y ⊂= Φ0,1 , Zn ⊂= χ2n . Òîãäà ðàñïðåäåëåíèå Tn ñëó÷àéíîé âåëè÷èíûYr1Znníàçûâàåòñÿ ðàñïðåäåëåíèåì Ñòüþäåíòà ñ n ñòåïåíÿìè ñâîáîäû.Âìåñòî ñëó÷àéíîé âåëè÷èíû Zn â ýòîì îïðåäåëåíèè ìîæíî ïîñòàâèòü Y12 +. . .+Yn2 ,ãäå Y, Y1 , .
. . , Yn íåçàâèñèìû è Yi ⊂= Φ0,1 ïðè âñåõ i = 1, . . . , n.Ïëîòíîñòü ðàñïðåäåëåíèÿ Ñòüþäåíòà ðàâíà (ïðèâîäèòñÿ áåç äîêàçàòåëüñòâà)−(n+1)/2Γ((n + 1)/2)y2tn (y) = √1+.nπn Γ(n/2)Ýòî ñèììåòðè÷íàÿ êðèâàÿ, ïî ñâîåìó âèäó íàïîìèíàþùàÿ ãðàôèê ïëîòíîñòè ðàñïðåäåëåíèÿ Êîøè (êñòàòè, ðàñïðåäåëåíèå Êîøè ñîâïàäàåò ñ ðàñïðåäåëåíèåì Ñòüþäåíòàñ îäíîé ñòåïåíüþ ñâîáîäû).tn (y)6-0yÄàííîå ðàñïðåäåëåíèå ââåäåíî àíãëèéñêèì ìàòåìàòèêîì Â. Ñ. Ãîññåòîì; îí ïîäïèñûâàë ñâîè ðàáîòû ïñåâäîíèìîì Student, ÷òî è çàêðåïèëîñü â íàçâàíèè ðàñïðåäåëåíèÿ.Åñëè n → ∞, òî tn (y) → ϕ0,1 (y). Ýòîò ðåçóëüòàò íåòðóäíî ïîëó÷èòü èç ÿâíîéôîðìóëû äëÿ tn (y), âîñïîëüçîâàâøèñü çàìå÷àòåëüíûì ïðåäåëîì. Êñòàòè, èç çàêîíàáîëüøèõ ÷èñåë è ñâîéñòâ ñõîäèìîñòè ïî âåðîÿòíîñòè ñëåäóåò, ÷òîYrY12P+ ...
+nYn2→Y ⊂= Φ0,1 ,ïîñêîëüêóY12 + . . . + Yn2 P→ EY12 = 1.nÇäåñü, íàïîìíèì, ñëó÷àéíûå âåëè÷èíû Y, Y1 , . . . , Yn íåçàâèñèìû è âñå èìåþò ñòàíäàðòíîå íîðìàëüíîå ðàñïðåäåëåíèå.III. Ðàñïðåäåëåíèå Ôèøåðà. Ïóñòü Z1 è Z2 íåçàâèñèìû, Z1 ⊂= χ2n1 , Z2 ⊂= χ2n2 . Òîãäàðàñïðåäåëåíèå ñëó÷àéíîé âåëè÷èíûZ1 /n1Z2 /n273íàçûâàåòñÿ ðàñïðåäåëåíèåì Ôèøåðà ñ ÷èñëîì ñòåïåíåé ñâîáîäû (n1 , n2 ) è îáîçíà÷àåòñÿ Fn1 ,n2 .Ìû íå áóäåì ïðèâîäèòü ôîðìóëó äëÿ ïëîòíîñòè ýòîãî ðàñïðåäåëåíèÿ, åå ãðàôèêâ ñâîèõ îáùèõ ÷åðòàõ âûãëÿäèò òàê:fn1 ,n2 (t)6-0tÂñå òðè ââåäåííûõ ðàñïðåäåëåíèÿ øèðîêî èñïîëüçóþòñÿ â ñòàòèñòè÷åñêèõ âû÷èñëåíèÿõ, ïîýòîìó ïî÷òè âî âñåõ ïîñîáèÿõ ïî ìàòåìàòè÷åñêîé ñòàòèñòèêå ìîæíîâñòðåòèòü òàáëèöû çíà÷åíèé ýòèõ ôóíêöèé ðàñïðåäåëåíèÿ.
Íàèáîëåå ïîëíî òàáëèöû ïðåäñòàâëåíû â ðàáîòå Áîëüøåâ Ë.Í., Ñìèðíîâ Í.Â. Òàáëèöû ìàòåìàòè÷åñêîéñòàòèñòèêè. Ì., 1965.7.2.Ñâîéñòâà âûáîðîê èç íîðìàëüíîãî ðàñïðåäåëåíèÿÑëåäóþùàÿ ëåììà ëåæèò â îñíîâå ìíîãèõ ñòàòèñòè÷åñêèõ âûâîäîâ.Ëåììà Ôèøåðà. Ïóñòü ñëó÷àéíûå âåëè÷èíû X1 , . . . , Xn íåçàâèñèìû, Xi ⊂= Φ0,1 ,i = 1, . . .
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
