Ю.Н. Тюрин, Г.И. Симонова - Математическая статистика. Записки лекций (1124593), страница 26
Текст из файла (страница 26)
ïðè ^n d! N 0; i( 0 ) 1 :Âåðíåìñÿ ê ïåðåìåííîén!1(14:3:8)^^n = 0 + p ;= 0 + pn ;np0^^n = n(n ). Óòâåðæäåíèå (14.3.8) îçíà÷àåò, ÷òî ïðè n ! 1pn(^ 0) d! N 0; [i( 0 )℄ 1 :(14:3:9)nÑëåäîâàòåëüíî, ìû äîêàçàëè, ÷òî (ïðè íàëîæåííûõ âûøå óñëîâèÿõ íà p x; ) ñóùåñòâóåò ðåøåíèå (òî÷íåå, ïîñëåäîâàòåëüíîñòüðåøåíèé) óðàâíåíèÿ ïðàâäîïîäîáèÿ (14.3.1) n , ñõîäÿùååñÿ ê 0è ðàñïðåäåëåííîå àñèìïòîòè÷åñêè íîðìàëüíî ñ ïàðàìåòðàìè 0 èn i 0 1.( )^( )3.2. Ìíîãîìåðíûé ñëó÷àéÄëÿ ìíîãîìåðíîãî ïàðàìåòðà âñ¼ èññëåäîâàíèå ïðîõîäèò òàêæå, êàê è äëÿ îäíîìåðíîãî, ñ î÷åâèäíûìè èçìåíåíèÿìè.170Óðàâíåíèå ïðàâäîïîäîáèÿ (14.1.1) òåïåðü âåêòîðíîå (ò.
å.(14.1.1) ïðåäñòàâëÿåò ñîáîé ñèñòåìó óðàâíåíèé).Óñëîâèå î òðåòüèõ ïðîèçâîäíûõ îðìóëèðóåòñÿ òàê: è ò. ä.3logp (x; ) < M (x);i j kÌåñòî êîëè÷åñòâà èíîðìàöèèîðìàöèè J .()i()çàíèìàåò ìàòðèöà èí-Îêîí÷àòåëüíûé ðåçóëüòàò ïðèíèìàåò âèän d! N 0 ; n 1 J 1 0^(( )):(14:3:10)3.3. Àñèìïòîòè÷åñêè ýåêòèâíûå îöåíêèÍåñìåùåííûå îöåíêè ïàðàìåòðà, äëÿ êîòîðûõ íåðàâåíñòâîÊðàìåðà-àî îáðàùàåòñÿ â ðàâåíñòâî, ðàíåå áûëè íàçâàíû. Äëÿ ýåêòèâíûõ îöåíîê äèñïåðñèÿ (ìàòðèöà êîâàðèàöèé â ìíîãîïàðàìåòðè÷åñêîì ñëó÷àå) ðàâíà îáðàòíîìó êîëè÷åñòâó èíîðìàöèè (îáðàòíîé ìàòðèöå èíîðìàöèè).Îáðàòèì âíèìàíèå íà ñõîäñòâî ñ ýåêòèâíîñòüþ ðåçóëüòàòîâ (14.3.9) è (14.3.10): äëÿ îöåíêè íàèáîëüøåãî ïðàâäîïîäîáèÿ (âóñëîâèÿõ ðåãóëÿðíîñòè) àñèìïòîòè÷åñêîå ìàòåìàòè÷åñêîå îæèäàíèå ñîâïàäàåò ñ îöåíèâàåìûì ïàðàìåòðîì, à å¼ àñèìïòîòè÷åñêàÿäèñïåðñèÿ ñ îáðàòíûì êîëè÷åñòâîì èíîðìàöèè.  ñâÿçè ñ ýòèìñõîäñòâîì ïðèíÿòî ñëåäóþùåå îïðåäåëåíèå.Î ï ð å ä å ë å í è å 14.3.1.
Àñèìïòîòè÷åñêè íîðìàëüíóþ îöåíêó n (íå îáÿçàòåëüíî îöåíêó íàèáîëüøåãî ïðàâäîïîäîáèÿ) ïàðàìåòðà íàçûâàþò, åñëè å¼ àñèìïòîòè÷åñêèå ïàðàìåòðû ìîæíî âûáðàòü òàê, ÷òîáû âûïîëíÿëîñü(14.3.9) (èëè (14.3.10) â ìíîãîïàðàìåòðè÷åñêîì ñëó÷àå).È õîòÿ íåâåðíî óòâåðæäåíèå, ÷òî àñèìïòîòè÷åñêàÿ äèñïåðñèÿíå ìîæåò áûòü ìåíüøå, ÷åì îáðàòíàÿ èíîðìàöèÿ (àíàëîã íåðàâåíñòâà Êðàìåðà-àî), âñ¼ æå àñèìïòîòè÷åñêè ýåêòèâíûå îöåíêè ìîæíî ñ÷èòàòü íàèëó÷øèìè. (Èññëåäîâàíèé íà ýòó òåìó áûëîî÷åíü ìíîãî. Îêîí÷àòåëüíûå îðìóëèðîâêè, íà ìîé âçãëÿä, åùåíå íàéäåíû.
Îá àñèìïòîòè÷åñêîé ýåêòèâíîñòè ñì., íàïðèìåð,Ý. Ëåìàí, "Òåîðèÿ òî÷å÷íîãî îöåíèâàíèÿ": Ïåð. ñ àíãë. Ì.: Íàóêà, 1991 ãë. 6).ýåê-òèâíûìè^àñèìïòîòè÷åñêè ýåêòèâíîé171 4. Îäíîøàãîâûå îöåíêèåçóëüòàòû 3 ãîâîðÿò î ñóùåñòâîâàíèè àñèìïòîòè÷åñêè ýåêòèâíûõ îöåíîê íàèáîëüøåãî ïðàâäîïîäîáèÿ n , íî íå ãîâîðÿò,êàê âûäåëèòü òàêóþ îöåíêó ñðåäè ðåøåíèé óðàâíåíèé ïðàâäîïîäîáèÿ, åñëè ðåøåíèå íå åäèíñòâåííî. Ýòî ñåðüåçíûé íåäîñòàòîê.Çàòåì ñàìî ðåøåíèå óðàâíåíèÿ ïðàâäîïîäîáèÿ ìîæåò îêàçàòüñÿòðóäíîé çàäà÷åé.
Ïðåäëàãàåìûé íèæå ìåòîä óëó÷øåíèÿ îöåíêèïîçâîëÿåò îáîéòè îáà ýòè çàòðóäíåíèÿ. Ñîõðàíèì â ñèëå âñå ñäåëàííûå â 3 ïðåäïîëîæåíèÿ.Ïðåäïîëîæèì, ÷òîpäëÿ ïàðàìåòðà (äëÿ ïðîñòîòû, îäíîìåðíîãî) ìû ðàñïîëàãàåì n-ñîñòîÿòåëüíîé îöåíêîé, ñêàæåì, îöåíêîépn(1) . (Îöåíêó n(1) íàçûâàþò n, åñëè ñëó÷àéíàÿp(1)âåëè÷èíà n n îãðàíè÷åíà ïî âåðîÿòíîñòè). Íàéòè òàêóþîöåíêó îáû÷íî íå ñîñòàâëÿåò òðóäà.  ýòîì ñëó÷àå ìû ìîæåì,íå ðåøàÿ óðàâíåíèÿ ïðàâäîïîäîáèÿ, à èñïîëüçóÿ ìåòîä Íüþòîíà,(2)ïîëó÷èòü äëÿ ïàðàìåòðà íîâóþ îöåíêó, ñêàæåì, n , ýêâèâàëåíòíóþ àñèìïòîòè÷åñêè ýåêòèâíîé îöåíêå n .nXàäè êðàòêîñòè íà âðåìÿ ïîëîæèì ' l x ; è çàïèn i=1 iøåì óðàâíåíèå ïðàâäîïîäîáèÿ â îðìå^()ñîñòîÿòåëüíîé^( )= 1()'() = 0:(1)^(14:4:1)(1)Òàê êàê è n , è n ñõîäÿòñÿ ê , òî nóðàâíåíèÿ (14.4.1).
Ïðè ýòîì^áëèçêî ê n , êîðíþ1n(1) ^n = OP p :n(1)ìîæåì ðàññìàòðèâàòü n êàê ïðèáëèæåííîå(14:4:2)Ìûðåøåíèå óðàâíåíèÿ (14.4.1). Ìåòîä Íüþòîíà ïîçâîëÿåò ïîëó÷èòü íîâîå ïðè(2)(1)áëèæåííîå ðåøåíèå n , ëó÷øåå, ÷åì n (ñì. ðèñ. 14.4.1). Èäåÿìåòîäà çàìåùåíèå óíêöèè y' åå êàñàòåëüíîé (â òî÷êå(1) n )y ' n(1) ' 0 n(1) n(1)== ()= ( ) + ( )()è çàòåì ðåøåíèÿ ëèíåéíîãî óðàâíåíèÿ'(n(1) ) + ' 0 (n(1) )( n(1) ) = 0:172yy=()0(1)nèñ. 14.4.1. ÔóíêöèÿÝòî äàåòn(2) = n(1)n(2) ^n =^(2)nny = '() è êàñàòåëüíàÿ ê íåé â òî÷êå n(1)'(n(1) ): Ëåãêî âèäåòü, ÷òî' 0 (n(1) )(n(1) ^n)' 0 (n(1) ) '(n(1) ) :' 0 (n(1) )(14:4:3)àçëàãàÿ ïî îðìóëå Òåéëîðà ÷èñëèòåëü ýòîãî âûðàæåíèÿ, ïîëó÷èì, ÷òî~~' 00 (~) 12 '00 (~)n(2) ^n = (n(1) ^n )2;' 0 (n(1) )(14:4:4)(1)^ãäå , íåêîòîðûå çíà÷åíèÿ, ïðîìåæóòî÷íûå ìåæäó n è n .Ïðèíÿòûå â 3 óñëîâèÿ ðåãóëÿðíîñòè îáåñïå÷èâàþò îãðàíè÷åííîñòü ïî âåðîÿòíîñòè âòîðîãî ñîìíîæèòåëÿâ (14.4.4).
 ñèëó (14.4.2) ïîëó÷àåìn(2)^n= OP n1(2);÷òî è îçíà÷àåò ýêâèâà-ëåíòíîñòü îäíîøàãîâîé îöåíêè n è àñèìïòîòè÷åñêè ýåêòèâíîé îöåíêè n .^173Ëåêöèÿ 15. Óñòîé÷èâûå îöåíêè 1. Ôóíêöèÿ âëèÿíèÿÍà÷íåì ñ ïðèìåðà. Ïóñòü x1 ; : : : ; xn âûáîðêà èç N a; 2 . Ïîýòîé âûáîðêå ìû õîòèì îöåíèòü a. Êàê èçâåñòíî, â îïðåäåëåííîì ñìûñëå íàèëó÷øåé îöåíêîé a ÿâëÿåòñÿ âûáîðî÷íîå ñðåäíåånPx n1 xi : ñðåäè âñåõ íåñìåùåííûõ îöåíîê ïàðàìåòðà a îöåíêài=1x èìååò íàèìåíüøóþ äèñïåðñèþ.
 ýòîì îòíîøåíèè x ïðåâîñõîäèò, íàïðèìåð, âûáîðî÷íóþ ìåäèàíó nmed x1 ; : : : ; xn , òîæåíåñìåùåííóþ îöåíêó a.Òåïåðü ïðåäïîëîæèì, ÷òî ê óïîìÿíóòîé âûáîðêå äîáàâèëîñüíåêîå ïîñòîðîííåå ÷èñëî z . Òàêèå ïîñòîðîííèå, îøèáî÷íûå äàííûå íåðåäêî ïðèñóòñòâóþò â ìàññèâàõ íàáëþäåíèé, çàñîðÿÿ èõ.Âñïîìíèì õîòÿ áû âûáîðêó èç êíèãè À. Õàëüäà (200 èçìåðåíèéçàêëåïîê), êîòîðóþ ÿ, êàê ïðèìåð, ïðèâîäèë íà ïåðâîé ëåêöèè:â ðóññêîì èçäàíèè îäíî èç äâóõñîò ÷èñåë ïðèâåäåíî ñ îïå÷àòêîé.Èç-çà ýòîãî îíî äàëåêî îòñòóïèëî îò îñíîâíîãî ìàññèâà.
Òàêèåãðóáî îøèáî÷íûå äàííûå, íå ÿâëÿþùèåñÿ ðåçóëüòàòîì ñëó÷àéíîãî âûáîðà èç èíòåðåñóþùåé íàñ ãåíåðàëüíîé ñîâîêóïíîñòè, ÷àñòîíàçûâàþò "".Ïîñìîòðèì íà óïîìÿíóòûõ ïðèìåðàõ, êàê ïðèñóòñòâèå âûáðîñîâ ñêàçûâàåòñÿ íà êà÷åñòâå îöåíêè â äàííîì ñëó÷àå íà îöåíèâàíèè íåèçâåñòíîãî a. Îñíîâîé äëÿ îöåíèâàíèÿ òåïåðü ñëóæèòñîâîêóïíîñòü x1 ; : : : ; xn ; z . ßñíî, ÷òî âûáîðî÷íîå ñðåäíåå â ýòèõóñëîâèÿõ ðàâíî:(==())âûáðîñàìènn+1x +1 z:n+1Âèäíî, ÷òî ýòà îöåíêà ìîæåò îêàçàòüñÿ âåñüìà äàëåêîé îò a, åñëè÷èñëî jz j äîñòàòî÷íî âåëèêî.  ýòîì ïðèìåðå è ïðè ýòîì ñïîñîáåîöåíèâàíèÿ äàæå åäèíè÷íûé âûáðîñ (åäèíè÷íîå íàáëþäåíèå) ìîæåò ñêîëü óãîäíî ñèëüíî ïîâëèÿòü íà ðåçóëüòàò.
 ýòîì ñìûñëåñðåäíåå àðèìåòè÷åñêîå íå ÿâëÿåòñÿ óñòîé÷èâîé îöåíêîé a (öåíòðà ðàñïðåäåëåíèÿ).Èíûå ñâîéñòâà ó âûáîðî÷íîé ìåäèàíû. Ïóñòü, x(1) x(2) : : : x(n 1) x(n) âàðèàöèîííûé ðÿä è, äëÿ îïðåäåëåííîñòè,x(m) x(m+1)n m. Òîãäà n. Ïðåäïîëîæèì, ÷òî z > x(m+1) .Òîãäà âûáîðî÷íàÿ ìåäèàíà n+1 "çàñîðåííîé" ñîâîêóïíîñòè ðàâíà med x1 ; : : : ; xn ; zx(m+1) : Âèäíî, ÷òî ðàçíèöà ìåæäó n+1=2=(174)=+2è n ìàëà, êàê áû íè áûëî âåëèêî z . Ïðè áîëüøèõ 1=n ýòà ðàçíè; â òî âðåìÿöà ïðåíåáðåæèìî ìàëà, èáî n+1 nOPnêàê òî÷íîñòü ñòàòèñòè÷åñêîãîîöåíèâàíèÿïîïîðÿäêó âåëè÷èíûpíå âûøå, ÷åì = n. Ìû ïîëó÷èëè, ÷òî âûáîðî÷íàÿ ìåäèàíà êàêîöåíêà öåíòðà ñèììåòðè÷íîãî ðàñïðåäåëåíèÿ óñòîé÷èâà ïî îòíîøåíèþ â âûáðîñàì.
Ïî-àíãëèéñêè óñòîé÷èâûå îöåíêè íàçûâàþò. Èíîãäà èõ òàê íàçûâàþò è ïî-ðóññêè:.àññìîòðèì òåïåðü âåðîÿòíîñòíîå â ïðîòèâîïîëîæíîñòü âûáîðî÷íîìó âîïëîùåíèå òîé æå èäåè. Äëÿ ïðîñòîòû áóäåì ðàññìàòðèâàòü ðàñïðåäåëåíèÿ íà ïðÿìîé.  ýòîì ñëó÷àå óäîáíûìñðåäñòâîì äëÿ îïèñàíèÿ ðàñïðåäåëåíèÿ ñëóæèò åãî óíêöèÿ ðàñïðåäåëåíèÿ, ñêàæåì F : . Ïðåäïîëîæèì, ÷òî íàñ èíòåðåñóåò íåêîòîðàÿ õàðàêòåðèñòèêà ýòîãî ðàñïðåäåëåíèÿ, ò. å.
íåêîòîðûé óíêöèîíàë T : . Äëÿ ðàñïðåäåëåíèÿ F ýòî T F . Äàëåå ïðåäïîëîæèì,÷òî ê ðàñïðåäåëåíèþ F â íåêîòîðîé äîëå ; "ïðèìåøàíî" ðàñïðåäåëåíèå âåðîÿòíîñòåé, êàê è ðàíåå, ñîñðåäîòî÷åííîåâ íåêîòîðîé òî÷êå z . Ïóñòü z îáîçíà÷àåò óíêöèþ ýòîãî âûðîæäåííîãî ðàñïðåäåëåíèÿ:1robustðîáàñòíûå()()( )01z (x) = 0äëÿx z;z (x) = 1äëÿx > z:Ôóíêöèÿ ðàñïðåäåëåíèÿ îïèñàííîé ñìåñè ðàñïðåäåëåíèé ðàâíà(1)F (x) + z (x):(15:1:1)Âîïðîñ: êàê ñêàæåòñÿ ïðèñóòñòâèå çàñîðåíèÿ íà óíêöèîíàëåT (:)? Íà ðàñïðåäåëåíèè (15.1.1) óíêöèîíàë T (:) ïðèíèìàåò çíà÷åíèå T [(1 )F + z ℄.
Îòíåñåííîå ê âëèÿíèå íà T (:) ñêàçàííîãîçàñîðåíèÿ ðàâíî 1 fT [(1 )F + z ℄ T (F )g:Ýòî âëèÿíèå èíòåðåñóåò íàñ, â ïåðâóþ î÷åðåäü, ïðè ìàëûõ .Îòñþäà âûòåêàåò ñëåäóþùååÔóíêöèåé âëèÿíèÿÎ ï ð å ä å ë å í è å 15.1.1.(âëèÿíèÿ íàóíêöèîíàë T â òî÷êå F çàñîðåíèÿ z ) íàçûâàþò ïðåäåë:h(z ) = lim 1 fT [(1 )F + z ℄ T [F ℄g;!+0(15:1:2)åñëè ýòîò ïðåäåë ñóùåñòâóåò.175Äëÿ óíêöèè âëèÿíèÿ (15.1.2) óïîòðåáëÿþò è áîëåå ñëîæíîåîáîçíà÷åíèå IF z T; F , ðàñøèðîâûâàþùåå ñìûñë ýòîãî ïîíÿòèÿ(âûøå â îïðåäåëåíèè 15.1.1 ïðèâåäåí â ñêîáêàõ; IF íà÷àëüíûåáóêâû).Âåðíåìñÿ ê íîðìàëüíîìó ðàñïðåäåëåíèþ N a; 2 , âûáîðêè èçêîòîðîãî ìû ðàññìàòðèâàëè âûøå.
Ïàðàìåòð a ìîæíî ïðåäñòàâèòü ñ ïîìîùüþ óíêöèîíàëîâ "ìàòåìàòè÷åñêîå îæèäàíèå" è"ìåäèàíà ðàñïðåäåëåíèÿ". Ïåðâûé ýòî(; )Influene Funtion(T (F ) =Z)x dF (x);1T (F ) = t, ãäå t ðåøåíèå óðàâíåíèÿ F (t) = :2Róíêöèîíàëà x dF (x) âû÷èñëåíèå óíêöèè âëèÿíèÿâòîðîé ýòîÄëÿíåñëîæíî: îðìóëà (15.1.2) ñðàçó äàåò:h(z ) = zZx dF (x):(15:1:3)Ìû âèäèì, ÷òî óíêöèÿ âëèÿíèÿ íåîãðàíè÷åííî âîçðàñòàåò (óáûâàåò) ñ ðîñòîì (óáûâàíèåì) z , ÷òî è îòðàæàåò íåóñòîé÷èâîñòü ýòîãî óíêöèîíàëà ê çàñîðåíèÿì.Ôóíêöèÿ âëèÿíèÿ äëÿ ìåäèàíû òðåáóåò íåñêîëüêî áîëüøèõâû÷èñëåíèé. Îáîçíà÷èì ÷åðåç t ìåäèàíó ðàñïðåäåëåíèÿ (15.1.1).Ïðè ýòîì ìåäèàíà ðàñïðåäåëåíèÿ F ïîëó÷àåò îáîçíà÷åíèå t0 , àèñêîìàÿ óíêöèÿ âëèÿíèÿh(z ) =Òàê êàê t êàê óíêöèÿ îòóðàâíåíèÿt :(1t : =0îïðåäåëÿåòñÿ íåÿâíî ñ ïîìîùüþ12(15:1:4))F (t) + z (t) = ;òî è ïðîèçâîäíóþ å¼ íåîáõîäèìî èñêàòü êàê ïðîèçâîäíóþ íåÿâíîéóíêöèè.Çàìåòèì, ÷òî â òî÷êå z t0 óíêöèÿ âëèÿíèÿ h z.
Ïîýòîìó äàëåå ðàññìîòðèì ñëó÷àé z 6 t0 . Îáðàòèì âíèìàíèå, ÷òî äëÿèêñèðîâàííîãî z è äîñòàòî÷íî ìàëûõ =z (t ) = 21 [ sign(t0176( )=0=z ) + 1 ℄:=Ïîäñòàâèì tt â óðàâíåíèå (15.1.4). Ïîëó÷èì òîæäåñòâî,êîòîðîå ïðè äîñòàòî÷íî ìàëûõ > èìååò âèä:012Âû÷èñëèâ ïðîèçâîäíóþ ïî è ïîëîæèâ çàòåì = 0, ïîëó÷èìt 11F (t ) + (1 )F (t ) + sign(t0 z ) + = 0: =0 22=0(1)F (t ) +2 [ sign(t0z) + 1 ℄ = :0Îòñþäàh(z ) =( ) 0(zsignt0 )2F (t0 )0;(15:1:5)=åñëè F t0 > . Ôîðìóëà âåðíà è äëÿ z t0 .Ìû âèäèì, ÷òî êàê óíêöèÿ z óíêöèÿ âëèÿíèÿ îãðàíè÷åíà.Ýòî îçíà÷àåò óæå çíàêîìîå íàì ñâîéñòâî ìåäèàíû: ýòîò óíêöèîíàë óñòîé÷èâ ê çàñîðåíèÿì.0 2.