В.Е. Бенинг - Дополнительные главы математической статистики (1129320), страница 16
Текст из файла (страница 16)
lEKCIQ 2, P. 8) SLEDUETSHODIMOSTXE0 g;k (X1 ) # E0 l (X1 ); k ! 1:(13:1:1)w SILU DOKAZANNOJ lEMMY 13.1.1E0 l0 (X1 ) > E0 l (X1 ); 6= 0 ;PO\TOMU IZ (13.1.1) SLEDUET, ^TO DLQ L@BOGO 6= 0 SU]ESTWUET NATURALXNOEk() TAKOE, ^TOE0 l0 (X1 ) > E0 g;k() (X1 ):(13:1:2)oBOZNA^IMC = f 2 : k ; 0 k "g;TOGDA MNOVESTWO C OGRANI^ENNO I ZAMKNUTO I PO\TOMU QWLQETSQ KOMPAKTOM. oKRESTNOSTI WIDA U;k() OBRAZU@T OTKRYTOE POKRYTIE MNOVESTWA C ,PO\TOMU SU]ESTWUET KONE^NOE PODPOKRYTIE WIDAUj ;k(j ); j = 1; ; m; C m[j =1Uj ;k(j ) :oBOZNA^IMUj = Uj ;k(j ) ; gj (x) = gj ;k(j ) (x):tOGDA IZ NERAWENSTWA (13.1.2) NEPOSREDSTWENNO SLEDUET, ^TO SPRAWEDLIWYNERAWENSTWAE0 l0 (X1 ) > E0 gj (X1 ); j = 1; ; m:(13:1:3)dALEE IMEEMfXn : k^n (Xn) ; 0k "g = fXn : ^n (Xn) 2 C g I IZ \TOGO SOOTNO[ENIQ SLEDUET NERAWENSTWOPn0 (k^n (Xn ) ; 0 k ") mXj =1m[fXn : ^n (Xn) 2 Uj gj =1Pn0 (^n (Xn ) 2 Uj ):aSIMPTOTI^ESKIE SWOJSTWA O M P13.1...139.tEPERX DLQ DOKAZATELXSTWA tEOREMY DOSTATO^NO DOKAZATX, ^TO KAVDOE SLAGAEMOE W \TOJ SUMME STREMITSQ K NUL@ PRI n ! 1.rASSMOTRIM j - OE SLAGAEMOE.
pUSTX ^n(Xn) 2 Uj , TOGDA W SILU zAKONAbOLX[IH ~ISEL (SM. lEKCIQ 4, P.6)nPn01Xl(X);! E0 l0 (X1 );i0ni=1NOnnnXXPn01X11n i=1 l0 (Xi ) n i=1 l^n (Xn ) (Xi ) n i=1 gj (Xi ) ;! E0 gj (X1 );^TO PROTIWORE^IT NERAWENSTWAM (13.1.3). fORMALIZUEM TEPERX \TU IDE@.dLQ L@BOGO a 2 R1 SPRAWEDLIWO SOOTNO[ENIEfXn : ^n(Xn ) 2 Uj g [(Xn : n1nXi=1nXXn : n1 l0 (Xi ) a()[i=1)gj (Xi ) > a An [ Bn :(13:1:4)wYBEREM TEPERX a TAK, ^TOBY POLU^ITX DOKAZATELXSTWO. wOZXM<Ma = 12 E0 l0 (X1 ) + E0 gj (X1 ) ;TOGDAnXAn = Xn : n1 (l0 (Xi ) ; E0 l0 (X1 )) 21 (E0 gj (X1 ) ; E0 l0 (X1 )) :i=1()TEPERX ZAMETIM, ^TO W SILU (13.1.3) PRAWAQ ^ASTX \TOGO NERAWENSTWA STROGOMENX[E NULQ, I PO\TOMU W SILU zAKONA bOLX[IH ~ISELPn0 (An ) ! 0; n ! 1:aNALOGI^NO POLU^AEMPn0 (Bn ) ! 0; n ! 1:tEPERX UTWERVDENIE tEOREMY SLEDUET IZ SOOTNO[ENIQ (13.1.4) I NERAWENSTWAPn0 (An [ Bn ) Pn0 (An ) + Pn0 (Bn ):lEKCIQ14013zAME^ANIE 13.1.1.
zAMETIM, ^TO IZ lEMMY 13.1.1 NEPOSREDSTWENNO SLE-DUET, ^TO ESLI Rk I KONE^NO, TO OCENKA MAKSIMALXNOGO PRAWDOPODOBIQ^n (Xn ) SU]ESTWUET, EDINSTWENNA S WEROQTNOSTX@ STREMQ]EJSQ K EDINICE, ISOSTOQTELXNA.dOKAZATELXSTWO SLEDUET IZ TOGO FAKTA, ^TO W SLU^AE KONE^NOSTI OCENKAn(Xn ) SOSTOQTELXNA TOGDA I TOLXKO TOGDA, KOGDAPn (n (Xn ) = ) ! 1; n ! 1; DLQ WSEH 2 :i ZNA^ITPn0 (^n (Xn ) = 0 ) == Pn0nYi=1p0 (Xi ) >nYi=1p (Xi ) ! 1; n ! 1; DLQ WSEH 0 2 :zAMETIM, ^TO tEOREMA 13.1.1 DOKAZANA PRI WESXMA SLABYH USLOWIQH REGULQRNOSTI. w ^ASTNOSTI NE TREBUETSQ DIFFERENCIRUEMOSTX PO PLOTNOSTIp (x). pRI NALI^II UKAZANNOJ DIFFERENCIRUEMOSTI DOKAZATELXSTWO BYLOBY KORO^E I PRO]E.
pREDPOLAGAQ DIFFERENCIRUEMOSTX PLOTNOSTI p (x), DLQPOLNOTY, DOKAVEM SOSTOQTELXNOSTX OCENOK MAKSIMALXNOGO PRAWDOPODOBIQ.zAMETIM, ^TO W SLU^AE Xn = (X1 ; ; Xn ), SOWMESTNAQ PLOTNOSTX XnIMEET WIDnYpn (xn ) = p (xi ); xn = (x1 ; ; xn )i=1I ZNA^IT FUNKCIQ PRAWDOPODOBIQ I E< LOGARIFM ESTXLn(; xn) = pn (xn) =nYi=1p (xi ); ln (; xn ) = log Ln (; xn ) =nXi=1log p (xi ):pUSTX DLQ PROSTOTY { OTKRYTOE MNOVESTWO IZ R1.
nAPOMNIM, ^TO W REGULQRNOM SLU^AE OCENKA MAKSIMALXNOGO PRAWDOPODOBIQ ^n(Xn) UDOWLETWORQETURAWNENI@ PRAWDOPODOBIQn p0 (x )@ln(; xn ) l0 (; x ) = X i = 0; xn = (x1 ; ; xn ):(13:1:5)nn@pi=1 (xi )pUSTX R1 { OTKRYTOE MNOVESTWO I 0 2 .pUSTX WYPOLNENY SLEDU@]IE USLOWIQ REGULQRNOSTItEOREMA13.1.2.13.1.1) mNOVESTWOaSIMPTOTI^ESKIE SWOJSTWA O M P...141fx 2 X : p (x) > 0gNE ZAWISIT OT 2 .2) dLQ L@BOGO 2 ; 6= 0 SPRAWEDLIWO NERAWENSTWOZjp (x) ; p0 (x)jd (x) > 0:3) dLQ { PO^TI WSEH x 2 X PLOTNOSTX p (x) DIFFERENCIRUEMA PO 2 I EE PROIZWODNAQ ESTX p0 (x).tOGDA S WEROQTNOSTX@, STREMQ]EJSQ K EDINICE PRI n ! 1, URAWNENIEPRAWDOPODOBIQ (13.1.5) IMEET KORENX ~n(Xn ), TAKOJ ^TO DLQ L@BOGO " > 0Pn0 (j~n (Xn ) ; 0 j > ") ! 0; n ! 1:dOKAZATELXSTWO. pUSTX " > 0 STOLX MALO, ^TO (0 ; "; 0 + ") IPUSTXDn = fxn : ln(0 ; xn ) > ln (0 ; "; xn); ln(0 ; xn) > ln (0 + "; xn)g:tOGDA IZ lEMMY 13.1.1 SLEDUET, ^TOPn0 (Dn ) ! 1; n ! 1:pO\TOMU DLQ L@BOGO Xn 2 Dn SU]ESTWUET TO^KA ~n(Xn ; "), TAKAQ ^TO~n (Xn ; ") 2 (0 ; "; 0 + ") I W KOTOROJ FUNKCIQ PRAWDOPODOBIQ ln(; Xn)IMEET LOKALXNYJ MAKSIMUM, TAK ^TOln0 (~n (Xn; "); Xn) = 0:sLEDOWATELXNO DLQ L@BOGO DOSTATO^NO MALOGO " > 0 SU]ESTWUET POSLEDOWATELXNOSTX KORNEJ ~n (Xn; ") \TOGO URAWNENIQ, TAKAQ ^TOPn0 (j~n (Xn ; ") ; 0 j > ") ! 0; n ! 1:oSTA<TSQ POKAZATX, ^TO MY MOVEM OPREDELITX TAKU@ POSLEDOWATELXNOSTX,KOTORAQ OT " NE ZAWISIT.
pUSTX ~n(Xn ) { KORENX, BLIVAJ[IJ K 0. oN SU]ESTWUET, POTOMU ^TO PREDEL POSLEDOWATELXNOSTI KORNEJ WNOWX ESTX KORENXW SILU NEPRERYWNOSTI FUNKCIQ PRAWDOPODOBIQ ln (; Xn). tOGDA QSNO, ^TOPn0 (j~n (Xn ) ; 0 j > ") ! 0; n ! 1:zAME^ANIQ.142lEKCIQ131) dOKAZANNAQ tEOREMA NE USTANAWLIWAET SU]ESTWOWANIE SOSTOQTELXNOJ POSLEDOWATELXNOSTI OCENOK, POSKOLXKU KOGDA ISTINNOE ZNA^ENIE0 NEIZWESTNO, DANNYE NE UKAZYWA@T NAM, KAKOJ KORENX WYBIRATX, ^TOBY POLU^ITX SOSTOQTELXNU@ POSLEDOWATELXNOSTX. iSKL@^ENIEM, KONE^NO, QWLQETSQ SLU^AJ, KOGDA KORENX EDINSTWENNYJ.2) sLEDUET POD^ERKNUTX TAKVE, ^TO SU]ESTWOWANIE KORNQ ~n (xn ) PRI WSEHxn (ILI DLQ L@BOGO n PRI ZADANNOM xn) NE UTWERVDAETSQ. |TO NE WLIQET NA SOSTOQTELXNOSTX, DLQ KOTOROJ TREBUETSQ LI[X, ^TOBY OCENKA~n (xn) BYLA OPREDELENA NA MNOVESTWE, WEROQTNOSTX KOTOROGO STREMITSQ K EDINICE PRI n ! 1.3) eSLI W PREDPOLOVENIH tEOREMY 13.1.2 URAWNENIE PRAWDOPODOBIQ (13.1.5)IMEET EDINSTWENNYJ KORENX ~n(xn) DLQ KAVDOGO n I WSEH xn , TO ~n(Xn)ESTX SOSTOQTELXNAQ POSLEDOWATELXNOSTX OCENOK DLQ .
eSLI, KROME TOGO, PARAMETRI^ESKOE PROSTRANSTWO ESTX OTKRYTYJ INTERWAL (c; d)(NE OBQZATELXNO KONE^NYJ), TO S WEROQTNOSTX@, STREMQ]EJSQ K EDINICE, ~n(Xn ) MAKSIMIZIRUET FUNKCI@ PRAWDOPODOBIQ, TO ESTX QWLQETSQOCENKOJ MAKSIMALXNOGO PRAWDOPODOBIQ, KOTORAQ QWLQETSQ SOSTOQTELXNOJ.pERWOE UTWERVDENIE O^EWIDNO. ~TOBY DOKAZATX WTOROE, PREDPOLOVIM,TO WEROQTNOSTX TOGO, ^TO ~n (Xn) ESTX OCENKA MAKSIMALXNOGO PRAWDOPODOBIQ, NE STREMITSQ K EDINICE. tOGDA PRI DOSTATO^NO BOLX[IH nFUNKCIQ PRAWDOPODOBIQ DOLVNA STREMITXSQ S POLOVITELXNOJ WEROQTNOSTX@ K SWOEMU SUPREMUMU, KOGDA STREMITSQ K c ILI K d. nO S WEROQTNOSTX@, STREMQ]EJSQ K EDINICE, ~n(Xn ) ESTX TO^KA LOKALXNOGOMAKSIMUMA FUNKCII PRAWDOPODOBIQ, KOTORAQ DOLVNA TOGDA OBLADATXTAKVE I LOKALXNYM MINIMUMOM. |TO PROTIWORE^IT PREDPOLOVENI@ OEDINSTWENNOSTI KORNQ.tEOREMA 13.1.2 USTANAWLIWAET SU]ESTWOWANIE SOSTOQTELXNOGO KORNQ URAWNENIQ PRAWDOPODOBIQ (13.1.5).
sLEDU@]AQ tEOREMA UTWERVDAET, ^TO L@BAQTAKAQ POSLEDOWATELXNOSTX ASIMPTOTI^ESKI NORMALXNA.tEOREMA 13.1.3. pUSTX 0 2 I WYPOLNENY SLEDU@]IE USLOWIQ REGULQRNOSTI.1) pARAMETRI^ESKOE PROSTRANSTWO ESTX OTKRYTYJ INTERWAL (NEOBQZATELXNO KONE^NYJ).2) mNOVESTWOA = fx 2 X : p (x) > 0g13.1.aSIMPTOTI^ESKIE SWOJSTWA O M P..143.NE ZAWISIT OT 2 .3) pLOTNOSTX p (x) TRIVDY DIFFERENCIRUEMA PO 2 W NEKOTOROJOKRESTNOSTI TO^KI 0 PRI KAVDOM x 2 A I TRETXQ EE PROIZWODNAQNEPRERYWNA PO 2 W \TOJ OKRESTNOSTI.4) iNTEGRAL WIDAZp (x)d (x)MOVNO DWAVDY DIFFERENCIROWATX PO 2 POD ZNAKOM INTEGRALA WTO^KE 0.5) fI[EROWSKAQ INFORMACIQ (SM. oPREDELENIE 11.1.1) I (0 ), GDE2@logp(X1)I ( ) = E @TAKOWA, ^TO 0 < I (0 ) < 1.6) sU]ESTWU@T OKRESTNOSTX TO^KI 0 I FUNKCIQ M (x) 0 TAKIE,^TO W \TOJ OKRESTNOSTI 3 @ log p (x) @3 M (x); DLQ WSEH x 2 AIE0 M (X1 ) < 1:tOGDA L@BAQ SOSTOQTELXNAQ POSLEDOWATELXNOSTX ~n(Xn) KORNEJ URAWNENIQPRAWDOPODOBIQ (13.1.5) ASIMPTOTI^ESKI NORMALXNAPn0pn(~ (X ) ; ) < x ! I ( )x ; n ! 1:n n00qdOKAZATELXSTWO.
wYBEREM " > 0 TAK, ^TOBY INTERWAL (0 ; "; 0 + ")PRINADLEVAL OKRESTNOSTI IZ FORMULIROWKI tEOREMY. tOGDA PRI FIKSIROWANNOM x I DOSTATO^NO BOLX[OM nPn0pn(~ (X ) ; ) < x = P pn(~ (X ) ; ) < x; j~ (X ) ; j < " +n n0n n0n n0n0+Pn0pn(~ (X ) ; ) < x; j~ (X ) ; j " =n n0n n0lEKCIQ144= Pn0+Pn013;pn" < pn(~n(Xn ) ; 0) < x +pn(~ (X ) ; ) < x; j~ (X ) ; j " :n n0n n0(13:1:6)pRI^<M, DLQ WTOROGO SLAGAEMOGO SPRAWEDLIWA OCENKAPn0pn(~ (X ) ; ) < x; j~ (X ) ; j " n n0n n0Pn0 j~n (Xn ) ; 0 j "I PRAWAQ ^ASTX \TOGO NERAWENSTWA STREMITSQ K NUL@ W SILU tEOREMY 13.1.2.tAKIM OBRAZOM IZ RAWENSTWA (13.1.6) SLEDUET, ^TO DOSTATO^NO POKAZATX, ^TOPn0;pn" < pn(~n(Xn ) ; 0) < x ! I (0 )x ; n ! 1: (13:1:7)qpUSTX ~n(Xn ) 2 (0 ; "; 0 + "), TOGDA PO FORMULE tEJLORA MOVNO ZAPISATXln0 (~n (Xn); Xn ) = ln0 (0; Xn )+(~n (Xn );0 )ln00 (0 ; Xn)+ 21 (~n(Xn );0 )2 ln000 (n ; Xn );GDE n LEVIT MEVDU 0 I ~n(Xn ). pO PREDPOLOVENI@ LEWAQ ^ASTX \TOGO RAWENSTWA RAWNA NUL@, PO\TOMU; p1n ln0 (0 ; Xn)pn~ (X ) ; =: (13:1:8)n n01 ~1 000 1 00n ln (0 ; Xn ) + 2 (n (Xn ) ; 0 ) n ln (n ; Xn )rASSMOTRIM ^ISLITELX DROBI (13.1.8).
oN IMEET WID SUMMY NEZAWISIMYHODINAKOWO RASPREDEL<NNYH SLU^AJNYH WELI^INn 0Xi); p1n ln0 (0 ; Xn) = ; p1n pp0 ((X;i=1 0 Xi )PO\TOMU IZ cENTRALXNOJ pREDELXNOJ tEOREMY (SM. lEKCIQ 4, P. 5) SLEDUETSLABAQ SHODIMOSTX; p1n ln0 (0; Xn) =) N (0; I (0)); n ! 1:rASSMOTRIM TEPERX ZNAMENATELX WYRAVENIQ (13.1.8). iMEEMn @ 2 log p (X )1 l00 ( ; X ) = 1 X0 i ;n n 0 n n i=1@2(13:1:9)13.1.aSIMPTOTI^ESKIE SWOJSTWA O M P...PO\TOMU IZ zAKONA bOLX[IH ~ISEL (SM.
lEKCIQ 4, P. 6) I WTOROGO UTWERVDENIQ tEOREMY 11.1.3 SLEDUET SHODIMOSTX1 l00 ( ; X ) P;!@ 2 log p0 (X1 ) = ;I ( ); n ! 1:n0E(13:1:10)0n00nn@2rASSMOTRIM TEPERX POSLEDNEE SLAGAEMOE W ZNAMENATELE WYRAVENIQ (13.1.8).sPRAWEDLIWA OCENKAn @ 3 log p (X ) 1 j(~ (X ) ; )l000 ( ; X )j 1 j~ (X ) ; j Xn i 0 n nn2n n nn n n 0 i=1 @3nX j~n (Xn) ; 0j n1 M (Xi ):i=1pOSKOLXKU PO USLOWI@ tEOREMY ~n(Xn) SOSTOQTELXNA, TO S U^<TOM zAKONAbOLX[IH ~ISEL IMEEMj~n (Xn) ; 0 j n1PO\TOMUnXi=1Pn0M (Xi ) ;!0 E0 M (X1 ) = 0;1 j(~ (X ) ; )l000 ( ; X )j P;!n00:(13:1:11)nn0 n nn2ntEPERX IZ SOOTNO[ENIJ (13.1.8) { (13.1.11) SLEDUET UTWERVDENIE tEOREMY.sLEDSTWIE 13.1.1.