В.Е. Бенинг - Дополнительные главы математической статистики (1129320), страница 15
Текст из файла (страница 15)
pUSTX Xn = (X1 ; ; Xn ) { NEZAWISIMYE ODINAKOWO RAW-NOMERNO RASPREDEL<NNYE NABL@DENIQXi R(0; ); i = 1; ; n:tOGDAn2n ; D X =X:En X(n) =n(n)in in+1(n + 1)2 (n + 2) ; X(n) = 1 maxi ZNA^IT OCENKA1Xn (Xn ) = n +n (n)lEKCIQ12812QWLQETSQ SOSTOQTELXNOJ DLQ PARAMETRA > 0.tEOREMA 12.1.2. pUSTX n (Xn ) SOSTOQTELXNAQ OCENKA FUNKCII g() IFUNKCIQ h(t) NEPRERYWNA W TO^KE g() DLQ KAVDOGO 2 , TOGDA OCENKAh(n (Xn )) QWLQETSQ SOSTOQTELXNOJ DLQ FUNKCII h(g()).dOKAZATELXSTWO.
fIKSIRUEM I OBOZNA^IM a = g(). iZ NEPRERYWNOSTI FUNKCII h(t) W TO^KE a SLEDUET, ^TO DLQ L@BOGO " > 0 SU]ESTWUET = (") > 0 TAKOE, ^TO ESLI jt ; aj < , TOjh(t) ; h(a)j < ":oTS@DA SLEDUET, ^TOPn jh(n (Xn )) ; h(g())j < "Pn jn (Xn ) ; g()j < == 1 ; Pn jn (Xn ) ; g()j ;PO\TOMUPn jh(n (Xn )) ; h(g())jPn jn (Xn ) ; g()j" ! 0; n ! 1;DLQ WSEH 2 :pRIMER 12.1.3. pUSTX Xn = (X1 ; ; Xn ) { NEZAWISIMYE ODINAKOWO RAW-NOMERNO RASPREDEL<NNYE NABL@DENIQXi R(0; );i = 1; ; n:tOGDA IZ \TOJ tEOREMY I pRIMERA 12.1.2 SLEDUET, ^TO OCENKAn (Xn ) = arctan X(n) (n + 1)=nQWLQETSQ SOSTOQTELXNOJ OCENKOJ FUNKCII g() = arctan .12.2metod momentowpUSTX Xn = (X1 ; ; Xn ) { NEZAWISIMYE ODINAKOWO RASPREDEL<NNYE NABL@DENIQ, PRI^<M SU]ESTWU@T MOMENTY WIDAE X1j = j ();j = 1, ; r;DLQ WSEH 2 ;12.2.mETOD MOMENTOW129ZAWISQ]IE OT PARAMETRA = (1 ; ; r ) 2 Rr .
oPREDELIM \MPIRI^ESKIEMOMENTY (SM. lEKCI@ 6) PO FORMULEjn = n1nXi=1Xij ;j = 1; ; r:pREDPOLOVIM, ^TO OCENIWAEMAQ FUNKCIQ g() PREDSTAWIMA W WIDE NEPRERYWNOJ FUNKCII OT1 (), ,r (),TO ESTXg() = h(1 (); ; r ()):tOGDA OCENKOJ g() PO METODU MOMENTOW NAZYWAETSQ OCENKA WIDAn(Xn ) = h(1n ; ; rn):nEPRERYWNOSTX FUNKCII h I MNOGOMERNYJ WARIANT tEOREMY 12.1.2 OBESPE^IWA@T SOSTOQTELXNOSTX OCENKI n(Xn ), POSKOLXKU W SILU zAKONA bOLX[IH~ISEL (SM. lEKCI@ 4, P.6)Pnjn ;!j (); j = 1; ; r;DLQ WSEH 2 I PO\TOMUPnn (Xn) ;!h(1 (); ; r ()) = g() DLQ WSEH 2 :eSLI Rr I g() = , TO OCENKA PO METODU MOMENTOW NAHODITSQ KAKRE[ENIE SISTEMY URAWNENIJj () = jn; j = 1; ; r;PRINADLEVA]EE .
eSLI \TA SISTEMA DOPUSKAE ODNOZNA^NOE I NEPRERYWNOERE[ENIE = H (1n ; ; rn );TO W KA^ESTWE OCENKI BER<M OCENKU WIDAn (Xn) = H (1n; ; rn):pOSKOLXKU H (1 (); ; r ());lEKCIQ13012TO OPQTX W SILU NEPRERYWNOSTI FUNKCII H , IMEEMPnn (Xn ) = H (1n ; ; rn ) ;!H (1 (); ; r ()) = ; DLQ WSEH 2 :tAKIM OBRAZOM n(Xn ) { SOSTOQTELXNAQ OCENKA.pRIMER 12.2.1. pUSTX Xn = (X1 ; ; Xn ) { NEZAWISIMYE ODINAKOWO RASPREDEL<NNYE NABL@DENIQ, IME@]IE PLOTNOSTXp (x) = e;x; x > 0; > 0:nAJD<M OCENKU PO METODU MOMENTOW DLQ , ISPOLXZUQ TOLXKO WTOROJ MOMENT.2 () =1Z0e;xx2 dx = ;1Z0x2 de;x1= 2 xe;x dx = 22 :Z0pO\TOMU IMEEM URAWNENIEn2 = = 1X22n2n Xii=1I ZNA^IT OCENKA PO METODU MOMENTOW IMEET WIDn (Xn) = s 1n12n12.3Pi=1Xi2Pn;!; DLQ WSEH > 0:metod maksimalxnogoprawdopodobiqrASSMOTRIM E]< ODIN METOD POSTROENIQ OCENOK, PRIWODQ]IJ K RAZUMNYMREZULXTATAM. pOSKOLXKU MY RASSMATRIWAEM TOLXKO DOMINIRUEMYE STATISTI^ESKIE STRUKTURY (Xn; Fn; fPn ; 2 g), TO OBOZNA^IM ^EREZ pn (x); x 2Xn; 2 { PLOTNOSTX OTNOSITELXNO DOMINIRU@]EJ MERY n.oPREDELENIE 12.3.1 oCENKA ^n = ^n (Xn ) NAZYWAAETSQ OCENKOJ MAKSIMALXNOGO PRAWDOPODOBIQ, ESLILn(^n ; xn) = sup Ln(; xn);2GDE ^EREZLn(; xn) = pn (xn)12.3.mETOD MAKSIMALXNOGO PRAWDOPODOBIQOBOZNA^ENA FUNKCIQ PRAWDOPODOBIQ.rASSMOTRIM TEPERX NEKOTORYE SWOJSTWA OCENOK MAKSIMALXNOGO PRAWDOPODOBIQ, PRI^<M BUDEM S^ITATX n, SNA^ALA, FIKSIROWANNYM I PO\TOMU BUDEMOPUSKATX INDEKS n W OBOZNA^ENIQH.zAMETIM, ^TO OCENKA MAKSIMALXNOGO PRAWDOPODOBIQ MOVET NE SU]ESTWOWATX, MOVET OPREDELQTXSQ NEODNOZNA^NO ILI MOVET NE BYTX OPTIMALXNOJ.oDNAKO POKAVEM NA \WRISTI^ESKOM UROWNE, ^TO TIPI^NYM OBRAZOM METODMAKSIMALXNOGO PRAWDOPODOBIQ PRIWODIT K RAZUMNYM REZULXTATAM.pUSTX NABL@DENIE IMEET DISKRETNOE RASPREDELENIE IL(; x) = P (X = x); x 2 X ; 2 :pREDPOLOVIM, ^TO MY NABL@DAEM KONKRETNOE ZNA^ENIE X = x, TOGDA POSKOLXKU OBY^NO PROISHODQT SOBYTIQ, IME@]IE NAIBOLX[U@ WEROQTNOSTX,TO \TOMU ZNA^ENI@ x SOOTWETSTWUET MAKSIMIZIRU@]EE FUNKCI@ PRAWDOPODOBIQ L(; x) PRI FIKSIROWANNOM x 2 X .sPRAWEDLIWY SLEDU@]IE SWOJSTWA OCENOK MAKSIMALXNOGO PRAWDOPODOBIQ.1) w REGULQRNOM SLU^AE OCENKA MAKSIMALXNOGO PRAWDOPODOBIQ UDOWLETWORQET URAWNENI@@ L(; x) @ ^ = 0:=(x)2) eSLI W REGULQRNOM SLU^AE SU]ESTWUET \FFEKTIWNAQ OCENKA (X ) PARAMETRA , TO(X ) = ^(X );POSKOLXKU (SM.
tEOREMU 11.2.1) W \TOM SLU^AEI ZNA^IT@ log L(; x) = A()((x) ; ) = 0@(X ) = ^(X ):3) eSLI SU]ESTUET DOSTATO^NAQ STATISTIKA T = T (X ) I SU]ESTWUET OCENKA MAKSIMALXNOGO PRAWDOPODOBIQ ^(X ), TO ONA ZAWISIT OT X TOLXKO^EREZ DOSTATO^NU@ STATISTIKU T (X )^(X ) = (T (X ));131lEKCIQ13212POSKOLXKU PO KRITERI@ FAKTORIZACII (tEOREMA 7.1.3)L(; x) = h(x)g (T (x))I MAKSIMIZACIQ L(; x) PO SWODITSQ K MAKSIMIZACII g (T (x)).tEOREMA 12.3.1.
(pRINCIP INWARIANTNOSTI OCENOK MAKSIMALXNOGO PRAWDOPODOBIQ) pUSTX OCENIWAEMAQ FUNKCIQ g() IZMERIMA Ig : ;! ;:tOGDA, ESLI ^(X ) { OCENKA MAKSIMALXNOGO PRAWDOPODOBIQ DLQ PARAMETRA ,TO g(^(X )) { OCENKA MAKSIMALXNOGO PRAWDOPODOBIQ DLQ g().dOKAZATELXSTWO. oBY^NO S^ITA@T, ^TO g() { WZAIMNOODNOZNA^NAQFUNKCIQ.
zDESX MY \TOGO NE PREDPOLAGAEM. dLQ KAVDOGO g 2 ; OPREDELIMMNOVESTWAZ (g) = f 2 : g() = gg = g;1 (g):tOGDA OCENKOJ MAKSIMALXNOGO PRAWDOPODOBIQ DLQ FUNKCII g() NAZYWAETSQOCENKA g^(x) TAKAQ, ^TOsup L(; x) = sup sup L(; x) = sup L(; x):pUSTXg2; 2Z (g)2Z (^g(x))M (g; x) = sup L(; x);2Z (g)g2;I ^(x) { OCENKA MAKSIMALXNOGO PRAWDOPODOBIQ DLQ .tOGDA SU]ESTWUET \LEMENT g~(x) 2 ; TAKOJ, ^TO^(x) 2 Z (~g(x));PO\TOMUL(^(x); x)) sup L(; x) = M (~g(x); x) 2Z (~g(x)) sup M (g; x) = sup sup L(; x) = sup L(; x) = L(^(x); x):g2;oTS@DA SLEDUET, ^TOg2; 2Z (g)M (~g(x); x) = sup M (g; x)g 2;I ZNA^IT g~(x) { OCENKA MAKSIMALXNOGO PRAWDOPODOBIQ DLQ g(), TO ESTXg~(x) = g^(x) I^(x) 2 Z (~g(x)) = Z (^g(x));12.3.PO\TOMUmETOD MAKSIMALXNOGO PRAWDOPODOBIQg^(x) = g(^(x)):pRIMER 12.3.1.
pUSTX Xn = (X1 ; ; Xn ) { NEZAWISIMYE NORMALXNO RASPREDEL<NNYE NABL@DENIQXi N (; 1); i = 1; ; n; 2 R1 :tOGDA, POSKOLXKU, OCENKA WIDAX = n1nXi=1XiQWLQETSQ OCENKOJ MAKSIMALXNOGO PRAWDOPODOBIQ DLQ PARAMETRA , TO OCENKOJ MAKSIMALXNOGO PRAWDOPODOBIQ DLQ FUNKCIIg() = (x ; ) = P (X1 < x) (x FIKSIROWANO)BUDET (x ; X ).13313412.4lEKCIQ12spisok literatury1) |. lEMAN, tEORIQ tO^E^NOGO oCENIWANIQ,mOSKWA, nAUKA, 1991, gLAWA 5, < 1.2) g.i. iW^ENKO, `.i. mEDWEDEW, mATEMATI^ESKAQ sTATISTIKA,mOSKWA, wYS[AQ {KOLA, 1992, gLAWA 2, < 2.4, < 2.5.3) {.
zAKS, tEORIQ sTATISTI^ESKIH wYWODOW,mOSKWA, mIR, 1975, gLAWA 4, < 4.5, gLAWA 5, < 5.1.4) a.a. bOROWKOW, mATEMATI^ESKAQ sTATISTIKA,mOSKWA, nAUKA, 1984, gLAWA 2, < 4, < 6.lEKCIQ 13w lEKCII DOKAZYWAETSQ SOSTOQTELXNOSTX I ASIMPTOTI^ESKAQ NORMALXNOSTX OCENOK MAKSIMALXNOGO PRAWDOPODOBIQ.13.1asimptoti~eskie swojstwaocenok maksimalxnogo prawdopodobiq-pUSTX TEPERX NABL@DENIQ IME@T WID Xn = (X1 ; ; Xn); n 2 N, GDE Xi {NEZAWISIMY I ODINAKOWO RASPREDELENY S OB]EJ PLOTNOSTX@ p (x); 2 .dOKAVEM, SOSTOQTELXNOSTX OCENOK MAKSIMALXNOGO PRAWDOPODOBIQ ^n(Xn ).tEOREMA 13.1.1. (sOSTOQTELXNOSTX OCENOK MAKSIMALXNOGO PRAWDOPODOBIQ) pUSTX Rk { OTKRYTOE OGRANI^ENNOE MNOVESTWO I 0 2 . pUSTXWYPOLNENY SLEDU@]IE USLOWIQ REGULQRNOSTI1) mNOVESTWOfx 2 X : p (x) > 0gNE ZAWISIT OT 2 .2) dLQ L@BOGO 2 ; 6= 0 SPRAWEDLIWO NERAWENSTWOZjp (x) ; p0 (x)jd (x) > 0:3) dLQ L@BOGO x 2 X PLOTNOSTX p (x) NEPRERYWNA PO 2 , GDE {ZAMYKANIE MNOVESTWA .135lEKCIQ136134) dLQ L@BOGO 2 E0 jl (X1 )j =Zjl (x)jp0 (x)d (x) < 1;GDEl (x) = log p (x):5) dLQ L@BOGO 2 SU]ESTWUET OKRESTNOSTX U ; 2 U TAKAQ,^TOE0 j sup l1 (X1 )j < 1:1 2UoPREDELIM OCENKU MAKSIMALXNOGO PRAWDOPODOBIQ ^n(Xn) KAKnXi=1log p^n (Xn ) (Xi ) = supnX2 i=1log p (Xi ):tOGDA OCENKA MAKSIMALXNOGO PRAWDOPODOBIQ ^n(Xn ) SOSTOQTELXNA, TO ESTXDLQ L@BOGO " > 0Pn0 k^n (Xn ) ; 0 k " ! 0;n ! 1:dOKAZATELXSTWO.
dOKAVEM SNA^ALA WSPOMOGATELXNU@ lEMMU.lEMMA 13.1.1. iZ uSLOWIJ 1 I 2 SLEDUET ^TOE0 l0 (X1 ) > E0 l (X1 );IPn0nYi=1p0 (Xi ) >nYi=1DLQ L@BOGO 2 ; 6= 0 :p (Xi ) ! 1; n ! 1;DLQ L@BOGO 2 ; 6= 0:pERWOE UTWERVDENIE lEMMY \KWIWALENTNONERAWENSTWUp (X )E0 log 1 < 0:p0 (X1 )pOSKOLXKU LOGARIFMI^ESKAQ FUNKCIQ WYPUKLA WWERH, TO IZ NERAWENSTWAjENSENA (SM. (8.2.4)) SLEDUET, ^TOp (Xp (X )E0 log 1 log E0 1 = log 1 = 0:p0 (X1 )p0 (X1 )dOKAZATELXSTWO lEMMY.13.1.aSIMPTOTI^ESKIE SWOJSTWA O M P..137.pRI^<M IZ uSLOWIQ 2 WYTEKAET, ^TO RAWENSTWO ZDESX WOZMOVNO TOLXKO PRI = 0 . zAMETIM, ^TO lEMMU MOVNO DOKAZATX BEZ ISPOLXZOWANIQ NERAWENSTWAjENSENA. dLQ \TOGO ISPOLXZUEM NERAWENSTWOlog(1 + x) x; x ;1PRI^<M RAWENSTWO ZDESX WOZMOVNO TOLXKO PRI x = 0.
iMEEM!ZZp(Xp(x)p(x)1)E0 logp0 (X1 ) = log p0 (x) p0 (x)d (x) p0 (x) ; 1 p0 (x)d (x) = 0:pRI^<M, ESLI ZDESX RAWENSTWO, TO!!p(Xp(Xp(X1)1)1)1 = P0 log p (X ) = p (X ) ; 1 = P0 p (X ) = 1 :0 10 10 1i \TO SOOTNO[ENIE PROTIWORE^IT uSLOWI@ 2. wTOROE UTWERVDENIE lEMMYSLEDUET IZ SOOTNO[ENIQ!!nnnXYY1p(X)iPn0p0 (Xi ) p (Xi ) = Pn0 n log p 0(X ) 0 = ii=1i=1i=1n p (X )X= Pn0 n1log p0(X i) ; E0 log pp0((XX1)) ;E0 log pp0((XX1)) ! 0; i 1 1i=1DLQ L@BOGO 2 ; 6= 0;!KOTOROE SLEDUET IZ zAKONA bOLX[IH ~ISEL I DOKAZANNOGO NERAWENSTWAp (X )E0 log 0 1 > 0:p (X1 )zAMETIM, ^TO OCENKA MAKSIMALXNOGO PRAWDOPODOBIQ ^n(Xn) DEJSTWITELXNO SU]ESTWUET, POSKOLXKU PO USLOWI@ { KOMPAKT I PLOTNOSTX p (x) NEPRERYWNA PO NA PRI L@BOM FIKSIROWANNOM x 2 X .
oBOZNA^IMU;k = f1 2 : k1 ; k < 1=kg; k = 1; 2; ; g;k (x) = sup l1 (x):1 2U;kiZ uSLOWIQ 5 SLEDUET, ^TO DLQ L@BOGO 2 SU]ESTWUET k0 () TAKOE, DLQL@BOGO k > k0 () SPRAWEDLIWO WKL@^ENIEU;k U ; E0 g;k (X1 ) < 1:lEKCIQ13813w SILU NEPRERYWNOSTI PLOTNOSTI p (x) PO 2 (uSLOWIE 3) DLQ L@BOGOx2Xg;k (x) # l (x); k ! 1:tEPERX IZ tEOREMY O MONOTONNOJ SHODIMOSTI (SM.