В.Е. Бенинг - Дополнительные главы математической статистики (1129320), страница 14
Текст из файла (страница 14)
lEKCI@ 6) SEMEJSTWA P .dOKAZATELXSTWO. rASSMOTRIM FUNKCI@S (x; ) = pp+(x()x) ; 1(11:1:5)TOGDA ONA UDOWLETWORQET USLOWIQM tEOREMY 11.1.1, POSKOLXKUE S (X; ) 0; DLQ WSEH 2 I, SLEDOWATELXNOCov 0 (X ); S (X; ) = E 0 (X )S (X; ) =pRI \TOM= E+ 0 (X ) ; E 0 (X ) 0;; + 2 :DLQ WSEHCov (X ); S (X; ) = E (X )S (X; ) = g( + ) ; g():pO\TOMU NERAWENSTWO (11.1.2) PRINIMAET WIDD (X )g( + ) ; g()(X )E pp+ (X );122:zAME^ANIQ.1) zAMETIM, ^TO NERAWENSTWO (11.1.4) IMEET SMYSL, ESLI 2 I + 2 TAKOWY, ^TOg() 6= g( + ):2) pOSKOLXKU NERAWENSTWO (11.1.4) WYPOLNENO PRI WSEH TAKIH, ^TO + 2 , TO EGO MOVNO ZAPISATX W WIDED (X ) sup:+22g( + ) ; g()2 ;(X )E pp+;1 (X )DLQ WSEH 2 :11.1.iNFORMACIONNOE NERAWENSTWO1173) uSLOWIEp (x) > 0; DLQ WSEH 2 ; x 2 XMOVNO NESKOLXKO OSLABITX.
oBOZNA^IMA() = fx 2 X : p (x) > 0g:tOGDA NERAWENSTWO (11.1.4) WYPOLNENO, ESLI \TO USLOWIE ZAMENITX NAA( + ) A():pRI \TOM SPRAWEDLIWO NERAWENSTWOD (X ) sup2B ()2g( + ) ; g()2 ;(X )E pp+;1 (X )GDE B () = f : + 2 ; A( + ) A()g; DLQ WSEH 2 :pRI WYPOLNENII NEKOTORYH USLOWIJ REGLQRNOSTI (SM. NIVE uSLOWIE R),KLASSI^ESKOE INFORMACIONNOE NERAWENSTWO POLU^AETSQ, ESLI W NERAWENSTWE(11.1.4) USTREMITX K NUL@. nERAWENSTWO (11.1.4) NE IZMENITSQ ESLI FUNKCI@ S (x; ) ZAMENITX NA WYRAVENIEp+(x) ; p (x) 1 ;p (x)KOTOROE STREMITSQ K@p (x) 1@ p (x)PRI ! 0, ESLI PLOTNOSTX p (x) DIFFERENCIRUEMA PO 2 , A WYRAVENIEg() ; g( + )ZAMENITX NA OTNO[ENIEg() ; g( + ) ;0KOTOROE STREMITSQ K g () PRI ! 0, ESLI g() DIFFERENCIRUEMAQ PO 2 FUNKCIQ.tAKIM OBRAZOM, KAVETSQ PRAWDOPODOBNYM, ^TO W KA^ESTWE FUNKCII S (x; )W (11.1.5) MOVNO RASSMOTRETX WYRAVENIE (x) 1 :S (x; ) = @p@(11:1:6)p (x)lEKCIQ11811pOSKOLXKU DLQ L@BOJ NESME]<NNOJ OCENKI NULQ 0(X ) WYPOLNQETSQ TOVDESTWO (PRI USLOWII DIFFERENCIRUEMOSTI E 0(X ) PO )d E 0 (X ) 0; DLQ WSEH 2 ;dTO FUNKCIQ S (x; ) BUDET UDOWLETWORQTX SOOTNO[ENI@ (11.1.3) PRI USLOWII,^TO WYRAVENIEZE 0 (X ) = 0 (x)p (x)d (x)MOVNO DIFFERENCIROWATX PO 2 POD ZNAKOM INTEGRALA PRI WSEH 0 (X ).~TOBY POLU^ITX OKON^ATELXNU@ NIVN@@ GRANICU DISPERSII, POLOVIM (x) ;p0 (x) = @p@TOGDAZCov (X ); S (X; ) = (x)p0 (x)d (x):eSLI W TOVDESTWEZ(x)p (x)d (x) g()DOPUSKAETSQ DIFFERENCIROWANIE PO 2 POD ZNAKOM INTEGRALA, TO OTS@DASLEDUET, ^TOCov (X ); S (X; ) = g0 ();I SLEDOWATELXNO SPRAWEDLIWO INFORMACIONNOE NERAWENSTWO (SM.
(11.1.2))D (X )2g0 ();D @ log@p (X )DLQ WSEH 2 :(11:1:7)pREDPOLOVENIQ, PRI KOTORYH WYPOLNQETSQ \TO NERAWENSTWO, BUDUT PRIWEDENY W BOLEE FORMALXNOM WIDE W tEOREME 11.1.4.fUNKCIQ S (x; ), OPREDEL<NNAQ RAWENSTWOM (11.1.6), PREDSTAWLQET SOBOJOTNOSITELXNU@ SKOROSTX IZMENENIQ PLOTNOSTI p (x) W TO^KE x 2 X . sREDNEEZNA^ENIE KWADRATA \TOJ SKOROSTI OBOZNA^IM ^EREZ I ().oPREDELENIE 11.1.1. wELI^INAIX () I () = E @ log@p (X )!2=Zp0 (x) 2 p (x)d (x)p (x) !11.1.iNFORMACIONNOE NERAWENSTWONAZYWAETSQ INFORMACIEJ PO fI[ERU (FI[EROWSKOJ INFORMACIEJ), KOTORAQ SODERVITSQ W NABL@DENII X O PARAMETRE 2 .sFORMULIRUEM TEPERX USLOWIQ REGULQRNOSTI.uSLOWIE R.1) pARAMETRI^ESKOE MNOVESTWO QWLQETSQ OTKRYTYM MNOVESTWOM IZ R1 .2) mNOVESTWO (NOSITELX RASPREDELENIQ P )A = fx 2 X : p (x) > 0gNE ZAWISIT OT 2 .3) dLQ WSEH x IZ A I WSEH IZ FUNKCIQ p (x) DIFFERENCIRUEMA PO Id Z p (x)d (x) = Z p0 (x)d (x) < 1:d A4) dLQ WSEH x IZ A I WSEH IZ FUNKCIQ p (x) DWAVDY DIFFERENCIRUEMAPO Id Z p0 (x)d (x) = Z p00(x)d (x) < 1;d A A2 p (x) :p00 (x) = @ @25) dLQ WSEH OCENOK (X ), WSEH x IZ A I WSEH IZ FUNKCIQ p (x) DIFFE-RENCIRUEMA PO Id Z (x)p (x)d (x) = Z (x)p0 (x)d (x) < 1:dA6) fUNKCIQ g() DIFFERENCIRUEMA PO 2 .nEKOTORYE SWOJSTWA FI[EROWSKOJ INFORMACII I (), NAPRIMER E< ADDITIWNOSTX OTNOSITELXNO NEZAWISIMYH NABL@DENIJ, OPISYWA@TSQ SLEDU@]EJ tEOREMOJ.tEOREMA 11.1.3.1) eSLI WYPOLNENY uSLOWIQ R(1) { R(3), TO SPRAWEDLIWY RAWENSTWA!@logp(X) 0; DLQ WSEH 2 ;E@!I () = D @ log@p (X ) :119lEKCIQ120112) eSLI WYPOLNENY uSLOWIQ R(1), R(2) I R(4), TO SPRAWEDLIWO RAWENST-WO!2I () = ;E @ log@p2 (X ) :3) pUSTX X I Z NEZAWISIMYE NABL@DENIQ, IME@]IE PLOTNOSTI p (x)I q (x) OTNOSITELXNO MER (x) I (x).
pUSTX IX (), IZ () I IX;Z ()SOOTWETSTWENNO INFORMACII O , SODERVA]IESQ SOOTWETSTWENNO WX , Z I (X; Z ). tOGDA ESLI PLOTNOSTI p (x) I q (x) UDOWLETWORQ@TuSLOWIQM R(1) { R(3), TO SPRAWEDLIWO SOOTNO[ENIEIX;Z () = IX () + IZ ():eSLI X = (X1 ; ; Xn ) { NEZAWISIMYE ODINAKOWO RASPREDELENNYE NABL@DENIQ, DLQ PLOTNOSTEJ KOTORYH WYPOLNENY uSLOWIQ R(1) { R(3),TOIX () = nIX1 ():dOKAZATELXSTWO.1) dOKAZYWAEMOE UTWERVDENIE SLEDUET IZ uSLOWIJ R(1) { R(3), TOVDESTWAZp (x)d (x) 1I oPREDELENIQ 11.1.1 FI[EROWSKOJ INFORMACII I (X ).2) tREBUEMYJ REZULXTAT SLEDUET IZ TOVDESTWA@ 2 log p (x) 1 @ 2 p (x) ; @ log p (x) 2@2p (x) @2@POSLE WZQTIQ MATEMATI^ESKOGO OVIDANIQ E OT OBEIH ^ASTEJ.3) pO OPREDELENI@!2@logp(X)@logq(Z)IX;Z () = E+;@@PO\TOMU TREBUEMYJ REZULXTAT SLEDUET IZ SOOTNO[ENIQ!@logp(X)@logq(Z)p (X ) E @ log q (Z ) 0:E @= E @ log@@@!11.1.iNFORMACIONNOE NERAWENSTWO121wERN<MSQ TEPERX K NERAWENSTWU (11.1.7).
w SILU PERWOGO UTWERVDENIQtEOREMY 11.1.3 ZNAMENATELX W PRAWOJ ^ASTI \TOGO NERAWENSTA MOVNO ZAMENITX NA FI[EROWSKU@ IGFORMACI@ I (). w REZULXTATE POLU^AETSQ SLEDU@]AQ WERSIQ INFORMACIONNOGO NERAWENSTWA.tEOREMA 11.1.4. (nERAWENSTWO kRAMERA { rAO) pUSTX WYPOLNENY uSLOWIQ R(1) { R(3), R(5) I I () > 0. pUSTX (X ) { L@BAQ OCENKA, DLQ KOTOROJWYPOLNENO uSLOWIE R(4). tOGDA21@E (X )D (X ) @I ()!sLEDSTWIQ.1) eSLI (X ) ESTX OCENKA FUNKCII g() IE () = g() + b();GDE b() ESTX SME]ENIE OCENKI (X ), TO PRI WYPOLNENII USLOWIJtEOREMY 11.1.4, uSLOWIQ R(6) I DIFFERENCIRUEMOSTI SME]ENIQ b()SPRAWEDLIWO NERAWENSTWO20 () + b0 () 2g 0 ( ) + b0 ( )gD (X ) ; E ((X ) ; g())2 b2 ()+:I ()I ()2) eSLI = (X ), GDE X = (X1 ; ; Xn ) I NABL@DENIQ (X1 ; ; Xn ) NEZAWISIMY I ODINAKOWO RASPREDELENY, TOGDA, ESLI DLQ OTDELXNOGO NABL@DENIQ Xi WYPOLNENY USLOWIQ REGULQRNOSTI IZ PREDYDU]EGO sLEDSTWIQ, TO2g0 () + b0 ()D (X ) nIX1 () :dOKAZATELXSTWO.
|TOT REZULXTAT NEPOSREDSTWENNO SLEDUET IZ NERAWENSTWA (11.1.7) I PERWOGO UTWERVDENIQ tEOREMY 11.1.3. oDNAKO MY DADIM EGOPOLNOE DOKAZATELXSTWO (ONO FAKTI^ESKI POWTORQET DOKAZATELXSTWO tEOREMY9.2.1), POSKOLXKU IZ NEGO MOVNO POLU^ITX USLOWIQ, PRI KOTORYH INFORMACIONNOE NERAWENSTWO OBRA]AETSQ W RAWENSTWO. dIFFERENCIRUQ TOVDESTWA POZp (x)d (x) 1;Z(x)p (x)d (x) g() + b();lEKCIQ12211S ISPOLXZOWANIEM uSLOWIJ R(1) { R(3), R(5), POLU^IMZp (X ) ; DLQ WSEH0 p0 (x)d (x) = E @ log@Ag0 () + b0 () pO\TOMUZA(x)p0 (x)d (x) = E (X ) @ log@p (X ) ; 2 ;DLQ WSEH 2 :g0 () + b0 () = E (X ) ; g() ; b() @ log@p (X ) :tAKIM OBRAZOM, ISPOLXZUQ NERAWENSTWO kO[I { bUNQKOWSKOGO, MOVNO ZAPISATX!22@logp(X)g0 () + b0 () D (X )E= D (X )IX ():@zADA^A 11.1.1.
pUSTX NABL@DENIQ X = (X1 ; ; Xn ) NEZAWISIMY I ODI-NAKOWO RASPREDELENY S OB]EJ PLOTNOSTX@ p (x), KOTORAQ POLOVITELXNA PRIWSEH x 2 X I WSEH 2 . tOGDA DISPERSIQ L@BOJ NESME]<NNOJ OCENKI (X )PARAMETRA UDOWLETWORQET NERAWENSTWU( ; )2D0 (X ) R p2 (x) 0 n ; PRI WSEH 2 ; 6= 0 :p0 (x) d (x) ; 111.2|ffektiwnye ocenkirASSMOTRIM TEPERX WOPROS O TOM, KOGDA W NERAWENSTWE kRAMERA { rAO DOSTIGAETSQ RAWENSTWO.oPREDELENIE 11.2.1.
nESME]ENNAQ OCENKA (X ) DIFFERENCIRUEMOJ FUNKCII g() NAZYWAETSQ \FFEKTIWNOJ, ESLI DLQ EE DISPERSII SPRAWEDLIWO TOVDESTWO0 ( ) 2gD (X ) I () ; PRI WSEH 2 :pUSTX WYPOLNENY USLOWIQ REGULQRNOSTI IZ tEOREMY 11.1.4, TOGDA IZ \TOJtEOREMY SLEDUET, ^TO ESLI SU]ESTWUET \FFEKTIWNAQ OCENKA, TO ONA QWLQETSQ OPTIMALXNOJ I ZNA^IT tEOREMA 9.2.2 POKAZYWAET, ^TO ONA EDINSTWENNA.pROSTOJ KRITERIJ \FFEKTIWNOSTI DA<TSQ SLEDU@]EJ tEOREMOJ.11.2.tEOREMA11.2.1.|FFEKTIWNYE OCENKI123pUSTX WYPOLNENY USLOWIQ REGULQRNOSTI IZ tEOREMY11.1.4, TOGDA DLQ TOGO, ^TOBY NESME]ENNAQ OCENKA (X ) FUNKCII g() BYLA\FFEKTIWNOJ NEOBHODIMO I DOSTATO^NO, ^TOBY WYPOLNQLOSX SLEDU@]EEPREDSTAWLENIE@ log p (x) A()(x) ; g(); DLQ WSEH 2 ;@GDE A() { NEKOTORAQ FUNKCIQ .
pRI \TOMg0 () :A() dOKAZATELXSTWO. iZ DOKAZATELXSTWA tEOREMY 11.1.4 SLEDUET, ^TO W INFORMACIONNOM NERAWENSTWE DOSTIGAETSQ RAWENSTWO TOGDA I TOLXKO TOGDA,KOGDA DOSTIGAETSQ RAWENSTWO W NERAWENSTWE kO[I { bUNQKOWSKOGOD (X ) = 2@logp(X)@logp(X) D (X )E:E (X ) ; g()@@!hORO[O IZWESTNO, ^TO \TO RAWENSTWO DOSTIGAETSQ W SLU^AE LINEJNOJ ZAWISIMOSTI FUNKCIJ@ log p (x) I (x) ; g():@dALEE DLQ \FFEKTIWNOJ OCENKI (X ) IMEEM222g0 ()g0 ()D (X ) = 2 =2 =A2 ()D (X ) :E @ log@p (X )A2 ()E (X ) ; g()g 0 ( )pRIMER 11.2.1. pUSTX X = (X1 ; ; Xn ) { NEZAWISIMYE ODINAKOWO RASPREDEL<NNYE PUASSONOWSKIE NABL@DENIQXi P (); > 0; i = 1; ; n:tOGDA USLOWIQ REGULQRNOSTI tEOREMY 11.2.1 WYPOLNENY Ix1 ++xnp (x) = P (X1 = x1 ; ; Xn = xn) = e;n x ! x ! ; x = (x1 ; ; xn );1nlEKCIQ12411PO\TOMUn@ log p (X ) ;n + i=1 Xi n X ; ; DLQ WSEH > 0;@I ZNA^IT A() = n= I \FFEKTIWNAQ OCENKA DLQ PARAMETRA IMEET WIDP(X ) = X = n111.3nXi=1Xi :spisok literatury1) |.
lEMAN, tEORIQ tO^E^NOGO oCENIWANIQ,mOSKWA, nAUKA, 1991, gLAWA 1, < 6.2) g.i. iW^ENKO, `.i. mEDWEDEW, mATEMATI^ESKAQ sTATISTIKA,mOSKWA, wYS[AQ {KOLA, 1992, gLAWA 2, < 2.2.3) l.n. bOLX[EW, uTO^NENIE NERAWENSTWA kRAMERA { rAO,tEORIQ WEROQTNOSTEJ I E< PRIMENENIQ, 1961, T. 6, N. 3, STR. 319 { 326.4) {. zAKS, tEORIQ sTATISTI^ESKIH wYWODOW,mOSKWA, mIR, 1975, gLAWA 4, < 4.1.5) |.
pITMEN, oSNOWY tEORII sTATISTI^ESKIH wYWODOW,mOSKWA, mIR, 1986, gLAWA 5.lEKCIQ 12w lEKCII RASSMATRIWA@TSQ NEKOTORYE METODY POSTROENIQ OCENOK, PRIWODQ]IE K RAZUMNYM REZULXTATAM. rASSMOTRENY ASIMPTOTI^ESKIE SWOJSTWA POLU^AEMYH OCENOK.12.1sostoqtelxnye ocenkirASSMOTRIM DOMINIRUEMU@ STATISTI^ESKU@ STRUKTURU (Xn; Fn; fPn ; 2g), ZAWISQ]U@ OT PARAMETRA n 2 N, KOTORYJ MOVET INTERPRETIROWATXSQ KAK RAZMER WYBORKI (NAPRIMER, ESLI NABL@DENIE Xn, IMEET WID Xn =(X1 ; ; Xn ), GDE Xi { NEZAWISIMYE NABL@DENIQ I ISHODNAQ STATISTI^ESKAQSTRUKTURA QWLQETSQ PRQMYM PROIZWEDENIEM n STRUKTUR).
dO SIH POR MYS^ITALI RAZMER WYBORKI n FIKSIROWANNYM. pREDPOLOVIM TEPERX, ^TO PARAMETR n "BOLX[OJ", TO ESTX PUSTX n ! 1. bUDEM OBOZNA^ATX NABL@DENIQI OCENKI PARAMETRI^ESKOJ FUNKCII g() SOOTWETSTWENNO ^EREZ Xn 2 Xn In = n (Xn) I RASSMOTRIM POSLEDOWATELXNOSTI STATISTI^ESKIH STRUKTUR(Xn ; Fn ; fPn ; 2 g) I OCENOK n = n (Xn ).pREDPOLOVIM, ^TO Xn = (X1 ; ; Xn ) { NEZAWISIMYE ODINAKOWO RASPREDEL<NNYE NABL@DENIQ, IME@]IE ODINAKOWOE RASPREDELENIE P ; 2 , I ^TOMY HOTIM OCENITX FUNKCI@ g(). s ROSTOM n INFORMACII O 2 STANOWITSQ WS< BOLX[E I BLX[E, I HOTELOSX BY OVIDATX, ^TO PRI DOSTATO^NOBOLX[IH ZNA^ENIQH n MOVNO BYLO BY OCENITX g() DOSTATO^NO TO^NO.
eSLI n(Xn) { NEKOTORAQ RAZUMNAQ OCENKA FUNKCII g(), TO, KONE^NO, NELXZQOVIDATX, ^TO E< ZNA^ENIQ BLIZKI K g() DLQ WSEH KONKRETNYH ZNA^ENIJ NABL@DENIJ X1 = x1; ; Xn = xn. nO MOVNO NADEQTXSQ, ^TO n(Xn) BUDETBLIZKA K g() S BOLX[OJ WEROQTNOSTX@.|TA IDEQ FORMALIZUETSQ W SLEDU@]EM oPREDELENII, PRI \TOM NABL@DENIQ Xn NE OBQZANY IMETX WID Xn = (X1 ; ; Xn ).125lEKCIQ12612oPREDELENIE 12.1.1. pOSLEDOWATELXNOSTX OCENOK n = n (Xn ) FUNKCII g() NAZYWAETSQ SOSTOQTELXNOJ, ESLI DLQ L@BOGO " > 0 SPRAWEDLIWOSOOTNO[ENIEPn jn (Xn ) ; g()j " ! 0; n ! 1;DLQ WSEH 2 :sIMWOLI^ESKI \TO OBOZNA^AETSQ KAKPnn (Xn ) ;!g(); n ! 1; DLQ WSEH 2 :pRIMER 12.1.1. pUSTX Xn = (X1 ; ; Xn ), GDE Xi ; i = 1; ; n { NEZAWISIMYE ODINAKOWO RASPREDEL<NNYE NABL@DENIQXi N (; 1); i = 1; ; n:tOGDA W SILU zAKONA bOLX[IH ~ISELX = n1eSLI VEnXi=1PnXi ;!; n ! 1;Xi N (0; 2 );TO ANALOGI^NODLQ WSEH 2 R1 :i = 1; ; n;nS 2 = n ;1 1 (Xi ; X )2 =Xi=1nn 1XPn 22 ; X 2 ;!= n;X ; n ! 1;i1 n"#i=1DLQ WSEH 2 0:sLEDU@]AQ tEOREMA ^ASTO QWLQETSQ POLEZNOJ PRI DOKAZATELXSTWE SOSTOQTELXNOSTI.tEOREMA 12.1.1.1) pUSTX n (Xn ) { POSLEDOWATELXNOSTX OCENOK PARAMETRI^ESKOJ FUNKCII g() S FUNKCIEJ RISKARn (; n ) = c()En (n (Xn ) ; g())2 ; c() > 0:tOGDA, ESLIRn(; n) ! 0;DLQ WSEH 2 ;TO n(Xn) { SOSTOQTELXNAQ OCENKA FUNKCII g().12.1.2) pUSTXsOSTOQTELXNYE OCENKI127En n (Xn ) = g() + bn (); Dn n (Xn ) = n ():tOGDA, ESLIbn () ! 0; I n () ! 0;DLQ WSEH 2 ;TO n(Xn) { SOSTOQTELXNAQ OCENKA g().3) w ^ASTNOSTI, n (Xn ) SOSTOQTELXNA, ESLI ONA NESME]ENNAQ PRI KAVDOM n IDn n (Xn ) ! 0; n ! 1;DLQ WSEH 2 :dOKAZATELXSTWO.1) dOKAZATELXSTWO SLEDUET IZ NERAWENSTWA ~EBY[EWA"2 Pn jn(Xn );g()j " En (n (Xn);g())2 ! 0; n ! 1;DLQ WSEH 2 :2) dOKAZATELXSTWO TAKVE SLEDUET IZ NERAWENSTWA ~EBY[EWAPn jn (Xn );g()j " = Pn jn (Xn );En n (Xn )+En n (Xn );g()j " Pn jn(Xn );En n(Xn )j+jbn()j " = Pn jn (Xn);En n (Xn)j > ";jbn()j ("D;njbn ((X)nj))2 = (" ;jnb(())j)2 ! 0; n ! 1; DLQ WSEH 2 :nnpRIMER 12.1.2.