В.Е. Бенинг - Дополнительные главы математической статистики (1129320), страница 10
Текст из файла (страница 10)
(8.2.1))R(; ) = E L(; (X )):pOKAVEM, KAK ESTESTWENNYM OBRAZOM WOZNIKA@T KWADRATI^NYE FUNKCIIPOTERX. pREDPOLAGAQ FUNKCI@ POTERX L(; ) DOSTATO^NO GLADKOJ I ISPOLXZUQ FORMULU tEJLORA, IMEEML(; ) = L(; g()) + L 0 (; g())(g() ; )+00+ L (; g()) (g() ; )2 + R:(9:1:1)2iZ ESTESTWENNYH PREDPOLOVENIJ NA FUNKCI@ POTERX L(; ) SLEDUET, ^TOL(; g()) 0; 2 :dALEE USLOWIE NEOTRICATELXNOSTI L(; ) 0 OZNA^AET, ^TOL0 (; g()) 0; 2 :tAKIM OBRAZOM, OTBRASYWAQ OSTATO^NYJ ^LEN R W FORMULE (9.1.1), POLU^IMAPPROKSIMACI@00L(; ) L (; g()) (g() ; )2 c()(g() ; )2 :2pO\TOMU OBY^NO RASSMATRIWA@T KWADRATI^NYE FUNKCII POTERX.oPREDELENIE 9.1.2.9.1.1) eSLItEORIQ OCENIWANIQL(; ) = (g() ; )2 ;TO WELI^INAR(; ) = E ((X ) ; g())2NAZYWAETSQ SREDNEKWADRATI^NOJ O[IBKOJ.2) wELI^INAb() = E (X ) ; g()NAZYWAETSQ SME]ENIEM OCENKI (X ).3) oCENKA (X ) NAZYWAETSQ NESME]ENNOJ, ESLI EE SME]ENIE RAWNO NUL@,TO ESTX, ESLIE (X ) g(); 2 :eSLI FUNKCIQ POTERX KWADRATI^NA, TOR(; ) = E ((X ) ; g())2 = D (X ) + b2():i ESLI (X ) { NESME]ENNAQ OCENKA, TO E< RISK SOWPADAET S DISPERSIEJ, TOESTXR(; ) = D (X ):pRIMER 9.1.1.
pUSTX X = (X1 ; ; Xn ) { NEZAWISIMYE ODINAKOWO RASPREDEL<NNYE NABL@DENIQ IE X1 = :tOGDA OCENKI WIDA(X ) =nXi=1i Xi ; GDEnXi=1i = 1QWLQ@TSQ NESME]<NNYMI OCENKAMI PARAMETRA . |TOT pRIMER POKAZYWAET,^TO W OB]EM SLU^AE NESME]<NNYH OCENOK MNOGO.iTAK, TO^NOSTX OCENKI (X ) FUNKCII g() IZMERQETSQ FUNKCIEJ RISKAR(; ) = E L(; (X ));TO ESTX SREDNIMI POTERQMI W REZULXTATE ISPOLXZOWANIQ OCENKI (X ) W TE^ENIE DLITELXNOGO PROMEVUTKA WREMENI. hOTELOSX BY NAJTI TAKU@ OCENKU(X ) KOTORAQ BY MINIMIZIROWALA RISK R(; ) PRI WSEH ZNA^ENIQH PARAMETRA81lEKCIQ829 2 .
w SFORMULIROWANNOM WIDE \TA ZADA^A RE[ENIJ NE IMEET. pOSKOLXKU,ESLIL(; g()) 0; 2 :TO RISK R(; ) DLQ KAVDOJ ZADANNOJ TO^KI 0 2 MOVNO SWESTI K NUL@,WYBIRAQ (x) RAWNYM g(0 ) PRI WSEH x 2 X . pO\TOMU RAWNOMERNO NAILU^[EJOCENKI (X ) NE SU]ESTWUET, TO ESTX NET TAKOJ OCENKI, KOTORAQ ODNOWREMENNO MINIMIZIROWALA BY RISK R(; ) DLQ WSEH ZNA^ENIJ 2 , ISKL@^AQTRIWIALXNYJ SLU^AJ, KOGDA g() POSTOQNNA.oDIN IZ SPOSOBOW IZBEVANIQ \TOJ TRUDNOSTI SOSTOIT W SUVENII KLASSARASSMATRIWAEMYH OCENOK PUT<M ISKL@^ENIQ TEH OCENOK, KOTORYE OKAZYWA@T SLI[KOM SILXNOE PREDPO^TENIE ODNOMU ILI NESKOLXKIM ZNA^ENIQM 2 CENOJ PRENEBREVENIQ OSTALXNYMI WOZMOVNYMI ZNA^ENIQMI. |TOGO MOVNODOSTIGNUTX, POTREBOWAW, ^TOBY OCENKI UDOWLETWORQLI NEKOTOROMU USLOWI@,OBESPE^IWA@]EMU OPREDEL<NNU@ STEPENX BESPRISTRASTNOSTI. oDNIM IZ TAKIH USLOWIJ QWLQETSQ USLOWIE NESME]ENNOSTI OCENKIE (X ) g(); 2 :|TO USLOWIE GARANTIRUET, ^TO W KONCE KONCOW TE KOLI^ESTWA, NA KOTORYEOCENKA (X ) PERE { ILI NEDOOCENIWAET g() SBALANSIRU@T DRUG DRUGA, TAK^TO POLU^AEMYE ZNA^ENIQ OCENIWAEMOJ FUNKCII BUDUT W SREDNEM PRAWILXNYMI.
zAMETIM, ODNAKO, ^TO TREBOWANIE NESME]<NNOSTI MOVET PRIWODITX KPROBLEMAM. nAPRIMER, NESME]<NNYE OCENKI MOGUT PROSTO NE SU]ESTWOWATX.pRIMER 9.1.2. pUSTX NABL@DENIE X IMEET BINOMIALXNOE RASPREDELENIEX B(n; ); 2 = (0; 1):pREDPOLOVIM, ^TO MY HOTIM OCENITX FUNKCI@ WIDAg() = 1 :tOGDA TREBOWANIE NESME]<NNOSTI RAWNOSILXNO WYPOLNENI@ USLOWIQn!(k) nk k (1 ; )n;k 1 ;k=0XDLQ WSEH 2 (0; 1):(9:1:2)tO, ^TO TAKAQ OCENKA NE SU]ESTWUET, WYTEKAET, NAPRIMER, IZ TOGO, ^TO PRI ! 0 LEWAQ ^ASTX TOVDESTWA (9.1.2) STREMITSQ K (0), A PRAWAQ ^ASTX { KBESKONE^NOSTI.9.1.tEORIQ OCENIWANIQ83tEOREMA 9.1.1.(rAO { bLEKU\LL { kOLMOGOROW)pUSTX FUNKCIQ POTERXL(; ) NEPRERYWNA I WYPUKLA WNIZ PO 2 DLQ L@BOGO FIKSIROWANNOGOZNA^ENIQ PARMETRA 2 I T = T (X ) { DOSTATO^NAQ STATISTIKA DLQSTATISTI^ESKOJ STRUKTURY (X ; F ; fP ; 2 g).
pREDPOLOVIM, ^TO (X ){ NEKOTORAQ INTEGRIRUEMAQ OCENKA FUNKCII g(). pOLOVIMh(t) = E ((X ) j T = t):(9:1:3)tOGDA1) sTATISTIKA h(T ) QWLQETSQ OCENKOJ PARAMETRI^ESKOJ FUNKCII g().2) dLQ WSEH 2 RISK OCENKI h(T ) NE PREWOSHODIT RISKA OCENKI (X )R(; ) R(; h);DLQ WSEH 2 :3) eSLI (X ) { NESME]ENNAQ OCENKA g(), TO I h(T ) TAKVE NESME]ENNAQOCENKA g().dOKAZATELXSTWO.1) iZMERIMOSTX I NEZAWISIMOSTX h(T ) OT SLEDU@T IZ oPREDELENIQ 5.1.3USLOWNOGO MATEMATI^ESKOGO OVIDANIQ I oPREDELENIQ 7.1.2 DOSTATO^NOJ STATISTIKI.2) pRIMENIM NERAWENSTWO iENSENA (8.2.4) K USLOWNYM MATEMATI^ESKIMOVIDANIQM (SM.
TAKVE [5], STR. 250, ZADA^A 5), POLU^IM (ISPOLXZUQSWOJSTWO 6 USLOWNYH MATEMATI^ESKIH OVIDANIJ IZ lEKCII 5)R(; ) = E L(; (X )) = E E [L(; (X )) j T ] E L(; E [(X ) j T ]) = R(; h) DLQ WSEH 2 :3) pOSKOLXKUE (X ) = g();TO ISPOLXZUQ SWOJSTWO 6 USLOWNYH MATEMATI^ESKIH OVIDANIJ IZ lEKCII 5E h(T ) = E E [(X ) j T ] = E (X ) = g():84lEKCIQ9|TA tEOREMA, W ^ASTNOSTI, POKAZYWAET, ^TO PRI NALI^II DOSTATO^NOJSTATISTIKI DLQ L@BOJ OCENKI SU]ESTWUET OCENKA, ZAWISQ]AQ OT NABL@DENIJ TOLXKO ^EREZ DOSTATO^NU@ STATISTIKU, I KOTORAQ NE HUVE E<. (tOESTX TAKIE OCENKI OBRAZU@T POLNYJ KLASS.) pO\TOMU MOVNO OGRANI^ITXSQ RASSMOTRENIEM OCENOK, ZAWISQ]IH OT DOSTATO^NYH STATISTIK.
oPERACIQNAHOVDENIQ OCENKI h(T ) PO FORMULE (9.1.3) NAZYWAETSQ PROEKTIROWANIEMOCENKI (X ) NA DOSTATO^NU@ STATISTIKU T , A SAMA OCENKA h(T ) NAZYWAETSQPROEKCIEJ OCENKI (X ) NA DOSTATO^NU@ STATISTIKU T .pRIMER 9.1.3. pUSTX X = (X1 ; ; Xn ) { NEZAWISIMYE ODINAKOWO RASPREDEL<NNYE NABL@DENIQ IE X1 = g():(9:1:4)pREDPOLOVIM, ^TO DOSTATO^NAQ STATISTIKA T IMEET WIDT=nXi=1Xi :o^EWIDNO, ^TO W SILU (9.1.4) OCENKA (X ) = X1 QWLQETSQ NESME]ENNOJ OCENKOJ g().nAJD<M PROEKCI@ h(T ) \TOJ OCENKI NA DOSTATO^NU@ STATISTIKU T .h(T ) = E ((X ) j T ) = E (X1 j T ) = E (X2 j T ) = = E (Xn j T ) = nX1= n EXi j T = n1 E (T j T ) = Tn X:19.2optimalxnye ocenkirASSMOTRIM W \TOM RAZDELE BOLEE PODROBNO SLU^AJ KWADRATI^NYH FUNKCIJPOTERXL(; ) = c()(g() ; )2 ; c() 0:kAK POKAZANO WY[E, W \TOM SLU^AE RISK L@BOJ NESME]ENNOJ OCENKI (X )PARAMETRI^ESKOJ FUNKCII g() PROPORCIONALEN E< DISPERSII, TO ESTXR(; ) = c() D (X ):tAKIM OBRAZOM PROBLEMA MINIMIZACII RISKA PO (X ) W \TOM SLU^AE SWODITSQ K PROBLEME MINIMIZACII DISPERSII.
pO\TOMU WPOLNE ESTESTWENNO SLEDU@]EE oPREDELENIE.9.2.oPTIMALXNYE OCENKI85nESME]ENNAQ OCENKA (X ) FUNKCII g() NAZYWAETSQ NESME]ENNOJ OCENKOJ S MINIMALXNOJ DISPERSIEJ (ILI OPTIMALXNOJ),ESLI DLQ L@BOJ NESME]ENNOJ OCENKI (X ) SPRAWEDLIWO NERAWENSTWOoPREDELENIE9.2.1.D (X ) D (X ); DLQ WSEH 2 :wS@DU W DALXNEJ[EM MY MOL^ALIWO PREDPOLAGAEM, ^TO RASSMATRIWAEMYEOCENKI (X ) KWADRATI^NO INTEGRIRUEMYE (X ) < 1;DLQ WSEH 2 :sLEDU@]AQ tEOREMA POKAZYWAET, ^TO OPTIMALXNYE OCENKI DEJSTWITELXNOSU]ESTWU@T.tEOREMA 9.2.1.oTNOSITELXNAQ ^ASTOTA PROIZWOLXNOGO SOBYTIQ A W nNEZAWISIMYH BERNULLIEWSKIH ISPYTANIQH QWLQETSQ OPTIMALXNOJ OCENKOJWEROQTNOSTI \TOGO SOBYTIQ.dOKAZATELXSTWO.
pUSTX X = (X1 ; ; Xn ) { NEZAWISIMYE ODINAKOWORASPREDEL<NNYE NABL@DENIQ WIDAXi B(1; ); 2 = (0; 1); i = 1; ; n:nAM NEOBHODIMO DOKAZATX, ^TO OCENKA WIDA (X ) = X = n1nXi=1XiQWLQETSQ OPTIMALXNOJ OCENKOJ g() = .nAJD<M DISPERSI@ \TOJ OCENKI(1 ; ) :DXD (X ) = 1 =nntEPERX DLQ DOKAZATELXSTWA tEOREMY DLSTATO^NO POKAZATX, ^TO ESLI OCENKA(X ) QWLQETSQ NESME]<NNOJE (X ) ;DLQ WSEH 2 ;(9:2:1)TO SPRAWEDLIWO NERAWENSTWOD (X ) (1 ; ) ;nDLQ WSEH 2 :(9:2:2)lEKCIQ869iZ USLOWIQ NESME]ENNOSTI (9.2.1) IMEEMX E (X ) = (x)L(; x);(9:2:3)xGDEx = (x1 ; ; xn ); xi 2 f0; 1g; i = 1; ; n;I FUNKCIQ PRAWDOPODOBIQ L(; x) IMEET WIDL(; x) = x(1 ; )n;x;x =sPRAWEDLIWO TAKVE TOVDESTWOXxnXi=1xi :L(; x) 1:(9:2:4)dIFFERENCIRUQ TOVDESTWA (9.2.3) I (9.2.4) PO , POLU^IMXX@ log L(; x) L(; x) =1 (x)L0 (; x) = (x) @xx@ log L(; X );= E (X ) @XX @@ log L(; X ):0 L0 (; x) = @log L(; x) L(; x) = E @xx(9:2:5)(9:2:6)u^ITYWAQ SOOTNO[ENIQ (9.2.5), (9.2.6) I NERAWENSTWO kO[I { bUNQKOWSKOGO,MY MOVEM ZAPISATXvuut2@@1 = E (X ) ; @ log L(; X ) D (X ) E @ log L(; X ) : (9:2:7)q!iZ NERAWENSTWA (9.2.7) POLU^AEM OCENKU SNIZU DLQ DISPERSIID (X )@E@ log L(; X ) = E!nXi n ; Xii=1 ; 1;NO!2@ log L(; X ) 2 ;@E;1Pi=1nP!2=E(9:2:8)nXi ; n((1 ; ))2Pi=12=9.2.DnPoPTIMALXNYE OCENKI87XinD X1 = n := ((1i=1=(9:2:9)2; )) ((1 ; ))2 (1 ; )tEPERX DOKAZYWAEMOE SOOTNO[ENIE (9.2.2) SLEDUET IZ (9.2.9) I (9.2.8).rASSMOTRIM TEPERX NEKOTORYE SWOJSTWA OPTIMALXNYH OCENOK.tEOREMA 9.2.2.
(EDINSTWENNOSTX OPTIMALXNOJ OCENKI)pUSTX 1 (X ) I2 (X ) { OPTIMALXNYE OCENKI FUNKCII g(), TOGDA ONI SOWPADA@T PO^TIWS@DU, TO ESTXP 1 (X ) 6= 2 (X ) = 0; DLQ WSEH 2 :dOKAZATELXSTWO. pOSKOLXKU 1 (X )I 2 (X ) { OPTIMALXNYE OCENKI, TO UNIH TOVDESTWENNO SOWPADA@T DISPERSII. oBOZNA^IMv = D 1 (X ) = D 2 (X )I RASSMOTRIM OCENKU(X ) = 1 (X ) +2 2 (X ) :tOGDA \TA OCENKA TAKVE QWLQETSQ NESME]<NNOJ OCENKOJ FUNKCII g() I PO\TOMU DLQ E< DISPERSII SPRAWEDLIWO NERAWENSTWO1v D (X ) = 4 D 1 (X )++D 2 (X ) + 2Cov 1 (X ); 2 (X ) 14 (2v + 2v) = v:iZ \TIH NERAWENSTW SLEDUET, ^TO(9:2:10)D (X ) = v:nO TOGDA IZ NERAWENSTW (9.2.10) POLU^AEM TAKVE SOOTNO[ENIE DLQ KOWARIACII4v = 2v + 2Cov 1 (X ); 2 (X ) ;TO ESTXCov 1 (X ); 2 (X ) = v:(9:2:11)tEPERX, U^ITYWAQ SOOTNO[ENIE (9.2.11), NAJD<M DISPERSI@ RAZNOSTI OCENOK1 (X ) I 2 (X )D 1 (X ) ; 2 (X ) = D 1 (X )+ D 2 (X ) ; 2Cov 1 (X ); 2 (X ) = 2v ; 2v = 0:lEKCIQ889oTS@DA SLEDUET, ^TOP 1 (X ) 6= 2 (X ) = 0; DLQ WSEH 2 :(zDESX MY ISPOLXZOWALI SLEDU@]EE UTWERVDENIEDY = 0) E(Y ; EY )2 = 0 ) Y = EY P.W.)tEOREMA 9.2.3.1) pUSTX (X ) { OPTIMALXNAQ OCENKA DLQ FUNKCII g(), TOGDA DLQ L@-BOJ OCENKI 0 = 0(X ) (NESME]ENNAQ OCENKA NULQ) TAKOJ, ^TOE 0 (X ) 0; E 02 (X ) < 1; DLQ WSEH 2 ;SPRAWEDLIWO USLOWIE "ORTOGONALXNOSTI"Cov (X ); 0 (X ) 0;DLQ WSEH 2 :2) pUSTX OCENKA (X ) QWLQETSQ NESME]ENNOJ OCENKOJ SWOEGO MATEMATI^ESKOGO OVIDANIQ g() I DLQ L@BOJ OCENKI NULQ 0 (X ) TAKOJ, ^TOE 0 (X ) 0; E 02 (X ) < 1;DLQ WSEH 2 ;SPRAWEDLIWO TOVDESTWOCov (X ); 0 (X ) 0;DLQ WSEH 2 :tOGDA OCENKA (X ) QWLQETSQ OPTIMALXNOJ OCENKOJ SWOEGO MATEMATI^ESKOGO OVIDANIQ g().dOKAZATELXSTWO.1) dLQ DOKAZATELXSTWA RASSMOTRIM WSPOMOGATELXNU@ OCENKU WIDA(X ) = (X ) + 0 (X ); 2 R1 :tOGDA DLQ WSEH 2 R1 \TA OCENKA TAKVE QWLQETSQ NESME]<NNOJ OCENKOJ FUNKCII g(), PO\TOMU W SILU OPTIMALXNOSTI OCENKI (X )D (X ) = D (X ) + 2Cov (X ); 0 (X ) + 2 D 0 (X )9.2.ILIoPTIMALXNYE OCENKI89DLQ WSEH 2 ; 2 R1D (X )2Cov (X ); 0 (X ) +DLQ WSEH 2 ; 2 R1:|TOT KWADRATNYJ MNOGO^LEN OT IMEET DWA DEJSTWITELXNYH KORNQ=0I2Cov (X ); 0 (X )=;D 0 (X )I, SLEDOWATELXNO, PRINIMAET OTRICATELXNYE ZNA^ENIQ, ESLI TOLXKO NEWYPOLNENO USLOWIE+2 D 0 (X ) 0;Cov (X ); 0 (X ) 0;DLQ WSEH 2 :2) pUSTX (X ) { PROIZWOLXNAQ NESME]<NNAQ OCENKA g().
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
