В.Е. Бенинг - Дополнительные главы математической статистики (1129320), страница 12
Текст из файла (страница 12)
tAKIM OBRAZOM, OCENKA X=n BUDET BAJESOWSKOJ TOLXKO W DOWOLXNO TRIWIALXNOM SLU^AE.9.4minimaksnoe oceniwanieoPREDELENIE 9.4.1.mINIMAKSNOJ OCENKOJ PARAMETRI^ESKOJ FUNKCII g()NAZYWAETSQ OCENKA (x) TAKAQ, ^TOsup R(; ) = infsup R(; );22ZR(; ) = E L(; (X )) = L(; (x))p (x)d (x):XtAKIM OBRAZOM, MINIMAKSNYJ PODHOD ZAKL@^AETSQ W WYBORE TAKOJ OCENKI, KOTORAQ MINIMIZIRUET MAKSIMALXNYJ RISK. mOVNO TAKVE SKAZATX, ^TO9.4.mINIMAKSNOE OCENIWANIE97MINIMAKSNAQ OCENKA QWLQETSQ BAJESOWSKOJ OCENKOJ PRI APRIORNOM RASPREDELENII, QWLQ@]EMSQ NAIMENEE BLAGOPRIQTNYM. ~TOBY SDELATX \TO PONQTIETO^NYM, OBOZNA^IM BAJESOWSKIJ RISK BAJESOWSKOJ OCENKI Q(X ) ^EREZZr(Q) = r(Q ; Q) = R(; Q)dQ():aPRIORNOE RASPREDELENIE Q NAZYWAETSQ NAIMENEE BLAGOPRIQTNYM, ESLIr(Q) r(Q )DLQ WSEH APRIORNYH RASPREDELENIJ Q NA . s BAJESOWSKOJ TO^KI ZRENIQ \TOESTX APRIORNOE RASPREDELENIE, KOTOROE PRI^INQET STATISTIKU NAIBOLX[IESREDNIE POTERI.
sLEDU@]AQ tEOREMA DA<T USLOWIQ, PRI KOTORYH BAJESOWSKAQOCENKA Q(X ) QWLQETSQ MINIMAKSNOJ.tEOREMA 9.4.1.pUSTX SU]ESTWUET APRIORNOE RASPREDELENIE Q NA TAKOE, ^TOZR(; Q )dQ() = sup R(; Q):2tOGDA1) oCENKA Q (X ) QWLQETSQ MINIMAKSNOJ.2) eSLI OCENKA Q (X ) QWLQETSQ EDINSTWENNOJ BAJESOWSKOJ OCENKOJ, TOOCENKA Q(X ) { EDINSTWENNAQ MINIMAKSNAQ OCENKA.3) aPRIORNOE RASPREDELENIE Q QWLQETSQ NAIMENEE BLAGOPRIQTNYM RASPREDELENIEM.dOKAZATELXSTWO.1) pUSTX (X ) { L@BAQ DRUGAQ OCENKA.
tOGDAsup R(; ) 2tAKIM OBRAZOMZR(; )dQ() ZR(; Q )dQ() = sup R(; Q):infsup R(; ) = sup R(; Q ): 2 2 2lEKCIQ9892) pUSTX OCENKA (X ) 6= Q (X ) QWLQETSQ MINIMAKSNOJ OCENKOJ, TOGDAsup R(; ) 2ZZR(; )dQ() > R(; Q)dQ() = sup R(; Q):2~TO PROTIWORE^IT MINIMAKSNOSTI OCENKI (X ).3) pUSTX Q { L@BOE DRUGOE APRIORNOE RASPREDELENIE NA .
tOGDAZZr(Q ) = R(; Q )dQ () R(; Q )dQ () sup R(; Q ) = r(Q): 2uSLOWIE tEOREMY UTWERVDAET, ^TO USREDN<NNYJ RISK R(; Q) RAWNQETSQEGO MAKSIMUMU. |TO WYPOLNQETSQ W TOM SLU^AE, KOGDA FUNKCIQ RISKA POSTOQNNA ILI, BOLEE OB]IM OBRAZOM, KOGDA APRIORNOE RASPREDELENIE Q PRIPISYWAET WEROQTNOSTX 1 MNOVESTWU, NA KOTOROM FUNKCIQ RISKA DOSTIGAET SWOEGOMAKSIMMALXNOGO ZNA^ENIQ.
bOLEE FORMALXNYE UTWERVDENIQ SODERVIT SLEDU@]EE sLEDSTWIE.sLEDSTWIE 9.4.1.pUSTX SU]ESTWUET APRIORNOE RASPREDELENIE Q NA TAKOE, ^TO1) BAJESOWSKAQ OCENKA Q (X ) IMEET POSTOQNNYJ RISK. tOGDA ONA QWLQETSQ MINIMAKSNOJ.2) DLQ BAJESOWSKOJ OCENKI Q (X ) SPRAWEDLIWO SOOTNO[ENIEQ( 2 AQ ) = 1; AQ = f : R(; Q ) = sup R(; Q)g:2tOGDA OCENKA Q(X ) QWLQETSQ MINIMAKSNOJ OCENKOJ.pREDPOLOVENIE tEOREMY 9.4.1 WLE^<T SU]ESTWOWANIE NAIMENEE BLAGOPRIQTNOGO RASPREDELENIQ Q . kOGDA TAKOGO RASPREDELENIQ NE SU]ESTWUET, tEOREMA 9.4.1 NEPRIMENIMA. rASSMOTRIM, NAPRIMER, ZADA^U OCENIWANIQ SREDNEGO NORMALXNOGO RASPREDELENIQ S IZWESTNOJ DISPERSIEJ.
pOSKOLXKU WSEWOZMOVNYE ZNA^ENIQ IGRA@T POLNOSTX@ SIMMETRI^NU@ ROLX W TOM SMYSLE, ^TO NI ODNO IZ NIH NE OCENIWAETSQ LEG^E, ^EM L@BOE DRUGOE, ESTESTWENNO PREDPOLOVITX, ^TO NAIMENEE BLAGOPRIQTNOE RASPREDELENIE ESTX "RAWNOMERNOE" RASPREDELENIE NA DEJSTWITELXNOJ PRQMOJ, TO ESTX MERA lEBEGA.w \TOM SLU^AE ONO QWLQETSQ NESOBSTWENNYM. mOVNO POPYTATXSQ APPROKSIMIROWATX NESOBSTWENNOE RASPREDELENIE POSLEDOWATELXNOSTX@ SOBSTWENNYH9.4.mINIMAKSNOE OCENIWANIE99RASPREDELENIJ, NAPRIMER, MERU lEBEGA RAWNOMERNYMI RASPREDELENIQMI NA(;n; n); n = 1; 2; , I OBOB]ITX PONQTIE NAIMENEE BLAGOPRIQTNOGO RASPREDELENIQ DO PONQTIQ NAIMENEE BLAGOPRIQTNOJ POSLEDOWATELXNOSTI RASPREDELENIJ.
rASSMOTRIM BOLEE PODROBNO \TOT PODHOD.pUSTX fQng { POSLEDOWATELXNOSTX APRIORNYH RASPREDELENIJ NA I Qn (X ){ BAJESOWSKAQ OCENKA, SOOTWETSTWU@]AQ Qn . pUSTX E< BAJESOWSKIJ RISK RAWENZrn (Qn) = rn (Qn ; Qn ) = R(; Qn )dQn ()I PREDPOLOVIM, ^TO SU]ESTWUET PREDEL(9:4:1)nLim!1 rn (Qn ) = r:tOGDA POSLEDOWATELXNOSTX APRIORNYH RASPREDELENIJ fQng NAZYWAETSQ NAIMENEE BLAGOPRIQTNOJ, ESLI DLQ L@BOGO APRIORNOGO RASPREDELENIQ Q SPRAWEDLIWO NERAWENSTWOr(Q) r:tEOREMA 9.4.2.pUSTX SU]ESTWUET POSLEDOWATELXNOSTX APRIORNYH RASPREDELENIJ fQng NA TAKAQ, ^TO WYPOLNQETSQ SOOTNO[ENIE (9.4.1), IPREDPOLOVIM, ^TO (X ) ESTX OCENKA TAKAQ, ^TOsup R(; ) = r: 2tOGDA1) oCENKA (X ) QWLQETSQ MINIMAKSNOJ.2) pOSLEDOWATELXNOSTX APRIORNYH RASPREDELENIJ fQn g QWLQETSQ NAIMENEE BLAGOPRIQTNOJ.dOKAZATELXSTWO.1) pUSTX ~(X ) { L@BAQ DRUGAQ OCENKA.
tOGDAsup R(; ~) 2ZR(; ~)dQn() rn(Qn );I \TO WYPOLNQETSQ PRI KAVDOM n. sLEDOWATELXNOsup R(; ~) sup R(; )2 2I ZNA^IT (X ) ESTX MINIMAKSNAQ OCENKA.lEKCIQ10092) pUSTX Q { L@BOE DRUGOE APRIORNOE RASPREDELENIE NA . tOGDAZZr(Q ) = R(; Q )dQ () R(; )dQ () sup R(; ) = r: 2|TA tEOREMA MENEE UDOWLETWORITELXNA, ^EM tEOREMA 9.4.1, W DWUH OTNO[ENIQH. wO-PERWYH, ESLI DAVE BAJESOWSKIE OCENKI Qn (X ) EDINSTWENNY, TOOTS@DA NEWOZMOVNO ZAKL@^ITX, ^TO (X ) ESTX EDINSTWENNAQ MINIMAKSNAQOCENKA. pRI^INA \TOGO W TOM, ^TO PRI PEREHODE K PREDELU STROGOE NERAWENSTWO ZAMENQETSQ NESTROGIM. dRUGAQ SLOVNOSTX SOSTOIT W TOM, ^TO DLQTOGO, ^TOBY PROWERITX USLOWIE tEOREMY 9.4.2, NEOBHODIMO WY^ISLITX r I,SLEDOWATELXNO, BAJESOWSKIE RISKI rn(Qn).
dLQ \TOGO ^ASTO BYWAET POLEZNASLEDU@]AQ tEOREMA.tEOREMA 9.4.3.eSLI Q (X ) { BAJESOWSKAQ OCENKA DLQ FUNKCII g(), SOOTWETSTWU@]AQ APRIORNOMU RASPREDELENI@ Q I ESLI EE BAJESOWSKIJ RISKESTXr(Q) = E(Q (X ) ; g())2 ;ZDESX I X IME@T SOOTWETSTWENNO RASPREDELENIQ Q() IP(A) =TOZP (A)dQ(); A 2 F ;Zr(Q) = D(g() j X = x)dP(x):Xw ^ASTNOSTI, ESLI APOSTERIORNAQ DISPERSIQ D(g() j X = x) NE ZAWISITOT x, TOr(Q) = D(g() j X = x):dOKAZATELXSTWO.
dOKAZATELXSTWO SLEDUET IZ SOOTNO[ENIQr(Q) = E(Q (X ) ; g())2 = E[E((g() ; Q(x))2 j X = x)];I sLEDSTWIQ 9.3.1, SOGLASNO KOTOROMUQ (x) = E(g() j X = x):9.4.mINIMAKSNOE OCENIWANIE101pRIMER 9.4.1. pUSTX X = (X1 ; ; Xn ), GDE Xi { NEZAWISIMYE ODINAKOWONORMALXNO RASPREDEL<NNYE NABL@DENIQXi N (; 2 ); i = 1; ; n;S IZWESTNOJ DISPERSIEJ 2 . dOKAVEM, ^TO X { MINIMAKSNAQ OCENKA. rASSMOTRIM W KA^ESTWE APRIORNYH RASPREDELENIJ NORMALXNYE RASPREDELENIQQ WIDA N (; 2 ):tOGDA SOOTNO[ENIE (9.3.2) POKAZYWAET, ^TO BAJESOWSKAQ OCENKA IMEET WIDn22X1=1n=Q (X ) = n=2 + 1= 2 X + n=2 + 1= 2 ; X = n Xi :i=1tAMVE NAJDENA I APOSTERIORNAQ DISPERSIQD( j X = x) =1n=2 + 1= 2 ;KOTORAQ NE ZAWISIT OT x.
pO\TOMU IZ tEOREMY 9.4.3 SLEDUET, ^TOpUSTX ! 1, TOGDAr(Q ) = n=2 +1 1= 2 :r(Q ) " 2 =n = r = D X;TEPERX ISPOLXZUQ tEOREMU 9.4.2, POLU^AEM MINIMAKSNOSTX OCENKI X .1029.5lEKCIQ9spisok literatury1) |. lEMAN, tEORIQ tO^E^NOGO oCENIWANIQ,mOSKWA, nAUKA, 1991, gLAWA 1, < 1, < 6; gLAWA 2, < 1; gLAWA 4, < 1, < 2.2) a. wALXD, sTATISTI^ESKIE RE[A@]IE FUNKCII,pOZICIONNYE iGRY, mOSKWA, nAUKA, 1967, STR. 300{522.3) g.i.
iW^ENKO, `.i. mEDWEDEW, mATEMATI^ESKAQ sTATISTIKA,mOSKWA, wYS[AQ {KOLA, 1992, gLAWA 2, < 2.1, < 2.3.4) {. zAKS, tEORIQ sTATISTI^ESKIH wYWODOW,mOSKWA, mIR, 1975, gLAWA 3, < 3.1, < 3.2; gLAWA 6, < 6.1 { 6.5.5) i.a. iBRAGIMOW, r.z.
hASXMINISKIJ, aSIMPTOTI^ESKAQ tEORIQ OCENIWANIQ,mOSKWA, nAUKA, 1979, gLAWA 1, < 3.6) a.n. {IRQEW, wEROQTNOSTX,mOSKWA, nAUKA, 1989.lEKCIQ 10w lEKCII RASSMATRIWA@TSQ METODY POSTROENIQ OPTIMALXNYH OCENOK.10.1polnye dostato~nye statistikimetody nahovdeniq optimalxnyhocenok.tEOREMA rAO { bLEKU\LLA { kOLMOGOROWA (tEOREMA 9.1.1) POKAZYWAET, ^TOOPTIMALXNYE OCENKI NUVNO ISKATX SREDI FUNKCIJ OT DOSTATO^NOJ STATISTIKI. pRI OTYSKANII QWNOGO WIDA OPTIMALXNYH OCENOK WAVNU@ ROLX IGRAETSWOJSTWO POLNOTY DOSTATO^NYH STATISTIK.oPREDELENIE 10.1.1.
dOSTATO^NAQ STATISTIKA T NAZYWAETSQ POLNOJ, ESLI DLQ L@BOJ IZMERIMOJ FUNKCII (t) WYPOLNENIE TOVDESTWAE (T ) 0;2DLQ WSEHWLE^ET RAWENSTWO FUNKCII (t) NUL@ PO^TI WS@DU, TO ESTXP (T ) 6= 0 = 0;DLQ WSEH 2 :pRIMER 10.1.1. pUSTX X = (X1 ; ; Xn ) { NEZAWISIMYE ODINAKOWO RASPREDEL<NNYE NABL@DENIQ, PRI^<MXi B(1; );i = 1; ; n; 2 = (0; 1):sOWMESTNAQ PLOTNOSTX NABL@DENIJ X = (X1 ; ; Xn) IMEET WIDp (x) = x (1 ; )n;x ;103lEKCIQ104GDE10x = (x1 ; ; xn ); xi 2 f0; 1g; i = 1; :::; n;x =nXi=1xi :tEPERX IZ KRITERIQ FAKTORIZACII (tEOREMA 7.1.3) SLEDUET, ^TO STATISTIKAWIDAnXT = Xi B(n; )i=1QWLQETSQ DOSTATO^NOJ STATISTIKOJ.
dOKAVEM, ^TO \TA DOSTATO^NAQ STATISTIKA QWLQETSQ POLNOJ. s \TOJ CELX@ PREDPOLOVIM, ^TO DLQ FUNKCII (t)WYPOLNENO TOVDESTWOE (T ) 0;TO ESTXnDLQ WSEH!(k) nk k (1 ; )n;k 0;k=0X 2 (0; 1);DLQ WSEH 2 (0; 1):w LEWOJ ^ASTI \TOGO TOVDESTWA PROIZWED<M ZAMENU PEREMENNOJu = 1 ; 2 (0; +1);TOGDA, POLU^IM!nXn(k) k uk 0; DLQ WSEH u 2 (0; +1):k=0w LEWOJ ^ASTI ZDESX STOIT POLINOM PO u STEPENI n, KOTORYJ IMEET BESKONE^NO MNOGO KORNEJ, PO\TOMU PRIMENQQ OSNOWNU@ tEOREMU ALGEBRY, POLU^AEM,^TO ON TOVDESTWENNO RAWEN NUL@. tAKIM OBRAZOM(k) = 0;ILIP (T ) 6= 0 = 0;k = 0; ; nDLQ WSEH 2 :pRIWED<M PRIMER NE POLNOJ DOSTATO^NOJ STATISTIKI.pRIMER 10.1.2. pOKAVEM, ^TO TIPI^NYM OBRAZOM WSQ WYBORKA X =(X1 ; ; Xn ) NE QWLQETSQ POLNOJ DOSTATO^NOJ STATISTIKOJ.
pUSTX X =10.1.pOLNYE DOSTATO^NYE STATISTIKI105(X1 ; ; Xn ) { NEZAWISIMYE ODINAKOWO RASPREDEL<NNYE NABL@DENIQ, IME@]IE PLOTNOSTX, ZAWISQ]U@ OT PARAMETRA 2 , PRI^<ME X1 < 1;DLQ WSEH 2 :iZ KRITERIQ FAKTORIZACII (tEOREMA 7.1.3) NEPOSREDSTWENNO SLEDUET, ^TOSTATISTIKA WIDAT (X ) = X = (X1 ; ; Xn )QWLQETSQ DOSTATO^NOJ STATISTIKOJ. nO ONA NE POLNA, POSKOLXKU, NAPRIMER,DLQ FUNKCII NE RAWNOJ PO^TI WS@DU NUL@(x) = n1nXi=1xi ; x 1 ;x = (x1 ; ; xn )SPRAWEDLIWO TOVDESTWOE (T ) 0; DLQ WSEH 2 :zAME^ANIE 10.1.1.
eSLI P0 I P1 { DWA SEMEJSTWA RASPREDELENIJ, TAKIH^TO KAVDOE P0 { NULEWOE MNOVESTWO (SM. oPREDELENIE 6.1.4) QWLQETSQ IP1 { NULEWYM, TOGDA DOSTATO^NAQ STATISTIKA T (X ), POLNAQ DLQ SEMEJSTWA P0 BUDET TAKVE POLNOJ I DLQ SEMEJSTWA P1 . zAMETIM, TAKVE ^TOESLI P0 ESTX SEMEJSTWO BINOMIALXNYH RASPREDELENIJP0 = fB(n; ); 2 (0; 1)g;n FIKSIROWANO I, ESLIP1 = P0 [ P (1);GDE P (1) ESTX RASPREDELENIE pUASSONA S PARAMETROM 1, TO PO DOKAZANNOMUWY[E SEMEJSTWO P0 QWLQETSQ POLNYM (pRIMER 10.1.1), W TO WREMQ KAKSEMEJSTWO P1 NE POLNO.nALI^IE POLNOJ DOSTATO^NOJ STATISTIKI OBESPE^IWAET EDINSTWENNOSTXI OPTIMALXNOSTX NESME]<NNOJ OCENKI, ZAWISQ]EJ OT TAKOJ STATISTIKI.tEOREMA 10.1.1.pUSTX = T (X ) { POLNAQ DOSTATO^NAQ STATISTIKA,TOGDA1) eSLI 1 (T ) I 2 (T ) { DWE NESME]ENNYE OCENKI DLQ FUNKCII g(), TOONI SOWPADA@T PO^TI WS@DU, TO ESTXP 1 (T ) 6= 2 (T ) = 0;DLQ WSEH 2 :lEKCIQ10610eSLI 1 (X ) I 2 (X ) { DWE NESME]ENNYE OCENKI DLQ FUNKCII g(), TOPO^TI WS@DU SPRAWEDLIWO RAWENSTWOE(1 (X ) j T ) = E(2 (X ) j T ):2) eSLI (T ) { NESME]ENNAQ OCENKA FUNKCII g(), TO (T ) OPTIMALXNA,TO ESTX DLQ L@BOJ NESME]ENNOJ OCENKI (X ) FUNKCII g() SPRAWED-LIWO NERAWENSTWOD (T ) D (X );DLQ WSEH 2 :dOKAZATELXSTWO.1) eSLI 1 (T ) I 2 (T ) { DWE NESME]<NNYE OCENKI FUNKCII g(), TO IHRAZNOSTX(T ) = 1 (T ) ; 2 (T )UDOWLETWORQET TOVDESTWUE (T ) 0;DLQ WSEH 2 ;KOTOROE W SILU POLNOTY STATISTIKI T WLE^<TP 1 (T ) 6= 2 (T ) = 0;DLQ WSEH 2 :wTOROE UTWERVDENIE NEPOSREDSTWENNO SLEDUET IZ USLOWIQ NESME]<NNOSTIE i (X ) g(); 2 ; i = 1; 2;OPREDELENIQ POLNOTY I TOVDESTWA0 E (1 (X ) ; 2 (X )) E E (1 (X ) ; 2 (X )) j T :2) pUSTX (X ) { L@BAQ NESME]<NNAQ OCENKA FUNKCII g().
tOGDA PO tEOREME rAO { bLEKU\LLA { kOLMOGOROWA (tEOREMA 9.1.1) PROEKCIQ OCENKI(X ) NA DOSTATO^NU@ STATISTIKU Th(T ) = E ((X ) j T )QWLQETSQ NESME]<NNOJ OCENKOJ FUNKCII g() I WYPOLNENO NERAWENSTWOD h(T ) D (X );DLQ WSEH 2 :10.1.pOLNYE DOSTATO^NYE STATISTIKI107oDNAKO, \TA OCENKA h(T ), BUDU^I NESME]<NNOJ, QWLQETSQ EDINSTWENNOJ W SILU PUNKTA 1, TO ESTX NE ZAWISIT OT OCENKI (X ) I, PO\TOMUPOSLEDNEE NERAWENSTWO SPRAWEDLIWO DLQ L@BOJ NESME]<NNOJ OCENKI(X ).