В.Е. Бенинг - Дополнительные главы математической статистики (1129320), страница 22
Текст из файла (страница 22)
iTAK,PUSTX(x1 ; 1 ); (x2 ; 2 ); (x3 ; 3 ); (18:2:2)POSLEDOWATELXNOSTX ZNA^ENIJ NEZAWISIMYH PAR NABL@DENIJ NAD SLU^AJNYMI WELI^INAMI X I , PRI^<M ZNA^ENIQ i NENABL@DAEMY, TO ESTX NEIZWESTNY NAM, I QWLQ@TSQ ZNA^ENIQMI SLU^AJNOJ WELI^INY S RASPREDELENIEMQ(). zNA^ENIQ xi NABL@DAEMY I QWLQ@TSQ REALIZACIQMI SLU^AJNOJ WELI^INY X , USLOWNOE RASPREDELENIE KOTOROJ PRI USLOWII = IMEET PLOTNOSTXWIDA p (x) I BEZUSLOWNU@ PLOTNOSTX OTNOSITELXNO MERY () WIDA (SMESX)ZpQ (x) = p (x)dQ():lEKCIQ19018iTAK MY NABL@DAEM NEZAWISIMYE SLU^AJNYE WELI^INY X1; ; Xn+1 , PRI^<M i { AQ SLU^AJNAQ WELI^INA Xi IMEET PLOTNOSTX WIDA pQ(x); i = 1; ; n,A SLU^AJNAQ WELI^INA Xn+1 IMEET PLOTNOSTX pn+1 (x).
nABL@DAQ x1; ; xn+1MY HOTIM "OCENITX" TEKU]EE ZNA^ENIE n+1. pOSKOLXKU ZNA^ENIQ 1; ; nPOROVDENY TEM VE WEROQTNOSTNYM RASPREDELENIEM Q(), ^TO I n+1, TO ZNA^ENIQ x1; ; xn SODERVAT TAKVE INFORMACI@ O n+1 I PO\TOMU BUDEM RASSMATRIWATX RE[A@]IE FUNKCII, ZAWISQ]IE I OT x1; ; xn, TO ESTX PUSTXn (x) = n (x1 ; ; xn ; x) 2 (18:2:3)I ZNA^IT TEKU]IE POTERI IME@T WIDL(n+1 ; n (xn+1 )):oSNOWNAQ PROBLEMA SOSTOIT W NAHOVDENII TAKOJ RE[A@]EJ FUNKCII n (),^TOBY ASIMPTOTI^ESKI, TO ESTX PRI BOLX[IH n, ONA BYLA "BLIZKA" K OPTIMALXNOJ, NO NEIZWESTNOJ RE[A@]EJ FUNKCII Q(), TO ESTX ^TOBY W NEKOTOROM SMYSLE WYPOLNQLOSX SOOTNO[ENIEn (x) Q (x); n ! +1:oPREDELIM TEPERX "\MPIRI^ESKU@" ILI "ADAPTIWNU@" RE[A@]U@ PROCEDURU, KAK NEKOTORU@ POSLEDOWATELXNOSTX = fng RE[A@]IH FUNKCIJ n(x)WIDA (18.2.3).
dLQ DANNOJ POSLEDOWATELXNOSTI USLOWNYJ BAJESOWSKIJ RISK(SM. (18.1.3) I (18.1.4)) PRI "OCENIWANII" n+1 PRI DANNYH x1 ; ; xn ESTXZrn (; Q j X1 = x1 ; ; Xn = xn ) = hQ(n (x); x)d (x) =XZZX= pQ (x)L(; n (x1 ; ; xn ; x); )q( j Xn+1 = x)d() d (x): (18:2:4)oPREDELIM TEPERX GLOBALXNYJ APRIORNYJ BAJESOWSKIJ RISK (POSLEDNEE WYRAVENIE SLU^AJNO I ZAWISIT OT ZNA^ENIJ x1; ; xn NEZAWISIMYH ODINAKOWORASPREDEL<NNYH SLU^AJNYH WELI^IN X1 ; ; Xn , IME@]IH TAKOE VE RASPREDELENIE, KAK I SLU^AJNAQ WELI^INA X ) PO FORMULEZrn(; Q) = EhQ(n (x); x)d (x);X(18:2:5)18.2.|MPIRI^ESKIJ BAJESOWSKIJ PODHOD191GDE E OBOZNA^AET MATEMATI^ESKOE OVIDANIE OTNOSITELXNO NEZAWISIMYH ODINAKOWO RASPREDEL<NNYH SLU^AJNYH WELI^IN X1 ; ; Xn , IME@]IH OB]U@PLOTNOSTX OTNOSITELXNO MERY () WIDAZpQ (x) = p (x)dQ():(18:2:6)wYRAVENIE (18.2.5) MOVNO PEREPISATX W WIDEZZrn (; Q) = pQ (x) q( j x)EL(; n (x))d() d (x) =Z Z ZXXn = pQ (x)XL(; n(x1 ; ; xn ; x))q( j x)d()nYi=1(18:2:7)pQ(xi)d (xi ) d (x);KOTOROE QWLQETSQ NEPOSREDSTWENNYM ANALOGOM WYRAVENIQ (18.2.1) I PO\TOMUINTERPRETIRUETSQ W TERMINAH APOSTERIORNYH RASPREDELENIJ.pRI TAKOM OPREDELENII (18.2.7) BAJESOWSKOGO RISKA rn(; Q) WS@DU DALEEWSE WEROQTNOSTI I MATEMATI^ESKIE OVIDANIQ RASSMATRIW@TSQ OTNOSITELXNONEZAWISIMYH ODINAKOWO RASPREDEL<NNYH SLU^AJNYH WELI^IN (X1 ; ; Xn ),IME@]IH OB]U@ PLOTNOSTX pQ(x) WIDA (18.2.6) S NEIZWESTNYM APRIORNYMRASPREDELENIEM Q().
tAKIM OBRAZOM IMEQ ZNA^ENIQ TAKIH SLU^AJNYH WELI^INX1 = x1 ; ; Xn = xnMY NABL@DAEM SLU^AJNU@ WELI^INU Xn+1 , IME@]U@ USLOWNU@ PLOTNOSTXp (x) I HOTIM "OCENITX" TEKU]EE ZNA^ENIE . s POMO]X@ SLU^AJNYH WELI^IN (X1 ; ; Xn ) MY "OCENIWAEM" NEIZWESTNOE APRIORNOE RASPREDELENIEQ().iZ SOOTNO[ENIJ (18.1.5) I (18.2.5) NEPOSREDSTWENNO SLEDUET, ^TO WSEGDArn (; Q) r(Q):(18:2:8)oPREDELENIE 18.2.2. eSLI(18:2:9)nLim!1 rn (; Q) = r(Q);TO POSLEDOWATELXNOSTX RE[A@]IH FUNKCIJ NAZYWAETSQ ASIMPTOTI^ESKI OPTIMALXNOJ OTNOSTITELXNO APRIORNOGO RASPREDELENIQ Q().
oSNOWNAQPROBLEMA SOSTOIT W NAHOVDENII POSLEDOWATELXNOSTI RE[A@]IH FUNKCII, KOTORAQ BYLA BY ASIMPTOTI^ESKI OPTIMALXNA OTNOSITELXNO NEKOTOROGOKLASSA = fQ()g APRIORNYH RASPREDELENIJ, KOTORYJ SODERVIT NEIZWESTNOE ISTINNOE RASPREDELENIE Q(). w ^ASTNOSTI MOVET LI BYTX KLASSOMWSEH APRIORNYH RASPREDELENIJ NA ?19218.3lEKCIQ18spisok literatury1) H. Robbins, The empirical Bayes approach to statistics,Proc.
Third Berkley Symp. Math. Statist. Probab., 1955, v.1, p. 157 { 164.2) H. Robbins, The empirical Bayes approach to statistical decision problems,Ann. Math. Statist., 1964, v.35, p. 1{ 20.3) l.n. bOLX[EW, pRILOVENIQ \MPIRI^ESKOGO BAJESOWSKOGO PODHODA,tRUDY mEVDUNARODNOGO kONGRESSA mATEMATIKOW, nICCA 1970, mOSKWA, nAUKA, 1972, STR. 48 { 55.4) J.S. Maritz, Empirical Bayes Methods,Methuen and Co LTD, London, 1970, Chapter 1.5) {. zAKS, tEORIQ sTATISTI^ESKIH wYWODOW,mOSKWA, nAUKA, 1975, gLAWA 6, < 6.9.lEKCIQ 19w lEKCII STROQTSQ ASIMPTOTI^ESKI \FFEKTIWNYE BAJESOWSKIE RE[A@]IE FUNKCII.asimptoti~eskaq optimalxnostx19.1nAPOMNIM, ^TO (SM.
(18.1.7) I (18.2.5))Zr(Q) = r(Q; Q) = hQ (Q(x); x)d (x);XZrn(; Q) = EhQ(n (x); x)d (x);XPO\TOMU, U^ITYWAQ tEOREMU lEBEGA O MAVORIRUEMOJ SHODIMOSTI (SM. lEKCIQ 2, P.8), NEPOSREDSTWENNO IZ OPREDELENIQ ASIMPTOTI^ESKOJ OPTIMALXNOSTI (oPREDELENIE 18.2.2) SLEDUET, ^TO DLQ ASIMPTOTI^ESKOJ OPTIMALXNOSTIPOSLEDOWATELXNOSTI RE[A@]IH FUNKCIJ OTNOSITELXNO APRIORNOGO RASPREDELENIQ Q() DOSTATO^NO, ^TOBY(A) Limn!1 EhQ(n (x); x) = hQ(Q (x); x); ; PO^TI WS@DUI(B) EhQ(n (x); x) H (x); PRI^<M R H (x)d (x) < +1:XoSNOWNAQ PROBLEMA SOSTOIT W DOKAZATELXSTWE SOOTNO[ENIQ (A).
dLQ PROWERKI NERAWENSTWA (B) PREDPOLOVIM, ^TO(C) R L()dQ() < +1;193lEKCIQ194GDE190 L() = sup L(; ) +1:2tOGDA POLAGAQZH (x) = L()p (x)dQ() 0;(19:1:1)(19:1:2)I U^ITYWAQ SOOTNO[ENIE (18.1.3), POLU^AEM NERAWENSTWOZhQ (; x) = L(; )p (x)dQ() H (x):(19:1:3)tOGDA W SILU PREDPOLOVENIQ (C), IMEEMZXZZXH (x)d (x) = L() p (x)d (x)dQ() =Z= L()dQ() < +1:(19:1:4)iZ SOOTNO[ENIJ (18.2.3) I (18.2.4) TEPERX SLEDUET SPRAWEDLIWOSTX NERAWENSTWA (B).
bOLEE TOGO IZ (18.2.4) TAKVE SLEDUET, ^TOH (x) < +1; ; PO^TI WS@DU(19:1:5)I ZNA^IT DLQ DOKAZATELXSTWA (A) DOSTATO^NO POKAZATX, ^TO (FUNKCIQ hQ(; x)RAWNOMERNO OGRANI^ENA PO (SM.(19.1.3))(D) P ; Limn!1 hQ(n (x); x) = hQ(Q (x); x); ; PO^TI WS@DU;GDE P ; lim OZNA^AET PREDEL PO WEROQTNOSTI OTNOSITELXNO RASPREDELENIQNEZAWISIMYH SLU^AJNYH WELI^IN (X1 ; ; Xn ) S PLOTNOSTX@ (18.2.6). tAKIMOBRAZOM DLQ DOKAZATELXSTWA ASIMPTOTI^ESKOJ OPTIMALXNOSTI OTNOSITELXNO Q() DOSTATO^NO PROWERITX SOOTNO[ENIQ (C) I (D).rASSMOTRIM SOOTNO[ENIE (D).
pUSTX 0 { PROIZWOLXNYJ FIKSIROWANNYJ\LEMENT MNOVESTWA I OPREDELIMZQ(; x) = [L(; ) ; L(; 0 )]p (x)dQ()IZL0 (x) = L(; 0 )p (x)dQ():(19:1:6)(19:1:7)19.1.aSIMPTOTI^ESKAQ OPTIMALXNOSTXpRI WYPOLNENII USLOWIQ (C) DLQ { PO^TI WSEH x MY MOVEM ZAPISATXhQ(; x) = L0 (x) + Q(; x):(19:1:8)pREDPOLOVIM, ^TO MY MOVEM NAJTI POSLEDOWATELXNOSTX FUNKCIJn (; x) = n (x1 ; ; xn ; ; x)(19:1:9)TAKU@, ^TO DLQ { PO^TI WSEH x SPRAWEDLIWO SOOTNO[ENIEP ; nLim(19:1:10)!1 sup jn (; x) ; Q(; x)j = 0:1952pUSTX "n PROIZWOLXNAQ POSLEDOWATELXNOSTX ^ISEL, STREMQ]AQSQ K NUL@ IOPREDELIM POSLEDOWATELXNOSTX RE[A@]IH FUNKCIJn (x) = n (x1; ; xn; x) = PROIZWOLXNOMU \LEMENTU 2 TAKOMU, ^TOn ( ; x) inf (; x) + "n :(19:1:11)2 no^EWIDNO, SPRAWEDLIWO SOOTNO[ENIE (SM. (18.1.5) I (19.1.8))0 Q(n (x); x) ; Q(Q (x); x) =(19:1:12)= [Q (n (x); x) ; n (n (x); x)] + [n (n (x); x) ; n (Q (x); x)]++[n (Q (x); x) ; Q(Q (x); x)]:tEPERX DLQ L@BOGO " > 0, ISPOLXZUQ (19.1.10) I (19.1.11), POLU^IM, ^TO DLQDOSTATO^NO BOLX[IH n S WEROQTNOSTX@ SKOLX UGODNO BLIZKOJ K EDINICE, PRAWAQ ^ASTX (19.1.12) NE PREWOSHODIT " + "n.
tAKIM OBRAZOMP ; nLim(19:1:13)!1 Q (n (x); x) = Q(Q (x); x); ; PO^TI WS@DU;PO\TOMU IZ (19.1.8) SLEDUET SOOTNO[ENIE (D). tAKIM OBRAZOM DOKAZANAtEOREMA 19.1.1 pUSTX APRIORNOE RASPREDELENIE Q() UDOWLETWORQETUSLOWI@ (C)ZL()dQ() < +1; 0 L() = sup L(; ) +1 2I PUSTX n(; x) = n(x1 ; ; xn; ; x) { POSLEDOWATELXNOSTX FUNKCIJ WIDA(19.1.9), KOTORAQ UDOWLETWORQET SOOTNO[ENI@ (19.1.10)P ; nLim!1 sup jn (; x) ; Q(; x)j = 0; 2lEKCIQ196GDE19ZQ (; x) = [L(; ) ; L(; 0 )]p (x)dQ():oPREDELIM POSLEDOWATELXNOSTX = fn g S POMO]X@ SOOTNO[ENIQ (19.1.11)n (x) = n(x1 ; ; xn ; x) = PROIZWOLXNOMU \LEMENTU 2 TAKOMU, ^TOn( ; x) inf (; x) + "n ; 0 "n ! 0:2 ntOGDA POSLEDOWATELXNOSTX RE[A@]IH FUNKCIJ = fn g ASIMPTOTI^ESKIOPTIMALXNA OTNOSITELXNO APRIORNOGO RASPREDELENIQ Q().w SLU^AE, ESLI MNOVESTWO KONE^NO SPRAWEDLIWO SLEDU@]EEsLEDSTWIE 19.1.1.
pUSTX = f0 ; ; m g { KONE^NOE MNOVESTWO IAPRIORNOE RASPREDELENIE Q() TAKOWO, ^TOZL(; dj )dQ() < +1;j = 0; ; m(19:1:14)I PUSTX j;n(x) = j;n(x1 ; ; xn; x); j = 1; ; m; n = 1; 2; { TAKAQPOSLEDOWATELXNOSTX FUNKCIJ, ^TOZP ; nLim!1 j;n(x) = [L(; dj ) ; L(; d0 )]p (x)dQ(); ; PO^TI WS@DU:(19:1:15)pOLOVIM 0;n(x) = 0 I OPREDELIMn (x) = k ; GDE 0 k m { PROIZWOLXNOE ^ISLO TAKOE, ^TOk;n(x) = min[0; 1;n (x); ; m;n (x)]:(19:1:16)tOGDA POSLEDOWATELXNOSTX = fn g ASIMPTOTI^ESKI OPTIMALXNA OTNOSITELXNO APRIORNOGO RASPREDELENIQ Q().w WAVNOM ^ASTNOM SLU^AE m = 1 (PROWERKA GIPOTEZ) \TO sLEDSTWIEPRIOBRETAET SLEDU@]IJ WID.sLEDSTWIE 19.1.2. pUSTX = f0 ; 1 g I APRIORNOE RASPREDELENIE Q()TAKOWO, ^TOZL(; j )dQ() < +1; j = 0; 1(19:1:17)I PUSTX FUNKCIQ n(x) = n(x1 ; ; xn ; x) TAKAQ, ^TOP ; nLim!1 n(x) = Q (x) =19.2.sLU^AJ RASPREDELENIQ pUASSONAZ= [L(; 1 ) ; L(; 0 )]p (x)dQ(); ; PO^TI WS@DU:197(19:1:18)oPREDELIM RE[A@]U@ FUNKCI@(n (x) 0;n (x) = 0 ;; ESLI(19:1:19)ESLI n(x) < 0:1tOGDA POSLEDOWATELXNOSTX = fn g ASIMPTOTI^ESKI OPTIMALXNA OTNOSITELXNO APRIORNOGO RASPREDELENIQ Q().nIVE BUDET PRIWED<N PRIMER POSLEDOWATELXNOSTI n(x), UDOWLETWORQ@]EJ SOOTNO[ENI@ (19.1.18).19.2slu~aj raspredeleniq puassonarASSMOTRIM ZADA^U PROWERKI ODNOSTORONNEJ GIPOTEZY WIDAH0 : O PARAMETRE RASPREDELENIQ pUASSONA (ZNA^ENIE IZWESTNO).
pUSTX = f : 0 < < +1g; = f0 ; 1 g;GDE RE[ENIQ 0 I 1 INTERPRETIRU@TSQ KAK0 ; "PRINQTX GIPOTEZU H0"; 1 ; "OTWERGNUTX GIPOTEZU H0 ":dALEE; xX = f0; 1; 2; g; p (x) = e x!(19:2:1)I () { S^ITA@]AQ MERA NA DEJSTWITELXNOJ PRQMOJ R1 . oPREDELIM TEPERXFUNKCI@ POTERX( ;L(; 0) = 0;; ; ESLI(19:2:2)ESLI ;(ESLI ;L(; 1 ) = 0; ; ; ESLI :iZ OPREDELENIQ FUNKCII POTERX NEPOSREDSTWENNO SLEDUET, ^TOL(; 1 ) ; L(; 0 ) = ; ; (0 < < +1)(19:2:3)lEKCIQ19819IZ+Z10Q (x) = [L(; 1 );L(; 0 )]p (x)dQ() = x1!( ;)e; xdQ(): (19:2:4)dALEE ISPOLXZUQ (18.2.6), POLU^IMpQ(x) = PfXj = xg = x1!+Z10e; xdQ()I ZNA^IT MY MOVEM ZAPISATXQ(x) = pQ(x) ; (x + 1)pQ (x + 1):oPREDELIM FUNKCI@(x; y) =(1;0;ESLI x = y;ESLI x =6 y(19:2:5)(19:2:6)(19:2:7)I RASSMOTRIM WYRAVENIEun(x) = un(x1 ; ; xn ; x) = n1zAMETIM, ^TOInXi=1(x; xi ):(19:2:8)un (x) = ^ISLO x1 ; ;nxn RAWNYH xE(x; Xj ) = PfXj = xg = pQ (x):iZ zAKONA bOLX[IH ~ISEL SLEDUET (SM.