А.В. Прохоров - Курс лекций по математической статистике (1124594), страница 8
Текст из файла (страница 8)
ÒîãäàP -ï. í. èìååìR Ïóñòü A 2 Aî áàéåñîâñêîé îöåíêåp (x) (d):Æ = Rp (x) (d) ïðîèçâîëüíîå ñîáûòèå. Ïîëîæèì C = A 2 B A . Ïî îïðåäåëåíèþ ÓÌÎ è òåîðåìåZÆ dQ =CÂñïîìèíàÿ îïðåäåëåíèå ìåðûZ0ZZ dQ:CQ è òåîðåìó Ôóáèíè, ïîëó÷àåì:1ZZZÆ (x) p (x) (d)A dx = Æ dQ = dQ =ACCA250Z1p (x) (d)A dx;îòêóäà â ñèëó ïðîèçâîëüíîñòè âûáîðàÆ (x)Åñëè àïðèîðíîå ðàñïðåäåëåíèåA ïîëó÷àåì, ÷òîZp (x) (d) =Zp (x) (d) P -ï.í. èìååò ïëîòíîñòü (), òîRp (x)() d ZÆ (x) = R= q( j x) d;p (x)() dãäåq( j x) =Rp (x)()p (x)() díàçûâàåòñÿ àïîñòåðèîðíîé ïëîòíîñòüþ (ïëîòíîñòüþ àïîñòåðèîðíîãî ðàñïðåäåëåíèÿ ïàðàìåòðà). Ýòî óñëîâíîåðàñïðåäåëåíèå ïðè óñëîâèè . Ïîñëåäíÿÿ îðìóëà íàçûâàåòñÿ îðìóëîé Áàéåñà äëÿ ïëîòíîñòåé.Çàìå÷àíèå. Áàéåñîâñêàÿ îöåíêà ìèíèìèçèðóåò àïîñòåðèîðíûé ðèñê MQ (( Æ ( ))2 j ) (áåç äîêàçàòåëüñòâà).3.5. Ñâÿçü áàéåñîâñêèõ îöåíîê ñ ïîíÿòèåì äîñòàòî÷íîé ñòàòèñòèêè1.
Àïîñòåðèîðíîå ðàñïðåäåëåíèå ïàðàìåòðà îòíîñèòåëüíî ëþáîãî àïðèîðíîãî ðàñïðåäåëåíèÿ ÿâëÿåòñÿ óíêöèåé äîñòàòî÷íîé ñòàòèñòèêè. Äåéñòâèòåëüíî, ïóñòü T (x) äîñòàòî÷íàÿ ñòàòèñòèêà. Òîãäà ïî òåîðåìåÍåéìàíà Ïèðñîíà p (x) = g (; T (x))h(x). Ïðè óñëîâèè ñóùåñòâîâàíèÿ ïëîòíîñòè àïðèîðíîãî ðàñïðåäåëåíèÿ äëÿ ïëîòíîñòè q ( j x) óñëîâíîãî ðàñïðåäåëåíèÿ èìååò ìåñòî ñëåäóþùåå:q( j x) =p ()g(; T (x))()=R= f (T (x));p (x)() dg(; T (x))() dRò.å. ïëîòíîñòü àïîñòåðèîðíîãî ðàñïðåäåëåíèÿ åñòü óíêöèÿ äîñòàòî÷íîé ñòàòèñòèêè.2. Ïðè íåêîòîðûõ äîïîëíèòåëüíûõ óñëîâèÿõ íà (íàïðèìåð, åñëè () 6= 0 ïðè âñåõ 2 ) âåðíî è îáðàòíîå: åñëè àïîñòåðèîðíîå ðàñïðåäåëåíèå çàâèñèò îò x ïîñðåäñòâîì ñòàòèñòèêè T (x), òî T (x) ÿâëÿåòñÿäîñòàòî÷íîé ñòàòèñòèêîé.
Òàêèì îáðàçîì ìû ïîëó÷èëè áàéåñîâñêèé êðèòåðèé äîñòàòî÷íîñòè ñòàòèñòèêè.3.6. Áàéåñîâñêèå èíòåðâàëüíûå îöåíêèÏðåäïîëîæèì, ÷òî ðàñïðåäåëåíèÿ P è àáñîëþòíî íåïðåðûâíû îòíîñèòåëüíî ëåáåãîâîé ìåðû, ò.å. ñóùåñòâóþò ïëîòíîñòè p (x) è (). q ( j x) àïîñòåðèîðíàÿ ïëîòíîñòü. Âîçüì¼ì ïðîèçâîëüíîå 2 (0; 1) è ïðîèçâîëüíûìîáðàçîì ðàçîáü¼ì åãî íà äâå ÷àñòè: = 1 + 2 , 1;2 2 (0; 1). Íàéä¼ì 1 - è (1 2 )-êâàíòèëè àïîñòåðèîðíîãîðàñïðåäåëåíèÿ è îáîçíà÷èì èõ = (1 ; x) è = (2 ; x) ñîîòâåòñòâåííî:Z1q( j x) d = 1 ;Z1q( j x) d = 1 2 :ZP( 6 6 ) = q( j x) d = 1 2 1 = 1 ;ãäå âåðîÿòíîñòü ðàññìàòðèâàåòñÿ â ñìûñëå ìåðû Q (è ïî àïðèîðíîìó ðàñïðåäåëåíèþ , è ïî ðàñïðåäåëåíèÿìèç ñåìåéñòâà P ). Ïîëó÷èëè èíòåðâàë [; ℄ äëÿ ïàðàìåòðà ýòî è åñòü áàéåñîâñêàÿ èíòåðâàëüíàÿ îöåíêà (ýòîòèíòåðâàë îïðåäåëÿåòñÿ ïî íåîäíîçíà÷íî). âåðîÿòíîñòü òîãî, ÷òî íå ïîïàä¼ò â èíòåðâàë (âåðîÿòíîñòüîøèáêè ïðè èñïîëüçîâàíèè ýòîãî èíòåðâàëà).4.
Äîâåðèòåëüíûå èíòåðâàëû(X ; A ; P = fP j 2 g) ïàðàìåòðè÷åñêàÿ ìîäåëü, ñêàëÿðíûé ïàðàìåòð (èíà÷å èíòåðâàëû çàìåíÿþòñÿ áîëåå ñëîæíûìè îáëàñòÿìè). (1 ; : : : ; n ) ñëó÷àéíàÿ âûáîðêà, x = (x1 ; : : : ; xn ) å¼ ðåàëèçàöèÿ. Ïî26çàäàííîìó 2 (0; 1) è ïî âûáîðêå íàõîäèì òàêèå ñòàòèñòèêè (; x) < (; x), ÷òî P ([; ℄ 3 ) > 1 . Âýòîì ñëó÷àå èíòåðâàë [; ℄ íàçûâàåòñÿ (òî÷íûì) äîâåðèòåëüíûì èíòåðâàëîì äëÿ ñ äîâåðèòåëüíîé âåðîÿòíîñòüþ (äîâåðèòåëüíûì óðîâíåì) 1 . âåðîÿòíîñòü îøèáêè ïðè èñïîëüçîâàíèè äàííîãî èíòåðâàëà. è íàçûâàþòñÿ äîâåðèòåëüíûìè ãðàíèöàìè.Äîâåðèòåëüíûé èíòåðâàë ÷àñòíûé ñëó÷àé èíòåðâàëüíîé îöåíêè.
 îòëè÷èå îò áàéåñîâñêîãî ïîäõîäà çäåñü íå ñëó÷àéíàÿ âåëè÷èíà; çàòî ó Áàéåñà ãðàíèöû ïîñòîÿííûå, à ó íàñ ñëó÷àéíûå (çàâèñÿò îò âûáîðêè).Ñðàâíåíèå äâóõ äîâåðèòåëüíûõ èíòåðâàëîâ ïðîèçâîäèòñÿ ïî äâóì õàðàêòåðèñòèêàì:1. ïî (èëè ïî äîâåðèòåëüíîé âåðîÿòíîñòè 1 );2. ïî ñðåäíåé äëèíå äîâåðèòåëüíîãî èíòåðâàëà.4.1. Äîâåðèòåëüíûå èíòåðâàëû äëÿ ïàðàìåòðîâ íîðìàëüíîãî ðàñïðåäåëåíèÿ4.1.1.
Äîâåðèòåëüíûé èíòåðâàë äëÿ ñðåäíåãî ïðè èçâåñòíîé äèñïåðñèè1 ; : : : ; n ïîâòîðíàÿ âûáîðêà, N (a; 2 ), a = Mi , 2 = Di ; 2 èçâåñòíî. ëó÷øàÿ òî÷å÷íàÿ îöåíêàäëÿ a.2 a N (a; ). Îòñþäà p 2 N (0; 1) ðàñïðåäåëåíèå íå çàâèñèò îò íåèçâåñòíîãî ïàðàìåòðà (çàìåòèì,n =n÷òî ýòî íå ñòàòèñòèêà, ò.ê. îíà çàâèñèò îò ïàðàìåòðà a). Ïîýòîìó a p 2 =n Pa!6 u = (u) ( u) = 2(u) 1;ãäå(x) =Zx1p1 e2u2 =2 du .
ð.N (0; 1).Ïóñòü çàäàíî 2 (0; 1). Ïî òàáëèöàì ñòàíäàðòíîãî íîðìàëüíîãî ðàñïðåäåëåíèÿ íàõîäèì (1 2 )-êâàíòèëüN (0; 1). Îáîçíà÷èì ýòó êâàíòèëü u1 2 . Òîãäà (u1 2 ) = 1 2 , îòêóäà 2(u1 2 ) 1 = 1 .  ñèëó ïðåäûäóùåãî apn 6 u1Pa =x u1ïîýòîìó2pn ; x + u1 pn2= 1 ; äîâåðèòåëüíûé èíòåðâàë äëÿ2a ñ äîâåðèòåëüíîé âåðîÿòíîñòüþ 1 .4.1.2. Äîâåðèòåëüíûé èíòåðâàë äëÿ äèñïåðñèè ïðè èçâåñòíîì ñðåäíåìs20 =n1 P(xn k=1 ka)2 íåñìåù¼ííàÿ (Ms20Zk =ka= 2 ) îöåíêà äëÿ 2 .n ns20 Xk a 2== Z12 + + Zn2 :2 k=1 N (0; 1);âçàèìíî íåçàâèñèìû è îäèíàêîâî ðàñïðåäåëåíû ñ N (0; 1).
àñïðåäåëåíèå ñëó÷àéíîé âåëè÷èíû Z12 + +íàçûâàåòñÿ õè-êâàäðàò ðàñïðåäåëåíèåì ñ n ñòåïåíÿìè ñâîáîäû è îáîçíà÷àåòñÿ 2n . Äëÿ êâàíòèëåé ýòîãîðàñïðåäåëåíèÿ ñîñòàâëåíû òàáëèöû. Èñïîëüçóÿ ýòè òàáëèöû, íàõîäèì êâàíòèëè g1 = g1 ( 2 ) 2 -êâàíòèëü èg2 = g2 ( 2 ) (1 2 )-êâàíòèëü 2n . Ïîëó÷àåì, ÷òîZkZn2P g1 62òî åñòüns2026 g2 = 1 2ns20 ns20;ÿâëÿåòñÿ äîâåðèòåëüíûì èíòåðâàëîì äëÿ 2g2 g1= 1 ;2ñ äîâåðèòåëüíîé âåðîÿòíîñòüþ1 .4.2. Òî÷íûé äîâåðèòåëüíûé èíòåðâàë äëÿ ïàðàìåòðà áèíîìèàëüíîãî ðàñïðåäåëåíèÿÏóñòü äàíà ñëó÷àéíàÿ âûáîðêà (1 ; : : : ; n ) ñî çíà÷åíèÿìè x1 ; : : : ; xn , k âçàèìíî íåçàâèñèìû è ðàñïðåäåëåíûñëåäóþùèì îáðàçîì:(k =ãäåp íåèçâåñòíûé ïàðàìåòð.
Sn =Pi=10 ñ âåðîÿòíîñòüþ 1 p;1 ñ âåðîÿòíîñòüþ p;ni , P(Sn = m) = Cnm pm (1 p)n m .27àíåå áûëî ïîêàçàíî, ÷òî åñëè1 ; : : : ; nP((m) 6 x) =âçàèìíî íåçàâèñèìû è ðàâíîìåðíî ðàñïðåäåëåíû íàXk >m[0; 1℄, òîCnk xk (1 x)n k = Ix (m; n m + 1);ãäå Ix (a; b) íåïîëíàÿ áåòà-óíêöèÿ ñ àðãóìåíòîì x è ïàðàìåòðàìè a è b, êîòîðàÿ óäîâëåòâîðÿåò ñîîòíîøåíèþIx (a; b) + I1 x (b; a) = 1.ÏîëîæèìmnXXfm(p) := Cnk pk (1 p)n k = 1Cnk pk (1 p)n k = 1 Ip (m + 1; n m) = I1 p (n m; m + 1):k=0k=m+1(Ïðè èêñèðîâàííîì m ýòî óíêöèÿ îò àðãóìåíòà p 2 [0; 1℄; à m = Sn èçâåñòíî íàì èç âûáîðêè.) fm íåïðåðûâíàÿ è ñòðîãî óáûâàþùàÿ óíêöèÿ, fm (0) = 1, fm (1) = 0.
Ïîýòîìó äëÿ êàæäîãî 2 (0; 1) óðàâíåíèånPfm (p) = èìååò åäèíñòâåííûé êîðåíü p = p = pm ( ).Cnk pk (1 p)n k = 1 fm 1(p). Äëÿ êàæäîãî 2 (0; 1)k=móðàâíåíèå 1 fm 1 (p) = èìååò åäèíñòâåííûé êîðåíü p = p = pm 1 ( ).Ïîëàãàåì = =2 è ïîëó÷àåì, ÷òîPp (p > p) = Pp (fm (p) < ) = Ppòî åñòünXk=SnCnk pk (1p)n k!< =Xj:P P(Sn=k)6 P(Sn = j ) 6 ;k6jP(p > p) 6 . Àíàëîãè÷íî P(p < p) 6 . Îêîí÷àòåëüíî,Pp (p 6 p 6 p) > 1 2 = 1 ;òî åñòü èíòåðâàë[p; p℄ åñòü äîâåðèòåëüíûé èíòåðâàë äëÿ p ñ äîâåðèòåëüíîé âåðîÿòíîñòüþ 1 .4.3.
Îáùèå ñïîñîáû ïîëó÷åíèÿ äîâåðèòåëüíûõ èíòåðâàëîâ4.3.1. Ìåòîä öåíòðàëüíîé ñòàòèñòèêèÏóñòü 1 ; : : : ; n âçàèìíî íåçàâèñèìû è ðàñïðåäåëåíû ñ àáñîëþòíî íåïðåðûâíûì ðàñïðåäåëåíèåì âåðîÿòíîñòåé P . Íàéä¼ì óíêöèþ S ( ; ) òàê íàçûâàåìóþ öåíòðàëüíóþ ñòàòèñòèêó, õîòÿ íà ñàìîì äåëå îíàñòàòèñòèêîé íå ÿâëÿåòñÿ, ñî ñëåäóþùèìè ñâîéñòâàìè:1. ðàñïðåäåëåíèå S ( ; ) íå çàâèñèò îò è èìååò ïëîòíîñòü fS (y ),2. ïðè êàæäîì èêñèðîâàííîì x 2 X óíêöèÿ S (x; ) (êàê óíêöèÿ àðãóìåíòà ) ÿâëÿåòñÿ íåïðåðûâíîé èñòðîãî ìîíîòîííîé.Çàäàäèì 2 (0; 1) è íàéä¼ì u1 < u2òàê, ÷òîáûP(u1 6 S ( ; ) 6 u2 ) =Zu2u1fS (y) dy = 1 :(u1 è u2 íàõîäÿòñÿ íåîäíîçíà÷íî.) Çàìåòèì, ÷òî ðàñïðåäåëåíèå âåðîÿòíîñòåé â ïðàâîé ÷àñòè íå çàâèñèò îòïàðàìåòðà .
Îáðàòèì íåðàâåíñòâî îòíîñèòåëüíî è ïîëó÷èì, ÷òî P(T1 ( ) 6 6 T2 ( )) = 1 , ò. å. [T1 (x); T2 (x)℄åñòü äîâåðèòåëüíûé èíòåðâàë äëÿ ñ äîâåðèòåëüíîé âåðîÿòíîñòüþ 1 .4.3.2. Åù¼ îäèí ìåòîäÏóñòü T (x) íåêîòîðàÿ ñòàòèñòèêà, G (t) = P (T ( ) 6 t) å¼ óíêöèÿ ðàñïðåäåëåíèÿ. Ïóñòü G (t) ïðèëþáîì èêñèðîâàííîì íåïðåðûâíà è ñòðîãî ìîíîòîííà îòíîñèòåëüíî t è ïðè ëþáîì èêñèðîâàííîì t ÿâëÿåòñÿíåïðåðûâíîé ñòðîãî óáûâàþùåé óíêöèåé îò . Òîãäà P (G (t1 ) 6 G (T ( )) 6 G (t2 )) = P (t1 6 T ( ) 6 t2 ) =G (t2 ) G (t1 ) ïðè ëþáûõ t1 < t2 . Åñëè G (t1 ) = 1 , G (t2 ) = 1 2 , 1 + 2 = , òî P (1 6 G (T ) 6 1 2 ) =1 2 1 = 1 .
Ïîëîæèì : G (T (x)) = 1 ; : G (T (x)) = 2 . Òîãäà P( 6 6 ) = 1 , ò. å. [; ℄ äîâåðèòåëüíûé èíòåðâàë ñ âåðîÿòíîñòüþ îøèáêè .284.4. Àñèìïòîòè÷åñêèå äîâåðèòåëüíûå èíòåðâàëûÊàê ïðàâèëî, îíè îñíîâàíû íà àñèìïòîòè÷åñêîé íîðìàëüíîñòè íåêîòîðûõ ñòàòèñòèê.Ïðèìåð 4.1.  ñõåìå Áåðíóëëè ñ ïàðàìåòðîì p 2 [0; 1℄ ðàññìàòðèâàåòñÿîöåíêàpb nMpbn = p; Dpbn = p(1 n p) .  ñèëó ÖÏÒ pbn àñèìïòîòè÷åñêè íîðìàëüíà ñ N p; p(1 n p)= n1 (x1 + + xn )., ò. å.pbn pd! Z N (0; 1):p(1 p) n!1nrÏîëîæèìu = u1 2(1 )-êâàíòèëü ñòàíäàðòíîãî íîðìàëüíîãî ðàñïðåäåëåíèÿ.
Ïîëó÷àåì, ÷òî20 pbn p P q p(1 p) 16 uA (u) ( u) = 1 ;nãäå óíêöèÿ ñòàíäàðòíîãî íîðìàëüíîãî ðàñïðåäåëåíèÿ. Òî÷íîñòü âû÷èñëÿåòñÿ èç îöåíîê ñêîðîñòè ñõîäèìîñòè â ÖÏÒ. åøàÿ íåðàâåíñòâî ïîä çíàêîì âåðîÿòíîñòè, ïîëó÷àåì èíòåðâàë äëÿ p: P(pn 6 p 6 pn ) 1 .N (; 2 ()=n). Ïóñòü f ()0^äèåðåíöèðóåìà è f () 6= 0 â ðàññìàòðèâàåìîé îáëàñòè. Òîãäà f (n ) àñèìïòîòè÷åñêè íîðìàëüíà ñ ðàñïðåäåëåíèåì0 2 2 N f (); (f ())n () :Çàìå÷àíèå. Ôóíêöèþ f () ìîæíî âûáðàòü òàê, ÷òîáû f 0 () () = onst, è òàêèì îáðàçîì èçáàâèòñÿ îòËåììà 4.1. Ïóñòü îöåíêà ^n (x) ïàðàìåòðà àñèìïòîòè÷åñêè íîðìàëüíà ñçàâèñèìîñòè äèñïåðñèè îò ïàðàìåòðà. àçëîæèì f ïî îðìóëå Òåéëîðà: f (t) = f ()+(tt = ^n :!f (^ ) f (p)Wn := 0 nf ()()= ndPè ïîëó÷èì, ÷òî Wn = Yn (1 + Zn ).