А.В. Прохоров - Курс лекций по математической статистике (1124594), страница 7
Текст из файла (страница 7)
Q(C ) := dP îïðåäåëÿåò ìåðó íàC(; C ), àáñîëþòíî íåïðåðûâíóþ îòíîñèòåëüíî ìåðû P, ðàññìîòðåííîéíà(;C).Ïîòåîðåìåàäîíà ÍèêîäèìàRRñóùåñòâóåò C -èçìåðèìàÿ óíêöèÿ g (! ) > 0 òàêàÿ, ÷òî g (! ) dP = 1 è Q(C ) = g (! ) dP (g ïðîèçâîäíàÿCàäîíà Íèêîäèìà). g ïî îïðåäåëåíèþ ÿâëÿåòñÿ âàðèàíòîì ÓÌÎ. ñëó÷àå çíàêîïåðåìåííîé ïîëàãàåì = + ( + è íåîòðèöàòåëüíû) è áåð¼ì â êà÷åñòâå âàðèàíòàÓÌÎ M( j C ) = M( + j C ) M( j C ). Çàìå÷àíèå.
Óñëîâèå Mj j < 1 íå ÿâëÿåòñÿ íåîáõîäèìûì.Óòâåðæäåíèå 2.16. Ëþáûå äâà âàðèàíòà ÓÌÎ ñîâïàäàþò ïî÷òè íàâåðíîå. Îò ïðîòèâíîãî: ïóñòü g1 è g2 äâà âàðèàíòà ÓÌÎ M( j C ). Ïóñòü òàêæå C = f! j g1 (!) 6= g2 (!)g,P(C ) > 0. Èìååì, ÷òî C = C< [ C> , ãäå C = f! j g1 (!) g2 (!)g, 2 f<; >g. Õîòÿ áû îäíî èç ìíîæåñòâ C< è C>èìååò ïîëîæèòåëüíóþ ìåðó (èíà÷å P(C ) = 0); áåç îãðàíè÷åíèÿ îáùíîñòè ñ÷èòàåì P(C< ) > 0. g1 è g2 èçìåðèìû,ïîýòîìóD = C< 2 C . Òîãäà ïî îïðåäåëåíèþ âàðèàíòà ÓÌÎZDg1 dP =Z dP =DZDg2 dP;÷òî ïðîòèâîðå÷èò òîìó, ÷òî g1 < g2 âñþäó íà D è P(D) > 0. Ïîýòîìó ÓÌÎ ìîæíî ñ÷èòàòü îäíîçíà÷íî îïðåäåë¼ííûì ñ òî÷íîñòüþ äî ìíîæåñòâ P-ìåðû íóëü.Îïðåäåëåíèå.
Ïóñòü (; A ; P) âåðîÿòíîñòíîå ïðîñòðàíñòâî, C -ïîäàëãåáðà â A , A 2 A . Òîãäà óñëîâíàÿ âåðîÿòíîñòü A îòíîñèòåëüíî C îïðåäåëÿåòñÿ òàê: P f (A j C ) = M(IA j C ), ãäå IA õàðàêòåðèñòè÷åñêàÿóíêöèÿ A.Îïðåäåëåíèå. Ïóñòü (; A ; P) âåðîÿòíîñòíîå ïðîñòðàíñòâî, è ñëó÷àéíûå âåëè÷èíû, C ïîäàëãåáðà â A , ïîðîæä¼ííàÿ (ò.
å. ïðîîáðàçû âñåõ áîðåëåâñêèõ ìíîæåñòâ èç R). Òîãäà óñëîâíûì ìàòîæèäàíèåì îòíîñèòåëüíî íàçûâàåòñÿ M( j ) = M( j C ).222.8.1. Ñâîéñòâà ÓÌÎÎïðåäåëåíèå. íå çàâèñèò îò -àëãåáðû C , åñëè äëÿ ëþáîãî ñîáûòèÿ Cíåçàâèñèìû.Îáîçíà÷åíèå: C02Cñëó÷àéíûå âåëè÷èíûè IC= f; ?g òðèâèàëüíàÿ -àëãåáðà.Óòâåðæäåíèå 2.17.Åñëè P( = ) = 1, òî M( j C ) = ï.í.Ëèíåéíîñòü: M(1 1 + 2 2 j C ) = 1 M(1 j C ) + 2 M(2 j C ) ï.í.Åñëè 6 ï.í., òî M( j C ) 6 M( j C ) ï.í.M( j C ) 6 M(j j j C ) ï.í.Íåðàâåíñòâî Éåíñåíà: ïóñòü g (x) íåïðåðûâíàÿ âûïóêëàÿ âíèç óíêöèÿ, Mg ( ) < 1.Òîãäà g (M( j C )) 6 M(g ( ) j C ) ï.í.
àâåíñòâî èìååò ìåñòî òîãäà è òîëüêî òîãäà, êîãäà C -èçìåðèìà(òî÷íåå, ñîâïàäàåò ñ íåêîòîðîé C -èçìåðèìîé óíêöèåé ïî÷òè âñþäó).6. M( j A ) = ï.í.7. Åñëè íå çàâèñèò îò C , òî M( j C ) = M ï.í.8. Ïóñòü ÿâëÿåòñÿ C -èçìåðèìîé è Mj j < 1. Òîãäà M( j C ) = M( j C ).9. M( j C0 ) = M10. Åñëè C1 C2 , òî M M( j C2 ) j C1 = M( j C1 ). Åñëè C1 C2 , òî M M( j C2 ) j C1 = M( j C2 ).11. M M( j C ) = M12. Åñëè M 2 < 1, òî1.2.3.4.5.infò. å.gmin(!) = M( j C )M( g(!))2 = M( M( j C ))2 ;g(!) C -èçìåð.èìååò íàèìåíüøåå ñðåäíåêâàäðàòè÷íîå îòêëîíåíèå.2.9.
Òåîðåìà Êîëìîãîðîâà Áëåêóýëëà àî(X ; A ; P = fP j 2 g) ïàðàìåòðè÷åñêàÿ ìîäåëü. T (x) äîñòàòî÷íàÿ ñòàòèñòèêà, åñëè ñóùåñòâóåòâàðèàíò ðåãóëÿðíîé óñëîâíîé âåðîÿòíîñòè P (A j T ( )) 8A 2 A , íå çàâèñÿùèé îò ïàðàìåòðà .Òåîðåìà 2.18 (Êîëìîãîðîâ Áëåêóýëë àî).
Ïóñòü T (x) äîñòàòî÷íàÿ ñòàòèñòèêà; ^(x) îöåíêàïàðàìåòðà ñ M ^2 < 1. Òîãäà îöåíêà ( ) = M (^( ) j T ( )) îáëàäàåò ñëåäóþùèìè ñâîéñòâàìè:1.2.M ( ) = M ^( ),M ( ( ) )2 6 M(^( ) )2 . àâåíñòâî èìååò ìåñòî òîãäà è òîëüêî òîãäà, êîãäà ^ èçìåðèìà îòíîñèòåëüíî CT (ÿâëÿåòñÿ èçìåðèìîé óíêöèåé äîñòàòî÷íîé ñòàòèñòèêè).  ñèëó îïðåäåëåíèÿ äîñòàòî÷íîé ñòàòèñòèêè = M(^ j T ) íå çàâèñèò îò , ïîýòîìó ñòàòèñòèêà. CT -èçìåðèìà (â ñèëó îïðåäåëåíèÿ ÓÌÎ), ïîýòîìó åñòü óíêöèÿ îò T . M = M M(^ j T ) = M^. Â2ñèëó íåðàâåíñòâà Éåíñåíà M (^ )2 j T > M(^ j T ) = ( )2 . Âîçüì¼ì ìàòåìàòè÷åñêîå îæèäàíèå:M(^ )2 = M M (^ )2 j T > M( )2 , ïðè÷¼ì ðàâåíñòâî â íåðàâåíñòâå Éåíñåíà äîñòèãàåòñÿ òîãäà èòîëüêî òîãäà, êîãäà ^ CT -èçìåðèìà, ò.å.
åñòü óíêöèÿ îò T . 2.10. Ïîëíàÿ äîñòàòî÷íàÿ ñòàòèñòèêàÎïðåäåëåíèå. Äîñòàòî÷íàÿ ñòàòèñòèêà T (x) íàçûâàåòñÿ ïîëíîé (äëÿ äàííîãî ïàðàìåòðè÷åñêîãî ñåìåéñòâà ðàñïðåäåëåíèé), åñëè äëÿ ëþáîé èçìåðèìîé óíêöèè f (t) ïðè ëþáîì çíà÷åíèè ïàðàìåòðà èç óñëîâèÿM f (T ( )) = 0 ñëåäóåò, ÷òî f (T ( )) = 0 ïî÷òè íàâåðíîå.Ïîëíàÿ äîñòàòî÷íàÿ ñòàòèñòèêà T îáëàäàåò ñëåäóþùèì ñâîéñòâîì: åñëèM f1 (T ( )) = M f2 (T ( ));f1 (T ( )) = f2 (T ( )) ïî÷òè íàâåðíîå.
Äîêàçàòåëüñòâî î÷åâèäíî.Òåîðåìà 2.19. Ïóñòü T (x) ïîëíàÿ äîñòàòî÷íàÿ ñòàòèñòèêà è f è g òàêîâû, ÷òî M f (T ( )) = g ().Òîãäà f (T ) ÿâëÿåòñÿ ýåêòèâíîé îöåíêîé äëÿ g (). Äîêàæåì òåîðåìó â ÷àñòíîì ñëó÷àå g() = .Äàíî, ÷òî M f (T ) = , ò.å. ^( ) = f (T ( )) íåñìåù¼ííàÿ îöåíêà ïàðàìåòðà . Äîêàæåì, ÷òî ýòà îöåíêà èìååòòîíàèìåíüøóþ äèñïåðñèþ ñðåäè âñåõ âîçìîæíûõ íåñìåù¼ííûõ îöåíîê.
Îò ïðîòèâíîãî. Ïóñòü ñóùåñòâóåò òàêàÿîöåíêà e, ÷òî Me( ) = (e íåñìåù¼ííàÿ îöåíêà) è D0 e( ) < D0 ^( ) õîòÿ áû äëÿ îäíîãî 0 2 . Óëó÷øèìîöåíêó e ïðè ïîìîùè òåîðåìû Êîëìîãîðîâà Áëåêóýëëà àî: = M (e j T ( )), ïðè÷¼ì23 = (T (x));M = ;D 6 D e 8 2 .Èìååì: D0 6 D0 e < D0 ^.
Íî è ^ ñóòü óíêöèè ïîëíîé äîñòàòî÷íîé ñòàòèñòèêè T , M = = M ^, îòêóäà ( ) = ^( ) ïî÷òè íàâåðíîå, à ïîýòîìó D0 = D0 ^. Ïðîòèâîðå÷èå. 1.2.3.Çàìå÷àíèå. Ïîëíàÿ äîñòàòî÷íàÿ ñòàòèñòèêà ñóùåñòâóåò íå âñåãäà.2.10.1. Çàìå÷àíèÿ î ìèíèìàëüíîé äîñòàòî÷íîé ñòàòèñòèêå1. Ëþáàÿ èçìåðèìàÿ âçàèìíî-îäíîçíà÷íàÿ óíêöèÿ îò äîñòàòî÷íîé ñòàòèñòèêè ñàìà ÿâëÿåòñÿ äîñòàòî÷íîéñòàòèñòèêîé.2. Åñëè äëÿ ëþáîé äîñòàòî÷íîé ñòàòèñòèêè T ñóùåñòâóåò òàêàÿ èçìåðèìàÿ âçàèìíî-îäíîçíà÷íàÿ óíêöèÿ, ÷òî Tmin (x) = (T (x)), òî Tmin íàçûâàåòñÿ ìèíèìàëüíîé äîñòàòî÷íîé ñòàòèñòèêîé. Ìèíèìàëüíàÿ äîñòàòî÷íàÿ ñòàòèñòèêà ñóùåñòâóåò âñåãäà (äëÿ ëþáîé ïàðàìåòðè÷åñêîé ìîäåëè).
Ìîæíî ïðîâîäèòü ðåäóêöèþ (áåç ïîòåðè èíîðìàöèè) îò âûáîðêè ê ìèíèìàëüíîé äîñòàòî÷íîé ñòàòèñòèêå. Äàëüíåéøàÿ ðåäóêöèÿíåâîçìîæíà.3. Êàê ïðàâèëî, â ðàçëîæåíèè, êîòîðîå äà¼ò òåîðåìà Íåéìàíà Ôèøåðà, ïîÿâëÿåòñÿ ìèíèìàëüíàÿ äîñòàòî÷íàÿ ñòàòèñòèêà.4. Ïîëíàÿ äîñòàòî÷íàÿ ñòàòèñòèêà (åñëè îíà ñóùåñòâóåò) ÿâëÿåòñÿ ìèíèìàëüíîé.3. Áàéåñîâñêèå ñòàòèñòè÷åñêèå îöåíêè3.1. Áàéåñîâñêèå òî÷å÷íûå îöåíêè3.1.1. Ôóíêöèÿ ðèñêààññìîòðèì óíêöèþ u, íàçûâàåìóþ óíêöèåé øòðàà (ïîòåðü), îáëàäàþùóþ ñëåäóþùèìè ñâîéñòâàìè:1.2.3.u ÷¼òíà;u âîçðàñòàåò íà (0; +1);u(0) = 0.Ôóíêöèåé ðèñêà îöåíêè Æ ïàðàìåòðà íàçûâàåòñÿ óíêöèÿ R(; Æ ) = M u(Æ ) .  ÷àñòíîì ñëó÷àå u(x) = x2(îáû÷íî ðàññìàòðèâàåìîì íà ïðàêòèêå) óíêöèÿ ðèñêà R(; Æ ) = M(Æ )2 íàçûâàåòñÿ êâàäðàòè÷íîé óíêöèåéðèñêà.
 òåîðèè ýåêòèâíûõ îöåíîê ñòàòèñòèêè ñðàâíèâàþòñÿ â ñìûñëå ðàâíîìåðíîé ìèíèìèçàöèè ðèñêà.Ïðèìåð 1.1.  ñõåìå Áåðíóëëè îöåíèâàåì ïàðàìåòð p. Ýåêòèâíàÿ îöåíêà ÷àñòîòà p^ = n1 (x1 + + xn ).Äëÿ íå¼ óíêöèÿ ðèñêà (êâàäðàòè÷íàÿ) ðàâíà R1 = R(p; p^) = p(1n p) . Ïóñòü òåïåðü n = 2 (âûáîðêà ñîñòîèòèç äâóõ ýëåìåíòîâ x1 ; x2 ). àññìîòðèì ñòðàííóþ îöåíêó p^^ = 21 äëÿ âñåõ çíà÷åíèé xi .
ż óíêöèÿ ðèñêà åñòü12^R2 = R(p; p^) = ( 2 p) . Åñëè íàì îòêóäà-òî èçâåñòíî (èìååòñÿ àïðèîðíàÿ èíîðìàöèÿ), ÷òî 13 6 p 6 23 , òîñòðàííàÿ îöåíêà p^^ îêàçûâàåòñÿ ëó÷øå.3.1.2. Áàéåñîâñêèé ïîäõîäÏàðàìåòð ðàññìàòðèâàåòñÿ êàê ñëó÷àéíàÿ âåëè÷èíà ñî çíà÷åíèÿìè 2 è ðàñïðåäåëåíèåì âåðîÿòíîñòåé íà èçìåðèìîì ïðîñòðàíñòâå (; B ).
àñïðåäåëåíèå íàçûâàåòñÿ àïðèîðíûì ðàñïðåäåëåíèåì ïàðàìåòðà.Óñðåäíèì óíêöèþ ðèñêà R(; Æ ) ïî ðàñïðåäåëåíèþ ïàðàìåòðà:R(; Æ) =ZR(; Æ) (d):R(; Æ) íàçûâàåòñÿ àïðèîðíûì ðèñêîì. Îöåíêà Æ , ìèíèìèçèðóþùàÿ àïðèîðíûé ðèñê, íàçûâàåòñÿ áàéåñîâñêîéîöåíêîé ïàðàìåòðà : R(; Æ ) = inf R(; Æ ) ( ìíîæåñòâî îöåíîê). Ìîæíî ñõèòðèòü: âçÿòü àïðèîðíîå ðàñÆ2ïðåäåëåíèå òàê, ÷òîáû ïîëó÷èòü ëó÷øóþ îöåíêó.243.2. Ìèíèìàêñíûå îöåíêèÏóñòü òåïåðü íåò íè ýåêòèâíîé îöåíêè, íè àïðèîðíîé èíîðìàöèè.çíà÷åíèå óíêöèè ðèñêà.Îïðåäåëåíèå. Æ íàçûâàåòñÿ ìèíèìàêñíîé îöåíêîé , åñëèìàêñèìàëüíîå çíà÷åíèå óíêöèè ðèñêà).RM (Æ) = sup R(; Æ) 2RM (Æ ) = inf RM (Æ)Æ2 íàèõóäøåå(ò.å.
îíà ìèíèìèçèðóåòÇàìå÷àíèå. Ìèíèìàêñíóþ îöåíêó ìîæíî ïîëó÷èòü êàê áàéåñîâñêóþ ïðè íåêîòîðîì (½íàèìåíåå áëàãîïðèÿòíîì) àïðèîðíîì ðàñïðåäåëåíèè.3.3. Òåîðåìà î áàéåñîâñêîé îöåíêå äëÿ êâàäðàòè÷íîé óíêöèè ðèñêààññìîòðèì óíêöèþ P (A), çàâèñÿùóþ îò A 2 A è 2 . Ïðè êàæäîì èêñèðîâàííîì A P (A) åñòüB -èçìåðèìàÿ óíêöèÿ îò , à ïðè êàæäîì èêñèðîâàííîì çàäà¼ò ðàñïðåäåëåíèå âåðîÿòíîñòåé íà (X ; A ).àññìîòðèì íà äåêàðòîâîì ïðîèçâåäåíèè X -àëãåáðó, ïîðîæä¼ííóþ ïðÿìîóãîëüíèêàìè B A, ãäå B 2 B ,A 2 A . Íà ýòèõ ïðÿìîóãîëüíèêàõ ââåä¼ì ìåðó Q:Q(B A) =ZP (A) (d):BÁîëåå-ìåíåå î÷åâèäíî, ÷òî ýòà ìåðà -àääèòèâíà. Çíà÷èò, îíà ïðîäîëæàåòñÿ ïî Ëåáåãó íà âñþ -àëãåáðó, êîòîðóþìû íàçîâ¼ì B A .
Áóäåì ðàññìàòðèâàòü êâàäðàòè÷íóþ óíêöèþ ïîòåðü è ïðåäïîëàãàòü, ÷òî R(; Æ ) =MQ ( Æ( ))2 < 1.Òåîðåìà 3.1 (î áàéåñîâñêîé îöåíêå äëÿ êâàäðàòè÷íîé óíêöèè ðèñêà). Ïóñòü àïðèîðíîå ðàñïðåäåëåíèå è îöåíêà Æ (x) òàêîâû, ÷òî R(; Æ ) = MQ ( Æ ( ))2 < 1. Òîãäà áàéåñîâñêîé îöåíêîé ïàðàìåòðà ÿâëÿåòñÿ Æ ( ) = MQ ( j ) (îíà îïðåäåëåíà ñ òî÷íîñòüþ äî ìíîæåñòâ Q-ìåðû íóëü).1.2.3.Æÿâëÿåòñÿ ñòàòèñòèêîé, ò.ê. îíà çàâèñèò îò ïîñðåäñòâîì ðàñïðåäåëåíèÿ, à îíî èêñèðîâàíî.MQ ( Æ( ))2 j , MQ (2 j ) è MQ ( j ) ñóùåñòâóþò.MQ ( Æ ( ))2 = MQ MQ (( Æ ( ))2 j ) 6 MQ ( Æ ( ))2 â ñèëó ñâîéñòâ ÓÌÎ (Æ = MQ (àâåíñòâî ïðè Æ ( ) = MQ ( j ).j )).Ñëåäñòâèå 3.1 (åäèíñòâåííîñòü áàéåñîâñêîé îöåíêè).
Ïóñòü Æ1 ; Æ2 äâå áàéåñîâñêèå îöåíêè (îòíî-ñèòåëüíî êâàäðàòè÷íîé óíêöèè ïîòåðü). ÒîãäàQ(Æ1 6= Æ2 ) = 0.3.4. Àïîñòåðèîðíûé ðèñêÏóñòü ñåìåéñòâîP àáñîëþòíî íåïðåðûâíî îòíîñèòåëüíî ëåáåãîâîé ìåðû. Òîãäà äëÿ ëþáîãî ñîáûòèÿ A 2 AZP (A) = p (x) dx:AÓòâåðæäåíèå 3.2. Ïóñòü Æ áàéåñîâñêàÿ îöåíêà îòíîñèòåëüíî êâàäðàòè÷íîé óíêöèè ïîòåðü.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
