Ю.Н. Тюрин, Г.И. Симонова - Математическая статистика. Записки лекций (1124593), страница 12
Текст из файла (страница 12)
Ëèíåéíûå ñâîéñòâà âïîëíåîæèäàåìû è åñòåñòâåííû:(1)2)72)E (X1 + X2 jY ) = E (X1 jY ) + E (X2 jY ):(Çäåñü ñëó÷àéíûå âåëè÷èíû X1 , X2 , äîëæíû áûòü çàäàíû íàòîì æå ïðîñòðàíñòâå ýëåìåíòàðíûõ èñõîäîâ, ÷òî è Y ).E (kX jY ) = kE (X jY );ãäå k ïîñòîÿííûé (íåñëó÷àéíûé) ìíîæèòåëü.3)[( )℄= ( ) ()( )( )E f Y X jY f Y E X jY , ãäå f Y óíêöèÿ Y .Ýòî ñâîéñòâî òîæå åñòåñòâåííî, èáî ïðè èêñèðîâàííîì çíà÷åíèè Y ñëó÷àéíàÿ âåëè÷èíà f Y ïîñòîÿííà, à ïîñòîÿííûéìíîæèòåëü ìîæíî âûíîñèòü çà çíàê ìàòåìàòè÷åñêîãî îæèäàíèÿ.
Íàäî îãîâîðèòü, ÷òî ïåðå÷èñëåííûå âûøå ðàâåíñòâàâûïîëíÿþòñÿ ñ âåðîÿòíîñòüþ 1, èáî îíè ñîåäèíÿþò ñëó÷àéíûå âåëè÷èíû. Íóæíî òàêæå, ÷òîáû ñóùåñòâîâàëî E jX j (âïåðâîì ïóíêòå äîëæíû ñóùåñòâîâàòü E jX1 j è E jX2 j).Íàèáîëåå âàæíûì ÿâëÿåòñÿ ñâîéñòâî4)E [E (X jY )℄ = EX: 2. Óëó÷øåíèå íåñìåùåííûõ îöåíîêÂåðíåìñÿ ê îáñóæäàâøåéñÿ çàäà÷å î íåñìåùåííûõ îöåíêàõ ñìèíèìàëüíîé äèñïåðñèåé. Â å¼ ðåøåíèè ìîæíî ñäåëàòü øàã âïåðåä, åñëè â ñòàòèñòè÷åñêîé ìîäåëè åñòü äîñòàòî÷íàÿ ñòàòèñòèêà.Ïóñòü X íàáëþäàåìàÿ ñëó÷àéíàÿ âåëè÷èíà, ðàñïðåäåëåííàÿïî íåêîòîðîìó çàêîíó P , ãäå íåèçâåñòíûé ïàðàìåòð, 2 , çàäàíî.Ïóñòü d d X íåñìåùåííàÿ îöåíêà , ãäå çàäàííàÿ óíêöèÿ, ò.å.:= ( )()E d(X ) = ()äëÿ âñåõ ( )( )()2 ;ïðè÷åì E jd X j ñóùåñòâóåò.Ïóñòü T X äîñòàòî÷íàÿ ñòàòèñòèêà äëÿ ïàðàìåòðà . àññìîòðèì óñëîâíîå ìàòåìàòè÷åñêîå îæèäàíèå d X ïðè äàííîì T :( )'(T ) = E (d(X )jT ):(( ) )Çàìåòèì, ÷òî E d X jT íå çàâèñèò îò , òàê êàê îò íå çàâèñèòóñëîâíîå ðàñïðåäåëåíèå X ïðè äàííîì T â ñèëó îïðåäåëåíèÿäîñòàòî÷íîé ñòàòèñòèêè.Ò å î ð å ì à (Blakwell-Rao, 1947-1949).óñëîâèÿõ(a)E '(T ) = (),(b)D '(T ) D d(X ).Ïðè óêàçàííûõ âûøå73Ïðè÷åì ðàâåíñòâî â (b) äîñòèãàåòñÿ, åñëè (è òîëüêî åñëè)'(T ) = d(X ) (ñ âåðîÿòíîñòüþ 1, äëÿ êàæäîãî 2 ).Ä î ê à ç à ò å ë ü ñ ò â î.
Óòâåðæäåíèå (a) âûïîëíÿåòñÿ â ñèëóñâîéñòâà óñëîâíûõ ìàòåìàòè÷åñêèõ îæèäàíèé EE X jYEX :()=E E [d(X )jT ℄ = E d(X ) = ():Äîêàçàòåëüñòâî ñâîéñòâà (b) ïðîâåäåì ñíà÷àëà äëÿ îäíîìåðíûõ', d è ; ìíîãîìåðíûé ñëó÷àé ðàññìîòðèì íèæå.Î ä í î ì å ð í û é ñ ë ó ÷ à é.D d(X ) = E [d(X ) ()℄2 = E [(d(X ) '(T )) + ('(T ) ())℄2 =E (d ')2 + E (' )2 + 2E (d ')(' ) = E (d ')2 + D ';ïîñêîëüêóE (d ')(' )= E E [(d ')(' )jT ℄= E (' )E [(d ')jT ℄=0;[( ( )( )) ℄ = ( )( )==0èáî E d X' T jT E djT E 'jT ' ' .(Ïîñëåäíåå ðàâåíñòâî ñ âåðîÿòíîñòüþ 1 äëÿ êàæäîãî ðàñïðåäåëåíèÿ P ). àâåíñòâî â (b) äîñòèãàåòñÿ, åñëè (è òîëüêî åñëè)E [d(X ) '(T )℄2 = 0ïðè âñåõ:( )= ( )Ýòî âîçìîæíî, åñëè (è òîëüêî åñëè) d X' T ñ âåðîÿòíîñòüþ 1äëÿ âñåõ P ðàñïðåäåëåíèé.Ì í î ã î ì å ð í û é ñ ë ó ÷ à é.
Ïóñòü d X , ïðèíèìàþò çíà÷åíèÿ â Rp , çàïèñûâàåì èõ â âèäå ñòîëáöîâ, D d < 1.Ïóñòü z 2 Rp , z ïðîèçâîëüíûé âåêòîð. àññìîòðèì ñêàëÿðíûåâåëè÷èíû: XzT d X ;( ) ()= ( ) := ( ) = (T ) := E [ (X )jT ℄ = z T E [d(X )jT ℄ = z T '(T );t = t() := z T ():ßñíî, ÷òî E (X ) = t() = E (T ). Ïî îäíîìåðíîéÁëåêâåëëà-àîD (T ) D (X ):Îòêóäà74D (z T ') D (z T d);òåîðåìåèëèz T (D ')z z T (D d)z;èëèD ' D d:àâåíñòâî åñëèèëèäëÿ âñåõ2P f(T ) = (X )g = 1;P fz T ('(T ) d(X )) = 0g = 1è äëÿ âñåõ z 2 Rp . 3.
Ïîëíûå äîñòàòî÷íûå ñòàòèñòèêèÈç òåîðåìû Áëåêâåëëà-àî ìîæíî ñäåëàòü, ïî ìåíüøåé ìåðå,äâà âûâîäà:ýòà òåîðåìà äàåò ñïîñîá óëó÷øèòü íåñìåùåííóþ îöåíêó, åñëèìû òàêîé îöåíêîé óæå ðàñïîëàãàåì;îíà ãîâîðèò, ÷òî ïðè ïîèñêå íàèëó÷øåé íåñìåùåííîé îöåíêè ìîæíî îãðàíè÷èòü ñåáÿ óíêöèÿìè îò äîñòàòî÷íîé ñòàòèñòèêè. Åñëè òàêàÿ (çàâèñÿùàÿ îò äîñòàòî÷íîé ñòàòèñòèêè)íåñìåùåííàÿ îöåíêà åäèíñòâåííà, òî îíà àâòîìàòè÷åñêè îêàçûâàåòñÿ íàèëó÷øåé.Åäèíñòâåííîñòü çàâèñÿùåé îò äîñòàòî÷íîé ñòàòèñòèêè íåñìåùåííîé îöåíêè îáåñïå÷èâàåòñÿ òàê íàçûâàåìîéäîñòàòî÷íîé ñòàòèñòèêè.Î ï ð å ä å ë å í è å 4.3.1.
Äîñòàòî÷íàÿ ñòàòèñòèêà TTXíàçûâàåòñÿ, åñëè óðàâíåíèå îòíîñèòåëüíî óíêöèè f ïîëíîòîéïîëíîéE f (T ) = 0äëÿ âñåõ02= ( )()èìååò òîëüêî òðèâèàëüíîå f ðåøåíèå.Ïîëíîòà, î÷åâèäíî, ÿâëÿåòñÿ ñâîéñòâîì ñåìåéñòâà ðàñïðåäåëåíèé ñòàòèñòèêè X . Ïîýòîìó ÷àñòî ãîâîðÿò î ïîëíûõ ñåìåéñòâàõðàñïðåäåëåíèé (çàâèñÿùèõ îò , 2 ).Ò å î ð å ì à (Ëåìàí, Øåå, 1955).T T XÅñëè = ( ) ïîëíàÿäîñòàòî÷íàÿ ñòàòèñòèêà è ' = '(T ) íåñìåùåííàÿ îöåíêà (), 2 , òî '(T (X )) íàèëó÷øàÿ íåñìåùåííàÿ îöåíêà ().75Ä î ê à ç à ò å ë ü ñ ò â î.
Äîñòàòî÷íî äîêàçàòü åäèíñòâåííîñòüòàêîé îöåíêè '. Ïðåäïîëîæèì, ÷òî ñóùåñòâóåò äðóãàÿ (îòëè÷íàÿîò ' T ) íåñìåùåííàÿ îöåíêà T , òàê ÷òî( )( )E (T ) = E '(T ) = () ýòîì ñëó÷àå E [ (T ) '(T )℄ = 0ñòàòèñòèêàT(T )äëÿ âñåõäëÿ âñåõ ïîëíàÿ, îòñþäà ñëåäóåò, ÷òî'(T ) = 0 2 : 2 : Ïîñêîëüêóïî÷òè íàâåðíîå, äëÿ âñåõ 2 :Ò. å. îöåíêà ' åäèíñòâåííà (ñ òî÷íîñòüþ äî ìíîæåñòâà ìåðûíóëü), ÷òî è òðåáîâàëîñü äîêàçàòü. Ï ð è ì å ð 1. Èñïûòàíèÿ Áåðíóëëè. ×èñëî óñïåõîâ Sn (÷àñòîòà) â n èñïûòàíèÿõ Áåðíóëëè ÿâëÿåòñÿ ïîëíîé äîñòàòî÷íîé ñòàòèñòèêîé äëÿ âåðîÿòíîñòè óñïåõà , êîãäà ýòà âåðîÿòíîñòü ðàññìàòðèâàåòñÿ êàê íåèçâåñòíûé ïàðàìåòð, 2 ; . Êàê èçâåñòíî,ðàñïðåäåëåíèå Sn ÿâëÿåòñÿ áèíîìèíàëüíûì:(0 1)P fSn = mg = Cnm m (1 )nmäëÿm = 0; n:Ïîýòîìó ðå÷ü èäåò î ïîëíîòå ñåìåéñòâà áèíîìèíàëüíûõ ðàñïðåäåëåíèé, çàâèñÿùèõ îò ïàðàìåòðà , 2 ; .
àññìîòðèì óðàâíåíèå îòíîñèòåëüíî f :(0 1)()E f (Sn ) = 0:(4:3:1)() äàííîì ñëó÷àå óíêöèÿ f äîëæíà áûòü îïðåäåëåíà íà ìíîæåñòâå ; ; ; : : : ; n , òàê ÷òî ìîæíî ãîâîðèòü î ïîñëåäîâàòåëüíîñòèf ; f ; : : : ; f n . Óðàâíåíèå (4.3.1) èìååò âèä:(0 1 2(0) (1)nXm=0)()Cnm f (m)m (1 )nÂâåäåì ïåðåìåííóþz=1m=0äëÿ âñåõ 2 (0; 1):. Î÷åâèäíî, ÷òî(4:3:2)z 2 (0; 1) è ïðîáå-ãàåò ýòî ìíîæåñòâî, êîãäà ïðîáåãàåò ìíîæåñòâî (0, 1).
Ñîêðàòèâ(4.3.1) íà ìíîæèòåëü n , ïîëó÷àåì äëÿ ïîñëåäîâàòåëüíîñòèf ; f ; : : : ; f n , ò. å. äëÿ óíêöèè f óðàâíåíèå:(0) (1)()nXm=076(1)Cnm f (m)z m = 0;()z 2 (0; 1):Ìíîãî÷ëåí (îò z ) ñòåïåíè n ìîæåò òîæäåñòâåííî (íà îòêðûòîììíîæåñòâå) îáðàùàòüñÿ â íóëü, òîëüêî åñëè âñå åãî êîýèöèåíòû ðàâíû íóëþ. Îòñþäà ñëåäóåò, ÷òî ff::: f n.Òàêèì îáðàçîì, óðàâíåíèå (4.3.1) èìååò ëèøü òðèâèàëüíîå ðåøåíèå, ò. å.
ñòàòèñòèêà Sn ïîëíàÿ.SnÏîëó÷èëè, ÷òî ÷àñòîòàÿâëÿåòñÿ äëÿ èñïûòàíèé Áåðíóëëèníàèëó÷øåé íåñìåùåííîé îöåíêîé âåðîÿòíîñòè óñïåõà.Ï ð è ì å ð 2. Âûáîðêà èç ïîêàçàòåëüíîãî ðàñïðåäåëåíèÿ. Ïóñòüx1 ; x2 ; : : : ; xn âûáîðêà èç ðàñïðåäåëåíèÿ ñ ïëîòíîñòüþ(0) = (1) == ( )=08<1 exp x ; äëÿ x 0;p (x; ) = : 0;äëÿ x < 0;ãäå 2 (0; 1) íåèçâåñòíûé ïàðàìåòð. Íàì óæå èçâåñòíî, ÷òînPT = xi ÿâëÿåòñÿ äîñòàòî÷íîé ñòàòèñòèêîé äëÿ . Ïîêàæåì, ÷òîi=1ñòàòèñòèêà T ïîëíàÿ.Íåòðóäíî ïîêàçàòü, ÷òîìóëîé:1T x nèìååò ïëîòíîñòü, çàäàâàåìóþ îð-11exp xäëÿ x 0:(n 1)! Ýòî ðàñïðåäåëåíèå íàçûâàþò ãàììà-ðàñïðåäåëåíèåì, â êîòîðîìqn (x; ) =ñëóæèò ìàñøòàáíûì ïàðàìåòðîì. (Ñëó÷àéíàÿ âåëè÷èíà T ïîðàñïðåäåëåíèþ ñîâïàäàåò ñî ñëó÷àéíîé âåëè÷èíîé , ãäå ñëó÷àéíàÿ âåëè÷èíà èìååò ò.
í. "ñòàíäàðòíîå" ãàììà-ðàñïðåäåëåíèå, ñïëîòíîñòüþ1 n1(n 1)! x exp ( x)äëÿx 0;n ìîæåò ïðèíèìàòü íàòóðàëüíûå çíà÷åíèÿ).Ïîëíîòà ñòàòèñòèêè T îçíà÷àåò ïîëíîòó îòíîñèòåëüíî ñåìåéñòâà ãàììà-ðàñïðåäåëåíèé. àññìîòðèì óðàâíåíèåãäåE f (T ) = 0èëèZ10äëÿ âñåõ1 x n 1 1 ef (x)(n 1)! >0x dx = 0äëÿ > 0:77Ââåäåì íîâóþ ïåðåìåííóþóðàâíåíèåZ10t= 1 .f (x) xn 1 e tx dx = 0Ïîñëå ñîêðàùåíèé ïîëó÷èìt > 0:äëÿ âñåõËåâàÿ ÷àñòü ýòîãî óðàâíåíèÿ ýòî ïðåîáðàçîâàíèå Ëàïëàñà óíêöèè xn 1 f x . Îíî òîæäåñòâåííî (îòíîñèòåëüíî t) ðàâíî íóëþòîëüêî äëÿ f . Îòñþäà ñëåäóåò, ÷òî ñòàòèñòèêà T ïîëíàÿ.Ïóñòü fP ; 2 g k -ïàðàìåòðè÷åñêîå ýêñïîíåíöèàëüíîå ñåìåéñòâî ðàñïðåäåëåíèé, ãäå ïëîòíîñòü()()=0p (x; ) =nexpkhXj =1ioj ()Tj (x) + d() + S (x) IA (x):(4:3:3)( ) = (T1(X ); T2(X ); : : : ; Tk (X )) åñòü2 .Åñëè îáëàñòü çíà÷åíèé âåêòîðíîé óíêöèè( () ()( )), êîòîðóþ îíà çàïîëíÿåò, êîãäà ïðîáåãàåòïàðàìåòðè÷åñêîå ìíîæåñòâî , ñîäåðæèò êàêîå-ëèáî îòêðûòîåìíîæåñòâî, òî ñòàòèñòèêà T ïîëíàÿ.
(Ñåìåéñòâî ðàñïðåäåëåíèé ñ ïëîòíîñòÿìè (4.3.3) ïîëíîå).Ïî òåîðåìå àêòîðèçàöèè T Xäîñòàòî÷íàÿ ñòàòèñòèêà äëÿ , Ò å î ð å ì à.1 ; 2 ; : : : ; k Äîêàçàòåëüñòâî ýòîé òåîðåìû íå ïðèâîäèì. Îíî ìîæåò áûòüîñíîâàíî íà ñâîéñòâàõ ïðåîáðàçîâàíèé Ëàïëàñà (Ôóðüå) (íà îáðàòèìîñòè ýòèõ ïðåîáðàçîâàíèé), ïîäîáíî ïðèìåðó 2.Èç ýòîé òåîðåìû ìîæíî èçâëå÷ü ìíîãî ðåçóëüòàòîâ, îòíîñÿùèõñÿ êî ìíîãèì èçâåñòíûì ñåìåéñòâàì ðàñïðåäåëåíèé.  ÷àñòíîñòè, óòâåðæäåíèÿ ïðèìåðîâ 1 è 2. Åùå îäíèì ñëåäñòâèåì ýòîéòåîðåìû ÿâëÿåòñÿ ïîëíîòà ñòàòèñòèêè x; s2 , äîñòàòî÷íîé äëÿ ïàðàìåòðîâ íîðìàëüíîãî ðàñïðåäåëåíèÿ N a; 2 â ñëó÷àå âûáîðêèèç ýòîãî ðàñïðåäåëåíèÿ.Ï ð è ì å ð 3. Ëèíåéíàÿ ãàóññîâñêàÿ ìîäåëü. Ëèíåéíàÿ ãàóññîâñêàÿ ìîäåëü X N l; 2 I , l 2 L, L çàäàíî.
Ñëåäñòâèåìïðèâåäåííîé âûøå òåîðåìû ÿâëÿåòñÿ óòâåðæäåíèå î ïîëíîòå äîñòàòî÷íîé ñòàòèñòèêè projL X; jprojL? X j2 äëÿ l; 2 .( )( )((78))()Ëåêöèè 5-6. Óñëîâíûå ìàòåìàòè÷åñêèåîæèäàíèÿ è óñëîâíàÿ âåðîÿòíîñòü 1. Îïðåäåëåíèÿ è ïðîñòåéøèå ñâîéñòâà1.1.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
