Ю.Н. Тюрин, Г.И. Симонова - Математическая статистика. Записки лекций (1124593), страница 15
Текст из файла (страница 15)
7.1.1. ðàèêè óíêöèé ðàñïðåäåëåíèÿy P f2 ; xg ïðè ðàçíûõ=(10 )1.2. Äâå ëåììû î êðóãîâûõ íîðìàëüíûõ ðàñïðåäåëåíèÿõÏóñòü X N (l; 2I ), C îðòîãîíàëüíàÿìàòðèöà. ÒîãäàY := CX N (Cl; 2 I ):(Cëîâåñíàÿ îðìà: ïðè îðòîãîíàëüíûõ ïðåîáðàçîâàíèÿõ êðóãîâîåíîðìàëüíîå ðàñïðåäåëåíèå îñòàåòñÿ êðóãîâûì).Ë å ì ì à 7.1.1.Ä î ê à ç à ò å ë ü ñ ò â î. Äëÿ äîêàçàòåëüñòâà äîñòàòî÷íîâû÷èñëèòü ìàòðèöó êîâàðèàöèè âåêòîðà YCX . Ïîñêîëüêó äëÿëþáîé ìàòðèöû A ìàòðèöà êîâàðèàöèé âåêòîðà AX åñòü=D(AX ) = A(DX )AT ;(ãäåD îáîçíà÷àåò ìàòðèöó êîâàðèàöèé âåêòîðà ), òîDY = C (DX )C T = C (2 I )C T = 2 I;95÷òî è òðåáîâàëîñü.Ñ ë å ä ñ ò â è å.:Ïóñòü 1; 2; : : : ; r ñóòü íåçàâèñèìûå N (0; 1).Òîãäàp(1 + a1)2 + (2 + a2)2 + + (r + ar )2 =d (1 + )2 + 22 + + r2;ãäå = a21 + a22 + + a2r :Ýòî óòâåðæäåíèå äîêàçûâàåò ïðàâèëüíîñòü óïîòðåáëåíèÿ âûðàæåíèÿ 2 (r; ) äëÿ ðàñïðåäåëåíèÿ êâàäðàòà äëèíû âåêòîðà ~ +~a.Çäåñü ~ = (1 ; 2 ; : : : ; r ).Ä î ê à ç à ò å ë ü ñ ò â î.
Äîêàçàòåëüñòâî îñíîâûâàåòñÿ íà òîì,÷òî âåêòîð ~ ~a ìîæíî îðòîãîíàëüíûì ïðåîáðàçîâàíèåì (ñêàæåì,C ) ïåðåâåñòè â âåêòîð ñ êîîðäèíàòàìè:+p(~1 + ; ~2; : : : ; ~r )T ;~=(0 )ãäå C. Ïðè îðòîãîíàëüíûõ ïðåîáðàçîâàíèÿõ äëèíà âåêòîðàíå ìåíÿåòñÿ; ðàñïðåäåëåíèå C , òàê æå êàê è ðàñïðåäåëåíèå , åñòüN ;I .Ë å ì ì à 7.1.2.L1 ; L2 ; : : : Ïóñòüïîïàðíî îðòîãîíàëüíûåïîäïðîñòðàíñòâà,ïðÿìàÿñóììàêîòîðûõñîñòàâëÿåò âñ¼ ïðîñòðàíñòâî Rn:L1 L1 : : : = Rn :Ïóñòü projLX îáîçíà÷àåò ïðîåêöèþ âåêòîðà X íà ïîäïðîñòðàíñòâî L (â åâêëèäîâîé ìåòðèêå).
Ïóñòü, ñêàæåì, X N (l; 2I ).Òîãäà:(a) Ñëó÷àéíûå âåêòîðû proj L X; proj L X; : : : íåçàâèñèìû(â ñîâîêóïíîñòè) è ðàñïðåäåëåíû íîðìàëüíî, ïðè÷åìE proj Li X = proj Li l; i = 1; 2; : : : ;21(b) jproj X j2 = 2 2 (ri ; i ); ãäå ri = dimLi ; i = proj l .12LiLiÄ î ê à ç à ò å ë ü ñ ò â î. àññìîòðèì â Rn íîâûé îðòîíîðìèðîâàííûé áàçèñ, êîòîðûé ñòðîèì, îáúåäèíÿÿ îðòîíîðìèðîâàííûåáàçèñû ïîäïðîñòðàíñòâ L1 ; L2 ; : : :.àäè îïðåäåëåííîñòè ââåäåì ñîîòâåòñòâóþùèå îáîçíà÷åíèÿ:f1 ; f2 ; : : : ; fr196áàçèñL1 ;fr1 +1 ; fr1 +2 ; : : : ; fr1 +r2áàçèñ àññìîòðèì êîîðäèíàòû âåêòîðàXff g. Îáîçíà÷èì èõ ÷åðåç Y1 ; Y2 ; : : : ; Yn .L2 ;è ò.ä.= (X1; : : : ; Xn) â áàçèñåÊàê èçâåñòíî, ñ ïîìîùüþ ìàòðèöû ïåðåõîäà îò îäíîãî áàçèñàê äðóãîìó îáîçíà÷èì ýòó ìàòðèöó ÷åðåç C âåêòîðû-ñòîëáöûY Y1 ; Y2 ; : : : ; Yn è X ñâÿçàíû ñîîòíîøåíèåì Y CX . Çàìåòèì,÷òî C îðòîãîíàëüíàÿ ìàòðèöà, è ïîýòîìó Y N Cl; 2 I .
Ñëåäîâàòåëüíî, ñëó÷àéíûå âåëè÷èíû Y1 ; Y2 ; : : : ; Yn íåçàâèñèìû, ðàñïðåäåëåíû íîðìàëüíî è èìåþò îäíó è òó æå äèñïåðñèþ 2 . Çàìåòèì, ÷òîprojL1 X Y1 f1 : : : Yr1 fr1 ;=()=()=+ +projL2 X = Yr1 +1 fr1 +1 + : : : + Yr1 +r2 fr1 +r2 ; è ò. ä.Èç ýòèõ ïðåäñòàâëåíèé äëÿ projLi X; i = 1; 2; : : : è îòìå÷åííûõñâîéñòâ ñëó÷àéíûõ âåëè÷èí Y1 ; Y2 ; : : : ñëåäóåò óòâåðæäåíèå (a).Äëÿ äîêàçàòåëüñòâà (b) çàìåòèì, ÷òî2hjprojL1 X j2 = Y12 + : : : + Yr21 =1 Y1 2 + 1 Y22 + + 1 Yr 2i = 2 2(r1 ; 1); 11 Y1 ; : : : ; 1 Yr 2 ñóòü íåçàâèñèìûå ñëó÷àéíûå âåëè÷è 12èáîíû ñ îáùåé äèñïåðñèåé.Ïàðàìåòð íåöåíòðàëüíîñòè ýòî êâàäðàò äëèíû ìàòåìàòè÷åñêîãî îæèäàíèÿ âåêòîðàY1 ; Y2 ; : : : ; Yr1 T : Ïî ñêàçàííîìó âûøå,1()h1i1E (Y1 ; Y2 ; : : : ; Yr )T = projËåììà 7.1.2 äîêàçàíà.11.3.
Ëèíåéíàÿ ìîäåëüL1 EX:Âåðíåìñÿ ê ëèíåéíîé ìîäåëè X N l; 2 I ; ïðè÷åì l 2 L;ãäå L çàäàíî. Äëÿ îöåíèâàíèÿ 2 ðàññìîòðèì âòîðóþ ñîñòàâëÿþùóþ äîñòàòî÷íîé ñòàòèñòèêè: ñëó÷àéíóþ âåëè÷èíó jprojL? X j2 .Ñîãëàñíî ëåììå 7.1.2,jprojL X j2 = 2 2 (n r; );?(ãäå)n r = dimL? = ndimL:97Ïàðàìåòð íåöåíòðàëüíîñòè çäåñü ðàâåí = 12 jprojL?EX j2 = 0;=0èáî EX 2 L ïî óñëîâèÿì ìîäåëè, òàê ÷òî projL? EX.Ïîñêîëüêó E2 mm, íàèëó÷øåé íåñìåùåííîé îöåíêîé ïàðàìåòðà 2 ñëóæèò( )=1 jproj X j2 = 1 jXLn rn r?projL X j2 :Ïîñëåäíåå âûðàæåíèå äëÿ projL? X çà÷àñòóþ áûâàåò óäîáíåå(îñîáåííî êîãäà ïîäïðîñòðàíñòâî L çàäàíî ñâîèì áàçèñîì).Îòìåòèì òàêæå, ÷òî â ñèëó ëåììû 7.1.2, projL X è projL? Xñòàòèñòè÷åñêè íåçàâèñèìû (êàê ñëó÷àéíûå âåêòîðû).Ç à ì å ÷ à í è å î âû÷èñëåíèè projL X è projL? X .
Ïî îïðåäåëåíèþ,òî÷êè (âåêòîðà) X íà ìíîæåñòâî L íàçûâàþòòàêóþ òî÷êó ìíîæåñòâà L, íà êîòîðîé äîñòèãàåòñÿ ìèíèìóì ðàññòîÿíèÿ:ïðîåêöèåéprojL X:= arg minjXZ 2LprojL XZ j = arg minjX Z j2 ;Z 2LnX:= arg min(XiZ 2LZi )2 :i=1Ïîñëåäíåå ðàâåíñòâî îáúÿñíÿåò íàçâàíèå îöåíîê â ýòîé çàäà÷å:(êàê è âñåãî ìåòîäà:). Îòìåòèì òàêæå, ÷òîîöåíêè íàèìåíüøèõ êâàäðàòîâìåíüøèõ êâàäðàòîânXmin (XiZ 2Li=1ìåòîä íàè-Zi )2 = jprojL X j2 = jX?projL X j2 :1.4.
Ïðîñòîé ïðèìåð ëèíåéíîé ãàóññîâñêîé ìîäåëèÏðîñòîé ïðèìåð ãàóññîâñêîé ìîäåëè âûáîðêà èç íîðìàëüíîãîçàêîíà N a; 2 :()X = (X1 ; X2 ; : : : ; Xn)T ; ãäå Xi N (a; 2 ):X N (l; 2 I ), ãäå l = a(1; 1; : : : ; 1)T . ÒàêèìÏðè ýòîìçîì, ïîäïðîñòðàíñòâî98Lîáðàçäåñü îäíîìåðíîå; îöåíèâàÿ l, ìû, òåìñàìûì, îöåíèâàåì a. Íàèëó÷øèå íåñìåùåííûå îöåíêè a è 2 ñóòünnXXXXi è s2Xi X 2 . Ýòà æå ïàðà X; s2 èn i=1ni=1ñëóæèò äîñòàòî÷íîé ñòàòèñòèêîé äëÿ a; 2 .
Ñòàòèñòèêè X è s2=1= 11íåçàâèñèìû,(1X N (a; 2 ), (nn)( )1)s2 2 2(n 1):( ) 2. Ôàêòîðíûå ìîäåëè (àêòîðíûå ýêñïåðèìåíòû)îòêëèê ýòèõ ýêñïåðèìåíòàõ(ðåãèñòðèðóåìûé ðåçóëüòàò îïûòà), òî÷íåå åãî íåñëó÷àéíàÿ, çàêîíîìåðíàÿ ÷àñòü, åñòü ðåçóëüòàòäåéñòâèÿ îäíîãî èëè íåñêîëüêèõ èçâåñòíûõ. åãèñòðèðóåìûé ðåçóëüòàò îïûòà ìîæåò îòëè÷àòüñÿ îò îæèäàåìîãî áëàãîäàðÿ ïðèñóòñòâèþ ñëó÷àéíîé îøèáêè.àêòîðîâ2.1. Îäíîàêòîðíàÿ ãàóññîâñêàÿ ìîäåëüÍåêèé àêòîð ìîæåò ïðèíèìàòü íåñêîëüêî ðàçëè÷íûõ çíà÷åíèé, íàçûâàåìûõ óðîâíÿìè: A1 ; A2 ; : : : ; Ar .
Ïðè êàæäîì çíà÷åíèè; r ïðîèçâîäèòñÿ íåñêîëüêî (ñêàæåì nj ) íåçàâèñèìûõAj ; jîïûòîâ. Èõ ðåçóëüòàòû îáîçíà÷èì ÷åðåç xij ; i; nj ýòî íîìåðîïûòà â ñåðèè j , j; r. Ñåðèÿ j ñîîòâåòñòâóåò óðîâíþ Aj .Ñ ò à ò è ñ ò è ÷ å ñ ê à ÿ ì î ä å ë ü:=1=1=1xij = aj + "ij ;j = 1; r;ãäå a1 ; a2 ; : : : ; ar íåêèå ÷èñëà (îáû÷íî íåèçâåñòíûå ýêñïåðèìåíòàòîðó), "ij ñóòü íåçàâèñèìûå ñëó÷àéíûå âåëè÷èíû ("îøèáêè"). ãàóññîâñêîé ìîäåëè äîïîëíèòåëüíî ïðåäïîëàãàåòñÿ, ÷òî "ij N ; 2 ; ïàðàìåòð (ìàñøòàá ñëó÷àéíûõ îòêëîíåíèé) îáû÷íîíåèçâåñòåí.Ïðåäñòàâëåíèå îäíîàêòîðíîé ìîäåëè â êàíîíè÷åñêîì âèäåX N l; 2 I î÷åâèäíî.  êà÷åñòâå X ìîæíî âçÿòü ñòîëáåö (ðàçìåðíîñòè n1 n2 nr ), â êîòîðîì ïîñëåäîâàòåëüíî çàïèñàíûýëåìåíòû âñåõ r âûáîðîê:(0 )()+ + +X = (x11 ; x21 ; : : : ; xn1 1 ; x12 ; x22 ; : : : ; xn2 2 ; : : :)T :Ëèíåéíîå ïîäïðîñòðàíñòâîL(êîòîðîìó ïðèíàäëåæèòEX ),99ïîðîæäåíîr âåêòîðàìè âèäà:(1| ; :{z: : ; 1}; 0; : : : ; 0; 0; : : : ; 0)T ; (0| ; :{z: : ; 0}; 1| ; :{z: : ; 1}; 0; : : : ; 0)Tn1n1Îöåíêè ïàðàìåòðîân2a1 ; a2 ; : : : ; ar è 2 ìû ïîëó÷èì â ýòîé ìîäåëè,ïðèìåíÿÿ îáùèå ðåçóëüòàòû.
Çäåñü ajs2=rP(1njj =1íåçàâèñèìû.è ò. ä.njr XX1) j=1 i=1(xijaj )2 := n1njXxijj i=1Ñòàòèñòèêèäëÿj= 1; r;a1 ; a2 ; : : : ; ar ; s22.2. Àääèòèâíàÿ äâóõàêòîðíàÿ ìîäåëüÊ äâóõ (è áîëåå) àêòîðíîé ìîäåëè ïðèõîäèòñÿ ïðèáåãàòü,êîãäà êðîìå ãëàâíîãî àêòîðà A ïðèõîäèòñÿ ó÷èòûâàòü äåéñòâèå åùå îäíîãî (èëè íåñêîëüêèõ) àêòîðîâ. Ïóñòü, êàê âûøå,A1 ; A2 ; : : : ; Ar óðîâíè àêòîðà A. Ôàêòîð B ïðèíèìàåò óðîâíèB1 ; B2 ; : : : ; Bs .Ïëàíû ýêñïåðèìåíòà â ýòîé ñõåìå ìîãóò áûòü áîëåå ðàçíîîáðàçíû, ÷åì â îäíîàêòîðíîé ìîäåëè.  äàííîì ñëó÷àå ïëàí îïûòà óêàçûâàåò, êàêîå êîëè÷åñòâî íåçàâèñèìûõ ïîâòîðåíèé nij íàäîïðîèçâåñòè äëÿ êîìáèíàöèè Ai è Bj óðîâíåé àêòîðîâ A è B ,i; r; j; s. Íàèáîëåå ïðîñòîé è ïîïóëÿðíûé ïëàí: nij.(Ñïåöèàëüíîå âûðàæåíèå: "îäíî íàáëþäåíèå â êëåòêå").
åçóëüòàòû îïûòà ìîæíî çàïèñàòü òàáëèöåé=1=1=1A nBA1...Ai...ArB1x11...xi1...xr1..................Bjx1j...xij...xrj..................Bsx1s...xis...xrsÑ ò à ò è ñ ò è ÷ å ñ ê à ÿ ì î ä å ë ü (àääèòèâíàÿ):xij = ai + bj + "ij ; i = 1; r; j = 1; s:Çäåñü ai , bj èñòîëêîâûâàþòñÿ êàê ðåçóëüòàòû äåéñòâèÿ àêòîðîâA è B , íàõîäÿùèõñÿ íà óðîâíÿõ Ai è Bj . Ìîäåëü îòðàæàåò ïðåä100ñòàâëåíèå î òîì, ÷òî àêòîðû äåéñòâóþò íà îòêëèê, íå âçàèìîäåéñòâóÿ äðóã ñ äðóãîì, è ÷òî èõ âîçäåéñòâèÿ ñóììèðóþòñÿ. Âåëè÷èíû "ij èñòîëêîâûâàþòñÿ êàê íåçàâèñèìûå ñëó÷àéíûå îøèáêè.Åñëè ìû ïðåäïîëàãàåì, ÷òî "ij N ; 2 , ìîäåëü íàçûâàþò(õîòÿ àâòîð ýòîãî ñòàòèñòè÷åñêîãî íàïðàâëåíèÿ îòíþäü íå Ê.Ô. àóññ, à . Ôèøåð). ïðèâåäåííîì âûøå ïðåäñòàâëåíèè àääèòèâíîé äâóõàêòîðíîé ìîäåëè ïàðàìåòðû ai ; bj íå èäåíòèèöèðóåìû: äàæå åñëèîøèáêè îòñóòñòâóþò ("ij ), ïî ðåçóëüòàòàì îïûòà (â äàííîìñëó÷àå ïî ñóììàì ai bj ) íåëüçÿ îäíîçíà÷íî âîññòàíîâèòü âåëè÷èíû ai , bj . Åñòü äâå âîçìîæíîñòè ïðåîäîëåòü ýòî çàòðóäíåíèå:(0 )ãàóññîâñêîé(0+)Ñòàâèòü âîïðîñû è äåëàòü âûâîäû òîëüêî î òàêèõ óíêöèÿõ ïàðàìåòðîâ, êîòîðûå îïðåäåëÿþòñÿ îäíîçíà÷íî.
Ê òàêèìîòíîñÿòñÿ, íàïðèìåð, ïîïàðíûå ðàçíîñòè ai ai0 , bj bj 0 èèõ êîìáèíàöèè.Íî, ïî ìîåìó ìíåíèþ, ïðåäïî÷òèòåëüíåé âòîðîé ïóòü: èíàÿïàðàìåòðèçàöèÿ ìîäåëè. Ïðåäñòàâèì îæèäàåìîå çíà÷åíèåîòêëèêà (ðàíåå ýòî áûëî ai bj ) â âèäå:+Exij = + i + j ; i = 1; r; j = 1; s;äîïîëíèòåëüíî íàëîæèâ íà ïàðàìåòðû (i ; j ) ñâÿçè:rXi=1i = 0;sXj =1j = 0:Ñ ó÷åòîì ñâÿçåé, ïàðàìåòðû ; 1 ; : : : ; r ; 1 ; : : : ; s îäíîçíà÷íî âîññòàíàâëèâàþòñÿ ïî ìàòðèöå k i j k.+ + äâóõàêòîðíîé àääèòèâíîé ìîäåëè (êàê è â îäíîàêòîðíîé) ðåçóëüòàòû íàáëþäåíèé ìîæíî ïðåäñòàâèòü â âèäå âåêòîðàñòîëáöà.
Óäîáíåå, âïðî÷åì, ñîõðàíèòü äëÿ ýòèõ äàííûõ åñòåñòâåííóþ ñòðóêòóðó ìàòðèöû (ïðÿìîóãîëüíîé, ðàçìåðà r s) è ïîëîæèòü X kxij ; i; r; j ; sk:Ìàòðèöû äàííîãî ðàçìåðà îáðàçóþò ëèíåéíîå ïðîñòðàíñòâîðàçìåðíîñòè rs. Ïîäïðîñòðàíñòâî L, êîòîðîìó ïðèíàäëåæèò EX ,èìååò ðàçìåðíîñòü r s . Îíî ïîðîæäåíî r s ìàòðèöàìè îñîáîãî âèäà. Êàæäàÿ èç òàêèõ ìàòðèö èìååò ëèáî ñòðîêó, ëèáî ñòîëáåöèç åäèíèö; ïðî÷èå èõ ýëåìåíòû ðàâíû íóëþ. Ñèììåòðèè ðàäè (è==1+ 1=1+101íå èçìåíÿÿ L), ê ïåðå÷èñëåííûì ìàòðèöàì ìîæíî ïðèñîåäèíèòüìàòðèöó, ñïëîøü ñîñòîÿùóþ èç åäèíèö.Îöåíêè ïàðàìåòðîâ , ~ , ~ ïîëó÷àþò, ïðîåöèðóÿ ñëó÷àéíûéâåêòîð X íà ïîäïðîñòðàíñòâî L, ò.
å. äåéñòâóÿ ïî ìåòîäó íàèìåíüøèõ êâàäðàòîâ. Èíà÷å ãîâîðÿ, ðåøàÿ ýêñòðåìàëüíóþ çàäà÷ó:sr XXxij i j 2 !;~;~i=1 j =1ïðè óñëîâèÿõrsXXi ;j :i=1j =1Îòâåò ìîæíî çàïèñàòü â êîìïàêòíîé îðìå, åñëè óïîòðåáèòü(øèðîêî ïðèíÿòóþ) ñèìâîëèêó:rsr XsXXXxjxij ; xixij ; xx :r i=1s j=1rs i=1 j=1 ij()=0=1min=0=1=1(Òî÷êà çàìåùàåò èíäåêñ, ïî êîòîðîìó ïðîèçâåäåíî îñðåäíåíèå îòêëèêà).  ýòèõ îáîçíà÷åíèÿõ íàèëó÷øèå íåñìåùåííûå îöåíêè ïàðàìåòðîâ ñóòü: = x ; i = xi x ; j = xjs2 =r XsXi=1 j =1xi xj + x )2 =[(r(xijx ;1)(s 1)℄:( 1)( 1)Ïðè ýòîì rs s2 2 2 rs: Óêàçàííûå âûøåîöåíêè ìîæíî ïîëó÷èòü êàê ïðÿìûì ðåøåíèåì ïðèâåäåííîé âûøåýêñòðåìàëüíîé çàäà÷è, òàê è íà îñíîâå òîæäåñòâà:r XsXxij i j 2i=1 j =1r Xs hXxij xi xj x 2 xi x i 2i=1 j =1( 1)( 1)((+ ) +(+(xjêîòîðîå âåðíî, åñëè102) =rPi=1)+ix j )2 + (x )2 ;i = 0;sPj =1j = 0: 3.