Turin Yu.N. - Multidimensional Gaussian Calculus (1120045), страница 7
Текст из файла (страница 7)
. · p0 (~xn ; ~a, Q), ò.å.~ 1, . . . , X~ n ; ~a, Q) =p(XnYi=11 ~~ i − ~a)) =a)T Q−1 (Xexp(− (Xi −~2(2π)p det Qp1n11X ~1~ i − ~a)).√= √exp(−(Xi − ~a)T Q−1 (X2 i=1( 2π)np ( det Q)nÏîêàçàòåëü ïîëó÷åííîé ýêñïîíåíòû ðàâåí1− n(X − ~a)T Q−1 (X − ~a) + n tr(Q−1 Sn ).222(Ñì. äîêàçàòåëüñòâî òåîðåìû 2.9, ôîðìóëó äëÿ ïîêàçàòåëÿ ýêñïîíåíòû; ìû èñïîëüˆ 6= X , òîçîâàëè òàêæå, ÷òî (n − 1)S = nSn .) Åñëè áû ~a1ˆ)T Q̂−1 (X − ~aˆ) + n tr(Q̂−1 Sn ) < n tr(Q̂−1 Sn )− n(X − ~a2èˆ, Q)~ 1, .
. . , X~ n ; ~a~ < p(X~ 1, . . . , X~ n ; X, Q̂),p(Xˆ, Q̂ - îöåíêà íàèáîëüøåãî ïðàâäîïîäîáèÿ.íî ýòî ïðîòèâîðå÷èò òîìó, ÷òî ~aˆ = X . Òåïåðü äîêàæåì, ÷òî Q̂ = Sn .Ò.å. ~aÇàìåòèì, ÷òîˆ, Q) = − n ln det Q − n tr(Q−1 Sn ) + const,~ 1, . . . , X~ n ; ~aln p(X22Ïóñòünnq(Q) = − ln det Q − tr(Q−1 Sn ).22Ýòî - ôóíêöèÿ, îïðåäåëåííàÿ íà E - ìíîæåñòâå âñåõ ïîëîæèòåëüíî îïðåäåëåííûõñèììåòðè÷íûõ ìàòðèö ïîðÿäêà p.
Íàì íåîáõîäèìî äîêàçàòü, ÷òî ïðè Q = Sn ó ýòîãîâûðàæåíèÿ äîñòèãàåòñÿ ñòðîãèé ìàêñèìóì, ò.å. äëÿ ëþáîé Q ∈ E, Q 6= Sn q(Q) <q(Sn ). Äëÿ ýòîãî äîêàæåì, ÷òî ïðè T = Ip ó âûðàæåíèÿ r̃(T ) := q(Sn T −1 ) äîñòèãàåòñÿñòðîãèé ìàêñèìóì, ò.å. åñëè T ∈ E, T 6= Ip , òî r(T ) < r(I). (Âåäü T 7→ Sn T −1 - áèåêöèÿE → E - ñì. óïðàæíåíèå 2.7.) Äîñòàòî÷íî äîêàçàòü, ÷òî ó ôóíêöèèr(T ) :=2r̃(T ) + ln det Snnâ òî÷êå T = Ip äîñòèãàåòñÿ ñòðîãèé ìàêñèìóì. Ïðåîáðàçóåì ýòó ôóíêöèþ:r(T ) =2 nn(− ln det(Sn T −1 ) − tr((Sn T −1 )−1 Sn )) + ln det Sn =n 22det Sn) − tr T + ln det Sn =det T= −(ln det Sn − ln det T ) − tr T + ln det Sn = ln det T − tr T.= − ln det(Sn T −1 ) − tr(T Sn−1 Sn ) + ln det Sn = − ln(Ïóñòü T ∈ E, T 6= Ip .
Òîãäà íàéäåòñÿ îðòîãîíàëüíàÿ ìàòðèöà C ïîðÿäêà p, äëÿêîòîðîé C −1 T C = C T T C = Λ, ãäå Λ - äèàãîíàëüíàÿ ìàòðèöà ñ ñîáñòâåííûìè çíà÷åíèÿìè λi , i = 1, p ìàòðèöû T íà ãëàâíîé äèàãîíàëè. Íî ýòè ñîáñòâåííûå çíà÷åíèÿïîëîæèòåëüíû, ò.ê. ìàòðèöà T ïîëîæèòåëüíî îïðåäåëåíà. (Ñì. óïðàæíåíèå 2.8.) ÄàpPëåå, det T = det(C −1 T C) = det Λ = λ1 λ2 . . . λp , tr T = tr(C −1 T C) = tr Λ =λi , ò.ê.ìàòðèöû T, Λ ïîäîáíû, à ó ïîäîáíûõ ìàòðèö ñëåä è îïðåäåëèòåëü ðàâíû.pPÎòñþäà ïîëó÷àåì: r(T ) = ln(λ1 λ2 . . . λp ) −λi .i=1i=1Ìû ìîæåì îãðàíè÷èòüñÿ ðàññìîòðåíèåì ñëó÷àÿ, êîãäà âñå ÷èñëà λi , i = 1, p ðàâíû.Äåéñòâèòåëüíî, åñëè õîòÿ áû äâà èç ýòèõ ÷èñåë íå ðàâíû, òî ïî íåðàâåíñòâó Êîøèäëÿn1Xµ1 = µ2 = . . .
= µp :=λin i=1âûïîëíåíî ñëåäóþùåå:ò.å.p√pλ1 λ2 . . . λp < µ1 = p µ1 µ2 . . . µp ,λ1 λ2 . . . λp < µ1 µ2 . . . µp ,23à, êðîìå òîãî,pXλi =i=1pXµi .i=1Îòñþäà èìååì:ln(λ1 λ2 . . . λp ) −pXλi < ln(µ1 µ2 . . . µp ) −i=1pXµi .i=1Íî âñå ÷èñëà µi , i = 1, p ðàâíû.Èòàê, ïóñòü äàëåå λ1 = . . . = λp . Òîãäà λ1 = . . . = λp 6= 1, èíà÷å áû Λ = Ip , ò.å.−1C T C = Ip , T = CIp C −1 = Ip , ÷òî ïðîòèâîðå÷èò ïðåäïîëîæåíèþ T 6= Ip .
Çíà÷èò,r(T ) = ln(λp1 ) − pλ1 = p(ln λ1 − λ1 ) < −p, ò.ê. λ1 6= 1. (Ñì. óïðàæíåíèå 2.9.) Îäíàêîr(Ip ) êàê ðàç ðàâíî −p: r(Ip ) = ln det Ip − tr Ip = ln 1 − p = −p. Òåì ñàìûì íåðàâåíñòâîr(T ) < r(Ip ) ïðè T ∈ E, T 6= Ip äîêàçàíî, à âìåñòå ñ íèì - è èñõîäíîå óòâåðæäåíèå. ¥5. Ñêîáêà Òþðèíà äëÿ âûáîðîê èç ìíîãîìåðíûõ ðàñïðåäåëåíèé.Çàïèøåì âûáîðêó (X1 , .
. . , Xn ) èç p-ìåðíîãî ðàñïðåäåëåíèÿ â âèäå ìàòðèöû X =kX1 | . . . |Xn k ðàçìåðà p × n, ñòîëáöû êîòîðîé - Xi , ò.å. êîìïîíåíòû âûáîðêè.Îïðåäåëåíèå 2.18. Ïîëîæèì äëÿ äâóõ òàêèõ ìàòðèö X = kX1 | . . . |Xn k, Y =nPkY1 | . . . |Yn k < X, Y >:=Xα YαT = XY T . Ò.å. < X, Y > - êâàäðàòíàÿ ìàòðèöàα=1ïîðÿäêà p; îíà íàçûâàåòñÿ ñêîáêîé Òþðèíà. Åñëè p = 1, òî ýòà îïåðàöèÿ - îáû÷íîåñêàëÿðíîå ïðîèçâåäåíèå n-ìåðíûõ âåêòîðîâ(X1 , . . .
, Xn ), (Y1 , . . . , Yn ).Óòâåðæäåíèå 2.19. Ñêîáêà Òþðèíà îáëàäàåò ñëåäóþùèìè ñâîéñòâàìè (àíàëîãè÷íûìè ñâîéñòâàì îáû÷íîãî ñêàëÿðíîãî ïðîèçâåäåíèÿ):1. < X, Y >=< Y, X >T ;2. < α1 X1 + α2 X2 , Y >= α1 < X1 , Y > +α2 < X2 , Y >;3. < X, α1 Y1 + α2 Y2 >= α1 < X, Y1 > +α2 < X, Y2 >;4. < AX, Y >= A < X, Y >;5. < X, AY >=< X, Y > AT ;6. < X, X > íåîòðèöàòåëüíî îïðåäåëåíà äëÿ âñåõ ìàòðèö X ðàçìåðà p × n;7. Åñëè A îðòîãîíàëüíà, òî < X, Y >=< XA, Y A >,ãäå âñþäó çäåñü X, Y - ìàòðèöû ðàçìåðà p × n, A - êâàäðàòíàÿ ìàòðèöà ïîðÿäêàp, α1 , α2 ∈ R. (Ñì.
óïðàæíåíèå 2.5.)Ïóñòü (X1 , . . . , Xn ) - âûáîðêà èç ðàñïðåäåëåíèÿ Np (a, Q), X = kX1 | . . . |Xn k - ìàòðèöà ðàçìåðà p × n. Òîãäà kX1 − a| . . . |Xn − ak = X − ae, e = (1, . . . , 1) − n-ìåðíàÿñòðîêà.Óòâåðæäåíèå 2.20. X − ae v Wp (n, Q).Äîêàçàòåëüñòâî. Ïóñòü√ − ae)C , C√- îðòîãîíàëüíàÿ ìàòðèöà ïîðÿäêà√ Y = (Xn ñ ïåðâûì√ñòîëáöîì (1/ n, . . . , 1/ n)T = (e/ n)T . (Ñì. çàäà÷ó 2.1.) Òîãäà Y1 =(X − ae)(e/ n)T =$5.
Äîâåðèòåëüíûå ýëëèïñîèäû (ìåòîä Øåôôå).Çàäà÷è è óïðàæíåíèÿ ê ãëàâå 2Óïðàæíåíèå 2.1. Äîêàçàòü òåîðåìó 2.1.(Ïîäñêàçêà: ðàññìîòðåòü âíà÷àëå ñëó÷àé îäíîìåðíîãî θ è ïîòîì ñâåñòè ê íåìó ñëó÷àé ìíîãîìåðíîãî θ. Äîêàçàòåëüñòâî ýòîé òåîðåìû î÷åíü ïîõîæå íà äîêàçàòåëüñòâîòåîðåìû 1.18 èç ãë.1.)Óïðàæíåíèå 2.2. Äîêàçàòü òåîðåìó 2.2.24Óïðàæíåíèå 2.3. Ïî÷åìó ñóùåñòâóåò îðòîãîíàëüíàÿ ìàòðèöà ïîðÿäêà n ñ ïåðâîéñòðîêîé ( √1n , . . . , √1n ) èëè ñ ïåðâûì ñòîëáöîì ( √1n , .
. . , √1n )TÓïðàæíåíèå 2.4. Äîêàçàòü ëåììó 2.13.Óïðàæíåíèå 2.5. Äîêàçàòü óòâåðæäåíèå 2.19.Óïðàæíåíèå 2.6. Äîêàçàòü, ÷òî äëÿ êâàäðàòíîé ìàòðèöû C ïîðÿäêà pWp (m, CQC T ) = CWp (m, Q)C T . ÷àñòíîñòè, Wp (m, Q) = Q1/2 Wp (m, Ip )Q1/2 .25Ãëàâà 3.Ïðîâåðêè ñòàòèñòè÷åñêèõ ãèïîòåç.Ðàññìîòðèì ïðîâåðêó ïî âûáîðêå X1 , . .
. , Xn èç Np (a, Q) ïðîñòîé ãèïîòåçûH : a = a0 ,(∗)ãäå a0 - çàäàííûé p-ìåðíûé âåêòîð. ïîñëåäóþùèõ ðàçäåëàõ áóäåò ðàññêàçàíî î äâóõ ñïîñîáàõ, ñ ïîìîùüþ êîòîðûõìîæíî ñòðîèòü ñòàòèñòè÷åñêèå êðèòåðèè äëÿ ïðîâåðêè ãèïîòåç î ñðåäíèõ (î ìàòåìàòè÷åñêèõ îæèäàíèÿõ) ïî ìíîãîìåðíûì ãàóññîâñêèì íàáëþäåíèÿì: ýòî ìåòîä Ðîÿ(S.N.Roy) è ìåòîä îòíîøåíèÿ ïðàâäîïîäîáèé. Âòîðîé ìåòîä ñâÿçàí ñ ïðèìåíåíèåìëåììû Íåéìàíà-Ïèðñîíà è øèðîêî èñïîëüçóåòñÿ äëÿ ïðîâåðêè ïðîñòûõ ãèïîòåç. Äëÿîäíîé âûáîðêè, ïðè ïðîâåðêå (∗), îáà ìåòîäà ïðèâîäÿò ê îäíîìó è òîìó æå ñòàòèñòè÷åñêîìó êðèòåðèþ (êðèòåðèþ Õîòåëëèíãà), íî äëÿ áîëåå ñëîæíûõ ìíîãîìåðíûõëèíåéíûõ ìîäåëåé ñòàòèñòè÷åñêèå ïðàâèëà ïîëó÷àþòñÿ ðàçíûìè. Îá ýòîì áóäåò ðàññêàçàíî â ïîñëåäóþùèõ ãëàâàõ.
Ñîïîñòàâëÿÿ ýòè êîíêðåòíûå êðèòåðèè, ìû ïðèäåìê ïîíèìàíèþ, êàê â ìíîãîìåðíîì ëèíåéíîì àíàëèçå óñòðîåíû ðàçóìíûå êðèòåðèèäëÿ ïðîâåðêè ëèíåéíûõ ãèïîòåç (è êàê ðàñïðåäåëåíû èõ ñòàòèñòèêè ïðè ãèïîòåçàõè àëüòåðíàòèâàõ).Çàìå÷àíèå. Äëÿ âûáîðêè X1 , . . . , Xn èç Np (a, Q) ïàðàìåòð a íàçûâàåòñÿ ïàðàìåòðîì ïîëîæåíèÿ, à ïàðàìåòð Q ïàðàìåòðîì ìàñøòàáà. Îáû÷íî ïðè èçìåíåíèè óñëîâèé ïðîâåäåíèÿ ýêñïåðèìåíòà, â ðåçóëüòàòå êîòîðîãî ìû ïîëó÷àåì âûáîðêóX1 , . . .
, Xn , âíà÷àëå ìåíÿåòñÿ ïàðàìåòð ïîëîæåíèÿ, çàòåì ïàðàìåòð ìàñøòàáà è âïîñëåäíþþ î÷åðåäü ðàñïðåäåëåíèå âûáîðêè.1. Ìåòîä Ðîÿ äëÿ ïðîâåðêè ïðîñòîé ãèïîòåçû.Ïóñòü u îáîçíà÷àåò ïåðåìåííûé p-ìåðíûé âåêòîð, u ∈ Rp . Îò âûáîðêè X1 , . . . , Xnèç Np (a, Q), ãäå ìàòðèöà Q íåâûðîæäåíà, ïåðåéäåì ê ñêàëÿðíûì âåëè÷èíàì x1 , . . . , xn ,ïîëîæèâ xi = uT Xi , i = 1, n. Ñëó÷àéíûå âåëè÷èíû x1 , . . .
, xn îáðàçóþò âûáîðêó èçN (uT a, uT Qu). Òàêèì îáðàçîì, ãèïîòåçà (∗) äëÿ äàííîãî u ïåðåõîäèò â ãèïîòåçóH (u) : uT a = uT a0 .(3.1)ßñíî, ÷òî ãèïîòåçà H : a = a0 âåðíà òîãäà è òîëüêî òîãäà, êîãäà ãèïîòåçà H (u)âåðíà äëÿ ëþáîãî u ∈ Rp . Ïîýòîìó ãèïîòåçó (∗) ñëåäóåò îòâåðãíóòü, åñëè îòâåðãíóòîéîêàæåòñÿ õîòÿ áû îäíà èç ãèïîòåç H (u) . çàâèñèìîñòè îò òîãî, çàäàíà íàáëþäàòåëþ ìàòðèöà Q èëè íåò, íàäî ïîëüçîâàòüñÿëèáî ãàóññîâñêèì, ëèáî ñòüþäåíòîâñêèì ðàñïðåäåëåíèÿìè äëÿ ïðîâåðêè ãèïîòåçûH (u) . Ïîëîæèì (êàê îáû÷íî)à n!nnnXXXX1111X :=Xi , x :=xi =uT X i = uTXi = uT X.n i=1n i=1n i=1n i=1Ðàññìîòðèì ñíà÷àëà áîëåå òðóäíûé ñëó÷àé, êîãäà ìàòðèöà Q íåèçâåñòíà.
Òîãäàíåèçâåñòíà è äèñïåðñèÿ íàáëþäåíèé x1 , . . . , xn .  ýòîì ñëó÷àå äëÿ ïðîâåðêè ãèïîòåçû H (u) (3.1) ñëåäóåò èñïîëüçîâàòü "îòíîøåíèå Ñòüþäåíòà"èëè, ÷òî òî æå ñàìîå,"Ñòüþäåíòîâó äðîáü":√ uT (X − a0 )n,sãäånn1 X i1 X Ts =(x − x)2 =(u Xi − uT X)2 =n − 1 i=1n − 1 i=1226(3.2)n1 X T[u (Xi − X)][uT (Xi − X)]T =n − 1 i=1à n!X11=uT(Xi − X)(Xi − X) u =uT Sun−1n−1i=1=Óòâåðæäåíèå 3.1. Ñòàòèñòèêà (3.2) èìååò ðàñïðåäåëåíèå Ñòüþäåíòà ñ (n − 1)ñòåïåíÿìè ñâîáîäû è ïàðàìåòðîì íåöåíòðàëüíîñòè√ Tnu (a − a0 )pδ=.(3.3)uT Qu(Ñì. óïðàæíåíèå 3.1.)Ãèïîòåçó H (u) : µ = µ0 , èëè ýêâèâàëåíòíî H (u) : δ = 0, ñëåäóåò îòâåðãíóòü (íàóðîâíå 2α, 0 < α < 0.5), åñë误¯√ uT (X − a0 ) ¯¯ n¯ > t1−α ,(3.4)¯¯sãäå t1−α îáîçíà÷àåò (1−α)-êâàíòèëü ðàñïðåäåëåíèÿ Ñòüþäåíòà ñ (n−1) ñòåïåíÿìèñâîáîäû.Ïîñêîëüêó ïðàâàÿ ÷àñòü (3.4) îäíà è òà æå äëÿ âñåõ u ∈ Rp , ïðåäñòàâëÿåòñÿ ðàçóìíûì îòâåðãàòü ãèïîòåçó (∗), êîãäà ñòàòèñòèêàmaxpqu∈R√ uT (X − a0 )n,s(3.5)TSu, ïðèíèìàåò "ñëèøêîì áîëüøèå"çíà÷åíèÿ.
Ïðè ýòîì ÿñíî, ÷òî êðèãäå s = un−1òè÷åñêèå çíà÷åíèÿ äëÿ (3.5) íàäî âûáèðàòü, ðóêîâîäñòâóÿñü åå ðàñïðåäåëåíèåì ïðèãèïîòåçå (∗).Åñëè æå ìàòðèöà Q çàäàíà, òî íóæíî èñïîëüçîâàòü ñòàòèñòèêómaxpu∈R√ uT (X − a0 ),n puT Qu(3.6)è îòâåðãàòü ãèïîòåçó, êîãäà ýòà ñòàòèñòèêà ïðèíèìàåò äîñòàòî÷íî áîëüøèå çíà÷åíèÿ.(Ñì. óïðàæíåíèå 3.2.)2. Âû÷èñëåíèå ñòàòèñòèê (3.5) è (3.6).Ëåììà 3.2. Ïóñòü R - ïðîèçâîëüíàÿ ïîëîæèòåëüíî îïðåäåëåííàÿ ñèììåòðè÷íàÿìàòðèöà ïîðÿäêà p, Y - ïðîèçâîëüíûé p-ìåðíûé âåêòîð. Òîãäà√uT Y= Y T R−1 Y .maxp √u∈RuT RuÄîêàçàòåëüñòâî. Çàìåòèì, ÷òî ôóíêöèÿuT Yf (u) = maxp √u∈RuT Ru(3.10)íå ìåíÿåò ñâîåãî çíà÷åíèÿ ïðè çàìåíå v = αu, ãäå α > 0. (Ñì. óïðàæíåíèå 3.3.)Òàêèì îáðàçîì, çàäà÷ó î íàõîæäåíèè äàííîãî ìàêñèìóìà ìîæíî çàìåíèòü çàäà÷åéî íàõîæäåíèèmaxp uT Yu∈R(3.11)uT Ru=1Äëÿ íàõîæäåíèÿ ïîëó÷åííîãî ìàêñèìóìà âîñïîëüçóåìñÿ ìåòîäîì Ëàãðàíæà îòûñêàíèÿ ëîêàëüíîãî óñëîâíîãî ýêñòðåìóìà.27Íàïîìíèì åãî.