Turin Yu.N. - Multidimensional Gaussian Calculus [6th chapter] (1120043), страница 5
Текст из файла (страница 5)
Ïåðåôîðìóëèðóåì åå íà ÿçûêåìàòðèö èç Rpn . Ñîîòíîøåíèå (6.2) ìîæíî ïåðåïèñàòü â âèäå Y = XC , ãäå X, Y - ñëó÷àéíûå ìàòðèöû ðàçìåðà p × n, k−å ñòîëáöû êîòîðûõ ðàâíû Xk , Yk ñîîòâåòñòâåííî,k = 1, n. Óòâåðæäåíèÿ (a), (b), (d) ëåììû ìîæíî ïåðåïèñàòü òàê:(a) vec Y - ãàóññîâñêèé (np−ìåðíûé) âåêòîð;(b) EY = (EX)C ;(d) |X|2 =< X, X >= |Y |2 =< Y, Y >.Òåïåðü ñôîðìóëèðóåì è äîêàæåì îäíó îáùóþ ëåììó, èç êîòîðîé, êàê ÷àñòíûéñëó÷àé, áóäóò ñëåäîâàòü âûðàæåíèÿ äëÿ íåñìåùåííûõ îöåíîê ïàðàìåòðîâ T è Σ.mLËåììà 6.40. (îá îðòîãîíàëüíîì ðàçëîæåíèè) Ïóñòü m ≥ 2, Rpn =Lk k=1ïðÿìàÿ ñóììà íåíóëåâûõ ïîäìîäóëåé Lk , kN= 1, m.
Ïóñòü X - ñëó÷àéíàÿ ìàòðèöàðàçìåðà p × n, ïðè÷åì vec X v Npn (vec T, Σ In ). (Ò.å., ýêâèâàëåíòíî, ñòîëáöû ìàòðèöû X - íåçàâèñèìûå ñëó÷àéíûå âåêòîðà è k−é ñòîëáåö ðàñïðåäåëåí êàê Np (lk , Σ),ãäå lk åñòü k−é ñòîëáåö ìàòðèöû T . Äîêàæèòå ýòó ýêâèâàëåíòíîñòü.)Òîãäà projLk X, k = 1, m - íåçàâèñèìûå ñëó÷àéíûå ìàòðèöû, è èõ âåêòîðèçàöèèðàñïðåäåëåíû ïî íîðìàëüíîìó çàêîíó, ïðè÷åì E projLk X = projLk T äëÿ âñåõ k =1, m.Êðîìå òîãî,| projLk X|2 v Wp (nk , Σ, | projLk T |2 ),ãäå nk := dim Lk , k = 1, m.(k)¤ Ïóñòü {es |s = 1, nk } - îðòîíîðìèðîâàííûé áàçèñ â Lk , k = 1, m.
(Åãî ìîæíî(k)âûáðàòü ïî ëåììå 6.26.) Òîãäà îáúåäèíåíèå ýòèõ áàçèñîâ, ò.å. {es |s = 1, nk , k =1, m} - îðòîíîðìèðîâàííûé áàçèñ â Rpn ïî ëåììå 6.28. Ò.å. äëÿ ñëó÷àéíîé ìàòðèöû Xíàéäóòñÿ òàêèå âåêòîðà - ñòîëáöû (ôóíêöèè íà èñõîäíîì èçìåðèìîì ïðîñòðàíñòâå,íà êîòîðîì çàäàíà ñàìà X , íàïðèìåð, íà Rpn , åñëè X íåïîñðåäñòâåííî çàäàíà; ïîçäíåå(k)ìû ïîëó÷èì, ÷òî ýòî - ñëó÷àéíûå âåêòîðà) Ys , k = 1, m, s = 1, nk , äëÿ êîòîðûõX=nkm XXYs(k) e(k)s .k=1 s=1(k)(1)Ñîñòàâèì ìàòðèöó Y ðàçìåðà p × n èç ñòîëáöîâ Ys - ñíà÷àëà çàïèøåì ñòîëáåö Y1 ,(1)(1)(2)(2)(2)(m)(m)(m)çàòåì ñòîëáåö Y2 , .
. . , Yn1 , Y1 , Y2 , . . . , Yn2 , . . . , Y1 , Y2 , . . . , Ynm . Ãîâîðÿ áîëååk−1P(k)òî÷íî, ïóñòü Ys ñîñòàâëÿåòmj + s-é ñòîëáåö ìàòðèöû Y äëÿ k = 1, m, s = 1, nk .j=1Òîãäà ëåãêî ïðîâåðÿåòñÿ, ÷òî Y = XC , ãäå C - ìàòðèöà (íå ñëó÷àéíàÿ, à ïîñòîÿííàÿ)14ðàçìåðà n × n, ó êîòîðîék−1Pj=1(k)mj + s-ÿ ñòðîêà ðàâíà es . Ò.ê. X - ñëó÷àéíàÿ ìàòðèöà,(k)òî è Y = XC - ñëó÷àéíàÿ ìàòðèöà, ò.å. åå ñòîëáöû Ys- ñëó÷àéíûå âåêòîðû.(k)Ïóñòü F - ìàòðèöà nk × n, l-ÿ ñòðîêà êîòîðîé ðàâíà el , l = 1, nk .
Òîãäà projLk X =XF T (F F T )−1 F , projLk T = T F T (F F T )−1 F ïî òåîðåìå 6.32, à EX = T . Îòñþäàñðàçó âèäèì, ÷òî E projLk X = projLk T . Äàëåå, projLk X, k = 1, m íåçàâèñèìû, ò.ê.nkP(k) (k)(k)vec(projLk X) = vec( Ys es ) - èñïîëüçóåì óòâåðæäåíèå 6.34, à Ys ïðè s = 1, nk , k =s=11, m íåçàâèñèìû ïî ëåììå 2.13.Íîðìàëüíîñòü ðàñïðåäåëåíèÿ projLk X äîêàæèòå, ïîæàëóéñòà, ñàìîñòîÿòåëüíî.Îñòàëîñü îáîñíîâàòü, ÷òî | projLk X|2 v Wp (nk , Σ, | projLk T |2 ).Ïî ëåììå 6.34, projLk X =2| projLk X| =<nkXnkP(k) (k)Ys es . Îòñþäàs=1Ys(k) e(k)s ,nkXs=1=Ys(k) e(k)snkX>=s=1nkX(k) (k) T(Ys(k) e(k)s )(Yq eq )s,q=1nkX=s,q=1(k) T (k)Ys(k) e(k)s (eq ) Yq=nkX(k)(k)=Ys(k) (e(k)s , eq )Yqs,q=1s,q=1nkX=(k) (k)< Ys(k) e(k)s , Yq eq >=Ys(k) δsq Yq(k) ,s,q=1ãäå ñêîáêè (·, ·) îáîçíà÷àþò ñòàíäàðòíîå ñêàëÿðíîå ïðîèçâåäåíèå n-ìåðíûõ âåêòîðîâ - ñòðîê.
 ïîñëåäíåì ðàâåíñòâå ìû èñïîëüçîâàëè îðòîíîðìèðîâàííîñòü áàçèñà(k){es |s = 1, nk }. Ïðîäîëæàÿ âûêëàäêè, èìååì:nkXYs(k) δsq Yq(k)s,q=1=nkXYs(k) Ys(k) v Wp (nk , Σ, | projLk T |2 ),s=1(k)ò.ê. ïî ëåììå 2.13 cov Ys = Σ, à ïàðàìåòð íåöåíòðàëüíîñòè äàííîãî ðàñïðåäåëåíèÿ(k) (k)Óèøàðòà ðàâåí (ìû â ýòèõ âûêëàäêàõ îïÿòü áóäåì èñïîëüçîâàòü òî, ÷òî es (eq )T =(k) (k)(es , eq ) = δsq )nkXEYs(k) (EYs(k) )Ts=1=nkXs,q=1=nkX(k) T(k) TEYs(k) e(k)s (eq ) (EYs )=s,q=1<(k) (k)EYs(k) e(k)s , EYq eqnkX(k) (k) T(EYs(k) e(k)s )(EYq eq ) =s,q=1>=<nkXEYs(k) e(k)s ,nkXs=1s=1EYs(k) e(k)s>= |nkX2EYs(k) e(k)s | .s=1À ïîëó÷åííîå âûðàæåíèå êàê ðàç ðàâíî E| projLk X|2 . Èòàê, ýòî è îçíà÷àåò, ÷òî| projLk X|2 v Wp (nk , Σ, | projLk T |2 ). ¥Ñëåäñòâèå 6.41.
 ïîñòðîåííîé âûøå ëèíåéíîé ìíîãîìåðíîé ãàóññîâñêîé ìîäåëè1| projL⊥ X|2 - íåñìåùåííàÿ îöåíêà äëÿprojL X åñòü íåñìåùåííàÿ îöåíêà äëÿ T , à n−mΣ.(Ýòî ñîâñåì íåñëîæíî âûâåñòè èç òîëüêî ÷òî äîêàçàííîé ëåììû - ñäåëàéòå ýòîñàìîñòîÿòåëüíî. Ïîäñêàçêà: èñïîëüçóéòå óòâåðæäåíèå ï.4 òåîðåìû 6.32.)$6. Ïðîâåðêà ëèíåéíûõ ãèïîòåç.Áóäåì ðåøàòü çàäà÷ó, ñôîðìóëèðîâàííóþ â íà÷àëå $4 òåêóùåé ãëàâû â ï.2.15Ïóñòü S1 := | projL1 X|2 , S2 := | projL⊥ X|2 .
Çäåñü L1 - îðòîãîíàëüíîå äîïîëíåíèåïîäìîäóëÿ L0 â ïîäìîäóëå L - ïî ëåììå 6.29 òàêîå ñóùåñòâóåò. Ìàòðèöû S1 , S2 ,êàê ëåãêî âèäåòü - àíàëîãè ÷èñëèòåëÿ è çíàìåíàòåëÿ (ñ òî÷íîñòüþ äî óìíîæåíèÿ íàêîíñòàíòû) â ñòàòèñòèêå (6.2) äëÿ îäíîìåðíîé ìîäåëè.
Ìîæíî áûëî áû ðàññìîòðåòüñòàòèñòèêó S1 S2−1 , íî åå ðàñïðåäåëåíèå ïðè ðàçíûõ Σ > 0 (åñëè T ∈ L0 ) ðàçíîå. Êàêãîâîðÿò, ýòà ñòàòèñòèêà íå èìååò ñâîáîäíîå ðàñïðåäåëåíèå; ïî-àíãëèéñêè - freedistribution.Ïî÷åìó? Ïîòîìó, ÷òî ïðè T ∈ L0 S1 v Wp (m − m0 , Σ) = Σ1/2 Wp (m − m0 , Ip )Σ1/2 , àS2 v Wp (n − m, Σ) = Σ1/2 Wp (n − m, Ip )Σ1/2 ïî ï.1 ëåììû 6.38. Ìû èñïîëüçîâàëè òî,÷òî EX = T ∈ L0 , íî L0 ⊥ L1 , L0 ⊥ L⊥ , ò.å. âåðíû ðàâåíñòâà projL1 T = projL⊥ T =0 ïî òåîðåìå 6.32.
- à, çíà÷èò, ïàðàìåòðû íåöåíòðàëüíîñòè | projL1 T |2 , | projL⊥ T |2ðàñïðåäåëåíèé Óèøàðòà ìàòðèö S1 , S2 ðàâíû íóëþ.Ïðè ýòîì S1 , S2 íåçàâèñèìû.(×òîáû ïîëó÷èòüäîñòàòî÷íî ðàññìîòðåòü ðàçëîæåíèå ìîäóëÿ Rpn âL ýòèLôàêòû,ïðÿìóþ ñóììó L0L1 L⊥ è ïðèìåíèòü ëåììó îá îðòîãîíàëüíîì ðàçëîæåíèè.)Îòñþäà ïîëó÷àåì: S1 S2 −1 èìååò ðàñïðåäåëåíèå(Σ1/2 Wp (m−m0 , Ip )Σ1/2 )(Σ1/2 Wp (m−m0 , Ip )Σ1/2 )−1 = Σ1/2 Wp (m−m0 , Ip )Wp−1 (n−m, Ip )Σ−1/2 .Èòàê, ýòî ðàñïðåäåëåíèå, ê ñîæàëåíèþ, çàâèñèò îò Σ.Çàìå÷àíèå 6.42.
×òî òàêîå Σ−1/2 ? Ïî îïðåäåëåíèþ, ýòî (Σ1/2 )−1 . Ñîãëàñíî ï.3óïðàæíåíèÿ 1.5 â êîíöå ãëàâû 1, èç íåâûðîæäåííîñòè Σ ñëåäóåò íåâûðîæäåííîñòüΣ1/2 , à, çíà÷èò, ñóùåñòâîâàíèå îáðàòíîé ìàòðèöû - (Σ1/2 )−1 .Çàìå÷àíèå 6.43. Åñëè p > n − m, òî ìàòðèöà S2 âûðîæäåíà ïî÷òè íàâåðíîå- ñì. ëåììó 6.38, ï. 2, ò.å. âûøåïðèâåäåííûå âûêëàäêè íå èìåþò ñìûñëà. Íî åñëèp ≤ n−m, òî S2 íåâûðîæäåíà ñ âåðîÿòíîñòüþ 1 (ïî òîé æå ëåììå), è âñå ýòè âûêëàäêèâåðíû.Ò.å. ñòàòèñòèêà S1 S2−1 íå ãîäèòñÿ äëÿ ïðîâåðêè ãèïîòåçû. Íî ïîïûòàåìñÿ ñêîíñòðóèðîâàòü èç ìàòðèö S1 è S2 êàêèå-íèáóäü ñòàòèñòèêè, êîòîðûå óæå èìåþò ñâîáîäíîåðàñïðåäåëåíèå.1. Ñòàòèñòèêà Õîòåëëèíãà.
Ïðîùå âñåãî çàìåòèòü ñëåäóþùåå: ïðè ðàçíûõ Σ >0 ìàòðèöû S1 S2−1 èìåþò âèä Σ1/2 Wp (m − m0 , Ip )Wp−1 (n − m, Ip )Σ−1/2 , ò.å. îíè ïîäîáíûòîé ìàòðèöå S1 S2−1 , êîòîðàÿ ïîëó÷àåòñÿ ïðè Σ = Ip , à, çíà÷èò, âñå îíè ïîäîáíû äðóãäðóãó.
Îòñþäà ñðàçó æå ïîëó÷àåì, ÷òî èõ ñëåä - îäèí è òîò æå ïðè âñåõ Σ. Ïîëó÷àåìñòàòèñòèêó T 2 (X) = tr(S1 S2−1 ).Îíà îáîçíà÷àåòñÿ T 2 - òàê æå, êàê è ñòàòèñòèêà Õîòåëëèíãà (ñì. ãëàâó 2, êîíåö$2), ïîòîìó ÷òî íà ñàìîì äåëå ìîæíî äîêàçàòü, ÷òî îíà ñîâïàäàåò ñî ñòàòèñòèêîéÕîòåëëèíãà. Ðàñïðåäåëåíèå åå â ñëó÷àå, êîãäà âûïîëíåíà ãèïîòåçà, èçâåñòíî (îíî,íàïîìíèì, íàéäåíî ñàìèì Õîòåëëèíãîì), è äëÿ ïðîâåðêè ãèïîòåçû ìû ìîæåì ïîñòóïèòü ñòàíäàðòíûì îáðàçîì: ðàññìîòðåòü êâàíòèëü ýòîãî ðàñïðåäåëåíèÿ, ñîîòâåòñòâóþùèé óðîâíþ 1 − α, α ∈ (0; 1), è îòâåðãàòü ãèïîòåçó íà óðîâíå α òîãäà è òîëüêîòîãäà, êîãäà çíà÷åíèå ñòàòèñòèêè T 2 áîëüøå ýòîãî êâàíòèëÿ.2.
Ñòàòèñòèêà Óèëêñà. Ìîæíî ñîñòàâèòü è äðóãóþ ñòàòèñòèêó: ïðè n − m ≥ pîòíîøåíèåΛ=det S1det(S1 + S2 )íå çàâèñèò îò Σ (ïî÷åìó?) è íàçûâàåòñÿ ñòàòèñòèêîé Óèëêñà (Wilks). Ïðè ýòîìòàêàÿ çàïèñü êîððåêòíà, ò.ê. det(S1 + S2 ) > 0 ïî÷òè íàâåðíîå - âåäü S2 ≥ 0 è S2íåâûðîæäåíà, ò.å. S2 > 0; äàëåå, S1 ≥ 0, à, çíà÷èò, S1 + S2 > 0 (ïî÷åìó?), det(S1 +S2 ) > 0. Ñ ïîìîùüþ íåå îïÿòü-òàêè ìîæíî ïðîâåðèòü äàííóþ ãèïîòåçó, ïîñòóïàÿñîâåðøåííî òàê æå, êàê è ñî ñòàòèñòèêîé Õîòåëëèíãà.163. Ñòàòèñòèêà Ðîÿ. Ýòî ñòàòèñòèêàuT S 2 u.,u6=0 uT S1 uV = maxpu∈RÌîæíî çàïèñàòü åå è â òàêîì âèäå:V =maxu∈Rp ,uT S1 u=1uT S2 u.Ìû ïðåäïîëàãàåì, ÷òî m−m0 ≥ p, ò.ê.
òîãäà è òîëüêî òîãäà ìàòðèöà S1 íåâûðîæäåíàè ïîëîæèòåëüíî îïðåäåëåíà ïî÷òè íàâåðíîå, ò.å. ñ âåðîÿòíîñòüþ 1 uT S1 u > 0 ïðè âñåõu ∈ Rp , u 6= 0. Ýòîò ìàêñèìóì êîíå÷åí è äîñòèãàåòñÿ (ïî÷åìó? ìû ïîëüçóåìñÿ òåì,÷òî ôóíêöèÿ u 7→ uT S2 u íåïðåðûâíà íà êîìïàêòå {u ∈ Rp |uT S1 u = 1} îãðàíè÷åíà èäîñòèãàåò ìàêñèìóìà.) Êðîìå òîãî, ýòà ñòàòèñòèêà, êàê è äâå ïðåäûäóùèõ, íå çàâèñèòîò Σ - èìååò ñâîáîäíîå ðàñïðåäåëåíèå. (Îáîñíîâàòü ýòî.)Ò.å. è îíà ãîäèòñÿ â êà÷åñòâå èíñòðóìåíòà äëÿ ïðîâåðêè íàøåé ãèïîòåçû.4. Ñîáñòâåííûå çíà÷åíèÿ. Òàê êàê ìàòðèöû S1 S2−1 ïîäîáíû ïðè âñåõ Σ, òîèõ ñîáñòâåííûå çíà÷åíèÿ λk , k = 1, p, îñòàþòñÿ ïîñòîÿííûìè ïðè èçìåíåíèè Σ > 0.Âåêòîð, ñîñòàâëåííûé èç íèõ, òàêæå ÿâëÿåòñÿ ñòàòèñòèêîé ñî ñâîáîäíûì ðàñïðåäåëåíèåì. Ýòè ñîáñòâåííûå çíà÷åíèÿ ïîëîæèòåëüíû ñ âåðîÿòíîñòüþ 1, ò.ê. ìàòðèöûS1 , S2 , à, çíà÷èò, è S1 S2−1 , ïîëîæèòåëüíî îïðåäåëåíû ïî÷òè íàâåðíîå - åñëè òîëüêîn − m, m − m0 ≥ p, ñì.
ëåììó 6.38, ï. 2.Óòâåðæäåíèå 6.44. (áåç äîêàçàòåëüñòâà). Ïóñòü λk , k = 1, p, λ1 ≥ λ2 ≥ . . . ≥ λp- ñîáñòâåííûå çíà÷åíèÿ äëÿ ñëó÷àéíîé ìàòðèöû Wp (ν1 , Ip )Wp−1 (ν2 , Ip ) ïðè ν1 , ν2 ≥ p- ýòè óñëîâèÿ íåîáõîäèìû, ÷òîáû ýòà çàïèñü èìåëà ñìûñë ïî÷òè íàâåðíîå. Òîãäàïëîòíîñòü ñîâìåñòíîãî ðàñïðåäåëåíèÿ (λ1 , . . . , λp ) ðàâíàf (λ1 , . . . , λp ) = constpYj=11λj2(ν1 −p−1)pYj=11(1 + λj )− 2 (ν1 +ν2 )Y(λi − λj ).1≤i<j≤pÊ ñîæàëåíèþ, ìàðãèíàëüíûå ðàñïðåäåëåíèÿ, ò.å. ðàñïðåäåëåíèÿ îòäåëüíûõ ñîáñòâåííûõ çíà÷åíèé λj , íåèçâåñòíû.17.