Turin Yu.N. - Multidimensional Gaussian Calculus (1120045), страница 9
Текст из файла (страница 9)
Ïîïóòíî çàìåíèì íà (n − 1)S âûðàæåíèå (Xi − X)(Xi − X)T . Òàêèìîáðàçîì, ïîëó÷àåì, ÷òî ÷èñëèòåëü (3.19) ðàâåí:i=1det[(n − 1)S] det[1 + n(X − a0 )T [(n − 1)S]−1 (X − a0 )] = det[(n − 1)S] det[1 +1T 2 ],n−1ãäå îïðåäåëåíèå ñòàòèñòèêè Õîòåëëèíãà T 2 áûëî ââåäåíî ðàíåå, ñì. (3.13). Ïîñëåòàêèõ ïðåîáðàçîâàíèé ÷èñëèòåëÿ äðîáü (3.19) óïðîùàåòñÿ, è ïðàâèëî äëÿ ïðîâåðêèãèïîòåçû (*) ìîæíî òåïåðü ñôîðìóëèðîâàòü ñëåäóþùèì îáðàçîì:îòâåðãàòü ãèïîòåçó (*) ïðè áîëüøèõ çíà÷åíèÿõ ñòàòèñòèêèdet(1 +1T 2 ).n−1321Çàìåòèì, ÷òî ñèìâîë det ìîæíî îïóñòèòü, ò.ê.
1 + n−1T 2 - ÷èñëî, ò.å. ìàòðèöàðàçìåðà 1 × 1, à îïðåäåëèòåëü ìàòðèöû òàêîãî ðàçìåðà, ò.å. ÷èñëà - ýòî ñàìî ýòî÷èñëî.  èòîãå ïîëó÷àåì, ÷òî (*) ñëåäóåò îòâåðãàòü, åñëèT 2 ≥ Const,÷òî ñîâïàäàåò ñ (3.13).33Ãëàâà 4. Ïðîâåðêè ñòàòèñòè÷åñêèõ ãèïîòåç - ïðîäîëæåíèå; äîâåðèòåëüíûå ýëëèïñîèäû.1. Ðàñïðåäåëåíèå ñòàòèñòèêè T2 .Äëÿ íàõîæäåíèÿ ðàñïðåäåëåíèÿ ñòàòèñòèêè T 2 äîêàæåì ñëåäóþùóþ òåîðåìó:Ëåììà 4.1. Ïóñòü Y, Y1 , . . .
, Yk - íåçàâèñèìûå îäèíàêîâî ðàñïðåäåëåííûå ñëó÷àé-íûå âåëè÷èíû ñ ðàñïðåäåëåíèåì Np (0, Σ), ïðè÷åì ìàòðèöà Σ íåâûðîæäåíà (ò.å., ýêâèâàëåíòíî, îíà ïîëîæèòåëüíî îïðåäåëåíà - ñì. óïðàæíåíèå 5.2 â ãëàâå 1) . ÏóñòüW =kXYi YiT , T 2 = (ν + Y )T W −1 (ν + Y ),(3.21),i=1ãäå ν - ïðîèçâîëüíûé âåêòîð, ν ∈ Rp . Òîãäà äëÿ k ≥ pχ2 (p, ∆),(3.22)χ2 (k − p + 1)ïðè÷åì ñëó÷àéíûå âåëè÷èíû â ÷èñëèòåëå è çíàìåíàòåëå íåçàâèñèìû, è ïàðàìåòðíåöåíòðàëüíîñòè ∆ îïðåäåëÿåòñÿ ðàâåíñòâîìdT2=∆ = ν T Σ−1 ν.(3.23)Çàìå÷àíèå 4.2.
Èç (3.22) ñëåäóåò, ÷òîk−p+1 2 dT = F (p, k − p + 1, ∆).(3.24)pÇàìå÷àíèå 4.3. Ïðè k ≥ p ìàòðèöà W íåâûðîæäåíà ñ âåðîÿòíîñòüþ 1, à ïðèk < p âûðîæäåíà ïî÷òè íàâåðíîå. (Ñì. óïðàæíåíèÿ 3.1, 3.2.)Ââåäåì îáîçíà÷åíèÿ äëÿ ýëåìåíòîâ ìàòðèö Σ, Σ−1 , W, W −1 . Ïóñòü σij , σ ij , wij , wij ij -å ýëåìåíòû ýòèõ ìàòðèö: Σ, Σ−1 , W, W −1 ñîîòâåòñòâåííî.Äîêàçàòåëüñòâî òåîðåìû ñóùåñòâåííî îïèðàåòñÿ íà ñëåäóþùèå ëåììû.σ 11 d 2Ëåììà 4.4. 11 = χ (k − p + 1).wÄîêàçàòåëüñòâî.
¤ Ðàññìîòðèì ñëó÷àéíûé âåêòîð X ∼ Np (0, Σ), X = (x1 , . . . , xp )T .Ðàçîáúåì íà áëîêè ìàòðèöû Σ è W :µ¶µ¶Σ11 Σ12W11 W12Σ=W =.Σ21 Σ22W21 W22Çäåñü Σ11 = σ11 , W11 = w11 - ìàòðèöû ðàçìåðà 1 × 1, ò.å ÿâëÿþùèåñÿ ÷èñëàìè,ìàòðèöû Σ22 ? W22 êâàäðàòíûå ìàòðèöû ðàçìåðà (p − 1) × (p − 1).Ðàíåå áûëî îòìå÷åíî, ÷òî(2), Σ11 − Σ12 Σ−1L(X (1) /X (2) ) = N (Σ12 Σ−122 Σ21 ).22 XÇàìåòèì, ÷òî â äàííîì ñëó÷àå, êîãäà ðàçìåðíîñòü X (1) ðàâíà åäèíèöå, âåðíî ñëåäóþùåå:(σ 11 )−1 = Σ11 − Σ12 Σ−122 Σ21 .Äåéñòâèòåëüíî, ïî îïðåäåëåíèþσ 11 =det(Σ22 ),det(Σ)à â ñèëó ëåììû 3.234(3.25)det(Σ) = det(Σ22 ) · det(Σ11 − Σ12 Σ−122 Σ21 ).Àíàëîãè÷íî,−1(w11 )−1 = W11 − W12 W22W21 .(3.26)(2)X (1) = Σ12 Σ−1+ ξ,22 X(3.27)Êàê óæå îòìå÷àëîñü,ãäå ξ− íåçàâèñèìàÿ îò X (2) ñëó÷àéíàÿ âåëè÷èíà, ðàñïðåäåëåííàÿ ïî ãàóññîâñêîìóçàêîíó11 −1N (0, Σ11 − Σ12 Σ−122 Σ21 ), òî åñòü â ñèëó (3.25) - ïî çàêîíó N (0, (σ ) ).Äëÿ ñëó÷àéíûõ âåêòîðîâ, ôèãóðèðóþùèõ â óñëîâèè òåîðåìû 3.1, ðàâåíñòâî (3.27)îçíà÷àåò, ÷òî(1)Yi(2)= Σ12 Σ−122 Yi+ ξi ??? i = 1, k,(2)(2)îò Y1 , .
. . , Yk11 −1ãäå ξ1 , . . . , ξk ñóòü íåçàâèñèìûå è íå çàâèñÿùèå÷àéíûå âåëè÷èíû, ðàñïðåäåëåííûå ïî çàêîíó N (0, (σ ) ).Ïîëîæèì2R = minp−1β∈Rk ³X(1)Yi(2)− β T Yi´2(3.28)ãàóññîâñêèå ñëó-.(3.29)i=1(2)(2)Y1 , . . . , Y kÏðè ôèêñèðîâàííûõ çíà÷åíèÿõñëó÷àéíàÿ âåëè÷èíà R2 ðàñïðåäåëåíà êàê(σ 11 )−1 χ2 (k − p + 1), ÷òî ñëåäóåò èç òåîðèè ãàóññîâñêîé ëèíåéíîé ðåãðåññèè, ïðèìå(2)(2)íåííîé ê ìîäåëè (3.29).
Ïîñêîëüêó Y1 , . . . , Yk ñëó÷àéíûå âåëè÷èíû, ñêàçàííîå(2)(2)âûøå îòíîñèòñÿ ê óñëîâíîìó ðàñ÷ïðåäåëåíèþ R2 ïðè ôèêñèðîâàííûõ Y1 , . . . , Yk .(2)(2)Ïîñêîëüêó ïðè ëþáûõ çíà÷åíèÿõ Y1 , . . . , Yk óñëîâíîå ðàñïðåäåëåíèå R2 îäíî è(2)(2)òî æå, òî îíî íå çàâèñèò îò çíà÷åíèé Y1 , . . . , Yk è ñîâïàäàåò ñ áåçóñëîâíûì (ò.å.îáû÷íûì) ðàñïðåäåëåíèåì R2 . Èòàê, óñòàíîâëåíî, ÷òî ñëó÷àéíàÿ âåëè÷èíà R2 ðàñïðåäåëåíà ïî çàêîíóR2 ∼ (σ 11 )−1 χ2 (k − p + 1).(3.30)2Îñòàåòñÿ ëèøü óêàçàòü äëÿ R ÿâíîå âûðàæåíèå. Äëÿ ýòîãî ìîæíî âîñïîëüçîâàòüñÿ ãîòîâûìè ôîðìóëàìè èç ãëàâû 1, ï.5 (óñëîâíîå ìàòåìàòè÷åñêîå îæèäàíèåäëÿ ãàóññîâñêèõ âåêòîðîâ, ò.å. ëèíåéíàÿ ðåãðåññèÿ - ñì.
òàêæå ï.6 â òîé æå ãëàâå), íîïðîùå ïðîäåëàòü íåîáõîäèìûå âûêëàäêè íåïîñðåäñòâåíî. Íàéäåì ñíà÷àëà çíà÷åíèåβ̂ , ïðè êîòîðîì ïðàâàÿ ÷àñòü (3.29) äîñòèãàåò ìèíèìóìà. Ââåäåì ôóíêöèþk ³k ³´T´³´2 XX(1)(1)(1)T (2)T (2)T (2)Yi − β Yi=Yi − β YiQ(β) :=Yi − β Yi(3.31)i=1i=1Ïóñòü dβ îáîçíà÷àåò ïðèðàùåíèå β . Âû÷èñëèì ïðèðàùåíèå Q(·), ïðåäñòàâèâ åãîâ âèäåQ(β + dβ) − Q(β) = ∇Q(β)dβ + o(dβ).çäåñü ∇Q(β) îáîçíà÷àåò ãðàäèåíò ôóíêöèè Q(·) â òî÷êå β , ∇Q âåêòîð-ñòðîêà.Ïðÿìûì âû÷èñëåíèåì íàõîäèì, ÷òîQ(β + dβ) − Q(β) = −2kX(1)(Yii=135(2)(2)− β T Yi )(Yi )T dβ + o(dβ).Ïðèðàâíÿâ íóëþ ïîäó÷åííîå äëÿ ∇Q âûðàæåíèå, ïîëó÷èì, ÷òî ãðàäèåíò îáðàùàåòñÿ â íîëü (à ôóíêöèÿ Q(β), ñîîòâåòñòâåííî, äîñòèãàåò ìèíèìàëüíîãî çíà÷åíèÿ)ïðèβ̂ =" kX³(2)Yi´³(2)Yi´T#−1 " kX³(1)Yi´³(2)Yi´T#.(3.32)i=1i=1Ïîäñòàâèâ ïîëó÷åííîå âûðàæåíèå (3.32) â (3.31), íàéäåì, ÷òî R2 (3.29) ðàâíîà k!T à k!−1 à k!TkXX (1) (2)X (2) (2)X (1) (2)(1)(1)R02 =Yi Yi −Yi YiYi YiYi Yi.(3.33)i=1kPi=1i=1i=1i=1Òåïåðü çàìåòèì, ÷òî ñîñòàâëÿþùèå âûðàæåíèÿ (3.33) ýòî áëîêè ìàòðèöû W =Yi YiT , êîòîðûå ìû óêàçàëè ðàíåå.
Ïîýòîìó−1R2 = W11 − W12 W22W21 ,è, ñîãëàñíî (3.26), ðàâíî (w11 )−1 . ÏîýòîìóR2 = (w11 )−1(3.34)Ñîïîñòàâèâ (3.34) ñ (3.30), íàéäåì, ÷òîd(w11 )−1 = (σ 11 )−1 χ2 (k − p + 1).Òàêèì îáðàçîì, óòâåðæäåíèå ëåììû äîêàçàíî. ¥lT Σ−1 l d 2= χ (k − p + 1) äëÿ ëþáîãî l ∈ Rp , l 6= 0.lT W −1 l¤ Âûáåðåì l òàêèì, ÷òî |l| = 1. Ðàññìîòðèì îðòîãîíàëüíóþ ìàòðèöó B , ïåðâàÿ ñòðîêà êîòîðîé åñòü lT . Ââåäåì ñëó÷àéíûå âåêòîðû Ye1 , .
. . , Yek , ïîëîæèâ Yei =e , ãäå Σe = BΣB T . ÐàññìîòBYi , i = 1, k . ßñíî, ÷òî Ye1 , . . . , Yek ñóòü íåçàâèñèìûå Np (0, Σ)kf = P Yei Ye T = BW B T . Ââåäåì îáîçíà÷åíèÿ äëÿ ýëåìåíòîâ ìàòðèöûðèì ìàòðèöó WiËåììà 4.5.i=1Σ̃, W̃ , Σ̃−1 , W̃ −1 . ÏîëîæèìΣ̃ = kσ̃ij k, Σ̃−1 = kσ̃ ij k, W̃ = kw̃ij k, W̃ −1 = kw̃ij k.Çàìåòèì, ÷òî â ñèëó âûáîðà ìàòðèöû B£¤−1lT Σ−1 l = (Bl)T BΣB T(Bl) = (1, 0, .
. . , 0)T Σ̃−1 (1, 0, . . . , 0) = σ̃ 11 .Àíàëîãè÷íî:lT W −1 l = w̃11 .Ïîýòîìóσ̃ 11 d 2lT Σ−1 l== χ (k − p + 1)lT W −1 lw̃11ïî äîêàçàííîé ëåììå 3. ¥Îáðàòèìñÿ òåïåðü ê äîêàçàòåëüñòâó òåîðåìû 1.¤ Ïðåäñòàâèì (3.21) â âèäå:T2=(Y + ν)T W −1 (Y + ν)(Y + ν)T Σ−1 (Y + ν).(Y + ν)T Σ−1 (Y + ν)(3.35) ñèëó ëåììû 4.4 óñëîâíîå ðàñïðåäåëåíèå ïðè ôèêñèðîâàííîì Y ñëó÷àéíîé âåëè÷èíû36(Y + ν)T W −1 (Y + ν)(Y + ν)T Σ−1 (Y + ν)(3.36) ýòî ðàñïðåäåëåíèå χ2 (k − p + 1).
Çàìåòèì, ÷òî ýòî ðàñïðåäåëåíèå - îäíî è òîæå ïðè âñåõ çíà÷åíèÿõ Y . Ñëåäîâàòåëüíî, "áåçóñëîâíîå"ðàñïðåäåëåíèå, ò.å. ïðîñòîðàñïðåäåëåíèå (3.36) åñòü χ2 (k − p + 1). Êðîìå òîãî, êàê ñëó÷àéíàÿ âåëè÷èíà, (3.36)íå çàâèñèò îò Y . Ñëåäîâàòåëüíî, (3.36) íå çàâèñèò îò(Y + ν)T Σ−1 (Y + ν).(3.37)Êàê èçâåñòíî, ñëó÷àéíàÿ âåëè÷èíà (3.37) ðàñïðåäåëåíà ïî çàêîíó χ2 (k − p + 1, ∆),ãäå çíà÷åíèå ïàðàìåòðà íåöåíòðàëüíîñòè ∆ îïðåäåëÿåòñÿ ôîðìóëîé (3.23). ðåçóëüòàòå ïîëó÷àåì, ÷òî ðàñïðåäåëåíèå T 2 (3.35) - òàêîå æå, êàê ó îòíîøåíèÿ äâóõ íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí, ðàñïðåäåëåííûõ ïî çàêîíó χ2 , êàê ýòî èóòâåðæäàåòñÿ â (3.32). Îñòàåòñÿ ëèøü íàïîìíèòü, ÷òî ïî îïðåäåëåíèþF (p, k − p + 1, ∆) =1 2χ (p, ∆)p1χ2 (k − p + 1)k−p+1,òàê ÷òîdT2=pF (p, k − p + 1, ∆),k−p+1ãäå F (p, k −p+1, ∆) ýòî ðàñïðåäåëåíèå Ôèøåðà ñî ñòåïåíÿìè ñâîáîäû p, k −p+1è ïàðàìåòðîì íåöåíòðàëüíîñòè ∆.
Òàêèì îáðàçîì, òåîðåìà ïîëíîñòüþ äîêàçàíà. ¥Òåïåðü ìû ìîæåì äîêàçàòü ñëåäóþùóþ òåîðåìó, êàñàþùóþñÿ ñòàòèñòèêè T 2 Õîòåëëèíãà:Òåîðåìà 4.6.Åñëè n > p, òî(n − 1)pF (p, n − p, ∆),n−pãäå ïàðàìåòð íåöåíòðàëüíîñòè ∆ îïðåäåëÿåòñÿ ôîðìóëîé:dT 2 = n(X − a0 )T S −1 (X − a0 ) =∆ = n(a − a0 )T Q−1 (a − a0 ),¤ Äëÿ äîêàçàòåëüñòâà íàäî ó÷åñòü, ÷òî(a)d(n − 1)S = W =n−1XYi YiT ,i=1ãäå Y1 , . . .
, Yn−1 ñóòü íåçàâèñèìûå Np (0, Q);(b)√ãäå ν =√dn(X − a0 ) = Y ∼ Np (ν, Q),n(a − a0 ), è ñëó÷àéíûé âåêòîð Y íå çàâèñèò îò Y1 , . . . , Yn−1 .37(3.38)(3.39)Ñëåäîâàòåëüíî, ê ñòàòèñòèêåT 2 = (n − 1)(Y + ν)T W −1 (Y + ν)ïðèìåíèìà òåîðåìà 1 ñ çàìåíîé k íà n − 1. ÎòñþäàdT2 =(n − 1)pF (p, n − p, ∆),n−pãäå∆ = n(a − a0 )T Q−1 (a − a0 ).¥$2. Äîâåðèòåëüíûå ýëëèïñîèäû.Îïðåäåëåíèå 4.7.
Ïóñòü (X, F, {Pθ |θ ∈ Θ}) - èñõîäíîå ñòàòèñòè÷åñêîå ïðîñòðàí-ñòâî (íàïîìíèì, ýòî îïðåäåëåíèå áûëî ââåäåíî â $1 ãëàâû 2), τ : Θ → Rn - çàäàííàÿ ôóíêöèÿ, α ∈ [0, 1] - íåêîòîðîå ÷èñëî. Òîãäà äîâåðèòåëüíîå ìíîæåñòâîäëÿ ôóíêöèè τ ñ äîâåðèòåëüíîé âåðîÿòíîñòüþ α - ýòî ëþáîå ïîäìíîæåñòâînnAX ⊂ Rn , çàâèñÿùåå îò X ∈ X (èëè, áîëåå ôîðìàëüíî, ôóíêöèÿ X → 2R , ãäå 2R ìíîæåñòâî âñåõ ïîäìíîæåñòâ Rn ), äëÿ êîòîðîãî ïðè âñåõ θ ∈ ΘPθ {X ∈ X|τ (θ) ∈ AX } ≥ α.Âîçíèêàåò åñòåñòâåííûé ÷àñòíûé ñëó÷àé ýòîãî î÷åíü îáùåãî îïðåäåëåíèÿ.
ÏóñòüΘ := Θ1 × Θ2 × . . . × Θm , ãäå Θk ⊂ Rnk . Ò.å. íåèçâåñòíûé ïàðàìåòð θ åñòü íàáîðèç m íåèçâåñòíûõ ïàðàìåòðîâ (θ1 , . . . , θm ), êîòîðûå ïðåäñòàâëÿþò èç ñåáÿ êîíå÷íîìåðíûå âåêòîðû. Òîãäà äîâåðèòåëüíîå ìíîæåñòâî äëÿ θk , ãäå k = 1, m - íåêîòîðûéôèêñèðîâàííûé èíäåêñ, åñòü, ïî îïðåäåëåíèþ, äîâåðèòåëüíîå ìíîæåñòâî äëÿ ôóíêöèè τ : Θ → Rnk , τ (θ) := θk , ò.å., ãîâîðÿ ïî-äðóãîìó, ñîîòâåòñòâèå, êîòîðîå êàæäîìóX ∈ X ñîïîñòàâëÿåò ïîäìíîæåñòâî AX ⊂ Rnk òàê, ÷òî ïðè âñåõ θ ∈ ΘPθ {X ∈ X|θk ∈ AX } ≥ α.Çäåñü α ∈ [0; 1] - çàäàííàÿ äîâåðèòåëüíàÿ âåðîÿòíîñòü.Åñëè α äîñòàòî÷íî áëèçêî ê åäèíèöå (íàïðèìåð, α = 0, 99), òî, ïîñòðîèâ äîâåðèòåëüíîå ìíîæåñòâî, ìû ìîæåì ñêàçàòü, ÷òî ôóíêöèÿ τ îò íåèçâåñòíîãî ïàðàìåòðàθ, ïî-âèäèìîìó, ëåæèò èìåííî â ýòîì ìíîæåñòâå - õîòÿ íåèçâåñòíî òî÷íî, ÷åìó æåýòà ôóíêöèÿ ðàâíà.