Turin Yu.N. - Multidimensional Gaussian Calculus (1120045), страница 8
Текст из файла (страница 8)
(Ñì. òàêæå [3], ãë. 15, $ 5.)Ïóñòü òðåáóåòñÿ íàéòè ýêñòðåìóì äèôôåðåíöèðóåìîé ôóíêöèè f : U → R, ãäåU ⊂ Rk+m - îòêðûòîå ìíîæåñòâî, ïðè íàëè÷èè m óñëîâèé ñâÿçè:F1 (x1 , . . . , xk , y1 , . . . , ym ) = 0F2 (x1 , . . . , xk , y1 , . . . , ym ) = 0...Fm (x1 , . . . , xk , y1 , . . . , ym ) = 0Ïðè ýòîì áóäåì ïðåäïîëàãàòü, ÷òî ôóíêöèè Fi , i = 1, m, îïðåäåëåíû è íåïðåðûâíîäèôôåðåíöèðóåìû íà ìíîæåñòâå U , è â ëþáîé òî÷êå ýòîãî ìíîæåñòâà ÿêîáèàí¯ ∂F¯¯ 1 .
. . ∂F1 ¯∂ym ¯¯ ∂y1¯ .... ¯..¯ ... ¯¯¯ ∂Fm∂Fm ¯¯. . . ∂ym∂y1îòëè÷åí îò íóëÿ.Åñëè â òî÷êå P0 ∈ U ôóíêöèÿ f èìååò ëîêàëüíûé óñëîâíûé ýêñòðåìóì, òî íàémPλi Fi óäîâëåòâîðÿåò â òî÷êåäóòñÿ λi ∈ R, i = 1, m, äëÿ êîòîðûõ ôóíêöèÿ Ψ := f +i=1P0 óñëîâèÿì:∂Ψ= 0, i = 1, k∂xi∂Ψ= 0, i = 1, m,∂yià, êðîìå òîãî, Fi (P0 ) = 0, i = 1, m.Îáðàòíî, åñëè â òî÷êå P0 ∈ U âûïîëíåíû äàííûå óñëîâèÿ è ïðè ýòîì d2 Ψ â ýòîéòî÷êå - ïîëîæèòåëüíî (îòðèöàòåëüíî) îïðåäåëåííàÿ êâàäðàòè÷íàÿ ôîðìà, òî P0 åñòüòî÷êà ëîêàëüíîãî óñëîâíîãî ìèíèìóìà (ñîîòâåòñòâåííî, ìàêñèìóìà).Çàìå÷àíèå.
Íàïîìíèì, ÷òî êâàäðàòè÷íàÿ ôîðìà b : Rm → R íàçûâàåòñÿ îòðèöàòåëüíî îïðåäåëåííîé, åñëè ïðè âñåõ x ∈ Rm , x 6= 0 b(x) < 0. Ñèììåòðè÷íàÿìàòðèöà B ïîðÿäêà m íàçûâàåòñÿ îòðèöàòåëüíî îïðåäåëåííîé, åñëè ïðè âñåõx ∈ Rm , x 6= 0 xT Bx < 0. Áóäåì îáîçíà÷àòü ýòî òàê: B < 0. Î÷åâèäíî, êâàäðàòè÷íàÿôîðìà îòðèöàòåëüíî îïðåäåëåíà, åñëè è òîëüêî åñëè åå ìàòðèöà îòðèöàòåëüíî îïðåäåëåíà. (Ñì. óïðàæíåíèå 3.2.) Äëÿ äàííîãî ïîíÿòèÿ âûïîëíåíû íåêîòîðûå ïðîñòûåñâîéñòâà - ñì. óïðàæíåíèå 3.3.Çàìåòèì, ÷òî â èçëîæåííîì óòâåðæäåíèè âñå m + k ïåðåìåííûõ x1 , .
. . , xk ,y1 , . . . , ym ðàâíîïðàâíû, ò.å. ìîæíî íå òðåáîâàòü, ÷òîáû èìåííî ÿêîáèàí ôóíêöèéFi , i = 1, m ïî ïåðåìåííûì yi , i = 1, m íå îáðàùàëñÿ â íîëü. Ïåðåôîðìóëèðóåì ìåòîäËàãðàíæà ñëåäóþùèì îáðàçîì.Ïóñòü f : U ∈ R - äèôôåðåíöèðóåìàÿ ôóíêöèÿ íà îòêðûòîì ìíîæåñòâå U ⊂ Rl ,äàíû q < l óñëîâèé ñâÿçè Fi = 0, Fi , i = 1, q , îïðåäåëåíû è íåïðåðûâíî äèôôåðåííöèðóåìû íà U , ïðè÷åì ðàíã ìàòðèöû ßêîáè ∂F1∂F1...∂x1∂xl .. . ..
. .. .∂Fq∂x1...∂Fq∂xlìàêñèìàëåí, ò.å. ðàâåí q . Òîãäà íåîáõîäèìûå óñëîâèÿ óñëîâíîãî ëîêàëüíîãî ýêñòðåìóìà â òî÷êå P0 ∈ U òàêîâû: íàéäóòñÿ ÷èñëà λi ∈ R, i = 1, q, äëÿ êîòîðûõ∂Ψ= 0, i = 1, l∂xi28â òî÷êå P0 , ãäåΨ := f +qXλi Fi ,i=1à òàêæå Fi (P0 ) = 0, i = 1, q .Åñëè ê ýòèì óñëîâèÿì äîáàâèòü åùå ïîäîæèòåëüíóþ (îòðèöàòåëüíóþ) îïðåäåëåííîñòü êâàäðàòè÷íîé ôîðìû d2 Ψ â òî÷êå P0 , òî ïîëó÷èì äîñòàòî÷íûå óñëîâèÿ òîãî,÷òî â òî÷êå P0 ôóíêöèÿ f èìååò ëîêàëüíûé óñëîâíûé ìèíèìóì (ñîîòâåòñòâåííî,ìàêñèìóì).Ïðèìåíèìýòîò ìåòîä ê äàííîé çàäà÷å.
 íàøåì ñëó÷àå q = 1, l = p, f (u1 , . . . , up ) =PpTu Y = i=1 ui Yi , ãäå ui , Yi −i−å êîìïîíåíòû âåêòîðîâ u, Y ∈ Rp . Óñëîâèå ñâÿçè - ëèøüîäíî:pXTu Ru = 1 ⇔ui uj rij = 1 ⇔ F1 (u1 , . . . , up ) = 0,i,j=1ãäå F1 (u1 , . . . , up ) :=pPi,j=1ui uj rij − 1. Ôóíêöèÿ F1 îïðåäåëåíà è íåïðåðûâíî äèôôå-ðåíöèðóåìà íà îòêðûòîì ìíîæåñòâå U := Rp \ {0}, è ìàòðèöà ßêîáè â ëþáîé òî÷êåýòîãî ìíîæåñòâà (â äàííîì ñëó÷àå ýòî âåêòîð-ñòðîêà - ãðàäèåíò ôóíêöèè F1 ) îòëè÷íà îò íóëÿ, ò.å., ýêâèâàëåíòíî, èìååò ðàíã 1, èíûìè ñëîâàìè, ìàêñèìàëüíûé ðàíã.Äåéñòâèòåëüíî,pX∂F1∂ X=(ui uj rij + 2∂uk∂uk i,j=1i=1p2i6=k ui uk rik +pk rkki,j6=k(ìû èñïîëüçîâàëè òî, ÷òî ìàòðèöà¥Ñëåäñòâèå 3.3. Ñòàòèñòèêà (3.6) ðàâíàqn(X − a0 )T Q−1 (X − a0 ).Ñëåäñòâèå 3.4.
Ñòàòèñòèêà (3.5) ðàâíàqn(X − a0 )T S −1 (X − a0 ).Ïîñêîëüêó ìû îòâåðãàåì ãèïîòåçó (∗) ïðè áîëüøèõ çíà÷åíèÿõ ñòàòèñòèê (3.5) èëè(3.6), â êà÷åñòâå êðèòåðèàëüíûõ ñòàòèñòèê äëÿ (∗) ìîæíî âçÿòü ñòàòèñòèêèn(X − a0 )T Q−1 (X − a0 )(3.12)â ñëó÷àå,êîãäà ìàòðèöà Q èçâåñòíà, èëèT 2 := n(X − a0 )T S −1 (X − a0 )(3.13)â ñëó÷àå, êîãäà íåèçâåñòíóþ ìàòðèöó Q ïðèõîäèòñÿ çàìåùàòü åå âûáîðî÷íîé îöåíêîé S .Ñòàòèñòèêó T 2 íàçûâàþò ñòàòèñòèêîé Õîòåëëèíãà (Hotelling,Harolds;1931).Îíà√ x−µÿâëÿåòñÿ ìíîãîìåðíûì îáîáùåíèåì ñòàòèñòèêè Ñòüþäåíòà t = n s . Õîòåëëèíãíàøåë ðàñïðåäåëåíèå T 2 ïðè ãèïîòåçå (∗).3. Ìåòîä îòíîøåíèÿ ïðàâäîïîäîáèé.Íàïîìíèì, â ÷åì ñîñòîèò ýòîò îáùèé ìåòîä, ÷àñòî ïðèìåíÿåìûé äëÿ ïîñòðîåíèÿñòàòèñòè÷åñêèõ êðèòåðèåâ. Ïóñòü ξ - ñëó÷àéíàÿ âåëè÷èíà (íåâàæíî, â êàêîì ïðîñòðàíñòâå ξ ïðèíèìàåò çíà÷åíèÿ), èìåþùàÿ ïëîòíîñòü p(x, θ) îòíîñèòåëüíî íåêîòîðîé ìåðû; θ - ïàðàìåòð, θ ∈ Θ, Θ - çàäàííîå ìíîæåñòâî.29Ãèïîòåçà, ïîäëåæàùàÿ ïðîâåðêå ïî íàáëþäåíèþ H : θ ∈ K, ãäå K - çàäàííîåìíîæåñòâî, K ⊂ Θ.Ïî àíàëîãèè ñî ñòàòèñòèêîé Íåéìàíà-Ïèðñîíà (äëÿ ïðîâåðêè ïðîñòîé ãèïîòåçûïðîòèâ ïðîñòîé àëüòåðíàòèâû) ïðåäëàãàåòñÿ ñëåäóþùåå ñåìåéñòâî êðèòè÷åñêèõ ìíîæåñòâ:)(bp(x, θ)>z ,Qz := x :ep(x, θ)ãäå θb - îöåíêà íàèáîëüøåãî ïðàâäîïîäîáèÿ äëÿ θ, ïðè óñëîâèè θ ∈ Θ; θe - îöåíêàíàèáîëüøåãî ïðàâäîïîäîáèÿ äëÿ θ ïðè óñëîâèè θ ∈ K (òî åñòü ïðè ãèïîòåçå).Ñòàòèñòèêó ýòîãî êðèòåðèÿ ìîæíî çàïèñàòü êàê îòíîøåíèå äâóõ ïðàâäîïîäîáèé:max p(ξ, θ)bp(ξ, θ)θ∈Θ, èëè λ :=λ :=.emax p(ξ, θ)p(ξ, θ)(3.14)θ∈KÃèïîòåçó H : θ ∈ K ïðåäëàãàåòñÿ îòâåðãàòü, åñëè íàáëþäåííîå λ ÷ðåçìåðíî âåëèêî,òî åñòü åñëè λ ïðåâîñõîäèò êðèòè÷åñêîå çíà÷åíèå.
Ýòî êðèòè÷åñêîå çíà÷åíèå ñëåäóåòâû÷èñëÿòü, èìåÿ ðàñïðåäåëåíèå ñòàòèñòèêè λ ïðè ãèïîòåçå θ ∈ K.Íå èñêëþ÷àeòñÿ, âîîáùå ãîâîðÿ, ÷òî ðàñïðåäåëåíèå ñòàòèñòèêè λ (3.14) îêàæåòñÿçàâèñÿùèì îò èñòèííîãî çíà÷åíèÿ ïàðàìåòðà θ, äàæå åñëè θ ∈ K, òî åñòü äàæå åñëèïðîâåðÿåìàÿ ãèïîòåçà âåðíà. Ê ñ÷àñòüþ, â ýòîé è ïîñëåäóþùèõ ãàóññîâñêèõ çàäà÷àõðàñïðåäåëåíèå îòíîøåíèÿ ïðàâäîïîäîáèé λ îêàçûâàåòñÿ ñâîáîäíûì îò âëèÿíèÿ θ,åñëè θ ∈ K (îäíèì è òåì æå äëÿ âñåõ θ ∈ K). Êàê ãîâîðÿò, ïðè ãèïîòåçå ñòàòèñòèêà λîêàçûâàåòñÿ ñâîáîäíîé (distribution free). Èìåííî ýòî îáñòîÿòåëüñòâî, óæå îòìå÷åííîå ðàíåå äëÿ îäíîìåðíûõ ãàóññîâñêèõ ëèíåéíûõ ìîäåëåé, îïðàâäûâàåò ïðèìåíåíèåçäåñü ìåòîäà îòíîøåíèÿ ïðàâäîïîäîáèé. íàøåé çàäà÷å ïàðàìåòðîì θ ñëóæèò ïàðà (a, Q), ãèïîòåçà (∗) îòíîñèòñÿ ê âåêòîðóa. Ìíîæåñòâà K è Θ îïðåäåëÿþòñÿ â çàâèñèìîñòè îò òîãî, èçâåñòíà íàáëþäàòåëþìàòðèöà Q èëè íåò. ýòîì ñëó÷àå Θ - ýòî ìíîæåñòâî âîçìîæíûõ çíà÷åíèé ïàðàìåòðà a ∈ Rp , òî åñòüΘ = Rp ; ìíîæåñòâî K ñîñòîèò èç îäíîé òî÷êè a0 ∈ Rp .
Ïîýòîìó θe = (a0 , Q), θb =(X, Q).Íàïîìíèì, ÷òî ïðàâäîïîäîáèå äëÿ âûáîðêè X1 , . . . , Xn èç Np (a, Q) èìååò âèä:~ 1, . . . , X~ n ; ~a, Q) =p(XnYi=111 ~~ i − ~a)) =exp(− (Xa)T Q−1 (Xi −~p2(2π) det Qpn111X ~~ i − ~a)).√= √(Xi − ~a)T Q−1 (Xexp(−nnp2 i=1( 2π) ( det Q)Çàìåùàÿ â âûðàæåíèè äëÿ ïðàâäîïîäîáèé ïàðàìåòð óêàçàííûìè çíà÷åíèÿìè, íàõîäèì ñòàòèñòèêó:" n#)nX1 Xλ = exp −(Xi − X)T Q−1 (Xi − X) −(Xi − a0 )T Q−1 (Xi − a0 ).2 i=1i=1((3.15)Âîñïîëüçóåìñÿ ôîðìóëîé, êîòîðàÿ óæå âñòðå÷àëàñü íàì â ïðåäûäóùèõ ãëàâàõ:nnXXT −1(Xi − a) Q (Xi − a) =(Xi − X)T Q−1 (Xi − X) + n(X − a)T Q−1 (X − a).
(3.16)i=1i=1Òàêèì îáðàçîì, ñòàòèñòèêà (3.15) ïðåîáðàçóåòñÿ ê âèäó:30λ = expnno(X − a0 )T Q−1 (X − a0 ) .2Ñëåäîâàòåëüíî, êðèòè÷åñêîé ñòàòèñòèêîé äëÿ ïðîâåðêè (∗) ìîæåò ñëóæèòü ñëåäóþùàÿ ñòàòèñòèêà:n(X − a0 )T Q−1 (X − a0 ).(3.17)Îòâåðãàòü ãèïîòåçó (∗) ñëåäóåò ïðè áîëüøèõ çíà÷åíèÿõ ñòàòèñòèêè (3.17).Íåòðóäíî âèäåòü, ÷òî ìû ïîëó÷èëè òó æå ñòàòèñòèêó (3.12) è òî æå ïðàâèëî äëÿïðîâåðêè (∗), ÷òî ìû íàøëè, ïðèìåíèâ ìåòîä Ðîÿ.Çäåñü Θ - ýòî ìíîæåñòâî âñåõ ïàð (a, Q), ãäå a ∈ Rp , Q - ïðîèçâîëüíàÿ ïîëîæèòåëüíî îïðåäåëåííàÿ (p × p)-ìàòðèöà. Ìíîæåñòâî K ñîñòîèò èç ïàð (a0 , Q). Êàê âãëàâå 2,eθb = (X, Sn ), θe = (a0 , Q),ãäånnX1Xe= 1(Xi − a0 )(Xi − a0 )T , Sn =(Xi − X)(Xi − X)T .Qn i=1n i=1Ñëåäîâàòåëüíî, îòíîøåíèå ïðàâäîïîäîáèé â äàííîì ñëó÷àå ïðèìåò âèä:qn" n#)nXX1e−1 (Xi − a0 ) exp −λ = √(Xi − X)T Sn−1 (Xi − X) −(Xi − a0 )T Q.2 i=1det Sni=1edet Q((3.18)Âîñïîëüçóåìñÿ óæå çíàêîìûì íàì ïðèåìîì, êîòîðûé èñïîëüçîâàëñÿ â ãëàâå 2:nnXXT e −1−1e(Xi − a0 ) Q (Xi − a0 ) = trQ(Xi − a0 )(Xi − a0 )T = tr(nI) = np.i=1i=1Àíàëîãè÷íî,nnXXT −1−1(Xi − X) Sn (Xi − X) = trSn(Xi − X)(Xi − X)T = tr(nI) = np.i=1i=1Ïîýòîìó ñòàòèñòèêà λ (3.18) ðàâíà: detλ=·nPTT(Xi − X)(Xi − X) + n(X − a0 )(X − a0 )·n¸PTdet(Xi − X)(Xi − X)i=1¸ n2 .i=1Òàêèì îáðàçîì, ïîëó÷àåì ñëåäóþùåå ïðîìåæóòî÷íîå ïðàâèëî äëÿ ïðîâåðêè ãèïîòåçû (∗):îòâåðãàòü ãèïîòåçó H : a = a0 ïðè áîëüøèõ çíà÷åíèÿõ ñòàòèñòèêè·n¸P iiTTdet(X − X)(X − X) + n(X − a0 )(X − a0 )i=1·n¸(3.19)P iiTdet(X − X)(X − X)i=1Ñòàòèñòèêó (2.5) ìîæíî óïðîñòèòü è äîâåñòè äî âèäà T 2 (1.13), åñëè âîñïîëüçîâàòüñÿ ñëåäóþùåé ëåììîé îá îïðåäåëèòåëÿõ áëî÷íûõ ìàòðèö.31Óïðîñòèì ñòàòèñòèêó (3.19), âîñïîëüçîâàâøèñü ñëåäóþùåé ëåììîé.Ëåììà 3.2: Ïóñòü êâàäðàòíàÿ ìàòðèöà Σ ðàçáèòà íà áëîêè, ïðè÷åì Σ11 , Σ22 -êâàäðàòíûå íåâûðîæäåííûå ìàòðèöû:µ¶Σ11 Σ12Σ=Σ21 Σ22Òîãäà−1det(Σ) = det(Σ11 ) det(Σ22 − Σ21 Σ−111 Σ12 ) = det(Σ22 ) det(Σ11 − Σ12 Σ22 Σ21 )(3.20)Äîêàçàòåëüñòâî.
¤ Ïðè äîêàçàòåëüñòâå âîñïîëüçóåìñÿ ïðàâèëîì ïåðåìíîæåíèÿáëî÷íûõ ìàòðèö. Êðîìå òîãî, áóäåò èñïîëüçîâàíî ñëåäóþùåå òîæäåñòâî:µ¶A 0det= det A det C,B Cãäå A, B , C - ìàòðèöû ðàçìåðà n × n, m × n, m × m ñîîòâåòñòâåííî, à 0 - íóëåâàÿìàòðèöà ðàçìåðà n × m.
(Òàêàÿ ëåììà èçâåñòíà èç ëèíåéíîé àëãåáðû.)Òàêèì îáðàçîì, âîñïîëüçîâàâøèñü ñäåëàííûìè çàìå÷àíèÿìè, ïîëó÷èì:µ¶µ¶µ¶Σ11 Σ12Σ11 Σ12I −Σ−111 Σ12det= detdet=Σ21 Σ22Σ21 Σ220Iµ¶Σ11 · I + Σ12 · 0 −Σ11 Σ−1Σ+Σ·I121211= det= det(Σ11 ) det(Σ22 − Σ21 Σ−111 Σ12 ).Σ21 · I + Σ22 · 0 −Σ21 Σ−1Σ+Σ·I2211 12Âòîðàÿ ôîðìóëà äîêàçûâàåòñÿ àíàëîãè÷íî:µ¶µ¶µ¶I0Σ11 Σ12Σ11 Σ12det= detdet=Σ21 Σ22Σ21 Σ22−Σ−122 Σ21 Iµ¶−1Σ11 − Σ12 Σ22Σ21 Σ11 · 0 + Σ12 · I= det= det(Σ11 ) det(Σ11 − Σ12 Σ−1−122 Σ21 ).Σ21 − Σ22 Σ22Σ21 Σ21 · 0 + Σ22 · I¥Òåïåðü âåðíåìñÿ ê îòíîøåíèþ (3.19). Îïðåäåëèòåëü, êîòîðûé ñòîèò â ÷èñëèòåëåýòîé äðîáè, ïðåäñòàâèì â ñëåäóþùåì âèäå: nP√T(Xi − X)(Xi − X) − n(X − a0 ) det i=1 √(3.21)n(X − a0 )T1 òîì, ÷òî ýòî âåðíî, ìîæíî óáåäèòüñÿ, âîñïîëüçîâàâøèñü âòîðîé èç ôîðìóë (3.20)òîëüêî ÷òî äîêàçàííîé ëåììû. Òåïåðü äëÿ âû÷èñëåíèÿ (3.21) ïðèìåíèì ïåðâóþ èçnPôîðìóë (3.20).
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
