Turin Yu.N. - Multidimensional Gaussian Calculus (1120045), страница 3
Текст из файла (страница 3)
òàêàÿ, äëÿ êîòîðîé ïðîîáðàç ëþáîãî áîðåëåâñêîãîìíîæåñòâà èç R ëåæèò â A), äëÿ êîòîðîé ∀A ∈ AZZξdP = ηdP.AAÎáîçíà÷åíèå:R η = E(ξ|A). Òàêàÿ âåëè÷èíà η ñóùåñòâóåò ïî òåîðåìå Ðàäîíà - Íèêîäèìà, ò.ê. ξdP - ýòî ñ÷åòíî - àääèòèâíàÿ ôóíêöèÿ ìíîæåñòâà íà A. Åñëè æå µA- (äðóãàÿ) ñëó÷àéíàÿ âåëè÷èíà (èëè âåêòîð) íà (Ω, F, P), òî óñëîâíûì ìàòåìàòè÷åñêèì îæèäàíèåì E(ξ|µ) ñëó÷àéíîé âåëè÷èíû ξ îòíîñèòåëüíî µ íàçûâàåòñÿóñëîâíîå ìàòåìàòè÷åñêîå îæèäàíèå ξ îòíîñèòåëüíî σ - ïîäàëãåáðû Aµ â F, ïîðîæäåííîé µ (Aµ - ýòî ñîâîêóïíîñòü ïðîîáðàçîâ âñåõ áîðåëåâñêèõ ìíîæåñòâ â R, åñëèµ - ñëó÷àéíàÿ âåëè÷èíà, è â Rm , åñëè µ - m - ìåðíûé ñëó÷àéíûé âåêòîð.) Ìîæíîäîêàçàòü, ÷òî E(ξ|µ) = f (µ) äëÿ íåêîòîðîé áîðåëåâñêîé ôóíêöèè f .Îïðåäåëåíèå 1.28. Âåêòîðîì óñëîâíûõ ìàòåìàòè÷åñêèõ îæèäàíèé (èëè~ îòíîñèïðîñòî óñëîâíûì ìàòåìàòè÷åñêèì îæèäàíèåì) ñëó÷àéíîãî âåêòîðà X~ èìååò ìàòåìàòè÷åñêîå îæèäàíèå) íàçûâàåòñÿòåëüíî µ (ïðåäïîëàãàåòñÿ, ÷òî âåêòîð X(E(X1 |µ), . .
. , E(Xn |µ)).~ . Ò.ê. åãî êîìïîíåíòû A - èçìåðèìû, òî èÝòîò âåêòîð îáîçíà÷àåòñÿ òàê: E(X|µ)îí ñàì A - èçìåðèì. Èç òîãî, ÷òî äëÿ íåêîòîðûõ áîðåëåâñêèõ ôóíêöèé fi , i = 1, nE(Xi |µ) = fi (µ), ñëåäóåò, ÷òî äëÿ áîðåëåâñêîé âåêòîð - ôóíêöèè f~ = (f1 , . . . , fn )~âûïîëíåíî E(X|µ)= f~(µ).Âûïîëíåíû ñëåäóþùèå âàæíûå ñâîéñòâà:~ 1 + BX~ 2 |Y~ ) = AE(X~ 1 |Y~ ) + BE(X~ 2 |Y~ );1. E(AXTT ~ ~~ Y~ ),2. E(~a X|Y ) = ~a E(X|~~~~ãäå X, X1 , X2 , Y - ñëó÷àéíûå âåêòîðà, ïðè÷åì ïåðâûå òðè èç íèõ èìåþò ìàòåìàòè÷åñêèå îæèäàíèÿ, A, B - ïîñòîÿííûå (íåñëó÷àéíûå) ìàòðèöû, è èõ ðàçìåðû òàêîâû,÷òî îïåðàöèè ñëîæåíèÿ è óìíîæåíèÿ â ï.1 âûïîëíèìû, à ~a - ïîñòîÿííûé (íåñëó÷àé~.íûé) âåêòîð òîé æå ðàçìåðíîñòè, ÷òî è X83. Åñëè ξ - ñëó÷àéíàÿ âåëè÷èíà ñ êîíå÷íûì ìàòåìàòè÷åñêèì îæèäàíèåì, A - σ ïîäàëãåáðà â èñõîäíîé σ - àëãåáðå F, è ξ íå çàâèñèò îò ýòîé σ -ïîäàëãåáðû (ò.å. σ ïîäàëãåáðû Dξ , A íåçàâèñèìû, ãäå ìû îáîçíà÷àåì Dζ~ = {ζ~−1 (B) : B ∈ B(Rn )}, n ðàçìåðíîñòü ζ~, äëÿ ñëó÷àéíûõ âåêòîðîâ èëè, êàê ÷àñòíûé ñëó÷àé, ñëó÷àéíûõ âåëè÷èí ζ~; íåçàâèñèìîñòü σ -ïîäàëãåáð A1 , A2 îçíà÷àåò, ïî îïðåäåëåíèþ, íåçàâèñèìîñòüëþáûõ ñîáûòèé A1 ∈ A1 , A2 ∈ A2 ), òî âûïîëíåíî ñëåäóþùåå ðàâåíñòâî:E(ξ|D) = Eξ. ÷àñòíîñòè, åñëè ξ , ~η íåçàâèñèìû, ãäå ~η - ëþáîé ñëó÷àéíûé âåêòîð èëè, êàê÷àñòíûé ñëó÷àé, ñëó÷àéíàÿ âåëè÷èíà (ýòî îçíà÷àåò ïî îïðåäåëåíèþ, ÷òî ξ íå çàâèñèòîò Dη~ , ò.å.
Dξ , Dη~ íåçàâèñèìû), òîE(ξ|~η ) = Eξ.4. Åñëè ξ, ~η - ñëó÷àéíàÿ âåëè÷èíà è ñëó÷àéíûé n-ìåðíûé âåêòîð, g : Rn → R - áîðåëåâñêàÿ ôóíêöèÿ (ò.å. ïðîîáðàç ëþáîãî áîðåëåâñêîãî ìíîæåñòâà èç Rn - áîðåëåâñêîåìíîæåñòâî èç R), Eξ, E(ξg(~η )) ñóùåñòâóþò è êîíå÷íû, òîE(ξg(~η )|~η ) = g(~η )E(ξ|~η ).Ïîäðîáíîå èçëîæåíèå òåîðèè óñëîâíûõ ìàòåìàòè÷åñêèõ îæèäàíèé ìîæíî íàéòèâ êíèãå [2], ãë.2, $ 7. Ñì. òàêæå óïðàæíåíèå 1.18.Îïðåäåëåíèå 1.29.
Óñëîâíîå ðàñïðåäåëåíèå íîðìàëüíîãî n - ìåðíîãî âåêòîðà~ 1 îòíîñèòåëüíî íîðìàëüíîãî m - ìåðíîãî âåêòîðà X~ 2 - ýòî ôóíêöèÿ f : Bn × Rm →X[0, 1], çàäàâàåìàÿ òàê:~ 1 ∈ B|X~ 2 = ~t) = E(I ~~~f (B, ~t) := P(X{X1 ∈B} |X2 = t),ãäå ~t ∈ Rm , B ∈ Bn , Bn - áîðåëåâñêàÿ σ - àëãåáðà â Rn .~ 1 |X~ 2 ). Çàìåòèì, ÷òî, â îòëè÷èå îò óñëîâíîãî ìàòåìàòè÷åñêîãî(Îáîçíà÷åíèå: Law(Xîæèäàíèÿ, äëÿ óñëîâíîãî ðàñïðåäåëåíèÿ íåò îáùåïðèíÿòûõ îáîçíà÷åíèé.)Ýòî ðàñïðåäåëåíèå ìîæíî èçó÷èòü, ðàññìàòðèâàÿ óñëîâíóþ õàðàêòåðèñòè÷åñêóþ~ 1 |X~ 2 ) = E(exp(i(~u, X~ 1 )|X~ 2 ), ~u ∈ Rn , ãäå ñêîáêè (·, ·), êàêôóíêöèþ, ò.å. E(exp(i~uT Xîáû÷íî, îáîçíà÷àþò ñêàëÿðíîå ïðîèçâåäåíèå. Äàëåå â ýòîì ïóíêòå áóäåì ñ÷èòàòü,~ 2 íåâûðîæäåíà.÷òî ìàòðèöà cov XÓòâåðæäåíèå 1.30. Òàêàÿ õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ ðàâíà~exp(i~uT (~a1 + Σ12 Σ−1a2 )) − ~uT (Σ11 − Σ12 Σ−1u/2).22 (X2 − ~22 Σ21 )~~ 2 íåçàÄîêàçàòåëüñòâî.
Ïîäáåðåì âåêòîð Y~ ðàçìåðíîñòè m, äëÿ êîòîðîãî Y~ , X~ =X~1 +TX~ 2 äëÿ íåêîòîðîé ïîñòîÿííîé ìàòðèöû T (ðàçìåðà n × m). Íàéâèñèìû è Y~ k, X~ j ), k, j = 1, 2, ò.å. Σjj = Var X~j , j =äåì ýòó ìàòðèöó T . Îáîçíà÷èì Σkj := cov(X~ ïî ïðåäû1, 2, Σ12 = ΣT21 ïî óòâåðæäåíèþ èç óïðàæíåíèÿ 1.14. Íåçàâèñèìîñòü Y~ , X~ Y~ ) = 0 ⇔äóùåìó ïóíêòó ðàâíîñèëüíà íåêîððåëèðîâàííîñòè, ò.å. ðàâåíñòâó cov(X,~1 + T X~ 2, X~ 2 ) = 0 ⇔ cov(X~ 1, X~ 2 ) + T cov(X~ 2, X~ 2 ) = 0 ⇔ T = −Σ12 Σ−1cov(X22 . (Íàïîì~íèì, ÷òî, ïî ïðåäïîëîæåíèþ, cov X2 = Σ22 íåâûðîæäåíà.)−1 ~~~ ~~ =X~ 1 − Σ12 Σ−1Èòàê, Y22 X2 , X1 = Σ12 Σ22 X2 + Y .Çíà÷èò,~ 1 )|X~ 2 ) = E(exp(i~uT Σ12 Σ−1~~ 2) =E(exp(i~uT XuT Y~ )|X22 X2 + i~~~ 2 ) = exp(i~uT Σ12 Σ−1~= exp(i~uT Σ12 Σ−1uT Y~ |XuT Y~ ),22 X2 )E(exp(i~22 X2 )E exp(i~~ ,X~ 2 íåçàâèñèìû.ò.ê. Y( äâóõ ïîñëåäíèõ ðàâåíñòâàõ ìû èñïîëüçîâàëè âûøåóêàçàííûå ñâîéñòâà 3, 4óñëîâíûõ ìàòåìàòè÷åñêèõ îæèäàíèé.)9~ =X~ 1 −Σ12 Σ−1~Çàìåòèì äàëåå, ÷òî íîðìàëüíûé âåêòîð Y22 X2 èìååò âåêòîð ñðåäíèõ,−1~ðàâíûé ~a1 − Σ12 Σ22 ~a2 (ãäå ïîëîæèì ~aj := Xj , i = 1, 2), è ìàòðèöó êîâàðèàöèé−1 ~~ 1, X~ 1 ) − cov(X~ 1 , Σ12 Σ−1~~Var Y~ = cov(Y~ , Y~ ) = cov(X22 X2 ) − cov(Σ12 Σ22 X1 , X2 )+−1 ~−1 T~~ ~+ cov(Σ12 Σ22X2 , Σ12 Σ−122 X2 ) = Σ11 − cov(X1 , X2 )(Σ12 Σ22 ) −−1−1 T~ ~~ ~−Σ12 Σ−122 cov(X1 , X2 ) + Σ12 Σ22 cov(X2 , X2 )(Σ12 Σ22 ) =T−1−1−1 T= Σ11 − Σ12 (Σ12 Σ−122 ) − Σ12 Σ22 Σ21 + Σ12 Σ22 Σ22 (Σ12 Σ22 ) =−1−1= Σ11 − 2Σ12 Σ−122 Σ21 + Σ12 Σ22 Σ21 = Σ11 − Σ12 Σ22 Σ21 .Îòñþäà ñëåäóåò, ÷òî èñêîìàÿ óñëîâíàÿ õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ ðàâíà exp(i~uT (~a1 +~a2 )) − ~uT (Σ11 − Σ12 Σ−1u/2).¥Σ12 Σ−122 Σ21 )~22 (X2 − ~~ 2 ýòî - õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ m - ìåðíîÏðè ôèêñèðîâàííîì çíà÷åíèè Xãî íîðìàëüíîãî çàêîíà ðàñïðåäåëåíèÿ ñ âåêòîðîì ìàòåìàòè÷åñêèõ îæèäàíèé ~a1 +~Σ12 Σ−1a2 ) è ìàòðèöåé êîâàðèàöèé Σ11 − Σ12 Σ−122 (X2 − ~22 Σ21 .
Âåêòîð óñëîâíûõ ìàòåìà−1 ~òè÷åñêèõ îæèäàíèé ~a1 + Σ12 Σ22 (X2 − ~a2 )( ñîîòâåòñòâóþùèé äàííîìó óñëîâíîìó ðàñ~ 1 |X~ 2 ) è óñëîâíîé õàðàêòåðèñòè÷åñêîé ôóíêöèè E(exp(iu~T X~ 1 |X~ 2 )),ïðåäåëåíèþ Law(X~ 2 , à óñëîâíàÿ ìàòðèöà êîâàðèàöèé Σ11 − Σ12 Σ−1åñòü ëèíåéíàÿ ôóíêöèÿ îò X22 Σ21 íå~çàâèñèò îò X2 .~ 1 − ~a1 − Σ12 Σ−1~Óòâåðæäåíèå 1.31. Åñëè ïîëîæèòü ξ~ := Xa2 ), ò.å. ξ~ +22 (X2 − ~~ 1 |X~ 2) = X~ 1 , òî âåêòîðû X~ 2 , ξ~ íåçàâèñèìû.E(X³ ´Äîêàçàòåëüñòâî. Âåêòîð X~ξ~2 èìååò íîðìàëüíîå ðàñïðåäåëåíèå.
Äåéñòâèòåëüíî, ëþáàÿêîìáèíàöèÿ åãî êîìïîíåíò åñòü ëèíåéíàÿ êîìáèíàöèÿ êîìïîíåíò³ ëèíåéíàÿ´~X1âåêòîðà X~ , à îí èìååò íîðìàëüíîå ðàñïðåäåëåíèå. (Ìû äâàæäû èñïîëüçóåì óòâåð2æäåíèå óïðàæíåíèå 1.3 - ñì. âûøå) Íî~X~ 2 ) = cov(X~ 1 − ~a1 − Σ12 Σ−1 (X~ 2 − ~a2 ), X~ 2) =cov(ξ,22~ 1 − ~a1 , X~ 2 ) − cov(Σ12 Σ−1~~ 2) == cov(Xa2 ), X22 (X2 − ~~ 1, X~ 2 ) − Σ12 Σ−1~~ 2 ) = Σ12 − Σ12 Σ−1= cov(Xa2 , X22 cov(X2 − ~22 Σ22 = 0(â õîäå âûêëàäîê ìû íåñêîëüêî ðàç âîñïîëüçîâàëèñü óêàçàííûìè â ýòîì ïóíêòå ñâîéñòâàìè óñëîâíîãî ìàòåìàòè÷åñêîãî îæèäàíèÿ - ñì.
âûøå.) Çíà÷èò, ïî ï.4 âåêòîðû~ 2 , ξ~ íåçàâèñèìû.¥X6. Ðåãðåññèÿ è ëèíåéíàÿ ðåãðåññèÿ. Íàèëó÷øàÿ îöåíêàÎïðåäåëåíèå 1.32 Ðåãðåññèÿ ñëó÷àéíîé âåëè÷èíû (èëè ñëó÷àéíîãî âåêòîðà)X1 îòíîñèòåëüíî ñëó÷àéíîé âåëè÷èíû (èëè ñëó÷àéíîãî âåêòîðà) X2 - ýòîE(X1 |X2 ) = f (X2 ), ãäå f - íåêîòîðàÿ (áîðåëåâñêàÿ) ôóíêöèÿ. Òîãäà X1 = f (X2 ) + ε,ãäå ε - ñëó÷àéíàÿ âåëè÷èíà (èëè ñëó÷àéíûé âåêòîð) ñ E(ε|X2 ) = 0, íàçûâàåìàÿ ñëó÷àéíîé îøèáêîé. Åñëè f ëèíåéíà, òî ðåãðåññèÿ íàçûâàåòñÿ ëèíåéíîé.  ðàçîáðàí~ 1 −~a1 −Σ12 Σ−1~íîì âûøå ñëó÷àå ìû èìååì èìåííî ëèíåéíóþ ðåãðåññèþ, à ξ~ := X22 (X2 −~ 1 − E(X~ 1 |X~ 2 ) - ýòî ñëó÷àéíàÿ îøèáêà.~a2 ) = XÎïðåäåëåíèå 1.33 Íåñìåùåííàÿ îöåíêà ñëó÷àéíîãî n-ìåðíîãî âåêòîðà (èëè,~ 1 ïî ñëó÷àéíîìó m-ìåðíîìóêàê ÷àñòíûé ñëó÷àé, ñëó÷àéíîé âåëè÷èíû, ïðè n = 1) Xâåêòîðó (èëè, êàê ÷àñòíûé ñëó÷àé, ñëó÷àéíîé âåëè÷èíå, ïðè m = 1) X2 íàçûâàþòáîðåëåâñêóþ âåêòîð - ôóíêöèþ ~g : Rm → Rn , ò.å.
òàêóþ ôóíêöèþ, äëÿ êîòîðîé ∀B ∈~ 1, X~2 Bn~g −1 (B) ∈ Bm , ãäå Bk - áîðåëåâñêàÿ σ - àëãåáðà â Rk (èëè, â ñëó÷àå, êîãäà X~ 2 ) = EX~ 1.ñëó÷àéíûå âåëè÷èíû, áîðåëåâñêóþ ôóíêöèþ g : R → R), äëÿ êîòîðîé E~g (X10Îïðåäåëåíèå 1.34 Íàèëó÷øåé íåñìåùåííîé îöåíêîé äëÿ ñëó÷àéíîãî âåê~ 1 ïî ñëó÷àéíîìó âåêòîðóòîðà (èëè, êàê ÷àñòíûé ñëó÷àé, ñëó÷àéíîé âåëè÷èíû) X~ 2 íàçûâàåòñÿ íåñìåùåííàÿ îöåíêà(èëè, êàê ÷àñòíûé ñëó÷àé, ñëó÷àéíîé âåëè÷èíå) X~g , äëÿ êîòîðîé âûïîëíåíî íåðàâåíñòâîE(X1 − g(X2 ))2 ≤ E(X1 − h(X2 ))2 ,(1.5)åñëè X1 - ñëó÷àéíàÿ âåëè÷èíà, èE(X1 − g(X2 ))(X1 − g(X2 ))T ≤ E(X1 − h(X2 ))(X1 − h(X2 ))T ,(1.6)~1åñëè X1 - ñëó÷àéíûé âåêòîð, äëÿ ëþáîé äðóãîé íåñìåùåííîé îöåíêè ~h âåêòîðà X~ 2.ïî âåêòîðó XÇàìå÷àíèå 1.35.
Ïðè ýòîì íåîáõîäèìî ïîÿñíèòü, êàê ñðàâíèâàòü ìàòðèöû E(X1 −g(X2 ))(X1 −g(X2 ))T è E(X1 −h(X2 ))(X1 −h(X2 ))T , åñëè X1 - ñëó÷àéíûé âåêòîð. Òàêèåìàòðèöû ñèììåòðè÷íû, à äëÿ ñèììåòðè÷íûõ ìàòðèö A, B îäíîãî è òîãî æå ïîðÿäêàìîæíî îïðåäåëèòü îòíîøåíèå ïîðÿäêà òàê: A ≥ B , åñëè è òîëüêî åñëè A − B ≥ 0.Óòâåðæäåíèå 1.36. Íà ìíîæåñòâå ñèììåòðè÷íûõ êâàäðàòíûõ ìàòðèö äàííîãîïîðÿäêà ýòî îòíîøåíèå çàäàåò ÷àñòè÷íûé ïîðÿäîê.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
