Turin Yu.N. - Multidimensional Gaussian Calculus (Ю.Н. Тюрин - Лекции)

Ãëàâà 1. Íîðìàëüíûå (ãàóññîâñêèå) âåêòîðà - ïðîñòåéøèå ñâîéñòâà1. Îïðåäåëåíèå è ïðîñòåéøèå õàðàêòåðèñòèêè íîðìàëüíûõâåêòîðîâ.Îïðåäåëåíèå 1.1.Ïóñòü ~η = (η1 , . . . , ηp )T - ñëó÷àéíûé âåêòîð, ãäå ηi v N (0, 1), i =1, p íåçàâèñèìû è îäèíàêîâî ðàñïðåäåëåíû. Áóäåì ãîâîðèòü, ÷òî ýòîò âåêòîð - pìåðíûé ñòàíäàðòíûé íîðìàëüíûé (èëè ãàóññîâñêèé) âåêòîð, ò.å. îí èìååòñòàíäàðòíîå p-ìåðíîå íîðìàëüíîå (èëè ãàóññîâñêîå) ðàñïðåäåëåíèå. Ñëó÷àéíûé âåêòîðξ~ = ~a + B~η(1.1)ãäå B - ïîñòîÿííàÿ (íåñëó÷àéíàÿ) ìàòðèöà ðàçìåðà n × p è ~a ∈ Rn - ïîñòîÿííûé(íåñëó÷àéíûé) âåêòîð, íàçûâàåòñÿ n - ìåðíûì íîðìàëüíûì (èëè ãàóññîâñêèì)ñëó÷àéíûì âåêòîðîì , à åãî ðàñïðåäåëåíèå - n-ìåðíûì íîðìàëüíûì (èëè ãàóññîâñêèì) ðàñïðåäåëåíèåì. Çàìåòèì, ÷òî ïðåäñòàâëåíèå ýòîãî âåêòîðà â ôîðìåξ~ = ~a + B~η íå åäèíñòâåííî (ñì.

óïðàæíåíèå 1.1 â êîíöå ãëàâû).Çàìå÷àíèå 1.2.  ñëó÷àå n = 1 ìû èìååì îáû÷íóþ (îäíîìåðíóþ) íîðìàëüíóþñëó÷àéíóþ âåëè÷èíó, ò. ê. åñëè a ∈ R1 , B = (b1 , . . . , bp ) - ìàòðèöà 1 × p, ò. å. ppPbi ηi - ëèíåéíàÿ êîìáèíàöèÿ íîðìàëüíûõ- ìåðíûé âåêòîð, òî ξ = a + B~η = a +i=1ñëó÷àéíûõ âåëè÷èí è ïîñòîÿííîéâåëè÷èíû, ò.å.

ñàìà ÿâëÿåòñÿ ñëó÷àéíîé âåëè÷èíîé.P(Åå ðàñïðåäåëåíèå - N (a, pi=1 b2i ).)Çàìå÷àíèå 1.3. Ëèíåéíîå (èëè, åñëè ãîâîðèòü òî÷íåå, àôôèííîå) ïðåîáðàçîâàíèåξ~, ò.å. ~a1 + B1 ξ~ (ãäå ~a1 ∈ Rq - ïîñòîÿííûé âåêòîð, B1 - ïîñòîÿííàÿ ìàòðèöà ðàçìåðàq × n) òàêæå ÿâëÿåòñÿ íîðìàëüíûì âåêòîðîì, ò.ê.

~a1 + B1 ξ~ = ~a1 + B1~a + B1 B~η ,ò.å. ~a1 + B1 ξ~ = B̃~η + ã äëÿ q × p ìåðíîé ìàòðèöû B̃ := B1 B è q -ìåðíîãî âåêòîðàã := ~a1 + B1~a; òàêèì îáðàçîì, äëÿ ñëó÷àéíîãî âåêòîðà ~a1 + B1 ξ~ èìååòñÿ âûðàæåíèå÷åðåç ~η òèïà (1.1), è ýòîò âåêòîð - íîðìàëüíûé q -ìåðíûé.Òåïåðü íàéäåì âåêòîð ìàòåìàòè÷åñêèõ îæèäàíèé è êîâàðèàöèîííóþ (äèñïåðñèîííóþ) ìàòðèöó R = Dξ~ = Var ξ~ äëÿ ξ~ = ~a + B~η .Íàïîìíèì íåêîòîðûå îïðåäåëåíèÿ èç òåîðèè âåðîÿòíîñòåé.Îïðåäåëåíèå 1.4.

Âåêòîð ìàòåìàòè÷åñêèõ îæèäàíèé (ñðåäíèõ çíà÷åíèé)äëÿ ñëó÷àéíîãî n-ìåðíîãî âåêòîðà ζ~ = (ζ1 , . . . , ζn )T (íå îáÿçàòåëüíî íîðìàëüíîãî)îïðåäåëåí, åñëè è òîëüêî åñëè Eζi ïðè âñåõ i = 1, n ñóùåñòâóþò è êîíå÷íû, è ðàâåí,ïî îïðåäåëåíèþ,(Eζ1 , . . . , Eζn )T .Îáîçíà÷åíèå: Eζ~. Äëÿ êðàòêîñòè ýòîò âåêòîð èìåíóåòñÿ ïðîñòî ìàòåìàòè÷åñêèì îæèäàíèåì èëè ñðåäíèì çíà÷åíèåì èñõîäíîãî âåêòîðà ζ~. Îãîâîðêà ïðî ñóùåñòâîâàíèå èêîíå÷íîñòü Eζi ïðè âñåõ i = 1, n íåîáõîäèìà, ò.ê. ýòî íå âñåãäà âûïîëíåíî: íàïðèìåð, åñëè ïåðâàÿ êîìïîíåíòà ~µ1 ñëó÷àéíîãî âåêòîðà ~µ èìååò ðàñïðåäåëåíèå Êîøè, òîEµ1 , à, çíà÷èò, è E~µ íå ñóùåñòâóåò. Äëÿ òàêèõ âåêòîðîâ âûïîëíåíû ïðîñòûå ñâîéñòâà(óêàçàííûå â óïðàæíåíèè 1.2).Îïðåäåëåíèå 1.5.

Ìàòðèöåé êîâàðèàöèé (èëè êîâàðèàöèîííîé ìàòðèöåé, äèñïåðñèîííîé ìàòðèöåé) äàííîãî n-ìåðíîãî ñëó÷àéíîãî âåêòîðà ζ~ íàçûâà-åòñÿ, ïî îïðåäåëåíèþ, êâàäðàòíàÿ ìàòðèöà ïîðÿäêà n (îáîçíà÷àåìàÿ êàê Dζ~, Var ζ~,Rζ~ ), ij -é ýëåìåíò êîòîðîé ðàâåí cov(ζi , ζj ). È ýòà ìàòðèöà îïðåäåëåíà, åñëè è òîëüêîåñëè Eζi2 êîíå÷íû ïðè âñåõ i = 1, n - ýòî óñëîâèå ðàâíîñèëüíî òîìó, ÷òî cov(ζi , ζj ) =E(ζi − Eζi )(ζj − Eζj ) êîíå÷íû ïðè âñåõ i, j = 1, n. Ýòà îãîâîðêà âàæíà - ïî òåìæå ïðè÷èíàì, ïî êîòîðûì íåîáõîäèìà àíàëîãè÷íàÿ îãîâîðêà â îïðåäåëåíèè âåêòîðà1ìàòåìàòè÷åñêèõ îæèäàíèé: Eζi2 ìîæåò è íå áûòü êîíå÷íî (åñëè, íàïðèìåð, ζi èìååò ðàñïðåäåëåíèå Êîøè).

Ìàòðèöà êîâàðèàöèé ñëó÷àéíîãî âåêòîðà òàêæå îáëàäàåòíåêîòîðûìè âàæíûìè ñâîéñòâàìè - ñì. óïðàæíåíèå 1.3. äàëüíåéøåì íàì ïîíàäîáèòñÿ ïîíÿòèå ìàòåìàòè÷åñêîãî îæèäàíèÿ ìàòðèöû.Îïðåäåëåíèå 1.6. Ïóñòü X - ñëó÷àéíàÿ ìàòðèöà, ò.å. ìàòðèöà, ýëåìåíòû êîòîðîé - ýòî ñëó÷àéíûå âåëè÷èíû; ìîæíî òàêæå ðàññìàòðèâàòü òàêóþ ìàòðèöó (ðàçìåðàk × l) êàê ñëó÷àéíûé âåêòîð ðàçìåðíîñòè kl, çàïèñàííûé â âèäå ìàòðèöû. Ìàòðèöàìàòåìàòè÷åñêèõ îæèäàíèé (ñðåäíèõ çíà÷åíèé), èëè ïðîñòî ìàòåìàòè÷åñêîåîæèäàíèå (ñðåäíåå çíà÷åíèå) äàííîé ìàòðèöû X îïðåäåëåíà òîãäà è òîëüêî òîãäà, êîãäà ó âñåõ ñëó÷àéíûõ âåëè÷èí - ýëåìåíòîâ X - ñóùåñòâóåò è êîíå÷íî ìàòåìàòè÷åñêîå îæèäàíèå, è îïðåäåëÿåòñÿ êàê ÷èñëîâàÿ ìàòðèöà òîãî æå ðàçìåðà, ij -éýëåìåíò êîòîðîé ìàòåìàòè÷åñêîìó îæèäàíèþ ij -ãî ýëåìåíòà ìàòðèöû X .Äëÿ ýòîé îïåðàöèè òàêæå âûïîëíåíû íåêîòîðûå ïðîñòåéøèå ñâîéñòâà - îíè ïåðå÷èñëåíû â óïðàæíåíèè 1.2.Èç ñâîéñòâ îïåðàöèè âçÿòèÿ ìàòåìàòè÷åñêîãî îæèäàíèÿ äëÿ âåêòîðîâ (ñì.

óïðàæíåíèå 1.2) Eξ~ = E~a + BE~η = ~a. Ìû èñïîëüçîâàëè òî, ÷òî ηi v N (0, 1), îòêóäà Eηi = 0äëÿ i = 1, p è E~η = (Eη1 , . . . , Eηp )T = (0, . . . , 0)T . Ò. å. ~a - âåêòîð ìàòåìàòè÷åñêèõîæèäàíèé äëÿ ξ~.~ = ~η , A = B, ~b = ~a, èìååì: Var ξ~ = B Var ~η B T =Ïîëàãàÿ (â óïðàæíåíèè 1.3.3) XBB T (âåäü ηi v N (0, 1), i = 1, p íåçàâèñèìû è cov(ηi , ηj ) = 0 äëÿ i, j = 1, n, i 6= j , àcov(µi , µi ) = Var ηi = 1 äëÿ i = 1, n, è, ñëåäîâàòåëüíî, Var ~η = Ip , ãäå Ip - åäèíè÷íàÿìàòðèöà ïîðÿäêà p; ýòî îáîçíà÷åíèå Ip áóäåò èñïîëüçîâàòüñÿ è äàëüøå).Èòàê, âåðíîÓòâåðæäåíèå 1.7.

Âåêòîð ñðåäíèõ çíà÷åíèé äëÿ ξ~ èç ôîðìóëû (1.1) ðàâåí ~a, àìàòðèöà êîâàðèàöèé - BB T .2. Îáùèå ñâîéñòâà ìíîãîìåðíûõ õàðàêòåðèñòè÷åñêèõ ôóíêöèé.Õàðàêòåðèñòè÷åñêèå ôóíêöèè íîðìàëüíûõ âåêòîðîâ.Îïðåäåëåíèå 1.8. Åñëè ξ~ = (ξ1 , . . . , ξn )T - n-ìåðíûé ñëó÷àéíûé âåêòîð, òî åãîìíîãîìåðíîé (èëè n-ìåðíîé) õàðàêòåðèñòè÷åñêîé ôóíêöèåé íàçûâàåòñÿ, ïîîïðåäåëåíèþ, ôóíêöèÿ ϕ : Rn → C, çàäàâàåìàÿ òàê: äëÿ t ∈ RnZTT~~ϕξ~(t) = E exp(it ξ) = E exp(i(t, ξ)) = eit x P (dx),Rnãäå ñêîáêè (·, ·) îáîçíà÷àþò ñêàëÿðíîå ïðîèçâåäåíèå, à P - ðàñïðåäåëåíèå âåêòîðà ξ~â Rn .(Ýòî - åñòåñòâåííîå îáîáîùåíèå ïîíÿòèÿ õàðàêòåðèñòè÷åñêîé ôóíêöèè ñëó÷àéíîéâåëè÷èíû: ôóíêöèÿ ϕξ : R → R, çàäàâàåìàÿ òàê: ϕξ (t) == E exp(itξ), êàê ìû çíàåì, íàçûâàåòñÿ õàðàêòåðèñòè÷åñêîé ôóíêöèåé ñëó÷àéíîéâåëè÷èíû ξ .

 äàëüíåéøåì ìû áóäåì èìåííî òàê - ñèìâîëàìè ϕξ , ϕξ~ - îáîçíà÷àòüõàðàêòåðèñòè÷åñêèå ôóíêöèè.)Åå ñâîéñòâà:1. ϕξ~(0) = 1, |ϕξ~(t)| ≤ 1 ïðè âñåõ t ∈ Rn .2. ϕξ~ ðàâíîìåðíî íåïðåðûâíà íà Rn .~ = a + BX~ , ãäå X~ - ñëó÷àéíûé n-ìåðíûé âåêòîð, a - ïîñòîÿííûé (íåñëó3. Åñëè Y÷àéíûé) âåêòîð ðàçìåðíîñòè m, B - íåñëó÷àéíàÿ (ïîñòîÿííàÿ) ìàòðèöà ðàçìåðàm × n, òîϕY~ (t) = ei(t,a) ϕX~ (B T t),ãäå ñêîáêè (·, ·) îáîçíà÷àþò ñêàëÿðíîå ïðîèçâåäåíèå.2~ , Y~ - ñëó÷àéíûå âåêòîðà ðàçìåðíîñòè n, òî ϕ ~ ≡ ϕ ~ íà Rn òîãäà è òîëüêî4. Åñëè XXY~ è Y~ ñîâïàäàþò.

(Ïîýòîìó òàêæåòîãäà, êîãäà ðàñïðåäåëåíèÿ âåêòîðîâ XZTϕ(t) = eit x P (dx)Rníàçûâàåòñÿ ôóíêöèåé ðàñïðåäåëåíèÿ äëÿ ðàñïðåäåëåíèÿ P â Rn . Ò.å. ôóíêöèÿðàñïðåäåëåíèÿ ñëó÷àéíîãî âåêòîðà åñòü ôóíêöèÿ ðàñïðåäåëåíèÿ äëÿ åãî ðàñïðåäåëåíèÿ.)~ j , j = 1, m - n-ìåðíûå ñëó÷àéíûå âåêòîðà, òî îíè íåçàâèñèìû, åñëè è5. Åñëè Xòîëüêî åñëè äëÿ âñåõ t ∈ RnmYϕX~ (t) =ϕX~ j (t),j=1~ =ãäå XPm~ j.X~ j - kj -ìåðíûé ñëó÷àéíûé âåêòîð, j = 1, m, à ó ñëó÷àéíîãî k = Pm kj 6. Åñëè Xj=1~ ïåðâûå k1 êîìïîíåíò ñîñòàâëÿþò âåêòîð X~ 1 , ñëåäóþùèå k2 êîììåðíîãî âåêòîðà X~ 2 , . . ., ïîñëåäíèå km êîìïîíåíò - âåêòîð X~ m , òî X~ j , j = 1, m íåçàïîíåíò - âåêòîð Xkâèñèìû òîãäà è òîëüêî òîãäà, êîãäà ïðè âñåõ t ∈ RYϕX~ (t) =ϕX~ j (tj ),j=1ãäå tj ∈ Rkj , j = 1, m, à âåêòîð t ñîñòàâëåí èç âåêòîðîâ tj , j = 1, m: ïåðâûå k1 êîìïîíåíò âåêòîðà t ñîñòàâëÿþò âåêòîð t1 , ñëåäóþùèå k2 êîìïîíåíò - âåêòîð t2 è ò.ä. ÷àñòíîñòè, êîìïîíåíòû ñëó÷àéíîãî âåêòîðà ξ~ = (ξ1 , .

. . , ξn ) íåçàâèñèìû, åñëè èòîëüêî åñëènYϕξ~(t) =ϕξj (tj )j=1ïðè âñåõ t = (t1 , . . . , tn ) ∈ R .n7. Òåîðåìà íåïðåðûâíîñòè. Ïóñòü {Fm }∞m=1 - ïîñëåäîâàòåëüíîñòüôóíêöèé ðàñïðåäåëåíèÿ â Rn , ϕm - n-ìåðíàÿ õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ, ñîîòâåòñòâóþùàÿ ðàñïðåäåëåíèþ â Rn ñ ôóíêöèåé ðàñïðåäåëåíèÿ Fm . Òîãäà:- Åñëè ïîñëåäîâàòåëüíîñòü {Fm }∞m=1 ñëàáî ñõîäèòñÿ ê íåêîòîðîé n-ìåðíîé ôóíêöèè ðàñïðåäåëåíèÿ F (ýòî îçíà÷àåò, ÷òî Fn (x) → F (x), n → ∞ â êàæäîé òî÷êå x ∈ Rn ,â êîòîðîé F íåïðåðûâíà), òî ∀ t ∈ Rnϕn (t) → ϕ(t),ïðè n → ∞, ò.å. õàðàêòåðèñòè÷åñêèå ôóíêöèè ïîòî÷å÷íî ñõîäÿòñÿ ê õàðàêòåðèñòè÷åñêîé ôóíêöèè ïðåäåëüíîãî ðàñïðåäåëåíèÿ. Áîëåå òîãî, íà êîìïàêòàõ â Rn ýòà ñõîäèìîñòü - ðàâíîìåðíàÿ.- Åñëè ïðè âñåõ t ∈ Rn ïðåäåë limm→∞ ϕm (t) ñóùåñòâóåò, è ôóíêöèÿlim ϕm (t) = ϕ(t)m→∞íåïðåðûâíà â òî÷êå t = 0, òî îíà ÿâëÿåòñÿ õàðàêòåðèñòè÷åñêîé ôóíêöèåé íåêîòîðîãîðàñïðåäåëåíèÿ âåðîÿòíîñòåé â Rn ñ ôóíêöèåé ðàñïðåäåëåíèÿ F , è ïîñëåäîâàòåëüníîñòü {Fm }∞m=1 ñëàáî ñõîäèòñÿ ê ôóíêöèè F íà R .(Âñå âûøåïåðå÷èñëåííûå ñâîéñòâà âåðíû äëÿ ïðîèçâîëüíûõ ñëó÷àéíûõ âåêòîðîâ,à íå òîëüêî äëÿ íîðìàëüíûõ.)Äîêàçàòåëüñòâà äàííûõ ñâîéñòâ ìîæíî íàéòè â êíèãå [2] (ãëàâà 2, $ 12; ãëàâà 3, $1).

Ñì. òàêæå óïðàæíåíèå 1.7.3Óòâåðæäåíèå 1.9. Õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ äëÿ íîðìàëüíîãî âåêòîðà - äëÿñëó÷àéíîãî âåêòîðà ξ~ âèäà (1.1) - ðàâíà1ϕξ~(t) = ei(t,~a)− 2 (BBT t,t)1= ei(t,~a)− 2 (Rt,t) ,ãäå R = BB T - ìàòðèöà êîâàðèàöèé íîðìàëüíîãî âåêòîðà ξ~ - ñì. ï.1 äàííîé ãëàâû.Äîêàçàòåëüñòâî. Ïî ñâîéñòâó 3 õàðàêòåðèñòè÷åñêèõ ôóíêöèé, îòìå÷åííîìó âûøå,ϕξ~(t) = ei(t,~a) ϕη (B T t).Íî åñëè îáîçíà÷èòü v := B T t = (v1 , .

. . , vp ) ∈ Rp , òîTϕη (B t) = ϕη (v) =pYϕηk (vk ),k=1ò.ê. êîìïîíåíòû ηk , k = 1, p ñëó÷àéíîãî âåêòîðà η íåçàâèñèìû (ìû âîñïîëüçîâàëèñüñâîéñòâîì 6 õàðàêòåðèñòè÷åñêèõ ôóíêöèé). Èçâåñòíî, ÷òî ϕηk (vk ) = exp(−vk2 /2) âåäü ηk v N (0, 1) äëÿ âñåõ k = 1, p. Çíà÷èò,pYϕηk (vk ) =k=1pY12e−vk /2 = e− 2Ppk=1vk21= e− 2 (v,v) =k=11= e− 2 (BT t,B T t)1= e− 2 (BBT t,t)1= e− 2 (Rt,t)(âñïîìíèì, ÷òî R = BB T - ìàòðèöà êîâàðèàöèé âåêòîðà ξ~). Îòñþäà1ϕξ~(t) = exp(i(~a, t) − (Rt, t)).2(1.2)Äîêàçàòåëüñòâî çàâåðøåíî. ¥Çàìå÷àíèå 1.10. Îòìåòèì êàê ÷àñòíûé ñëó÷àé ïîëó÷åííîé ôîðìóëû, ÷òî äëÿp-ìåðíîãî ñòàíäàðòíîãî íîðìàëüíîãî âåêòîðà ~η ϕη~ (t) = exp(−(t, t)/2).