1625915144-a0b004e5d7d0e6e9b8f80b0c67f3317f (843874), страница 15
Текст из файла (страница 15)
E(X1 + X2 /Y ) = E(X1 /Y ) + E(X2 /Y ).Äîêàçàòåëüñòâî.E(X1 +X2 /v) =X P(X1 + X2 = u, Y = v) XP(X1 = t1 , X2 = t2 , Y = v)u=(t1 +t2 )=P(Y = v)P(Y = v)ut ,t1=Xt1t12X P(X1 = t1 , X2 = t2 , Y = v) X X P(X1 = t1 , X2 = t2 , Y = v)+t2=P(Y = v)P(Y = v)ttt221= E(X1 /v) + E(X2 /v).4. EX = E[E(X/Y )].Äîêàçàòåëüñòâî.EX =XuP(X = u) =u=XXvX X P(X = u, Y = v)uP(Y = v) =P(Y = v)uvupX (u/v)P(Y = v) =XE(X/v)P(Y = v).vuÄàëåå ââåäåì óñëîâíîå ìàòåìàòè÷åñêîå îæèäàíèå äëÿ ñëó÷àéíûõ âåëè÷èí, èìåþùèõ àáñîëþòíî íåïðåðûâíîå ñîâìåñòíîå ðàñïðåäåëåíèå.Ïóñòü fX,Y (u, v) ïëîòíîñòü ñîâìåñòíîãî ðàñïðåäåëåíèÿ ïàðû ñëó÷àéíûõ âåëè÷èí (X, Y ), fX (u) è fY (v) ñîîòâåòñòâåííî ïëîòíîñòè ñëó÷àéíûõ âåëè÷èí X è Y .Äëÿ òåõ çíà÷åíèé v , äëÿ êîòîðûõ fY (v) > 0, ââåäåì óñëîâíóþ ïëîòíîñòüfX (u/v) =fX,Y (u, v)fY (v)è ìàòåìàòè÷åñêîå îæèäàíèå (åñëè îíî ñóùåñòâóåò)Z∞E(X/v) =ufX (u/v)du.−∞Ïîäñòàâëÿÿ â ýòî âûðàæåíèå Y âìåñòî v , ïîëó÷èì óñëîâíîå ìàòåìàòè÷åñêîå îæèäàíèå E(X/Y ).Ïåðå÷èñëåííûå âûøå ñâîéñòâà 1 4 ñîõðàíÿþòñÿ â ñèëå è â ýòîì ñëó÷àå, îäíàêîäîêàçàòåëüñòâà áóäóò âûãëÿäåòü ñëîæíåå è ìû èõ íå áóäåì ïðèâîäèòü.
Îòìåòèìòîëüêî, ÷òî âî âñåõ ýòèõ êîíñòðóêöèÿõ X è Y ìîãóò áûòü âåêòîðíûìè ýòî íåâûçîâåò ïðèíöèïèàëüíûõ èçìåíåíèé.713.9.Çàäà÷à î íàèëó÷øåì ïðèáëèæåíèè ýòîì ðàçäåëå ìû áóäåì ðàññìàòðèâàòü ñëó÷àéíûå âåëè÷èíû, çàäàííûå íà îäíîìâåðîÿòíîñòíîì ïðîñòðàíñòâå è îáëàäàþùèå êîíå÷íûì âòîðûì ìîìåíòîì. Äëÿ ëþáûõäâóõ òàêèõ âåëè÷èí X, Y ââåäåì ñêàëÿðíîå ïðîèçâåäåíèå (X, Y ) = E(XY ). Îíîêîíå÷íî â ñèëó íåðàâåíñòâà ÊîøèÁóíÿêîâñêîãî. Ââåäåì òàêæå íîðìókXk2 = (X, X) = EX 2 .Ñõîäèìîñòü ïîñëåäîâàòåëüíîñòè ñëó÷àéíûõ âåëè÷èí {Xn } ïî ýòîé íîðìå íàçûâàåòñÿñõîäèìîñòüþ â ñðåäíåì êâàäðàòè÷åñêîì, kXn −Xk → 0 ⇐⇒ E(Xn −X)2 → 0.
Ìîæíîïîêàçàòü, ÷òî kXn − Xk → 0 ïðè n → ∞ ⇐⇒ kXn − Xm k → 0 ïðè n, m → ∞.Ïóñòü H ëèíåéíîå ïðîñòðàíñòâî ñëó÷àéíûõ âåëè÷èí ñ êîíå÷íûì âòîðûì ìîìåíòîì, çàìêíóòîå îòíîñèòåëüíî ñõîäèìîñòè â ñðåäíåì êâàäðàòè÷åñêîì. Ïóñòü òàêæåL íåêîòîðîå çàìêíóòîå ëèíåéíîå ïîäïðîñòðàíñòâî â H . Çàäà÷à ñîñòîèò â òîì, ÷òîáû ïðèáëèçèòü ïðîèçâîëüíóþ ñëó÷àéíóþ âåëè÷èíó X ∈ H ñ ïîìîùüþ ñëó÷àéíîéâåëè÷èíû Y ∈ L.b ∈ L íàèëó÷øèì ïðèáëèæåíèåì äëÿ X ∈ H , åñëèÍàçîâåì Xb = min kX − Y k.kX − XkY ∈LÒåîðåìà 1.
Xb ∈ L ÿâëÿåòñÿ íàèëó÷øèì ïðèáëèæåíèåì äëÿ X ∈ H òîãäà è òîëüêîòîãäà, êîãäàb Y)=0(X − X,äëÿ ëþáîãî Y ∈ L,b îðòîãîíàëüíî L è â ýòîì ñìûñëå Xb åñòü ¾ïðîåêöèÿ¿ X íà L.ò. å. X − XbÄîêàçàòåëüñòâî. Ïóñòü X íàèëó÷øåå ïðèáëèæåíèå, òîãäàb = min kX − Y k = min kX − Xb − ∆k,kX − XkY ∈L∆∈Lb . Çàôèêñèðóåì íåêîòîðîå ∆0 6= 0 èç L è ðàññìîòðèì ìèíèìóì ïîãäå ∆ = Y − Xâûäåëåííîìó íàïðàâëåíèþ:b − λ∆0 k2 = min(X − Xb − λ∆0 , X − Xb − λ∆0 ) = min(A2 − 2λB + λ2 C 2 ),min kX − Xλλλãäå îáîçíà÷åíîb 2,A2 = kX − Xkb ∆0 ),B = (X − X,C 2 = k∆0 k2 .Î÷åâèäíî, ÷òî ïðè λ = 0 äîñòèãàåòñÿ ìèíèìóì ëåâîé ÷àñòè, ïðè÷åì ìèíèìóì ïîíàïðàâëåíèþ ñîâïàäàåò ñ ìèíèìóìîì ïî âñåìó ïðîñòðàíñòâó L.
Ñëåäîâàòåëüíî, ìèíèìóì ïðàâîé ÷àñòè, ãäå ñòîèò êâàäðàòíûé òðåõ÷ëåí, òàêæå äîëæåí äîñòèãàòüñÿ ïðèλ = 0, ò. å. B = 0. Ýòî çíà÷èò, ÷òîb ∆) = 0 äëÿ ëþáîãî ∆ ∈ L.(X − X,b ∈ L èìååò ìåñòîÎáðàòíî, ïóñòü äëÿ íåêîòîðîãî Xb Y ) = 0 äëÿ ëþáîãî Y ∈ L.(X − X,Òîãäàb − (Y − X)kb 2=kX − Y k2 = k(X − X)72b 2 − 2(X − X,b Y − X)b + kY − Xkb 2 = kX − Xkb 2 + kY − Xkb 2 ≥ kX − Xkb 2,= kX − Xkb .
Òåîðåìà äîêàçàíà.è ìèíèìóì äîñòèãàåòñÿ ïðè Y = Xb1 ∈ LÎòìåòèì, ÷òî íàèëó÷øåå ïðèáëèæåíèå åäèíñòâåííî. Äåéñòâèòåëüíî, åñëè Xbè X2 ∈ L òàêîâû, ÷òîb1 , Y ) = 0,(X − Xb2 , Y ) = 0 äëÿ ëþáîãî Y ∈ L,(X − Xb1 , Xb2 − Xb1 ) = 0 è (X − Xb2 , Xb2 − Xb1 ) = 0. Âû÷èòàÿ îäíîòî, â ÷àñòíîñòè, (X − Xb2 − Xb1 k = 0, ò. å. Xb2 = Xb1 ïî÷òè íàâåðíîå.ðàâåíñòâî èç äðóãîãî, ïîëó÷èì kXÐàññìîòðèì äàëåå çàäà÷ó ïðîãíîçà.Ïðåäïîëîæèì, ÷òî n ðàç ïðîâîäèëèñü ýêñïåðèìåíòû, â ðåçóëüòàòå êîòîðûõ ïîëó÷åíû ñëó÷àéíûå âåëè÷èíû Y1 , Y2 , . .
. , Yn . Íàì ïðåäñòîèò ïðîâåñòè ñëåäóþùèé ïîñ÷åòó ýêñïåðèìåíò è ïîëó÷èòü â ðåçóëüòàòå íåãî ñëó÷àéíóþ âåëè÷èíó X . Ìîæåì ëèìû ñ íåêîòîðîé òî÷íîñòüþ ñïðîãíîçèðîâàòü çíà÷åíèå X , åñëè ñîâìåñòíîå ðàñïðåäåëåíèå âåêòîðà (X, Y1 , Y2 , . . . , Yn ) íàì èçâåñòíî?Áóäåì ïðåäïîëàãàòü, ÷òî ðàñïðåäåëåíèå ýòîãî âåêòîðà äèñêðåòíî èëè àáñîëþòíîíåïðåðûâíî è âñå åãî êîìïîíåíòû îáëàäàþò êîíå÷íûìè âòîðûìè ìîìåíòàìè, ò. å.ïðèíàäëåæàò H . Îáîçíà÷èì Y = (Y1 , Y2 , . . .
, Yn ). Ðàññìîòðèì ïîäïðîñòðàíñòâîL ⊂ H âñåõ ñëó÷àéíûõ âåëè÷èí âèäà g(Y ), ãäå g ìîæåò áûòü ïðîèçâîëüíîé áîðåëåâñêîé ôóíêöèåé òàêîé, ÷òî Eg 2 (Y ) < ∞. Ìû áóäåì ïðèáëèæàòü X ôóíêöèÿìè îò óæåèìåþùèõñÿ ñëó÷àéíûõ âåëè÷èí, ò. å. ýëåìåíòàìè èç L.b = E(X/Y ).. Íàèëó÷øèì ïðèáëèæåíèåì äëÿ X ÿâëÿåòñÿ Xb åñòü ôóíêöèÿ îò Y , ñëåäóåò èç îïðåäåëåíèÿ óñëîâíîãîÄîêàçàòåëüñòâî. Òî, ÷òî Xb 2 < ∞. Èìååì [E(X/v)]2 ≤ E(X 2 /v),ìàòåìàòè÷åñêîãî îæèäàíèÿ. Ïîêàæåì, ÷òî EXòàê êàê äèñïåðñèÿ óñëîâíîãî ðàñïðåäåëåíèÿ íåîòðèöàòåëüíà. Îòñþäà ñëåäóåò íåðàb 2 ≤ E(X 2 /Y ) è äëÿ ìàòåìàòè÷åñêèõ îæèäàíèéâåíñòâî äëÿ ñëó÷àéíûõ âåëè÷èí Xýòèõ âåëè÷èí:b 2 ≤ E[E(X 2 /Y )] = EX 2 < ∞.EXÒåîðåìà 2bÏðîâåðèì äàëåå óñëîâèå îðòîãîíàëüíîñòè E[(X − X)g(Y)] = 0 äëÿ ëþáîé ñëó÷àéíîé âåëè÷èíû g(Y ) ∈ L.
ÈìååìbE[Xg(Y )] = E[E(Xg(Y )/Y )] = E[g(Y )E(X/Y )] = E(Xg(Y)).Òåîðåìà äîêàçàíà.4.Ñõîäèìîñòü ñëó÷àéíûõ âåëè÷èí è ðàñïðåäåëåíèé.Ïðåäåëüíûå òåîðåìû4.1.Ñõîäèìîñòü ïîñëåäîâàòåëüíîñòåé ñëó÷àéíûõ âåëè÷èí äàëüíåéøåì íàì ïðåäñòîèò èçó÷èòü çàêîí áîëüøèõ ÷èñåë òåîðåìó î ñõîäèìîñòè íåêîòîðîé ïîñëåäîâàòåëüíîñòè ñëó÷àéíûõ âåëè÷èí. Ñëó÷àéíûå âåëè÷èíû ÿâëÿþòñÿ ôóíêöèÿìè, çàäàííûìè íà ïðîñòðàíñòâå ýëåìåíòàðíûõ èñõîäîâ, à ñõîäèìîñòüïîñëåäîâàòåëüíîñòè ôóíêöèé ïîíÿòèå ñëîæíîå è åå ìîæíî îïðåäåëÿòü ïî-ðàçíîìó.Ìû ðàññìîòðèì íåêîòîðûå òèïû ñõîäèìîñòè.Ïóñòü ñëó÷àéíûå âåëè÷èíû X, X1 , X2 , .
. . çàäàíû íà îäíîì è òîì æå âåðîÿòíîñòíîì ïðîñòðàíñòâå. Ðàíåå óæå ââîäèëñÿ îäèí òèï ñõîäèìîñòè ñõîäèìîñòü â73ñðåäíåì êâàäðàòè÷åñêîì. Íàïîìíèì, ÷òî Xn → X â ñðåäíåì êâàäðàòè÷åñêîì, åñëèE(Xn − X)2 → 0 ïðè n → ∞. Äàëåå ââåäåì ïîíÿòèå ñõîäèìîñòè ïî âåðîÿòíîñòè.. Ïîñëåäîâàòåëüíîñòü {Xn } ñõîäèòñÿ ïî âåðîÿòíîñòè ê ñëó÷àéíîéâåëè÷èíå X , åñëè äëÿ ëþáîãî ÷èñëà ε > 0ÎïðåäåëåíèåP(|Xn − X| ≥ ε) → 0ïðè n → ∞.PÎáîçíà÷àòü áóäåì Xn → X .Ýêâèâàëåíòíîå îïðåäåëåíèå: äëÿ ëþáîãî ε > 0P(|Xn − X| < ε) → 1.Ïîÿñíèì ñìûñë íàïèñàííîãî. Ïðè ñáëèæåíèè Xn è X ðàñõîæäåíèå ìåæäó íèìèäîëæíî â êàêîì-òî ñìûñëå óìåíüøàòüñÿ. Òî, ÷òî íàïèñàíî â îïðåäåëåíèè, îçíà÷àåò:áîëüøèå ðàñõîæäåíèÿ (ò.
å. êîãäà |Xn −X| ≥ ε) âîçìîæíû, íî âåðîÿòíîñòü ïîÿâëåíèÿòàêèõ ðàñõîæäåíèé ñòðåìèòñÿ ê íóëþ.Ïðèìåð ïîñëåäîâàòåëüíîñòè, ñõîäÿùåéñÿ ïî âåðîÿòíîñòè. Ïóñòü, êàê è ðàíåå,Ω = [0, 1], S = B(Ω). Äëÿ âñÿêîãî èíòåðâàëà A ⊂ Ω ïîëîæèì P(A) = λ(A), ãäå λ(A) äëèíà èíòåðâàëà. Îïðåäåëèì ñëó÷àéíûå âåëè÷èíû X(ω) ≡ 0,(1, ω ∈ [0, n1 ],Xn (ω) =0, èíà÷å.1 6Xn (ω)01n1-ωßñíî, ÷òî P(|Xn −X| ≥ ε) = 0 ïðè ε > 1. Åñëè æå ε ≤ 1, òî P(|Xn −X| ≥ ε) = 1/n → 0ïðè n → ∞.Ñõîäèìîñòü ïî âåðîÿòíîñòè îáëàäàåò ðÿäîì åñòåñòâåííûõ ñâîéñòâ. Íàïðèìåð, òàPPPêèì: åñëè Xn → X , Yn → Y , òî Xn + Yn → X + Y .Ïðèâåäåì äîêàçàòåëüñòâî ýòîãî ôàêòà. Äëÿ ëþáîãî ε > 0P(|Xn + Yn − X − Y | ≥ ε) = P(|(Xn − X) + (Yn − Y )| ≥ ε) ≤≤ P(|Xn − X| + |Yn − Y | ≥ ε) ≤ P({|Xn − X| ≥ ε/2} ∪ {|Yn − Y | ≥ ε/2}) ≤≤ P(|Xn − X| ≥ ε/2) + P(|Yn − Y | ≥ ε/2) → 0.Ââåäåì åùå îäèí òèï ñõîäèìîñòè.. Ïîñëåäîâàòåëüíîñòü {Xn } ñõîäèòñÿ ê ñëó÷àéíîé âåëè÷èíå X ïî÷òè íàâåðíîå (ï.
í.) (èëè ñ âåðîÿòíîñòüþ åäèíèöà), åñëè Xn (ω) → X(ω) ïðè n → ∞äëÿ âñåõ ω ∈ Ω \ N , ãäå P(N ) = 0.Ìîæíî òàêæå çàïèñàòü: P{ω : Xn (ω) → X(ω)} = 1.Îïðåäåëåíèå74Ðàçáåðåìñÿ, ÷òî ïðåäñòàâëÿåò èç ñåáÿ ñîáûòèå {ω : Xn (ω) → X(ω)}. Íåòðóäíîâèäåòü, ÷òî åãî ìîæíî ïðåäñòàâèòü â âèäå{Xn → X} =∞ [∞ \ \k=1 n=1 m≥n1|Xm − X| ≤.kÝòî îçíà÷àåò, ÷òî äëÿ ëþáîãî k ≥ 1 ñóùåñòâóåò n ≥ 1 òàêîå, ÷òî ïðè âñåõ m ≥ n1âûïîëíÿåòñÿ |Xm − X| ≤ .kÇàïèøåì òàêæå ïðîòèâîïîëîæíîå ñîáûòèå:∞ \∞ [ [1{Xn 9 X} =|Xm − X| >.kk=1 n=1 m≥nÒåîðåìà 1. ÑõîäèìîñòüX→ X ï. í. ýêâèâàëåíòíà óñëîâèþ: äëÿ ëþáîãî ε > 0P sup |Xm − X| ≥ ε → 0 ïðè n → ∞.m≥nÄîêàçàòåëüñòâî.
Äëÿ íà÷àëà çàìåòèì, ÷òî óñëîâèå ¾P sup |Xm − X| ≥ ε → 0m≥n1→ 0 äëÿ ëþáîãîäëÿ ëþáîãî ε > 0¿ ýêâèâàëåíòíî óñëîâèþ ¾P sup |Xm − X| >km≥nk ≥ 1¿. Ýòî ñëåäóåò èç òîãî, ÷òî äëÿ ëþáîãî ε > 0 íàéäåòñÿ ÷èñëî k ≥ 1 òàêîå, ÷òî1/k < ε, è íàîáîðîò: äëÿ ëþáîãî k ≥ 1 íàéäåòñÿ ε > 0 òàêîå, ÷òî ε < 1/k . ÈìååìäàëååP(Xn → X) = 1 ⇐⇒ P(Xn 9 X) = 0 ⇐⇒\∞ [ 1⇐⇒ P|Xm − X| >= 0 äëÿ ëþáîãî k ≥ 1.kn=1 m≥nS1Íî ñîáûòèÿñóæàþòñÿ ñ ðîñòîì n, ïîýòîìó â ñèëó ñâîéñòâà|Xm − X| >km≥níåïðåðûâíîñòè âåðîÿòíîñòè\ [ ∞ [ 11P|Xm − X| >= lim P|Xm − X| >=n→∞kkn=1 m≥nm≥nn1= lim P sup |Xm − X| >.n→∞km≥nÒåîðåìà äîêàçàíà.PÅñëè Xn → X ï.í., òî Xn → X .Óòâåðæäåíèå ñëåäóåò èç ñîîòíîøåíèÿ sup |Xm − X| ≥ ε ⊃ |Xn − X| ≥ ε .Ñëåäñòâèå.m≥nÎáðàòíîå óòâåðæäåíèå íåâåðíî.
Äëÿ òîãî, ÷òîáû ýòî ïîêàçàòü, ïîñòðîèì ïðèìåðïîñëåäîâàòåëüíîñòè ñëó÷àéíûõ âåëè÷èí, êîòîðàÿ ñõîäèòñÿ ïî âåðîÿòíîñòè, íî íå ñõîäèòñÿ ïî÷òè íàâåðíîå. Ìû ìîäèôèöèðóåì ïðèâåäåííûé âûøå (ñì. ðèñóíîê) ïðèìåðñõîäÿùåéñÿ ïî âåðîÿòíîñòè ïîñëåäîâàòåëüíîñòè. Ïî-ïðåæíåìó Xn áóäåò ïðèíèìàòüçíà÷åíèÿ 1 ñ âåðîÿòíîñòüþ 1/n è 0 ñ âåðîÿòíîñòüþ 1 − 1/n, îäíàêî ìíîæåñòâà An ,íà êîòîðûõ Xn = 1, ñ ðîñòîì n áóäóò äâèãàòüñÿ ïî îòðåçêó [0, 1] òàê, ÷òî ëþáàÿòî÷êà îòðåçêà áåñêîíå÷íîå ÷èñëî ðàç áóäåò ïîïàäàòü â òàêèå ìíîæåñòâà.
Äðóãèìè75ñëîâàìè, ìû îðãàíèçóåì ¾áåãàþùóþ¿ ñòóïåíüêó. Ýòîãî ìîæíî äîñòè÷ü, ê ïðèìåðó,åñëè ïîëîæèòü A1 = [0, 1], A2 = [0, 1/2], A3 = [1/2, 1/2 + 1/3], A4 = [5/6, 1] ∪ [0, 1/12],A5 = [1/12, 1/12 + 1/5] è ò. ä. Äëÿ ñëó÷àéíîé âåëè÷èíû Xn ñòóïåíüêà íà÷èíàåòñÿ ñòîé òî÷êè, ãäå çàêîí÷èëàñü ñòóïåíüêà ïðåäûäóùåé ñëó÷àéíîé âåëè÷èíû Xn−1 ; åñëèæå âñÿ ñòóïåíüêà íå óìåùàåòñÿ íà èíòåðâàëå [0, 1], òî òà åå ÷àñòü, êîòîðàÿ îêàçàëàñüïðàâåå åäèíèöû, ïåðåíîñèòñÿ â íà÷àëî èíòåðâàëà.Ñëåäóþùàÿ òåîðåìà äàåò âåñüìà ïîëåçíîå äîñòàòî÷íîå óñëîâèå ñõîäèìîñòè ïî÷òèíàâåðíîå.Åñëè ðÿä∞XP(|Xn − X| ≥ ε) < ∞Òåîðåìà 2.n=1ñõîäèòñÿ ïðè ëþáîì ε > 0, òî Xn → X ï. í.Äîêàçàòåëüñòâî. Óòâåðæäåíèå ñëåäóåò èç ñîîòíîøåíèÿ X [ ∞εε≤P |Xm − X| ≥→ 0.P sup |Xm − X| ≥ ε ≤ P|Xm − X| ≥22m≥nm=nm≥nÑëåäñòâèå.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
