Ульянов (старое издание) (1115357), страница 9
Текст из файла (страница 9)
{fn }, всесход. слабогда можно выделить подпоследовательность {Fnn } : Fnn=⇒ F ∗ функция распределения.Покажем, что Fn ⇒ F ∗ .Предполагаем, что это не так, что Fn‘ ⇒ F ∗∗ - функция распределенияи Fn‘ 6= F ∗∗ , то тогда соответствующие характеристические функцииf ∗ 6= f ∗∗, что противоречит условию теоремы, т.к. по прямой теоремео непрерывном соответствии получаем, что fnn → f ∗ и fn‘ → f ∗∗ ⇒ вся{fn } ⇒ функции распределения.12.0.1 Применение характеристических функцийTheorem 12.1 (Теорема Хинчина - закон больших чисел).
ПустьX1 , X2 , . . . независимые одинаково распределенные случ. величины, EX1 существует. ТогдаX1 + X2 + . . . + XnP−−−−−−−−−−−→ EX1по вероятностиn(Напомним, что у Чебышева существ. ограничение константой дисперсий.В формуле Колмогорова требовалось существ. дисперсии и сходимостьнекоторого ряда даже в случае не всех огран. дисперсий.)6212 Лекция 12Доказательство. Пусть f (t) - произвольная характеристическая функция.
Докажем два предельных соотношения:fx (t) = 1 + itEX + ō(t) t - малоt2fx (t) = 1 + itEX − EX 2 + ō(t2 )2(12.1)(12.2)ō(t)t→ 0 при t → 0.(1) справедливо, когда ∃ EX(2) справедливо, когда ∃ EX 2Rt. ei·t − 1 = i 0 eiy dy ⇒ |eit − 1| ≤ |t|но |eit − 1| ≤ 2 всегда, т.к. |eit | ≤ 1, |1| ≤ 1 ⇒ |eit − 1| ≤ min(2, |t|)Rteit − 1 − i · t = i 0 (eiy − 1)dy2|eit − 1 − it| ≤ min(2|t|, t2 )f (t) = E(eitx + 1 + itx − 1 − itx) = 1 + it · EX + E(eitx − 1 − itx)1 =1 + itEX + E(eitx − 1 − itx)(1{|x|≤t−1/4 } + 1{|x|>t−1/4 } )|{z} |{z}оценка t2оценка |t||f (t) − 1 − itEX| ≤ E2|t||X|1{|x|>t−1/4 } + E 12 t2 X 2 1{|X|≤t−1/4 } ≤1t2· 1/2 +2|t|E|X|1{X>t−1/4 }|2 {zt }t3/22t3/2−−−→ 0t t→02|t|E|X|1{x>t−1/4 }→ 0, если E|X|1{x>t−1/4 } → 0, при t → 0 ⇒ (1).tАналогично доказывается (2).Нужно рассмотреть более длинное разложение:22f (t) = E(eitx + 1 + itX − t2 X 2 − 1 − itX + t2 X 2 )fx (t) − 1 + itEX + ō(t)Пусть Sn = X1 + .
. . + Xn и F (t) = EeitX1 .Тогда fSn (t) = f n (t),n→∞f Sn (t) = f n ( nt ) ⇒ f Sn (t) = (1 + i nt EX1 + ō( nt )n −→ eitEX1nnОбозначим m = EX1eitm = Eeitm · 1eitm - характеристическая функция случайной величины, принимающейзначение m с вероятностью 1.По обратной теореме FSn /n ⇒ F{вырожденно распредел. в т. m}Фиксируем ∀² > 0P (| Snn − m| < ²) = F Sn (m + ²) − F Sn (m − ²) → Fm (m + ²) − Fm (m − ²) = 1nn| {z } | {z }=1т.е.SnnP−→ m = EX1=012 Лекция 1263Theorem 12.2 (Центральная предельная теорема.). (без ограничения на характер распределения сл. вел.
X)Пусть X1 , X2 , . . . независимые, одинаково распределенные сл. величины√ n −na < y) → Φ(y) =и существуют EX1 = a, DX1 = σ 2 . Тогда P ( X1 +...+Xσ n2Rzy√1e− 2 dz (стандартное нормальное распределение)2π −∞√√σ n = nσ 2 = (DX1 + . . . + DXn )1/2√ n −E(X1 +...+Xn ) < y)P ( X1 +...+XD(X1 +...+Xn )(с ростом n в пределе получается стандартная предел. величина)F−EXДоказательство. Фактически в теореме утверждается, что S√nDS i ⇒ Φ,nгде Sn = X1 + .
. . + Xn (по теореме о непрер. соответствии между характеристич. функциями и слабой сходимостью)Пусть Yi = Xi − EXi ⇒ EXi = 0, DYi = DXiТогда Sn − ESn = Sn‘ = Y1 + . . . + YnПусть f (t) = EeitY1 . Имеем f Sn‘ (t) = f n ( σ√t n )σ√nВоспользуемся соотношением (2):22t2= (1 + 0 − 2σn· σ 2 + ō( σt2 n ))n → e−t /2 - характеристическая функциястандартного нормального распределения.(получили: х.ф.f Sn‘ → х.ф. ст. н. распр.)σ√nTheorem 12.3 (Центральная предельная теорема с оценкой).√ E|X1 |3√ n −na < y) − Φ(y)| ≤ 0,77supy |P ( X1 +...+Xσ nnесли выполнены условия предыдущей теоремыДоказательство.
Если E|X1 |3 = ∞, то бессмысленно, т.к. в любом случае≤ 1.Применим ЦПТ. Предположим, что есть некая неизвестная предельнаявеличина а, которую измеряют, X - результат измерения.X − a = δ - ошибкаδ =X −a=X − EX+EX − a| {z }| {z }случайная ошибкасистематическая ошибкаСистематическую ошибку принято считать нулевой, для простоты.X = a + δ при отсутствии сист. ошибки Eδ = 0X1 , . . . , Xn - результаты измерений, независимые одинаково распредел.nâ = X1 +...+X- оценка неизвестного значения anEXi = a, DXi = σ 2 ⇒ Eâ = n1 E(X1 + .
. . + Xn ) = aDâ = n12 D(X1 + . . . + Xn ) = σ 2 /n⇒ дисперсия усредненного сильнее в n разnP (|â − a| < ²) = P ( X1 +...+X− a) =n√R ²√σn −z2 /2√√ n −na | < ² n ) ∼ {по ЦПТ} ∼ √1edz= P (| X1 +...+Xσσ n2π −² nВ частности, если взять√² nσσ= 3, то64√12π12 Лекция 12R√² nσ√−² nσe−z2/2dz = 0, 997 ⇒ P (|â − a| <3σ√)n∼ 0, 997т.е., используя ЦПТ, показываем, что не только â близко к a, но и3σ3σP (â − √< a < â + √) ∼ 0, 997 - интервальная оценка для a.nn13Лекция 1313.1 Условное распределение.
Условноематематическое ожиданиеНапомним: если P (B) > 0P (A|B) = PP(AB)(B) = PB (A)(Ω, A, P ) - исходное вероятностное пространство, то (Ω, A, PB ) - вероятностное пространство.⇓Если XR : Ω → R - случайная величина, то при условии, что существуетEX = Ω X(w)P (dw) - общее определение мат ожидания(P∞P∞a1 , a2 , . . . ;Ri=1 ai P (X = ai ), X - дискретна, сi=1 ai pi =EX = Ω X(w)P (dw) =p1 , p2 , . .
.Ryf (y)dy,X имеет плотность f(y);RR⇒можемопределитьEXотносительномерыP:X(X|B)=X(ω)PB (dω) ⇒BΩP∞P∞aP(X=a)=aP(X=a|B)iBiiii=1i=1Определим E(X|Y ). Рассмотрим два случая:1) X,Y - дискретны2) X,Y - абсолютно непрерывны¥ Пусть X,Y дискретны.Упростим. Пусть Y принимает 2 значения, например:((1, p = P (Y = 1);a1 , a2 , . . . ;Y =a, X −0, 1-p;p1 , p2 , . . .тогда E(X| Y= 1}), E(X| Y= 0}| {z| {zB1B0Рассмотрим случайную величину, которая принимает значения E(X|Y =bi ) с вероятностью P (Y = bi ) (⇒ указали распределение) и определяется как отображение следующим образом: для ∀ω ∈ Y −1 (bi ) ∈ A, гдеY −1 (bi ) - прообраз bi при отображении Y.
Это отображение обозначим;6613 Лекция 13g(Y (ω)) = E(X|Y = bi )(описали отображение как функцию ⇒ P (Y = bi ) вер. - ненужное уточнение)Данное заданное отображение g(Y (w)) является случайной величиной,т.к. Y является случ. величиной.Требование дискретности сл. в. X не важно, т.к. важно существован6иеPB , а оно следует из дискретности Y.(b1 , b2 , . . ., тогда условОпределение 13.1. Пусть X - сл. вел., а Y −q1 , q2 , . .
.ным распределением сл. в. X относительно сл. в. Y называется сл. в.,которая для ∀A ∈ (B) - борелевская σ-алгебра на R и ∀ω ∈ Y −1 (bi ) принимает значение P (X ∈ A|Y = bi ) = E(1{X∈A} |Y = bi ) ⇒ услов. распределение можно определить через условн. мат. ожидание.Пример 13.1. Пусть X(1 , X2 , Y - независимые случайные величины.
Xi ∼0, p;+Y X2N (0, 1) i = 1, 2 Y =Найти распределение X√11+Y.21, 1-pX1 + Y X2=1))∈A,Y =1)MДля ω ∈ Y −1 (1) P ( √= P (Z(1)∈A,Y=∈ A|Y = 1) = P (Z(YP (Y =1)P (Y =1)1+Y2|{z}Z(Y )в силу независимости X ,X ,Y12z{√}|P ((X1 + X2 )/ 2 ∈ A)P (Y = 1)⇒ осталась вероятность того, что станP (Y =1)дартная норм.вел. попадает в множество А.22(лин. комб. норм. сл.
величин есть норм. сл. в., E X1√+X= 0, D X1√+X=2212 2 = 1)MДля X ∈ Y −1 (0)X1 + Y X2)∈A,Y =0)=0)(Y =0)P( √∈ A|Y = 0) = P (Z(Y= P (Z(0)∈A,Y= P (X1P∈A)P⇒P (Y =0)P (Y =0)(Y =0)1+Y2|{z}Z(Y )получаем, что и при Y = 1 и Y = 0 это вер. того, что ст.
н. величина по+Y X2падает в А ⇒ X√11+Y∼ N (0, 1).2Не существенно, что Y принимает 2 значения, т.к. верно для Y,принимающеголюбое счетное кол-во значений.13.1.1 Общие свойства условного математического ожидания1.E(cX|Y ) = cE(X|Y )2.E(X + Z|Y ) = E(X + Y ) + E(Z|Y )3.E(Y |Y ) = Y , если h - произвольная борелевская функция (h−1 (B) ⊂ B)E(h(Y )|Y ) = h(Y )13.1 Условное распределение.
Условное математическое ожидание67Доказательство. (свойства 3)Y = b1 , b2 , . . .E(Y |Y ) = g(Y ) : Ω → Rg(Y )(ω) = E(Y |Y= bi ), если ω ∈ Y −1 (bi )P∞E(Y |Y = bi ) = k=1 bk P (Y = bk |Y = bi ) = bi ⇒ E(Y |Y ) = Y4. Пусть с.в. X, Y - независимы, то E(X|Y ) = EXДоказательство. (свойства 4)Пусть X,Y –дискретны X ∼ a1 , a2 , .
. . ; Y ∼ b1 , b2 , . . .(по определению:)E(X|Y ) = g(Y P), для которой g(Y )(ω) = E(X|Y = bi ),∞для ω ∈ Y −1 (bi ) E(X|Y = bi ) = k=1 ak P (X = ak |Y = bi ) = EX|{z}P (X=ak )5.EX = E(E(X|Y ))+Y X2к примеру, E( X√11+Y)=02¥ Пусть X,Y абсолютно непрерывны.Более того, предположим, что совместная плотность с.в. X,Y есть непрерывная функция f(z,t).Фиксируем произвольное ε0 > 0, предположим, что для некоторой y0 ивсех ε : 0 < ε < ε0 , имеем, что fY (t) > 0 для t ∈ (y0 − ε, y0 + ε), где fY (t)–плотностьR с.в. YfY (t) = R f (z, t)dzP (X < u|Ru−∞Y ∈ (y0 − ε, y0 + ε) ) ={z}|P (X<u,Y ∈(y0 −ε,y0 +ε))P (Y ∈(y0 −ε,y0 +ε))Ru=−∞R y0 +εf (z,t)dtdzy0 −ε0 +ε fYy0Ry(t)dtсобытие имеет плотность6=0f (z, y0 )dzfY (y0 )| {z }плотность0)1) ffY(z,y) ≥0R (yf0(z,y2) R fY (y00)) =f (z,y0 )fY (y0 )Определение 13.2.
Плотностью сл.в. X при условии, что Y = y0 , на0)зывается fX|Y (z|y0 ) = ffY(z,y(y0 ) .RЗамечание 13.1. Пусть NY = {y ∈ R : fY (y) = 0} ⇒ P (Y ∈ NY ) =f dt = 0. Поэтому для т. y ∈ NY положим fX|Y (z|y) = 0Y YОпределение 13.3. Условным распределением X при условии, что Y =y0 , называется распределение с плотностью fX|Y (z|y)Есть плотность ⇒ можем определить мат. ожидание.Определение 13.4. УсловнымR математическим ожиданием X при условии, что Y = y0 , называется R ffY(z,y)(y) dz = E(X|Y = y).В частности для y ∈ NY , имеем E(X|Y = y) = 0−−−→ε→06813 Лекция 13Определение 13.5.
Условным мат. ожиданием сл.в. X относительносл.в. Y,обозначение E(X|Y ), называется сл. в., которая при ω ∈ Y −1принимает значение E(X|Y = y), y ∈ R14Лекция 14Пусть E(X|Y ) = g(Y ); (X|Y ) - абсолютно непрерывный случайный вектор g(Y ) - cлучайная величина с плотнстьюfX|Y (x|Y ) =f (x,y),f (x, y)f (Y )= {0YfY (Y )Лемма 14.1. Для любой ограниченной борелевской функции h(y) справедливо следующее равенство:Eh(Y ) · X = Eh(Y ) · g(Y ) . . . (1)Доказательство. Если случайная величина Y имеет плотность fY (y), тодля любой борелевской функции b(y), для которой Eb(Y ) существуетZEb(Y ) =b(y)fY (y)dy.RСледовательно,ZZf (x, y)Eh(Y )·g(Y ) =h(y)g(y)fY (y)dy = {g(y) = E(X|Y = y) =xdx} =fY (y)RRZ Z=h(y) · x · f (x, y) dxdyRR(это совпадает с левой частью (1)).Замечание 14.1. Оказывается равенство (1) характеризует однозначнуюслучайную величину x.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
