Ульянов (старое издание) (1115357), страница 6
Текст из файла (страница 6)
1) Если рядm ) сходитсяm=1 P (AP∞, то P (A+ ) = 0; 2) пусть A1 , A2 , ... независимы, и рядm=1 P (Am )+расходится. Тогда P (A ) = 1.++Remark 7.1. Пусть A1 , A2 , ... независимы.P∞Тогда P (A ) = 1 или P (A ) = 0в зависимости от расходимости ряда m=1 P (Am ).Remark 7.2. Если отказаться от независимости A1 , A2 , ..., то в этом случаеможно привести пример, когда освободить.7.1 Формула свертывания39Замечание 7.1. Следствие является частным случаем закона 0 и 1 Колмогорова.ДоказательствоT∞ S (леммы Бореля-Кантелли:).S1. A+ = n=1 m≥n Am = limn Bn .
Из m≥n Am нужно задаться вопросом: является ли последовательность {Bn } монотонной, то есть Bn ⊃Bn+1 ? По свойству непрерывностивероятностиполучаем, что P (A+ ) =SPlimn P (Bn ) = limn P ( m≥n Am ) ≤ limn m≥n P (Am ) = 0. Последнее равенство вытекает из счетной аддитивности вероятности.S2. Снова по свойству непрерывности: P (A+ = limn P (Bn ) = limn P ( m≥n Am ) =SSkQklimn (1−P ( m≥n Acm )) = 1−limn limk P ( m≥n Ack ) = 1−limn limk m=n P (Acm ) =Q∞1 − limn m≥n (1 − P (Am )) = 1.Лемма 7.3. X1 , X2 , ..., Xn - случайные величины. Тогда также являютсяслучайными величинами.Доказательство.Воспользуемся случайных величин. {inf Xn < a} =S(X<a).То,чтов скобках, - это элемент σ-алгебры (т.е. (Xn < a) ∈nnF ), и мы просто берем счетную аддитивность.sup Xn = {выражаем sup через inf} = − inf(−Xn )- случайная величина.lim sup Xn выражается через оператор.
Поскольку lim sup Xn и lim inf Xnвыражается через inf и sup, получаем, что lim sup Xn и lim inf Xn являются случайными величинами.Remark 7.3. Если A ⊂ Ω, на которой последовательность {Xn } сходится,то A ∈ F [(элемент σ- алгебры).(Ω, F, P )].Доказательство. A = {ω : lim inf Xn (ω) = lim sup Xn (ω)} = {ω : lim inf Xn (ω)−lim sup Xn (ω) = 0} ∈ F .
Напомним, что lim inf Xn (ω) и lim sup Xn (ω)- случайные величины, и разность их - тоже случайная величина, а 0 - борелевское множество.Будем говорить, что последовательность случайных величин сходится почти наверное (почти всюду с вероятностью 1) к Х, если P (ω : lim Xn (ω) =X(ω) = 1).Remark 7.4. Последовательность {Xn } сходится, т.е. P (lim Xn ) = 1 ⇐⇒ ∀k ≥ 1 limn P (supm≥n | Xm − X |> k1 ) = 0.SДоказательство.
0 = limn P (supm≥n | Xm − X |> k1 ) = limn P ( m≥n |TSSTS∞Xm − X |> k1 ) = {} = P ( n m≥n | Xm − X |> k1 ) = P ( k=1 n m≥n |Xm − X |> k1 ) = 0.(, по свойству полусчетной аддитивности объединениевероятностей не превосходит суммы вероятностей.)407 Лекция 7S∞ T SЕсли k=1 n m≥n | Xm − X |> k1 , то Xm (ω) не сходится к X(ω). СлеS∞ T Sдовательно, вероятность противоположна обратной: P ( k=1 n m≥n |Xm − X |> k1 ) = P (ω : Xm (ω) не сходится к X(ω)) = 0.Определение 7.1. Последовательность случайных величин X1 , X2 , ... сходится по вероятности к случайной величине X, если ∀ ε > 0 P (|Xn − X |> ε) → 0 при n → ∞8Лекция 8X(ω) = lim Xn (ω) - просто по определению.
Но X(ω) может не быть измеримым и следовательно не быть случайной величиной (из-за доопределения на множестве меры ноль). {Xn } - последовательность случайных величин, X - случайная величина, Xn → X почти всюду, P {ω : lim Xn (ω) =X(ω)} = 1.Xn → X почти всюду ⇔ ∀ k[∀ ε] limn P (supm≥n |Xm − X| > k1 [ε]) = 0В квадратных скобках дана эквивалентная формулировка.Теорема Чебышева: X1 , . . . , Xn - независимые случайные величины;DXi ≤ cσ 2 , ∀ i = 1, n. Тогда ∀ε > 0¯¯¯ X1 + . . . + XnEX1 + . . . + EXn ¯¯¯lim P {¯−¯ > ε} = 0nnnсходимость к 0 по вероятности: zn → 0, где zn =X1 +...+Xnn−EX1 +...+EXn.n8.1 Определение математического ожидания в общемслучае(Ω, F, P )PЕсли Ω не более, чем счетно, то EX = ω∈Ω X(ω)P (ω) при условии, чторяд сходится абсолютно.Если Х имеет распределение: x1 , x2 , .
. . , xn ; p1 , p2 , . . . , pnP(∗) - значения иnсоответствующие вероятности; pi = P (X = xi ) ⇒ EX = i=1 xi pi .Предположим, что Ω не обязательно счетно. Пусть X : Ω → R случайная величина с распределением (*). Рассмотрим новое вероятностное пространство (Ω1 , F1 , P1 ), где Ω1 = {x1 , x2 , . . . , xn }, F1 - все подмножестваΩ1 , P1 ({xi }) = pi и определим Y : Ω1 → R : Y (xi ) = xi . Следовательно,из определения Y, случайные величины X и Y одинаково распределены,аPnзначит, и математическое ожидание их совпадает: EY = EX = i=1 xi pi .428 Лекция 8Пусть (Ω, F, P ) произвольно, Y : Ω1 → R - произвольная случайнаявеличина.
Определим Y + = max(Y, 0), Y − = max(0, −Y ); Y + , Y − - случайные величины. Так как любая случайная величина представима в видесуммы двух неотрицательных случайных величин, и Y + ≥ 0, Y − ≥ 0 ⇒Y = Y + + Y − . Определим EY = EY + + EY − , если EY + , EY − определены.Ниже будут рассматривать случайную величину Y ≥ 0.Построим последовательность случайных величин {Yn }Yn (ω) =nn·2Xk=1k−1I{ k−12n2n≤Y (ω)≤ 2kn }Заметим, что для ω : Y (ω) ≥ n имеем Yn (ω) = 0. Yn (ω) - дискретнаяnслучайная величина, принимающая значения 0, k−12n для k = 1, n2Pn2n k−1⇒ EYn = k=1 2n P ( k−1≤ Y (ω) < 2kn ).2nМожно показать, что Yn монотонно не убывает, то есть Yn ≤ Yn+1 ∀ ω.Так как |Yn − Y | < 21n , если Y ≤ n.Определим EY = limn→∞ EYn , если предел конечен.
Данное определениекорректно, так как можно выбрать любое разбиение и предел, если существует, всегда будет один.Определим интеграл по мере:ZZEY =Y (ω)P (dω) =z · dFy (z)ΩRFy¡(z) - функция распределенияслучайной величины Y.¢kkP k−1≤Y(ω)<=F()−Fy ( k−1y 2n2n2n2n )Аналогично определяем интеграл Лебега:ZZg(z)λ(dz) =g(z)dzRRгде λ(dz) - мера Лебега.Можно показать, что если g(x) интегрируема по Риману на отрезке [a,b], тогда существует интеграл Лебега на этом отрезке, причем они равны:RbRg(z)dz = [a,b] g(z)λ(dz).aЗаменяя в записи математического ожидания вероятность на меру Лебега(P на λ), получим интеграл Лебега для Yn .
Обратное не верно.Пример: z ∈ [0, 1](1 z - рациональноеg(z) =0 иначеРассмотрим, как выглядит приближающая последовательность gn (ω)(1 ω - рациональноеgn (ω) =0 иначеRgn (ω)λ(dω) = 0 · λ [иррациональное] + 1 · λ [рациональное] = 08.1 Определение математического ожидания в общем случае43RЛемма 8.1.
Пусть случайная величинаY имеет плотностьRf (z); zf (z)dzRсходится абсолютно, то есть |z|f (z)dz < ∞. Тогда EY = zf (z)dz.Доказательство. Рассмотрим математическое ожидание EYn (пусть Y ≥0)R akPn2nEYn = k=1 k−1f (z)dz, где ak = 2kn .2nak−1R∞Для доказательства утверждения достаточно показать, что EYn % 0 zf (z)dz.¢ª©R∞R∞Pn2n R ak ¡1zf (z)dz−EYn = n zf (z)dz+ k=1 ak−1z − k−1f (z)dz ≤ z − k−12n2n ≤ 2n ≤0RnRnR∞zf (z)dz + 21n 0 f (z)dz →n→∞ 0, так как 0 f (z)dz ≤ 1.nВ случае, когда условие Y ≥ 0 нарушено, представляем Y = Y − + Y +и повторяем рассуждения для Y − и Y + .
Таким образом, утверждениеполностью доказано.Pnx . . . xnЕсли Y : 1, тогда EY = i=1 xi pi .p1 . . . pnRЕсли существует f (z) - плотность, тогда EY = zf (z)dz.Свойства математического ожидания:1. E(cY ) = cEY2. Если существуют EX, EY ⇒ E(X + Y ) = EX + EY3. Если случайные величины X и Y независимы и существуют EX, EY ⇒E(XY ) = EX · EYДоказательства вытекают из справедливости указанных свойств для приближающих последовательностей {Xn } и {Yn } и справедливости переходак пределу по n → ∞.Пример 8.1. Пусть случайная величина имеет нормальное распределение:Y ∼ N (0, 1).√12π√12πz2e− 2R − z2EY =ze 2 dz = 0, поскольку функция нечетная.DY = E(Y − EY )2 = E(Y 2 ) − (EY )2 = EY 2Заметим, что если случайная величина Y имеет плотность f (z) и g-R борелевская функция (то есть g(Y ) - случайнаявеличина) такая, чтоRg(z)f (z)dz сходится абсолютно, то Eg(Y ) = g(z)f (z)dz.Используя этот факт:√R +∞R +∞ − z2R +∞ − z2z2z22 dz =2πEY 2 = −∞ z 2 e− 2 dz = −ze− 2 |+∞e 2 dz−∞ + −∞ e−∞2Rz+∞DY = √12π −∞ e− 2 dz = 1Если X ∼ N (a, σ 2 ) - общая нормальная случайная величинаY = x−aσ ∼ N (0, 1)0 = EY , следовательно, по свойствам математического ожидания EX = a1 = DY = σ12 DX ⇒ DX = σ 2f (z) =9Лекция 9Theorem 9.1 (Неравенство Колмогорова).Пусть X1 , X2 , ..., Xn независимые случайные величины EXi = 0, EXi2 <∞, i = 1, .., n.
Тогда для любого a > 0 справедливо неравенство:PnEX 2P ( sup |X1 + X2 + ... + Xn | ≥ a) ≤ 1 2 i .a1≤k≤nДоказательство. Положим Sk = X1 + X2 + ... + Xk .Пусть A = {sup1≤k≤n |Sk | ≥ a}Ak = { sup |Sk | < a, |Sk | ≥ a}1≤k≤nSnAk и события Ai Aj = O, ∀i 6= j.⇒PnPnPnA = k=12= k=1 E(Sk +|2 = ESn2 · 1 ≥ ESn2 · I = ES12 · k=1 IAk Pi=1 E|Xi | = E|SnPnn(Sn − Sk ))2 · IAk ≥ k=1 (ESk2 IAk + 2E(Sk − Sk )Sk IAk ) = k=1 ESk2 IAk ≥a2 EIAk = a2 P(A).Theorem 9.2 (Усиленный закон больших чисел).P∞Пусть X1 , .., Xn независимые случайные величины n=1DXnn2< ∞.ТогдаX1 + X2 + ...
+ XnEX1 + EX2 + ... + EXn−→0nnP∞nВ законе больших чисел вместо n=1 DXn2 < ∞ было DXi ≤ c и последнее сильнее первого.Доказательство. Положим Yi = Xi − EXi .Отсюда и из определения следует, что EY = 0. Если Sn = Y1 + Y2 + ... + Yn . Следовательно, Snn → 0почти наверное. В силу утверждения сходимости повсюду, достаточно доказать для любого ε > 0 справедливо выражение P (supk≥n |Skk | > ε) → 0при n → ∞(1).Для доказательства (2) достаточно показать, что469 Лекция 9P(∞[Ak ) → 0, An =k=n|sup2n−1 ≤i<2nSi> ε|(2)iДля доказательства(2)Pдостаточно доказать, что рядS∞∞так как P ( k=n Ak ) ≤ k=n P (Ak ).По неравенству КолмогороваP (An ) ≤ P (max2n−1 ≤k≤2nP∞k=1P (Ak < ∞),XDS2n|Sk |) ≤ 2 2(n−1) = 4ε−2 2−2nσr2 ,n−1ε·2ε 2k≤2nгдеPσr2 = DXk ,P∞PPP∞∞⇒ n=1 P (An ) ≤ 4ε−2 n=1 2−2n k≤2n σk2 = 4ε−2 k=1 σk2 n:2n ≥k 2−2n == 4ε−2P∞k=11σk2 k2 (1−< ∞.1)4Замечание 9.1.
Пример того, что из сходимости по вероятности не следует сходимость почти наверное.(Ω, A, P), Ω = [0, 1], A - борелевская σ - алгебра подмножеств [0, 1], P мера Лебега на [0, 1].Построим последовательность Xn → 0 по вероятности P (|Xn | > ε) → 0.Последовательность Xn не сходится к 0 ни в одной точке , т.е.(Xn → 0∀ω).Замечание 9.2. ρ(t) - непрерывна и ограничена на [0, 1] (не ограничиваяобщности 0 ≤ ρ(t) ≤ 1). Тогда интегралZ1ρ(t) dt0можно вычислить используя усиленный закон больших чисел.Доказательство. Пусть X1 , X2 , ..., Xn , Y1 , Y2 , ..., Yn независимые случайные величины, равномерно распределенные на отрезке [0, 1].Определение 9.1. Cлучайная величина X на [a, b] равномерно распределена, если плотность ее распределения1b−aρx (z) = {0,,z∈[a,b]1,ρ(xi )≥yiZi = {0,.Тогда Z1 , Z2 , ..., Zn равномерно распределены и независимы.Z 1EZ1 = P (ρ(x1 ) ≥ Y1 ) =ρ(t) dt09.1 Производящие функции47Z1Z1 + Z2 + ...