Н.И. Чернова - Теория вероятностей (1119918), страница 26
Текст из файла (страница 26)
Пусть существует момент порядка k ∈ N случайной величины ξ,т. е. E |ξ|k < ∞. Тогда характеристическая функция ϕξ (t) в окрестности точки t = 0 разлагается в ряд Тейлораϕξ (t)= ϕξ (0) +kXtjj=1j!(j)ϕξ (0) + o(|tk |) = 1 +kXij tjj=1j!E ξj + o(|tk |) =t2ik tk= 1 + it E ξ − E ξ2 + . . . +E ξk + o(|tk |).2k!Ряды Тейлора бывают особенно полезны в теории пределов. Следующееосновное свойство характеристических функций потребуется нам для доказательства предельных теорем, и это свойство — последняя теорема, оставленная нами без доказательства.Теорема 41 (т е о р е м а о н е п р е р ы в н о м с о о т в е т с т в и и25 ).Случайные величины ξn слабо сходятся к случайной величине ξ тогда и только тогда, когда для любого t характеристические функции ϕξn (t) сходятся к характеристической функции ϕξ (t).Сформулированная теорема устанавливает непрерывное соответствиемежду классами hFξ , ⇒i функций распределения со слабой сходимостьюи hϕξ , →i характеристических функций со сходимостью в каждой точке.24 Brook25 PaulTaylor (18.08.1685 — 29.12.1731, England)Pierre Lévy (15.09.1886 — 15.12.1971, France)ГЛАВА 13.
Характеристические функции125«Непрерывность» этого соответствия — в том, что пределу в одном классе относительно заданной в этом классе сходимости соответствует предел вдругом классе относительно сходимости, заданной в этом другом классе.Осталось воспользоваться теоремой о непрерывном соответствии и доказать ЗБЧ в форме Хинчина и ЦПТ.§ 3. Доказательство ЗБЧ ХинчинаПусть ξ1 , ξ2 , .
. . — последовательность независимых в совокупности иодинаково распределённых случайных величин с конечным п е р в ы м моментом E |ξ1 | < ∞. Обозначим через a математическое ожидание E ξ1 . Требуется доказать, чтоξ1 + · · · + ξn pSn=−→ a.nnПо свойству 20 сходимость по вероятности к п о с т о я н н о й эквивалентна слабой сходимости.
Так как a — постоянная, достаточно доказатьслабую сходимость Sn / n к a. По теореме о непрерывном соответствии, этасходимость имеет место тогда и только тогда, когда для любого t ∈ R сходятся характеристические функцииϕSn /n(t) → ϕa (t) = E eita = eita .Найдём характеристическую функцию случайной величины Sn / n. Пользуясь свойствами (Ф3) и (Ф4), получим t t nϕS /n (t) = ϕS= ϕξ1.nnnnВспомним, что первый момент ξ1 существует, поэтому свойство (Ф6) позволяет разложить ϕξ1 (t) в ряд Тейлора в окрестности нуля:ϕξ (t) = 1 + it E ξ1 + o(|t|) = 1 + ita + o(|t|).1В точке t/n, соответственно, t tita =1++oϕξ ,1nnn n t ntita ϕS /n (t) = ϕξ1= 1++o .nnnnx n→ ex , полуПри n → ∞, пользуясь «замечательным пределом» 1 +nчим t nita ϕS /n (t) = 1 ++o → eita ,nnnчто и требовалось доказать.126ГЛАВА 13.
Характеристические функции§ 4. Доказательство центральной предельной теоремыПусть ξ1 , ξ2 , . . . — последовательность независимых в совокупности иодинаково распределённых случайных величин с конечной и ненулевой дисперсией. Обозначим через a математическое ожидание E ξ1 и через σ2 —дисперсию D ξ1 . Требуется доказать, чтоSn − naξ1 + . . . + ξn − na√√=⇒ N0,1 .σ nσ nВведём «стандартизованные» случайные величины ζi = (ξi − a)/ σ —независимые случайные величины с нулевыми математическими ожиданиями и единичными дисперсиями (проверить). Пусть Zn есть их√сумма Zn == ζ1 + · · · + ζn = (Sn − na)/ σ. Требуется доказать,√ что Zn / n ⇒ N0,1 .Характеристическая функция величины Zn / n равна t t n√ϕ(t)=ϕ= ϕζ 1 √.(28)√ZnZn / nnnХарактеристическую функцию случайной величины ζ1 можно разложитьв ряд Тейлора, в коэффициентах которого использовать известные моментыE ζ1 = 0, E ζ21 = D ζ1 = 1.
Получимt2t2Eζ21 + o(t2 ) = 1 −+ o(t2 ).122√Подставим это разложение, взятое в точке t/ n, в равенство (28) и устремим n к бесконечности. Ещё раз воспользуемся замечательным пределом. n t2 nt t2−t2 /2√ϕ=1−+o→eпри n → ∞.(t)=ϕ√ζ1Zn / n2nnnϕζ (t) = 1 + it E ζ1 −В пределе получили характеристическую функцию стандартного нормального распределения. По теореме о непрерывном соответствии можно сделать вывод о слабой сходимостиZS − na√n = n √⇒ N0,1 .nσ nПопробуйте теперь сами:Упражнение.
Пусть при любом λ > 0 случайная величина ξλ имеет распределение Пуассона с параметром λ. Используя√теорему о непрерывном соответствии,доказать, что случайные величины (ξλ − λ) / λ слабо сходятся к стандартному нормальному распределению при λ → ∞. Характеристическая функция случайной величины ξλ вычислена в примере 68.ПриложениеВ этом разделе, который никогда не будет прочитан на лекциях, поскольку эта тема подробно разбирается на практических занятиях, мы поговоримо максимуме и минимуме из n случайных величин. Вдумчивый читатель ужедогадался, что ничего общего с клубом «Максимин» ЭФ НГУ эта тема неимеет.
Нам необходимо уметь обращаться с минимумом и максимумом изнескольких случайных величин хотя бы потому, что при изучении математической статистики мы не раз о них вспомним.Пусть случайные величины ξ1 , ξ2 , . . . независимы в совокупности и одинаково распределены, Fξ1 (x) — их общая функция распределения.О п р е д е л е н и е № N. Случайную величину ϕn = max{ξ1 , . .
. , ξn }назовём максимумом, а случайную величину ψn = min{ξ1 , . . . , ξn } — минимумом из n случайных величин ξ1 , . . . , ξn .З а м е ч а н и е № N. Заметим, что ϕn (ω) = max{ξ1 (ω), . . . , ξn (ω)}, т. е. ϕn накаждом элементарном исходе совпадает с одной из ξi , 1 6 i 6 n, но ни с однойиз них не совпадает при всех ω (если величины независимы).У п р а ж н е н и е № N. Доказать, что вероятность максимуму из первых n независимых и одинаково распределённых случайных величин, имеющих абсолютнонепрерывное распределение, равняться первой из них, равно как и любой другой,есть 1/n:1P(max{ξ1 , .
. . , ξn } = ξ1 ) = = P(ξ1 > ξ2 , . . . , ξ1 > ξn ).nДля доказательства воспользоваться соображениями симметрии, разбив пространство Ω на несколько равновероятных событий вида {ξ1 > ξ2 , . . . , ξ1 > ξn }и несколько событий нулевой вероятности, включающих возможные равенства.Вспомнить, с какой вероятностью две (или больше) из ξ1 , .
. . , ξn совпадают (нарисовать событие {ξ1 = ξ2 } на плоскости).Т е о р е м а № N. Функции распределения случайных величинϕn = max{ξ1 , . . . , ξn } и ψn = min{ξ1 , . . . , ξn } равны соответственноnnи Fψn (x) = 1 − 1 − Fξ1 (x) .Fϕn (x) = Fξ1 (x)Доказательство. Найдём функцию распределения Fϕn (x). Максимумиз n величин меньше x тогда и только тогда, когда каждая из этих величинменьше x. Поэтому событие {ϕn < x} равносильно пересечению n неза-128ПРИЛОЖЕНИЕвисимых событий {ξ1 < x}, .
. . , {ξn < x}, имеющих одну и ту же вероятность Fξ1 (x):Fϕn (x) = P max{ξ1 , . . . , ξn } < x = P ξ1 < x, . . . , ξn < x = nn= P ξ1 < x · . . . · P ξn < x = P ξ1 < x= Fξ1 (x) .Найдём функцию распределения Fψn (x). Минимум из n величин неменьше x тогда и только тогда, когда каждая из этих величин не меньше x:Fψn (x) = P min{ξ1 , . . . , ξn } < x = 1 − P min{ξ1 , . . . , ξn } > x == 1 − P ξ1 > x, . . . , ξn > x = 1 − P ξ1 > x · .
. . · P ξn > x = nn= 1 − P ξ1 > x= 1 − 1 − Fξ1 (x) .П р и м е р № N. Пусть случайные величины ξ1 , ξ2 , . . . независимыв совокупности и имеют равномерное распределение на отрезке [0, 1].Докажем, что последовательность случайных величин ϕ1 = ξ1 , ϕ2 == max{ξ1 , ξ2 }, ϕ3 = max{ξ1 , ξ2 , ξ3 }, . . . сходится по вероятности к правому концу отрезка — к единице. Можно произнести это утверждение так:«максимум из первых n случайных величин с ростом n сходится к единицепо вероятности». Есть как минимум два способа доказательства.Способ 1.
По определению. Зафиксируем произвольное число ε > 0.Заметим, что ϕn 6 1, поскольку это максимум из случайных величин, принимающих значения на отрезке [0, 1] п. н. ПоэтомуP |ϕn − 1| > ε = P 1 − ϕn > ε .Для того, чтобы установить сходимость последней вероятности к нулю,можно её либо найти, либо оценить с помощью неравенства Маркова. Сделаем и то, и другое.(А) Найдём эту вероятность.P 1 − ϕn > ε = P ϕn 6 1 − ε = Fϕn (1 − ε).Для равномерного распределения на отрезке [0, 1]0,x < 0,0, x < 0,n nFξ1 (x) = x, 0 6 x 6 1,Fϕn (x) = Fξ1 (x) = x , 0 6 x 6 1,1, x > 1;1,x > 1.А если ещё заметить, что 1 − ε < 1, то(0,1 − ε < 0, т. е. ε > 1,Fϕn (1 − ε) =n(1 − ε) , 0 6 1 − ε < 1, т.
е. 0 < ε 6 1.Видно, что P |ϕn − 1| > ε = Fϕn (1 − ε) → 0 при n → ∞.ПРИЛОЖЕНИЕ129(Б) Оценим вероятность сверху. Поскольку 1 − ϕn > 0 п. н. и ε > 0, топо неравенству Маркова E (1 − ϕn )1 − E ϕnP 1 − ϕn > ε 6=.(29)εεНайдём плотность распределения ϕn и математическое ожидание E ϕn :0,x < 0;0 fϕn (x) = Fϕn (x) = nxn−1 , 0 6 x 6 10,x > 1;Z1E ϕn = x nxn−1 dx =n.n+10Подставляя математическое ожидание в неравенство (29), получимn1− 1 − E ϕn1n+1 ==→ 0 при n → ∞.P 1 − ϕn > ε 6εε(n + 1) εСпособ 2. Используем связь со слабой сходимостью. Сходимостьпо вероятности к п о с т о я н н о й равносильна слабой сходимости (свойство 20).
Докажем, что ϕn слабо сходится к единице. Требуется доказать,что функция распределения Fϕn (x) сходится к F1 (x) = P(1 < x) для любого x 6= 1 (почему кроме 1?).При любом x < 0 имеем: Fϕn (x) = 0 → F1 (x) = 0 при n → ∞. Прилюбом 0 6 x < 1 имеем: Fϕn (x) = xn → F1 (x) = 0 при n → ∞. При любомx > 1 имеем: Fϕn (x) = 1 → F1 (x) = 1. И только при x = 1 сходимости нет:Fϕn (1) = 1, тогда как F1 (1) = 0. Но сходимости в точке x = 1 и не требуется — в этой точке предельная функция распределения терпит разрыв:(0, x 6 1;F1 (x) =1, x > 1;Таким образом, ϕn слабо сходится к единице, и, следовательно, сходится к ней же по вероятности.У п р а ж н е н и е № N + 1. Доказать (способами (1А), (1Б) и (2), что, в условияхпримера (N), последовательность ψ1 , ψ2 , ψ3 , .
. . сходится по вероятности к нулю(мы будем говорить «минимум из первых n случайных величин с ростом n сходитсяк нулю по вероятности»).Красивых задач, связанных с максимумом и минимумом, слишком много. Предлагаю вам решить, например, следующие:130ПРИЛОЖЕНИЕПусть случайные величины ξ1 , ξ2 , . . . независимы в совокупности иимеют равномерное распределение на отрезке [a, b], ϕn = max{ξ1 , . . . , ξn },ψn = min{ξ1 , . . . , ξn }. Доказать, что:1) последовательность n(b − ϕn )/(b − a) при n → ∞ слабо сходитсяк показательному распределению с параметром 1;2) точно так же себя ведёт последовательность n(ψn − a)/(b − a);3) это не удивительно, поскольку случайные величины b − ϕn и ψn − aодинаково распределены;n4) посчитав вероятность P(ψn > x, ϕn < y) = P(x 6 ξ1 < y) ,можно легко найти функцию совместного распределения случайных величин ψn , ϕn , и с её помощью, например, доказать зависимость этих величин.Зависимость, впрочем, и так очевидна, достаточно рассмотреть пустое пересечение двух событий {ϕn < (a + b)/2} и {ψn > (a + b)/2}, вероятностькоторых положительна.Простые и непростые задачи1.