_учебник_ Теория вероятности. Н.И. Чернова. 2007 (1185320), страница 20
Текст из файла (страница 20)
Искусство предположений§ 1. Сходимости «почти наверное» и «по вероятности»Напомним, что случайная величина есть (измеримая) функция из некоторого непустого множества Ω в множество действительных чисел. Последовательность случайных величин {ξn }∞n=1 есть тем самым последовательность функций, определённых на одном и том же множестве Ω.Существуют разные виды сходимости последовательности функций. Давать определение любой сходимости мы будем, опираясь на сходимостьчисловых последовательностей, как на уже известное основное понятие.В частности, при каждом новом ω ∈ Ω мы имеем новую числовую последовательность ξ1 (ω), ξ2 (ω), ξ3 (ω), .
. . Поэтому можно говоритьо сходимости последовательности значений функций в данной точке ω,а также во всех остальных точках ω ∈ Ω. В теории вероятностей можноне обращать внимание на неприятности, происходящие с нулевой вероятностью. Поэтому вместо сходимости «всюду» принято рассматриватьсходимость «почти всюду», или «почти наверное».О п р е д е л е н и е 42. Говорят, что последовательность {ξn } сходится почти наверное к случайной величине ξ при n → ∞, и пишут:ξn → ξ п. н., если P {ω | ξn (ω) → ξ(ω) при n → ∞} = 1. Иначе говоря,112ГЛАВА X.
СХОДИМОСТЬ ПОСЛЕДОВАТЕЛЬНОСТЕЙ СЛУЧАЙНЫХ ВЕЛИЧИНесли ξn (ω) → ξ(ω) при n → ∞ для всех ω ∈ Ω, кроме, возможно, ω ∈ A,где A — событие, имеющее нулевую вероятность.Заметим сразу: определение сходимости «почти наверное» требует знания того, как устроены отображения ω 7→ ξn (ω). В задачах же теории вероятностей, как правило, известны не сами случайные величины, а лишьих распределения.Можем ли мы, обладая только информацией о распределениях, говорить о какой-либо сходимости последовательности случайных величин{ξn } к случайной величине ξ ?Можно, скажем, потребовать, чтобы вероятность тех элементарных исходов ω, для которых ξn (ω) не попадает в « ε -окрестность» числа ξ(ω),уменьшалась до нуля с ростом n. Такая сходимость в функциональноманализе называется сходимостью «по мере», а в теории вероятностей —сходимостью «по вероятности».О п р е д е л е н и е 43.
Говорят, что последовательность случайных величин {ξn } сходится по вероятности к случайной величине ξ при n →p∞, и пишут ξn −→ ξ, если для любого ε > 0P (|ξn − ξ| > ε) → 0 при n → ∞ (или P (|ξn − ξ| < ε) → 1 при n → ∞).П р и м е р 69. Рассмотрим последовательность ξ1 , ξ2 , . . . , в которойвсе величины имеют разные распределения:величина ξn принимает значе77ния 0 и n с вероятностями P ξn = n = 1/n = 1 − P(ξn = 0). Докажем,что эта последовательность сходится по вероятности к нулю.Зафиксируем произвольное ε > 0.
Для всех n начиная с некоторогоn0 такого, что n70 > ε, верно равенство P(ξn > ε) = P(ξn = n7 ) = 1/ n.Поэтому1P |ξn − 0| > ε = P ξn > ε = P ξn = n7 =→ 0 при n → ∞.nИтак, случайные величины ξn с ростом n могут принимать всё бо́льшиеи бо́льшие значения, но со всё меньшей и меньшей вероятностью.Например, последовательность {ξn } можно задать на вероятностномпространстве hΩ, F, Pi = h[0, 1], B([0, 1]), λi так: положим ξn (ω) = 0для ω ∈ [0, 1 − 1/ n] и ξn (ω) = n7 для ω ∈ (1 − 1/ n, 1].Заметим, что сходимость по вероятности имеет место совершенно независимо от того, как именно заданы случайные величины на Ω, посколькуопределяется лишь их распределениями.З а м е ч а н и е .
Иное дело — сходимость «почти наверное». Если, скажем, задать случайные величины как указано выше, то сходимость «по-§ 1. Сходимости «почти наверное» и «по вероятности»113чти наверное» будет иметь место. Действительно, для всякого ω ∈ [0, 1)найдётся такое n0 , что ω ∈ [0, 1 − 1/n0 ], и поэтому для всех n > n0 всеξn (ω) равны нулю.Можно попробовать задать случайные величины ξn на отрезке [0, 1]как-нибудь иначе, чтобы не было сходимости почти наверное.
Для этогонужно заставить отрезок длины 1 / n, на котором ξn (ω) = n7 , «бегать»по отрезку [0, 1], чтобы любая точка ω ∈ [0, 1] попадала внутрь этогоотрезка бесконечное число раз, и, тем самым, для любого ω существовалаподпоследовательность ξnk (ω) → ∞.Сходимость по вероятности не обязательно сопровождается сходимоpстью математических ожиданий или моментов других порядков: из ξn −→ξ не следует, что E ξn → E ξ. Действительно, в примере 69 имеет местоpсходимость ξn −→ ξ = 0, но E ξn = n6 6→ E ξ = 0.
При этом вообщепоследовательность E ξn неограниченно возрастает.А если вместо значения n7 взять n (с той же вероятностью 1/ n ), тополучим E ξn = 1 6→ E ξ = 0. Но теперь хотя бы предел у последовательности математических ожиданий конечен.√n с вероятностями из примераЕсли же ξn принимаетзначения0и√69, то E ξn = 1/ n → E ξ = 0, но уже вторые моменты сходиться ковторому моменту ξ не будут: E ξ2n = 1 6→ E ξ2 = 0.Однако сходимость математических ожиданий и других моментов сходящихся последовательностей бывает чрезвычайно важна в различныхзадачах статистики.
Существуют условия, при выполнении которых схоpдимость по вероятности ξn −→ ξ влечёт сходимость математических ожиданий E ξn → E ξ.Сформулируем без доказательства следующее утверждение.pТ е о р е м а 34. Пусть ξn −→ ξ при n → ∞. Тогда для сходимостиE ξn → E ξ достаточно выполнения любого из следующих условий:1. Все члены последовательности ограничены одной и той же постоянной: |ξn | 6 C = const.2.
Все члены последовательности ограничены одной и той же случайной величиной с конечным первым моментом: |ξn | 6 η, E η < ∞.3. Существует α > 1 такое, что E |ξn |α 6 C = const для любого n.Самым слабым в этом списке является третье условие, наиболее ограничительным — первое.
Ни одно из этих условий не является необходимымдля сходимости математических ожиданий (найти контрпример).114ГЛАВА X. СХОДИМОСТЬ ПОСЛЕДОВАТЕЛЬНОСТЕЙ СЛУЧАЙНЫХ ВЕЛИЧИНСходимость по вероятности, так же как и любая другая сходимость,не портится под действием непрерывной функции.С в о й с т в о 21. Пусть функция g действует из R в R.pp1. Если ξn −→ ξ и функция g(x) непрерывна, то g(ξn ) −→ g(ξ).pp2.
Если ξn −→ c и g(x) непрерывна в точке c, то g(ξn ) −→ g(c).Д о к а з а т е л ь с т в о. Простое доказательство первого утвержденияможно предложить в двух случаях, которыми мы и ограничимся: еслиξ = c = const (и тогда достаточно, чтобы g была непрерывна в точке c )или если функция g равномерно непрерывна (а что это значит?).И в том и в другом случае для любого ε > 0 найдётся такое δ > 0, чтодля любого ω, удовлетворяющего условию |ξn (ω)− ξ(ω)| < δ, выполняетсянеравенство |g(ξn (ω)) − g(ξ(ω))|< ε.Другимисловами,событие|ξ−ξ|<δвлечёт за собой событиеn|g(ξn ) − g(ξ)| < ε . Следовательно, вероятность первого не больше вероятности второго.
Но, какое бы ни было δ > 0, вероятность первого события стремится к единице по определению сходимости по вероятности:1 ←− P |ξn − ξ| < δ 6 P |g(ξn ) − g(ξ)| < ε 6 1.Тогда вероятность второго события также стремится к единице.То же самое можно утверждать и для непрерывной функции многих переменных, применённой к нескольким сходящимся последовательностям.С в о й с т в о 22. Пусть функция g отображает R2 в R.pp1.
Если ξn −→ ξ, ηn −→ η при n → ∞, функция g(x, y) всюдуpнепрерывна, то g(ξn , ηn ) −→ g(ξ, η).pp2. Если ξn −→ c1 , ηn −→ c2 при n → ∞, функция g(x) непрерывнаpв точке (c1 , c2 ), то g(ξn , ηn ) −→ g(c1 , c2 ).Д о к а з а т е л ь с т в о. Докажем опять только второе свойство. Воспользуемся определением непрерывности функции двух переменных: длялюбого ε > 0 найдётся такое δ > 0, что для любого ω, принадлежащегоодновременно двум событиямAn = |ξn (ω) − c1 | < δ ,Bn = |ηn (ω) − c2 | < δ ,выполняется неравенство|g(ξn (ω), ηn (ω)) − g(c1 , c2 )| < ε.Тогда событие An ∩ Bn влечёт событие C = |g(ξn , ηn ) − g(c1 , c2 )| < ε ,поэтому вероятность первого не больше вероятности второго. Но вероятность пересечения двух событий, вероятности которых стремятся к едини-115§ 2.
Неравенства Чебышёваце, также стремится к единице:P(An ∩ Bn ) = 1 − P An ∪ Bn > 1 − P An − P Bn → 1.Поэтому P(C) > P(An ∩ Bn ) → 1 при n → ∞.Из свойства 22 вытекают обычные свойства пределов, хорошо знакомые нам по числовым последовательностям. Например, функцииg(x, y) = x + y и g(x, y) = xy непрерывны в R2 , поэтому предел суммы (произведения) сходящихся по вероятности последовательностей равенсумме (произведению) пределов.pppС в о й с т в о 23. Если ξn −→ ξ и ηn −→ η, то ξn + ηn −→ ξ + ηpи ξn · ηn −→ ξ · η .Сходимость «почти наверное» сильнее сходимости по вероятности.pС в о й с т в о 24. Если ξn → ξ п. н., то ξn −→ ξ.Д о к а з а т е л ь с т в о. Ограничимся для простоты случаем, когдаξn (ω) → ξ(ω) для любого ω.
Зафиксируем ω ∈ Ω. По определению предела, ξn (ω) → ξ(ω) при n → ∞, если для всякого ε > 0 найдётся N == N (ω, ε) > 0 такое, что для всех n > N выполняется неравенство|ξn (ω) − ξ(ω)| < ε.Событие A = { n > N (ω, ε)} влечёт событие B = {|ξn (ω) − ξ(ω)| < ε}.Тогда1 > P(B) > P(A) = P N (ω, ε) < n = FN (ε,ω) (n) → 1 при n → ∞по свойству (F2) функций распределения. Мы получили, что P(B) → 1,pт. е. ξn −→ ξ.§ 2. Неравенства ЧебышёваЧтобы доказывать сходимость по вероятности, требуется уметь вычислять P (|ξn − ξ| > ε) при больших n.
Но для этого нужно знать распределение ξn , что не всегда возможно.Полезно иметь неравенства, позволяющие оценивать вероятностьP (|ξn − ξ| > ε) сверху. Тогда для доказательства сходимости по вероятности было бы достаточно устремить к нулю эту оценку.Все неравенства в этом параграфе принято относить к одному классунеравенств Чебышёва16 .16Пафнутий Львович Чебышёв (16.05.1821—8.12.1894).116ГЛАВА X. СХОДИМОСТЬ ПОСЛЕДОВАТЕЛЬНОСТЕЙ СЛУЧАЙНЫХ ВЕЛИЧИНТ е о р е м а 35 (н е р а в е н с т в о М а р к о в а17 ). Если E |ξ| < ∞, тодля любого x > 0E |ξ|P |ξ| > x 6.xД о к а з а т е л ь с т в о.
Нам потребуется следующее понятие.О п р е д е л е н и е 44. Назовём индикатором события A случайнуювеличину I(A), равную единице, если событие A произошло, и нулю,если A не произошло.По определению, величина I(A) имеет распределение Бернулли с параметром p = P(I(A) = 1) = P(A) и её математическое ожидание равновероятности успеха p = P(A). Индикаторы прямого и противоположногособытий связаны равенством I(A) + I(A) = 1. Поэтому|ξ| = |ξ| · I(|ξ| < x) + |ξ| · I(|ξ| > x) > |ξ| · I(|ξ| > x) > x · I(|ξ| > x).Тогда E |ξ| > E x · I(|ξ| > x) = x · P |ξ| > x .