Н.И. Чернова - Теория вероятностей (1115308), страница 21
Текст из файла (страница 21)
Иное дело — сходимость «почти наверное». Если, скажем, задать случайные величины как указано выше, то сходимость «по-§ 1. Сходимости «почти наверное» и «по вероятности»113чти наверное» будет иметь место. Действительно, для всякого ω ∈ [0, 1)найдётся такое n0 , что ω ∈ [0, 1 − 1/n0 ], и поэтому для всех n > n0 всеξn (ω) равны нулю.Можно попробовать задать случайные величины ξn на отрезке [0, 1]как-нибудь иначе, чтобы не было сходимости почти наверное. Для этогонужно заставить отрезок длины 1 / n, на котором ξn (ω) = n7 , «бегать»по отрезку [0, 1], чтобы любая точка ω ∈ [0, 1] попадала внутрь этогоотрезка бесконечное число раз, и, тем самым, для любого ω существовалаподпоследовательность ξnk (ω) → ∞.Сходимость по вероятности не обязательно сопровождается сходимоpстью математических ожиданий или моментов других порядков: из ξn −→ξ не следует, что E ξn → E ξ.
Действительно, в примере 69 имеет местоpсходимость ξn −→ ξ = 0, но E ξn = n6 6→ E ξ = 0. При этом вообщепоследовательность E ξn неограниченно возрастает.А если вместо значения n7 взять n (с той же вероятностью 1/ n ), тополучим E ξn = 1 6→ E ξ = 0. Но теперь хотя бы предел у последовательности математических ожиданий конечен.√n с вероятностями из примераЕсли же ξn принимаетзначения0и√69, то E ξn = 1/ n → E ξ = 0, но уже вторые моменты сходиться ковторому моменту ξ не будут: E ξ2n = 1 6→ E ξ2 = 0.Однако сходимость математических ожиданий и других моментов сходящихся последовательностей бывает чрезвычайно важна в различныхзадачах статистики.
Существуют условия, при выполнении которых схоpдимость по вероятности ξn −→ ξ влечёт сходимость математических ожиданий E ξn → E ξ.Сформулируем без доказательства следующее утверждение.pТ е о р е м а 34. Пусть ξn −→ ξ при n → ∞. Тогда для сходимостиE ξn → E ξ достаточно выполнения любого из следующих условий:1. Все члены последовательности ограничены одной и той же постоянной: |ξn | 6 C = const.2.
Все члены последовательности ограничены одной и той же случайной величиной с конечным первым моментом: |ξn | 6 η, E η < ∞.3. Существует α > 1 такое, что E |ξn |α 6 C = const для любого n.Самым слабым в этом списке является третье условие, наиболее ограничительным — первое. Ни одно из этих условий не является необходимымдля сходимости математических ожиданий (найти контрпример).114ГЛАВА X. СХОДИМОСТЬ ПОСЛЕДОВАТЕЛЬНОСТЕЙ СЛУЧАЙНЫХ ВЕЛИЧИНСходимость по вероятности, так же как и любая другая сходимость,не портится под действием непрерывной функции.С в о й с т в о 21.
Пусть функция g действует из R в R.pp1. Если ξn −→ ξ и функция g(x) непрерывна, то g(ξn ) −→ g(ξ).pp2. Если ξn −→ c и g(x) непрерывна в точке c, то g(ξn ) −→ g(c).Д о к а з а т е л ь с т в о. Простое доказательство первого утвержденияможно предложить в двух случаях, которыми мы и ограничимся: еслиξ = c = const (и тогда достаточно, чтобы g была непрерывна в точке c )или если функция g равномерно непрерывна (а что это значит?).И в том и в другом случае для любого ε > 0 найдётся такое δ > 0, чтодля любого ω, удовлетворяющего условию |ξn (ω)− ξ(ω)| < δ, выполняетсянеравенство |g(ξn (ω)) − g(ξ(ω))|< ε.Другимисловами,событие|ξ−ξ|<δвлечёт за собой событиеn|g(ξn ) − g(ξ)| < ε . Следовательно, вероятность первого не больше вероятности второго.
Но, какое бы ни было δ > 0, вероятность первого события стремится к единице по определению сходимости по вероятности:1 ←− P |ξn − ξ| < δ 6 P |g(ξn ) − g(ξ)| < ε 6 1.Тогда вероятность второго события также стремится к единице.То же самое можно утверждать и для непрерывной функции многих переменных, применённой к нескольким сходящимся последовательностям.С в о й с т в о 22.
Пусть функция g отображает R2 в R.pp1. Если ξn −→ ξ, ηn −→ η при n → ∞, функция g(x, y) всюдуpнепрерывна, то g(ξn , ηn ) −→ g(ξ, η).pp2. Если ξn −→ c1 , ηn −→ c2 при n → ∞, функция g(x) непрерывнаpв точке (c1 , c2 ), то g(ξn , ηn ) −→ g(c1 , c2 ).Д о к а з а т е л ь с т в о. Докажем опять только второе свойство. Воспользуемся определением непрерывности функции двух переменных: длялюбого ε > 0 найдётся такое δ > 0, что для любого ω, принадлежащегоодновременно двум событиямAn = |ξn (ω) − c1 | < δ ,Bn = |ηn (ω) − c2 | < δ ,выполняется неравенство|g(ξn (ω), ηn (ω)) − g(c1 , c2 )| < ε.Тогда событие An ∩ Bn влечёт событие C = |g(ξn , ηn ) − g(c1 , c2 )| < ε ,поэтому вероятность первого не больше вероятности второго.
Но вероятность пересечения двух событий, вероятности которых стремятся к едини-115§ 2. Неравенства Чебышёваце, также стремится к единице:P(An ∩ Bn ) = 1 − P An ∪ Bn > 1 − P An − P Bn → 1.Поэтому P(C) > P(An ∩ Bn ) → 1 при n → ∞.Из свойства 22 вытекают обычные свойства пределов, хорошо знакомые нам по числовым последовательностям. Например, функцииg(x, y) = x + y и g(x, y) = xy непрерывны в R2 , поэтому предел суммы (произведения) сходящихся по вероятности последовательностей равенсумме (произведению) пределов.pppС в о й с т в о 23.
Если ξn −→ ξ и ηn −→ η, то ξn + ηn −→ ξ + ηpи ξn · ηn −→ ξ · η .Сходимость «почти наверное» сильнее сходимости по вероятности.pС в о й с т в о 24. Если ξn → ξ п. н., то ξn −→ ξ.Д о к а з а т е л ь с т в о. Ограничимся для простоты случаем, когдаξn (ω) → ξ(ω) для любого ω. Зафиксируем ω ∈ Ω.
По определению предела, ξn (ω) → ξ(ω) при n → ∞, если для всякого ε > 0 найдётся N == N (ω, ε) > 0 такое, что для всех n > N выполняется неравенство|ξn (ω) − ξ(ω)| < ε.Событие A = { n > N (ω, ε)} влечёт событие B = {|ξn (ω) − ξ(ω)| < ε}.Тогда1 > P(B) > P(A) = P N (ω, ε) < n = FN (ε,ω) (n) → 1 при n → ∞по свойству (F2) функций распределения. Мы получили, что P(B) → 1,pт. е. ξn −→ ξ.§ 2. Неравенства ЧебышёваЧтобы доказывать сходимость по вероятности, требуется уметь вычислять P (|ξn − ξ| > ε) при больших n. Но для этого нужно знать распределение ξn , что не всегда возможно.Полезно иметь неравенства, позволяющие оценивать вероятностьP (|ξn − ξ| > ε) сверху. Тогда для доказательства сходимости по вероятности было бы достаточно устремить к нулю эту оценку.Все неравенства в этом параграфе принято относить к одному классунеравенств Чебышёва16 .16Пафнутий Львович Чебышёв (16.05.1821—8.12.1894).116ГЛАВА X.
СХОДИМОСТЬ ПОСЛЕДОВАТЕЛЬНОСТЕЙ СЛУЧАЙНЫХ ВЕЛИЧИНТ е о р е м а 35 (н е р а в е н с т в о М а р к о в а17 ). Если E |ξ| < ∞, тодля любого x > 0E |ξ|P |ξ| > x 6.xД о к а з а т е л ь с т в о. Нам потребуется следующее понятие.О п р е д е л е н и е 44. Назовём индикатором события A случайнуювеличину I(A), равную единице, если событие A произошло, и нулю,если A не произошло.По определению, величина I(A) имеет распределение Бернулли с параметром p = P(I(A) = 1) = P(A) и её математическое ожидание равновероятности успеха p = P(A). Индикаторы прямого и противоположногособытий связаны равенством I(A) + I(A) = 1. Поэтому|ξ| = |ξ| · I(|ξ| < x) + |ξ| · I(|ξ| > x) > |ξ| · I(|ξ| > x) > x · I(|ξ| > x).Тогда E |ξ| > E x · I(|ξ| > x) = x · P |ξ| > x .
Осталось разделить обечасти этого неравенства на положительное число x.С л е д с т в и е 16 (обобщённое неравенство Чебышёва). Пустьфункция g не убывает и неотрицательна на R. Если E g(ξ) < ∞, тодля любого x ∈ RE g(ξ)P ξ>x 6.g(x)Д о к а з а т е л ь с т в о. Заметим, что P ξ > x 6 P g(ξ) > g(x) , поскольку функция g не убывает. Оценим последнюю вероятность по неравенству Маркова, которое можно применять в силу неотрицательности g :E g(ξ).P g(ξ) > g(x) 6g(x)У п р а ж н е н и е . Записать предыдущее неравенство для функцииg(x) = ex и получить экспоненциальное неравенство Чебышёва.С л е д с т в и е 17 (неравенство Чебышёва).
Если D ξ существует, то для любого x > 0DξP |ξ − E ξ| > x 6 2 .xД о к а з а т е л ь с т в о. Для x > 0 неравенство |ξ − E ξ| > x равносильно неравенству (ξ − E ξ)2 > x2 , поэтому2P |ξ − E ξ| > x = P (ξ − E ξ) > x17Андрей Андреевич Марков (14.06.1856—20.07.1922).22E ξ − EξDξ6= 2.2xx§ 3. Законы больших чисел117Неравенство Чебышёва позволяет, помимо всего прочего, получать абсолютные оценки для вероятности того, что стандартизованная случайнаявеличина превзойдёт некоторое значение: для любого x > 0p ξ − Eξ Dξ1>x=P|ξ−Eξ|>xP √Dξ6=.x2 D ξx2Dξ Например, при x = 10 эта вероятность не превышает 0,01.§ 3. Законы больших чиселО п р е д е л е н и е 45. Говорят, что последовательность случайных величин ξ1 , ξ2 , .
. . с конечными первыми моментами удовлетворяет закону больших чисел (ЗБЧ), еслиξ1 + . . . + ξnn−E ξ1 + . . . + E ξn p−→ 0 при n → ∞.n(21)Законами больших чисел принято называть утверждения о том, прикаких условиях последовательность случайных величин удовлетворяет закону больших чисел.Выясним сначала, когда выполнен ЗБЧ для последовательности независимых и одинаково распределённых случайных величин.Т е о р е м а 36 (З Б Ч Ч е б ы ш ё в а). Для любой последовательностиξ1 , ξ2 , .
. . попарно независимых и одинаково распределённых случайныхвеличин с конечным вторым моментом E ξ21 < ∞ имеет место сходимостьξ1 + . . . + ξnnp−→ E ξ1 .(22)Заметим, что если величины одинаково распределены, то их математические ожидания одинаковы (и равны, например, E ξ1 ), поэтому свойство(21) можно записать в виде (22).ЗБЧ утверждает, что среднее арифметическое большого числа случайных слагаемых «стабилизируется» с ростом этого числа. Как бы сильнокаждая случайная величина ни отклонялась от своего среднего значения,при суммировании эти отклонения «взаимно гасятся», так что среднееарифметическое приближается к постоянной величине.В дальнейшем мы увидим, что требование конечности второго момента (или дисперсии) связано исключительно со способом доказательства,и что утверждение останется верным, если требовать существования только первого момента.118ГЛАВА X.
СХОДИМОСТЬ ПОСЛЕДОВАТЕЛЬНОСТЕЙ СЛУЧАЙНЫХ ВЕЛИЧИНД о к а з а т е л ь с т в о. Обозначим через Sn = ξ1 + . . . + ξn сумму первых n случайных величин. Из линейности математического ожидания получим ESnn=E ξ1 + . . . + E ξnn E ξ1== E ξ1 .nnПусть ε > 0. Воспользуемся неравенством Чебышёва (следствие 17) :SnD DSD ξ + .