Н.И. Чернова - Теория вероятностей (1115308), страница 23
Текст из файла (страница 23)
Свойство «предел суммы равен сумме пределов» дляслабой сходимости просто бессмысленно: сходимости ξn ⇒ ξ, ηn ⇒ ηозначают, что нам известны предельные распределения этих последовательностей. Но предельное распределение их суммы может быть различным в зависимости от совместного распределения ξn и ηn . Иное дело,когда одно из предельных распределений вырождено.
Тогда предельнаяфункция распределения суммы или произведения определена однозначно.pС в о й с т в о 27. 1. Если ξn −→ c = const и ηn ⇒ η, то ξn · ηn ⇒ cη.p2. Если ξn −→ c = const и ηn ⇒ η, то ξn + ηn ⇒ c + η.Д о к а з а т е л ь с т в о. Нелюбознательный читатель может пропуститьэто доказательство, вернувшись к нему при втором прочтении.Заметим вначале, что если ηn ⇒ η, то cηn ⇒ cη и c + ηn ⇒ c + η(доказать). Поэтому достаточно доказать первое утверждение свойства27 при c = 1, а второе утверждение — при c = 0.Рассмотрим второе утверждение, оставив первое любознательному чиpтателю. Пусть ξn −→ 0 и ηn ⇒ η. Докажем, что тогда ξn + ηn ⇒ η.124ГЛАВА XI. ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМАПусть x0 — точка непрерывности функции распределения Fη (x).
Требуется доказать, что имеет место сходимость Fξn +ηn (x0 ) к Fη (x0 ). Зафиксируем ε > 0 такое, что Fη (x) непрерывна в точках x0 ± ε.Cобытия H1 = {|ξn | > ε} и H2 = {|ξn | < ε} образуют полную группу,поэтомуFξn +ηn (x0 ) = P(ξn + ηn < x0 , H1 ) + P(ξn + ηn < x0 , H2 ) = P1 + P2 .Оценим P1 + P2 сверху и снизу. Для P1 имеем0 6 P1 = P(ξn + ηn < x0 , H1 ) 6 P(H1 ) = P(|ξn | > ε),и последняя вероятность может быть выбором n сделана сколь угодномалой.
Для P2 , с одной стороны,P2 = P(ξn + ηn < x0 , −ε < ξn < ε) 6 P(−ε + ηn < x0 ) = Fηn (x0 + ε).Выше мы воспользовались тем, что если −ε < ξn и ξn + ηn < x0 , то темболее −ε + ηn < x0 . С другой стороны,P2 = P(ξn + ηn < x0 , −ε < ξn < ε) > P(ε + ηn < x0 , −ε < ξn < ε) >> P(ε + ηn < x0 ) − P(|ξn | > ε) = Fηn (x0 − ε) − P(|ξn | > ε).Здесь первое неравенство объясняется включением{ε + ηn < x0 , −ε < ξn < ε} ⊆ {ξn + ηn < x0 , −ε < ξn < ε},которое получилось заменой в событии {ε+ ηn < x0 } числа ε на меньшуювеличину ξn , ξn < ε. Второе неравенство следует из свойств:P(AB) 6 P(B), поэтому P(AB) = P(A) − P(AB) > P(A) − P(B).Мы получили оценки снизу и сверху для P1 + P2 , т.
е. для Fξn +ηn (x0 ) :Fηn (x0 − ε) − P(|ξn | > ε) 6 Fξn +ηn (x0 ) 6 P(|ξn | > ε) + Fηn (x0 + ε).Устремляя n к бесконечности и вспоминая, что x0 ± ε — точки непрерывности функции распределения Fη , получаемFη (x0 − ε) 6 lim Fξn +ηn (x0 ) 6 lim Fξn +ηn (x0 ) 6 Fη (x0 + ε).(25)У любой функции распределения не более чем счётное множество точекразрыва. Поэтому можно выбрать такую уменьшающуюся до нуля последовательность ε, что в точках x0 ± ε функция распределения Fη будетнепрерывной и, следовательно, останутся верны неравенства (25). Переходя к пределу по такой последовательности ε → 0 и помня, что x0 —точка непрерывности функции Fη , получаем, что нижний и верхний пределы Fξn +ηn (x0 ) при n → ∞ совпадают и равны Fη (x0 ).§ 2.
Слабая сходимость125Д о к а з а т е л ь с т в о у т в е р ж д е н и я (1) и з с в о й с т в а 26. Вкачестве простого следствия из только что доказанного второго утверpждения свойства 27 покажем, что сходимость ξn −→ ξ по вероятностивлечёт слабую сходимость ξn ⇒ ξ.Представим ξn в виде суммы ξn = (ξn − ξ) + ξ.
Здесь последовательность ξn − ξ по вероятности стремится к нулю, а «последовательность» ξслабо сходится к ξ. Поэтому их сумма слабо сходится к ξ.Получим ещё одно следствие из свойства 27. Для удобства ссылок назовём следующее утверждение «теоремой о двойном пределе».Т е о р е м а 40. Пусть ξn ⇒ ξ, причём функция распределения случайной величины ξ непрерывна всюду, и пусть xn → x0 ∈ [−∞, ∞] —числовая последовательность. Тогда Fξn (xn ) → Fξ (x0 ).В формулировке теоремы мы для краткости использовали записьFξ (±∞), которую следует понимать так: Fξ (−∞) = 0, Fξ (+∞) = 1.Д о к а з а т е л ь с т в о. Если x0 ∈ R, то утверждение теоремы следуетpиз свойства 27. Действительно, из xn → x0 следует, что xn −→ x0 .
Тогдаξn − xn ⇒ ξ − x0 по свойству 27. Функция распределения Fξ−x0 (x) отличается от Fξ (x) лишь сдвигом и тоже непрерывна всюду, поэтому имеетместо сходимость функций распределения в любой точке. В частности,в точке x = 0 имеет место сходимость при n → ∞Fξn (xn ) = P(ξn − xn < 0) = Fξn −xn (0) → Fξ−x0 (0) = Fξ (x0 ).Пусть теперь x0 = −∞. Нужно доказать, что Fξn (xn ) → Fξ (−∞) = 0.По определению, xn → −∞ с ростом n, если для любого M > 0 существует N такое, что при n > N выполнено неравенство: xn 6 −M.В силу монотонности функций распределения, 0 6 Fξn (xn ) 6 Fξn (−M ).В точке −M, как и в любой иной точке, имеет место сходимость функций распределения Fξn (−M ) → Fξ (−M ). Выбором M величина Fξ (−M )может быть сделана сколь угодно близкой к нулю.
Тем самым верхний предел последовательности Fξn (xn ) оказывается зажат между нулём и скольугодно малой величиной, т. е. равняется нулю.Случай x0 = +∞ проверяется аналогично.Основной источник слабо сходящихся последовательностей и необычайно мощное и универсальное средство для асимптотического анализа распределений сумм независимых и одинаково распределённых случайныхвеличин предоставляет нам центральная предельная теорема.126ГЛАВА XI. ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА§ 3. Центральная предельная теоремаМы будем называть следующее утверждение «ЦПТ Ляпунова19 », носформулируем и докажем теорему Ляпунова только в частном случае —для последовательности независимых и одинаково распределённых случайных величин.
Как и ранее, через Sn обозначена сумма первых n случайных величин в последовательности: Sn = ξ1 + . . . + ξn .Т е о р е м а 41 (Ц П Т Л я п у н о в а ). Пусть ξ1 , ξ2 , . . . — независимые и одинаково распределённые случайные величины с конечной и ненулевой дисперсией: 0 < D ξ1 < ∞. Тогда имеет место слабая сходимостьS n − n E ξ1p⇒ N0,1n D ξ1последовательности центрированных и нормированных сумм случайныхвеличин к стандартному нормальному распределению.Пользуясь определением и свойствами слабой сходимости и заметив,что функция распределения Φa,σ2 (x) любого нормального закона непрерывна всюду на R (почему?), утверждение ЦПТ можно сформулироватьлюбым из следующих способов.С л е д с т в и е 18. Пусть ξ1 , ξ2 , . .
. — независимые и одинаково распределённые случайные величины с конечной и ненулевой дисперсией. Тогдавыполнены утверждения:а) для любых вещественных x < y при n → ∞ имеет место сходимостьZy2S − n E ξ11√P x 6 np6 y → Φ0,1 (y) − Φ0,1 (x) =e−t /2 dt;2πn D ξ1xб) если η — произвольная случайная величина со стандартным нормальным распределением, тоp√ SnS − n E ξ1= N0,D ξ .n− E ξ1 = n √⇒ D ξ1 · η ⊂1nnМы докажем центральную предельную теорему и закон больших чиселв форме Хинчина в следующей главе.
Нам потребуется для этого познакомиться с мощным математическим инструментом, который в математике19Александр Михайлович Ляпунов (6.06.1857—3.11.1918).127§ 4. Предельная теорема Муавра — Лапласаобычно называют преобразованиями Фурье, а в теории вероятностей —характеристическими функциями.§ 4. Предельная теорема Муавра — ЛапласаПолучим в качестве следствия из ЦПТ Ляпунова предельную теоремуМуавра20 и Лапласа21 . Подобно ЗБЧ Бернулли, это утверждение годитсятолько для схемы Бернулли.Т е о р е м а 42 (п р е д е л ь н а я т е о р е м а М у а в р а — Л а п л а с а).Пусть событие A может произойти в любом из n независимых испытаний с одной и той же вероятностью p и пусть νn (A) — числоосуществлений события A в n испытаниях. Тогдаν (A) − nppn⇒ N0,1 при n → ∞,np (1 − p)т. е. для любых вещественных x < y имеет место сходимостьZy2ν (A) − np1√6 y → Φ0,1 (y) − Φ0,1 (x) =e−t /2 dt;P x 6 pn2πnp (1 − p)xД о к а з а т е л ь с т в о.
Величина νn (A) есть сумма независимых, одинаково распределённых случайных величин, имеющих распределение Бернулли с параметром, равным вероятности успеха p : νn (A) = ξ1 + . . . + ξn ,где E ξ1 = p, D ξ1 = p(1 − p). Осталось воспользоваться ЦПТ.П р и м е р 71. Задача из примера 70 (с. 119). Требуется найти1 νnP − > 0,01 ,n2где n = 10 000, νn — число выпадений герба. Вычислим вероятность дополнительного√события. Домножим обеpчасти неравенства под знаком вероятности на n = 100 и поделим на p (1 − p) = 1/2. √√nn νn 1 νnP − < 0,01 = P p= − p < 0,01 pn2p (1 − p) np (1 − p) √νn − npn νn=P p<2 ≈ − p < 2 = P −2 < pp (1 − p)nnp (1 − p)≈ Φ0,1 (2) − Φ0,1 (−2) = 1 − 2Φ0,1 (−2) = 1 − 2 · 0,0228 = 1 − 0,0456.2021Abraham de Moivre (26.05.1667—27.11.1754, France, England).Pierre-Simon Laplace (23.03.1749—5.03.1827, France).128ГЛАВА XI.
ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМАИскомая вероятность примерно равна 0,0456 :11 νn νnP − > 0,01 = 1 − P − < 0,01 ≈ 0,0456.n2n2Центральной предельной теоремой пользуются для приближённого вычисления вероятностей, связанных с суммами большого числа независимых и одинаково распределённых величин.
При этом распределение центрированной и нормированной суммы заменяют на стандартное нормальное распределение. Насколько велика ошибка при такой замене (погрешность приближения)?У п р а ж н е н и е . Какие ещё предельные теоремы для схемы Бернулливы знаете? Что такое теорема Пуассона? Найти её. Какова погрешностьпуассоновского приближения? Вычислить её. Объяснить, почему теоремаПуассона не применима в задаче из примера 71.В примере 71 мы вычислили вероятность приближённо. Следующийрезультат позволяет оценить погрешность приближения в ЦПТ.Т е о р е м а 43 (н е р а в е н с т в о Б е р р и — Э с с е́ е н а).
В условияхЦПТ для любого x ∈ R и для любого распределения ξ1 с конечным третьим моментом E |ξ1 − E ξ1 |3S−nEξn1P√<x−Φ(x)6C·0,1√ √3 .nDξn1D ξ1З а м е ч а н и е . В качестве постоянной C можно брать число 0,4.П р о д о л ж е н и е п р и м е р а 71. Проверьте, что для случайной величины ξ1 с распределением БернуллиE |ξ1 − E ξ1 |3 = |0 − p |3 P(ξ1 = 0) + |1 − p |3 P(ξ1 = 1) = p q(p2 + q 2 ).Поэтому разница между левой и правой частями приближённого равен1ства « ≈ » в примере 71 при n = 104 и p = q = не превышает величины2C·p q(p2 + q 2 )√√ 3p2 + q 21= C · √ √ 6 0,4 ·= 0,004,100n pqnpq( pq)1 νnт.
е. искомая вероятность P − > 0,01 не больше, чем 0,0456 +n21+0,004. Уместно сравнить этот ответ с оценкой , полученной с помощью4ЗБЧ в примере 70.Г Л А В А XIIХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИЯ напрямик спросил, какую пользу можно извлечь от изучения его работ о покере. «Примерно такую же, как от чтенияперсидской поэзии», — ответил фон Нейман.Д. Мак-Дональд. Игра называется бизнес§ 1. Определение и примеры√В этой главе i = −1 — мнимая единица, t — вещественная переменная, eit = cos t + i sin t — формула Эйлера, E (η + iζ) = E η + i E ζ — способвычисления математического ожидания комплекснозначной случайной величины η + iζ, если математические ожидания её действительной ( η ) имнимой ( ζ ) частей существуют.Как всегда, модулемpкомплексного числа itz = x + iy называется поло22жительное число |z| = x + y , так что e = 1.О п р е д е л е н и е 47.