Н.И. Чернова - Теория вероятностей (1115308), страница 22
Текст из файла (страница 22)
. . + D ξnSn SnnP −E= 2 n2 = 1 2 2=>ε 62nnεn εn εnDξDξ= 2 21 = 21 → 0 при n → ∞,n εnε(23)так как D ξ1 < ∞. Дисперсия суммы превратилась в сумму дисперсийв силу попарной независимости слагаемых, из-за которой все ковариацииcov(ξi , ξj ) в свойстве 19 (с. 103) обратились в нуль при i 6= j.З а м е ч а н и е . Мы не только доказали сходимость, но и получилиоценку для вероятности среднему арифметическому любого числа попарно независимых и одинаково распределённых величин отличаться от E ξ1более чем на заданное ε :Dξ ξ1 + . . . + ξn(24)P − E ξ1 > ε 6 21 .nnεПопарную независимость слагаемых в ЗБЧ Чебышёва можно заменитьих попарной некоррелированностью, ничего не меняя в доказательстве.ЗБЧ может выполняться и для последовательности зависимых и разнораспределённых слагаемых.
Из неравенства Чебышёва сразу вытекает следующее достаточное условие выполнения ЗБЧ для последовательности произвольных случайных величин.Т е о р е м а 37 (З Б Ч М а р к о в а). Последовательность случайныхвеличин ξ1 , ξ2 , . . . с конечными вторыми моментами удовлетворяетD SnЗБЧ, если D Sn = o(n2 ), т. е. если→ 0 при n → ∞.n2Теорема Маркова утверждает, что ЗБЧ выполнен, если дисперсия суммы n слагаемых растёт не слишком быстро с ростом n.Сильная зависимость слагаемых приводит обычно к невыполнениюЗБЧ. Если, например, D ξ1 6= 0 и ξn ≡ ξ1 , то Sn = nξ1 , и свойство (22)не выполнено (убедиться в этом!). В этом случае не выполнено и достаточное условие для ЗБЧ: D Sn = D (nξ1 ) = cn2 .
Для одинаково распределённых слагаемых дисперсия суммы ещё быстрее расти уже не может.Следующее утверждение мы докажем чуть позже. Сравните его условия с условиями ЗБЧ Чебышёва.119§ 3. Законы больших чиселТ е о р е м а 38 (З Б Ч Х и н ч и н а18 ). Для любой последовательностиξ1 , ξ2 , . . . независимых (в совокупности) и одинаково распределённыхслучайных величин с конечным первым моментом E |ξ1 | < ∞ имеетместо сходимость:ξ1 + . . . + ξnnp−→ E ξ1 .Итак, чтобы последовательность независимых и одинаково распределённых случайных величин удовлетворяла ЗБЧ, достаточно существования первого момента слагаемых.
Более того, в условиях теоремы 38 имеет место и сходимость п. н. последовательности (ξ1 + . . . + ξn )/n к E ξ1 .Это утверждение называется усиленным законом больших чисел (УЗБЧ)Колмогорова, и его мы доказывать не будем.Получим в качестве следствия из ЗБЧ Чебышёва закон больших чисел Бернулли. В отличие от ЗБЧ Чебышёва, описывающего предельноеповедение среднего арифметического случайных величин с произвольными распределениями, ЗБЧ Бернулли — утверждение только для схемыБернулли.Т е о р е м а 39 (З Б Ч Б е р н у л л и). Пусть событие A может произойти в любом из n независимых испытаний с одной и той же вероятностью p, и пусть νn (A) — число осуществлений события A в nиспытаниях.
Тогдаνn (A)np−→ p. При этом для любого ε > 0p(1 − p) νn (A)P − p > ε 6.2nnεД о к а з а т е л ь с т в о. Заметим, что νn (A) есть сумма независимых,одинаково распределённых случайных величин, имеющих распределениеБернулли с параметром p = P(A) (индикаторов того, что в соответствующем испытании произошло A ): νn (A) = ξ1 + .
. . + ξn , где(1, если A произошло в i-м испытании;ξi =0, если A не произошло в i-м испытании;и E ξ1 = P(A) = p, D ξ1 = p(1 − p). Осталось воспользоваться ЗБЧв форме Чебышёва и неравенством (24).П р и м е р 70. Монета подбрасывается 104 раз. Оценим вероятность1того, что частота выпадения герба отличается отна 0,01 или более.218Александр Яковлевич Хинчин (19.07.1894—18.11.1959).120ГЛАВА X. СХОДИМОСТЬ ПОСЛЕДОВАТЕЛЬНОСТЕЙ СЛУЧАЙНЫХ ВЕЛИЧИНПусть ξ1 , . . . , ξn — независимые случайные величины, каждая из которых имеет распределение Бернулли с параметром p = 1/2 и равна единице, если при соответствующемвыпал герб, и нулю иначе. подбрасыванииnP1νξi — числоНужно оценить P n − > 0,01 , где n = 104 , а νn =n2i=11 11выпадений герба. Поскольку D ξ1 = · = , искомая оценка сверху2 24выглядит так:1 νnP − > 0,01 6n2D ξ111== .24−444 · 10 · 10n · 0,01Итак, неравенство Чебышёва позволяет заключить, что в среднем не более чем в четверти случаев при 10 000 подбрасываниях монеты частота1выпадения герба будет отличаться отна одну сотую или больше.
Мы2увидим, насколько это грубая оценка, когда познакомимся с центральнойпредельной теоремой.Г Л А В А XIЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМАИз этой первой лекции по теории вероятностей я запомнил толькополузнакомый термин «математическое ожидание». Незнакомец употреблял этот термин неоднократно, и каждый раз я представлял себебольшое помещение, вроде зала ожидания, с кафельным полом, гдесидят люди с портфелями и бюварами и, подбрасывая время от времени к потолку монетки и бутерброды, сосредоточенно чего-то ожидают.
До сих пор я часто вижу это во сне. Но тут незнакомец оглушилменя звонким термином «предельная теорема Муавра — Лапласа» исказал, что всё это к делу не относится.Аркадий и Борис Стругацкие. Стажёры§ 1. Как быстро среднее арифметическое сходитсяк математическому ожиданию?Пусть, как в законе больших чисел Чебышёва, Sn = ξ1 + . . . + ξn —сумма n независимых и одинаково распределённых величин с конечнойpSдисперсией. Тогда по ЗБЧ n −→ E ξ1 с ростом n. Или, после приведенияnк общему знаменателю,Sn − n E ξ1 p−→ 0.nЕсли при делении на n мы получили в пределе нуль (в смысле некоторой,всё равно какой, сходимости), резонно задать себе вопрос: а не слишком лина большую величину мы поделили? Нельзя ли поделить на что-нибудь,растущее к бесконечности медленнее, чем n, чтобы получить в пределене нуль (но и не бесконечность)?Можно поставить тот же вопрос иначе.
Есть последовательность, стремящаяся к нулю. Можно ли её домножить на что-либо растущее, чтобы«погасить» это стремление к нулю и получить, тем самым, что-нибудьконечное и ненулевое в пределе?122ГЛАВА XI. ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМАОказывается, что уже последовательность случайных величин√S n − n E ξ1S − n E ξ1√= n· nnnне сходится к нулю. Распределение членов этой последовательности становится всё более похожим на нормальное распределение! Можно считать,что такая последовательность сходится к случайной величине, имеющейнормальное распределение, но сходится никак не по вероятности, а тольков смысле сходимости распределений, или «слабой сходимости».§ 2. Слабая сходимостьПусть задана последовательность случайных величин ξ1 , ξ2 , .
. . , задано некоторое распределение F с функцией распределения Fξ и пусть ξ —произвольная случайная величина, имеющая распределение F.О п р е д е л е н и е 46. Говорят, что последовательность случайных величин ξ1 , ξ2 , . . . сходится слабо или по распределению к случайной величине ξ и пишут: ξn ⇒ ξ, если для любого x такого, что функция распределения Fξ непрерывна в точке x, имеет место сходимость Fξn (x) → Fξ (x)при n → ∞.Итак, слабая сходимость — это сходимость функций распределения вовсех точках непрерывности предельной функции распределения.З а м е ч а н и е . Заметим, что сходимость ξn ⇒ ξ есть сходимость распределений, а не случайных величин: если «предельную» величину ξ заменить на другую величину η с тем же распределением, ничего не изменится: в том же смысле ξn ⇒ η.Следующее свойство очевидно. Если нет — нужно вернуться к определению и свойствам функций распределения.С в о й с т в о 25.
Если ξn ⇒ ξ, и функция распределения Fξ непрерывна в точках a и b, то P(ξn ∈ (a, b)) → P(ξ ∈ (a, b)). Если во всехточках a и b непрерывности функции распределения Fξ имеет местосходимость P(ξn ∈ (a, b)) → P(ξ ∈ (a, b)), то ξn ⇒ ξ.pС в о й с т в о 26. 1. Если ξn −→ ξ, то ξn ⇒ ξ.p2. Если ξn ⇒ c = const, то ξn −→ c.Итак, сходимость по вероятности влечёт слабую сходимость. Обратноеутверждение в общем случае смысла не имеет (см. замечание выше). Однако из слабой сходимости к постоянной вытекает сходимость по вероятности.§ 2.
Слабая сходимость123Д о к а з а т е л ь с т в о. Первое утверждение мы докажем чуть позже.Докажем, что слабая сходимость к постояннной влечёт сходимость повероятности. Пусть ξn ⇒ c, т. е.(0, x 6 c;Fξn (x) → Fc (x) =1, x > cпри любом x, являющемся точкой непрерывности предельной функцииFc (x), т. е.
при всех x 6= c.Возьмём произвольное ε > 0 и докажем, что P(|ξn − c| < ε) → 1 :P(−ε < ξn − c < ε) = P(c − ε < ξn < c + ε) > P(c − ε/2 6 ξn < c + ε) == Fξn (c + ε) − Fξn (c − ε/2) → Fc (c + ε) − Fc (c − ε/2) = 1 − 0 = 1,поскольку в точках c+ε и c−ε/2 функция Fc непрерывна, и, следовательно, имеет место сходимость последовательностей Fξn (c+ε) к Fc (c+ε) = 1и Fξn (c − ε/2) к Fc (c − ε/2) = 0.Осталось заметить, что P(|ξn − c| < ε) не бывает больше 1, так что посвойству предела зажатой последовательности P(|ξn − c| < ε) → 1.Следующее свойство приводит пример операций, которые можно применять к слабо сходящимся последовательностям — домножать их на последовательности, сходящиеся по вероятности к постоянным величинам.З а м е ч а н и е .
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
