_учебник_ Теория вероятности. Н.И. Чернова. 2007 (1185320), страница 21
Текст из файла (страница 21)
Осталось разделить обечасти этого неравенства на положительное число x.С л е д с т в и е 16 (обобщённое неравенство Чебышёва). Пустьфункция g не убывает и неотрицательна на R. Если E g(ξ) < ∞, тодля любого x ∈ RE g(ξ)P ξ>x 6.g(x)Д о к а з а т е л ь с т в о. Заметим, что P ξ > x 6 P g(ξ) > g(x) , поскольку функция g не убывает. Оценим последнюю вероятность по неравенству Маркова, которое можно применять в силу неотрицательности g :E g(ξ).P g(ξ) > g(x) 6g(x)У п р а ж н е н и е . Записать предыдущее неравенство для функцииg(x) = ex и получить экспоненциальное неравенство Чебышёва.С л е д с т в и е 17 (неравенство Чебышёва).
Если D ξ существует, то для любого x > 0DξP |ξ − E ξ| > x 6 2 .xД о к а з а т е л ь с т в о. Для x > 0 неравенство |ξ − E ξ| > x равносильно неравенству (ξ − E ξ)2 > x2 , поэтому2P |ξ − E ξ| > x = P (ξ − E ξ) > x17Андрей Андреевич Марков (14.06.1856—20.07.1922).22E ξ − EξDξ6= 2.2xx§ 3. Законы больших чисел117Неравенство Чебышёва позволяет, помимо всего прочего, получать абсолютные оценки для вероятности того, что стандартизованная случайнаявеличина превзойдёт некоторое значение: для любого x > 0p ξ − Eξ Dξ1>x=P|ξ−Eξ|>xP √Dξ6=.x2 D ξx2Dξ Например, при x = 10 эта вероятность не превышает 0,01.§ 3.
Законы больших чиселО п р е д е л е н и е 45. Говорят, что последовательность случайных величин ξ1 , ξ2 , . . . с конечными первыми моментами удовлетворяет закону больших чисел (ЗБЧ), еслиξ1 + . . . + ξnn−E ξ1 + . . . + E ξn p−→ 0 при n → ∞.n(21)Законами больших чисел принято называть утверждения о том, прикаких условиях последовательность случайных величин удовлетворяет закону больших чисел.Выясним сначала, когда выполнен ЗБЧ для последовательности независимых и одинаково распределённых случайных величин.Т е о р е м а 36 (З Б Ч Ч е б ы ш ё в а).
Для любой последовательностиξ1 , ξ2 , . . . попарно независимых и одинаково распределённых случайныхвеличин с конечным вторым моментом E ξ21 < ∞ имеет место сходимостьξ1 + . . . + ξnnp−→ E ξ1 .(22)Заметим, что если величины одинаково распределены, то их математические ожидания одинаковы (и равны, например, E ξ1 ), поэтому свойство(21) можно записать в виде (22).ЗБЧ утверждает, что среднее арифметическое большого числа случайных слагаемых «стабилизируется» с ростом этого числа. Как бы сильнокаждая случайная величина ни отклонялась от своего среднего значения,при суммировании эти отклонения «взаимно гасятся», так что среднееарифметическое приближается к постоянной величине.В дальнейшем мы увидим, что требование конечности второго момента (или дисперсии) связано исключительно со способом доказательства,и что утверждение останется верным, если требовать существования только первого момента.118ГЛАВА X. СХОДИМОСТЬ ПОСЛЕДОВАТЕЛЬНОСТЕЙ СЛУЧАЙНЫХ ВЕЛИЧИНД о к а з а т е л ь с т в о.
Обозначим через Sn = ξ1 + . . . + ξn сумму первых n случайных величин. Из линейности математического ожидания получим ESnn=E ξ1 + . . . + E ξnn E ξ1== E ξ1 .nnПусть ε > 0. Воспользуемся неравенством Чебышёва (следствие 17) :SnD DSD ξ + . . . + D ξnSn SnnP −E= 2 n2 = 1 2 2=>ε 62nnεn εn εnDξDξ= 2 21 = 21 → 0 при n → ∞,n εnε(23)так как D ξ1 < ∞. Дисперсия суммы превратилась в сумму дисперсийв силу попарной независимости слагаемых, из-за которой все ковариацииcov(ξi , ξj ) в свойстве 19 (с. 103) обратились в нуль при i 6= j.З а м е ч а н и е .
Мы не только доказали сходимость, но и получилиоценку для вероятности среднему арифметическому любого числа попарно независимых и одинаково распределённых величин отличаться от E ξ1более чем на заданное ε :Dξ ξ1 + . . . + ξn(24)P − E ξ1 > ε 6 21 .nnεПопарную независимость слагаемых в ЗБЧ Чебышёва можно заменитьих попарной некоррелированностью, ничего не меняя в доказательстве.ЗБЧ может выполняться и для последовательности зависимых и разнораспределённых слагаемых.
Из неравенства Чебышёва сразу вытекает следующее достаточное условие выполнения ЗБЧ для последовательности произвольных случайных величин.Т е о р е м а 37 (З Б Ч М а р к о в а). Последовательность случайныхвеличин ξ1 , ξ2 , . . . с конечными вторыми моментами удовлетворяетD SnЗБЧ, если D Sn = o(n2 ), т. е. если→ 0 при n → ∞.n2Теорема Маркова утверждает, что ЗБЧ выполнен, если дисперсия суммы n слагаемых растёт не слишком быстро с ростом n.Сильная зависимость слагаемых приводит обычно к невыполнениюЗБЧ.
Если, например, D ξ1 6= 0 и ξn ≡ ξ1 , то Sn = nξ1 , и свойство (22)не выполнено (убедиться в этом!). В этом случае не выполнено и достаточное условие для ЗБЧ: D Sn = D (nξ1 ) = cn2 . Для одинаково распределённых слагаемых дисперсия суммы ещё быстрее расти уже не может.Следующее утверждение мы докажем чуть позже. Сравните его условия с условиями ЗБЧ Чебышёва.119§ 3. Законы больших чиселТ е о р е м а 38 (З Б Ч Х и н ч и н а18 ). Для любой последовательностиξ1 , ξ2 , . . .
независимых (в совокупности) и одинаково распределённыхслучайных величин с конечным первым моментом E |ξ1 | < ∞ имеетместо сходимость:ξ1 + . . . + ξnnp−→ E ξ1 .Итак, чтобы последовательность независимых и одинаково распределённых случайных величин удовлетворяла ЗБЧ, достаточно существования первого момента слагаемых. Более того, в условиях теоремы 38 имеет место и сходимость п. н. последовательности (ξ1 + .
. . + ξn )/n к E ξ1 .Это утверждение называется усиленным законом больших чисел (УЗБЧ)Колмогорова, и его мы доказывать не будем.Получим в качестве следствия из ЗБЧ Чебышёва закон больших чисел Бернулли. В отличие от ЗБЧ Чебышёва, описывающего предельноеповедение среднего арифметического случайных величин с произвольными распределениями, ЗБЧ Бернулли — утверждение только для схемыБернулли.Т е о р е м а 39 (З Б Ч Б е р н у л л и).
Пусть событие A может произойти в любом из n независимых испытаний с одной и той же вероятностью p, и пусть νn (A) — число осуществлений события A в nиспытаниях. Тогдаνn (A)np−→ p. При этом для любого ε > 0p(1 − p) νn (A)P − p > ε 6.2nnεД о к а з а т е л ь с т в о. Заметим, что νn (A) есть сумма независимых,одинаково распределённых случайных величин, имеющих распределениеБернулли с параметром p = P(A) (индикаторов того, что в соответствующем испытании произошло A ): νn (A) = ξ1 + .
. . + ξn , где(1, если A произошло в i-м испытании;ξi =0, если A не произошло в i-м испытании;и E ξ1 = P(A) = p, D ξ1 = p(1 − p). Осталось воспользоваться ЗБЧв форме Чебышёва и неравенством (24).П р и м е р 70. Монета подбрасывается 104 раз. Оценим вероятность1того, что частота выпадения герба отличается отна 0,01 или более.218Александр Яковлевич Хинчин (19.07.1894—18.11.1959).120ГЛАВА X. СХОДИМОСТЬ ПОСЛЕДОВАТЕЛЬНОСТЕЙ СЛУЧАЙНЫХ ВЕЛИЧИНПусть ξ1 , . . . , ξn — независимые случайные величины, каждая из которых имеет распределение Бернулли с параметром p = 1/2 и равна единице, если при соответствующемвыпал герб, и нулю иначе. подбрасыванииnP1νξi — числоНужно оценить P n − > 0,01 , где n = 104 , а νn =n2i=11 11выпадений герба.
Поскольку D ξ1 = · = , искомая оценка сверху2 24выглядит так:1 νnP − > 0,01 6n2D ξ111== .24−444 · 10 · 10n · 0,01Итак, неравенство Чебышёва позволяет заключить, что в среднем не более чем в четверти случаев при 10 000 подбрасываниях монеты частота1выпадения герба будет отличаться отна одну сотую или больше. Мы2увидим, насколько это грубая оценка, когда познакомимся с центральнойпредельной теоремой.Г Л А В А XIЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМАИз этой первой лекции по теории вероятностей я запомнил толькополузнакомый термин «математическое ожидание».
Незнакомец употреблял этот термин неоднократно, и каждый раз я представлял себебольшое помещение, вроде зала ожидания, с кафельным полом, гдесидят люди с портфелями и бюварами и, подбрасывая время от времени к потолку монетки и бутерброды, сосредоточенно чего-то ожидают. До сих пор я часто вижу это во сне. Но тут незнакомец оглушилменя звонким термином «предельная теорема Муавра — Лапласа» исказал, что всё это к делу не относится.Аркадий и Борис Стругацкие. Стажёры§ 1. Как быстро среднее арифметическое сходитсяк математическому ожиданию?Пусть, как в законе больших чисел Чебышёва, Sn = ξ1 + .
. . + ξn —сумма n независимых и одинаково распределённых величин с конечнойpSдисперсией. Тогда по ЗБЧ n −→ E ξ1 с ростом n. Или, после приведенияnк общему знаменателю,Sn − n E ξ1 p−→ 0.nЕсли при делении на n мы получили в пределе нуль (в смысле некоторой,всё равно какой, сходимости), резонно задать себе вопрос: а не слишком лина большую величину мы поделили? Нельзя ли поделить на что-нибудь,растущее к бесконечности медленнее, чем n, чтобы получить в пределене нуль (но и не бесконечность)?Можно поставить тот же вопрос иначе. Есть последовательность, стремящаяся к нулю. Можно ли её домножить на что-либо растущее, чтобы«погасить» это стремление к нулю и получить, тем самым, что-нибудьконечное и ненулевое в пределе?122ГЛАВА XI.
ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМАОказывается, что уже последовательность случайных величин√S n − n E ξ1S − n E ξ1√= n· nnnне сходится к нулю. Распределение членов этой последовательности становится всё более похожим на нормальное распределение! Можно считать,что такая последовательность сходится к случайной величине, имеющейнормальное распределение, но сходится никак не по вероятности, а тольков смысле сходимости распределений, или «слабой сходимости».§ 2.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
