Ю.П. Пытьев, И.А. Шишмарёв - Курс теории вероятностей и математической статистики для физиков (1134036), страница 19
Текст из файла (страница 19)
~ Используя лемму Бореля — Кантелли, мы установим следующий усиленный вариант закона больших чисел. Теорема 4 (усиленный закон больших чисел). Пусть $» $з - — последовательность попарно независимых случайных величин, для которых М$1=р, В$1=о'. Тогда прн л-«оо л ~~~ $1 'Р (14) 1-1 Снова применяя неравенство Чебышева (4), получим Р(~ —,~>е~< ~~)~~ Р ~ ", >е~< !=а~+1 Чтз Чт~ — -~.0 и — -«О при лт-«оо.
т! . т~ ' (21) Поскольку для любого и из интервала (16) ~+НВН% то из (21) следует, что !1,/и — «О при п — «оо с вероятностью 1. ~, Простым следствием доказанной теоремы. является усиленный закон больших чисел Бернулли. Теорема 5 (Борель). Пусть !1„— число успехов в серии из л независимых испытаний Бернулли, р — вероятность успеха при каждом испытании. Тогда последовательность частот (!1„/и) при а-«оо сходится с вероятностью 1 к вероятности р. Доказательство.
Достаточно ввести случайные величины $ь равные числу успехов в !'-м исцытанин, ф!=1,0, и М$!=р, 0$!=рд;т)„= Я $, и применить теорему 4 к т)т ~ !=1 Теперь мы рассмотрим один важный вариант закона. больших чисел, принадлежащий Хинчину. В атом варианте не требуется существования (а тем более ограниченности в совокупности) дисперсий случайных величин. Теорема 6 (Хинчин). Пусть одинаково распределенные случайные величины $!,$ь ... попарно независимы и имеют 108 (т+!!' (» т') ~' < 2!и Ф"+1)е' ~"' (19) афтаб айт4 зйтй А=т'+! ф (здесь в сумме 2т слагаемых и (й — !пз) <2л!+1)). В силу оценок (17) и (19) числовые ряды ~~ Р (~ — ~>е~ и ~) Р (~ ~~~>а~ (20) У т=! т=! сходятся, а тогда на основании леммы Бореля — Кантелли заключаем, что с вероятностью 1 может произойти только конечное число событий ~ ~ —,~>е~ и ~ ~ — "~ >е~, т.
е. согласно критерию (10) с вероятностью 1 конечное математическое ожидание М$т=)». Тогда при и-ьоо 1 ъ-ч т(„ = — > $» сходится по вероятности к )», т)„-ь)». л е »=! Д о к а з а т е л ь с т в о. Проведем .доказательство с помощью широко применяемого.в теории вероятностей метода урезания: введем новые случайные величины 5» по формуле: если ~5»~ <у, ( О, если ~ $»( ) у, (22) т), = ~~) й» 1.
число у>0 будет выбрано позже. Помимо »=1 среднее «урезанных» случайных величин, любого е)0 имеем неравенство с )»=Ма».. рассмотрим й~„— н,= —',)~~$д. Для » ! Р((т)„— р ~ ) е) ~ Р ( (т)„— (» ( > а) + Р (т)„~ т~„), (23) поскольку если наступает событие в левой части этого нера- венства, то наступает хотя бы одно,из событий в его правой части. Далее', и Й = М$„= 1 х(Р(х), (24) Р(х) — функция распределения случайных величин еч», 1=1, 2,:, поэтому 1Р— )»1<и (25) и (' „у (' у (' ) „( Ау еапа еоп,) сап,) еол ' Здесь и ниже интеграл ухо(т"(х), как обычно, есть сокращеннаи аапись дли Ех*р» н дискретном случае и !хр(х)ох — и непрерывном.
если уъуо=уо(е). Ввиду (23) и (25) при У~Ус имеем Р(1т) )»/ >2е)<Р((т)„— )»! >е)+Р(т) ~т) )' Оценим правую часть в (2б). По неравенству. Чебышева (4): л Р(~т)„— )»! >е) < ~'~" < 1 МЧ„< 1 ~МЦ= »=! (27) где через А обозначена существующая по условию величина А = ) (х(!(Р(х). Событие (т! Фт1!,) состоит в том, что хотя бы одна случайная величина )зз~>у, й=1,2,...,а. Поэтому для любого е!>О л Р[!(„чаЧ,)< ~~: Р(йь! > У) =и ~ дР(х)( ь=! !х!)у ' ( а — .
1 ~ х ~ г(Р (х) ( — е„ ! (28) !~ !>У (~~~ $! ) -!-.0 при $=! по вероятности. $ %ч л-!-оо, то при и-ь-оо тг =' — '~~$!-! р я л Доказательство. Положим й„= — ~~ц — р. тогда 1 %~ ! 1 е Мь~=О, М„= —, 0 (~ $!) -!-О при. и-!.ао,и согласно лем! %ч !~! ме 1 получаем утверждение теоремы. ~ Примеры. 1. Рассмотрим схему независимых испытаний: при каждом испытании полная группа событий состоит из Аь Ам ..., А„и вероятность наступления прн каждом испытании'собы- 116 если у~у! = д! (е!). Подставляя (27) и (28) в (26), получим при у>у= = шах(ум у!) Р ( ( т!а — р ~ ) 2е) < — ~ + — е!. (29) е!а у -Пусть теперь .Ь>Π— любое, положим у= (в!гА)бл, а е!= =6!!е'А.'Тогда из (29) прн всех достаточно больших и, а~по(б), находим ' Р(!з1,— '.
р~ >2е)(26, (ЗО) что и доказывает теорему, 4, В заключение докажем следующую полезную теорему, в которой отсутствует 'предположение о попарной независи- мости случайных величин. Теорема 7 (Марков). Если последовательность случаййых а ! величин $!, 5м ... такова, что М$!=!1! и — )7 ~Р тия А» равна р», р»ъ О, р»+...+р,=1. Пусть» „»о; случайная величина, равная числу наступлений события А » в серии из л испытаний, тогда частота т!»»»1л появлений со. бытия А» при л-«со сходится по вероятности к р», »=1,2, ..., г.
В самом деле, пусть $е — число наступлений А» в й-м испытании, э»=0 или 1 с вероятностями соответственно 1 — р» н рь ' Поэтому М$»=рп Р~,=Мйе — (М$,)е =р» — р» =р»(1 — р»), а»)п»= Я$1. Применяя теорему Чебышева, получим 'ч»»1 — -+ р», п — ою, » = 1, 2, ..., г (31) 2. Покажем, что для пуассоновского процесса (см. ниже $13), т. е. РЯ(1)=й)=( ), А=0,1.2,..., Х~)0, 1)0, «! имеет место сходимость по вероятности: — -«Х при 1-«'е»о. Ц») 1 е В самом деле, мы видели в $9, что М$(Г) =И, Р$(1) =И. Поэтому для случайной величины $(1)/1 С помощью иеравейства Чебышева (4) получим при любом 'е)0 Р ( ~ 11 ) — Х ~ > а1< — = — '-«О при 1-«оо, 1 ~ )- ее ' »ее что и доказывает высказанное утверждение.
$11. ЦЕНТРАЛЬНЫЕ НРЕДЕЛЬНЫЕ ТЕОРЕМЫ 111 Утверждения, полученные в форме законов больших чисел, представляют собой заключения о сходимости последовательности случайных величин ($,)„л=1,2, ...,.к некоторой случайной (или неслучайной) величине $. Эти утверждения не дают нам никакой информации о том, как аппроксимиро,вать распределение случайных величин $„»)рн больших и. Ответ на этот вопрос доставляют так называемые центральные предельные теоремы, в которых речь идет о новом виде сходимости последовательности случайных величин — сходи- ' мости по распределению.
Основным аппаратом, используемым Мь=Мй+ 1Мч. В определении (1) интеграл понимается либо как сумма абсолютно сходящегося ряда ~й(1) = ~ е р„ (2) а 1 если $ — дискретная сл)гчайная величина, хе — ее значения, а ра — соответствующие вероятности, й= 1, 2,г, либо как аб- солютно сходящийся интеграл ЯО Е (т) )" егтар(„)бх ьь если $ — непрерывная случайная величина с плотностью р(х). Хотя интеграл (1) представляет собой обычный интеграл Стильтьеса, мы ниже не опираемся на его специфические свойства и будем рассматривать (1) как краткую запись для выражений (2) и (3).
Все дальнейшие рассуждения этого параграфа проводятся таким образом, что они одинаково применимы для случаев (2) и (3), ввиду чего мы будем использовать лишь обозначение (1). Характеристическая функция существует для любой случайной величины, поскольку ввиду равенства ~егг*~ =1 ряд (2) и интеграл (3) сходятся абсолютно. .Очевидно, 1,(0) =1; и (~а(1) ! ~1, 1ярг. (3) при изучении центральных предельных теорем, является аппарат характеристических функций, играющий важную роль и в других разделах теории вероятностей. 1'. Характеристические функции Хорошо известна большая роль теории преобразования Фурье в анализе и в дифференциальных уравнениях.
Характеристические функции — инструмент для использования преобразования Фурье в теории вероятностей. Определение 1. Характеристической функцией (хгф.) случайной величины ' назыВаетсЯ фУнкциЯ ра(1) вещественной переменной 1, 1евт(г, определенная равенством ОО ~й(1) = Метай = ) егг*АГй(х), — ос< 1(оо. (1) Вообще если ( — комплексная случайная величина, (, а+1т), где й и т) — действительные случайные величины*, то по оп- ределению ' Относительно совместного распределения случайных величин 1 и Ч не делается никаких предположений.
112 Теорема 1. Пусть $ь $м -, $„— независимые в совокупности случайные, величины. Тогда пи+...+~„(1) = Й (1) . Й„(1). (4г ' Доказательство. (Г) = Мела~+" +1,~ = М (сан... е'6д) = = Ма'4 Ме"Ь... Ме'П =11,(1)~Ь(1)... 11 (1). Здесь мй воспользовались теоремой о математическом ожидании произведения независимых случайных величин. Независимость е'и~, ..., е'"» следует из независимости 4ь ...,.Ь (см. $8) (тот факт, что г1~=е'н~ — комплексные случайные величины, очевидно, не имеет зйачения). Я~ В доказанной теореме сформулировано основное свойство характеристических функций, которое используется прн доказательстве центральных предельных теорем. Теорема 2. )',ь+„(г) = еи "~» (ог), а, р — сопз1.
Доказательство. )Оьья (1) = Мел~4+ю = епа Меч<4 = еая~е(о() Теорема 3. Если существует момент Мйь, то й-я.производная )чм(1) х.ф. ~,(1) существует, равномерно непрерывна на Е Л~ и ф(0) = РМ$". (5) Доказательство. Имеем ~~М(0).= ) е""((х)~сК1(х)~, е =1'М$». (6) Дифференцирование под знаком интеграла законно, так как из существования М~Р следует, что ~. ~ х ~~ дрь(х) < оо, и, 00 следовательно, интеграл ) хгеи" дР1(х) сходится (абсолютно) равномерно по 1, 1~)~ь Докажем равномерную непрерывность на.я~ Ф-й производной ф (г) ~ф(1+6) — ф(1)~< ~ ~х)~~с»" — 1~дРе(х) = 00 ~ х '(" ~ е"" — 1 ~ бра (х) + ) ~ х 'Г ! е"'" — 1 ! сК1 (х) < !.ч>А -А 113.