Б.А. Севастьянов - Курс теории вероятностей и математической статистики (1119910), страница 25
Текст из файла (страница 25)
',Аналогично определяются Фе„с: — Ф!„!„~, с=... Объединение всех Фе„. Фе„!„~,, ... есть алгебра событий; минимальную о-алгебру, порожденную этой алгеброй, обозначим .4е„! „, „,. Последовательность Фе ~А ~, ,, ... есть последовательность невозрастающих о-алгебр. Назовем о-алгебру У= П .4! ! л ! остаточной о-алггброй последовательности ($„); события А ен У также будем называть остаточными. Это название отражает тот факт, что любое Ае=!!У не зависит от любого конечного числа случайных величаи $ь а», ..., $ и определяется лишь «бесконечно далекнмн» значениями последовательности ко 5м ... Примерами остаточных событий являются 1 ~ $„сходится1, 1 ~~'„~л расходится~. л л з ж Различима Виды сходнмости »77 Теор-ем а 1.
(Закон «О или 1» Колмонзрова.) Если йь $ь, — независимые случайные величины, то всякое остаточное событие Л ен У имеет вероятность Р(Л), равную О или 1. Доказательство. Если ЛенУ, то Ля.Ф! ! при любом и:. Так как.4!, ... т, н Ф~„!„+, ... незавнсймы, то Р (ЛВ) = Р (Л) Р (В) для любого В ~ Ф~, ... т„прн каждом п. Следовательно, А не зависит от любого В ~ Ф , а так как Ю я— : л1 , то Л не зависит от самого себя, т. е. Р(АЛ) = Р(Л) =Р'(Л), откуда н следует утверждение. Следствие. Если $ь $ы ... независимы, то либо сходится с вероятностью 1, либо расходится с вероятностью 1; то ясе самое справедливо для ряда ~ $„. ф 48.
Различные виды сходимости случайных величин Сходимость почти наверное. Мы будем говорить, что последовательность йь $ы .., сходится почти наверное п. Ь (п.н,) к случайной величине $, и янсать $„ †«.$, если Р(!Пп $„=Ц=1, ь+ ть в«вероятность события (ьн 1пп $„(в) чей(а)) «+а равна нулю. п.и. Покажем, что сходимо сть $„-". $ аквнвалентна тому» что для каждого е» О 1нп Р(ан зпр!$и — $!>з)=О, (3) ьэ ы~л В.бамом деле, событие ($,-» Ц можно записать тац1 1тв ГЛ 1Х УСИЛЕННЫИ ЗАКОН БОЛЬШИХ ЧИСБЛ а противоположное событие представимо в виде Для того чтобы Р(з„-тьз), необходимо и достаточно, чтобы при всех г а так как то из (4) следует, что при л1обом г 1 111п Р(зпр(5 — з)> — ~ =О, л» я~л что равносильно (3). Сходимость по вероятности.
Мы говорим, что $, сходится ло вероятности к $ (и обозначаем $л — $), если для любого е > 0 Р()лл — Б1>е)-»0, л — »оо, Доказанный ранее закон больших чисел для сумм с„=$1+... +е„независимых одинаково распределенных случайных величин с М21 — — а и РБ1 — — в' < оо дает приь мер сходимости по вероятности — „" — » а, так как че>0 Р ( ~ — '„" — а ~ > е ~ -» О, л -» оо. Поскольку (1ń— $1> е) с:-' ( зпр)Б — $1> е), то из е,,» л и. и Р условия (3) вытекает, что $„-» $ влечет за собой ~„— $. Мы будем говорить, что последовательность случайных величин $„ фундаментальна ло вероятности, если ы.> О .Р (1 $„ — Б 1 > е) О, л, л1 Ф 18 РАзличпыв Вили сходимости 179 Тес рема 2.
Для того чтобы 5„- $, необходимо и достаточно, чтобы последовательность ~„была фундаментальна по вероятности. Доказательство. Если $„- ь„то из неравенства вытекает фундаментальность Д,). Для доказательства достаточности воспользуемся следуюшей леммой. Л е м м а 2. Если последовательность („фундаменгальна по вероятности, то из нее можно вьсбрать подпотледовательность, сходяи(у~вся и. н. Доказательство. Положим и, = 1 и по индукппи определим пь как наименьшее М = пл ь для кото- рого при всех г, з > М. Тогда ~ (~,+, "ь~ .1 ~42 поэтому по лемме Бореля — Кантелли с вероятностью 1 осуществляется лишь конечное число событий ~й„ вЂ” з ~ > — ° Поэтому ряд 5~ + ~~~ ($ „~ 1 ) сходится Ь 1 с вероятностью 1.
Полагая й = 3, + ~ (5„ем — $,,) для ь-1 тех ы, для которых ряд сходится, и нул1о в остальных точках, получаем й -".4' й. Лемма доказана. Докажем теперь достаточность в теореме 2. Если е, фундаментальна по вероятности, то в силу леммы существует случайная величина $ и подпоследовательпость $,ь, $„ь-'Л$. Но в этом случае й„— 5, так как Р (1 й„— й 1> е) < Р ( ~ й„— й„ь ~ > — ~+ Р ( ~ й„ь — Ц> — ~-ь О. Докажем еще одно следствие сходимостн по вероятности, 1ВО гл. и. эсилвиныи закон вольших чисел Т е о р е м а 3.
Если 5„А $, то функция распределения Рг„(х) слабо сходится и фрнкции распределения Р1(х). Д о к а з а т е л ь с т в о. Обозначим событие (~ $, Д» е)=А„. Так как при ее=А» а — а » «5„«»$ + е, то при любом х мы имеем Д„» х) а- К » «х + а) () А„, (т»х — е) сн Д„~х)() А„, откуда следует Р (' » .т — е) — Р (А„) «» Р Й„»«х) » Р (а ( х+ е) + Р (А„), РК- х — е)»«1ип Р($„»«х)»1пп РЦ„»«х) < (б) и+а »«Р (а«»х + е). Если х — точка непрерывности Ре(х), то из (5) получаем 11гп Р! (х) = Ра(х), что и требовалось доказать. И+в Если Ре„(х) слабо сходится к вырожденному распре. делению, то имеет место обратное утверждение.
Т е о р е м а 4. Если Р! =э- Р! и Р1 вырождено.в точке с, то $„-+с. и Д о к а э а т е л ь с т в о. Так как Р! (с + е) -+ 1 н Р!„(с — е) — «О, то Р (с — е < 3„~ с + е) -~ 1, т..е. Р(!$„— с!>е)-+О, что и требовалось доказать. Следующий пример показывает, что сходимость п.н, сильнее сходимости по вершггнасти. Лесть п рвнство элементарных событий — это отрезок И = (6,11, сабы.
тия — это борелевские множества на нем, вероятность мера Лебега. Для 2" » л» 2км определим О в остальных точках. $<в. усиленный закон БОльших чисел 1В1 Так как прн любом 1>е>О РЦ$в<> е)= —, то ! йвчай, но в то же вРемЯ Р(Б„"— '"'та О) =1. Сходнмость в среднем. Мы будем говорить, что последовательность $ сходится в среднем порядка г О, если М1$„— $1 -ь О, и -ь О. (6) Если г= 2, то сходимость (6) называется сходнмостью е среднем квадратическом. Сходнмость в среднем порядка г будем обозначать $„-" $. Из неравенства Чебышева РО~ -и>БМ'~«" '1 Г Р вытекает, что сходимость $в - $ влечет $в — $. рве.
!З. Связь иев<ду различными видами сходимостн случайных величин. Таким образом, мы установили соотношения между разными видами сходимостн случайных величии (см. рис, 13). $49. Усиленный закон больших чисел Исходя нз неравенства Чебышева Р П ьв — Мьв! >Л):ч; — „" ° пРимененного к сУммам 1в=3<+ ... +$„независимых случайнь<х величин $<, ..., $„мы доказали ранее закон больших чисел (теорема Чебышева1, который 182 гл >в зсилвнныи з»кон вольших чисел можно сформулировать так: если $~, $2, ...
независимы и 05» ограничены, то Ый~ Р (У) л В случае, когда йь йв ... независимы и одинаково раел пределены, сходимость по вероятности (7) имеет место при более слабом условии конечности М$„= а. Теорем а 5 (Хинчнн). Если йь $2, ... независимы„ одинаково расиределень» и М$„=а конечно, го имеет, место закон больисих чисел: Ь+ °" +Вл л Д о к а з а т е л ь с т в о. Характеристическая функция 1(2) случайной величины $» — а представима в окрестности нуля в виде ((1)= (+о((), позтому, обозначая ь„=й, + ° ..
+1„— иа, имеем откуда следует слабая сходимость Ь'„/и к нулю, что равносильно (см. теоремы 3 и 4 $ 48) Ь'„/и- О. Оказывается, можно доказать в условиях теоремы 1 более сильное утверждение, прпнадле>кащее А. Н. Колмогорову. Это так называемый усиленный закон больших чисел, утверждающий, что 2,+ Л т»л п.в л Далее нам понадобится неравенство Колмогорова, усиливающее известное неравенство Чебышева. Т е о р е м а 6. (Неравенство Колмогорова.) Пусть $н ..., ~„независимы и имеют конечные Мз»и 02».,тоеда Р ( >пах(ь» — Мь» ()х):-: —,", (8) 1~»кл к» еде ь» = ~ь+ + ь». д ок аз а тел ь ство.
Далее бчдем считать М»ь» =О. Это не ограничивает общности, так как всегда можно перейти от $» к $» — М$». Введем случайную величину $49 УСПЛГ1ШЫИ ЗАКОН БОЛЬШИХ ЧИСЕЛ !83 т =ш)п (й:!".»!Ъх). Если гпах !ь»~(х, то положим 1С» А У =и+ 1. Так как ~„ЪЬ„~ 71, »1, то » 1 И М ~ г МР(.-»1= » 1 = Х М(ь, + ." +~,+'„, +,"+а.)'71, .г== »-1 ~ ~ М (".~ + + ~~)з 7! -~1 + »=1 л -1 +2 Х М(а1+ . +З»)1!.-»1(в»+1+ +ь4) » 1 Случайная величина 71, зависит лишь от ье„..., ~», поэтому ($! +... + $ ) /г, „нс зависит от»», „..., А„н М(е!+ "+1»)11, 16», +" +а.)=. =М(ь1+ ° ° ° +ь»)г1, »1 'М6~+1+ ° ° +ь„)=0. Так как для гаям (У=Ц имеем ь»>х н Р(у(п) = = Р ( !пах ~ Ь» ~)х), то 1К»:~с п М,"~ ) ~, МЦ11, »4~х Р(т <~и) =х Р(гпах ~ ь» ~> х).
»-1 14К»»Л 11еравенство (8) доказано. Докажем теорему об усиленном законе больших чисел для независимых.разно распределенных случайных величин. Теор ем а 7. Преть ~1, Зь ... Лезависиз!и, М$„=0, О- =а'„и Тосда '" — О. (9) В Дока за тельство.
Обозначим,"„= 51+ ... .. -1-$,. По критершо (3) из $48 скодимость (9) рав. 184 ГЛ. 12. УСИЛЕННЫИ ЗАКОН БОЛЬШИХ ЧИСЕЛ посильна условию Р ( зпр 1 — й ~ > е ~ -Р О, и -Р оо, (10) при любом е > О. Обозначим А, событие Аа=( 1пах ~ —,' ~>е~. Тогда (10) равносильно Р(п А) О (11) По неравенству Колмогорова Р(Аа)<Р( 1пах ~~„1>е ° 2" ')~( За-1~2 Сйа 0Ь а :- Р( гпах ~1,21> е ° 2" ')~ <4-;2 Е21гО 1КЛК2а Далее ( ' 1 1 ~ Д А ~<Х Р(Ай)- О, й а й а Докажем следующую вспомогательную лемму.
Л е м м а 3. Математическое ожидание Б конечно ОО тогда и только тогда, когда ~ Р (! $1> а) < ео. а ! О ° йй ~ Р (Ай) ~~ 4а ~~О 2 ~~) о,' «' й-1 й-1 л-1 О 2 =4е '~ о„' ~ 2 <д '~ф< (й: Зй,аа1 а ! так как 2„, 2 '" (2 * 2 '~. Из сходимости ряда 2 Р (Ай) й йв й следует (1!), так как 5 Аа усиленный 3АкОн БОльших чисел 1ВЬ Доказательство. Если МБ конечно, то и М!Ц конечно, и наоборот.
Из очеввдных неравенств ~„(п — 1) Р (п — 1 < ! Б ! -~ п) ( М ! Б ! ( и-! пР(п — 1 <!$ !(и) н соотношений пР(п — 1 <! $ !(п) = и-! Ю йа -ХР(($!>и)(1+БР(1~!>и), К (п — 1) Р (и — 1 < ! $ ! (и) = = Х пР (п — 1 < ! $ ! (п) — Р В > й) = Е Р ( ! $ ! > п) и=! и ! вытекают неравенства О ~ Р ( ! $ ! > п) (» М ! $ !.-. 1+ К Р (! $ ! > и), откуда следует утверждение леммы. Для независимых одинаково распределенных случайных величин справедливо более сильное утверждение, дающее необходимое и достаточное условие усиленного закона больших чисел.
Теорема 8. (Усиленный закон больших чисел Кол. могорова.) Пусть $!, $т, ... независимы и одинаково распределены, Для того чтобы — а и необходимо и достаточно, чтобы существовало конечное Мз,=а. Доказательство. Достаточность. Введем случайные величины ) Б„, если !$и!(»и, ~ О, если !$„!> п, !Бз ГЛ. !Х УСНЛБННЫН ЗАКОН БОЛЬШИХ ЧНССЛ И Ьл=з!+ . ° +Б„. СЛуЧайНЫЕ ВЕЛНЧННЫ также независимы, так как ~ есть функция ьлл. Из равенства заключаем, что теорема будет доказана, если мы покажем, что справа все три слагаемых с вероятностью 1 сходятся к нулю. Третье слагаемое неслучайно и бесконечно мало, так как оно равно среднему арифметн. ческому л ! т-~ — и 2, МЫ1!А)>А) и ! сходящихся к нулю М$А111!А)>А! -и О, л-ьоо, членов.