Учебник_Бочаров_Печинкин (846435), страница 31
Текст из файла (страница 31)
—. Воспользовавшись теперь неравенством Чебышева, получаем, что для любоГо г > О Р(~ — ~б, — т > г) <, — О. и Таким образом, мы показали, что для последовательности г,!,дз,...,(„,... выполняется закон больших чисел, причем постоянная а совпадает с математическим ожиданием Мг,„ = т.
140 рл. 8. Предельные теоремы, теории вероятностей Пример 3. Пусть р, — число успехов в »-и испытании Бернулли (см пример 2 в гл 6) Тогда т'„ = ~, Р,(и представляет собой частоту успехов :.! в и испытаниях. Как мы знаем, Мр, = р и Ор, = ро.
Таким образом, в силу доказанной тео емы р Р( („— р > с) — «О. Но последнее соотношение есть не что иное, как теорема Бернулли (см параграф 5 гл 4) сз 3 а м е ч а н и е. Вообще говоря, существование дисперсии является достаточным, но не необходимым условием для выполнения закона больших чисел. В дальнейшем (пример !5) будет показано, что достаточным условием является просто существование математического ожидания, которое в этом случае выступает в качестве предельной постоянной и. Более того, существуют последовательности независимых одинаково распределенных случайных величин, даже не имеющих математического ожидания, но тем не менее удовлетворяющих закону больших чисел 2. Усиленный закон больших чисел.
Закон повторного логарифма Пусть по-прежнему ~1,йж ...,4п, ., — последовательность независимых одинаково распределенных случайных величин, к которой применим закон больших чисел, т.е. при больших и, среднее арифметическое гм = 2 б,/г» «почти совпадает» с некоторой постоянной а. Од«=! нако если мы будем последовательно наблюдать случайные величины !)!, »Л, ..., »)и,..., то закон больших чисел еще не гарантирует, что г)„ будет стремиться к а для любого элементарного исхода сс П р и м е р 4.
Рассмотрим схему Бернулли с равными вероятностями успеха и неудачи р = С = 1!2, в которой производится бесконечное число испытаний Тогда последовательность и!, Рз, , и„, , где и, — число успехов в «-и испытании, будет представлять собой простейший вариант последовательности независимых одинаково распределенных случайных величин, для которой в соответствии с теоремой Бернулли выполнен закон больших чисел и при этом о =- Мр, = р =- 1!2. Пространство элементарных исходов П состоит из всевозможных (бесконечных) последовательностей УНН. УН ..
В отличие от случая конечного числа испытаний П уже не будет дискретным (более того, П «почти» эквивалентно отрезку (О, 1) с равномерной вероятностью на нем; для доказательства этого достаточно отождествить последовательность и!, р,..., р,„,... с двоичным представлением некоторого числа, заключенного между нулем и единицей), и каждый элементарный исход ы имеет вероятность Р(ы) = 1(2 -1!2 х х ... = О.
Возьмем элементарный исход с!о =УУ...У... Ясно, что для него П!(ыз) = Пз(ыс) = ... = 1, т.е. средние арифметические равны единице и не могут стремиться к а =. 1!2. Читатель без труда может привести примеры и дру- 2. Усиленный закон больших чисел. Закон повяорного логарифма !41 гнх элементарных исходов, для которых последовательность Пням,.,,я„, .., либо будет сходиться к отличному от 1/2 числу. либо вообще не будет сходиться. Из приведенного выше примера видно, что могут существовать элементарные исходы, для которых ц„(ш) не сходится к а.
Выделим эти элементарные исходы в отдельное событие А. Хотелось бы, чтобы при выполнении закона больших чисел вероятность события А равнялась нулю; в этом случае говорят, что для последовательности (!,(а,...,(„,... вьтолнвн усиленный закон больших чисел. Но э го не всегда так. Если заранее не предполагать существование математического ожидания Мб„то можно привести примеры последовательностей независимых одинаково распределенных случайных величин, для которых выполнен закон больших чисел, но не выполнен усиленный закон больших чисел (более подробно об этом см. ниже, пример 15). Условие выполнения усиленного закона больших чисел содержится в следующей теореме, доказанной А.
Н. Колмогоровым. Теорема (усиленный закон больших чисел). Существование математического ожидания является необходимым и достаточным условием вьтолнения усиленного закона больших чисел для погледовательности независимых одинаково распределенных случайных величин ,г,„,... Постоянная а в этом случае совпадает с математическим ожиданием Мг,. Д о к а з а т е л ь с т в о теоремы Колмогорова мы здесь не приводим Отметим, что выполнение усиленного закона больших чисел естественно влечет за собой выполнение закона больших чисел. Если теперь перейти от средних арифметических к накопленным суммам Я„= ~! +...
+ Е„, то усиленный закон больших чисел гласит, что последовательность о'„ — пт для почти всех элементарных исходов при любом в > О может находиться выше уровня пв или ниже уровня -пв не более конечного числа раз. Зададим теперь вопрос: нельзя ли указать более точные граничы изменения последовательности Ь'„ — пт? Естественно, если мы хотим больше получить, то мы должны также больше потребовать от случайных величин Ье А именно, будем предполагать, что б, имеют математическое ожидание М~, = т и дисперсию !лг„ = аз. для простоты изложения предположим, что аз = ! и т = О.
Более того, будем считать, что абсолютные значения случайных величин б, ограничены, т.е. существует такое число Х, что г„(ш) < Х для всех элементарных исходов ш '). Из последнего предположения, в частности следует, что случайные величины Е, имеют не только математическое ожидание и дисперсию, но и моменты всех порядков. ') Можно потребовать выполнение менее ограничительных условий, однако они более сложно формулируются. !42 у"л. 8 Предельные теоремы теории вероятностей Для произвольного в обозначим через В,', Вн и В, события, состоящие соответственно из тех элементарных исходов иу, Я,) ) )У у ) 2 У У . б Я„) ) †)У у ) 2 У У б р )Я„) )) )Уу)222 ° Я.р Теорема (закон повторного логарифма). Р(В,) = Р(В,') = Р(В") = О для любых в > О и Р(В,) = Р(В,') = Р(Вн) = 1 для любых в < О. Д о к а з а т е л ь с т в о теоремы опирается на очень тонкие (так называемые показательные) вероятностные неравенства н также здесь не приводятся.
Смысл закона повторного логарифма заключается в следующем. Для любого сколь угодно малого в > О накопленные суммы Ви, начн- у,буу р — )УР ) 2 У „)У Р,),22чр„б„.. В „....„.„„Я„б„у. б..„,.„,. число раз выходить за границы области, находящейся между кривыми )У ) 2 У У . )У ) 2ТТ ., р .р. (рис. 1). ыю( у 1000 З 000 ! ! Я!ЛЯ !и Пу )у -)оо( Рис ! Для читателя, знакомого с понятием верхнего и нижнего пределов (1пп вцр и 1)п) !гу! ) последовательности, можно предложить следующую формулировку закона повторного логарифма: для почти всех элементарных исходов щ Ь'В(ьр) 1ппацр — — "' — — = 1 ъ'2л 1п1п п 1ш) ш! " = — 1.
ьГ2п1п 1пп Отметим, что само название «закон повторного логарифмар происходит от выражения 1п !п п. 3. Характеристическая функния 3. Характеристическая функция Для дальнейших исследований нам понадобится понятие характеристической функции. Характеристической функцией у(1) = Яа) случайной величины д называется математическое ожидание случайной величингя еис, где 1 = лà — 1 — мнимая единица, а 1 — произвольное (действительное) число. Здесь мы имеем дело с комплекснои случайной величиной, которая определяется так же, как и действительная, с той лишь разницей, что каждому элементарному исходу ставится в соответствие комплексное число, а не действительное.
Используя общее правило вычисления математического ожидания и формулу Эйлера, получаем 1(1) = Ме' ~ =- 2 е' 'р =- 2 р соз(1Х ) +12 р.зш(1Х ) у у 3 для дискретной величины ~ и Х(1) = Меиг = ~ е"'р(х)ух = ~ соз(1х)р(х)ух+1) вш(1х)р(х)г(х для непрерывной. Поскольку ~еич~ = 1, то характеристическая функция существует при всех (действительных) 1 для каждой случайной величины. Отметим, что характеристическая функция определяется не собственно случайной величиной, а ее функцией распределения, т.е. по существу характеризует именно распределение случайной величины. Читатель, знакомый с преобразованием Фурье, сразу же заметит, что характеристическая функция непрерывной случайной величины отличается от преобразования Фурье плотности распределения этой случайной величины только лишь отсутствием множителя 1/чГ2я, что, как будет видно из дальнейшего, представляет определенное удобство при действиях над случайными величинами.
Пример 5. Найдем характеристическую функцию случайной величины р, распределенной по биномиальному закону. Поскольку и — дискретная случайная величина, принимающая значения 0,1, , п, то я з(Г) = ~ ~еш [ )рэдЯ ' = 2 ~ 1(реи)эу~ ' = (уз- рен) . П ;:ю ээ з! П ри мер 6. Характеристическая функция случайной величины б, распределенной по экспоненциальному закону, имеет вид г"(Г) = ~ е™ле * дх = Л ~ е~'~ Ы дх = П л — и о о Гл.
8 Предельные теоремы теории вероятностей 144 Пример 7 Пусть случайная величина 8 распределена по стандартному нормальному закону. Тогда 7"(1) = ~ е' "':р(х)дх = ~ е' ' е ~ дх. Делая замену у = х — 10 получаем е. > — а Есо — ~> Из теории функций комплексного переменного известно, что -~- ь — и г з е ь 7 др = х72я. — ьь — и Поэтому окончательно получаем Ф) =- е' П Выведем некоторые почти очевидные свойства характеристических функций. 1. 7'(О) = 1, 7'(1) — непрерывная функция. В самом деле (рассмотрим, например, дискретный случай) 7"(О) =~ еаор =2 р =1. Непрерывность 7"(1) следует из непрерывности функции еих и абсолютной сходимости ряда ~ р..
2. Если г1 .= об + б, то уч(1) = 74(а1)е'ь'. Действительно, из определения характеристической функции и свойств математического ожидания вытекает, что л (1) М1 чья М Яье'ь1 еьььМ гине еаь( ( 1) Пусть 81 и Ез — независимые случайные величины и г1 =- 81 + Ее. Тогда З.,Т,(1) = 7,, (1) 7,,(1). В самом деле, поскольку б~ и Еа независимы, то независимы случайные величины еаб и е"4'.
Отсюда следует, что Меач = Ме"'<'ье' = М (еаб еись) = Меиб Ме"4'. Именно свойство 3 является тем основным свойством, благодаря которому характеристические функции нашли такое широкое применение в теории вероятностей. При суммировании независимых случайных величин их плотности распределения преобразуются по формуле свертки. 145 3. Хирактеристическая функция Но формула свертки весьма неудобна для исследования, гораздо проще заменить ее простым перемножением характеристических функций. Если случайная величина ( имеет момент и;го порядка пт„, то характеристическая функция 5 дифференцируема и раз, причем для к < и 4. )г" 1(0) = гвть.
В самом деле, формальное дифференцирование характеристической функции й раз (к < п) дает (например, в непрерывном случае) У®(1) = ть ~ хье'г*р(х) с1х Законность дифференцирования определяется тем фактом, что х е' ~ргх) г1х < ~ ~х ~~р(х) с1т, и существованием момента п-го порядка.














