Рихтмайер - Принципы современной математической физики, том 1 (947397), страница 63
Текст из файла (страница 63)
2. Покажите, что характеристической функцией распределения иа упражнения 1 является х(х)=У»(1ь!) Е3.4. НОРМАЛЬНЫЕ РАСПРЕЛЕЛЕНИЯ Наиболее выдающимся положением элементарной теории вероятностей является центральная предельная теорема (см. следующий параграф), которая утверждает, что в результате осреднения все Рнс. 1Зтп Функция нормального распределения, распределения вероятности стремятся к нормальным или гаус. совым распределениям. Эти распределения мы сейчас и рассмот. рим, начиная с одномерного случая, Нормальным нли гауссовыле Гл, 13.
Вероюпность. (Нера 312 распределением на ас называется распределение а функцией распределения Ф(х)== ~ е-н(тг(1 1 Р 2л (13А.Ц и плотностью й(х)==е- ыа, 1 )г 2п как показано на рис. 13.9 н 13.10. (13.4.2) -2.3 -!.б в 1Л 2.й Рис. 13.10. Плотность нориального распределения. где Д вЂ люб положительное целое, а й †случайн переменная, подчнняюнтаяся нормальному распределению. Покажите, что характеристическая ф>акция равна у(Х)= ) е 'оФ(х)=е Подробные таблицы Ф(х) и родственных функций даны, например, в справочнике Абраыовица и Стиган (19641. В частности, установлено, что Ф ( — 0.67449) =.
т/ю Ф (+0.67449) = а(4. (13.4 4) откуда следует для нормально распределенной величины $ Р ( — 0.67449 ( $ ( 0.67449) = 'уа (13.4.5) УПРАЖНЕНИЕ 1. Покажите, что Ф(ео)=! и что что нормальное распределение имеет нулевое математическое ожидание и единичную днспсрсюо и вообпге моменты всех порядков имеют вид Е (йаа-т) =О, Е (АЙ!А) =! 3.5..(2а — !), (!Зеиз) э!з /3.5ь 3(ентральнлл ареаельнел теорема В более общей формулировке говорят, что $ нормально распределена со средним значением р и дисперсией о', если Р(з(х)=г" (х)=Ф((х — р)/о), (13,4,6) ибо тогда Е(5) =р, Е(($ — р)')=о'.
Двумерное нормальное распределение случайных переменных $, ь) с данными средними ро р, и с данной ковариационной матрицей р=(р„,) (см. 5 13,3) имеет плотность вида /(х, у) =ехр[ — (а„хь+2а;,ху+а„уь+Ььх+Ььу+с)1, (13.4.7) где (1 3.4.8) а„а„— а,'ь > О, а с выбрано так, что ~~/(х, у)дхду=1. Чтобы найти соотношения между !ь, р, а, Ь, заметим„что в силу (13,4.8) показатель экспоненты можно записать в виде — '/,'(и'+о') при помощи линейного преобразования и=-с;,х+с;,у+и„ (13.4.9) о=с„х+с„у+о,. В векторно-матричных обозначениях эти уравнения и их решения можно записать в виде в =- Сх + п„х = Ри+ х„ (! 3.4.10) где С0= / и 0п,=- — х,.
Пусть а и р — новые случайные переменные, полученные нз $ и ь) путем преобразования (13.4.9), т. е. а = с,Д+ с,ьь) + и„ !) = сьь$+ сььь) + оь. Тогда плотность вероятности у(и, о) для и, р имеет вид у(и, о) =/(х, у) ~д(х, у)/д(и, о)), но якобиан есть константа, так что д(и, о) пропорциональна ехр( — '/,и' — '/,о'). Отсюда после нормировки имеем у(и, о) = — е-<"'+муь=/(х, у) ! — '~ ). Нетрудно видеть, что средние р; и р, для $ и ц являются компонентамн вектора х„, а коварнацнонная матрица имеет вид р= О!лг (Т означает транспонирование). Таль ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА Пусть а — среднее значение большого числа и независимых измерений случайной переменной $; его можно представлять себе как значение другой случайной переменной а, которая получается из Гя. 18. Верояаяоояь. Мере составного эксперимента, включающего а повторений исходного эксперимента с последующим вычислением среднего значения.
Переменная а имеет то же математическое ожидание, что и $, но меньшую дисперсию (в $' и раз). Более того, мы покажем, что если а велико, то а имеет распределение, близкое к нормальному. Пусть $ имеет функцию распределения Р; тогда ее характеристической функцией будет ц(Х) = $ е-о"дР(х). Поскольку между распределениями медленного роста и их преобразованиями Фурье существует взаимно однозначное соответствие, функция у.
(Х) (Х вещественно) полностью определяет меру ~= Р''. Пусть теперь Рг н Р,— функции распределения двух независимых случайных переменных $ и т(. Очевидно, что $+Ч также можно рассматривать как случайную переменйую. Будет, пока- вано, что характеристическая функция для $+11 есть произведение характеристических функций для $ и для ц. Пусть Р,— функция распределения случайной переменной ~=5+3. Тогда Е(<р Д+Б)) задается в виде Е(~р(к+т1))= ~ ~ <р(х+у)ЫР,(х)НР,(у), (135.1) но, с другой стороны, Е(ЧД+г1))=Е(<Р(~)) = ~ Ф(ш)бРз(ш) (13.5.2) Если <р (х) = е 'ь", то ул+„(Л) = х, Р,) х„(Л), (13.5.3) что и требовалось доказать.
Отметим, что абсолютное значение характеристической функции не может превышать единицу, ибо )у (Х) ~( ~ )е м"~дР(х) = Р(оо) — Р( — оо) = 1 (Р— неубывающая функция). Пусть далее $ — случайная переменная, а Р— ее функция распределения. Добавляя, если необходимо, подходящую константу к каждому измеренному значению $, можно сделать так, что среднее полученных значений будет равно нулю: р = Е ($) = ~ хдР (х) =-- 0; тЗХ 1(ентральная предельное виорема затем, умножая каждое значение на другую константу, можно получить единичную дисперсию а'=Е 1о') = ) х'йс (х)= 1. (13.5.5) Допустим, что мы уже осуществили указанные действия. При этом подразумевалось, что интегралы сходятся.
Сделаем еще одно допущение: вы " р= ~ (х('др(х) с, оо, (13.5.б) Пусть $п ..,, $„— независимые случайные переменные, каждая из которых имеет функцию распределения Г. Например, значения этих переменных могут получаться в результате п невы зависимых повтоРений измеРенЯЯ З, так что т1=$г+...
+$„ случайная переменная как результат составного измерения, которое в свою очередь может повторяться неопределенно часто (всегда с тем же и), чтобы дать распределение значений ре Дисперсия и равна и, так как Следовательно, случайная переменная ь =(ь +" +5,)1 и (13.5.7) имеет нулевое среднее и единичную дисперсию. Любопытным и фундаментальным фактом теории вероятностей является то, что при и — оо распределение С„стремится к универсальному распределению вероятности, а именно к рассмотренному в предыдущем параграфе нормальному распределению, которое совершенно не зависит от первоначального распределения переменной о, пока выполняются условия (13.5.4) — (13.5.6).
Этот результат составляет знаменитую центральную предельную теорему, Мы сформулируем и докажем простой вариант этой теоремы, а затем сформулируем без доказательства теорему Берри— Эссена. Центральная предельная теорема. Пусть $ и с„име>от указанный выиге смысл.
Тогда распределение вероятности переменной ь„ при и- оо сходится (как распределение) к нормальному распре- Гл. !3. Вероятность. Черн деленьио, То есть если Є— фУнкциа РаспРеделениЯ ~т то пРи и сю ) ср(х)йг"„(х)- ) ср(х) йФ(х) для любой пробной функции р, (13.5.8) причем Ф имеет еид (13.4.!). Замечания, (1) Правый член в (13.5.8) можно записать как ~ ср (х) (2п)-'/з ехр ( — хз/2) дх, поскольку нормальное распределение имеет плотность (2п)-'/з ехр ( — хз)2).
Доказательство теопнмьц Если Р [)~х)=Г[я), то Р(аз(р) р Е(р а). Отсюда следует, что если Х(Л) — характеристическая функция $, то Х(аЛ!— характеристическая функция оь Согласно [!3 5,3), характеристическая функция переменной („=и" ~/з([1+... + [с„) имеет вид Хся [Л) = [Х! й )' )1" Для заданного Л из (13.5.4!†(13лйб) следует, что Х, (1) = ~ е ~~ Ег (х) = ~ (1 — сдх — э/, Лзхз + О (Лзхз)!ЕГ [я)= !†/,Лз-[.О [Лз), [! 3.5.0) Поэтому Хз (Л/ф/" и) =1 — Лз/(2л)+О [лэ/пз/з) что можно записать как Х„(Л/!/ и) — (1 Лз/(2п)) [1 ! 0(Лз лз/з)1 следовательно, (13.5.10) (Л) = (1 — Лз/(2п))Я [1 [ О (Лз[ Р" и)!. (13.5.11) [Лля и-й степени выражения в квадратньэх скобках из (13.5.10) использовано биномналысое разложение.] Мы видим, что 2 а(Л) е" /з при п се, (13.5.
12) причем сходимость равномерна по Л в любом коне шом интервале. Теперь покажем, что если Чэ — любая функция из клзсса сТ пробных функций для распределений зэедленпого роста, то Лз/3 сР (Л) [Лг„(Л) — е ~ /з! /0, — ь 0 пРи и - со. (13,5,13) (2) Согласно теореме Берри — Эссена (см. ниже) р„(х) Ф(х) поточечно равномерно. И.б. Цанюральнал пред«льная шеар«ма Иначе говори, если („и 7 обозначают соответственно распределение случайной переменной ь„н нормальное распределение, то (ф, уь) — «(ф, !) для любой ф6«~, где величины «с нрышнойз означают преобразования Фурье. Вспомним, что ф — «ф представляет собой взаимно однозначное отображение класса «У«на себя и что харахтеристическая фуннция нормального распределения равна ехр ( — )««!2), Тан нах для распределений медленного роста (ф, 7) всегда равно (ф, Г), то (ф, 1„) — ° (ф, 1) для любой пробной функции ф, э это в точности требуемый результат (13,о.й).
Для того чтобы донаэать (13.5.13), разобьем интервал интегрированна на две части: (Х( < а н ) Х( > а. Тан нак ( Х(Х) (~ ! для любой характеристической функции, вклад в интеграл (13 5,!3) от (Х ( > а можно сделать сколь угодно малым (независимо от а), выбирая а достаточно большим, поснольну ф6«У'. Затем в силу равномерной сходимости (13.5.12) при (Х( < а вилах от (ь(< а можно сделать произвольно малым, выбирая и достаточно большим.
Это завершает доказательства. В данной теореме ничего не говорится ни о типе, ни о скорости сходнмости Р„(х) к Ф(х). [Теоремы о характеристиках сходимости см. в книге Феллера, т. 2.1 Вообще говоря, быстрая сходпмость прк и — оо требует существования моментов распределения й выше третьего, которым мы ограничились в нашем случае.
Требуется также некоторая минимальная степень гладкости Р(х), которая обычно выражается через поведение характеристической функции )((Х) при больших д. Чтобы получить равномерность относительно х для этих высоких скоростей сходимости, необходимо постулировать еще более высокую степень гладкости Р(х), Замечательная теорема, полученная независимо Берри в 1941 г. и Эссеном в 1942 г. (см. книгу Феллера [19661), дает равномерную сходимость со скоростью 0(п-хгэ), не требуя никаких допущений, кроме (13.5.4) — (13.5.6).
(Вместо единичной дисперсии в ней фигурирует явно дисперсия о'.) Теорема (Берри — Эссен). При допущениях данного параграфа ) Р„(х) — Ф ~ — ") ~ ( С Р («ах, з!Еп), (13.5.14) гдг С вЂ” универсальная постоянная. В первоначальной статье Эссен установил, что 0.410(Се '7.59. (1 3.5.15) Здесь имелось в виду, что при С=7.59 неравенство (13,5.14) справедливо для всех случаев, тогда как при С(0.4!О это неравенство нарушается хотя бы в одном случае. Этот результат последовательно улучшался (см. книгу Феллера [19661), и дальнейшие исследования привели к следующим пределам: О 410(С(0.800 (13.5.16) (частное сообщение проф.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
