А.Н. Ширяев - Вероятность-1 (1115330), страница 60
Текст из файла (страница 60)
Как н в конечномерном случае, С будем называть проекцией С на .(З=.У(г11, П2, ... ), С вЂ” С вЂ” перпендикуляром, а представление (=(+ ((-0 — ортогональным разложением. Величину с обозначают (ср. с Е(С1ц,, ..., г)л) нз п. 3) Е((11)1, п2, . „) н называют условным математическим ожиданием в широком смысле (Р относительно г)1, г)2, ...). С точки зрения оценнвання С по цн г)2, ... величина С является оптимальной линейной оценкой, ошибка которой Чг!2 ц Чг!!2 !!Чл!!2 ~ )(~ )~2 что следует нз (3) н (23).
7. Задачи. 1. Показать, что если С=11.т. („, то 1(г„11- (Щ, 2. Показать, что если С = 1. Е т. Е„н Ц =!,1. гп. !1л, то (Х„, 11„) - (С, г)). 3. Показать, что норма 11 11 удовлетворяет свойству «параллелограмма» ~~Ч+, !!2+ ~~Ч, ~ 2 2(ьь!!2+ Ы2) 4.
Пусть (Сг, ..., С„) — семейство ортогональных случайных величин. Показать, что для ннх справедлива «теорема Пифагора»: л 2 л 3. Пусть С1, 42, ... — последовательность ортогональных случайных величин, 5„=с!+...+с„. Показать, что если 2. Есз<оо, то найдется таи=! кая случайная величина 5 с Е52 < оо, что 1.1.т. 5« лл 5, т. е.
!!5л — 5!!2 = =Е)5„— 5(2 — О, п- оо. 6. Показать, что функции Радемахера )г„могут быть определены следуюшнм образом: )г„(х) = а(йп(а(п 2" ях), 0 < х < 1, и = 1, 2, 7. Доказать, что 1!С1! > 11Е(С1У)!) для СЕ(.2(Я), причем равенство имеет место тогда н только тогда, когда С = Е(С1йт) п.
н. 8. Доказать, что если С, г! Е 12(Я), Е(С11)) = ц, Е(г)1~) = С, то ~ = П п. и. 352 ГЛ. и. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ 9. Даны три последовательности (У„), (У„) и (У„) под-в-алгебр У, 1П ай 1з! 4 — ограниченная случайная величина. Известно, что для каждого л Ул' ' с У1 ' с У! ' Е(С /Улп1) ~ и Е(С / У! ') ~ и Доказать, что Е(с (У!21) ч. В 12. Характеристические функции 1.
Метод характеристических функций является одним из основных средств аналитического аппарата теории вероятностей. Наиболее ярко это будет продемонстрировано в гл. П! при доказательстве предельных теорем и, в частности, при доказательстве центральной предельной теоремы, обобщающей теорему Муавра — Лапласа. Здесь же мы ограничимся определениями и изложением основных свойств характеристических функций. Прежде всего сделаем одно замечание общего характера. Наряду со случайными величинами (принимающими действительные значения) теория характеристических функций требует привлечения комплекснозначных случайных величин (см.
п. ! $5). Многие из определений и свойств, относящихся к случайным величинам, легко переносятся и на комплексный случай. Так, математическое ожидание Е~ комплекснозначной случайной величины ~ =С+ (гг считается определенным, если определены математические ожидания Ес и Ег). В этом случае по определению полагаем Е~=Е(+!ЕП.
Из определения 6 (9 5) независимости случайных элементов нетрудно вывести, что комплекснозначные величины ~~ =6+(гп, ~2=(2+!Пз независимы тогда и только тогда, когда независимы пары случайных величин (4н г)~) и (сз, пз) или, что то же самое, независимы а-алгебры Уб „, и УС,,,„. Наряду с пространством (.2 действительных случайных величин с конечным вторым моментом можно ввести в рассмотрение гильбертово пространство комплекснозначных случайных величин С=(+!г! с ЕЦ2 < со, где !ф=С2+г)2, и скалярным произведением (~н Ы=Е~~4, где ьз— комплексно-сопряженная случайная величина. В дальнейшем как действительнозначные, так и комплекснозначные случайные величины будем называть просто случайными величинами, отмечая, если это необходимо, о каком конкретно случае идет речь.
Условимся также о следующих обозначениях. При алгебраических операциях векторы а е)г" будут рассматриваться как вектор-столбцы, =И 353 й !2. ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ а а* — как вектор-строки, а' = (а !, ..., а„). Если а, Ь е)т", то под их скал лярным произведением (а, Ь) будет пониматься величина 2; а;Ьь Ясно, что (а, Ь) = а*Ь, Если а е Й" и )(с = 11 г!! 11 — матрица порядка н х и, то ()ка, а) =а*)на= ~у а;г;;а;. с/=! 2. Определение 1. Пусть Р =г(х) — л-мерная функция распределения в ()7", М(!2")), х = (х!, ..., х„). Ее характеристической функцией называется функция !р(1) = ) ец"! аг(х), (2) Определение 2. Если с =(й!, ..., й„) — случайный вектор, определенный на вероятностном пространстве (й,,уг, Р) и принимающей значения в !г", то его характеристической функцией называется функция !ре(1)= ~ ец!х!а!рс(х), (Е)(", (3) я" где ре=рс(х) — функция распределения вектора С=(С!, ..., й„), х= = (х!, ..., х„).
Если функция Р(х) имеет плотность 7 = 7(х), то тогда р(1) = ') ец!"'! 7(х) ах. Иначе говоря, в этом случае характеристическая функция р(1) есть не что иное, как преобразование Фурье функции г(х). Из (3) и теоремы 7 5 6 (о замене переменных под знаком интеграла Лебега) вытекает, что характеристическую функцию ч!е(!) случайного вектора можно определить также равенством Ч!1(1) = Еед!Л1, (4) Приведем теперь основные свойства характеристических функций, формулируя и доказывая их лишь в случае л=(.
Некоторые наиболее важные результаты, относящиеся к общему случаю, даются в виде задач. Пусть б=((ь!) — случайная величина, Рс- — Рс(х) — ее функция распределения и рс(Г) = Ееис -характеристическая функция. 12 — 9727 354 ГЛ. и. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ Сразу отметим, что если г)=аб+Ь, то «Г) Еенч Еещае+Ы еньЕе!ас Поэтому нь (о!) (5) Далее, если С!, Сз, ..., б„— независимые случайные величины и 5„= =б!+...+б„, то а з.(1)= й ,(1) (6) !=! В самом деле, ч!з„(1) = Еен!б+'"+б! = Ее!!б ... епс" = Еенб...
Еепс" = П !Рс. (1), ! г=! где мы воспользовались тем, что математическое ожидание произведения независимых (ограниченных) случайных величин (как действительных, так и комплексных, см. теорему 6 в ф 6 и задачу !) равно произведению их математических ожиданий. Свойство (6) является ключевым при доказательстве предельных теорем для сумм независимых случайных величин методом характеристических функций (см.
$ 3 гл. ШД. В этой связи отметим, что функция распределения Рз„выражается через функции распределения отдельных слагаемых уже значительно более сложным образом, а именно, Рз„= Рб а... * Рс„, где знак * означает свертку распределений (см. п. 4 $8). Приведем примеры характеристических функций. Пример 1. Пусть б — бернуллиевская случайная величина с Р(С = 1) = =Р о(4=6)=!), Р+д=1, 1> р>0, тогда ч!4(1) = рен + д, Если б!, ..., б„— независимые одинаково распределенные (как ~) слу«а — яр чайные величины, то для Т„= находим, что а рт„(1) аарз„- р),тер— я=Ееи~" "Атаия'=е и'7"~7'~ре"т'тедв+д1" = ~ренъ7ч7ю ~~-п,/Ф'ч]" (7) Заметим, что при и- оо отсюда следует, что Рт„(г)- е (8) О!2. ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ ЗЗО Пример 2. Пусть с а'(из, а2), (и»! < со, аэ > О. Покажем, что 1ас(1) = еп 2 (9) Š— ги Положим и = —.
Тогда 2) .Ф'(О, 1) и так как в силу (5) а 1ре(1)= ен ~рп(а1), то достаточно лишь показать, что рч(1) = е ' ~2. Следующая цепочка соотношений доказывает эту формулу (10): (10) пп ,р (1)=Еелп = — (' еипе-и'/2~(хш — — (2п — 1) 9 = ~ (Н)2п ~ (д)2п рай (2и)1 " (2и)1 2пи1 и О п=о Хпа-и Р2 (Х п=о где мы воспользовались тем (см.
задачу 7 в $8), что — кэпе "~э с(х м Ензп =(2п — 1)!! ~/2~г Пример 3. Пусть с — пуассоновская случайная величина, Тогда Ееис=~ еи» вЂ”,=е "~ —,=ехр(Л(ен — 1)). (!!) «=о «=о !2' 3. Как отмечалось в п. 1 $ 9, с каждой функцией распределения в 1'т', Я()т)) можно связать случайную величину, имеющую эту функцию в качестве своей функции распределения.
Поэтому при изложении свойств характеристических функций (в смысле как определения 1, так и определения 2) можно ограничиться рассмотрением характеристических функций 'р(1) =~рп(1) случайных величин 4=С(ы). Збб ГЛ. и. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ Теорема 1. Пусть 5 — случайная величина с функцией распределения г = г(х) и !р(!) = Ееис — ее характеристическая функция. Имеют место следующие свойства; !) Ь'((И < 'р(О) = !' 2) ч!(!) равномерно непрерывна по 1 е й; 3) р(!) = (-!); 4) !р(!) является действительнозначной функцией тогда и только тогда, когда распределение Р симметрично (~ г(г(х) = ) аЕ(х), в -в В ЕЯ()(), -В =( — х: х б В)); 5) если для некоторого и > 1 ЕЦ" <со, то при всех г < и существуют производные !с!'!(!) и !р!'!(1) = ) (!х)'еи" ар(х), (12) я Е~г ~" (О) !'Г л (14) .=о где !е„(1)1<ЗЕф" и е„(1)-+О, 1- О; 6) если существует и является конечной ч!!з"!(О), то Ест" < оо; 7) если Е!С!" < оо для всех и > 1 и (Е(4!л)!/ч ч и Т (13) то при всех !() < Т ,р(!) ~ " Цл (15) л=ь ! р((+и) — р(1)! = !ееие(е!ьс — 1)! < е1е!Ас — 1! и теоремы о мажорируемой сходимости, согласно которой Е1е!ье — 1~- О при й- О.
Свойство 4). Пусть Р симметрична. Тогда, если д(х) — ограниченная борелевская нечетная функция, то ~ д(х) аР(х) =О (заметим, что для я Доказательство. Свойства 1) и 3) очевидны. Свойство 2) следует из оценки 357 Е !2. ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ простых нечетных функций это следует сразу из определения симметричности В). Поэтому ) ып 1х Нг(х) = О и, значит, я р(() = Е соз (с. Обратно, пусть ре(() является действительной функцией. Тогда в силу 3) у-е(7)=ус( — 1)= реЯ=тЕЯ, 1 ей. Отсюда (как это будет доказано ниже в теореме 2) следует, что функции распределения В г и Ее случайных величин -С и С совпадают, а значит (по теореме 1 $3), РКЕВ) = Р(-6Е В) = Р(~Š— В) для любого В Е Вй(Й). Свойство 5).
Если Е1С!" < оо, то в силу неравенств Ляпунова (28) 3 6 Е ф' < оо, г < и. Рассмотрим отношение Лл(!+А) — Ф(1) пе/емс — ! ) Поскольку ~ < (х! и Е1С1< оо, то по теореме о мажорнруемой сходимости существует 1нп Еене( „), равный е'лс — 1 Еенс (пп( ) =!Е(сенс)=1 3 хе'"Ыг(х).