А.Н. Ширяев - Вероятность-1 (1115330), страница 52
Текст из файла (страница 52)
Итак, справедлив следующий результат (ср. с (18), (17) $4 гл.!). Теорема 2 (теорема о нормальной корреляции). Пусть (с, и)— гауссовский вектор с 0с > О. Оптимальная оценка и по с есть Е(г)[0=Еп+ '~ (4 — Е~), (12) а ее ошибка Ь за Е[о — Е(г1[4))з = 0г!— 0Е Замечание 2. Кривая у(х) =Е(г)[с=х) называется кривой регрессии г) на с или и по отношению к с.
В гауссовском случае Е(о[с = х) = а+ Ьх (13) Замечание 1. Из доказательства теоремы видно, что ее утверждение справедливо и в том случае, когда С не случайная величина, а произвольный случайный элемент со значениями в некотором измеримом пространстве (Е, и'). Под оценками у = у(х) тогда следует понимать и"-/йг(!т)-измеримые функции. Рассмотрим структуру функции р'(х) в предположении, что (С, г))— гауссовская пара с плотностью, задаваемой формулой (4).
Из (!), (4) и (18) $7 находим, что плотность 7„14(у[х) условного распределения вероятностей задается формулой $8. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ. П 305 и следовательно, регрессия и на с является линейной. Поэтому нет ничего удивительного в том, что правые части формул (12) и (13) совпадают с соответствуюшими частями формул (16) и (17) $4 гл.! для оптимальной линейной оценки и ее ошибки.
Следствие. Пусть е! и ез — независимые гауссовские случайные величины с нулевым средним и единичной дисперсией и С = а!е! + азез, г) = Ь! е! + Ьтез. Е(О]О = ""'+ "Ь'ь 2 (а!Ьз — азЬ!) аз! а2 ! 3 (14) 3. Рассмотрим вопросы отыскания функций распределения для случайных величин, являюшихся функциями от других случайных величин. Пусть С вЂ” случайная величина с функцией распределения Ре(х) (и плотностью ~е(х), если таковая сушествует), р = !р(х) — некоторая борелевская функция и !)= р(О, Обозначая /„ = (-со, у], находим рч(у) = Р(г) < у) = Р(Ф(0 Е /е) = РК Е Ф (/г)) = ~ рг(дх), (16) , — !б! что дает выражение для функции распределения гч(у) через функцию распределения РС(х) и функцию !р.
Так, если и = ай+ Ь, а > О, то (17) Если г) =(з, то, очевидно, рр(у) = О для у < О, а для у > О Р ( )=Р(~'< )=Р( — Д<~< ~Р)= =р,(,® р,(-,7у)+Р(6=-,уу). (!3) Обратимся теперь к вопросу отыскания плотности !ч(у). Предположим, что область значений случайной величины с есть (конечный или бесконечный) открытый интервал l =(а, Ь), а функция р= р(х), определенная для х ЕI, является непрерывно дифференцируемой и либо строго возрастающей, либо строго убывающей. Будем предполагать также, что ч!'(х) фО, «Е!.
Тогда Ес = Ел=О, 0с=а!+а~~, 0г1=Ь! +Ьз, соч(6, и) =а!Ь|+азЬз и если а2+а22>О, то Зеб ГЛ. и. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ Обозначим й(у) = р ' (у) и предположим для определенности, что р(х) строго возрастает. Тогда для у Е (!р(х): х Е !) Р„(у) = РО) < у) = Р( р(0 < у) = РЫ < ч '(у)) = Ыу) =Р(~<))(у))= $ ~е(х)!Хх. (!9) Согласно задаче!5 из $6, *!») » ~е(х) !(х = ') ~е(й(а))Ь'(г) с(г (20) и, значит ~ч(у) — те(й(у))й (у). Аналогично, если функция р(х) является строго убывающей, то ) (У) = )е(й(у))(-й'(У)).
Таким образом, в обоих случаях [ч(у) = Ие Яу)) [й'(у)]. (22) Например, если г)=ас+В, афО„той(у)= — и Цч(у) = — ~с~ — !. у-ь ) гу-а~ а " ]а[ ~ а Если с - 4'(т, аз), а )) = ес, то из (22) находим, что !'ч(у) = !/2яау ~ 2аз > ' О, у<0, (23) где М=е". Распределение вероятностей с плотностью (23) называется логарифмически нормальныл. Если функция р= р(х) не является строго возрастающей или строго убывающей, то формула (22) для )) = р(4) неприменима.
Однако для многих приложений вполне достаточно следующее ее обобщение. л Пусть функция !р= р(х) определена на множестве 2 , '[ам Ь»], причем на »=! каждом открытом интервале !» = (аы ()») является непрерывно дифференцируемой и либо строго возрастающей, либо строю убывающей, !р'(х) ф 0 при х Е!». Пусть й» = Ь»(у) — обратная функция к !р(х), х Е !». Тогда имеет место следующее обобщение формулы (22): и )' (у) = ~~', [е(й»(у))[й»(у)[)о,(у), (24) »=! где О» †облас определения функции л»(у). $8. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ. П 307 (26) (28) Гс(х)= ~ Ге(г-у)УГч(У). Если Г и «к — две функции распределения, то функцию Н(г) = ~ Г(х — х)к(0(х) принято обозначать Г у 6 и называть сверткой Г и О.
Так, например, если у1= Сз, то, беря /~ = ( — со, О), Iз = (О, со), находим, что Ь|(у) = — /у, йз(у) =з/у, и, значит, ! й( /Ю)+ й(- /у)1 0 Ь„(у)= 2у ~0, у<0. Заметим, что этот результат следует также из (18), поскольку Р(С = —,7у) = = О, В частности, если С .Ф'(О, 1), то ! е «кз, у>0, )ек (у) = ~/2лу О, у <О. Несложный подсчет показывает также, что й(У)+14(-у) У>0.
(27) )о, у<0, ) 2У(~е(уз) + ~е( — Уз)), у > О, +я(у~ )о, у<о. 4. Обратимся теперь к функциям от многих случайных величин. Если С и у1 — случайные величины с совместным распределением Гк „(х, у), а чу = р(х, у) — некоторая борелевская функция, то для г, = Чу(~, у)) сразу получаем, что Гс(2) = ) йГеа(х, У).
(29) 1к,уник,у1 Як1 Например, если Зу(х, у) =х+у, а С и у) независимы (и, значит, Г „(х, у) = =Гк(х)Гч(у)), то, применяя теорему Фубини, получим Гс(х) = ~ к(Ге(х) с(Гч(у) = $ 11к+у<к1(х у) с(Ге(х) с(Гч(у) = (к,у~+у<к1 як УГе(х) ~ 71к+у<к1(х, у) г(Гч(у) = ) Г„(х — х) к(Г~(х) (ЗО) и аналогично 308 ГЛ.
и. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ ЯСНО ПРИ ЭТОМ, Чта Ре*ГЧ22РЧОРЕ. Предположим теперь, что независимые случайные величины С и 2) имеют плотности (4 и Цч. Тогда из (3!), снова применяя теорему Фубини, найдем, что оо ~2-У ГС(г)22 ~ ~ ) 14(и)йи ГЧ(у)йуоо оо ( 2 г 1 оо — Ци-у)ди~)ч(у)дуоо ~ ~ ~ 14(и-у)Цу)ду ди, откуда )С(~)оо .'1 У~-у)) (у)ду (32) и аналогично (с(2) = 3 Ц(х — Х)(4(Х) ах. (33) Рассмотрим несколько примеров на применение этих формул. Пусть ~н С2, ..., ф— последовательность независимых одинаково распределенных случайных величин с равномерной на [ — 1, 1! плотностью /1/2, (х! < 1, (О, (х! > 1. Тогда из (32) находим 2 — )х! ( ) 4 !х(~<2 О, (х(>2, Р-,Щ, 1< !.! <3, 3 — х 2 8 О, 74,+4,+Е.(х) = 0<!х!<1 (х!>3, Таким образом, функция распределения гс суммы двух независимых случайных величин с и и есть свертка их функций распределения г"4 н гч: 2 4=24*2 ч. $8.
СЛУЧАЙНЫЕ ВЕЛИЧИНЫ. !! и вообше (по индукции) [+лк ~ /б+ +С„(х) = 2л(~ 1)! 2 ( 1) Сч(п+х — 2й)", )х(~(и, О, 1х) >л. Пусть теперь с т'(т!, а!), г) .Ф'(тз, аз~). Если обозначить у(х)= — е "/з, ~/2~г то Ях) = — !с( — !), 1 (х-тз) и из (32) получаем, что Таким образом, сумма двух независимых гауссовских случайных величин снова есть гауссовская случайная величина со средним т! + тз и дисперсией оя!+ от~. Пусть С!, ..., ф— независимые случайные величины, каждая из которых нормально распределена с нулевым средним и единичной дисперсией. Тогда, используя (26), нетрудно (по индукции) найти, что 1 х!"/з1 'е "/з, х>0, ,(х) = 2 7~ Г(л/2) ~о, х(0, (34) Обычно величина Сз!+...+Се обозначается Х~, а ее распределение (с плотностью (32)) называется ~т-распределением (хи-квадрат распределением) с и степенями свободы (ср.
с табл. 3 в $3). Если обозначить У„=+~Я, то из (28) и (34) следует, что 2хч- 1;х'lт /х. (х) = 2"/з Г(и/2) ' х>0, О, х(0. (35) распределение вероятностей с такой плотностью принято называть зг-рас- пределением (хи-распределением) с п степенями свободы. 310 ГЛ. 11. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ Пусть снова с и и — независимые случайные величины с плотностями 7~ и )ч. Тогда Реч(х) = Ц ]к(х))ч(у) дхду, (кл: ку <«1 РЕ7ч(г) = Я ~Е(х)]ч(у) дхду. (ке: «/у < «1 Отсюда нетрудно получить, что 1~ч(х) = ) )е( — )Цч(у) —" = ) Цянь(х)— (36) г"- (у, х) = (Г'(у))" — (г"(у) — г(х))", у > х, (р(у))", < у<х, п(п — 1)(Р(у) — Р(х)]к 27(х)1(у), у>х, 724(у, х) = О, у<х, 727 (х)= $ Мху)7ч(у)]у]ду (37) 42+ +42 Полагая в (37) С =Со и к) = ' ", где Со, 4н ..., ф— независии мые гауссовские случайные величины с нулевыми средними и дисперсиями е2 > О, и используя (35), найдем, что 7 к - е (2) (~~ )+ Величина Со/ -(С, +...
+ С2) обычно обозначается через 1, а ее распреде- 1 ление называется 1-распределением или распределением Стьюдента с п степенями свободы (ср. с табл. 3 в $3). Заметим, что зто распределение не зависит от а. 5. Задачи. 1. Проверить справедливость формул (9), (!О), (24), (27), (28), (34) — (38). 2. Пусть С(, ..., С„, и >2, — независимые одинаково распределенные случайные величины с функцией распределения г(х) (и плотностью 7(х), если таковая существует) и С=щах(С(, ..., С„), С =гп(п(4~. "'6). р=4 — 4. Показать, что 48. случАЙные Величины.