1625915148-9c9f9a2bacef72b603fa281986313335 (843878), страница 44
Текст из файла (страница 44)
с (3.14)), где (и!!)(со, )т«;'<со, о!)О, о»>0, )р)<1, Простой подсчет раскрывает смысл этих параметров: т,=М$, «1,' 0$, т« = М)), о,' = О)), 252 гл. н. мАтемАтические ОснОВАния теОРии ВеРОятностеи Т е о р е м а 1. Пусть Мт)1 ОО. Тогда оптимальная оценка !р*=!р*(Е) су!цествует и в качестве !р*(х) лоясет быть взята функция !р" (х) = М (ч ~ е = х). (6) Доказательство. Без ограничения общности можно рассматривать только те оценки !р(с), для которых М!р'($)(ОО.
Тогда, если !р(2) — такая оценка, а !р*($) =М(т) ~ $), то М[! — р(а))Я = М[(Ч вЂ” Мв (Я))+(р" ($) — р (~))Р = = М !и — р* (е)11+ М [!р" (й) — р (е)1'+ + 2М [(и — р (Е)) (<р* (.:) — ~ (Аь))1 == М [Ч вЂ” р" (»)11, поскольку М[!р" (е) — !р Я)!'=-О и по свойствам условных матема- тических ожиданий М[«- ~*а))( *(й)-~(й)))=М(М[(ц- 1*(2))( "(е)-~а))).Ц) = =М((р (2) — р(2)) М(ц — р" Ф,Р) =О. !в — т ы]!' )»;(у(х)= .
— е р 2л(! — рг!в, (7) где т(х)=та+ — 'р (х — т,). О, (8) Тогда из следствия к теореме 3 2 7 М(т!($=х) = ~ уг» е(у~х) с(у=т(х) 0 (т! ! $ = х) = М [(т! — М (11 ( е = х))' ) ~ = х1 =- (у — т (х))')»,1(у|х) 11у = = о', (1 — р'), (10) Теорема доказана.
3 а меча н и е. Из доказательства теоремы видно, что ее утверждение справедливо и в том случае, когда $ не только случайная величина, ио и произвольный случайный элемент со значениями в некотором измеримом пространстве (Е, с). Под оценками !р = == !р(х) тогда следует понимать 6!Л()с)-измеримые функции. Рассмотрим структуру функции !р*(х) в предположен)!и, что (», т)) — гауссовская пара с плотностью, задаваемой формулой (4), Из (!), (4) и (7.!(!) находим, что плотность )„е(у~х) условного распределения вероятностей задается формулой 251 З г слччтпные вслпчттны и. Заметим, что условная дисперсия 0(т),'5=х) не зависит от х и, значит, Л = М тч — М (т) ! в = х)1 — о, (1 — р ). (11) Формулы (9), (11) получены в предположении 02~0, 0т))0.
Если же 0~) О, а 00=0, то они выполняются очевидным образом. Итак, справедлив следуюн,ий результат (ср. с (1.4.16), (1.4.1?)). Т е о р е м а 2. 17усть Я, т!) — гауссовский вектор с 0з ~ О. Тогда отттил~альнап щенка т) по а есть М(т) а) =МО+ (~' ") Я вЂ” М$), (12) а ес ошибка „„, М 0 сочт(с, т!) 0~ (13) Тогда М;=Мт)=0, 0ь=а1+а'„0т) =Ь;+Ь„оочЯ, т)) =атЬ, + -г а,д„и если а;-(-а'„,)О, то а,Ь, +атЬ, с (14) ,„ (а,Ь, — а,ьт)т (15) от+ аь 3. Рассмотрим вопросы отыскания функций распределения для случайных величин, являющихся функциями от других случайных величин. Пусть 6 — случайная величина с функцией распределения Рь (х) (и плотностью 1ь(х), если таковая существует), тр= р(х) — некоторая борелевская функция и т) =~р(я). Обозначая 1„=( — со, у), находим г (у) = Р (т) < у) = Р (те (ь) — = 1„) = Р ($ тр (1 )) = Рь (т(х), (16) ч '(тл) 3 а меч ание.
Кривая у(х) = М(т)(~=х) называется кривой р'грессии т) ни 6 или т) по отноитенито к з. В гауссовском случае М(т(~5=-х)=а+Ьх и, следовательно, регрессия т) на $ является линейной. Поэтому нет ничего удивительного в том, что правые части формул (12) и (13) совпадают с соответствующими частями формул (!.4.16) и (1.4.17) для оптимальной линейной оценки и ее ошибки. Следствие. Пусть е, н е,— независимые гауссовские случайные величины с нулевыми средними и единичной дисперсией и с = агат+ атет, т! = Ьтет+ Ьтет 254 ГЛ. Н. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕИ Согласно задаче (15) из $ 6 ьм! Р )Ь (х) !(х = ~ )А (й (г)) й' (г) !(г (20) и, значит, ~ Ы =)4(й(У)) Ь'(У).
(21) Аналогично, если функция !р (х) является строго убывающей, то !' (У) =)т()т(У)) ( — й'(У)) Таким образом, в обоих случаях 1ч(У) ='!4(~! (У)И1'(УУ, (22) НапРимеР, если т)=а$+Ь, а~О, то й(У)= — "Ь и 1ч(У) = =+~ Ю Если $ ВГ (т, оь), а т1=еь, то из (22) нахоДим, что 1 '"(4Л 1ч(У) = Уз е ехР~- за~ ~, У)0, (23) У О, О, где М=г"'.
что дает выражение для функции распределения У (у) через функцшо распределения Уь(х) и функцию !р. Так, если т) = Не+ Ь, а) О, то Уч(у) =Р ~$(~ — ) =У41~ — ). (17) Если т1=~ь, то, очевидно, Гч(У) =0 длЯ У(0, а длЯ У~О Ь'ч(У) =Р (з'==У) =Р( — )'У~3~ Ю= = У,(3/у) — У,( — 3/у)+ Р ($ = )Гу). (18) Обратимся теперь к вопросу отыскания плотности 1„(у). Предположим, что Область значений случайной величины есть (конечный или бесконечный) открытый интервал ! =(а, Ь), а функция !р=Ч!(х), определенная для хее),,является непрерывно дифференцируемой и либо строго возрастающей, либо строго убывающей. Будем предполагать также, что ср' (х) =,~: О, х ее 1. Обозначим Ь(у) =ср-!(у) и предположим для определенности, что <р (х) строго возрастает. Тогда для У е- :ср(1) гч (у) = Р (Ч ~ у) = Р (!р (Е) ~ у) = Р (й ~ !р (у)) = ь (а) =Р(Ь~Й(У))= ~ )4(х)дх.
(19) %» СЛУЧАГ»НЫЕ ВЕЛИЧИНЫ. П. (25) (27) Распределение вероятностей с плотностью (23) называется ло- гарифмичееки норуаальным. Если функция ~р=ч (х) не является строго возрастающей или строго убывающей, то формула (22) неприменима. Однако для многих приложений вполне достаточно следующее ее обобщение. Пусть функция Ч~=Ч~(х) определена на множестве ~х~~ (а», о»1, »=-1 причем на каждом открытом интервале 1„=(аы о») является не- прерывно дифференцируемой либо строго возрастающей, либо строго убывающей, ч'(х)~0 при хен1». Пусть л»=а»(у) — об- ратная функция к Ч (х), х~1».
Тогда имеет место следующее обобщение формулы (22): 1ч(у) = Х )ь(й»(у)) ~й» (У) ~.'1п» (У) (24) »=1 где О» — область определения функции Ь»(у). Так, например, если и= ~», то, беря 1,=( — со, О), 1,=(0, со), находим, что Й,(у) = — 1/у, Й,(у) =3/у, и, значит, ~. (У) = = [(ьЬ'У)+1ь( — У У)1 У) О, О, У~О. Заметим, что этот результат следует также из (18), поскольку Р($= — 1/у)=0.
В частности, если ~ м" (О, 1), то г, (у) Узиу =г У~», у)0, 1 (26) О, у О. Несложный подсчет показывает также, что (()+~ ( — )* ' (У) = О 2у ()ь (у') + ~ь ( — у')), у > О, ~+) ы(у)= О О (28) 4. Обратимся теперь к функциям от многих случайных ве- личин. Если $ и и — случайные величины с совместным распределе- нием Рьч(х, у), а ~р=ч~(х, у) — некоторая борелевская функция, то для Ь=гр($, т1) сразу получаем, что Рг,(г) = ~ ГРЕЧ(х, у). (29) 1.м тсвй~»1 зза гл и к<ктел<хтическив основлнпя теотш ваяоятностви и анап»;гпчно Р» (г) = ~ Р: (г — д) йРч(д). (31) Если Р и 6 — две ф)нкции распределения, то функцию Н (г) = ~ Р(г — х)с(6(х) принято обозначать Рв 6 и называть сверткой Р н 6. Таким образом, функ«ия распределения Рс суммы двух независима<к случайных величин Е и т> есть свертка их функии<1 распределения Р; и Р„: Рс = Ре и Рч.
Ясно при этом, что РьвР„=Рчл.Р~. Предположим теперь, что независимые случайные величины $ и т> имеют плотности ~е и >ч. Тогда из (31), снова применяя теорему Ф)бини, найдем, что Рс (г) = откуда (32) и аналогично 1с (7) = ~ 1» (г — х) 1е (х) <(х. (33) Рассмотрим несколько примеров на применение этих формул. Например, если <р(х, у) =к+у, а $ и г> независимы (и, значит, Р.„(х, у) =Ге(х) Р„(у)), то, применяя теорсь<у Фубини, получим Р (г) = ~ с(Р» (х) а»Рч (у) = <», в к-~-е<»> = ~ У < „ь, -,> (х, у) с(Р» (х) ЛРч (д) = — дР; (л) ) ~ (<»» л ~,> (х, у) дРч (у))) = ~ Г„(г — х) дРе (х) (30) — »» 257 ф В СЛУЧХИНЫЕ ВЕЛИЧИНЫ и, Пусть 5м $м ..., $,— последовательность независимых одинаково распределенных случайных величин с равномерной на ( — 1, 11 плотностью ( 1/2, 1(х) =~ )х) ='1, (х!)1, Тогда из (32) находим 1, ! ! 2, О, 1х!~ 2, 1:=(х(~ч.3, 3 — к' 1 в О, )х))3, ~:,» е,(х) = ~е,+~,» м(х) = и вообще (по индукции) л+к ( — 1) С~ (л+х — 2й) )х~~п, (х) >н.
~;»„,»Е (х)= О, Пусть теперь Е в4-(т,, а1), П лл:"(глм ол) Если обо значить ~р(х) ==е-кч' ! Р 2л то Це(х) = — ~р ~ — '), )ч(х) = — ~р (- '), 1 х(лап — 1Š— к~к л (х) = 2"ДГ (л!21 $!+" »-$л О, х)О, (34) х= О. и из (32) легко находим, что ! !х — (ли+ мк)) 1' в',+в„-' ~ Р в1+В1 / (х)= р ). Таким образом, сумл~а двух независилых гауссовских случайных величин снова есть гауссовская случайная величина со средним т,+т, и дисперсией о,'+о,'. Пусть $м ..., с„— независимые случайные величины, каждая из которых нормально распределена с нулевым средним и единичной дисперсией. Тогда, используя (26), нетрудно (по индукции) найти, что 258 Гл и.
мАтемАтические ОсновАния теОРии ВеРОятностеп Обычно величина Ц+...-(-Ц обозначается )('„, а ее распреде. ление (с плотностью (32)) называется у'-распределением (хи-квад. рат распределением) с а степенями свободы (ср. с табл. 2 в 2 3). Если обозначить )(„=+)/Д, то из (28) и (34) следует, что и-! -хчз 2х г 7к (х) = 2"!'Г (л(2) ' О, х~О, (33) х <О. Распределение вероятностей с такой плотностью принято называть )(-распределением (хи-распределением) с и степенями свободы. Пусть снова $ и т) — независимые случайные ветичины с плот.
ностямн 7А и Цч. тогда Ге„(г) = ~ ~ 7е (х) !ч (Р) !гх Ой', (ь д: ку(г! га (г)= )) Ре()6ЯЫ ' йч ( и х(21 Отсюда нетрудно получить, что ),ч(г)= ~ ~,('))„Ы вЂ” '" = ~)чЖ);(х) — '" (38) !': (г) = ~ )е(гр)'! (у))р(г(у! Полагая в (37) $=$, и т1=)/ " „" ', где йа $! независимые гауссовские случайные величины с нулевыми средними и дисперсиями ОА >О, и используя (35), найдем, что )à — „' (е,'+...+т'.) " Ы ~)+"— '-~ ' Величина $а обычно обозначается через г, а ее рас- )à — „(Ц+...+1„) Г! пределение называется Ьраспределением или распреде,гением С!пыодента с п степенями свободы (ср. с табл.