Корн Г.А., Корн Т.М. - Справочник по математике для ученых и инженеров (947387), страница 130
Текст из файла (страница 130)
вероятнвстей в нем матрица моментов тмсого распределения спвоадает с [Юа], ллнп. саид рассеяная иллюстрирует распределение вероятностей п различным направлениям, «Объем» этого эллипсоида пропорционален парню квадратйаиу иэ обобсцеивой диспер- сии для ссесобстэеспсаго распределения вероятностей (при г ( л) спектр (п,18 4-7) сосре- дотосеи иа некотором г-мерном .чиновном многообраэнн (прямой, плоскости, гипер- йлоскости) в и-меРном пРостРанстве точас (х, х .. . хл) и там же Расположен его эллипсоид рассеянна Тэк, например, спектр двумерного распределения вероятностей при г = 1 лежит на прямой, а прн г = 0 находится в одной точие.
18.4-9. Регрессия. Коэффициенты корреляции (см. также пп. 18.4-6 и 19.7-2). (а) Если дано совместное распределение л случайных величин х,, хэ, ... ..., х„, то зависимость одной из этих величин, напРимеР хы ат остальных и — 1 величин можно изучать с помощью формулы х(=61(хю хэ, ..., хи)+й( (хэ, хэ, ..., хл), (18.4-33) где 51(хэ, хю ..., х ) рассматривается как поправочный член. (Средняя квадратическая) регрессия хэ на хэ, хю ..., хл есть функция 61(хэ, ха, ..., кл) =М (х( ( хэ, ха, ..., х„] = к, (!8.4-34) ~ х)йспта" (х)~~. хэ. "., х„) йх), если хэ непрерывна, — ао которая минимизирует средний квадрат отклонения М [хэ — 61(кю хэ, ..., х„))'=М [(й,(х(, хэ...., хл))а, М (х,, 'Хэ, Ха, ...,Х,) есть условное средкее значение величины х, при х, = Хю хэ — — Хэ, ..., хи =Ха (см, также п.
18.4.5). (Ь) Регрессия величины х) на остальные и — 1 вечичнп часта аппроксимн- руется линейной функцией — линейной регрессией д]~) = 01 -[- ~Р~ [1,. [х — 5 ), [))а — — — ™ С (18.4-35] а —,а( где [Лгэ) = [л(э[ 1 есть матрица, обратная матрице моментов. Коэффициенты регрессии [)(а определяются едивственным образом, если распределение — соб. ствепное (п. 18.4-8). Сводный коэффициент корреляции р [ 1 6(П) = ]~ ! — Ан.н является мерой корреляции между х; н остальными и — 1 величинами. (с) Случайная величина й(' =хг — 6] ) [равность между х( и ее «линейной (!) 1 оценкой» 61 при ЛЛ~ О) называется остатком х относительно остальных (1) и — 1 величин. Зэметинм, что сои 1~Д)~, х„] = 0 (1 ~ Д), () )11' = — (остаточная дисперсия). (18.4-37) и (б) каэффицвент корреляции величин к н х поатнашенню к величинам х...,.к .
1 Э Р(2 34...л =Р(А)'34,, л' С2)34, л ) (18Л-38) у л„лы яэмерает иоррелнцию между к, в кэ после устранении линейных иэмемений, вызванных влиянием величин х . к..., . к . В частности, при л=а: и' Рс* — Рмрс Рс»1»= )г( Р11) ( Р!а) 18.4-19. Характеристические функции (см. также п. 18.3-8). Совместное распределение вероятностей и-мерной случайной величины х:=(хэ, хэ, ..., ха) однозначно определяет характеристическую функцию л Х„(9)— = Х„(бас 92,".,4„)— = М ехр (1 Д р,х,]ен / СО СО - =! ! — ! - ( 5 ъч) .
(*.. -" *.). — са — са — са а =! (18.4-39) Для непрерывного распределения иыеет место бюрмула обращения Срк (х1 ка " хл)= СО СО СО / л Р~ ! ам 9 Х*(йм бм "'' 4) 41 Ч "' ~4 ° — са — са — со а=( (18.4-40) Характернгтэческая функция, соатветствующан ю-мерному маргинальному распре- делению ю нв л величин х, к, ..., х, находится путем подстановин в формулу (32] л' значений ра —— 0 для всех тех х, которые не входят в ю-мерное распределение; так, напРииеР, Х (Р, Рт)=дг(Р(, Р), О...,, 0) Моментй и семиинвариаиты многомерных распределений могут быть получены как коэффициенты разложений в степенные рады функций Х„и (п Х„подобно тому, как это сделано в и.
18 3-10, 18.4-11. Независимость случайных величин (см. также п. 18.2-3). (а) Случайные величины х„хю ..., хл называются (взаимно) неэависимыми, если независимы в совокупности события [хт(ы 51), [хэ ы 52], ... ..., [х„сп 5л) для любого набора множеств 5ы 5ю ..., 5л действительных чисел. Для этого веобходима и достаточно, чтобы Ф(хэ, хэ, ..., хл) ьн Фэ(хх) Фа(хэ) ... Ф„(х„) (18.4-4!) 1вы-1!. !8Л. МНОГОМЕРНЫЕ РАСПРЕДЕЛЕНИЯ ВЕРОЯТНОСТЕИ 557 558 ГЛ !8 ТЕОРИЯ ВЕРОЯТНОСТЕЙ И СЛУЧАЙНЫЕ ПРОПЕССЫ 18.4.12. или в случаях дискретных н непрерывных случайных величин соответственно, чтобы р(хм хз хн) Ра(«1)рз(хй" Рп(хл) (Р84 42) !Р(Х(, ХМ ..., Хл) = фа(«1)(РЗ(ХЗ) ...
ф„(Х„). ) Распределение системы независимых случайных величин вполне определяется нх инднвидуальнымн распределениями. Независимые случайные величины не норрелпроваиы, т. е. р)е = 0 при всех ! ~ А (п. 18.4-8, с), но обрап оо утверждепяе не всегда справедливо. (Ь) Независимость многомерных случайных величии х,, х„ ... определяется формулами вида (41) или (42), в которые вместо ха, хз, ... надо подставить хз, хз, П р им е р, Многомерные случайные величины (ко к,) н (хо кс, ха) везависимы тогда н только тогда, когда Фмгга (Ко ха ха. Ка Ка) = — Ф~а (хз «) Фам (Х х ка) 118.4 43) Замесим, что формула (43) влечет за собой независимость «а и х„х, и (кз, «с>, (х„«,) и («а «а) м г. А. (с) Если в распределении дискретной или непрерывной и-нермой случайной вели.
чины (ху х...,, хл) т-мернаа величина (к, х...,, к ) независима от (л — т)-41ерной величимй (х, ..., х„), то у!2,, т (т+1> ... л (к! Кз хм[«тот' '' ' кл! =а!2 т(х, х...,, х ) М !Ой ' = — ~Р(х) 1ойаР(х), к М (ой ! = — ~ !Р(х) !ойа р(х) йх. (18, 4. 46) Н(х) = Н (х) есть ме а априорной июпрсделеииасти измерения величины х. В случае р дискретного распределения вероятностей Н (х) зв О, причем Н (х) = 0 тогда и только тогда, когда х имеет вырои(денное (причинное) распределение (табл. 18.8-1). Непрерывное раслределеиие, илыющес наибольшую энтропию при данной дисперсии пз, является нормальным распределением (п.
18.8-3) с Н (х) = = >ойв )' 2пеое. (Ь) Для дискретного или непрерывного распределения вероятностей двумерной случайной величины (хт, ха) энтропия определяется соответственцо следу(ощимн формулами: — М !одер(хм х,), Н(хы хЙ = — М 1ойа ф(хз, ха). (18,4-44) л(», к.... «т>«тес ' «л)= =Ф!2 ., пВ(«1' «3' ' ' ' кт) (д> С йнмс величины х и «лггогиснми тогда и тсгака тогда, когда кааактгаихуча нмс а е ~д смичгскал функцал дгумгукпй случайной величина (х„к,) равна произведению инопем уалвных «ааактеаистических функций координат х, и х, (й. 18.4-)О), т.
е. Хм (Ос. 1 ° ) Х~ (а ) Ха (еа). (18.4-45> Аналогичная теорема верна длв мпогомермм«случайных величин (е) Се«и случайимс гггичинмхо к..., нгеагиси.чм, пгп нгзаоисими и случайные ггги. чини у, (х,), у, («а).... (,), ( ),, Аиалогичнав теорема верна и дли многомерных случайны«величин 18.4-12. Энтропия распределения вероятностей. (а) Энтропия распределения вероятностей для одномерной слуцайаой вели. чипы х с дискретным или непрерывным распределением определяется соответ. ссвенно формулами 13.3-2.!3.5. Функции От слус1АЙных Величин. 3АменА переме1(ных 559 Условная энтропия Нк (х ) определяется соответственно как ( — М 1ойа Рдв (х,,'х,), Н (х)=( '( — ьа, Ы.,!.,) (18.4.48) (это ие условные математические ожидания).
Переставляя индексы 1 и 2, полу- чим условную энтропию Нк (х,). Имеют место соотношения Н(х(, хз) — Н(х))+Н, (хз)=Н(хе)+Нк (хз) ~ Н (хт)+Н(хе). (18449) Равенство в правой часто достигается тогда и только тогда, когда величины х) и х, иезазисимы (и. 18.4-11). Неотрицательная велнчвна ,) (хз, хт) = Н (х ) + Н (хе) — Н (Х, Х ) = Н (Х ) — П (х ) = Н(х ) — Н (х ) (18А-50) может служоть мерой зависимости между х, н х,.
Функционалы (46) — (48) и (50) играют важную роль в статистнцеской механике и теории информация. 18.5. ФУНКЦИИ ОТ СЛУЧАЙНЫХ ВЕЛИЧИН. ЗАМЕНА ПЕРЕМЕННЫХ 18.5-1. Вводные замечания. Ниже даются соотношения, позволяющие рэссчитывать распределения вероятностей функций от случайных величин. 1я.5-2. Функции (или преобразования) одномерной случайной величины. (а) Распределение веролтиостей функции у=у(х) вполне оиределлется распределением вероятностей случайной величины х (см. также и. 18.2-8).
(Ь) Пусть случайные величины х и у связаны взаимно одисюиачиым тютио(иеиием у=у(х), х=х(у). Тогда: 1. Сели у(х) — возрастающая функция, то Фу(У)=Ф„[х(У)[, Фк(Х)=ФУ[У(Х)), у =у(х,), х,=х(у,) (0(Р<1). ) (18.5-1) Зылегпм, что спогпоюемие уО =у (ХЧ,). свпзывающее медианы хс; и ус;, справедг з уа Ха' лино мак длн возрастающей, так и дл» убывающей функции у (х), 2. Если х и у — непрерывные случайные величины, то юру(У) )йу>=ф~ [х(У)) ~ йх , 'или (ру(У)=фк[х(У)] ~ —," — ~ (18,5-2) Замечание, Если функци» «(у) мнпгпзиачна. то Фу(У)= 11(У>+Фа(У>+" ° где чз, (!'), Ф, (У)...
— плотности распрсделеиил, получаемые из формулы (2) длв соотвсгсгв)1ощнх однозначных ветвей х, (у), кг (у), ... функции х (у). П р имер, Если у=хч го х~ =-(-Уу. х,= — Уу н О прм У (О. Ф (У) = Ф( )= с Ф (У).) г — Ф ( — У:У) пРи У)О. (! 8,5-3) для всех значений У величины у, при которых производная йх/ду еуществуеп и непрерывна 580 ГЛ 18 ТЕОРИЯ ВЕРОЯТНОСТЕИ И СЛУЧАЙНЫЕ ПРОЦЕССЫ 1Б.Б 4 !В.Б функции От случл1чных Величин. Злменл пеРеменных 5! (с) Для сложной функции /(д(х)! согласно п. !8.3-6 имеем М/(у)=М/(у(х))= ) /!у(х))йй)»(х).
(18 5-4) Заметим, что ни существование однозначной обратной функции х(у), ни дифференцируемость у(х) нс предполагаются. В частности, для /(у)еже»и получаем производящую функцию момектов Л1д (з) = Ме'д, а для /(у) нж ещ!— характеристическую функцию Хд(4) Ме'ед (п. 18.3-8). Пример Пусть д з1н (к+а], гпе а=сон!!! а случайная величина к распределен» равномерна з !О. 2п!. Тогда 2н и!2 1 1 с Г !44 !»]дх ( згрд!к!Лх ( ! Бд О йг'2 откуда, согласно формуле НВ,3-2П, — лри )д 1(1, 1 о1,(д) = и У'! — з' 1 О прн 1д ! > 1 (см также п. 18 Н-1, Ы, (д) С помощью теоремы о свертке !и, 8,3-3) Лля двустороннего преобразования Лап- ласа (и. 8.8-21 формулу 14) можно записать з виде о,-)-ио о! Му(д)= ( М (з!щ $ /!д!к)]е»»дх, ПВ г-5! 2!и 3 .е е, — !со — со г е внешнее ннтегркрозанне проводится ло такой вертикаль о р н й и ямой, чтобы нитегьзл а солютио сходился, отот коьп, Т' ! лексный инте!Рал наогла легче вычислить, чем интег- рал 14), (е! заметны, что вообще М з (х! Фд!Мх) (см.
также и. 1 . - !. 8.5-3. 18.5-8. Линейные преобразования одномерной случайной величины. (а) Если х — менрерылная слу!ейная величина и у =ах+ Ь, то <рд(У)- —... 4»( — „) (18,5-8) (Ь) Если расслщтриеасмые ниже средние существуют, !по М(ах+Ь)=аМх-]-Ь, О(ах+М=а'Ох, (18.5-7) М(ах+5)с=ага!+('! ) а" 'Ьот 1+ ... + Ь", Ха»48 (4) =е огйх !ай), й(а»48 (г) =е~гй(х (аз) уах (з) =ух (за) ! Семнннварнанты н, аля х (л 18,3.9! связаны с семнинзарнантзмн и*; для у=ах+В соотношениями и!=ах!+В, нг — — агм 1»>И (с) Особый интерес представляет линейное преобразование к стандартному виду (нормирование)1 х'= » ~ с Мх'=О, Ох'=1. (!8.5-9) о х' называется стандартизованной (нормированной) случайной величиной.