Тихонов В.И., Харисов В.Н. Статистический анализ и синтез радиотехнических устройств и систем (2004), страница 6

На основании формулы (17) можем написать Р(.К„~ Х„з ..., Х, )=Р„(Х,, ..., Хв)/Р„1(Х1, ..., Х„, ). Повторно и последовательно применяя это равенство, получаем р„(х,, ..., ха)=р(х„~х„,, ..., х, ) ...Р(хг!х, )р(х, ). (1.3.18) Укажем два правила исключения «лишних» аргументов из условной п, в. Назовем аргументы, стоящие в условной п. в. слева от вертнкалыюй черты, «левыми», а справа — -«правыми». 1. Чтобы из условной и. в. исключить какие-либо «левые лишние» аргументы, нужно проинтегрировать в бесконечных пределах условную п. в. по этим лишним переменным.

Например, р(х, )хз)= ( р(х,, хг)хз)дхг. 2. Для исключения «правых лишних» аргументов нужно исходную условную и. в. домножить на условную и. в. этих «лишних» аргументов при фиксированных остальных «правых» аргументах и полученный результат проинтегрировать в бес- конечных пределах по исключаемым «правым» переменным. Например, при исключении двух «правых» аргументов хг и л.з можно написать р(хз!Х4) — — ( ( р(х, !Хг, хз, х4)Р(хг, хз ~Х4)г(хаг(хз. Эти правила следуют из сформулированного ранее правила (5) исключения «лишних» аргументов в многомерных п.

в, и формул (17) и (18). 32 Нц основании второго правила получаем формулу Р(к1~-кз).-- ) Р(Х1!Х Хз)!1(лг~хз)ггхг (! .3.! 9) —,х ко1орая широко используется в теории марковских процессов. Сформулированные выше правила справедливы такдсе и для дискретных сл.

в. При этом. если оперировать законами распределения, то нужно заменить п. в. соответствующими вероятностями, а интегралы --суммами. НапРимеР, еспи дискРетные сл. в. сз, с,г и гз пРинимают соответственно значения х„уд 2,, то аналогом формулы (19) будет соотношение Р(ч1' хй 3 11 11 Р1с1 л !Гг „11, ~з=е ) Р(с2=3' ~сз=зз). (1.3.20) Случшзпые величины с„, ...,;„называются взаигино незавиеи41ыми, если события (сз<.х1), ..., (0 <ха 3) независимы ири любых л,, ..., л„. Пусть Р(к;) и р(х;) — -соответственно функция распределения и п.

в.' сл. в. '„, 1'=1, ц. Для взаимно независимых сл. в. справедливы формулы Р„(хз, ..., х„)=Р(х, ) ...Р(х„), (1.3.21) ра(х,, ..., х„)=р(х, ) ...Р(хв). Если сл. в. Г„..., сМ вЂ” -взаимно независимы, то они и попарно цзависимы. Действительно. интегрируя равенство рз(х,, хг, лз)= --р(к1'~Р(х,)р(хз) по хз получаем р,(л, хг)=р(х,)р(х,). Однако обратное утверждение неверно, т. е. попарно независимые сл.

в. цс обязательно являются независимыми в совокупности. Например, при выполнении равенств р,(кы хг)=р(х,)р(х,), !12 Х1, .Хз)=р(л1)р(хз) и Рг(ХЗ, Хз)=71(Х2)р(Хз) ВОЗМОЖНО, чтО рз 11, Л, ХЗ) Фр(кз)р(ЛЗ)р(ХЗ ). Час~о бывает полезно разбить заданные сл. в.

на независимые 1рупиы. Сл, в. ез, ..., сс не зависят от "„а41, ..., см, если ра(х,, ..., ха, т..., ..., х„) =р„(х,...., л„) рв „(.к..., ..., хв ). Отсюда (интегрированием ио «лишним» переменным) следует, чзо любая подгруппа из величин г,з, ..., сз нс зависит от любой подгруппы из величин га,з, ..., с-,„. Например, с1 не зависит от са. Используя приведенный результат, определим взаимную независимость комплексных сл. в. ~1=Ц1+3т11, ", ~а=~в+12)а.

Ком- ' В данной записи функции г(х,! н р(х) — в обгцсм случае при разных х; разныс функции, а нс одни и тс ткс функции с измснсннымн аргументами. 3'акая снстсма записи будет прнмсняться и в дальнсйгдсм. 33 2 - 2247 (1.3.25) плексные сл. в. !,1, ..., Г„называются вз!пмьчо пгзввпгимылнп если группы (»1, пи), ..., (!;„. 21„) независимы. т. е.

если для совместной и. в. сл. в. выполняется равенство Рзп(х! У1 хн )1!) Р2(х! У1)" Р2(хв .гн) (1!3.22) 2. Числовые характеристики. Приведенные в ч !.1 определе- ния моментов и кумулянтов можно обобщить на совокуп- ность нескольких сл.

в, г,„г,„..., ~„, описываемых функциями распределения (1), п. в, (2) или характеристическими функциями (9). Совместные начальные моменты п1ко л2„„„..., т,,„, „сл, в. определяются как м. о. соответствующих про- изведений; и„=М(с,') =) х,'Р,(х, )!ах„ ! (1.3,23) 1п~ ч М (»!»2 ) Цх! Х2 Р2(Х1, Х2)НХ1ЫХ2, !и„„„=М(Я,'; -" ... с,„") — — )!... (х,' ...х„"р„(х, ...х„)г)х1...!)х„, где в! (1<1~и)--неотрицательные целые числа. Момент т„, „, относящийся к л различным сл, в. Е2, ..., !,„, называется л-жврлыи начольныл! .!и!иглпп1м (11+12+ ...

+ в„)-го порядка. так, !и„--одномерный момент ! 1-го порядка; !и„, -- двумерный момент (в, + ч2)-го поряд- ка и т. д. Вместо начальных моментов можно рассматривать Ие1гп1Раль- ные мол!епты, которые определяются формулой )1, „„=М((г! — л2! )" ... (.;„— т! )'. != (! 3.24) = ) ... ) (Х1 — !и~ )' ... (х„— ль ) ' р„(х,, ..., .л-„) гйх, .. !(х„„ п1! — — М (г,! 2!. Аналогично формуле (1.1.26) совместные моменты можно определить как коэффициенты разложения в кратный степенной ряд совместной характеристической функции (9): Н П ~и()9! " )Эл)™ 1+) 2 с!«9«+2!) 2' !!«! 9«9~+ «=! ' «, =1 И 1 + — ),'! с„1,„г,19„9„91+...~= !+),'2 М(с,„) Э„+ л И + !)' , 'мД„~,)эяэ„+-~-)2 2 м(Д„~„~„)9„9„9,+...= —,—,— — !()9!)' ()92)"- - ()Эп)".

,..и=О где х( „;,', *-„- . „Ф.()9! " )9.)1 (1.3.2б) 2 Аналогично многомерным моментам можно ввести многомерные кумулянты и„„, . Они определяются путем разложения ! 1 в кратный степенной ряд не самой характеристической функции (9), а ее логарифма: )пф()9 -')9)= ~ '-" ()Э )~~()9)":— 1' '" ' х М(~ю(хп 1, ...~ Х11= ) Хлр(хл!Хд — 1, ..., Х1)Ыхп ПД„!Х„1, ..., х,,'=М(~Г„,— М(~„)х„„.... л, ))2) = ~х„— М (Д„! Х„1, ..., х, Ц 2 р (х„~ Х„1, ..., Х1 ) Нх„. (1.3,29) (1ззо) Поскольку многомерные моменты и кумуляцты определяются как коэффициенты разложения в степенной ряд соответствующих характеристических функций или их логарифмов, то, как и в одномерном случае, первые коэффициенты разложений во многих случаях оказываются наиболее важными и существенными.

35 " (19.)"', (1.3.27) где х ! — ' ' 1пФ„(!91, ",)9.)1 (1.3.28) 1 Между многомерными моментами и кумулянтами существуют связи, .подобные (! .! .31). Основываясь на условных п. в. (!7), можно ввести условные моменты и кумулянты.

Они определяются формуламп, аналогичными (1.1.20), (1.1.21), (24) и (28), только теперь в ннх нужно подставлять условные и. в. (!7) и условные характеристические функции. Естественно, что условные моменты и кумулянты будут зависеть от тех условий («правых» переменных), которые входят в соответствующие условные и. в. н условные характеристические функции. В дальнейшем будут использоваться условное м. о.

и условная дисперсия для одной сл. в. при фиксированных остальных. Они определяются соответственно формулами Покажем особую роль низших моментов на примере двух сл. в. Пусть требуется найти наилучшую оценку (или предсказанное значение) дг для сл. в. ~2 в виде некоторой функции с!=а(~! ) от сл. в. с,„причем в качестве критерия оптимальности оценки примем минимум среднего квадрата ошибки ! 2 М((д ( )2) (Х 2 — 8 (Л 1 ) 3 рг (Х1, Л г ) 2/х ! 1/Х2 . (1.3. 31) — а- о Докажем, что наилучшей оценкой является условное м. о.

при фиксированном значении 12=8(11 =.21)=М(йг ~ Гл =х! ). (1.3.32) Подставив в (31) совместную п. в. рг(х1, хг)=р(хг ~х1)р(х, )„ имеем ю К М((д — 8(Г„Ц )= )' р(Х1) ( ~хг — я(Х1Ц р(хг)Х1)2/лгг/х1. Чтобы минимизировать двойной интеграл (подьштегральное выражение неотрицательно), достаточно минимизировать при каждом х, внутренний интеграл гхг я (Х! )э р(Х21Х! ) 2/Хг.

Для любого фиксированного значения .л, функция 8(х1) являешься постоянной величиной. Написанный интеграл имеет минимальное значение, когда в (х! )= 3 Х2р(Л2 ) Х1) 2/хг ™ (д~г ! 21 ). — ю Это равенство должно выполняться при любом возможном значении х,, что и доказывает формулу (32). Кривая 8(Х1 — — М(!,21х1) называется криеой регрессии сг па тметйм, что из метода доказательства непосредственно следует более общий результат: минимум среднего квадрата ошибки а 1„=М߄— а(Е1, ..., 1„1)1') (1.3.33) при фиксированных значениях дг=х1„..., д„.г=х„1 имеет место при д,„=я(Х1, ..., х„, )=-М(д,„~ дг=х1, ..., д..

1=Х„1). (1.3.34) Фактическое вычисление оценки М(сг ~д1) по совместной и. в. рг (х,, хг) во многих практических случаях оказывается 36 весьма сложным, и поэтому часто ограничиваются отысканием линейных оценок для дг в виде линейной функции 62=8(д1)=а+К . (1.3.35) Естественно, что при этом ошибка во многих случаях может оказаться больше, чем при нелинейной оценке. Итак, найдем коэффициенты а и Ь, при которых средний квадрат ошибки а =М((12 — Сг) )=М((гг — (о+ЬС1Ц') (1.3.36) минимален.

Дифференцируя это выражение по и и Ь и приравнивая нулю результаты, имеем дсг/да= — 2М (сг)+2о+2ЬМ Я1) =О, двг/дЬ 2М (дгдг ) +2аМ (д1)+2ЬМ (юг! ) =О. Решая этн два уравнения относительно а и Ь, получаем Ь=м ((61 — ш,)(дг — шг))//31=Н11//3„ а = тг — П21М ((д1 — т, )(дг — Пгг) )/В!=о!2 — тгцы//31. Здесь Н „= М ((с ! — п21 ) (сг — пгг )) = = ) 1 (Х1 — 2П! )(Хг — !Пг)/22 (Х1, Х2)22Х! 22хг (1.3.37) — смешанный центральный момен~ второго порядка; его часто называют корреляционным моментом.

Из (35) получаем выражение для линейной оценки сг = Пгг+(Н11//31) (ч1 Пг! ) (1.3.38) а из (36) находим минимальное значение ошибки гг;„=(1 — гг) 132, (1.3.39) где " = Н 1 1 / Л2%! /32 (1.3.40) — иормироваикый корреляционный момент, часто называемый коэффициентом корреляции. Допустим, что сл. в. д! приняла некоторое конкретное значение х,.

Тогда согласно (38) линейная оценка (или предсказуемое значение) хг для значения сл. в. 62 дается формулой хг = Пгг+ Н,, (х, — П21)//31. (1.3.41) Зависимость хг от х, представляет собой прямую линию (рис. 1.9), проходящую через ~очку (пг„п!2) с наклоном, равным Н!1//31. 37 Эта прямая назь вается линией ереХк днегсвадратссгсеской регрессии с',2 на с,г Следовательно, корреляционный момент определяет наклон линии с)г 1 среднеквадратической регрессии. Сгггкхуи 'К В дальнейшем особую роль будут играть моменты сн, = М с(с,г ) И )211 =М ((с 1 — гн1 )(сгг — нг2 )) ИЛИ рис.

1.9. Лидии средиекиадргпичес- т,, — М ге ~ г. =11, 1 гн,ггс В от коя регрессии личие от корреляционного момента )(11 начальный момент т„, называется ковариаигсонссылг молсентом. Раздел теории, посвященный изучению лишь гех свойств сл. в., которые определяются этими характеристиками, называется коррев>щиоссной исеорией. Две сл. в. Сг и ~2 называются иекоррслировиннылси или линейно ССЕЗаВ((гиггСЫЛСи, ЕСЛИ дпя НИХ 0„=0, т. Е. унгг М с( г(эг ) М к1 ) М (гг ).