М.В. Козлов, А.В. Прохоров - Введение в математическую статистику (1115302), страница 18
Текст из файла (страница 18)
2. Случайные векторы с вырожденной матрнцей коварнацмй. Пусть Х (Хь ..., Х„) — случайный вектор с произвольным законом распределения, а МХ и Я=!тх существуют, причем матрица коварнаций !е имеет ранг т с.п. Покажем, что в этом случае распределение вероятностного вектора Х вЂ” а сосредоточено в некотором т-мерном линейном подпространстве пространства Р"'. Запишем представление (см. (4) $ 10) чу' чВ'Вч' (чВ')з где пХп-матрица В'=!Ь'ь...,Ь'»] имеет ранг т. Для любого вектора ч= (оь..., о») квадратичная форма чЯч'= чВ'Вч'= (чВ') з обращается в нуль на (п — т)-мерном линейном подпространстве 'ч'=(ч: чу'= 0) =(ч: чВ'= О).
(9) Следовательно, для оав ч' ОчХ'=чОч'=0 н с вероятностью ! чХ'= МчХ'=ча', т, е. ч(Х' — а') =О. Полученное соотношение показывает, что вектор Х' — а' с вероятностью 1 лежит в т-мерном подпространстве 1., являющемся ортогональным дополнением к ч'. Как видно из (9), подпространство Е порождается столбцамн матрицы В'. Нетрудно понять, что распределение вектора Х вЂ” а не будет сосредоточено нн в каком собственном подпространстве Е»с=А. Действительно, если допустить, что с вероятностью ! Х вЂ” а~(.», 104 (1, 2,...,и). Если сох (Х;„Хй)=0, й 1, ..., т; ! т+1, ..., а, ть векторы Т и Е независимы.
Доказательство. Вектор (т', У), полученный нз нормального вектора Х перестановкой координат, очевидно, нормален. Матрица коварпаций вектора (У, Х) имеет по условию вид Йт Ог»,»-ю» где Огв обозначает !Х!хматРицУ, целиком состоЯщУю нз нУлей. В таком случае то найдется ненулевой вектор 1)евЕ н ортогональный к Е*, такой, что с вероятностью 1 н(Х' — а') =О, нХ'=на' и, следовательно, Щн'= 0пХ'=О, т.
е. невУ, что приводит к противоречию, так как У и Е ортогональны. Замечание. Подчеркнем, что подпространство Е, где сосредоточено распределение вероятностей вектора Х, определяется матрнцей Я н не зависит от выбора матрицы В в представлении Я= В'В.
3. Вырожденное нормальное распределение. Расширим понятие многомерного нормального распределения, допуская, что в определении (1) матрица  — любая ненулевая и х т-матрица. Таким образом, распределение вектора Х„= 11,В+а (10) прн любых т, л, ненулевой матрице В н 11,= (Уь..., У„) — стандартном нормальном векторе называется т-мерным нормальным распределением.
Невырожденное гп-мерное нормальное распределение получается из (!0), когда матрица В имеет ранг т (см. следствие к лемме 3). Если матрица В имеет ранг й с.т, то матрица ковариаций Я=В'В вектора Х имеет ранг л и, как доказано в предыдущем разделе, распределение вероятностей вектора Х -а сосредоточено в й-мерном подпространстве Ес=Я , являющемся ортогональным дополнением к подпространству У=(т: тЯт'=0). (11) Покажем, что распределение вероятностей в подпространстве Е задается й-мерной нормальной плотностью. Выберем в Е ортонормнроваиный базис еь ..., еь и дополним его векторами е~+ь ... ...,е до ортонормированного базиса всего Я"'. Пусть старые ко. ордннаты (х„...,х ) =х пространства В" связаны с новыми (Уь...,У,.) =У фоРмУлой хС=у, гле С вЂ” ортогональная матрица. Для х~Е имеем рь,~=...=д.,=О.
Поэтому вектор т'„, =- (Х„,— а„,) С кисет координаты уэ,~ — —...— — У,.=О. Умножая (10) на С, запишем т'., = 11„ВС. ()тброснв в матрице ВС последние т — й (нулевых) столбцов н обозначив полученную лХЙ-матрицу через А, имеем (У„..., Уь) = 1)„А, (12) 105 где «Хй-матрица А имеет ранг к. Итак, в базисе е~,...,е„вектор К„,— а„, имеет координаты (Уь..., У», 0,...,0), причем ввиду (121 вектор (Ун...,у») имеет й-мерную нормальную плотность У»(0», С'В'ВС) =Ф»(0», С'ЯС).
ф Проведенные рассуждения показывают, в частности, что рас. предечение вероятностей вектора Х вЂ” а от матрицы В зависит только через матрицу ковариацпй Я=В'В. Поэтому мы сохраним за нормальнымн распределениями общего вида обозначение Ж (а. 9). Аналогично тому, как это сделано в следствии 2 из леммы 1, легко показать, используя формулу (4а) $10, что для любого вектора а и любой ненулевой неотрицательио определенной матрицы Я существует вектор Х с распределением У(а, в. в Отметим еще одну полезную связь нормального распределения общего вида с иевырожденным нормальным. Выберем среди столбцов «Хп»-матрицы В=[Ь',...,Ь' 1 ранга й в представлении (!О) какие-либо й линейно независимых столбцов Ь|„ ..., Ь|, так что остальные столбцы через них линейно выражаются Ь,=Ъ«ьь+... +Ъ„Ь,, Тогда «Хй-матрица [Ь»„..., Ь|»] имеет ранг к, поэтому вектор (Х»„...,Х~ )=()„[Ь;, ..., Ь, )+(аь, ...,ас»,) имеет невырождеиное й-мерное нормальное распределение, а остальные компоненты вектора Х линейно выражаются через Хь, ...,Х! '.
Хг — ໠— — (З„Ы~ — ()„(ЪнЬн + ... + Ъу»Ь~ ) = =(Ъп,...,Ъм)()„[Ь;, ...,Ь,',>= =(Ъп,..., Ъг»)(хн —,„..., Х,,—,,) . ° Лен м а 5. Преть Х = (Хн...,Х ) — нормально распределенный вектор, заданный форийлой (10), т =(Хн..Х(„), Х=(Ха,,ХЬ) еде (~ь..., 1») и (1н...,1~) — две непересекаюи(неся последовательности индексов.
Если соч (Х~, Хг ) =- О, з = 1,..., й; г = 1... 1, то векторы У и Х незавигнгиы. Доказательство. Из оп1еделенпя (10) вытекает, что вектор, составленный нз части компонент Х, также имеет нормальное 106 распределение. Поэтому, не ограничивая общности, предположим, что У=(хь...,х ), 2=(Х»,!,...,Х ), сот(Х!, Х!) =О, 1= 1,..., й; 1=й+ 1,..., !и. Распишем матрицу В в формуле (10) в виде в=(ь',...,ь' ~, так что Х! — а; = (),Ь'! =Ь'!()', сот(Хь Х!) =М(ь!1)'„1),ь'!) =Ь|Ь |, 1=1,...,я; 1=й+1,...,вз. Используя некоррелнрованность компонент векторов т' и Х, полу- чаем отсюда, что системы векторов (Ьь...,Ь») и (Ь»,ь...,ь ) взаимно ортогональны. Выберем в каждой нз этих систем макси- мальные линейно независимые подсистемы (Ь|„..., Ь; ) и (Ьт„ ..., Ь|,). Объединенная система (Ь!„..., Ь!, Ь;„..., Ь;,), очевидно, линейно независима. Поэтому вектор (Хсь ..., Х!, Х;„..., Х, ) = 1)„[Ь!„..., Ь; .
Ь,„..., Ь! 1 имеет невырожденное нормальное распределение, И, применяя лемму 4, заключаем, что случайные векторы (Х;„..., Х; ) н (Х;„... ...,Х;) независимы. Для остальных компонент вектора !!' из !ь разложения Ь!=й!,Ь!,+...+й„Ь... 1<й, вытекает, что они линейно выражаются через Х!„..., Х! . Х! — а!=()»Ь;.=й!,Хь+... +й„Х,, диалогично оставшиеся компоненты вектора Е линейно выража- ются через Х;„...,Х! . Таким образом, компоненты векторов 'т' и Х являются функциями двух независимых между собой сис- тем: (Х!„...,Х!, и (Х!„...,Х!,), н потому т' и Е сами неза- висимы.
Лемма б. Пусть Х + нормальный вектор, т'»=Х,А, где А— п'!ся-матрица. Тогда вектор»!» является либо нормальным, либо постоянным. Доказательство. Используя представление (10), получаем т» = (13„В+ а„,) А = 13„(ВА) + амА, и если матрица ВА ненулевая, то т» — нормальный вектор. ° Пример. Пусть Хь...,Х„независимые сл. в. с общим нор- мальным распределением Ф(1»,о). Образуем случайный вектор » =(1'!, Уь .
У»+!) =(Х! — Х,...,Մ— Х,Х), где Х вЂ” выборочное среднее. По лемме б У вЂ” нормальный вектор, н так как сот(У!, У„!) =со» (Х! — Х,Х) О, !=1,...,п, 107 то У„~ =Х не зависит от (Уь ..., У„) = (Х~ — Х,..., Х„ — Х). Ранее ч (см. $8) было установлено лишь, что Х ие зависит от~' (Х~ — Х)'. 1 ! 4. Распределение проекций стандартного нормального вектора. Пусть пространство Я" разложено в прямую сумму ортогоиальиых подпростраиств Уь Уь..., !) — стандартный нормальный вектор. Нас будет интересовать распределение векторов проекций прг, 11, ! = 1, 2, ....
Выберем ортонормированиые базисы: еь...,еч в Уь ех+ь ., етм в Ум . и объединим их в базис еь ° ., е всего пространства Я". Пусть С вЂ” ортогональная матрица перехода от старых координат х=(хь,,х,) к новым у=(йь ",у.): хС=у, х=уС'. (13) Полагая С= [с'ь с'ь..., с',], с~= (сц,..., с,у), отметим, что сц,...,г„— координаты вектора е~ в исходной системе координат. Вектор У=ОС=О[с'ь ",с'.] (14) ввиду ортогоиальности матрицы С является стандартным нормальным (см. следствие! леммы 1).
Поскольку при,() У,е,+... +У„е,, (15) прг, !) У~ч.~е~ч.~+... + У~~.~еь+ь.... то по лемме 6 вектор (прг, О, при, !)...) является нормальным. Чтобы найти координаты прт,.!1, ! 1.2,..., в исходной сис- теме координат, подставим в (15) вместо е; вектор из их коорди- нат с; в старой системе, 1=1,2...а, и, принимая во внимание (14), запишем (прг, Щ'= [с,', ..., с'] (У,, ..., У„)' = [с,', ..., с'Ис,'... с,']' !)', (прг,!))'=[с'+,, ...,с'+Цс'+,,....с,'+]Ч)', Взаимные ковариации векторов проекций М(прг, Щ'(при, 0) = = [с,', ..., с„'] [с,', ..., с,'] [с„'+,, ..., с„'+ ] [с'+,, ..., с,'+,] '...
равны нулю из-за ортогоиальиости системы векторов сь см.... Поэтому случайные вектора прг,!), ! — — 1,2,..., — взаимно независимы. Наконец отметим, что (]прг, Щ(з = Уз+ ... + Ут, !)прг, Щ]з = Узза, + ... + У-'+,...., 108 н, значит, квадраты длин проекций имеют Кт-распределения с числамп степеней свободы, равными размерностям надпространств, иа которые производятся проектирования. ° Для дальнейшего полезно отметить, что распределение сл. в. Ц11+аЦт, где а — произвольный числовой вектор, зависит от а лишь через его длину Цай.