Андерсон Т. - Введение в многомерный статистический анализ (1185341), страница 45
Текст из файла (страница 45)
Таким образом, наши критерии будут зависеть от Х и В~АП.ЗВ1. Пусть МХ = б и В1АИ.ЗВ~ = Н. В-третьих, нулевая гипотеза инвариантна относительно аамены х, на Кх., ибо Х и Вз — неизвестные матрицы. Это преобрззовапие переводит 0 в КОК' и Н в КНК. Единственными инвариантами матриц 6 и Н относительно таких преобразований являются корни уравнения ~Н вЂ” ба~=О.
(2) Ясно, что эти корпи инвариантны, ибо 0=/КНК вЂ” ОКОК !~ =,'К(Н вЂ” Еа) К' ~ = ~ К ~ ~ Н вЂ” ба ~ ~ К' ~ . (З) С другой стороны, эти инварианты являются единственными, ибо для данных б и Н существует матрица К такая, что КОК'=1 и 0 ... 0 О 0 ... 0 КНКГ~ 9= ЛРОВеРкА Ош!(их линейных Гипотез (Гл. а где О,ь ... )0 — корни уравнения (2) (см, теорему 3 прило)кения 1). Теорема 8.10.1.
Пусть х.— наблюдение над совокупностью Л>(В>е, + Вге, Х), где л,> яа яа = 0 а(!) а (г) 'ка «(! ) П)' а Еа~ > а(!) и > еа еа = Аи,г. Единственными функциями достаа точной статистики и Аи г, инвариантными относи(т> аа()> а(О тельно преобразований х, = х, + Гя„, яа = Сеа и х*,=Кха, являютсн корни уравнения (2), где кк=)чХ и Н = В)Аи.гВ!. Отношение правдоподобия является функцией величины а=~а~-п~ О!к «~-кок'~ !к~-а~ =кк>! ) а> Очевидно, оно инвариантно относительно рассматриваемых преобразований, Интуитивно могло бы показаться, что, руководствуясь хорошим критерием, мы должны отвергнуть нулевую гипотезу, если корни в некотором смысле велики, ибо если В, сильно отличается от О, то В! будет велико и таким >ке будет Н.
Предлагаются некоторые другие величины, как например, (а) А', Оо (б) ~'„, О(/(1+0,), (в) п)ах О, и (г) пил ОР Во всех случаях мы отвергаем нулевую гипотезу, если какая-либо из этих величин превышает некоторое определенное число. Первые две величины можно записать в виде простых функций матриц Н и (к. Пусть К в такая матрица, что КОА" = У 1(к = К (А") ' или (л"' = К'К1 и, таким образом, (4) выполняется. Тогда Р ~~~~ О, = ар 9 = зрКНКа = зрЩК= арН(у"'. (6) ! ! З.!О! ПРУГИЕ КРИТЕРИИ ПРОВЕРКИ ЛИНЕПНО!Ч ГИПОТЕЗЫ 305 Эта величина была предложена Лелеем [1[ и Хотелли нго м [6[.
Вторая величина может быть записана следуюГцим образом: Р— = зр Й (7+ Й) = зр КНК' (КОК'+ КНК') ! ! = зр НК' [К (О+ Н) К ) К = зр Н(О + Н) '. (7) рйш — О= р1нп + — д л,л„=у. ! л 1цч ,. „Ф „„+д лы а ! (8) Этот результат получается путем применения (слабогф) закона больших чисел к каждому из элементов (1/!ч') О 1 иьч рйгп —,г Хг„Я „=Млг„2.=8! . и'-а а ! !) Л о л ей [1[ иамереввлсв получить точнов раепрваелешав ве. личины зр НО ', но его результат оказался ошибочным.
Третья величина была предло!кена С. Роем [17). В принципе вероятность того, что какая-либо из этих величин превышает заданное число, можно получить, исходя из распределения корней (глава 13). На практике же достаточно легко это сделать для р = 2, но для р ) 2 это сделать значительно труднее. Мы изло!ким асимптотическую теорию. Для ар НО дано асимптотическое разло!кение') (М о р р о у [1[). Если справедлива нулевая гипотеза, то матрица О распреп Ь делена как ~г,'л,л.'(и = )тг — ф. а матрица Н вЂ” как ~ 'г' 'г', а ! ! где векторы 8'„н г„независимы и одинаково распределены с законом расйределения Гч'(О,,ь).
Поскольку корни инвариантны относительно определенных ранее линейных преобразований, мы можем найти матрицу К так, чтобы КХК' = 7. Пусть О' = КОКа [= ~ (Кл„) (Кл,)'~ и Н* = КНК'. Это эквивалентно предположению о том. что с самого начала Х=l. Теперь 306 пРОВеРкА Овших линейных Гипотез 1Гл з Т е о р е м а 8.10.2, Пусть ~(Н) — функция, точки разрыва которой образуют множество нулевой вет роятности, когда Н распределена как ~У„У'„, где г'— ! независимые, одинаково распределенные векторы с законом распределения А((0, Т). Тогда предельное распределение функции Т(МНО ') есть распределение функции У(Н). Д о к а з а т е л ь с т в о.
Непосредственным применением общей теоремы (например, теорема 2, Ч е р и о в (! )) получаем, что если функции распределения векторов Х„сходятся к функции распределения вектора Х (в ка!идой точке непрерывности последней) н если Х(х) — функция, разрывная на множестве нулевой вероятности относительно распределения вектора Х, то функция распределения Х(Х„) сходится к функции распределения «(Х). В нашем случае Х, состоит из компонент Н и 6, а Х вЂ” из компонент Н и А С л е д с т в и е 8.10.1. Предельное распределение А! Зр Нб ! есть уг-распределение с рд! степенями свободы. Это следует из теоремы 8.10.2, поскольку Р % арН=ййн=Х 2 ~'ы ! ! г=! ! ! (1О) Аналогично предыдущему можно утвержлать, что Аг зр Н(Н+ б) также имеет в пределе уг-распределение с р!)! степенями своболы.
Теорема 8.10.2 говорит также о том, что произведение А! на наибольший корень уравнения (2), т. е. наибольший характеристический корень матрицы МНО г, ииеет в пределе распределение наибольшего характеристического корня матрицы Н. Очевидно, существует много различных удобных критериев, которые можно использовать. К сожалению, еще не создана теория, которая давала бы ответ на вопрос, какой полный класс критериев является хорошим, а такгке как среди предлагаемых критериев выбрать критерий, если мы хотим увеличить мощность для определенного класса кон- КАНОНИЧГСКАЯ ФОРМА 8.1 П 8.11. Каноническая форма Проблему 'проверки гипотезы о том, что подматрица коэффициентов регрессии будет нулевой, мо1кно привести к более простому виду. Как и в $ 8,2, будем считать, что Х,, ..., Хм — независимые случайные векторы, причеь! Х„ распределен 1ч'(Вя,, Х), где !7-мерные «фиксированные» векторы яп ..., я таковы, что матрица Х=(ян ..., я, ) имеет ранг <7 ()~ 1!!).
Разобьем В н Х так: В=(В, В,), (1) =(**,') Так как гипотеза В1 — — В1 посредством вычитания В!я„! из Х„ ч П> может бьзть преобразована к виду В, =О, то нам достаточно рассмотреть лишь вопрос о проверке гипотезы 0:В,=О. (8) Пусть Х=(ХР ..., Хлг). Тогда мы можем написать МХ=ВУ. (4) (2) Положим -1 — 1 )Р~ = У~ — У!Ут (У121) ~е = Х~ — А11Азт Уъ В~~ = Ут.
(5) Тогда 1У! и Ттз будут ортогопальны друг к другу, т. е. л — 1 гаг!1Рт = д!Хз — Е!Ут(УзУз) УтХг = Х!Хз — У!Уз = 0.(б) Поэтому МХ= В!И'1+ ВзЪУз, (7) где Вз = Вз+ В!У!Уз(ХзЕ,) Гипотеза В, =0 не изменяется при преобразовании. После этого рассмотрим преобразование ьР1 =Ю!У1, 1(гз — — А)з1'з, (8) (9) курирующих гипотез. Н а ра и н (4) показал, что критерий от- ношения правдоподобия является несмещенным. С.
Рой (!7) получил некоторые свойства критерия, основанного на наи- большем характеристическом корне. 308 пРОВеРкА Овп!их линейных гипОтез 1гл. а где )А! (порядка (д! Х !)!)) и В2 (порядка такие невырождснные матрицы, что строки риц У, (порядка (д! Х )ч)) и Ъ", (порядка (д2 строками ортогональной матрицы, т, е. У!У! =У, У2У2=У. (()2 Х !)2)) — две квкдой из мат- Х !Аг)) являются (1О) Можно обнаружить, что л!атрица У, ортогональиа к Ум ибо У! У2 = а) ! ЪУ! ЪУ2 (222 ) = О, так как ЪУгЪУ2 = О. Выберем матрицу Уз (порядка ()ч' — в) Х )т] так, чтобы У, ') Ч У2 )2 (12) Ъ'гИ вЂ” д была ортогональной (квадратной) матрицей порядка )ьгХ!ч'.
Сделаем преобразование и =ХЪ"'. Из (7), (9) и вследствие того, что матрица У ортогональная, получаем ми=мху= =(В!да!У!+ВЕЭ2У2) (У! У2 Уз)=(В!й! В2020) (13) В,,(),=(РР ..., Р„), В,*П, -(р,„ь ..., р,). (16) (1 ?) Пусть и=(и,иаиз), где ин ит, из содержат соответственно первые !у! столбцов, последуюгцие !)2 столбцов и последние )Аг — !) столбцов матрицы и. Тогда (и, и,и,) = х(у! у,' у.). (14) В силу результатов 9 8.2 первые д-керн!!е векторы (и,ия) являются выборочными коэффициентами регрессии векторов Х /УЛ на ~ ! с математическими о2киданиями м (и и ) = (В,в в")9 ).
(15) Математические о2кидания элементов и равны нулю: Мбз=б. Так как матрица У ортогональна, то столбцы матрицы и независимы и распределены нормально с ковариационной матрицей Х.. Пусть лнтпРАтуРА Тогда плотность распределения вероятностей матрнны (1 = = (01, ..., ОА1) будет равна 1 1 Р (2П) т [л ] Т' ЕХР~ — 2 ~4~(и„— р )'й '(и — р, )— а 1 — — и.Х и.~. (1Щ к як 1 Гипотеза (3) будет эквивалентна гипотезе В,О=(РР ..., Р,)=О.
(19) Формула (18) называется канонической формой плотности. Величина [11) 9 8.3 преобразуется в и ч, (1.(г„' а у+1 (20) ч'„(г„(г,'+ ч; и„(7.' ЛИТЕРАТУРА 9 8.2. Б а р т л е т т [5); У н л к с [Ц, [5); Ф н н н е й [2]; Э й тк е н [2). 9 8.3. Бартлетт [2]; П. Бозе [Ц; Уилкс [Ц, [5). 8.4. У н л к с [Ц. 85. Валь д и Биукнер [Ц; Джамбунатан [Ц; Унлкс [6]; Хартлей й Фитч [Ц. 9 86. Барнес [Ц; Бартлетт [5]; Бокс [Ц; Вальд н Брук пер [Ц; К. Р. Р а о [14); Л. Рой [Ц; Тюк ей и У илкс [Ц; Уиттек ер н Ватсон [Ц. 9 8 8. Б а р н а р д [Ц! Б а р т л е т т [8). 6 89. Ей тс и Кохреи [Ц; Им мер, Хейес и Пауэрс [Ц; К. Р. Р а о [! 9); Т ю к е й [ Ц; Ф и ш е р [9!.
9 8 10 К а л б э к [4); Л о л е й [Ц; Морроу [Ц; Н а н л а [5); Н ар а н и [4); П ил лей [Ц; С. Рой [!4), [17); Х отелл и н г [6), [8]; Ч е р н о в [Ц. 8.!!. Хсу [9) о всей главе 8: Р. Л ядер с он н Б эн к рофт [Ц; Т. А ндерсон [7); Галлнксен и Уилкс [Ц; Ланнетт н Собел [Ц; Картер [1]; Кендалл [4], стр. 338 — 341, 345 — 348; С. Рой [12), [15!; У ишарт [4); Уолц, Рейд н Колуэлл [Ц; Ф н ш е р [5); Х с у [4]. 3Ю пиовеякл оен1их лиипииых гипотез !гл. з ЗАДАЧИ 1.