Андерсон Т. - Введение в многомерный статистический анализ (1185341), страница 39
Текст из файла (страница 39)
В приложении ! показано, что в любом случае операции сводятся к умножению матриц А и С слева па треугольпую матрицу ! О ... 0 у„ ! ... о (38) Уе! !22 ''' т. е. РА=А'. !39) Поэтому матрица а'ц 0 '... 0 а!! а22 ... О ! 0 ... 0 ~А* ."21 „Г, (40) а1у а22 ' аче является треугольной с диагональными элементами а'., нф Н' так как мзтрица сАР" симметрическая, то опа должна быт!2 диагональной. т.
е. а"ц 0 ... 0 0 а' ...,0 ечАР' = !!4!) о о 9 т. Аидереее А =Ю А". Ю вЂ” диагональная матрица. Следовательно. С'=РС и С-=В С'. Из (41) получаем РАР'В = г, (42) (43) А = Р'Ю Р. Таким образом, ЙАЙ'=В'АВ=В'АА 'АВ= С'А 'С= =С'Р'В 'РС=С*С =С 'С'. (44) Это дает нам способ вычисления ЙАВ' и, следовзтельно, Й. ибо ФЙ = ~~'.~ х„х„— ЙАЙ'. С другой стороны, ЙАЙ' = ВС'.
Легко видеть, что передовое решение можно проверить, Р взЯв сУммУ пРавых чзстей ~ ать+ ~~'., с~а. ОпеРацни, ИРоЛ=( А-1 изводимые над этой суммой, должны дать в итоге Р а(А+ ~ С(А. А 1 А=( Решение В можно проверить, срзвнивая АВ с С. Вычисление А может быть выполнено вместе с вычислением В, тзк как А удовлетворяет равенству А(А ) = /, которое имеет такой же вид, как н АВ= С. Действия, выполняемые над матрицей С, выполняются н над матрнцей (. В конце передового решения получается уравнение А" (А )= =В 'Р; каждый столбец этого матричного уравнения образует систему д уравнений, которая решается относительно элементов того же столбца матрицы А Мы определили а(1 ††,г(г„г,, и са, — — ~~'„ха„г„ = сни Если г„ = !.
то аи = И, а( =()(х и с, = сга — — 1)(ха. В этом случае первый шаг сгущения по оси дает е(0>пав -(1> (е( еа(е(А (н с а=~~ха,х — Мхахл, А, 1=2, ..., у. а 258 пРОВеРКА Овщих ЛИНЕЙНЫХ Гипотез (Гл а 8.8. Критерии отношения правдоподобия для проверки линейных гипотез о козффициентах регрессии Предположим, что мы разбили матрицу В на две части В (В1 32) (() так, что В, имеет д1, а В1 — д2 столбцов. Выведем отношение правдоподобия для проверки гипотезы О:В,=В;, (2) где В*,— данная матрица. Максимум функции првияоподобня Ь для выборки хп ..., х, будет 1 1 1 вах1'.=(2к) 2 )Хя( 1 е (з) В, В где 22 дается формулой (аб) или (!7) $8.2.
Чтобы найти максимум функции правдоподобия для значений параметров, ограниченных областью и, определенной формулой (2), положим у, = х — В'г'„!!. 1 а' (4) где — разбиение вектора га, соответствующее разбиению матрицы В. Тогда у, мо(а!но рассматривать как наблюдение над совокупностью 1ч'(В,,г121, Х). Оценка В, получается по методу ф 8.2 и имеет вид В2а =,аа .уаяа А22 = ~ ~(Ха В1за ) Ла А22 а 1 а 1 =(С2 — В!Ам) Аю, (6) где С и А разбиты соответственно разбиениям В и я, С=(С, С), А (а а ) (8) вш кРитгРии Отношения ЛРАпдоподОБия 259 260 ПРОВГРКА ОБШИХ ЛИНЕЙНЫХ ГИПОТЕЗ 1Гл.
а Оценка для В дается формулой Ю НВ„=,", (ӄ— В2„З121) (У. — В,.а'„2~)'= а 1 л' = штш У»Уа — В2»А22В1 а 1 М ,„(Фа — В1га )(ха — В1а» ) — В2шА22В2ш. (9) а ! Таким образом, максимум функции правдоподобия в области м будет 1 1 1 шах 1, (2я) 1 1Х ! 1 е 2 (10) Отношение правдоподобия для проверки гипотезы Н равно отношению выражений (10) и (3). а именно 1 Л вЂ” ~™! (11) При проверке гипотезы Н отвергается, если ) ()е, где )е— определенным образом выбранное число.
Алгебраическим методам, изложенным здесь, можно дать геометрическую интерпретацию, Удобно будет воспользоваться следующей леммой. Л е и м а 8.3.1. В2ш — 2222 = (В12 — В1) А12А22 . (12) Д о к а з а т е л ь с т в о. Из (14) 5 8.2 получаем / А12»1 С2 = Ва ~ ( = В12А12+ В22А22 (13) 2 ~ А ) Таким образом, В22 = С2А22 — В12А12Аю'. Лемма следует из сравнения этого результата с (6). аз) КГИТЕРИН ОТНОШЕНИЯ ПРАВДОПОДОБИЯ 261 Теперь мы можем написать Х вЂ” ВХ = (Х вЂ” В~У)+ (Вел — Вг) У~+(В)а — В1) Ха =<х — в,х)+1в,.— в,) г,— <В,. в„) г,+(в„— в,") г, = =1Х вЂ” В,г)+1В,.— В,) К,+ + (Впа — В)) (У) — А)вАаз Уа) (14) как тождество; здесь Х=ьк), ..., сл)), У) =(г))", ....
йф)) Гг,'~ и у =(алз), ...,. з(~)), Строки матрицы 2=1 у) образуют ~г,( ))-мерное пространство. Кажлая строка матрицы ВУ является вектором в д-мерном прост- я рапстве и, следовательно, каждая строка матрицы фв$ г, Х вЂ” Вл, есть разность д-мерного вектора и вектора, соответствую)цего строке матри-. цы Вл. Кажлая вектор-стро. ))бал4)Эс;-л, л'г) ка матрицы Х вЂ” ВУ прелставлена выше в зиле суммы )) ))'л )гг)лг трех векторов-строк. Пер- Рис. 13. вая матрица в правой части 114) имеет в качестве 1-й строки вектор, ортогопальный ))-мерному пространству и ведущий )как показано в предыдущем параграфе) к 1-й вектору~роке матрицы Х. Векторы-строки матрицы 1йт — Ва) Хе 'являются векторамн в )уя - мерном пространстве, образованном строкачи матрицы Уа (так как зги векторы являются лииейныни комбинациями строк ча- -) трины У,). Векторы-строки матрицы (Вгл — В))(У) — А)аАзв Уа) являются векторами в )у-мерном пространстве, образованном -! строками матрицы Х) — АНАжЕТ, это пространство входит в д-мерное пространство, образованное строками У, но ортогонально ))а-мерному пространству, образованному строкачи л.
!Так как(У) — А)аАта Ха) Уа = 01. Таким образоч, кажлая строка матрицы Х вЂ” ВУ, как показано на рис. 13, является суммой трех ортогональных векторов. Олин вектор приналлежит пространству, ортогональному пространству. образованному 262 пяове!'кл ов!цих линейных гипотез 1гл а строками матрицы У, лругой вектор принадлежит пространству, образованному строками матрицы Ею и третий вектор принадлежнт тому подпространству пространства, образованного строками матрицы У, которое ортогонально к пространству, образованному строками матрицы Хм Из условий ортогональностн получаем (Х вЂ” ВУ) (Х вЂ” ВХ)' = =(Х вЂ” Вя~)(Х вЂ” Вя~) +(В,.— В,) Х,Х,(В,„,— В,) + +(атгя — В!)(У! — АиАю Уе)(Е! — АИАИ Хт) (Вгя — В1) = = Л!Вя+ (Вт.
— Вг) Аю (В, — Вг)'+ +(Вш — В1)(А!! — А!зАтт Аз1)(В!я — В!) (15) Если вычесть (Ва — Вт) Уе из обенх частей (!4), то получим Х вЂ” ВьУ~ — Вт Х~ = (Х вЂ” В~Я)+ (Вш — В1) (У! — АиАтт Уа) (16) Отсюда слелует, что МХ = (Х вЂ” В12! — Вь„Уа) (Х вЂ” В12! — Ве Ут) = (Х вЂ” ВяУ) (Х вЂ” ВяУ)'+ +(В1я — В1)(У! — А1гАаз Уз)(У! — А1тАгг Я!) (31я — В1) = — -- МВя + (В!я — В!) (Ап — АиАю Аы) (Вгя — В1) (17) Определитель (Хя( =(1/Ме) ~(Х вЂ” ВяУ)(Х вЂ” ВяУ)') пропорционален квадрату об!т ека параллелепипеда, образованного векторами-строками матрицы Х вЂ” ВЕЛ (перенесенными в начало координат).
Определитель ,'Х (=Я1)е) ~(Х вЂ” В!л! — Вз лг)(Х вЂ” В!У! — В! ле) ~ пропорционален квадрату объема параллелепипеда„образованного векторамн-строками матрицы Х вЂ” В12! — Вт Ут (перенесенными в начало координат). Каждый нз этих векторов является той частью соответствуюшего вектора матрицы Х вЂ” В,Х1, которая ортогональна к пространству, образованному строками матрицы Яя. Таким образом, критерий, основанный па отношении правдополобня, зависит от отношення обьемов параллелепипедов.
Один из параллелепи- зл! МОМШ!ТЫ ОТНОШЕНИЯ ПРАВДОПОДОБИЯ 263 пелов построен на векторах, ортогональных к пространству, образованному строками матрины Х, а другой — на векторах, ортогональных к пространству, образованному строками катрины Х . Из [1б) и [22) э 8.2 видно, что плотность распределения вероятностей мг, ..., мн может быть записана в виде ехр( — —,з [Х [ИХ+[В.— В) Х [Х[э ' Х Агг [Вг — Вг)'+(В!я — В1)(АН вЂ” АПАю!Аг!)(В!я — В!) 1 ~ ). [! 8) Таким образом, Х, В!э и Вг образуют множество достаточных статистик лля Х, В, и Вг.
Уилкс [1[ впервые применил отношение правдоподобия в качестве критерия для проверки гипотезы о равенстве векторов математических ожиданий для нескольких генеральных совокупностей [э 8.8). Уилкс [5] и Бартлетт [2[ распространили использование этого отношения на коэффициенты регрессии. 8.4. Моменты отношения правдоподобия в случае, когда справедлива нулевая гипотеза Отношение правдоподобия равно И/2-й степени величины [Х [ [ФХя+(В!э — Вг) А!1,8(В!я — В ) ! тле А!!.э=А1! — А!гАгг Аю. Найдем моменты [л' в случае, когда В! — — Вг. В э 8.2 было показано, что ИХя распределена по закону Ю'[Х, п), тле а=И вЂ” д, элементы Йя — В имеют совместное нормальное распределение и не зависят -! от ИХэ, а коварнапия между 1-й и ~-й строками равна е, А Ле м м а 8.4.1. (В!э — В!) Ап г(В!я — В!) риспределвни и 1 как ~ Г,$'„, где векторы $'„незивисилгы и одинаково 1 распределены с законам распределения И[0, Х).
264 ПРОВЕРКА ОВ!ЦИХ ЛИНЕЙНЫХ ГИПОТЕЗ 1Гл в В!я — Вг= УЕ=(У!, ..., У„,)Е. Тогда Ю („— В',)Аи.,(„— В",)'=УУ'=,'з У„У„'. =1 (2) Очевидно, что МУ = М(В!я — В!) Е ' = О, так как МВгв = В!. Пусть г-я строка матрицы л!!я есть Ва„а 1-я строка ма- трицы У есть Ун Тогда МУ,'УГ =М(Е ')'(йп — Вп!)'(В!! — В)!) Е-' = =аи(Е ') Ай.'ЕЕ '=аи(ЕАн.зЕ') '=а!!А (4) 'вем самым лемма 8.4.1 доказана.
Пусть О =гч'Хв. Тогда и= (!7+ ~ч„" У„У,' ! ' Положим Р= О+~~' УгУ!. 7г-й момент и равен м(и") =м(~ О ~" 1е1-") =- ! ~7а ' / и (л'п)1О1 1г1 1О1 ехр( 2 ЗРВ О)Х хм к.! ""1а! е " *а ( — ' 2,'а',а-'а,)ааах, !а! где ! ! Р К (Х. Л)=2Т' па<а-!!Н1Х!г ПГ~2-(и+1 — С)1 (7) (:-1 Доказательство. Ковариация мсгкду г-й и г'-й строками матрицы Ат!я равна проивведению о!) на подматрицу матрицы А, состоящую из первых ее !7, строк и столбцов, т, е.