Математическая статистика (PDF) (543620), страница 20
Текст из файла (страница 20)
171Теорема 14.Пусть вектор ξ имеет многомерное нормальное распределение Na,Σ . Координаты этого вектора независимы тогда и только тогда, когда они некоррелированы, т. е. когдаматрица ковариаций Σ диагональна.Замечание 25. Следовало бы крикнуть «ура!»: свойство, о котором мы давно мечтали,— чтобы независимость следовала из некоррелированности, — имеет все же место. Но толькодля наборов случайных величин с нормальным совместным распределением, и это — очередноеизумительное качество нормального распределения.Доказательство.
Только в случае диагональной матрицы Σ с элементами Σii = σ2i = D ξiквадратичная форма (37) превращается в сумму квадратовX(xi − ai ) · (Σ−1 )ij · (xj − aj ) =i,jОглавлениеX (xi − ai )2iσ2i,и многомерная плотность распадается в произведение плотностей координат.Надеюсь, читатель поверит следующей теореме без доказательства, будучи в состоянии доказать ее, как и в одномерном случае, с помощью многомерных характеристических функций.JJIIJIНа стр.
... из 179НазадВо весь экранУйтиМногомерная центральная предельная теорема.Пусть ξ(1) , ξ(2) , . . . — последовательность независимых и одинаково распределенных случайных векторов, каждый из которых имеет среднее E ξ(1) =a и невырожденную матрицуковариаций Σ. Обозначим через Sn = ξ(1) + . . . +ξ(n) вектор частичных сумм.Тогда при n → ∞ имеет место слабая сходимость распределений векторовη(n) =Sn − na√⇒ η, где η имеет распределение N0,Σ .nВ условиях многомерной ЦПТ распределение любых непрерывных функций g η(n) слабоP 2сходится к распределению g(η).
В качестве g(x) нам будет нужна только g(x) =xi = kxk2 .Следствие 5. В условиях многомерной ЦПТ имеет место сходимость kη(n) k2 ⇒ kηk2 .Стр. 172Осталось доказать теорему Пирсона.B. Доказательство теоремы ПирсонаОглавлениеПлан действий:Pk1. Сначала покажем, что величина ρ = j=1 (νj − npj )2 /npj есть квадрат нормы неко√торого вектора η(n) = (Sn − na)/ n в IRk . Затем убедимся в том, что матрица ковариацийтипичного слагаемого ξ(1) в сумме Sn вырождена, что мешает использовать ЦПТ.^ (1) , 0),2. Найдем ортогональное преобразование C, приводящее ξ(1) к виду C · ξ(1) = (ξ(1)JJIIJIНа стр.
... из 179НазадВо весь экранУйтиСтр. 173^где вектор ξ∈ IRk−1 уже имеет невырожденную единичную матрицу ковариаций. В силулинейности умножения, вектор η(n) тоже перейдет в вектор C · η(n) = (^η(n) , 0) с нулевойпоследней координатой. Но его норма не изменится из-за ортогональности матрицы C.^ (n) применим многомерную ЦПТ. В пределе получим (k−1)-мерный3. К вектору сумм ηнормальный вектор с нулевым средним и единичной матрицей ковариаций, т. е. составленныйиз независимых величин со стандартным нормальным распределением.
Воспользуемся следствием 5 и тем, что квадрат нормы этого вектора имеет χ2 -распределение Hk−1 .Реализация:1. С каждым элементом выборки Xi свяжем вектор-столбец ξ(i) :I(Xi ∈ A1 ) − p1I(Xi ∈ Ak ) − pk(i)ξ = (ξ1 , . . . , ξk ) =,...,, i = 1, 2, . . . , n.√√p1pkПолучим n независимых и одинаково распределенных векторов. Среднее a = E ξ(1) равноPnнулю, поскольку E I(X1 ∈ Aj ) = pj для любого j = 1, . . . , k. Далее, νj = i=1 I(Xi ∈ Aj ),поэтому Pnξ(i)ν1 − np1νk − npkSnSn − na√√,..., √= i=1=√ =.√np1npknnnНайдем матрицу ковариаций вектора ξ(1) , составленную из элементовI(X1 ∈ Ai ) − pi I(X1 ∈ Aj ) − pj1σij = cov=√,· (E I(X1 ∈ Ai )·I(X1 ∈ Aj )−pi pj =√√pipjpi pj1=√·pi pjpi − pi pj , если i = j,0 − pi pj ,1 − pi ,если i = j,=√− pi pj , если i 6= j.если i 6= jВырождена эта матрица хотя бы оттого, что координаты вектора ξ(1) линейно связаны:kX√Оглавлениеpj ξj =j=1JJIIJIНа стр. ...
из 179I(X1 ∈ Aj ) −j=1kXpj = 1 − 1 = 0.(38)j=12. Из (38) мораль: если последняя строка ортогональной матрицы C будет иметь вид√√( p1 , . . . , pk ) (что вполне возможно — норма такой строки равна единице), то после умножения C на ξ(1) получим вектор с нулевой последней координатой — в точности (38).При умножении вектора ξ на матрицу C слева его матрица ковариаций Σ = E ξξT перейдетв B = CΣCT . Убедимся, что, какой бы ни была ортогональная матрица C, в результате получимдиагональную матрицу из нулей с единицами на главной диагонали, кроме элемента bkk = 0.Ортогональность C означает, что для любых m 6= k и l 6= m имеют место равенстваkXНазадВо весь экранУйтиkXcmj ckj =j=1kX√cmj pj = 0,j=1kXc2mj = 1,j=1kXcmj clj = 0.j=1Учитывая, что il-й элемент матрицы CT есть cli , получимkkkXXXX√bml =cmj σji cli =−cmj pi pj + cmi (1 − pi ) cli =i=1=kXi=1√pij=1Xi=1−cmjj6=iСтр.
174=√j6=ikXcmi , m 6= k√ pj − cmi pi + cmi cli =cli ·=0,m=ki=11, m 6= k, m = l0, m = k или m 6= l=Ek−1000.(39)(1)Оглавление^ , 0)3. Осталось повторить то, что мы уже описали в плане: умножение C · ξ(1) = (ξприводит к вектору с нулевой последней координатой по (38). Равенствами (39) мы показали,^ (1) ∈ IRk−1 имеет невырожденную единичную матрицу ковариаций Ek−1 . Векточто вектор ξ(1)(2)^ ,ξ^ , .
. . независимы, одинаково распределены, имеют нулевое среднее C · E ξ(1) = 0.ра ξВсе условия многомерной ЦПТ выполнены, поэтому^ (n) =ηJJIIJIНа стр. ... из 179^ (1) + . . . + ξ^ (n)ξ√⇒ η, где η имеет распределение N0,Ek−1 .n^ (n) слабо сходится к норме вектора η, состоящего, согласноПо следствию 5, норма вектора ηтеореме 14, из независимых случайных величин со стандартным нормальным распределением:k^η(n) k2 ⇒ kηk2 =k−1Xη2i = χ2k−1 , где χ2k−1 имеет распределение Hk−1 .(40)i=1НазадВо весь экранРаспределение Hk−1 возникло здесь по определению 16.
Осталось заметить, что у векто^ (n) , связанных равенствамиров η(n) , C · η(n) , ηC · η(n) =УйтиC · ξ(1) + . . . + C · ξ(n)√= (^η(n) , 0),nнормы одинаковы в силу (17): kη(n) k2 = kC · η(n) k2 = k(^η(n) , 0)k2 = k^η(n) k2 . И все этинормы ведут себя так же как и (40).Упражнение. Найти среди этих норм величину ρ из теоремы Пирсона.Стр. 175Указатель терминовАппроксимация Фишера, 111Асимптотическая нормальность оценки, 53Асимптотический подход к сравнению оценок, 60ОглавлениеJJIIJIНа стр.
... из 179НазадВо весь экранУйтиСтр. 176Байесовский критерий, 120, 125, 127Борелевская функция, 30Вариационный ряд, 11Вероятность ошибки i-го рода, 114Выборка, 7Выборочная дисперсия, 8, 14несмещенная, 14Выборочная медиана, 162Выборочное распределение, 8Выборочное среднее, 8, 14Выборочный коэффициент корреляции, 163Выборочный момент, 8, 14Гамма-распределение, 92Гипотеза, 112альтернативная, 112независимости, 113, 146однородности, 113, 145основная, 112простая, 112сложная, 112Гистограмма, 12Гливенко — Кантелли теорема, 16, 136Группировка наблюдений, 12, 25, 137Доверительный интервал, 80асимптотически точный, 81асимптотический, 80для параметров нормального распределения,84, 109, 110точный, 81Индикатор события, 10Информация Фишера, 66Квантиль, 83Класс оценокK0 , 48Kb(θ) , 48Ковариационная матрица, 168, 171Колмогоровакритерий, 135распределение, 17, 136теорема, 17, 136Колмогорова — Смирнова критерий, 145Корреляции коэффициент выборочный, 163Коши распределение, 98Критерий, 114байесовский, 120, 125, 127Колмогорова, 135Колмогорова — Смирнова, 145минимаксный, 119, 125, 127наиболее мощный, 121, 125, 127нерандомизированный, 114отношения правдоподобия, 124, 126рандомизированный, 124Стьюдента, 153согласия, 133Фишера, 148χ2 Пирсона, 137для проверки независимости, 146проверка сложной гипотезы, 142Критическая область, 116ОглавлениеJJIIJIНа стр.
... из 179НазадВо весь экранУйтиСтр. 177ЛеммаНеймана — Пирсона, 125, 127Фишера, 104Линейная регрессия, 162, 164Линия регрессии, 158Логарифмическая функция правдоподобия, 39Матрицаковариаций, 168, 171ортогональная, 101плана, 164положительно определенная, 165Методмаксимального правдоподобия, 38оценка параметров регрессии, 159моментов, 32наименьших квадратов, 160Минимаксный критерий, 119, 125, 127МНК-оценка, 160Многомерная ЦПТ, 172Многомерное нормальное распределение, 171Мощность критерия, 116Наиболее мощный критерий, 121, 125, 127Наименьших квадратов метод, 160Неймана — Пирсона лемма, 125, 127Неравенство Рао — Крамерадля несмещенных оценок, 66для смещенных оценок, 67Несмещенность оценки, 30Норма вектора, 165Нормальное уравнение, 167Носитель семейства распределений, 62Отношение правдоподобия, 123Оценка, 30асимптотически нормальная, 53максимального правдоподобия, 40метода моментов, 32метода наименьших квадратов, 160несмещенная, 30состоятельная, 30сравнение в асимптотическом смысле, 60сравнение в среднеквадратичном, 47эффективная, 49, 62R-эффективная, 71Ошибка i-го рода, 114Ошибки регрессии, 158Параметр, 28Параметрическое семейство распределений, 28Пирсона теорема, 138Плотность распределенияотносительно меры Лебега, 38относительно считающей меры, 38Порядковая статистика, 11Размер критерия, 116ОглавлениеJJIIJIНа стр.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
