Н.И. Чернова - Математическая статистика (1115306), страница 10
Текст из файла (страница 10)
Тогда их сумма χ2k + χ2m имеет распределение Hk+m .Доказательство. Пусть ξ1 , ξ2 , . . . независимы и имеют стандартное нормальноераспределение. Тогдаχ2k распределено как ξ21 + . . . + ξ2k ,χ2m распределено как ξ2k+1 + . . . + ξ2k+m ,а их сумма — как ξ21 + . . . + ξ2k+m , т. е. имеет распределение Hk+m .2.Моменты распределения χ2 . Если χ2k имеет распределение Hk , тоE χ2k = kиD χ2k = 2k.Доказательство. Пусть ξ1 , ξ2 , . . .
независимы и имеют стандартное нормальноераспределение. ТогдаE ξ21 = 1,D ξ21 = E ξ41 − (D ξ21 )2 = 3 − 1 = 2(см. пример 20). ПоэтомуE χ2k = E (ξ21 + . . . + ξ2k ) = k,D χ2k = D (ξ21 + . . . + ξ2k ) = 2k.Следствие 3. Если ξ1 , . . . , ξk независимы и имеют нормальное распределение Na,σ2 , тоk Xξi − a 22χk =σi=1имеет χ2 -распределение Hk с k степенями свободы.Упражнение.
Доказать следствие 3.Упражнение. Как, пользуясь таблицей стандартного нормального распределения,найти квантиль заданного уровня для χ2 -распределения с одной степенью свободы?486.3. Распределение Стью́дента и его свойстваОпределение 17. Пусть ξ0 , ξ1 , . . . , ξk независимы и имеют стандартное нормальноераспределение. Распределение случайной величиныtk = rξ0ξ0=s1 2χ2k(ξ1 + .
. . + ξ2k )kkназывают распределением Стью́дента с k степенями свободы и обозначают Tk .N0,1Плотность распределения Стьюдента по сравнениюс плотностью стандартного нормального распределенияTkПлотность распределения Стьюдента с k степенями свободы равна разглядеть как следует!Γ ((k + 1)/2)fk (y) = √πkΓ (k/2)y21+k!−(k+1)/2.(15)Мы не станем выводить эту формулу, предложив читателю-математику либо вывестиее самостоятельно, либо посмотреть вывод в [1, п.6-7 §2 главы 2].Свойства распределения Стьюдента:1.Симметричность. Если случайная величина tk имеет распределение СтьюдентаTk с k степенями свободы, то и −tk имеет такое же распределение.Упражнение.
Доказать.2.Асимптотическая нормальность. Распределение Стьюдента Tk слабо сходится кстандартному нормальному распределению при k → ∞.Доказательство. Пусть ξ0 , ξ1 , . . . , ξk независимы и имеют стандартное нормальноераспределение. Тогда E ξ21 = 1, и по ЗБЧξ2 + . . . + ξ2k pχ2k= 1−→ 1 при k → ∞.kkТогда иξ0p−→ ξ0 ,1 22(ξ + . .
. + ξk )k 1откуда следует и слабая сходимость последовательности случайных величин tk сраспределением Стьюдента к ξ0 , имеющей стандартное нормальное распределение.То есть Tk ⇒ N0,1 .tk = r3.Распределение Стьюдента с одной степенью свободы есть стандартное распределение Коши.Упражнение. Как получить случайную величину с распределением Коши, имея двенезависимые стандартные нормальные случайные величины?49Доказательство.
Подставим k = 1 в плотность (15), используя Γ (1/2) =Γ (1) = 1, и получим плотность распределения Коши:f1 (y) =4.√π и−11 .1 + y2πУ распределения Стьюдента существуют только моменты порядка m < k, и несуществуют моменты порядка m > k. При этом все существующие моменты нечетного порядка равны нулю.Упражнение. Посмотреть на плотность (15) и убедиться в сходимости или расходимости на бесконечности при соответствующих m интегралов∞Z|y|m ·C(k) ·1dy.(k + y2 )(k+1)/2−∞Отметим, что и распределение χ2 , и распределение Стьюдента табулированы, такчто если в каких-то доверительных интервалах появятся квантили этих распределений,то мы найдем их по таблице.Следущее распределение тоже тесно связано с нормальным распределением, нопонадобится нам не при построения доверительных интервалов, а чуть позже — взадачах проверки гипотез.
Там же мы поймем, почему его называют часто распределением дисперсионного отношения. Призываем математиков сравнить определение[1, п.6 §2 гл.2] с нашим определением и учесть, что в статистических таблицах всегда табулируется распределение Фишера в том виде, как мы его сейчас определим.что было раньше - курица или яйцо?6.4. Распределение ФишераОпределение 18.
Пусть χ2k имеет распределение Hk , а χ2m — распределение Hm ,причем эти случайные величины независимы. Распределение случайной величиныfk,m =2χ2k /k = m · χkk · χ2mχ2m /mназывают распределением Фишера с k, m степенями свободы и обозначают Fk,m .Свойства распределения Фишера (или Фишера — Снедекора):1.Если hk,m имеет распределение Фишера Fk,m , то 1/hk,m имеет распределениеФишера Fm,k .2.Распределение Фишера Fk,m слабо сходится к вырожденному в точке 1 распределению I1 при любом стремлении k и m к бесконечности.Доказательство. Убедитесь по ЗБЧ, что любая последовательность случайных величин hk,m , распределение которой совпадает с распределением отношения двухсредних арифметическихη21 + . . . + η2mξ21 + .
. . + ξ2kи,kmсходится к 1 по вероятности при k → ∞, m → ∞. Здесь ξ1 , ξ2 , . . .и η1 , η2 , . . . — независимые последовательности, составленные из независимыхслучайных величин со стандартным нормальным распределением.506.5. Преобразования нормальных выборокПусть X = (X1 , . . . , Xn ) — выборка из N0,1 (набор независимых и одинаковораспределенных величин). Пусть C — ортогональная матрица (n × n), т.е.1CCT = E =0..0!,.1Pи Y = C · X — вектор с координатами Yi = nj=1 Cij Xj .Какое распределение имеют координаты вектора Y? Зависимы ли они? Чтобы ответить на этот вопрос, выясним, как изменится плотность распределения вектора послеумножения его на произвольную невырожденную матрицу.Вспомним, как найти плотность распределения случайной величины c · ξ по плотности распределения ξ:−1fcξ (y) = |c| · fξ c−1 · y .Поверим, без доказательства, аналогичному утверждению в многомерном случае.
Те, ктознаком с заменой переменных в многомерном интеграле и не боится термина «якобиан»,могут доказать его самостоятельно.Изменение плотности совместного распределения при линейном преобразовании вектора.Пусть случайный вектор X имеет плотность распределения fX (y1 , . . . , yn ) = fX (y),и C — невырожденная матрица. Тогда вектор Y = C · X имеет плотность распределения−1fY (y) = fC·X (y) = |det C| · fX C−1 · y .(16)Докажем самое удивительное свойство нормального распределения.Свойство 9. Пусть вектор X состоит из независимых случайных величин со стандартным нормальным распределением, C — ортогональная матрица, и Y = C · X.Тогда и координаты вектора Y независимы и имеют стандартное нормальное распределение.Доказательство. Запишем плотность совместного распределения координат вектора X.В силу независимости это есть произведение плотностей координат вектора (то жесамое, что функция правдоподобия):1 PnnY−21efXi (yi ) =fX (y1 , .
. . , yn ) =(2π)n/2i=11y2i12− 2 kyk1e.=(2π)n/2Здесь для произвольного вектора y квадрат нормы kyk2 естьkyk2 =nXy2i = yT · y.i=1Пользуясь (16), вычислим плотность распределения вектора Y = C · X. Матрица Cортогональна, поэтому C−1 = CT и det C = 1.1fY (y) = fX− 2 kC1eC ·y =(2π)n/2T51T ·yk2.Но умножение на ортогональную матрицу не меняет норму вектора. Действительно,2kCT · yk = (CT · y)T · (CT · y) = (yT · C) · (CT · y) = yT · E · y = kyk2 .Окончательно имеем11 Pn2− 2 kyk−211ee=f(y)=fY (y) =X(2π)n/2(2π)n/21(17)y2i.Итак, вектор Y распределен так же, как и вектор X, т. е.
состоит из независимыхслучайных величин со стандартным нормальным распределением.Упражнение. Вспомнить определение независимости случайных величин с абсолютно непрерывным распределением в терминах плотностей. Что можно сказать пронезависимость и про распределение координат вектора, если совместная плотность распределения координат вектора равна1 Pn−21e(2π)n/21y2inY1 −√ e=2πi=1y2i2?Упражнение. Пусть ξ и η независимы и имеют стандартное нормальное распределение.
Зависимы ли случайные величины √12 (ξ−η) и √12 (ξ+η)? Какое распределениеимеют? Является ли ортогональной матрицаC=√12√121−√2√12 ?Лемма Фишера. Пусть вектор X состоит из независимых случайных величин со стандартным нормальным распределением, C — ортогональная матрица, и Y = C · X. Тогдадля любого k = 1, . . . , n−1T (X) =nXX2i − Y12 − .
. . − Yk2 не зависит от Y1 , . . . , Yki=1и имеет χ2 -распределение Hn−k с n − k степенями свободы.Доказательство. Как мы видели в (17), нормы векторов X и Y = C · X совпадают:nXX2i = kXk2 = kC · Xk2 =nXYi2 .i=1i=1ПоэтомуT (X) =nXi=1X2i−Y12− ... −Yk2=nX2Yi2 − Y12 − . . .
− Yk2 = Yk+1+ . . . + Yn2 .i=1Случайные величины Y1 , . . . , Yn по свойству 9 независимы и имеют стандартное2нормальное распределение, поэтому T (X) = Yk+1+ . . . + Yn2 имеет распределение Hn−kи не зависит от Y1 , . . . , Yk .52Второй и третий пункты следующего утверждения выглядят неправдоподобно, особенно если вспомнить обозначения:1XXi ,nnX=21 XXi − X .n−1nS20 =i=1i=1Основное следствие леммы Фишера. Если X1 , . . .
, Xk независимы и имеют нормальное распределение Na,σ2 , то√ X−aимеет стандартное нормальное распределение;nσ2n(n − 1) S20 X Xi − X2)=имеет χ2 -распределение с n − 1 степенью свободы;σ2σ21)i=13) случайные величины X и S20 независимы.Взгляните: вопреки определению 16 распределения Hn−1 , величина (n − 1)S20 /σ2— сумма не n−1, а n слагаемых, причем эти слагаемые зависимы из-за присутствияв каждом X. К тому же они хоть и одинаково распределены, но их распределение— не N0,1 . а какое? разыскать!Надеемся, что внимательный читатель, помня, что в невырожденном случае величины ξ и ξ + η всегда зависимы, и видя, как в выражении для S20 явным образомучаствует X, придет в неподдельный восторг от независимости X и S20 .Отметим без доказательства, что независимость X и S20 — свойство, характерное толькодля нормального распределения.
Точно так же как и способность сохранять независимостькоординат после умножения на ортогональную матрицу. Подробнее об этом можно прочестьв замечательной книге В. Феллера [2, т. 2, гл. III, § 4].Доказательство основного следствия леммы Фишера.1. Очевидно. доказать, что очевидно!2. Покажем сначала, что можно рассматривать выборку из стандартного нормальногораспределения вместо Na,σ2 :(n − 1)S20 X Xi − X=σ2σn!2i=1nXXi − a X − a=−σσ!2=i=1nX(zi − z)2 ,i=1Xi − aX−aимеют стандартное нормальное распределение, и z =.σσТ.