1625915145-5b3debabab98d9e994cc3a1bc8da0f5b (843876), страница 13
Текст из файла (страница 13)
Если случайная величина fk, n имеет распределениеФишера Fk, n , то 1/fk, n имеет распределение Фишера Fn, k .Заметим, что распределения Fk, n и Fn, k различаются, но связанысоотношением: для любого x > 0)(( )111>= 1 − Fn, k.Fk, n (x) = P(fk, n < x) = Pfk, nxxРаспределение Фишера также табулировано при многих k, n, причёмсвойство 9 позволяет приводить таблицы распределений только в половине случаев: например, при k ⩾ n.С в о й с т в о 10. Распределение Фишера Fk, n слабо сходится к вырожденному в точке c = 1 распределению при любом стремлении k и nк бесконечности.Д о к а з а т е л ь с т в о. Пусть ξ1 , ξ2 , .
. . и η1 , η2 , . . . — две независимые последовательности, составленные из независимых случайных величин со стандартным нормальным распределением. Требуемое утверждение вытекает из того, что любая последовательность случайных величинfk, n , распределение которой совпадает с распределением отношения двухсредних арифметическихξ21 + .
. . + ξ2kkиη21 + . . . + η2nn,сходится к единице по вероятности при k → ∞, n → ∞ по ЗБЧ.= Tk — случайная величина, имеющая расС в о й с т в о 11. Пусть tk ⊂= F1, k .пределение Стьюдента. Тогда t2k ⊂72ГЛАВА VI. РАСПРЕДЕЛЕНИЯ, СВЯЗАННЫЕ С НОРМАЛЬНЫМ§ 2. Преобразования нормальных выборок⃗ = (X1 , . . . , Xn ) — выборка из N0, 1 , т. е. набор независимыхПусть Xслучайных величин со стандартным нормальным распределением. Там,⃗где нам понадобятся операции матричного умножения, будем считать Xвектором-столбцом. Пусть C — ортогональная матрица (n × n), т. е.()10T...CC = E =,01⃗ — вектор с координатами Yi = Ci1 X1 + . . . + Cin Xn .и Y⃗ = C XКоординаты вектора Y⃗ имеют нормальные распределения как линейные комбинации независимых нормальных величин.
Какие именно нормальные и с каким совместным распределением? Чтобы ответить на этотвопрос, выясним, как изменится плотность распределения вектора послеумножения его на произвольную невырожденную матрицу.Вспомним, как найти плотность распределения случайной величиныη = a ξ + b по плотности распределения ξ :()fη (y) = |a|−1 · fξ a−1 (y − b) .Сформулируем аналогичное утверждение в многомерном случае.⃗ имеет плотность расТ е о р е м а 17. Пусть случайный вектор Xпределения fX⃗ (y1 , . . .
, yn ) = fX⃗ (⃗y ) и A — невырожденная матрица. То⃗ + ⃗b имеет плотность распределениягда вектор Y⃗ = AX( −1)−1⃗fY⃗ (⃗y ) = fAX+(⃗y)=|detA|·fA(⃗y−b).(18)⃗⃗ ⃗bXД о к а з а т е л ь с т в о. Если найдётся функция h(⃗y ) ⩾ 0 такая, чтодля любого борелевского множества B ⊆ Rn∫∫∫()P Y⃗ ∈ B =. . . h(⃗y ) d⃗y ,Bто функция h(⃗y ) является плотностью распределения вектора Y⃗ .Вычислим∫∫∫()()()⃗ + ⃗b ∈ B = P X⃗ ∈ A−1 (B − ⃗b ) =P Y⃗ ∈ B = P AX. . . fX⃗ (⃗x ) d⃗x,A−1 (B−⃗b )где A−1 (B − ⃗b ) = {⃗x = A−1 (⃗y − ⃗b ) | ⃗y ∈ B}. Сделаем замену переменных ⃗y = A⃗x +⃗b.
При такой замене область интегрирования по множеству73§ 2. Преобразования нормальных выборок⃗x ∈ A−1 (B − ⃗b ) превратится в область интегрирования по ⃗y ∈ B, а дифференциал заменится на d⃗x = |J| d⃗y , где J — якобиан обратной замены⃗x = A−1 (⃗y − ⃗b ), т. е. определитель матрицы A−1 . Итак,∫∫∫()P(Y⃗ ∈ B) =. . . |det A|−1 · fX⃗ A−1 (⃗y − ⃗b ) d⃗y .BДокажем самое удивительное свойство нормального распределения.⃗ состоит из независимых случайТ е о р е м а 18.
Пусть вектор Xных величин со стандартным нормальным распределением, C — орто⃗ Тогда и координаты вектора Y⃗ незавигональная матрица, Y⃗ = C X.симы и имеют стандартное нормальное распределение.Д о к а з а т е л ь с т в о. Запишем плотность совместного распределения⃗ В силу независимости это есть произведение плоткоординат вектора X.ностей координат вектора (то же самое, что функция правдоподобия)fX⃗ (⃗y ) =n∏fXi (yi ) =i=11− 2 (y12 + ... + yn2 )1(2π)n/2e1=(2π)n/21− 2 ∥⃗y ∥2e.Здесь для произвольного вектора ⃗y квадрат нормы ∥⃗y ∥2 есть2∥⃗y ∥ =n∑yi2 = ⃗y T· ⃗y .i=1Пользуясь формулой (18), вычислим плотность распределения вектора⃗ Матрица C ортогональна, поэтому C −1 = C T и det C = 1.Y⃗ = C X.Получим21()− 2 ∥C T · ⃗y ∥1TfY⃗ (⃗y ) = fX⃗ C · ⃗y =e.n/2(2π)Но умножение на ортогональную матрицу не меняет норму вектора:2∥C T· ⃗y ∥ = (C T ⃗y )T · (C T ⃗y ) = ⃗y T C C T ⃗y = ⃗y T · E · ⃗y = ∥⃗y ∥2 .(19)Окончательно имеемfY⃗ (⃗y ) =1(2π)n/21− 2 ∥⃗y ∥2e= fX⃗ (⃗y ) =1(2π)n/21− 2 (y12 + ...
+ yn2 )e.⃗ т. е. состоит изИтак, вектор Y⃗ распределен так же, как и вектор X,независимых случайных величин со стандартным нормальным распределением.74ГЛАВА VI. РАСПРЕДЕЛЕНИЯ, СВЯЗАННЫЕ С НОРМАЛЬНЫМУ п р а ж н е н и е . Пусть ξ и η независимы и имеют стандартное нормальное распределение. Зависимы ли случайные величины √12 (ξ − η)и √12 (ξ + η)? Какое распределение имеют? Зависимы ли ξ − η и ξ + η?Является ли ортогональной матрица( 1)1√21√2C=−√21√2?Следующее утверждение носит вспомогательный характер и по традиции называется леммой.
Эта лемма является, пожалуй, самым главнымвспомогательным утверждением во всех разделах теоретической статистики и эконометрики, связанных с нормальными наблюдениями.⃗ состоит из незаЛ е м м а 7 (л е м м а Ф и ш е р а). Пусть вектор Xвисимых случайных величин со стандартным нормальным распределе⃗нием, C — ортогональная матрица, Y⃗ = C X.Тогда при любом k = 1, .
. . , n − 1 случайная величина⃗ =T (X)n∑Xi2 − Y12 − . . . − Yk2i=1не зависит от Y1 , . . . , Yk и имеет распределение Hn−k .⃗ иД о к а з а т е л ь с т в о. Как мы видели в (19), нормы векторов X⃗ совпадают: X 2 + . . . + Xn2 = ∥X⃗ ∥2 = ∥C X⃗ ∥2 = Y 2 + .
. . + Yn2 .Y⃗ = C X11Поэтому⃗ =T (X)n∑2Yi2 − Y12 − . . . − Yk2 = Yk+1+ . . . + Yn2 .i=1Случайные величины Y1 , . . . , Yn по теореме 18 независимы и имеют⃗ = Y 2 +...+Y 2стандартное нормальное распределение, поэтому T (X)nk+1имеет распределение Hn−k и не зависит от Y1 , . . . , Yk .Второй и третий пункты следующего утверждения выглядят неправдоподобно, особенно если вспомнить обозначения:n1 ∑Xi ,X=ni=1S02n)21 ∑(Xi − X .=n−1i=1Действительно, обе эти величины являются функциями от одних и техже наблюдений. Более того, в определение S02 явным образом входит X.75§ 2. Преобразования нормальных выборокТ е о р е м а 19 (о с н о в н о е с л е д с т в и е л е м м ы Ф и ш е р а). ПустьX1 , .
. . , Xn независимы и имеют нормальное распределение с параметрами a и σ2 . Тогда:√ X −a= N0, 1 ,⊂1) nσ2)(n − 1) S02σ2=)2n (∑Xi − Xσ2i=1= Hn−1 ,⊂3) случайные величины X и S02 независимы.Д о к а з а т е л ь с т в о. Первое утверждение теоремы очевидно (доказать, что очевидно!). Докажем второе и третье. Убедимся сначала, чтоможно рассматривать выборку из стандартного нормального распределения вместо Na, σ2 :(n − 1)S02σ2=n ()∑Xi − X 2i=1σ=n (∑Xi − aσi=1−)X −a 2σX −a=n∑(zi − z)2 ,i=1X −a= N0, 1 .⊂где z =— среднее арифметическое величин zi = iσσИтак, можно с самого начала считать, что Xi имеют стандартное нормальное распределение, a = 0, σ2 = 1.Применим лемму Фишера. Представим величину (n − 1)S02 в виде⃗ ) = (n − 1)S02 =T (Xnnn∑∑)2 ∑(22Xi − n(X) =Xi2 − Y12 .Xi − X =i=1i=1i=1Здесь через Y1 мы обозначили√XXY1 = n X = √ 1 + .
. . + √ n .nnЧтобы применить лемму Фишера, нужно найти ортогональную матрицу⃗C такую, что Y1 будет первой координатой вектора Y⃗ = C X.√√Возьмём матрицу C с первой строкой (1/ n, . . . , 1/ n) . Так какдлина (норма) этого вектора равна единице, его можно дополнить до ортонормального базиса в Rn . Иначе говоря, этот столбец√ можно дополнитьдо ортогональной матрицы. Тогда величина Y1 = n X и будет первой⃗ Осталось применить лемму Фишера и покоординатой вектора Y⃗ = C X.лучить второе утверждение теоремы.∑n2 =22Из леммы Фишераследуеттакже,что(n−1)S0i=1 Xi − Y1√не зависит от Y1 = n X, т.
е. X и S02 независимы.76ГЛАВА VI. РАСПРЕДЕЛЕНИЯ, СВЯЗАННЫЕ С НОРМАЛЬНЫМВопреки определению χ2-распределения c n − 1 степенью свободы, величина (n − 1)S02 /σ2 есть сумма не n − 1, а n слагаемых, причём этислагаемые зависимы из-за присутствия в каждом X. К тому же они хотьи одинаково распределены (почему?), но их распределение вовсе не является стандартным нормальным (а какое оно?).Отметим без доказательства, что независимость величин X и S02 —свойство, характерное только для нормального распределения. Так же,как и способность сохранять независимость координат после умноженияна ортогональную матрицу.Очередное следствие из леммы Фишера наконец позволит нам строитьдоверительные интервалы для параметров нормального распределения,ради чего мы и доказали уже так много утверждений.
В каждом пункте указано, для какого параметра мы построим доверительный интервалс помощью данного утверждения.Т е о р е м а 20 (п о л е з н о е с л е д с т в и е л е м м ы Ф и ш е р а). ПустьX1 , . . . , Xn независимы и имеют нормальное распределение с параметрами a и σ2 .