Н.И. Чернова - Математическая статистика (1119916), страница 13
Текст из файла (страница 13)
Запишем плотность совместного распределения~ В силу независимости это есть произведение плоткоординат вектора X.ностей координат вектора (то же самое, что функция правдоподобия)fX~ (~y ) =nYfXi (yi ) =i=11− 2 (y12 + ... + yn2 )1(2π)n/2e1=(2π)n/21− 2 k~y k2e.Здесь для произвольного вектора ~y квадрат нормы k~y k2 есть2k~y k =nXyi2 = ~y T· ~y .i=1Пользуясь формулой (18), вычислим плотность распределения вектора~ Матрица C ортогональна, поэтому C −1 = C T и det C = 1.Y~ = C X.Получим21− 2 kC T · ~y k1TfY~ (~y ) = fX~ C · ~y =e.n/2(2π)Но умножение на ортогональную матрицу не меняет норму вектора:2kC T· ~y k = (C T ~y )T · (C T ~y ) = ~y T C C T ~y = ~y T · E · ~y = k~y k2 .(19)Окончательно имеемfY~ (~y ) =1(2π)n/21− 2 k~y k2e= fX~ (~y ) =1(2π)n/21− 2 (y12 + ...
+ yn2 )e.~ т. е. состоит изИтак, вектор Y~ распределен так же, как и вектор X,независимых случайных величин со стандартным нормальным распределением.74ГЛАВА VI. РАСПРЕДЕЛЕНИЯ, СВЯЗАННЫЕ С НОРМАЛЬНЫМУ п р а ж н е н и е . Пусть ξ и η независимы и имеют стандартное нормальное распределение. Зависимы ли случайные величины √12 (ξ − η)и √12 (ξ + η)? Какое распределение имеют? Зависимы ли ξ − η и ξ + η?Является ли ортогональной матрица!11√2√12C=−√2√12?Следующее утверждение носит вспомогательный характер и по традиции называется леммой.
Эта лемма является, пожалуй, самым главнымвспомогательным утверждением во всех разделах теоретической статистики и эконометрики, связанных с нормальными наблюдениями.~ состоит из незаЛ е м м а 7 (л е м м а Ф и ш е р а). Пусть вектор Xвисимых случайных величин со стандартным нормальным распределени~ем, C — ортогональная матрица, Y~ = C X.Тогда при любом k = 1, . . . , n − 1 случайная величина~ =T (X)nXXi2 − Y12 − . . . − Yk2i=1не зависит от Y1 , . . . , Yk и имеет распределение Hn−k .~ и Y~ =Д о к а з а т е л ь с т в о. Как мы видели в (19), нормы векторов X22~ k = kC X~ k = Y 2 + . . .
+ Yn2 .~ совпадают: X 2 + . . . + Xn2 = kX= CX11Поэтому~ =T (X)nX2Yi2 − Y12 − . . . − Yk2 = Yk+1+ . . . + Yn2 .i=1Случайные величины Y1 , . . . , Yn по теореме 18 независимы и имеют~ = Y 2 + . . . + Yn2стандартное нормальное распределение, поэтому T (X)k+1имеет распределение Hn−k и не зависит от Y1 , . . . , Yk .Второй и третий пункты следующего утверждения выглядят неправдоподобно, особенно если вспомнить обозначения:n1 XX=Xi ,ni=1S02n21 X=Xi − X .n−1i=1Действительно, обе эти величины являются функциями от одних и тех женаблюдений. Более того, в определение S02 явным образом входит X.75§ 2.
Преобразования нормальных выборокТ е о р е м а 19 (о с н о в н о е с л е д с т в и е л е м м ы Ф и ш е р а). ПустьX1 , . . . , Xn независимы и имеют нормальное распределение с параметрами a и σ2 . Тогда:√ X −a= N0, 1 ,⊂1) nσ2)(n − 1) S02σ2=2nXXi − Xσ2i=1= Hn−1 ,⊂3) случайные величины X и S02 независимы.Д о к а з а т е л ь с т в о.
Первое утверждение теоремы очевидно (доказать, что очевидно!). Докажем второе и третье. Убедимся сначала, чтоможно рассматривать выборку из стандартного нормального распределения вместо Na, σ2 :(n − 1)S02σ2=n XXi − X 2σi=1=n XXi − aσi=1−X −a 2σ=nX(zi − z)2 ,i=1X −aX −a= N0, 1 .⊂— среднее арифметическое величин zi = iгде z =σσИтак, можно с самого начала считать, что Xi имеют стандартное нормальное распределение, a = 0, σ2 = 1.Применим лемму Фишера. Представим величину (n − 1)S02 в виде~)=T (X(n − 1)S02=nXXi − X2=i=1nXXi22− n(X) =i=1nXXi2 − Y12 .i=1Здесь через Y1 мы обозначили√XXY1 = n X = √ 1 + . . .
+ √ n .nnЧтобы применить лемму Фишера, нужно найти ортогональную матрицу~C такую, что Y1 будет первой координатой вектора Y~ = C X.√√Возьмём матрицу C с первой строкой (1/ n, . . . , 1/ n) . Так как длина (норма) этого вектора равна единице, его можно дополнить до ортонормального базиса в Rn . Иначе говоря, этот столбец√ можно дополнитьдо ортогональной матрицы. Тогда величина Y1 = n X и будет первой~ Осталось применить лемму Фишера и покоординатой вектора Y~ = C X.лучить второе утверждение теоремы.Pn2 =22Из леммы Фишераследуеттакже,что(n−1)S0i=1 Xi − Y1 не за√висит от Y1 = n X, т. е. X и S02 независимы.76ГЛАВА VI.
РАСПРЕДЕЛЕНИЯ, СВЯЗАННЫЕ С НОРМАЛЬНЫМВопреки определению χ2-распределения c n − 1 степенью свободы, величина (n − 1)S02 /σ2 есть сумма не n − 1, а n слагаемых, причём этислагаемые зависимы из-за присутствия в каждом X. К тому же они хотьи одинаково распределены (почему?), но их распределение вовсе не является стандартным нормальным (а какое оно?).Отметим без доказательства, что независимость величин X и S02 —свойство, характерное только для нормального распределения.
Так же,как и способность сохранять независимость координат после умноженияна ортогональную матрицу.Очередное следствие из леммы Фишера наконец позволит нам строитьдоверительные интервалы для параметров нормального распределения,ради чего мы и доказали уже так много утверждений. В каждом пункте указано, для какого параметра мы построим доверительный интервалс помощью данного утверждения.Т е о р е м а 20 (п о л е з н о е с л е д с т в и е л е м м ы Ф и ш е р а). ПустьX1 , .
. . , Xn независимы и имеют нормальное распределение с параметрами a и σ2 . Тогда√ X −a= N0, 1 (для a при σ известном),⊂1) nσn PXi − a 2= Hn (для σ2 при a известном),⊂2)σi=13)(n − 1) S024)√ X −a= Tn−1 (для a при σ неизвестном).⊂nσ2= Hn−1 (для σ2 при a неизвестном),⊂S0Д о к а з а т е л ь с т в о. Утверждения (1) и (3) следуют из леммы Фишера, (2) — из теоремы 5. Осталось воспользоваться леммой Фишера и определением распределения Стьюдента, чтобы доказать (4). Запишем√ X −a√ X −a1ξn= n· s= s 0 ,(20)σS0(n − 1)S02σ2·1n−1χ2n−1n−1где величины√ X −a= N0, 1 и χ2n−1 = (n − 1)S02 /σ2 ⊂= Hn−1⊂ξ0 = nσнезависимы по теореме 5.
По определению 19, величина (20) имеет распределение Стьюдента Tn−1 .77§ 3. Доверительные интервалы для нормального распределения§ 3. Точные доверительные интервалы для параметровнормального распределенияПусть X1 , . . . , Xn — выборка объёма n из распределения Na, σ2 . Построим точные доверительные интервалы (ДИ) с уровнем доверия 1 − εдля параметров нормального распределения, используя соответствующиеутверждения теоремы 20.П р и м е р 30 (Д И д л я a п р и и з в е с т н о м σ2 ).
Этот интервал мыпостроили в примере 26 (с. 58):τστσ= 1 − ε, где Φ0,1 (τ) = 1 − ε/2.P X− √ <a<X+ √nnП р и м е р 31 (Д И д л я σ2 п р и и з в е с т н о м a ). По теореме 20nnS121 X2= Hn , где S1 =⊂(Xi − a)2 .2σni=1Пусть g1 и g2 — квантили распределения Hn уровней ε/2 и 1 − ε/2соответственно. Тогда2nS12nS12nS1 − ε = P g1 < 2 < g2 = P< σ2 < 1 .σg2g1П р и м е р 32 (Д И д л я σ2 п р и н е и з в е с т н о м a ). По теореме 20n(n − 1)S021 X2= Hn−1 , где S0 =⊂(Xi − X)2 .2σn−1i=1Пусть g1 и g2 — квантили распределения Hn−1 уровней ε/2 и 1 − ε/2соответственно. Тогда2(n − 1)S02(n−1)S(n − 1)S020< g2 = P< σ2 <.1 − ε = P g1 <2σg2g1У п р а ж н е н и е . Найти 17 отличий примера 31 от примера 32.П р и м е р 33 (Д И д л я a п р и н е и з в е с т н о м σ ). По теореме 20√ X −a= Tn−1 .⊂nS0Пусть c — квантиль распределения Tn−1 уровня 1 − ε/2.
Распределение Стьюдента симметрично. Поэтому√ X −acScS1 − ε = P −c < n< c = P X − √0 < a < X + √0 .S0nn78ГЛАВА VI. РАСПРЕДЕЛЕНИЯ, СВЯЗАННЫЕ С НОРМАЛЬНЫМУ п р а ж н е н и е . Сравнить примеры 30 и 33.З а м е ч а н и е 14. Доверительные интервалы, полученные в примерах31 и 32, выглядят странно по сравнению с доверительными интервалами из примеров 30 и 33: они содержат n в числителе, а не в знаменателе. Но если квантили нормального распределения от n не зависят вовсе,квантили распределения Стьюдента асимптотически не зависят от n посвойству Tn ⇒ N0,1 , то квантили распределения Hn зависят от n существенно.Действительно, пусть gn таковы, что P(χ2n < gn ) = δ при всех n,и пусть τδ — квантиль уровня δ стандартного нормального распределения.
Тогда по свойству 3 (с. 67)2 −nχg−nnn√→ Φ0, 1 (τδ ) = δ.P(χ2n < gn ) = P< √2nПоэтому2ngn − n√→ τδ при n → ∞ и, следовательно,2n√√gn = n + τδ 2n + o( n).У п р а ж н е н и е . Подставить в границы доверительных интервалов изп. 2—3 асимптотические выражения для квантилей и выяснить, как ведётсебя длина этих интервалов с ростом n.§ 4. Вопросы и упражнения1. Величины ξ1 и ξ2 независимы и имеют нормальное распределениес параметрами a = 0, σ2 = 16.