1612725170-d2dcc605205feb3d5b9a0101f2221951 (828894), страница 12
Текст из файла (страница 12)
. . + ξ2kkиη21 + . . . + η2nn,сходится к единице по вероятности при k → ∞, n → ∞ по ЗБЧ.= Tk — случайная величина, имеющая расС в о й с т в о 11. Пусть tk ⊂= F1, k .пределение Стьюдента. Тогда t2k ⊂72ГЛАВА VI. РАСПРЕДЕЛЕНИЯ, СВЯЗАННЫЕ С НОРМАЛЬНЫМ§ 2. Преобразования нормальных выборок~ = (X1 , .
. . , Xn ) — выборка из N0, 1 , т. е. набор независимыхПусть Xслучайных величин со стандартным нормальным распределением. Там,~где нам понадобятся операции матричного умножения, будем считать Xвектором-столбцом. Пусть C — ортогональная матрица (n × n), т. е.10...CC T = E =,01~ — вектор с координатами Yi = Ci1 X1 + . . .
+ Cin Xn .и Y~ = C XКоординаты вектора Y~ имеют нормальные распределения как линейные комбинации независимых нормальных величин. Какие именно нормальные и с каким совместным распределением? Чтобы ответить на этотвопрос, выясним, как изменится плотность распределения вектора послеумножения его на произвольную невырожденную матрицу.Вспомним, как найти плотность распределения случайной величиныη = a ξ + b по плотности распределения ξ :fη (y) = |a|−1 · fξ a−1 (y − b) .Сформулируем аналогичное утверждение в многомерном случае.~ имеет плотность расТ е о р е м а 17.
Пусть случайный вектор Xпределения fX~ (y1 , . . . , yn ) = fX~ (~y ) и A — невырожденная матрица. То~ + ~b имеет плотность распределениягда вектор Y~ = AXfY~ (~y ) = fAX+y ) = |det A|−1 · fX~ A−1 (~y − ~b ) .(18)~ ~b (~Д о к а з а т е л ь с т в о. Если найдётся функция h(~y ) > 0 такая, чтодля любого борелевского множества B ⊆ RnZZZP Y~ ∈ B =. . . h(~y ) d~y ,Bто функция h(~y ) является плотностью распределения вектора Y~ .ВычислимZZZ−1~ + ~b ∈ B = P X~ ∈ A (B − ~b ) =P Y~ ∈ B = P AX. . . fX~ (~x ) d~x,A−1 (B−~b )где A−1 (B − ~b ) = {~x = A−1 (~y − ~b ) | ~y ∈ B}.
Сделаем замену переменных ~y = A~x + ~b. При такой замене область интегрирования по множеству73§ 2. Преобразования нормальных выборок~x ∈ A−1 (B − ~b ) превратится в область интегрирования по ~y ∈ B, а дифференциал заменится на d~x = |J| d~y , где J — якобиан обратной замены~x = A−1 (~y − ~b ), т. е. определитель матрицы A−1 . Итак,ZZZP(Y~ ∈ B) =. . .
|det A|−1 · fX~ A−1 (~y − ~b ) d~y .BДокажем самое удивительное свойство нормального распределения.~ состоит из независимых случайныхТ е о р е м а 18. Пусть вектор Xвеличин со стандартным нормальным распределением, C — ортогональ~ Тогда и координаты вектора Y~ независимы иная матрица, Y~ = C X.имеют стандартное нормальное распределение.Д о к а з а т е л ь с т в о. Запишем плотность совместного распределения~ В силу независимости это есть произведение плоткоординат вектора X.ностей координат вектора (то же самое, что функция правдоподобия)fX~ (~y ) =nYfXi (yi ) =i=11− 2 (y12 + ... + yn2 )1(2π)n/2e1=(2π)n/21− 2 k~y k2e.Здесь для произвольного вектора ~y квадрат нормы k~y k2 есть2k~y k =nXyi2 = ~y T· ~y .i=1Пользуясь формулой (18), вычислим плотность распределения вектора~ Матрица C ортогональна, поэтому C −1 = C T и det C = 1.Y~ = C X.Получим21− 2 kC T · ~y k1TfY~ (~y ) = fX~ C · ~y =e.n/2(2π)Но умножение на ортогональную матрицу не меняет норму вектора:2kC T· ~y k = (C T ~y )T · (C T ~y ) = ~y T C C T ~y = ~y T · E · ~y = k~y k2 .(19)Окончательно имеемfY~ (~y ) =1(2π)n/21− 2 k~y k2e= fX~ (~y ) =1(2π)n/21− 2 (y12 + ...
+ yn2 )e.~ т. е. состоит изИтак, вектор Y~ распределен так же, как и вектор X,независимых случайных величин со стандартным нормальным распределением.74ГЛАВА VI. РАСПРЕДЕЛЕНИЯ, СВЯЗАННЫЕ С НОРМАЛЬНЫМУ п р а ж н е н и е . Пусть ξ и η независимы и имеют стандартное нормальное распределение. Зависимы ли случайные величины √12 (ξ − η)и √12 (ξ + η)? Какое распределение имеют? Зависимы ли ξ − η и ξ + η?Является ли ортогональной матрица!11√2√12C=−√2√12?Следующее утверждение носит вспомогательный характер и по традиции называется леммой. Эта лемма является, пожалуй, самым главнымвспомогательным утверждением во всех разделах теоретической статистики и эконометрики, связанных с нормальными наблюдениями.~ состоит из незаЛ е м м а 7 (л е м м а Ф и ш е р а).
Пусть вектор Xвисимых случайных величин со стандартным нормальным распределени~ем, C — ортогональная матрица, Y~ = C X.Тогда при любом k = 1, . . . , n − 1 случайная величина~ =T (X)nXXi2 − Y12 − . . . − Yk2i=1не зависит от Y1 , . . . , Yk и имеет распределение Hn−k .~ и Y~ =Д о к а з а т е л ь с т в о. Как мы видели в (19), нормы векторов X22~ k = kC X~ k = Y 2 + . . . + Yn2 .~ совпадают: X 2 + . .
. + Xn2 = kX= CX11Поэтому~ =T (X)nX2Yi2 − Y12 − . . . − Yk2 = Yk+1+ . . . + Yn2 .i=1Случайные величины Y1 , . . . , Yn по теореме 18 независимы и имеют~ = Y 2 + . . . + Yn2стандартное нормальное распределение, поэтому T (X)k+1имеет распределение Hn−k и не зависит от Y1 , . . . , Yk .Второй и третий пункты следующего утверждения выглядят неправдоподобно, особенно если вспомнить обозначения:n1 XX=Xi ,ni=1S02n21 X=Xi − X .n−1i=1Действительно, обе эти величины являются функциями от одних и тех женаблюдений. Более того, в определение S02 явным образом входит X.75§ 2. Преобразования нормальных выборокТ е о р е м а 19 (о с н о в н о е с л е д с т в и е л е м м ы Ф и ш е р а).
ПустьX1 , . . . , Xn независимы и имеют нормальное распределение с параметрами a и σ2 . Тогда:√ X −a= N0, 1 ,⊂1) nσ2)(n − 1) S02σ2=2nXXi − Xσ2i=1= Hn−1 ,⊂3) случайные величины X и S02 независимы.Д о к а з а т е л ь с т в о. Первое утверждение теоремы очевидно (доказать, что очевидно!). Докажем второе и третье.
Убедимся сначала, чтоможно рассматривать выборку из стандартного нормального распределения вместо Na, σ2 :(n − 1)S02σ2=n XXi − X 2σi=1=n XXi − aσi=1−X −a 2σ=nX(zi − z)2 ,i=1X −aX −a= N0, 1 .⊂— среднее арифметическое величин zi = iгде z =σσИтак, можно с самого начала считать, что Xi имеют стандартное нормальное распределение, a = 0, σ2 = 1.Применим лемму Фишера. Представим величину (n − 1)S02 в виде~)=T (X(n − 1)S02=nXXi − X2=i=1nXXi22− n(X) =i=1nXXi2 − Y12 .i=1Здесь через Y1 мы обозначили√XXY1 = n X = √ 1 + .
. . + √ n .nnЧтобы применить лемму Фишера, нужно найти ортогональную матрицу~C такую, что Y1 будет первой координатой вектора Y~ = C X.√√Возьмём матрицу C с первой строкой (1/ n, . . . , 1/ n) . Так как длина (норма) этого вектора равна единице, его можно дополнить до ортонормального базиса в Rn . Иначе говоря, этот столбец√ можно дополнитьдо ортогональной матрицы.
Тогда величина Y1 = n X и будет первой~ Осталось применить лемму Фишера и покоординатой вектора Y~ = C X.лучить второе утверждение теоремы.Pn2 =22Из леммы Фишераследуеттакже,что(n−1)S0i=1 Xi − Y1 не за√висит от Y1 = n X, т. е. X и S02 независимы.76ГЛАВА VI. РАСПРЕДЕЛЕНИЯ, СВЯЗАННЫЕ С НОРМАЛЬНЫМВопреки определению χ2-распределения c n − 1 степенью свободы, величина (n − 1)S02 /σ2 есть сумма не n − 1, а n слагаемых, причём этислагаемые зависимы из-за присутствия в каждом X. К тому же они хотьи одинаково распределены (почему?), но их распределение вовсе не является стандартным нормальным (а какое оно?).Отметим без доказательства, что независимость величин X и S02 —свойство, характерное только для нормального распределения.
Так же,как и способность сохранять независимость координат после умноженияна ортогональную матрицу.Очередное следствие из леммы Фишера наконец позволит нам строитьдоверительные интервалы для параметров нормального распределения,ради чего мы и доказали уже так много утверждений. В каждом пункте указано, для какого параметра мы построим доверительный интервалс помощью данного утверждения.Т е о р е м а 20 (п о л е з н о е с л е д с т в и е л е м м ы Ф и ш е р а). ПустьX1 , .
. . , Xn независимы и имеют нормальное распределение с параметрами a и σ2 . Тогда√ X −a= N0, 1 (для a при σ известном),⊂1) nσn PXi − a 2= Hn (для σ2 при a известном),⊂2)σi=13)(n − 1) S024)√ X −a= Tn−1 (для a при σ неизвестном).⊂nσ2= Hn−1 (для σ2 при a неизвестном),⊂S0Д о к а з а т е л ь с т в о. Утверждения (1) и (3) следуют из леммы Фишера, (2) — из теоремы 5. Осталось воспользоваться леммой Фишера и определением распределения Стьюдента, чтобы доказать (4). Запишем√ X −a√ X −a1ξn= n· s= s 0 ,(20)σS0(n − 1)S02σ2·1n−1χ2n−1n−1где величины√ X −a= N0, 1 и χ2n−1 = (n − 1)S02 /σ2 ⊂= Hn−1⊂ξ0 = nσнезависимы по теореме 5.
По определению 19, величина (20) имеет распределение Стьюдента Tn−1 .77§ 3. Доверительные интервалы для нормального распределения§ 3. Точные доверительные интервалы для параметровнормального распределенияПусть X1 , . . . , Xn — выборка объёма n из распределения Na, σ2 . Построим точные доверительные интервалы (ДИ) с уровнем доверия 1 − εдля параметров нормального распределения, используя соответствующиеутверждения теоремы 20.П р и м е р 30 (Д И д л я a п р и и з в е с т н о м σ2 ). Этот интервал мыпостроили в примере 26 (с.