Хохлов Ю.С. - ПМСА для эконома (1185346), страница 15
Текст из файла (страница 15)
Таким образом, окончательнополучаемη̂ = M η + ρ(ξ, η) ·123ση· (ξ − M ξ) .σξДополнение B.Многомерное нормальноераспределениеНормальное распределение играет важную роль в теориивероятностей и математической статистике. В этом приложении мы дадим определение и перечислим основныесвойства многомерного нормального распределения.Определение 1 .
Случайный вектор ξ = (ξ1 , . . . , ξn )T имеет многомерное нормальное распределение, если онобладает плотностью распределения следующего вида:n1ρξ (x1 , . . . , xn ) = (2π)− 2 det(A) exp{− (A(x − m), x − m)} =2nXn1(2π)− 2 det(A) exp{−aij (xi − mi )(xj − mj )} ,2 i,j=1где m = (m1 , . . . , mn )T ∈ Rn , A = (aij ) – симметричнаяположительно определенная n × n-матрица.В дальнейшем для случайного вектора ξ, который имеет многомерное нормальное распределение с параметрами(m, A), мы будем использовать обозначение ξ ∼ N (m, Σ),где Σ = A−1 .124Многие свойства многомерного нормального распределения легче получить, используя его характеристическуюфункцию.
Напомним, что характеристической функциейслучайного вектора ξ = (ξ1 , . . . , ξn )T называется комплекснозначная функция ϕξ (t), заданная в Rn по правилуhiϕξ (t) = M ei·(ξ,t) ,t = (t1 , . . . , tn )T ∈ Rn . Можно показать, что для случайного вектора ξ ∼ N (m, Σ) его характеристическая функцияимеет вид1ϕξ (t) = exp{i · (m, t) − (Σt, t)}2nnX1 X= exp{i ·mj · tj −σpq · tp · tq } .2 p,q=1j=1Выясним смысл параметров многомерного нормального распределения. Для этого вычислим математическиеожидания и ковариации компонент вектора ξ.
Хорошо известно, что начальные моменты случайного вектора можно вычислить, используя характеристическую функцию.В частности,∂ϕξ (t) |t=0 = i · M (ξj ) ,∂tj∂2ϕξ (t) |t=0 = −M (ξp · ξq ) .∂tp ∂tqОтсюда для многомерного нормального распределения спараметрами (m, Σ) прямым вычислением легко получаемM (ξj ) = mj , Cov(ξp , ξq ) = σpq .Таким образом, m есть вектор средних, а Σ – матрицаковариаций.125Будем называть многомерное нормальное распределение в Rn стандартным, если оно имеет нулевые средние иединичную матрицу ковариаций Σ = In , т.е. компонентывектора ξ некоррелированы (на самом деле, независимы)и имеют дисперсии равные единице.Многомерное распределение в Rn будем называть невырожденным, если его матрица ковариаций Σ является невырожденной.
В противном случае распределение называется вырожденным. Данное выше определение многомерного нормального распределения относилось именно к невырожденному случаю. Если распределение вырождено, тосуществуют такие линейное подпространство L в Rn и неслучайный вектор a ∈ Rn , что распределение вектора ξ сосредоточено на множестве L + a, т.е. случайный вектор ξс вероятностью 1 принадлежит этому множеству. Размерность пространства L совпадает с рангом матрицы Σ.
Вэтом случае определение 1 справедливо только в координатах соответствующего подпространтсва. А вот формула(2) для характеристической функции справедлива и в вырожденном случае.Рассмотрим несколько основных свойств многомерногонормального распределения, которые систематически будут использоваться в нашем курсе.Теорема 1 (B1). Если C : Rn → Rk –линейное отображение Rn на Rk , ξ ∼ N (m, Σ), то Cξ ∼ N (Cm, CΣC T ).Доказательство. Вычислим характеристическую функцию случайного вектора Cξ.ϕCξ (t) = M (exp{i(Cξ, t)}) = M (exp{i(ξ, C T t)}) =1= exp{i(m, C T t) − (ΣC T t, C T t)} =21= exp{i(Cm, t) − ((CΣC T )t, t)} .2126Последнее выражение есть характеристическая функциямногомерного нормального распределения со средним Cmи ковариационной матрицей CΣC T . Теорема 1 доказана.Следствие 1 . Пусть случайный вектор ξ имеет стандартное нормальное распределение в Rn , а C есть ортогональная проекция Rn на Rk , k < n.
Тогда случайныйвектор η = Cξ имеет стандартное нормальное распределение в Rk .Доказательство. В силу теоремы 1 случайный векторη имеет многомерное нормальное распределение в Rk сосредним C · 0 = 0 и матрицей ковариаций Ση = C · In · C T =C · C T = Ik , т.е. имеет стандартное нормальное распределение.Разобьем случайный вектор ξ на два подвектора размерности n1 и n2 : n1 + n2 = n, т.е.
ξ = (ξ 0 , ξ 00 ). Это порождает разложения вектора средних m = (m0 , m00 ) и матрицыковариацийÃ!Σ11 Σ12Σ =.Σ21 Σ22Теорема 2 ((B2) . Если ξ = (ξ1 , . . . , ξn )T ∼ N (m, Σ), то1) ξ 0 ∼ N (m0 , Σ11 ) ,2) ξ 0 и ξ 00 –независимы тогда и только тогда, когдаΣ12 = ΣT21 = 0.Доказательство. Пусть t = (t1 , . . . , tn1 , 0, . . . , 0)T =((t0 )T , 0, .
. . , 0)T . Тогда1ϕξ0 (t0 ) = ϕξ (t) = exp{i(m, t) − (Σt, t)} =21= exp{i(m0 , t0 ) − (Σ11 t0 , t0 )} .2127Последнее выражение есть характеристическая функциямногомерного нормального распределения со средним m0и матрицей ковариаций Σ11 .Пусть теперь t = (t1 , . .
. , tn1 , tn1 +1 , . . . , tn )T = ((t0 )T , (t00 )T )T .Векторы ξ 0 и ξ 00 независимы тогда и только тогда, когдадля всех t ∈ Rnϕξ (t) = ϕξ0 (t0 ) · ϕξ00 (t00 ) .Используя первое утверждение теоремы последнее соотношение можно записать в виде:1exp{i(m, t) − (Σt, t)} =211exp{i(m0 , t0 ) − (Σ11 t0 , t0 )} · exp{i(m00 , t00 ) − (Σ22 t00 , t00 )} .22nА это равенство имеет место для всех t ∈ R тогда и толькотогда, когда Σ12 = ΣT21 = 0.Теорема 3 (B3). Если ξ = (ξ1 , . . . , ξn )T ∼ N (m, Σ), тоусловное распределение ξ 00 при условии ξ 0 = x0 является многомерным нормальным распределением с векторомсредних00m00 + Σ21 Σ−111 (x − m )и матрицей ковариацийΣ22.1 = Σ22 − Σ21 Σ−111 Σ12 .Доказательство. Будем рассматривать ξ 0 и ξ 00 как векторы в Rn , дополнив недостающие координаты нулями.Положим η = ((η 0 )T , (η 00 )T )T , гдеη0 = ξ 0 ,0η 00 = ξ 00 − Σ21 · Σ−111 · ξ .128Случайный вектор η получен из случайного вектора ξ невырожденным линейным преобразованием с матрицейÃC=!In10−Σ21 · Σ−1In211.В силу теоремы 1 он имеет многомерное нормальное рас0 T Tпределение со средним ((m0 )T , (m00 − Σ21 · Σ−1и11 · m ) )матрицей ковариацийΣη = C · Σξ · C TÃ!Ã!Ã!In10Σ11 Σ12In1 −Σ21 · Σ−111=Σ21 Σ22−Σ21 · Σ−1In20In211Ã=Σ1100 Σ22 − Σ21 · Σ−111 · Σ12!.В силу теорем 1 и 2 случайные векторы η 0 и η 00 независимыи имеют матрицы ковариаций Σ11 и Σ22 − Σ21 · Σ−111 · Σ12 , соответственно.
Далее, в силу независимости условное распределение η 00 при условии η 0 = ξ 0 = x0 совпадает с безусловным и является многомерным нормальным со сред−10ним m00 −Σ21 ·Σ−111 ·m и матрицей ковариаций Σ22 −Σ21 ·Σ11 ·0Σ12 . Тогда условное распределение ξ 00 = η 00 + Σ21 · Σ−111 · ξпри условии ξ 0 = η 0 = x0 совпадает с условным распре0делением η 00 + Σ21 · Σ−111 · x при том же условии и является многомерным нормальным распределением в Rn2 со00средним m00 + Σ21 · Σ−111 · (x − m ) и матрицей ковариаций−1Σ22 − Σ21 · Σ11 · Σ12 .Теорема 3 доказана.Во многих задачах теории вероятностей и математической статистики часто используется следующий результат.Теорема 4 (B4).
Если случайный вектор ξ имеет невырожденное нормальное распределение в Rn с вектором средних m и матрицей ковариаций Σ, то случайная величина129(ξ −m)T Σ−1 (ξ −m) имеет χ2 -распределение с n степенямисвободы.Доказательство. Из линейной алгебры известно, что если Σ есть симметричная невырожденная положительноопределенная матрица, то существует такая невырожденная квадратная матрица P , что Σ = P ·P T . Определим случайный вектор η = P −1 (ξ − m). В силу теоремы 1 он имеет многомерное нормальное распределение со средним 0 иматрицей ковариаций P −1 Σ(P −1 )T = P −1 P P T (P T )−1 = In ,т.е. стандартное нормальное распределение.
Тогда случайная величинаη T · η = (P −1 (ξ − m))T (P −1 (ξ − m))= (ξ − m)T ((P −1 )T P −1 )(ξ − m)= (ξ − m)T Σ−1 (ξ − m)имеет по определению χ2 -распределение с n степенями свободы.130Литература[1] Айвазян С.А., Мхитарян В.С. Прикладная статистика и основы эконометрики. Учебник для вузов. – М.:ЮНИТИ, 1998. – 1022 с.[2] Айвазян С.А., Мхитарян В.С. Практикум по прикладной статистике и эконометрике (учебное пособие).
–М.: МЭСИ, 1998. – 158 с.[3] Доугерти К. Введение в эконометрику. – М.: ИНФРАМ, 1997. – 402 с.[4] Замков О.О. Эконометрические методы в макроэкономическом анализе: Курс лекций. – М.: ГУ ВШЭ, 2001.– 122 с.[5] Кремер Н.Ш., Путко Б.А. Эконометрика: Учебникдля вузов. – М.: ЮНИТИ-ДАНА, 2002. – 311 с.[6] Магнус Я.Р., Катышев П.К., Пересецкий А.А. Эконометрика.
Начальный курс. – М.: Дело, 2000. – 400 с.[7] Орлов А.И. Эконометрика. Учебник. – М.: Экзамен,2002. – 576 с.[8] Тутубалин В.Н. Эконометрика: образование котороенам не нужно. – М.: Фазис, 2004. – 168 с.131[9] Эконометрика: Учебник/ Под ред. И.И. Елисеевой. –М.: Финансы и статистика, 2001. – 344 с.[10] Green W.H., Econometric Analysis, second edition. –Macmillan Publishing Company, 1993.[11] Durbin J., Watson G.S., Testing for Serial Correlation inLeast-Squares Regression. – Biometrica, 1951, v. 38, pp.159-177.[12] Newey W., West K., A Simple Positive Semi-Definite,Heteroscedasticity and Autocorrelation ConsistentCovariance Matrix. – Econometrica, 1987, v.
55, pp.703-708.[13] Pindyck R.S., Rubinfeld D.L., Econometric Models andEconomic Forecasts, third edition. – McGraw-Hill, 1991.[14] White H., A Heteroscedasticity-Consistent Covariance Matrix Estimator and a Direct Test forHeteroscedasticity. – Econometrica, 1980, v. 48, no.4, pp. 817-838.[15] http://www.nsu.ru/ef/tsy/ecmr/index.htp[16] Econometric Links Econometric Journal (Ресурс в Интернет)[17] Econometric Sources (U.
of Illinois) (Ресурс в Интернет)[18] Econometric Resourceson the Net (Kane) (Ресурс в Интернет)[19] http://www.statistics.com/[20] Ресурсы по статистике и эконометрике (Ресурс в Интернет)132.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
