С.С. Валландер - Лекции по статистике и эконометрике (1160549), страница 30
Текст из файла (страница 30)
Собственно говоря,в нормальных уравнениях метода наименьших квадратов присутствуетне сама матрица X с растущим числом строк, а произведениеX 0 X — матрица фиксированного размера k × k. Меняютсяее элементы, представляющие собой суммы растущего числа Nслагаемых. Простейшее разумное предписание поведения этих сумм— асимптотический линейный рост по N . Это приблизительносоответствует некоторой стационарности в поведении экзогенныхвеличин X1 , · · · , Xk .
Мы выразим эту асимптотическую линейностьстандартным образом — предположим, что существует предел1 0X X = Q.N →∞ Nlim(7.1)Во избежание возникновения проблемы мультиколлинеарности (см.параграф 2) матрицу Q мы будем считать невырожденной. Длявыяснения условий состоятельности обратимся теперь к уравнению (6.9):β̂ = β + (X 0 X)−1 X 0 ε.Легко сообразить, что при сделанных предположениях (Q невырождена)состоятельность оценки β̂ вытекает из соотношения1 0Xε→0N(7.2)(по вероятности при N → ∞). Пока мы предполагаем неслучайностьрегрессоров и некоррелированность ошибок, (7.2) выполняетсяавтоматически. Действительно, векторная случайная величина N1 X 0 εимеет нулевое математическое ожидание, а дисперсии ее компонентАнализ регрессионных предположений18110N (X ε)jстремятся к нулю:Ã!NNX11 X 2 21VXij εi = 2Xij σ = [qjj + o(1)]σ 2 →N →∞ 0N i=1N i=1N(здесь qij — соответствующий элемент матрицы Q).
Соотношение (7.2)из этих свойств вытекает в силу неравенства Чебышёва:¡1 0 ¢¯µ¯¶¯1¯VN (X ε)jP ¯¯ (X 0 ε)j ¯¯ ≥ ε ≤→0Nε2(см. аналогичное рассуждение в параграфе 2.1 при выводе достаточныхусловий состоятельности).Более общие, чем (7.1), предположения, обеспечивающиесостоятельность оценок наименьших квадратов, так называемыеусловия Гренандера, можно найти в [19], гл.9.Упражнение.
Доказать, что при k = 2, X1 ≡ 1, Xi2 = i ("время")оценки МНК состоятельны.Перейдем теперь к стохастическим регрессорам. Простейший поформулировке вариант условий, гарантирующих состоятельность оценокМНК, — те же соотношения (7.1) и (7.2). Следует только уточнить,что в (7.1) предел понимается теперь по вероятности, а предельнаяматрица Q, помимо невырожденности, как правило, предполагается ещеи неслучайной. Проверка (7.1) и (7.2) практически всегда опирается наподходящий вариант закона больших чисел для зависимых величин.В приложении C приводится утверждение такого типа, достаточноедля многих применений. Проиллюстрируем его использование однимпримером.
Соотношение (7.1) в развернутом виде означает, чтоN1 XXij1 Xij2 → qj1 j2N i=1(1 ≤ j1 , j2 ≤ k). Эти соотношения похожи на законы больших чисел дляпоследовательностей {Xij1 Xij2 }∞i=1 . Легко предложить условия, когда этизаконы больших чисел будут справедливы. Вот один из вариантов такихусловий:1. существуют пределы qj1 j2 = limi→∞ E(Xij1 Xij2 );2. четвертые моменты E(Xij4 ) ограничены в совокупности:E(Xij4 ) ≤ c < ∞;182Глава 73. коэффициенты корреляцииρ(Xmj1 Xmj2 , Xnj1 Xnj2 )стремятся к нулю при |m − n| → ∞.Условие 1 позволяет перейти к центрированным величинам, а условия2 и 3 обеспечивают применимость теоремы из приложения C.
Деталипроверки мы оставляем читателям.Включение в модель регрессора "время": Xi2 = i, имеющего"нестационарный"характер, требует небольших дополнительных усилий.Мы на этом не останавливаемся.Сделаем еще одно общее замечание о регрессорах X1 , · · · , Xk .Исследователь находится перед выбором: либо они трактуютсяэкзогенно, и тогда о них можно делать лишь предположения общего,формального характера (типа моментных условий 1 – 3, указанныхвыше), либо для них, в свою очередь, предполагаются какие-то болееконкретные модели. Вторая возможность может привести к расширениюисходной (основной) модели, она уже будет включать не одно, анесколько уравнений.
Системы структурных регрессионных уравненийбудут рассматриваться в главе 8. В качестве промежуточного вариантаможно предложить следующее. Для регрессоров предполагаетсяформальная (не структурная) модель, например, авторегрессионная.Такую модель можно тестировать (см. ниже параграф 5). Ноиспользуется эта модель лишь для мотивировки каких-либо общихсвойств поведения регрессионной матрицы, например, для (частичного)обоснования условия 3, сформулированного выше.Перейдем теперь к обсуждению соотношения (7.2).
Длястохастических регрессоров оно приобретает самостоятельное значение.Фактически (7.2) утверждает, что регрессоры и ошибки асимптотическине коррелируют. Отсутствие этого свойства иногда означает, что модельнеправильно специфицирована. В главе 8 мы увидим, что для отдельногоуравнения, вырванного из структурной системы, такая корреляцияобъясняется связями, выраженными другими уравнениями системы.В любом случае отсутствие соотношения (7.2) почти предопределяетнесостоятельность оценок наименьших квадратов и вынуждает искатьдругие методы оценивания коэффициентов. Мы еще будем возвращатьсяк обсуждению этих вопросов в различных контекстах.Асимптотическая нормальность оценок параметров (см.
главы 2 и3) позволяет строить для этих параметров и доверительные интервалыАнализ регрессионных предположений183(также асимптотические). Эта методика применима и к оценкамметода наименьших квадратов. Вместо закона больших чисел при этомиспользуется подходящий вариант центральной предельной теоремы.Для неслучайных регрессоров и независимых наблюдений достаточнопредположить существование и невырожденность предельной√ матрицыQ в (7.1). Тогда распределение нормированного отклонения N (β̂ − β)слабо сходится к нормальному распределению N(0, σ 2 Q−1 ). Иначе этоутверждение можно записать так: распределение величины √1N X 0 ε слабосходится к N(0, σ 2 Q).Равносильность этих формулировок вытекает из (7.1) и формулыпересчета ковариационной матрицы при умножении вектора на(матричный) множитель:cov(Q−1 X 0 ε) = Q−1 cov(X 0 ε)Q−1 .Для доказательства второго варианта утверждения об асимптотическойнормальности достаточно всего лишь сослаться на многомернуюцентральную предельную теорему для неодинаково распределенныхслагаемых — теорему Линдеберга.
Теоремы Леви, сформулированнойв параграфе 1.4, здесь не хватает (она относится к iid величинам).Некоторые подробности, а также обобщения, относящиеся кстохастическим регрессорам, можно найти в книге [19], гл.9. Следуеттолько иметь в виду, что ее автор не является специалистомпо предельным теоремам, поэтому допускает иногда неточностиисторического характера.Так, он приписывает усиленный закон больших чисел длянезависимых неодинаково распределенных величин без дисперсииА.А.Маркову (1856 – 1922), скончавшемуся за несколько лет до того,как А.Н.Колмогоров в 1929 г. получил общую формулировку этогозакона для неодинаково распределенных величин, да и то с конечнымидисперсиями.Достаточное условие сходимости к нормальному закону впредположении предельной пренебрегаемости отдельных слагаемых— так называемое условие Линдеберга (а не Линдберга, как егоупорно называет Грин) было получено в 1922 г., задолго доработы В.Феллера, доказавшего (1935) его необходимость.
Поэтомуименовать указанное достаточное условие "теоремой ЛиндебергаФеллера"попросту некорректно.1847.4Глава 7Совместноераспределениеошибокобобщенный метод наименьших квадратовиКлючевые свойства вектора ошибок ε, предполагавшиеся выполненнымив главе 6, формулируются на языке моментов второго порядка —дисперсий (они считаются одинаковыми) и ковариаций (они нулевые)2.
Коротко мы записывали это в виде cov(ε) = σ 2 1. Для многихэконометрических моделей такая структура ковариационной матрицыоказывается неудовлетворительной. Поэтому мы будем рассматриватьдалее различные альтернативные специальные формы этой матрицы.Такие формы должны быть достаточно конкретными, ибо в общемслучае матрица ковариаций включает N (N + 1)/2 параметров —слишком много, чтобы их можно было содержательно оценить по Nнаблюдениям.В двух наиболее распространенных случаях — временных рядови пространственных данных — естественные предположения о формематрицы cov(ε) оказываются различными.Временной ряд, как правило, описывает эволюцию некоторойхарактеристики фиксированного объекта (фирмы, ценной бумаги ит.п.).
В этом случае на первый план выступают связи, преждевсего, корреляционные, между последовательными значениями этойхарактеристики. Часто можно считать, что она (характеристика), авместе с ней и ошибки в нашей модели, ведет себя стационарнымобразом. На языке моментов второго порядка эта стационарность (втеории случайных процессов используются термины "стационарностьв широком (=слабом) смысле"или "стационарность второго порядка")означает инвариантность их (моментов) при сдвиге шкалы времени:cov(εt1 , εt2 ) = cov(εt1 +h , εt2 +h )(7.3)(целое число h интерпретируется как сдвиг времени).Для последовательности {εt }, стационарной в широком смысле,ковариации представляются в видеcov(εt1 , εt2 ) = σ 2 ρ|t1 −t2 | ,где σ 2 = V(εt ) (в силу (7.3) дисперсия не зависит от t), аρ|t1 −t2 | = ρ(εt1 , εt2 )2Центрированность ошибок уже комментировалась в параграфе 6.2.
Отказываться от этогопредположения мы не собираемся.Анализ регрессионных предположений185— коэффициент корреляции между εt1 и εt2 (в силу (7.3) ондействительно зависит только от расстояния |t1 − t2 | между двумямоментами времени).В параграфе 7.5 мы будем обсуждать автокорреляционные моделиошибок, для которых коэффициенты корреляции ρk описываются припомощи фиксированного числа параметров.Пространственныеданные,напротив,обычноописываютхарактеристики различных объектов (фирм, ценных бумаг и т.п.)в один и тот же момент времени.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
