Болч К._ Хуань К.Дж. - Многомерные статистические методы для экономики (1185342), страница 18
Текст из файла (страница 18)
Выборочная функция регрессии может казаться удовлетворительной для одних и неудовлетворительной для других. Кроме того, конкретный характер этой связи трудно установить путем графического анализа рассеяния. Поэтому, чтобы сделать задачу конкретной, необходимо принять некоторые упрощающие допущения. 4.2. МОДЕЛЬ ЛИНЕЙНОЙ РЕГРЕССИИ Предположим, что выражение (4,1) линейно. Другими словами, пусть оно имеет вид р» — — ~,+~,Х», »=1,2, ...,и, (4.2) где ро и р1 — неизвестные постоянные величины. Этот частный случай выражения (4.1) является одним нз наиболее простых функциональных соотноп»ений в математике, Этоуопущение пе изменяет об1О4 (4.6) »цего характера проблемы регрессии, мы всего лишь допускаем, что значения»»,» лежат вдоль прямой линии, как это показано на рис.
4.2. Ь,ак ужс говорилось, середине любого заданного интервала доходов Х; соответствует некоторое распределение личного потребления У»;. В гл. 2 показано, что если выборки взяты случайным образом, то Е (У»,») = р» (4.3) для» = 1, 2, ..., а. Допустим„что Ф для любого заданного Х» распределе- ф $.ФФ' Ф юФ~' ние У»» имеет постоянную дисперсию $ х ~аг(~»») = о~ = о . (4,4) х "~ Ф ° Тогда для любого Х; ой айаг (У») = —. (4.5) Х Это предположение о постоянстве ~вс 4 ~ Л""~'"'"~" Р~'Р~сс"" дисперсии каждого распределения У;» для всех Х» известно как условие гомоскедасишчности. Ранее мы уже пользовались этим условием.
Например„в разделе 2.5, рассматривая оценивание по методу наибольшего правдоподобия, мы предположили, что имеется несколько генеральных совокупностей с равными дисперсиями. Также в разделе 3.3 при проверке гипотезы о равенстве двух средних мы допустили существование двух совокупностей с равными дисперсиями. Так как У» есть несмещенная оценка р.», то аиибка е»= 㻠— Р» есть случайная величина с математическим ожиданием еИ=е0'д — еЬ;) =р — ь =О (4.7) Более того, дисперсия ошибки в» равна: айаг(е») = айаг(Г») = —. (4.8) Это следует из формулы (4.5) и из того факта, что »»» есть постоянная величина при любом заданном значении» и, следовательно„имеет нулевую дисперсию. Иногда мы рассматриваем в» как возмущение уравнения регрессии. При этом согласно (4.2) и (4.6) можно записать.' г» = ~, + р1Х»+ е».
(4.9) Отметим также, что поскольку е» и У» различаются только на постоянную р» то их распределения будут идентичными, за исключением их средних значений. Кроме того, мы предполагаем, что все Х» не являются стохастическими величинами и, следовательно„е» и Х; статистически независимы (имеют нулевую ковариацию) для всех»: сов(е», Х») =.Е(е»Х») = О.
В экономике в болыпипстве практических случаев сбор даяние или весьма затрудни~елен, или связан с большими затратами, поэтому чаще всего каждому значению независимой переменной соответствует только одно наблюдение зависимой переменной. Например, в нашем случае т = 1 и У'~, или просто У~ — это единственное наблюдение, соответствующее Х~.
Тем не менее если мы предполагаем, что это значение У~ извлекается случайным образом из генеральной совокупности У'ц, то У~ также будет несмещенной оценкой р~. Это утверждение справедливо, поскольку мы можем рассматривать единственное значение Г; как У~ с т = 1. В этом случае уравнение (4,9) принимает вид: ~ г 1а + 1тХ~ + вь (4.9а) и при сделанных'йами предположениях для всех ~ остаются в силе условия со ч (У„У~ ) = 0 при й~ Г; =да ПРИ 1.= ~'. (4.12) ~ Запись взаимной независимости величии У'у в Форме (4.12) справедлива только при условии ик нормальности. То же замечание относится и к е;1см, (4.14)1.
— Примеч. ред. 1о6 ЕЖ) = В = 1а+ Й1Х~', Е(а~) = О; айаг (у~) = ~аг (в~) = оа. Следующее часто принимаемое допущение состоит в том„что все У;, ~ = 1, 2, ..., л,, являются независимо распределенными„ откуда соч(У», У',) = Е(е~в~) = 0 при с ~~ ~'. Иначе говоря, это допущение означает, что если, например, ~ = 1 и У, выбрано из генеральной совокупности, соответствующей 1 = 1, то тот факт, что взято именно это наблюдение, не влияет на значение У';, выбираемое из генеральной совокупности, соответствующей, напри- мер, значению ю' = 2. Модель линейной регрессии, заданную (4.9а), можно обобщить на случай К независимых переменных: 1' = Ра + Р1Ха~ + баХаю + " + РкХкю + ес- (4.10) Если Д' = 1, то мы получаем уравнение (4.9а), и уравнение регрес- сии есть прямая на плоскости.
Если К„: 1, то функция регрессии представляет собой гиперплоскость в (К+ 1)-мерном пространстве. Обобщая наши основные предположения на случай К независимых переменных, имеем: Е (~ г) = Ь = Ра + Р Хм + .- + ФкХж, (4.11) что определяет среднее генеральной совокупности каждого У'~.
Кроме того, предполагается, что дисперсия У~ постоянна для всех 1 и что все Г~ распределены независимо. Последние два предположения можно выразить компактно*: (4.13) ее дисперсия постоянна для всех «и она независимо распределена при «4= «': (4.14) Е(е»в») =О при «=~»'=«', =о' при « =«'. Наконец, распределение е» не зависит от Х»,».. Е(Х»„» а»).= О при всех « = 1,2, „., п и 1=1, 2,...,К. 4;3. МЕТОДЫ РЦЕНИВАНИЯ С другой стороны, мы можем предположить, что ошибка в» имеет среднее значение В этом разделе мы обсудим два метода оценивания параметров регрессии р», в уравнении (4.10), а также общей дисперсии о»'.
Как и в гл. 2„мы рассмотрим метод наименьших квадратов и метод наибольшего правдоподобия. Оценивание по методу наименьших квадратов. В гл. 2 метод наименьших квадратов применялся для оценивания единственного постоянного среднего значения генеральной совокупности р, Для простоты применим эту оценку к регрессии в случае,' когда имеется только одна независимая переменная Х».
Затем в этом же разделе мы обобщим этот метод для К независимых переменных. При заданном значении Х» среднее генеральной совокупности К» зависит от параметров ~3, и р, ~см. (4.2)1. Таким образом, нам нужно оценить эти два параметра, чтобы иметь возможность оценить р,;. Эта оценка, очевидно, будет равна: р» =1о+й1 Х».
(4.15) где знак показывает, что это оценка. величины. Метод наименьших квадратов дает такие оценки фо и р„что сумма квадратов ошибок (или оа««»«иков) е», где е; = У» — р,», минимальна. Другими словами, мы стремимся минимизировать ~ е~ =,'Е 0'» — 1»)'. » — 1»зв! (4.16) На рис. 4.3 проведена вертикальная линия при некотором определенном значении Ж», а также показано определенное значение зависимой переменной У'». Сплошная линия представляет собой регрессию генеральной совокупности, а пунктирная линия — линию выбо- % рочной регрессии, Расстояние по вертикали между У» и р; дает значение ошибки е», так как для получения оценки р,» используется линия выборочной регрессии. Таким образом, часто пишут ~'»=р»=0о+й Х» Далее вспомним, чтсР Хдй Х (~ ~~) 2 ХУЙ (ХХ)~ (4.20) и что~ ХхУ= Х(Х вЂ” Х)(К вЂ” Ц= ХХУ ХХХ1 ~„, Тогда их непосредственная подстановка в (4.19) дает (4.21) (4.23) — ~ =374086,4; 1о (2О 576) (18 856) З18 807 4 10 Хх~= ХХ~ — = 42711 2б4 и Х.у = ХЫ вЂ” (~х"-'У~ = З91169И и з ~ (Х вЂ” Х)~=УХ~ — 2ХХХ+ и (Х)~ ЕХ~ — (ХХ)~/»».
Х(Х вЂ” Х) 9' — У) = УХУ вЂ” ГХХ вЂ” ХХ$'+пХ У = ХХУ' — ХХХХХ'~у». где Г = ХУ»а и Х = Хя',/и — безусловные выборочные средние. Из (4.22) видно, что р1 имеет тот же знак„что и Ххд, т, е. выборочная кавариация между Х и У. Кроме того, еще раз отметим, что если в уравнении (4 23) рл, равно нулю, то й, = 7. По определению величины Хх и Хху можно вычислить непосредственно, пользуясь первой формой (4.20) и (4.21), или косвенно, пользуясь второй формой этих уравнений. Косвенный метод удобнее при применении настольной вычислительной машины, но для вычисления на цифровой вычислительной машине прямой метод оказывается более точным. В табл.
4.2 приведены 10 наблюденных значений душевого потребления и душевого дохода. Так как эти наблюдения сделаны на протяжении ряда лет, полученные последовательности называются временй»»ми рядами. Таким образом, характер этих данных отличается от гипотетических (статических) данных из табл.
4.1. Основная трудность при работе с экономическими временными рядами заключается в том, что наблюдения У» обычно не являются независимыми, т. е. если мы наблюдаем значение У», превышающее К, то весьма вероятно, что следующее наблюдение»' » также превышает Г В таком случае говорят, чта значения У'» автокоррелироваяы (коррелированы сами с собой).
Нам придется остановиться подробнее на тех трудностях, которые создают для регрессии временные данные, но сейчас воспользуемся этими наблюдениями для пояснения вычислений. Пользуясь данными, представленными в табл. 4.2, находим, цо-вторых, если ~, = 0 (т, е, линия выборочной регрессии горизойтальна), то для всех значений Х» У,. =~3, = У. Следовательно, в частном случае„когда выборочный угловой коэффициент равен нулю, линия выборочной регрессии представляет собой безусловное выборочное среднее К.
А это именно та оценка среднего генеральной совокупности, которую нам дал метод наименьших 2И0 ° ф квадратов в .. 2. В ц жно ЖН Ф сказать, что, пользуясь регрессией, ~Ф' Ф мы пытаемся использовать инфоргаю е~"' УрУ7,3»6,6Я2Ц 4% мацию, заключенную в одной или - О Р ФЮЮ нескольких независимых переменных, дл я того, чтобы оценить $ условные средние зависимой пере- В щп г~ менной. Если нн одна из независимых.переменных не является для нас В этом отношении полезной, то угловые коэффициенты, соответствующие этим независимым переменным, будут равны нулю и ли- Рнс.
4.4. Диаграмиа рассеиния дакния выборочной регрессии будет кых.из табл. 4,2„.У»= 132,1+0,8522Х» совпадать со значением безусловного выборочного среднего зависимой переменной. Запишем теперь модель линейной регрессии с одной независимой переменной в более общем виде с помощио матричной алгебры. Определим следующие матрицы: 7' = Р'~ Уа ... К„~; Для данных табл. 4.2 эти две матрицы равны: 7'= ~1666 1735 ... 2162); 1 1831 1 1881 Х= 1 2401 Ясно, что 1 1 .
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
