Лекция 8. Тема: Модель множественной регрессии

2. Оценка параметров классической регрессионной модели методом

наименьших квадратов.

3. Проверка адекватности модели.

Вопрос 2. Оценка параметров классической регрессионной модели

методом наименьших квадратов.

Многофакторный корреляционный и регрессионный анализ может быть использован в экономико-статистических исследованиях:

•  для приближенной оценки фактического и заданного уровней;

•   в качестве укрупненного норматива (для этого доста­точно в уравнение регрессии подставить вместо фак­тических значений факторов их средние значения);

Рекомендуемые материалы

•   для выявления резервов производства;

•   для проведения межзаводского сравнительного анали­за и выявления на его основе скрытых возможностей предприятий;

•   для краткосрочного прогнозирования развития произ­водства и др.

Вопрос 3. Проверка адекватности модели.

Проверка адекватности модели включает себя ряд этапов

1. Расчет парных коэффициентов корреляции.

Для измерения тесноты связи между двумя из рассматривае­мых переменных (без учета их взаимодействия с другими пере­менными) применяются парные коэффициенты корреляции. Методика расчета таких коэффициентов и их интерпретация аналогичны методике расчета линейного коэффициента корре­ляции в случае однофакторной связи. Если известны средние квадратические отклонения анализируемых величин, то парные коэффициенты корреляции можно рассчитать проще по следую­щим формулам:

Они находятся по следующим формулам:

                                                        (1)

                                                        (2)

                                                            (3)

где – средние квадратичные отклонения, определяемые следующим образом:

                                                                            (4)

                                                                               (5)

                                                                            (6)

2. Расчет частных коэффициентов корреляции

Однако в реальных условиях все переменные, как прави­ло, взаимосвязаны. Теснота этой связи определяется частными коэффициентами корреляции, которые характеризуют степень и влияние одного из аргументов на функцию при ус­ловии, что остальные независимые переменные закреплены на постоянном уровне. В зависимости от количества пере­менных, влияние которых исключается, частные коэффици­енты корреляции могут быть различного порядка: при исклю­чении влияния одной переменной получаем частный коэф­фициент корреляции первого порядка; при исключении влия­ния двух переменных – второго порядка и т.д. Парный коэф­фициент корреляции между функцией и аргументом обычно не равен соответствующему частному коэффициенту.

Частный коэффициент корреляции первого порядка между при­знаками х₁ и у при исключении влияния признака х₂ вычисляют по формуле:

                                   (7)

                                   (8)

                                    (9)

где r – соответствующие парные коэффициенты корреляции.

         3. Расчет совокупного коэффициента множественной корреляции.

Показателем тесноты связи, устанавливаемой между результа­тивными и двумя или более факторными признаками, является со­вокупный коэффициент множественной корреляции R_yx1x2. В случае  линейной двухфакторной  связи   совокупный коэффициент множественной корреляции может быть рассчитан по формуле:

                (10)

где r_ух1, r_ух2, r_х1х2 – линейные (парные) коэффициенты корреляции, применяемые для измерения тесноты между рассматриваемыми факторами.

Совокупный коэффициент множественной корреляции из­меряет одновременное влияние факторных признаков на результативный. Его значения находятся в пределах - 1 до +1. Чем меньше наблюдаемые значения изучаемого показателя отклоня­ются от линии множественной регрессии, тем корреляционная связь является более интенсивной, а, следовательно, значение R ближе к единице.

Совокупным  коэффициентом множественной  детерминации называется величина R², которая показывает, какая доля вариа­ции изучаемого показателя объясняется влиянием факторов, включенных в уравнение множественной регрессии. Значение совокупного коэффициента множественной детерминации на­ходится в пределах от 0 до 1. Поэтому, чем ближе R² к единице, тем вариация изучаемого показателя в большей мере характери­зуется влиянием отобранных факторов.

4. Выполнение многошагового регрессионного анализа.

Однако показатели множественной регрессии и корреляции могут оказаться подверженными действию случайных факторов. Поэтому только после проверки адекватности уравнения оно может быть пригодно, например, для выявления резервов по­вышения производительности труда.

         Общая оценка адекватности уравнения может быть получе­на с помощью дисперсионного F-критерия Фишера. Примене­ние же в этих целях множественного коэффициента корреля­ции недопустимо ввиду того, что многофакторный регрессион­ный анализ оперирует случайными наблюдениями, но не обя­зательно распределенными по многомерному нормальному за­кону (этому закону должны подчиняться отклонения фактиче­ских значений функции от расчетных). Совокупный коэффи­циент множественной детерминации определяет только качест­во выравнивания по уравнению регрессии.

Проверку значимости уравнения регрессии производят на ос­нове вычисления F-критерия Фишера:

                                   (11)

где m – число параметров в уравнении регрессии; п – объем выборки; σ_ост. – среднее квадратическое отклонение результативного признака у от выровненных значений ŷ.

                                                                             (12)

Полученное значение критерия F_расч. сравнивают с критическим (табличным) для принятого уровня значимости 0,05 или 0,01 и чисел степеней свободы v₁ = m-1, v₂ = n-m. Если оно окажется больше соответствующего табличного значения, то данное уравнение регрессии статистически значимо, то есть доля вариации, обусловленная регрессией, намного превышает случайную ошибку.

Считается, что уравнение регрессии пригодно для практического использования, если F_расч. > F_табл. не менее, чем в четыре раза.

Для оценки значимости коэффициентов регрессии (а₁…_i) при линейной зависимости у от двух факторов (х₁ и х₂) используют t-критерий Стьюдента при n-m-1 степенях свободы:

                                               (13)

                                                 (14)

         Проверку адекватности уравнения регрессии можно также провести на основе расчета существенности совокупного коэффициента корреляции, сравнив его затем с критической величиной, взятой из таблицы Стьюдента. При этом используется следующая формула:

                                                                     (15)

         Значение  берется по модулю. Если табличное значение t-критерия при 5%-ом уровне значимости меньше полученного в ходе эксперимента, то построенную модель признают пригодной для практического применения.

В свою очередь, если результаты проверки адекватности привели к отрицательным результатам, то в этом случае в исследовании, скорее всего, были либо неверно определены факторы, оказывающие влияние на исследуемый процесс, либо неправильно выбрана сама модель исследования.

А если результаты проверки адекватности привели к положительным результатам, то далее следует проверить эффективность ее применения на малой выборке, и, в случае получения положительных результатов, распространить на всю генеральную совокупность.

Значения оцениваемых a₁,a₂, R_yx1x2 берутся по модулю.

Если в уравнении все коэффициенты регрессии значимы, то данное уравнение признают окончательным и применяют в каче­стве модели изучаемого показателя для последующего анализа.

Оценку значимости коэффициентов регрессии с помощью t-критерия используют для завершения отбора существенных факторов в процессе многошагового регрессионного анализа. Он заключается в том, что после оценки значимости всех коэф­фициентов регрессии из модели исключают тот фактор, коэф­фициент при котором незначим и имеет наименьшее значение критерия. Затем уравнение регрессии строится без исключен­ного фактора, и снова проводится оценка адекватности уравне­ния и значимости коэффициентов регрессии. Такой процесс длится до тех пор, пока все коэффициенты регрессии не ока­жутся значимыми, что свидетельствует о наличии в регрессион­ной модели только существенных факторов. В некоторых случа­ях расчетное значение t_расч находится вблизи t_табл., поэтому с точки зрения содержательности модели такой фактор можно ос­тавить для последующей проверки его значимости в сочетании с другим набором факторов.

Последовательный отсев несущественных факторов рас­смотренным выше приемом (или последовательным включе­нием новых факторов) составляет основу многошагового рег­рессионного анализа.

5. Экономическая интерпретация

многофакторной регрессионной модели

Чтобы иметь возможность судить о сравнительной силе влияния отдельных факторов и о тех резервах, которые в них заложены, должны быть вычислены частные коэффициенты эла­стичности Э_i, а также бета-коэффициенты – β_i и дельта коэффи­циенты – Δ_i.

В общем виде коэффициент эластичности определяется следующим образом:

                                                                      (16)

где а_i – коэффициент регрессии при i-ом факторе; – среднее значение i-го фактора; – среднее значение изучаемого показателя.

Частные коэффициенты эластичности показывают, на сколь­ко процентов в среднем изменяется анализируемый показатель с изменением на 1% каждого фактора при фиксированном поло­жении других факторов.

Для определения факторов, в развитии которых заложены наиболее крупные резервы улучшения изучаемого показателя, необ­ходимо учесть различия в степени варьирования вошедших в урав­нение факторов. Это можно сделать с помощью β-коэффициентов, которые вычисляют по формуле:

                                                                                          (17)

где σ_xi — среднее квадратическое отклонение i-го фактора; σ_y - среднее квадратическое отклонение показателя.

β-коэффициент показывает, на какую часть среднего квадратического отклонения изменяется результативный признак с изменением соответствующего факторного признака на величи­ну его среднего квадратического отклонения.

Исходя из соотношения  и принимая во внимание то, что коэффициент множественной детерминации R² есть доля изучаемых факторов в наличном приращении результатив­ного показателя в анализируемой совокупности, можно сделать вывод, что произведение  (1≤i≤n) является показателем силы влияния соответствующего фактора на данный показатель.

Обратите внимание на лекцию "24 Решение матричных игр в смешанных стратегиях с помощью Excel".

Поделив произведение _; на коэффициент множест­венной детерминации R², получим коэффициент, который показывает какова доля вклада анализируемого фактора в суммарное влияние всех отобранных факторов. Обозначив этот коэффициент Δ_i, получим

Δ_i                                         (18)

На основании частных коэффициентов эла­стичности Э_i β_i  и Δ_i - коэффициентов можно судить о резер­вах роста производительности и эффективности исследуемого процесса, которые заложены в том или ином факторе.

Увеличение числа существенных факторов, включаемых в модель исследуемого показателя, позволяет выявить дополни­тельные резервы производства.

Для этого могут быть использо­ваны трех-, четырех- (и т.д.), п-факторные регрессии.