man8full (542547), страница 2

Просмтор этого файла доступен только зарегистрированным пользователям. Но у нас супер быстрая регистрация: достаточно только электронной почты!

Текст из файла (страница 2)

Регрессионный анализ:

Имеем регрессию: product = 11.5 + 1.43 fonds,

соответствующие стандартные ошибки коэффициентов: 2.1 и 0.18; значение s по (7): s = 5.01 (Std Error of estimate - ошибка прогноза выработки по фондам с помощью этой функции). Значение коэффициента детерминации R² = RI = 0.597 достаточно велико (доля R = 0.77 всей изменчивости объясняется вариацией фондов). Уравнение регрессии показывает, что увеличение основных фондов на 1 млн руб. приводит к увеличению выработки 1 работника в среднем на ₁ = 1.43 тыс. руб.

Для удобства интерпретации параметра пользуются коэффициентом эластичности

,

который показывает среднее изменение (в долях или %) зависимой переменной y при изменении фактора х:

.

В нашем случае, Э = 0,579.

Построим регрессию выработки по фондам для более однородной совокупности - для предприятий федерального подчинения (z=1).

Диаграмма рассеяния:

Получаем результаты: Product = 12.55 + 1.44 fonds,

R² = RI = 0.897, S = 2.68.

Коэффициент детерминации увеличился с 0.597 до 0.897, значение s уменьшилось с 5.01 до 2.68; действительно, подгонка улучшилась.

2. Множественная регрессия

Обобщением линейной регрессионной модели с двумя переменными является многомерная регрессионная модель (или модель множественной регрессии). Пусть n раз измерены значения факторов x₁ , x₂ , ..., x_k и соответствующие значения переменной y; предполагается, что

y_i = _o + ₁x_i1 + ... + _k x_ik+ _i , i = 1, ..., n, (12)

(второй индекс у х относится к номеру фактора, а первый - к номеру наблюдения); предполагается также, что

M_i = 0, M =  ²,

M(_i _j) = 0, i  j, (12a)

т.е. _i - некоррелированные случайные величины . Соотношения (12) удобно записывать в матричной форме:

Y = X +  , (13)

где Y = (y₁, ..., y_k)^T - вектор-столбец значений зависимой переменной, Т - символ транспонирования,  = (₀, ₁, ..., _k)^T - вектор-столбец (размерности k) неизвестных коэффициентов регрессии,  = (₁ , ..., _n)^T - вектор случайных отклонений,

-матрица n (k + 1); в i - й строке (1, x_i1, ...,x_ik) находятся значения независимых переменных в i-м наблюдении первая переменная - константа, равная 1.

Оценка коэффициентов регрессии. Построим оценку для вектора  так, чтобы вектор оценок = Х зависимой переменной минимально (в смысле квадрата нормы разности) отличался от вектора Y заданных значений:

по .

Решением является (если ранг матрицы Х равен k +1) оценка

= (X^TX)^-1 X^TY (14)

Нетрудно проверить, что она несмещенная. Ковариационная (дисперсионная) матрица равна

D = (  ) (  )^T =  ² (X^TX)^1 =  ² Z , (15)

где обозначено Z = (X^TX)^1.

Справедлива

теорема Гаусса - Маркова. В условиях (12а) оценка (14) является наилучшей (в смысле минимума дисперсии) оценкой в классе линейных несмещенных оценок.

Оценка дисперсии  ² ошибок. Обозначим

e = Y  = Y  Х = [I  X (X^TX)^1 X^T] Y = BY (16)

вектор остатков (или невязок); B = I  X (X^TX)^1 X^T - матрица; можно проверить, что B² = B. Для остаточной суммы квадратов справедливо соотношение

M = M (n - k -1)  ² ,

откуда следует, что несмещенной оценкой для  ² является

s² = . (17)

Если предположить, что _i в (12) нормально распределены, то справедливы следующие свойства оценок:

1) (n - k - 1) имеет распределение хи квадрат с n-k-1 степенями свободы;

1. оценки и s² независимы.

Как и в случае простой регрессии, справедливо соотношение:

или

T_ss = E_ss + R_ss , (18)

в векторном виде:

,

где = ( . Поделив обе части на полную вариацию игреков

T_ss = , получим коэффициент детерминации

R² = (19)

Коэффициент R² показывает качество подгонки регрессионной модели к наблюдённым значениям y_i. Если R² = 0, то регрессия Y на x₁ , ..., x_k не улучшает качество предсказания y_i по сравнению с тривиальным предсказанием . Другой крайний случай R² = 1 означает точную подгонку: все e_i = 0, т.е. все точки наблюдений лежат на регрессионной плоскости. Однако, значение R² возрастает с ростом числа переменных (регрессоров) в регрессии, что не означает улучшения качества предсказания, и потому вводится скорректированный (adjusted) коэффициент детерминации

(20)

Его использование более корректно для сравнения регрессий при изменении числа переменных (регрессоров).

Доверительные интервалы для коэффициентов регрессии. Стандартной ошибкой оценки является величина , оценка для которой

s_j = , j = 0, 1, ..., k, (21)

где z_jj- диагональный элемент матрицы Z. Если ошибки _i распределены нормально, то, в силу свойств 1) и 2), приведенных выше, статистика

(22)

распределена по закону Стьюдента с (n - k - 1) степенями свободы, и потому неравенство

 t_p s_j , (23)

где t_p - квантиль уровня (1 + P_Д) / 2 этого распределения, задает доверительный интервал для _j с уровнем доверия Р_Д.

Проверка гипотезы о нулевых значениях коэффициентов регрессии. Для проверки гипотезы Н₀ об отсутствии какой бы то ни было линейной связи между y и совокупностью факторов, Н₀: ₁ = ₂ = ... = _k = 0, т.е. об одновременном равенстве нулю всех коэффициентов, кроме коэффициента ₀ при константе, используется статистика

F = = = , (24)

распределенная, если Н₀ верна, по закону Фишера с k и n - k - 1 степенями свободы. Н₀ отклоняется, если

F > F_ (k, n - k - 1), (25)

где F_ - квантиль уровня 1 - .

Отбор наиболее существенных объясняющих переменных. Различные регрессии (с различным набором переменных) можно сравнивать по скорректированному коэффициенту детерминации (20): принять тот вариант регрессии, для которого максимален (подробнее см. в примере).

Пример. Исследуется зависимость урожайности y зерновых культур ( ц/га ) от ряда факторов (переменных) сельскохозяйственного производства, а именно,

х₁ - число тракторов на 100 га;

х₂ - число зерноуборочных комбайнов на 100 га;

х₃ - число орудий поверхностной обработки почвы на 100 га;

х₄ - количество удобрений, расходуемых на гектар (т/га);

х₅ - количество химических средств защиты растений, расходуемых на гектар (ц/га).

Исходные данные для 20 районов области приведены в табл. 2.

Таблица 2

Здесь мы располагаем выборкой объема n = 20; число независимых переменных (факторов) k = 5. Матрица Х должна содержать 6 столбцов размерности 20; первый столбец состоит из единиц, а столбцы со 2-го по 6-й представлены соответственно столбцами 37 таблицы (файл Harvest 2. sta.). Специальный анализ (здесь не приводимый) технологии сбора исходных данных показал, что допущения (12а) могут быть приняты в качестве рабочей гипотезы, поэтому можем записать уравнения статистической связи между y_i и X_i = (x_i1, x_i2, ..., x_i5), i = 1, ..., n в виде (13).

Характеристики

Список файлов лабораторной работы