man8full (542547), страница 3

Просмтор этого файла доступен только зарегистрированным пользователям. Но у нас супер быстрая регистрация: достаточно только электронной почты!

Текст из файла (страница 3)

Результаты эксперимента:

Диаграммы рассеяния для парной регрессии:

В окне Mult. Regr. Results имеем основные результаты: коэффициент детерминации (19) R² = 0.517; для проверки гипотезы Н₀ об отсутствии какой бы то ни было линейной связи между переменной y и совокупностью факторов определена статистика (24) F = 3.00; это значение соответствует уровню значимости р = 0.048 (эквивалент (25) согласно распределению F (5,14) Фишера с df = 5 и 14 степенями свободы. поскольку значение р весьма мало, гипотеза Н₀ отклоняется.

Таблица Regression summar. В ее заголовке повторены результаты предыдущего окна; в столбце В указаны оценки неизвестных коэффициентов по (14). Таким образом, оценка (x) неизвестной функции регрессии f (x) в данном случае:

(x) = 3.51  0.06 x₁ + 15.5 x₂ + 0.11 x₃ + 4.47 x₄  2.93 x₅ (26)

В столбце St. Err. of B указаны стандартные ошибки s_j оценок коэффициентов (по (21)); видно, что стандартные ошибки в оценке всех коэффициентов, кроме ₄ , превышают значения самих коэффициентов, что говорит о статистической ненадежности последних. В столбце t(14) -значение статистики Стьюдента (22) для проверки гипотезы о нулевом значении соответствующих коэффициентов; в столбце p-level -уровень значимости отклонения этой гипотезы; достаточно малым (0.01) этот уровень является только для коэффициента при x₄ . Только переменная x₄ - количество удобрений, подтвердила свое право на включение в модель. В то же время проверка гипотезы об отсутствии какой бы то ни было линейной связи между y и (х₁ , ..., х₅) с помощью статистики (24) (об этом сказано выше)

F = 3.00 , p = 0.048 ,

говорит о том, что следует продолжить изучение линейной связи между y и (х₁ , ..., х₅), анализируя как их содержательный смысл, так и матрицу парных корреляций, которая определяется так:

Из матрицы видно, что х₁ , х₂ и х₃ (оснащенность техникой) сильно коррелированы (парные коэффициенты корреляции 0.854, 0.882 и 0.978), т.е. имеет место дублирование информации, и потому, по-видимому, есть возможность перехода от исходного числа признаков (переменных) к меньшему.

Сравнение различных регрессий. Пошаговый отбор переменных.

На 1-м шаге (k = 1) найдем один наиболее информативную переменную. При k = 1 величина R² совпадает с квадратом обычного (парного) коэффициента корреляции

R² = r² (y, x) ,

из матрицы корреляций находим:

r² (y, x_j) = r² (y, x₄) = (0.577)² = 0.333

Так что в классе однофакторных регрессионных моделей наиболее информативным предиктором (предсказателем) является x₄ - количество удобрений.

Вычисление скорректированного (adjusted) коэффициента детерминации по (20) дает

R²_adj (1) = 0.296.

2-й шаг (k = 2). Среди всевозможных пар (х₄ , х_j ), j = 1, 2, 3, 5, выбирается наиболее информативная (в смысле R² или, что то же самое, в смысле R²_adj ) пара:

(х₄ , х₁) = 0.406, (х₄ , х₂) = 0.399,

(х₄ , х₃ ) = 0.421, (х₄ , х₅) = 0.255,

откуда видно, что наиболее информативной парой является (х₄ , х₃ ), которая дает

(2) = (х₄ , х_j) = 0.421

Оценка уравнения регрессии урожайности по факторам х₃ и х₄ имеет вид

(х₃ , х₄) = 7.29 + 0.28 х₃ + 3.47 х₄ (27)

(0.66) (0.13) (1.07)

Внизу в скобках указаны стандартные ошибки, взятые из столбца Std. Err. of B таблицы Regression Results для варианта независимых переменных (х₃ , х₄) Все три коэффициента статистически значимо отличаются от нуля при уровне значимости  = 0.05, что видно из столбца p-level той же таблицы.

3-й шаг (k = 3). Среди всевозможных троек (х₄ , х₃ ,х_j), j = 1, 2, 5, выбираем аналогично наиболее информативную:

(х₄ , х₃ ,х₅), которая дает (3) = 0.404, что меньше, чем (2) = 0.421; это означает, что третью переменную в модель включать нецелесообразно, т.к. она не повышает значение (более того, уменьшает). Итак, результатом анализа является (28).

3. Нелинейная зависимость

Связь между признаком x и y может быть нелинейной, например, в виде полинома:

y = P_k (x) + , (28)

где P_k (x) = _о + ₁ x + ...+ _k x^k, k - степень полинома,  - случайная составляющая, М = 0, D = ² .

Для имеющихся данных (x_i ,y_i), i = 1, ..., n, можно записать

y_i = _о + ₁ x_i + ₂ + ...+ _k + _i , i =1, ..., n (29)

или, как и (12), в матричной форме:

Y = X  +  , (30)

где .

Имеем задачу (13), и потому все формулы п.2. оказываются справедливыми и в этом случае (28) . Слово “линейный” в названии “линейный регрессионный анализ” означает линейность относительно параметров _j , но не относительно факторов x_j . Широко используется, кроме полиномиальной, например, следующие модели:

1) логарифмическая; если зависимость y = a₀ , то после логарифмирования получаем

ln y = ln a_o + a₁ ln x = _о + ₁ ln x;

2) гиперболическая (при обратной зависимости, т.е. при увеличении х признак y уменьшается):

y = _о + ;

3) тригонометрическая:

y = _о + ₁ sinx + ₂ cos x и другие.

Пример. Имеются эмпирические данные о зависимости y - выработки на одного работника доменного производства от x - температуры дутья; данные приведены в табл. 3 в условных единицах.

Таблица 3

Результаты эксперимента:

Диаграммы рассеяния:

1) Регрессия первой степени: y = _о + ₁ x

Получаем (в скобках указаны стандартные ошибки оценок):

y = 5.36 + 1.40 x

(0.98) (0.16)

= 0.798, s = 2.09.

2) Регрессия второй степени: y = _о + ₁ x + ₂ x²

Получаем:

y = 9.9 - 0.88 x + 0.21 x², (31)

(1.33) (0.57) (0.05)

= 0.892, s = 1.53,

коэффициент ₁ = -0.88 незначимо отличается от 0. Эта регрессия лучше предыдущей в смысле и s. Однако, возможно, регрессия третьей степени окажется лучше?

3) Построим регрессию третьей степени: y = _о + ₁ x + ₂ x² + ₃ x³

Получаем:

y = 11.6 - 2.35 х + 0.53 х² - 0.02 х³

(2.33) (1.74) (0.36) (0.02)

= 0.890, s = 1.53,

незначимо отличаются от 0. Поскольку степень увеличилась без увеличения , от регрессии третьей степени отказываемся в пользу (31) второй степени. Однако, гипотеза о нулевом значении ₁ в (31) не отклоняется (p-level = 0.1), и потому построим:

4) регрессию y = _о + ₂ x² без линейного члена

Получаем:

y = 8.02 + 0.13 x² (32)

(0.54) (0.01)

= 0.884, s = 1.6,

Сравнивая ее по и s с (31) , отдаем предпочтение (31), поскольку ошибка прогноза s меньше.

4. Нелинейная зависимость (обобщение)

Предполагается, что связь между факторами (х₁, ...,х_р) и y выражается следующим образом:

y = _о + ₁ ₁ (х₁, ..., х_р) + ₂  ₂ (х₁, ..., х_р) + ... + _k  _k (х₁, ..., х_р) + 

где _j ( ), j = 1, ..., k, - система некоторых функций. Имеется n наблюдений при различных значениях х  (х₁, ..., х_р): x¹ , x² , ..., xⁿ ; имеем:

y_i = _o + , i = 1, ..., n,

или в матричной форме:

y = X  +  ,

где Х - матрица n  (k + 1), в i-й строке которой (1, ₁ (xⁱ), ₂ (xⁱ), ..., _k (xⁱ));

y,  , , как в (13). Получили задачу (13), и потому все формулы п.2 оказываются справедливыми.

Пример. Имеется 20 наблюдений по некоторому технологическому процессу химического производства; x, y - изменяемое содержание двух веществ , z - контролируемый параметр получаемого продукта. Полагая, что

Характеристики

Список файлов лабораторной работы