3_Регрес (Алексахин С.В., Балдин А.В., Николаев А.Б., Строганов В.Ю. - Прикладной статистический анализ), страница 7

Для проверки гипотезы H₀: _{yx x1x2}=0; x=1..p; xx1; xx2

Если все значения F-включения меньше установленного минимума, то переход к шагу S. В противном случае переход к шагу 3.

Шаг 3.

1) Пусть L обозначает набор из l независимых переменах, которые включены в уравнение регрессии. Если какое-либо из значений F-исключения для переменных из L меньше, чем соответствующий минимум, то переменная, которой соответствует наименьшее значение F-исключения, удаляется из набора и выполняется шаг 3.

Если для всех перемененных, не входящих в L, значение F-включения меньше установленного минимума, то выполняется шаг S. В противном случае в набор L добавляется переменная, которой соответствует максимальное значение F-включения, и l заменяется на l+1.

2) Вычисляется множественный коэффициент корреляции r между Y и переменными из L, а также значения F-исключения между Y и переменной X из L при заданных остальных l-1 переменных из L.

Каждая из этих величин имеет 1 и n-l-1 степеней свободы и используется для проверки гипотезы Р: к =0. Определяется величина частного коэффициента корреляции и значение F-включения между Y и каждой переменной X не входящей в L*, при заданных переменных из L. Переход к шагу 4.

Шаг 4. Переход к шагу S, если:

• F-включения для всех переменных, не входящих в L, меньше установленного минимума;

• для всех переменных из L значение F-исключения больше установленного минимума;

• число включенных переменных равно p.

Иначе переход к шагу 3.

Вариации количеством включенных и исключенных приводят к различным алгоритмам пошаговой регрессии.

Метод множественной корреляции (К-метод). В этой процедуре для включения переменных используется правило, основанное на величине F-включения, но правило удаления существенно изменено. Удаление переменной выполняется на основании правила R² , т.е. если в результате удаления происходит увеличение (не обязательно значимое) множественного коэффициента корреляции. Рост множественного коэффициента корреляции возможен, в силу того, что является функцией величин: s - остаточного среднего квадрата; p - числа используемых переменных и др. Следовательно, вполне возможно, что совместное изменение двух указанных величин приведен к увеличения R² . Итак, рассматриваемая процедура предполагает: - удаление переменных на основе правила R² ;

Добавления переменных выполняется на основе правила F-включения.

Метод множественной корреляции с заменой переменных. Эта процедура аналогична R²-методу, за исключением того, что дополнительно допускается замена переменных. Последовательность имеет вид:

• удаление переменной с использованием правила R²;

• замена переменных по критерию возрастания R² ;

• добавление новой переменной с использованием правила F-включения.

Стандартное правило остановки осуществляет контроль числа переменных с помощью величины, называемой допустимый минимум F-включения, значение которой задается программно. Величине F-включения соответствует величина максимума уровня значимости .

Statistica. Проведем анализ модели прогноза объемов перевозок на основе пошаговой регрессии, для выделения наиболее значимых показателей, указав для значений статистик включения и исключения значения 2.0 и 1.0 соответственно. На рис.16. приведен экран формирования результатов пошаговой регрессии, содержащий основные статистики.

Формирование результатов пошаговой регрессии

Так, получено, что коэффициент корреляции равен 0.93, что незначительно ниже модели прогноза по всем показателям (0.94). В данном случае в модель включено всего 6 факторов (табл.9.) вместо 14, которые использовались в множественной регрессии.

Оценки параметров регрессии

В последней таблице показатели для модели прогноза приведены в порядке значимости. Так, наиболее значимым оказался параметр KACS (количество автомобилей, работающих по временному тарифу). График модели прогноза по выделенным показателям приведен на рис. 17.

Прогноз пошаговой регрессии

Сравнивая последний график с графиком прогноза по всем показателям, видим, что качество оценки изменилось незначительно, хотя вместо 14 показателей в модели использовалось всего 6. Этот факт подчеркивает таблица 10. дисперсионного анализа

Дисперсионный анализ пошаговой регрессии

Сравнивая последнюю таблицу с таблицей дисперсионного анализа множественной регрессии видим, что значение F-отношения (30,86) в данном случае даже превышает соответствующий показатель множественной регрессии, равный 11,66 в таблице 6. Это объясняется существенным снижением размерности модели при незначительном снижении точности прогноза.

3. 1

3.1. Модели регрессионного анализа 1

3.2.Простая регрессия 4

3.2.1. МНК-оценки параметров 5

3.2.2. Анализ качества модели 7

3.2.3. Преобразование линейной модели 10

3.3. Множественная регрессия 12

3.3.1. МНК-оценки параметров регрессии 13

3.3.2. Анализ качества модели 16

3.3.3. Линейные оценки 20

3.3.4. Гребневая регрессия 23

3.3.5. Анализ выбросов 25

3.4. Нелинейный регрессионный анализ 26

3.5. Пошаговая регрессия 29

Регрессионный анализ