Г.Е. Маркелов - Регрессионные модели (1035532), страница 3
Текст из файла (страница 3)
«Регрессионные модели»174,20 3,34 2,95 2,71 2,56 2,45 2,36 2,29 2,24 2,19 2,12 2,04 1,96 1,91 1,87 1,82 1,77 1,71 1,654,18 3,33 2,93 2,70 2,55 2,43 2,35 2,28 2,22 2,18 2,10 2,03 1,94 1,90 1,85 1,81 1,75 1,70 1,644,17 3,32 2,92 2,69 2,53 2,42 2,33 2,27 2,21 2,16 2,09 2,01 1,93 1,89 1,84 1,79 1,74 1,68 1,624,08 3,23 2,84 2,61 2,45 2,34 2,25 2,18 2,12 2,08 2,00 1,92 1,84 1,79 1,74 1,69 1,64 1,58 1,514,00 3,15 2,76 2,53 2,37 2,25 2,17 2,10 2,04 1,99 1,92 1,84 1,75 1,70 1,65 1,59 1,53 1,47 1,392829304060∞3,84 3,00 2,60 2,37 2,21 2,10 2,01 1,94 1,88 1,83 1,75 1,67 1,57 1,52 1,46 1,39 1,32 1,22 1,00120 3,92 3,07 2,68 2,45 2,29 2,17 2,09 2,02 1,96 1,91 1,83 1,75 1,66 1,61 1,55 1,50 1,43 1,35 1,254,21 3,35 2,96 2,73 2,57 2,46 2,37 2,31 2,25 2,20 2,13 2,06 1,97 1,93 1,88 1,84 1,79 1,73 1,67∞4,23 3,37 2,98 2,74 2,59 2,47 2,39 2,32 2,27 2,22 2,15 2,07 1,99 1,95 1,90 1,85 1,80 1,75 1,69120276026404,24 3,38 2,99 2,76 2,60 2,49 2,40 2,34 2,28 2,24 2,16 2,09 2,01 1,96 1,92 1,87 1,82 1,77 1,71304,26 3,40 3,01 2,78 2,62 2,51 2,42 2,36 2,30 2,25 2,18 2,11 2,03 1,98 1,94 1,89 1,84 1,79 1,732425204,28 3,42 3,03 2,80 2,64 2,53 2,44 2,37 2,32 2,27 2,20 2,13 2,05 2,01 1,96 1,91 1,86 1,81 1,7615241223104,30 3,44 3,05 2,82 2,66 2,55 2,46 2,40 2,34 2,30 2,23 2,15 2,07 2,03 1,98 1,94 1,89 1,84 1,7894,32 3,47 3,07 2,84 2,68 2,57 2,49 2,42 2,37 2,32 2,25 2,18 2,10 2,05 2,01 1,96 1,92 1,87 1,8182272164,35 3,49 3,10 2,87 2,71 2,60 2,51 2,45 2,39 2,35 2,28 2,20 2,12 2,08 2,04 1,99 1,95 1,90 1,8454,38 3,52 3,13 2,90 2,74 2,63 2,54 2,48 2,42 2,38 2,31 2,23 2,16 2,11 2,07 2,03 1,98 1,93 1,8842034,41 3,55 3,16 2,93 2,77 2,66 2,58 2,51 2,46 2,41 2,34 2,27 2,19 2,15 2,11 2,06 2,02 1,97 1,922191ν118ν2Окончание табл.
3После проверки адекватности регрессионной модели, содержащей лишь значимые коэффициенты регрессии, имеетсмысл рассматривать вопрос о ее работоспособности.3.3. Проверка работоспособности регрессионной моделиНеобходимость такой проверки обусловлена тем, что нередко даже адекватная регрессионная модель на практикеоказывается бесполезной, например, в силу своей низкойточности предсказания.
Эта проверка может включать в себянесколько различных процедур, описанных ниже.Исследование остатков. Остатки ei = yi − yi — это разности между фактически наблюдаемыми значениями yi изначениями yi , которые предсказаны с помощью зависимостиy ( x1 , x2 , ..., xn ) = b(0) F(0) ( x1 , x2 , ..., xn ) ++ b(1) F(1) ( x1 , x2 , ..., xn ) + ... + b( d ) F( d ) ( x1 , x2 , ..., xn ) ,где b(0), b(1), ..., b(d) — точечные оценки значимых коэффициентов регрессии β(0), β(1), ..., β(d) соответственно.Если регрессионная модель подобрана правильно, то остатки содержат информацию о свойствах случайной величины e.
Тогда следует выяснить, не противоречат ли эти свойства предположениям, на которых основан весь анализ.Вычисление точечной оценки коэффициента детерминации. Коэффициент детерминации характеризует точностные свойства регрессионной модели, изменяясь в пределахот 0 до 1. Точечная оценка R2 коэффициента детерминацииопределяется по формуле2⎛ N − d − 1 ⎞ SостR2 = 1 − ⎜⎟ 2 .⎝ N −1 ⎠ Sy(9)—————————————(Оглавление)—————————————Маркелов Г.Е. «Регрессионные модели»18ЗдесьN12( yi − yi ) ,∑N − d − 1 i =11 N2S y2 =( yi − y ) ,∑N − 1 i =12S ост=1 N∑ yi — среднее значение отклика.N i =1Если R 2 ≥ 0,75 или Sост S y ≤ 0,5 , то это обеспечиваетгде y =уменьшение ошибки предсказания по крайней мере в 2 разаотносительно примитивного предсказания по среднему значению отклика.
Сопоставление точечной оценки коэффициента детерминации со значением R 2 = 0,75 является простейшей процедурой, позволяющей получить общее представление о ценности найденной модели. Если число опытоввелико по сравнению с числом коэффициентов регрессии, тоблизость R2 к 1 говорит о хорошей точности регрессионноймодели.Дополнительные проверки. Они могут включать в себявыяснение правдоподобности регрессионной модели в соответствии с физикой протекающих в объекте процессов и рассмотрение ряда других вопросов, которые учитывают специфику задачи.4.
РЕШЕНИЕ ТИПОВОЙ ЗАДАЧИМеханизм, состоящий из подвижной части, пружины идемпфера, соединен с неподвижным основанием. Под действием силы F(t) подвижная часть механизма перемещается позакону x(t), который является одинаковым для всех опытов.Расчетная схема механизма представлена на рис. 3.—————————————(Оглавление)—————————————Маркелов Г.Е. «Регрессионные модели»192134bmsF(t)x(t)Рис. 3. Схема механизма: 1 — неподвижное основание механизма; 2 — демпфер; 3 — пружина; 4 — подвижнаячасть механизмаПусть y = F(t), где t — определенный момент времени.Тогда y зависит от массы механизма m, коэффициента затухания b демпфера и жесткости s пружины. Результаты измерения y в зависимости от факторов m, b и s представлены втабл.
4 и 5.Таблица 4Значения y в зависимостиот массы m, коэффициента затухания b и жесткости s№ опытаm, кгs, H/мy, Hb, H⋅c/м1501162,092101115,363505173,624105128,905501371,926101328,907505380,528105343,85—————————————(Оглавление)—————————————Маркелов Г.Е. «Регрессионные модели»20Таблица 5Данные специальной серии опытов по измерению y№ опыта12345678m, кг3030303030303030b, H⋅c/м33333333s, H/м22222222y, H47,1750,7551,8353,9348,5450,2351,9551,37Используя данные из этих таблиц, установим экспериментальную зависимость y от факторов m, b и s.
При этом вкачестве первого приближения следует выбрать линейнуюрегрессионную модель вида (2), т. е.y ( m, b, s ) = β0 + β1 m + β 2 b + β3 s + e ,(10)где β0, β1, β2, β3 — коэффициенты регрессии; 1, m, b, s — базисные функции (F0 = 1, F1 = m, F2 = b, F3 = s); e — случайная величина.Чтобы получить точечные оценки параметров регрессионной модели (10), используем данные табл. 4 и составимматрицы X и Y.⎛ x11⎜xX = ⎜ 21⎜ ...⎜⎝ x81x12x22...x82⎛ 50⎜ 10⎜x13 ⎞ ⎜ 50⎜x23 ⎟⎟ ⎜ 10=... ⎟ ⎜ 50⎟ ⎜x83 ⎠ ⎜ 10⎜ 50⎜⎝ 10115511551⎞⎛ 62,09 ⎞⎟⎜ 15,36 ⎟1⎟⎜⎟1⎟⎛ y1 ⎞ ⎜ 73,62 ⎟⎟⎜ y ⎟ ⎜ 28,90 ⎟1⎟⎟,, Y =⎜ 2⎟=⎜⎟⎜⎜⎟...371,92 ⎟⎟⎟⎜ ⎟ ⎜3⎟⎝ y8 ⎠ ⎜ 28,90 ⎟⎜ 80,52 ⎟3⎟⎟⎜⎟3⎠⎝ 43,85 ⎠—————————————(Оглавление)—————————————Маркелов Г.Е. «Регрессионные модели»21где xij — значение j-го фактора в i-м опыте, yi — значениеотклика в i-м опыте.
Численные значения всех базисныхфункций представим в матричной форме⎛⎜F =⎜⎜⎜⎝f10f 20...f 80f11f 21...f81f12f 22...f82⎛1⎜1⎜f13 ⎞ ⎜ 1⎜f 23 ⎟⎟ ⎜ 1=... ⎟ ⎜ 1⎟ ⎜f83 ⎠ ⎜ 1⎜1⎜⎝15010501050105010115511551⎞1 ⎟⎟1⎟⎟1⎟,3⎟⎟3⎟3⎟⎟3⎠где fij — значение j-й базисной функции Fj в i-м опыте.Чтобы определить точечные оценки b0, b1, b2, b3 коэффициентов регрессии, применим МНК.
Для этого найдем−0,009375 −0,09375 −0, 25 ⎞⎛ 1,1875⎜00 ⎟⎟−0,009375 0,0003125−1T⎜C = (F F ) =.⎜ −0,0937500,031250 ⎟⎜⎟000,125 ⎠⎝ −0, 25Согласно формуле (6), получаем матрицу искомых точечных оценок⎛ b0 ⎞ ⎛ −1,86 ⎞⎜ b ⎟ ⎜ 1, 07 ⎟T⎟.C (F Y ) = ⎜ 1 ⎟ = ⎜⎜ b2 ⎟ ⎜ 3, 04 ⎟⎜ ⎟ ⎜⎟⎝ b3 ⎠ ⎝ 5, 65 ⎠Кроме точечных оценок коэффициентов βi необходимаоценка дисперсии σe2 случайной величины e.—————————————(Оглавление)—————————————Маркелов Г.Е. «Регрессионные модели»22Так как вид адекватной модели заранее не известен, топо формуле (8), используя данные специальной серии опытов(см.
табл. 5), найдем21 8 ⎛1 8 ⎞−S =yyi ⎟ = 4, 44 Н2,∑∑j⎜8 − 1 j =1 ⎝8 i =1 ⎠2eгде yi — значение отклика в i-м опыте, причем эти значенияне используются для получения точечных оценок коэффициентов регрессии.Затем проведем статистический анализ, состоящий изпроверки значимости коэффициентов регрессии, проверкиадекватности и работоспособности регрессионной модели.При проверке значимости коэффициентов регрессионноймодели выясним, обусловлено ли отличие bi от нуля чистослучайными обстоятельствами или же это отличие неслучайно и вызвано тем, что в теоретической регрессионной моделидействительно присутствует соответствующий коэффициентрегрессии.
Проверка осуществляется путем вычисления статистикti = biSe2 ci +1 i +1 ,где i = 0, 1, 2, 3. Следовательно,t0 = −1,864, 44 ⋅ 1,1875 = −0,81;t1 = 1,074, 44 ⋅ 0,0003125 = 28,72;t2 = 3,044, 44 ⋅ 0,03125 = 8,16;t3 = 5,654, 44 ⋅ 0,125 = 7,59.Если |ti| ≤ t*, то соответствующий коэффициент регрессии полагаем незначимым и исключаем из регрессионноймодели. Критическое значение t* равно значению tν, α / 2 , ко-торое является квантилем уровня 1 − α / 2 распределения—————————————(Оглавление)—————————————Маркелов Г.Е. «Регрессионные модели»23Стьюдента, число степеней свободы ν равно 7 и уровень значимости α соответствует 0,05, т. е.t* = t7, 0,025 = 2,37.После проверки значимости всех коэффициентов регрессии получим регрессионную модель, содержащую толькозначимые коэффициенты регрессии β(0), β(1), β(2), т. е.y ( m, b, s ) = β(0) m + β (1) b + β(2) s + e ,где m, b, s — базисные функции (F(0) = m, F(1) = b, F(2) = s).Затем численные значения всех базисных функций представим в матричной форме⎛⎜F =⎜⎜⎜⎝f10f 20...f 80f11f 21...f 81⎛ 50⎜ 10⎜f12 ⎞ ⎜ 50⎜f 22 ⎟⎟ ⎜ 10=...