Г.Е. Маркелов - Регрессионные модели, страница 2

+ bd f id .Пример 2. Определим точечную оценку дисперсии случайной величины e из примера 1.Очевидно, что регрессионная модель из этого примераадекватна объекту исследования. Следовательно, точечная2оценка остаточной дисперсии Sостявляется здесь оценкой2дисперсии случайной величины e, т. е. Se2 = Sост.—————————————(Оглавление)—————————————Маркелов Г.Е. «Регрессионные модели»102Используя формулу (7) для определения Sост, получаемискомую точечную оценкуSe2 =1 ⎡2220,103 − 0,1) + ( 0,183 − 0,2 ) + ( 0,309 − 0,3) +(5 −1 ⎣22+ ( 0, 422 − 0, 4 ) + ( 0, 487 − 0,5) ⎤ м2 = 0,00025м 2 .⎦Замечание.

Обычно вид адекватной модели заранее неизвестен. В этом случае дисперсия σe2 оценивается с использованием повторных опытов при фиксированных значенияхфакторов. Для этого, например, проводится специальная серия из L опытов при фиксированных значениях факторов,причем результаты этих опытов уже не используются дляполучения точечных оценок коэффициентов регрессии. Тогда точечную оценку дисперсии σe2 находим по формулеSe2 =1νeL∑( yj =1− y) ,2jгде νe = L − 1 — число степеней свободы Se2 ; y =(8)1 L∑ yi —L i =1среднее значение отклика.2.3.

Свойства точечных оценок, полученныхметодом наименьших квадратовПолученные МНК оценки bi, где i = 0, …, d, обладаютследующими тремя свойствами.1. Несмещенность, т. е. M[bi] = βi.2. Эффективность, т. е. дисперсия D[bi ] = σ2e ci +1 i +1 точечной оценки bi минимальна в классе линейных несмещенных оценок, где ci +1 i +1 — элемент матрицы С, причем ковариация случайных величин bi и bj равна σ2e c i +1 j +1 .—————————————(Оглавление)—————————————Маркелов Г.Е. «Регрессионные модели»11Свойства 1 и 2 справедливы независимо от вида законараспределения случайной величины e. Если дополнительнопредположить, что случайная величина e подчиняется нормальному закону N (0, σ e ) , то можно сформулировать ещеодно свойство точечных оценок МНК.3.

Точечные оценки b0, b1, ..., bd подчиняются совместному (d + 1) -мерному нормальному закону распределения исовпадают с оценками, полученными методом максимального правдоподобия.Пример 3. Определим дисперсию точечной оценки b, полученной МНК в примере 1.Согласно второму свойству, имеемD[b] = σ2e c11 ,−1⎛ N ⎞где c11 = ⎜ ∑ ti2 ⎟ — элемент матрицы С. Тогда, используя⎝ i =1 ⎠числовые данные примера 1, получаемD[b] =σ 2e(10c )2 + ( 20c )2 + ( 30c )2 + ( 40c )2 + ( 50c )2=σ 2e.5500c 2Таким образом, дисперсия оценки b определена в доляхот σe2.Замечание. Если в примере 1 считать, что допустимоповторное проведение эксперимента и фактор t может изменяться в пределах от 0 до 50 с, то для достижения минимальной дисперсии D[b] следует выбрать t1 = ... = t5 = 50 с.Тогда при одинаковом количестве опытовD[b] =σ 2e( 50c )2 + ( 50c )2 + ( 50c )2 + ( 50c )2 + ( 50c )2=σ2e,12500c 2что более чем в 2 раза меньше по сравнению с предыдущимвариантом.—————————————(Оглавление)—————————————Маркелов Г.Е.

«Регрессионные модели»123. СТАТИСТИЧЕСКИЙ АНАЛИЗ РЕЗУЛЬТАТОВСтатистический анализ позволяет получить ответ на вопрос о пригодности регрессионной модели. Если модель непригодна, то ее необходимо изменить. Это приведет к построению более сложной математической модели и проверкеее пригодности и т. д. до тех пор, пока не будет полученапригодная математическая модель.Статистический анализ, как правило, проводят в несколько этапов: проверка значимости коэффициентов регрессии; проверка адекватности регрессионной модели; проверкаработоспособности регрессионной модели.3.1. Проверка значимости коэффициентов регрессииВ результате этой проверки выясняется, обусловлено лиотличие bi от нуля чисто случайными обстоятельствами илиже это отличие неслучайно и вызвано тем, что в теоретической регрессионной модели действительно присутствует соответствующий коэффициент регрессии, т.

е. βi ≠ 0.Проверка осуществляется путем вычисления статистикti = biSe2ci +1 i +1 ,где i = 0, …, d. Если |ti| не превосходит критического значения t∗ , то соответствующий коэффициент регрессии полагается незначимым и может быть исключен из регрессионноймодели.Критическое значение t∗ равно значению tν, α / 2 , котороеявляется квантилем уровня 1 − α / 2 распределения Стьюдента и зависит от числа степеней свободы ν = νe и уровня значимости α (обычно α = 0,05 ).

Значения квантилей tν,γ уровня1 − γ распределения Стьюдента в зависимости от числа степеней свободы ν и вероятности γ приведены в табл. 2.—————————————(Оглавление)—————————————Маркелов Г.Е. «Регрессионные модели»13Таблица 2Квантили tν,γ уровня 1 – γ распределения СтьюдентаЧислостепенейсвободыν12345678910111213141516171819202122232425304060120∞{Вероятность γ = P T > tν, γ0,201,381,060,980,940,920,910,900,890,880,880,880,870,870,870,870,860,860,860,860,860,860,860,860,860,860,850,850,850,840,840,103,081,891,641,531,481,441,421,401,381,371,361,361,351,341,341,341,331,331,331,331,321,321,321,321,321,311,301,301,291,28}0,05 0,025 0,01 0,005 0,001 0,00056,31 12,71 31,82 63,66 318,31 636,622,92 4,30 6,97 9,93 22,33 31,602,35 3,18 4,54 5,84 10,21 12,942,13 2,78 3,75 4,60 7,178,612,02 2,57 3,37 4,03 5,896,861,94 2,45 3,14 3,71 5,215,961,90 2,37 3,00 3,50 4,785,411,86 2,31 2,90 3,36 4,505,041,83 2,26 2,82 3,25 4,304,781,81 2,23 2,76 3,17 4,144,591,80 2,20 2,72 3,11 4,024,441,78 2,18 2,68 3,06 3,934,321,77 2,16 2,65 3,01 3,854,221,76 2,15 2,62 2,98 3,794,141,75 2,13 2,60 2,95 3,734,071,75 2,12 2,58 2,92 3,694,021,74 2,11 2,57 2,90 3,653,971,73 2,10 2,55 2,88 3,613,921,73 2,09 2,54 2,86 3,583,881,73 2,09 2,53 2,85 3,553,851,72 2,08 2,52 2,83 3,533,821,72 2,07 2,51 2,82 3,503,791,71 2,07 2,50 2,81 3,483,771,71 2,06 2,49 2,80 3,473,751,71 2,06 2,48 2,79 3,453,731,70 2,04 2,46 2,75 3,393,651,68 2,02 2,42 2,70 3,313,551,67 2,00 2,39 2,66 3,233,461,66 1,98 2,36 2,62 3,163,371,64 1,96 2,33 2,58 3,093,29—————————————(Оглавление)—————————————Маркелов Г.Е.

«Регрессионные модели»14Конечным результатом после проверки значимости всехкоэффициентов регрессии является регрессионная модель,содержащая лишь значимые коэффициенты β(0), β(1), ..., β(d),причем d + 1 ≤ N .3.2. Проверка адекватности регрессионной моделиТакая проверка регрессионной модели имеет своей целью выяснение вопроса о том, правильно ли выбран вид модели. Проверка адекватности регрессионной модели возможна при условии, что d + 1 < N и известна точечная оценка Se2дисперсии случайной величины e.Если d + 1 = N , то проверять адекватность регрессионной модели не имеет смысла, так как найденная зависимостьyi = b0 fi 0 + b1 f i1 + ...

+ bd f idпредсказывает в этом случае все значения отклика.При проверке адекватности используют статистику2F = SостS e2 .Если F не превосходит критического значения F*, то модельадекватна. В противном случае говорят о наличии дополнительного рассеивания, обусловленного несоответствием модели реальному объекту. Тогда необходимо либо усложнитьрегрессионную модель, либо уменьшить интервалы варьирования факторов.Критическое значение F* равно значению Fν1 , ν2 , α , кото-рое является квантилем уровня 1 − α распределения Фишераи зависит от степеней свободы ν1 = N − d − 1 , ν 2 = ν e и уровня значимости α. Значения квантилей Fν1 , ν2 , α уровня 1 − αраспределения Фишера в зависимости от ν1, ν2 и вероятностиα = 0,05 приведены в табл. 3.—————————————(Оглавление)—————————————Маркелов Г.Е.

«Регрессионные модели»1516—————————————(Оглавление)—————————————Маркелов Г.Е. «Регрессионные модели»ν14,96 4,10 3,71 3,48 3,33 3,22 3,14 3,07 3,02 2,98 2,91 2,85 2,77 2,74 2,70 2,66 2,62 2,58 2,544,84 3,98 3,59 3,36 3,20 3,09 3,01 2,95 2,90 2,85 2,79 2,72 2,65 2,61 2,57 2,53 2,49 2,45 2,404,75 3,88 3,49 3,26 3,11 3,00 2,91 2,85 2,80 2,75 2,69 2,62 2,54 2,51 2,47 2,43 2,38 2,34 2,304,67 3,80 3,41 3,18 3,03 2,92 2,83 2,77 2,71 2,67 2,60 2,53 2,46 2,42 2,38 2,34 2,30 2,25 2,214,60 3,74 3,34 3,11 2,96 2,85 2,76 2,70 2,65 2,60 2,53 2,46 2,39 2,35 2,31 2,27 2,22 2,18 2,134,54 3,68 3,29 3,06 2,90 2,79 2,71 2,64 2,59 2,54 2,48 2,40 2,33 2,29 2,25 2,20 2,16 2,11 2,074,49 3,63 3,24 3,01 2,85 2,74 2,66 2,59 2,54 2,49 2,42 2,35 2,28 2,24 2,19 2,15 2,11 2,06 2,014,45 3,59 3,20 2,96 2,81 2,70 2,61 2,55 2,49 2,45 2,38 2,31 2,23 2,19 2,15 2,10 2,06 2,01 1,9611121314151617∞101205,12 4,26 3,86 3,63 3,48 3,37 3,29 3,23 3,18 3,14 3,07 3,01 2,94 2,90 2,86 2,83 2,79 2,75 2,71605,32 4,46 4,07 3,84 3,69 3,58 3,50 3,44 3,39 3,35 3,28 3,22 3,15 3,12 3,08 3,04 3,01 2,97 2,93409308245,59 4,74 4,35 4,12 3,97 3,87 3,79 3,73 3,68 3,64 3,57 3,51 3,44 3,41 3,38 3,34 3,30 3,27 3,23205,99 5,14 4,76 4,53 4,39 4,28 4,21 4,15 4,10 4,06 4,00 3,94 3,87 3,84 3,81 3,77 3,74 3,70 3,67157126,61 5,79 5,41 5,19 5,05 4,95 4,88 4,82 4,77 4,74 4,68 4,62 4,56 4,53 4,50 4,46 4,43 4,40 4,361069587,71 6,94 6,59 6,39 6,26 6,16 6,09 6,04 6,00 5,96 5,91 5,86 5,80 5,77 5,75 5,72 5,69 5,66 5,63710,1 9,55 9,28 9,12 9,01 8,94 8,89 8,85 8,81 8,79 8,74 8,70 8,66 8,64 8,62 8,59 8,57 8,55 8,5364534161 200 216 225 230 234 237 239 241 242 244 246 248 249 250 251 252 253 254318,5 19,0 19,2 19,2 19,3 19,3 19,4 19,4 19,4 19,4 19,4 19,4 19,4 19,5 19,5 19,5 19,5 19,5 19,52211ν2Таблица 3Квантили у ровня 0,95 распределения Фишера в зависимости от ν 1 , ν 2—————————————(Оглавление)—————————————Маркелов Г.Е.