341_4- Сборник задач по математике для втузов. В 4-х ч. Ч.4_ (ред) Ефимов А.В, Поспелов А.С_2003 -432с (987780), страница 55
Текст из файла (страница 55)
(и) Величина Я„, определяемая выражением (~,= у ег= у (у; — у;), (12) называется остаточной суммой квадратов. Если модель согласуется с результатами наблюдений (адекватна результатам наблюдений, о проверке адекватности см. ниже), то остаточная дисперсия является несмещенной оценкой дисперсии ошибок наблюдений о2, т.е. М(вг) = о2.
Всюду в дальнейшем будем предполагать, что ошибки наблюдений ео 1 = 1, 2, ..., и, имеют нормальное 3 7. Элементы регрессионного анализа 303 распределение: гн )У(0, о) и независимы (предположение (5)). Это предположение в силу (3) эквивалентно тому, что результаты наблюдений уо ( = 1, 2, ..., я, являютсл реализациями независимых нормально распределенных случайных величин У,: 1' - М(Ро + Дт, о), ю' = 1, 2,, п В этом случае можно показать (см., например, [10), с. 313 — 315), что статистика Я,/оэ имеет распределение Хз с и — 2 степенями свободы, т.е. э =Х(я — 2), (13) и эта статистика распределена независимо от распределения оценок Д> и Д. Используя это утверждение, можно построить доверительные интервалы для параметров линейной регрессии (см. задачи 19.322, 19.323) и проверить гипотезы о параметрах.
В практических вычислениях остаточную сумму квадратов получают из тождества „)'. (у — Р)' = ~ (у — у)' + ~~' (у — у )' (14) которое записывается в виде Юэ Он + Юе~ где Ю = ,),(у — у)' = ~ ур — яу', 2 Юв — ~ (у. у) — ФА*в — 619*†(15) <3. Величина Дв называется суммой квадратов, обусловленной регрес- сией. Тождество (14) и формулы (15) легко доказываются (см. задачи 19.311, 19.312). Линейная регрессионная модель (2) называется незначимой, если параметр Д = О. Для проверки гипотезы Но .
о1 = 0 используют либо доверительный интервал для параметра Д (см. задачу 19.322), либо статистику Я (п — 2) Азад* (16) вз Если гипотеза Но. 111 = 0 верна, то статистика (16) имеет распределение Фишера с 1 и и — 2 степенями свободы (см. задачу 19.313).
В случае, когда гипотеза Нв. Д = 0 отклоняется, говорят, что ре- грессионная модель (2) статистически значима. Из этого не следует, конечно, что модель хорошо согласуется с результатами наблюдений, т.е. адекватна им. 304 Гл. 19. Математическая статистика Полезной характеристикой линейной регрессии является коэффициент детерминации йэ, вычисляемый по формуле (17) Коэффициент детерминации Аэ равен той лоле разброса результатов наблюдений (х,, у;), 1 = 1, 2, ..., п, относительно горизонтальной прямой у = у, которая объясняется выборочной регрессией (9). Величина В = +~Я~ является оценкой коэффициента корреляции между результатами наблюдений у; и вычисленными значениями у;, предсказываемыми регрессией (9), т.е. В = ргв = гээ.
В случае линейной регрессии У на х (одной независимой переменной х) между коэффициентом А и выборочным коэффициентом корреляции г,„ имеется следующее соотношение: г,„= (знак А) Н. Пример 1. На химическом производстве в холе пяти рабочих смен получены следующие данные о зависимости выхода продуктов У (кг/ч) от температуры реакции х ('С): х 51 32 80 73 64 45 83 44 93 52,7 15,2 89,5 94,8 76 39,3 114,8 36,5 137,4 28 35 40 29 53 58 65 74 101 У 5,3 20,7 21,7 9,2 55,4 64,3 79,1 Найти оценки параметров линейной регрессии У на х, оценку дисперсии ошибок наблюдений, доверительные интервалы для параметров и среднего значения У при х = хо, коэффициент детерминации и выборочный коэффициент корреляции г,„. Проверить значимость линейной регрессии.
Принять а = 0,05. < По данным измерений имеем и = 17, ~~~ х; = 948, ~ ~хэ = 59422, ~~ у; = 1012,39 у~ = 85389,73, х = 55,765, ~ ~х;у, = 69189,4, у = 59,58. Для контроля вычислим (х, + у;) = 283190,5, хе+2~~~ х у, +" уз=59422+2 691894+8538973= 28319053. з 7. Элементы регрессионного анализа 305 Следовательно, вычисления проведены верно. Предварительно найдем 948д 9, = 59442 — — 65570588 17 1012 9г (~д — 85 389,73 — ' а 25 038,76, 17 Я,д = 69 189,4 — ' 12 705,33.
948 1012,9 17 По формулам (7) и (8) найдем оценки коэффициентов регрессии: 12 705,33 6557,0588 До = 59 58 — 1 94 55,765 — 48,47 Таким обрааом, выборочная линейная регрессия (9) имеет вид у = -48,47+ 1,94х. По формуле (15) находим сумму квадратов, обусловленную регрессией сд'е: (~и = А(>*д = 194 12705,33 ю 24618,57. Используя тождество (14), находим остаточную сумму квадратов Я,: Ое = С7д Ян = 25038,76 — 24618,57 420,19 Оценка дисперсии ошибок наблюдений по формуле (11) равна г Яе 420 19 ад = — ' = — ' - 28,01, а 5,29. я — 2 17 — 2 Значение квантили 11 уд(я — 2) = 1о,дтд(15) = 2,131 (таблица Пб).
Границы доверительных интервалов (см. задачи 19.322, 19.323) равны: для коэффициента До -48,47 ~ 2,131 5,29. 59422 -48,47 х 8,23; е 1 для коэффициента А 1,94 х 2,131 5,29. 1,94 х 0,14. 1 Гл. 19, Математическая статистика 306 Границы доверительного интервала для значения 1о, соответствующего заданному значению переменной х = хо, уо х 2,131 5,29 = уо ~ 11,27 Коэффициент детерминации Н~ по формуле (17) равен 420,19 25 038,76 Этот результат означает, что полученное уравнение регрессии на 98,4% объясняет общий разброс результатов наблюдений относительно горизонтальной прямой у = 59,547. Выборочный коэффициент корреляции г,„= + /0,983 0,991. Проверим значимость линейной регрессии. Гипотеза Но .
Д = 0 отклоняется на уровне значимости а = 0,05, так как доверительный интервал для Д, приведенный выше, не накрывает нуль с доверительной вероятностью 0,95. Этот же результат получим, используя для проверки гипотезы Но статистику (16). Выборочное значение этой статистики (и — 2) ля 15 24618,57 (;>, 420,19 Так как квантиль распределения Фишера Г1 (1, и — 2) = Го ээ(1,15) = = 4,54 (таблнца П7), что меньше выборочного значения статистики Р„ гипотеза Но отклоняется на уровне значимости а = 0,05. Таким абразом, линейная регрессия У на х статистически значима. > 19.321*.
Какое распределение имеют оценки параметров линейной регрессии )эо и А? 19.322а. Показать, что границы доверительных интервалов для параметров линейной регрессии имеют вид г Ро ~ 11 уэ (и — 2) а ~ —, иЯ 11 Д ш11 оуэ (и — 2) а ~( —. Ях Здесь ср(и — 2) — квантиль распределения Стьюдента с и — 2 степенями свободы порядка р, а а = ь/Р, где аэ — остаточная дисперсия. 3 7. Элементы рег ессионного анализа 307 19.323*. Показать, что границы доверительного интервала для среднего значения Уо, соответствующего заданному значению х = = хо, определяются формулой 1 (хо — х)2 Уо ~ 11- (г(п — 2) а + и ~х 19.324*.
Показать, что доверительный интервал для дисперсии ошибок наблюдений ог имеет вид (и — 2) аг (п — 2) аг 2 2 ж1 .72(п - 2) х.72(п - 2) где 1срг(п — 2) — квантиль распределения Хг с п — 2 степенями свободы, а а — остаточная дисперсия. 2 19.325». Найти оценки параметров линейной регрессии (1), используя метод максимального правдоподобия. 19.326*. Показать тождество Я„ = Щ + 4~, 19.327*.
Вывести формулы (15) для вычисления суммы квадратов, обусловленной регрессией Да. 19.328~. Показать, что если верна гипотеза Но. р1 = О, то (п — 2) 9~ Я(~ статистика = — '* имеет распределение Фишера с 1 г и и — 2 степенями свободы. В задачах 19.329-19.332 по заданным выборкам найти оценки для параметров линейной регрессии У на х, проверить значимость линейной регрессии и вычислить коэффициент корреляпии. Найти границы доверительных интервалов для параметров линейной модели и для среднего значения У при х = хо. Предполагается, что ошибки наблюдений независимы и имеют нормальное распределение М(0, о).
Уровень значимости а задается. При вычислении следует использовать значения сумм переменных, их квадратов и попарных произведений. 15 2 3 3 10 14 19.329. 14,39 9,45 7,05 5,32 16,94 1,97 х; = 86, ~~~ у1 = 98,26, "~ хг = 868, ~ у~ = 1087,91, ~ х;у, = 682,25, гт = 0,05. Гл.19. Математическая статистика 308 х 27 46 63 78 92 106 120 134 147 в 17,0 16,2 13,3 13,0 9,7 9,9 6,2 6,8 6,7 х;=813, »» у;=968, ~ х2 =86563, уэ = 1194, ,'» х,у, = 735>7) а = 0,10. х 7,9 11,6 12,8 14,9 16,3 18,6 20,3 21,9 23,6 19.331 у 13,0 22,6 24,8 28,6 31,6 38,7 40,0 44,9 43,0 х, = 147,9, ~ у; = 287,4, ,'» хэ = 2643,13, у; = 10083,1, ~~ х»у» = 5155,77, а = 0,01.
х 1 2 3 4 6 6 7 8 9 у 0,21 0,32 0,68 1,02 1,76 2,66 3,76 6,07 6,62 х, = 153, » у, = 155,82, ~у хэ = 1785, у; = 2666,37, ~~» х;у; = 2080,25, а = 0,05. Линейная регрессионная модель называется адеквоо»яой, если предсказанные по ней значения переменной У согласуются с результатами наблюдений. Грубая оценка адекватности модели может быть проведена непосредственно по графику остатков, т.е.
разностей между наблюдаемыми значениями у; и вычисленными значениями 9„4 = 1, 2,..., я. Если модель адекватна, то остатки е; являются реализациями случайных ошибок наблюдений сн 1 = 1, 2, ..., и, которые в силу предположений (5) должны быть независимыми нормально распределенными случайными величинами с нулевыми средними и одинаковыми дисперсиями»г~. Проверка выполнения этих предположений различными статистическими методами и лежит в основе оценки адекватности по графику остатков ([12, гл. 3]).
Если для каждого или некоторых значений переменной х имеется несколько повторных наблюдений случайной величины У, то для проверки адекватности модели можно использовать следую»цую процедуру. Пусть повторные наблюдения получены при различных значениях х», хэ, ..., хж переменной х, причем при х = х; произведено я; наблюдений У, где ~~ я; = я — объем всей выборки наблюдений. Обозначим »=1 у;»э у = 1, 2, ..., ян результаты повторных наблюдений У при х = хо 3 7. Элементы регрессионного анализа 309 !в'в — ~' ~Х' (Уи У, ) в=! у=! (19) Тождество (18) легко доказывается.
Для этого обе части равенства (Уо У!) (Уу! Уе) (У! У!) нужно возвести в квадрат н просуммировать по ! и /. Как н в случае однофакторного дисперсионного анализа (3 5), можно показать, что если линейная регрессия адекватна данным, то статистики Я„/аэ и 1'„1р/аэ независимы и имеют распределение Хэ с гп — 2 и и — т степенями свободы, следовательно отношение Я»/(т — 2) = Г(т — 2, и — т) (20) имеет распределение Фишера. Статистика (20) используется для проверки адекватности линейной регрессии. Если выборочное значение статистики (20) удовлетворяет условию Р,(Е!»(т — 2,п — т), то гипотеза об адекватности линейной регрессии результатам наблюде- ний принимается и остаточную дисперсию вэ = — можно использои — 2 вать в качестве оценки дисперсии оэ, найти доверительные интервалы для параметров линейной регрессии и проверить гипотезы о параметрах.
В противном случае нужно попытаться использовать другую модель, например параболическую регрессию. Пример 2. Найти оценки параметров линейной регрессии по сле- луюшим данным: х 1 1 2 2 3 3 2,7 2,7 4,3 4,3 4,3 5,0 5,0 у 0,5 0,1 0,5 1,2 1,2 1,7 0,9 2,2 1,1 1,7 2,5 2,0 2,2 Проверить адекватность регрессии этим данным. Принять а = 0,05. Если модель адекватна наблюдаемым данным, то средние п; на- 1 % блюдений, т.е. у; = — у уй, ! = 1, 2, ..., т, должны быть близки и! !'=! к вычисленным значениям у,. Следовательно, сумма квадратов (,>„= ~»», !» (у, — у,) = ~~ п,(у; — у;) является мерой неадекватности в=! у=! !=! модели. Остаточная сумма квадратов Я, может быть разбита на две суммы: Я. =О +О, (18) где 1ер — сумма квадратов чистой ошибки: Гл.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
