AlexgpgMathstat (методичка по ТВиМС(МАИ))
Описание файла
Файл "AlexgpgMathstat" внутри архива находится в следующих папках: методичка по ТВиМС(МАИ), Generated. PDF-файл из архива "методичка по ТВиМС(МАИ)", который расположен в категории "". Всё это находится в предмете "теория вероятностей и математическая статистика" из 4 семестр, которые можно найти в файловом архиве МАИ. Не смотря на прямую связь этого архива с МАИ, его также можно найти и в других разделах. Архив можно найти в разделе "книги и методические указания", в предмете "теория вероятности и математическая статистика" в общих файлах.
Просмотр PDF-файла онлайн
Текст из PDF
Московский авиационный институт(государственный TEXнический университет)Факультет прикладной математикиKафедра «Теория вероятностей»Лабораторная работа по курсу «теория вероятностей и матеметическаястатистика»Студент: А. Г. ПоповПреподаватель: Е. Р. ГоряиноваМосква, 2009Содержание1 Определение порядка модели,МНК оценка вектора θ1Шаг 0. .
. . . . . . . . . . . . .2Шаг 1. . . . . . . . . . . . . . .3Шаг 2. . . . . . . . . . . . . . .4Шаг 3. . . . . . . . . . . . . . .................................................................................................2 График оценки полезного сигнала3 Интервальные оценки для θ1Оценка θ̂0 . . . . . . .
. . .2Оценка θ̂1 . . . . . . . . . .3Оценка θ̂2 . . . . . . . . . .4Оценка Y . . . . . . . . . .5Доверительная трубка . . .и.....y. .. .. .. .. ......444557..............................................................................................................8891011134 Гистограмма по остаткам от регрессии141Вычисления . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . 142Гистограмма . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165 Гипотеза: ошибки наблюдения имеют гауссовское распеределение176 Выводы191Задача:• Написать краткий реферат по методу наименьших квадратов (МНК).• Подобрать порядок модели p , используя критерий Фишера, и оценить векторпараметров θ модели полезного сигнала методом наименьших квадратов.• Построить график оценки полезного сигнала на всем интервале наблюдения [x1 , x2 ].• Найти закон распределения оценки вектора параметров. Построить доверительные интервалы уровня надежности 0.95 и 0.99 для параметров [θ1 , . .
. , θp−1 ]. Дляпроизвольного момента времени найти интервальную оценку полезного сигналанадежности 0.95. Проанализировать полученные результаты• По остаткам от регрессии построить оценку плотности распределения случайной ошибки наблюдения в виде гистограммы.• По остаткам с помощью критерия хи-квадрат К. Пирсона на уровне значимости 0.05 проверить гипотезу о том, что закон распределения ошибки наблюдения действительно является гауссовским.Входной массив X (61 число):1234567891011[−5.0, −4.8, −4.6, −4.4, −4.2, −4.0, −3.8, −3.6, −3.4, −3.2, −3.0,−2.8, −2.6, −2.4, −2.2, −2.0, −1.8, −1.6, −1.4, −1.2, −1.0,−0.8, −0.6, −0.4, −0.2, 0.0, 0.2, 0.4, 0.6, 0.8, 1.0, 1.2, 1.4,1.6, 1.8, 2.0, 2.2, 2.4, 2.6, 2.8, 3.0, 3.2, 3.4, 3.6, 3.8,4.0, 4.2, 4.4, 4.6, 4.8, 5.0, 5.2, 5.4, 5.6, 5.8, 6.0, 6.2,6.4, 6.6, 6.8, 7.02Выходной массив Y для 9 варианта (61 число):1234567[24.4, 19.8, 7.80, 24.8, 16.3, 9.15, −7.98, −2.95, 6.78, −1.40,9.68, 6.81, −6.91, 8.72, 13.1, −9.56, −8.58, 1.25, 1.75, 13.9,14.0, 2.81, 11.0, 6.21, 6.80, −0.49, 5.70, 14.9, 9.25, −4.42,10.5, 5.82, 5.89, 2.93, 11.7, 3.45, 23.9, 9.87, 13.1, −1.7,22.0, 19.9, 21.3, 14.0, 30.9, 35.2, 20.9, 38.0, 27.1, 39.2,45.5, 55.9, 37.6, 33.0, 46.2, 43.8, 59.7, 47.5, 58.2, 57.6,65.2]31Определение порядка модели,МНК оценка вектора θ1Шаг 0.Предположим, что yi = θ0 + εi .θ̂0 = (X T X)−1 X T Y−1 T= 61.0000X Y T= 0.0164 X Y = 17.9800,,yi = (17.98)2Шаг 1.Предположим, что yi = θ0 + θ1 xi + εi .θ̂1 = (X T X)−1 X T Y−161.0000 61.0000XT Y=61.0000 817.40000.0177 −0.001314.0667T=X Y =3.9133−0.0013 0.0013,,yi = (14.0666684294) + (3.9133315706)xiQn (p) =p−1nXX(yk −(θj xjk ))2 ; Q61 (1) = 21562.5674k=1j=0Q61 (0) − Q61 (1)∼ F (1, 61 − 1 − 1)1Q(1)6161−1−1Квантиль распределения Фишера равна 4.012.
Доверительной областью являетсяинтервал от 0 до 4.012. Kритической областью является интервал от 4.012 до ∞.Значение левой части выражения равно 69.6485250368. Цикл поиска продолжается.43Шаг 2.Предположим, что yi = θ0 + θ1 xi + θ2 x2i + εi .θ̂2 = (X T X)−1 X T Y−161.000061.0000817.4000= 61.0000 817.4000 2330.2000 X T Y817.4000 2330.2000 21476.19680.03500.0017 −0.00153.52420.0019 −0.0003 X T Y = 2.0638= 0.0017−0.0015 −0.0003 0.00010.9248,,yi = (3.52416852864) + (2.0637701845)xi + (0.92478069305)x2ip−1nXXQn (p) =(yk −(θj xjk ))2 ; Q61 (2) = 9978.93376444k=1j=0Q61 (1) − Q61 (2)∼ F (1, 61 − 1 − 2)1Q (2)61−1−2 61Квантиль распределения Фишера равна 4.0138.
Доверительной областью являетсяинтервал от 0 до 4.0138. Kритической областью является интервал от 4.0138 до ∞.Значение левой части выражения равно 106.057540521. Цикл поиска продолжается.4Шаг 3.Предположим, что yi = θ0 + θ1 xi + θ2 x2i + θ3 x3i + εi .5θ̂3 = (X T X)−1 X T Y−161.000061.0000817.40002330.2000 61.0000817.40002330.2000 21476.1968 T= 817.4000 2330.2000 21476.1968 92008.9840 X Y2330.2000 21476.1968 92008.9840 712678.14750.0414 −0.0040 −0.0024 0.00033.2713−0.0040 0.00710.0005 −0.0003 X T Y = 2.2929 =−0.0024 0.0005 0.9604 0.0003 −0.00000.0003 −0.0003 −0.0000 0.0000−0.0119,,yi = (3.27131660478) + (2.2928935119)xi + (0.960373587737)x2i + (−0.0118642982292)x3iQn (p) =p−1nXX(yk −(θj xjk ))2 ; Q61 (3) = 3566.98088585k=1j=0Q61 (2) − Q61 (3)∼ F (1, 61 − 1 − 3)1Q(3)6161−1−3Квантиль распределения Фишера равна 4.0156.
Доверительной областью являетсяинтервал от 0 до 4.0156. Kритической областью является интервал от 4.0156 до ∞.Значение левой части выражения равно 0.164261123641. Оно попадает в доверительный интервал. Цикл поиска остановлен. Порядок полинома равен 2, коэффициентыберем из шага 3. В итоге наш полином равен yi = (3.52416852864)+(2.0637701845)xi +(0.92478069305)x2i .62График оценки полезного сигналаНа графике точками изображен график реального сигнала.Синем цветом показана фунция yi = (17.98)Зеленым — yi = (14.0666684294) + (3.9133315706)xiКрасным — yi = (3.52416852864) + (2.0637701845)xi + (0.92478069305)x2i73Интервальные оценки для θ и yТак как θ̂ − θ ∼ N (0, σ 2 (X T X)−1 ), тоНапомним, что0.03500.0017T−10.0019(X X) = 0.0017−0.0015 −0.0003θ̂ ∼ N (θ, σ 2 (X T X)−1 ).−0.00153.5242−0.0003 ; θ̂ = 2.0638 ; σ 2 = 61.4996704457;0.00010.9248Построим доверительные интервалы для каждого элемента из heta.1Оценка θ̂0Рассмотрим параметр θ̂0θ̂0 ∼ N (θ0 , σ 2 0.0350494184893).Построим доверительные интервалы уровней надёжности 0.95 и 0.99 для этого параметра.
Для N (0, 1) квантили u0.975 = 1.96 и u0.995 = 2.576, соответственно.Возьмем статистикуθ̂i − θiqQ(X T X)−1 [i][i] · n−pθ̂0 − θ0q(X T X)−1 [0][0] ·Q61−3θ̂0 − θ0√0.0350494184893 · 61.4996704457Она будет распределена по Стьюденту в общем случае. С учётом достаточно большого n = 61, можно говорить о нормальном распеределении. Построим эти интервалы:P (−u0.975 < qθ̂i − θi(X T X)−1 [i][i] ·Qn−p< u0.975 ) = 0.953.52416852864 − θ0< u0.975 ) = 0.951.46817154529P (0.646552 < θ0 < 6.401785) = 0.95P (−u0.975 <8P (−u0.995 < qθ̂i − θi(X T X)−1 [i][i] ·Qn−p< u0.995 ) = 0.993.52416852864 − θ0< u0.995 ) = 0.991.46817154529P (−0.257841 < θ0 < 7.306178) = 0.99P (−u0.995 <Доверительный интервал для θ0 на уровне надежности 0.95 — [0.646552, 6.401785]Доверительный интервал для θ0 на уровне надежности 0.99 — [−0.257841, 7.306178]2Оценка θ̂1Рассмотрим параметр θ̂1θ̂1 ∼ N (θ1 , σ 2 0.00185556749208).Построим доверительные интервалы уровней надёжности 0.95 и 0.99 для этого параметра.
Для N (0, 1) квантили u0.975 = 1.96 и u0.995 = 2.576, соответственно.Возьмем статистикуθ̂i − θiqQ(X T X)−1 [i][i] · n−pθ̂1 − θ1q(X T X)−1 [1][1] ·Q61−3θ̂1 − θ10.00185556749208 · 61.4996704457Она будет распределена по Стьюденту в общем случае.
С учётом достаточно большого n = 61, можно говорить о нормальном распеределении. Построим эти интервалы:√P (−u0.975 < qθ̂i − θi(X T X)−1 [i][i] ·Qn−p< u0.975 ) = 0.952.0637701845 − θ1< u0.975 ) = 0.950.337811766007P (1.401659 < θ1 < 2.725881) = 0.95P (−u0.975 <9P (−u0.995 < qθ̂i − θi(X T X)−1 [i][i] ·Qn−p< u0.995 ) = 0.992.0637701845 − θ1< u0.995 ) = 0.990.337811766007P (1.193567 < θ1 < 2.933973) = 0.99P (−u0.995 <Доверительный интервал для θ1 на уровне надежности 0.95 — [1.401659, 2.725881]Доверительный интервал для θ1 на уровне надежности 0.99 — [1.193567, 2.933973]3Оценка θ̂2Рассмотрим параметр θ̂2θ̂2 ∼ N (θ2 , σ 2 0.000133378916912).Построим доверительные интервалы уровней надёжности 0.95 и 0.99 для этого параметра.
Для N (0, 1) квантили u0.975 = 1.96 и u0.995 = 2.576, соответственно.Возьмем статистикуθ̂i − θiqQ(X T X)−1 [i][i] · n−pθ̂2 − θ2q(X T X)−1 [2][2] ·Q61−3θ̂2 − θ2√0.000133378916912 · 61.4996704457Она будет распределена по Стьюденту в общем случае. С учётом достаточно большого n = 61, можно говорить о нормальном распеределении. Построим эти интервалы:P (−u0.975 < qθ̂i − θi(X T X)−1 [i][i] ·Qn−p< u0.975 ) = 0.950.92478069305 − θ2< u0.975 ) = 0.950.0905690865278P (0.747265 < θ2 < 1.102296) = 0.95P (−u0.975 <10P (−u0.995 < qθ̂i − θi(X T X)−1 [i][i] ·Qn−p< u0.995 ) = 0.990.92478069305 − θ2< u0.995 ) = 0.990.0905690865278P (0.691475 < θ2 < 1.158087) = 0.99P (−u0.995 <Доверительный интервал для θ2 на уровне надежности 0.95 — [0.747265, 1.102296]Доверительный интервал для θ2 на уровне надежности 0.99 — [0.691475, 1.158087]4Оценка YРассмотрим интервальную оценку полезного сигнала Ŷ для произвольного моментавремени x на уровне надёжности 0.95.Ŷ ∼ N (Y ; K̂Yn ),K̂Yn = cov(∆Ŷn , ∆Ŷn ) = σ 2 L(X T X)−1 LTL = hT = 1 x x23.5242σ 2 = 61.4996704457; θ̂ = 2.0638 ;0.9248(X T X)−10.03500.0017 −0.00150.0019 −0.0003 ;= 0.0017−0.0015 −0.0003 0.0001Используя, символьные вычисления (ну или листок бумаги), получим 0.03500.0017 −0.001512T−1 T2 0.00170.0019 −0.0003x =σ L(X X) L = 1 x x−0.0015 −0.0003 0.0001x22.1555 + 0.2114x − 0.0729x2 − 0.0328x3 + 0.0082x4Возьмем статистикуŶ − Ypσ 2 L(X T X)−1 LT11√Ŷ − Y2.1555 + 0.2114x − 0.0729x2 − 0.0328x3 + 0.0082x4Она будет распределена по Стьюденту в общем случае.