NikitinMathstat (методичка по ТВиМС(МАИ))
Описание файла
Файл "NikitinMathstat" внутри архива находится в следующих папках: методичка по ТВиМС(МАИ), Generated. PDF-файл из архива "методичка по ТВиМС(МАИ)", который расположен в категории "". Всё это находится в предмете "теория вероятностей и математическая статистика" из 4 семестр, которые можно найти в файловом архиве МАИ. Не смотря на прямую связь этого архива с МАИ, его также можно найти и в других разделах. Архив можно найти в разделе "книги и методические указания", в предмете "теория вероятности и математическая статистика" в общих файлах.
Просмотр PDF-файла онлайн
Текст из PDF
Московский авиационный институт(государственный TEXнический университет)Факультет прикладной математикиKафедра «Теория вероятностей»Лабораторная работа по курсу «теория вероятностей и матеметическаястатистика»Студент: И. К. НикитинПреподаватель: Е. Р. ГоряиноваМосква, 2009Содержание1 Определение порядка модели,МНК оценка вектора θ1Шаг 0. . . .
. . . . . . . . . . .2Шаг 1. . . . . . . . . . . . . . .3Шаг 2. . . . . . . . . . . . . . .4Шаг 3. . . . . . . . . . . . . . .................................................................................................2 График оценки полезного сигнала3 Интервальные оценки для θ1Оценка θ̂0 .
. . . . . . . . .2Оценка θ̂1 . . . . . . . . . .3Оценка θ̂2 . . . . . . . . . .4Оценка Y . . . . . . . . . .5Доверительная трубка . . .и.....y. .. .. .. .. ......444557..............................................................................................................8891011134 Гистограмма по остаткам от регрессии141Вычисления . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 142Гистограмма . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165 Гипотеза: ошибки наблюдения имеют гауссовское распеределение176 Выводы191Задача:• Написать краткий реферат по методу наименьших квадратов (МНК).• Подобрать порядок модели p , используя критерий Фишера, и оценить векторпараметров θ модели полезного сигнала методом наименьших квадратов.• Построить график оценки полезного сигнала на всем интервале наблюдения [x1 , x2 ].• Найти закон распределения оценки вектора параметров. Построить доверительные интервалы уровня надежности 0.95 и 0.99 для параметров [θ1 , . . . , θp−1 ]. Дляпроизвольного момента времени найти интервальную оценку полезного сигналанадежности 0.95. Проанализировать полученные результаты• По остаткам от регрессии построить оценку плотности распределения случайной ошибки наблюдения в виде гистограммы.• По остаткам с помощью критерия хи-квадрат К.
Пирсона на уровне значимости 0.05 проверить гипотезу о том, что закон распределения ошибки наблюдения действительно является гауссовским.Входной массив X (61 число):1234567891011[−5.0, −4.8, −4.6, −4.4, −4.2, −4.0, −3.8, −3.6, −3.4, −3.2, −3.0,−2.8, −2.6, −2.4, −2.2, −2.0, −1.8, −1.6, −1.4, −1.2, −1.0,−0.8, −0.6, −0.4, −0.2, 0.0, 0.2, 0.4, 0.6, 0.8, 1.0, 1.2, 1.4,1.6, 1.8, 2.0, 2.2, 2.4, 2.6, 2.8, 3.0, 3.2, 3.4, 3.6, 3.8,4.0, 4.2, 4.4, 4.6, 4.8, 5.0, 5.2, 5.4, 5.6, 5.8, 6.0, 6.2,6.4, 6.6, 6.8, 7.02Выходной массив Y для 9 варианта (61 число):12345678910111213[−53.9, −51.8, −56.4, −37.6, −39.2, −40.4, −49.5, −41.5, −29.6,−32.2, −19.9, −18.8, −26.8, −11.2, −5.01, −20.8, −17.7, −7.88,−5.70, 5.63, 6.96, −0.857, 6.61, 3.42, 4.33, −1.30, 3.65,10.8, 5.79, −5.84, 5.21, 0.328, −0.97, −4.92, 0.27, −8.34,5.84, −7.92, −8.00, −22.8, −6.90, −11.9, −14.7, −24.2, −14.5,−15.5, −31.4, −22.6, −36.2, −31.5, −32.0, −29.1, −49.8, −59.6,−55.1, −63.7, −57.5, −74.5, −73.1, −80.7, −82.4]31Определение порядка модели,МНК оценка вектора θ1Шаг 0.Предположим, что yi = θ0 + εi .θ̂0 = (X T X)−1 X T Y−1 T= 61.0000X Y T= 0.0164 X Y = −23.5229,,yi = (−23.5229344262)2Шаг 1.Предположим, что yi = θ0 + θ1 xi + εi .θ̂1 = (X T X)−1 X T Y−161.0000 61.0000XT Y=61.0000 817.40000.0177 −0.0013−21.5586T=X Y =−1.9643−0.0013 0.0013,,yi = (−21.5586168694) + (−1.96431755685)xiQn (p) =p−1nXX(yk −(θj xjk ))2 ; Q61 (1) = 37040.1014477k=1j=0Q61 (0) − Q61 (1)∼ F (1, 61 − 1 − 1)1Q(1)6161−1−1Квантиль распределения Фишера равна 4.012.
Доверительной областью являетсяинтервал от 0 до 4.012. Kритической областью является интервал от 4.012 до ∞.Значение левой части выражения равно 5.13213489527. Цикл поиска продолжается.43Шаг 2.Предположим, что yi = θ0 + θ1 xi + θ2 x2i + εi .θ̂2 = (X T X)−1 X T Y−161.000061.0000817.4000= 61.0000 817.4000 2330.2000 X T Y817.4000 2330.2000 21476.19680.03500.0017 −0.00151.92670.0019 −0.0003 X T Y = 2.1559 = 0.0017−0.0015 −0.0003 0.0001−2.0601,,yi = (1.92671594516) + (2.15591627026)xi + (−2.06011691356)x2ip−1nXXQn (p) =(yk −(θj xjk ))2 ; Q61 (2) = 34121.4991715k=1j=0Q61 (1) − Q61 (2)∼ F (1, 61 − 1 − 2)1Q (2)61−1−2 61Квантиль распределения Фишера равна 4.0138. Доверительной областью являетсяинтервал от 0 до 4.0138. Kритической областью является интервал от 4.0138 до ∞.Значение левой части выражения равно 815.619504854.
Цикл поиска продолжается.4Шаг 3.Предположим, что yi = θ0 + θ1 xi + θ2 x2i + θ3 x3i + εi .5θ̂3 = (X T X)−1 X T Y−161.000061.0000817.40002330.2000 61.0000817.40002330.2000 21476.1968 T= 817.4000 2330.2000 21476.1968 92008.9840 X Y2330.2000 21476.1968 92008.9840 712678.14750.0414 −0.0040 −0.0024 0.00031.7208−0.0040 0.00710.0005 −0.0003 X T Y = 2.3425 =−0.0024 0.0005−2.03110.0003 −0.00000.0003 −0.0003 −0.0000 0.0000−0.0097,,yi = (1.72084507555) + (2.34246742614)xi + (−2.03113734295)x2i + (−0.00965985686993)x3iQn (p) =p−1nXX(yk −(θj xjk ))2 ; Q61 (3) = 2301.76487026k=1j=0Q61 (2) − Q61 (3)∼ F (1, 61 − 1 − 3)1Q(3)6161−1−3Квантиль распределения Фишера равна 4.0156. Доверительной областью являетсяинтервал от 0 до 4.0156.
Kритической областью является интервал от 4.0156 до ∞.Значение левой части выражения равно 0.168758425908. Оно попадает в доверительный интервал. Цикл поиска остановлен. Порядок полинома равен 2, коэффициентыберем из шага 3. В итоге наш полином равен yi = (1.92671594516)+(2.15591627026)xi +(−2.06011691356)x2i .62График оценки полезного сигналаНа графике точками изображен график реального сигнала.Синем цветом показана фунция yi = (−23.5229344262)Зеленым — yi = (−21.5586168694) + (−1.96431755685)xiКрасным — yi = (1.92671594516) + (2.15591627026)xi + (−2.06011691356)x2i73Интервальные оценки для θ и yТак как θ̂ − θ ∼ N (0, σ 2 (X T X)−1 ), тоНапомним, что0.03500.0017T−10.0019(X X) = 0.0017−0.0015 −0.0003θ̂ ∼ N (θ, σ 2 (X T X)−1 ).−0.00151.9267−0.0003 ; θ̂ = 2.1559 ; σ 2 = 39.6856012114;0.0001−2.0601Построим доверительные интервалы для каждого элемента из heta.1Оценка θ̂0Рассмотрим параметр θ̂0θ̂0 ∼ N (θ0 , σ 2 0.0350494184893).Построим доверительные интервалы уровней надёжности 0.95 и 0.99 для этого параметра.
Для N (0, 1) квантили u0.975 = 1.96 и u0.995 = 2.576, соответственно.Возьмем статистикуθ̂i − θiqQ(X T X)−1 [i][i] · n−pθ̂0 − θ0q(X T X)−1 [0][0] ·Q61−3θ̂0 − θ0√0.0350494184893 · 39.6856012114Она будет распределена по Стьюденту в общем случае. С учётом достаточно большого n = 61, можно говорить о нормальном распеределении. Построим эти интервалы:P (−u0.975 < qθ̂i − θi(X T X)−1 [i][i] ·Qn−p< u0.975 ) = 0.951.92671594516 − θ0< u0.975 ) = 0.951.17938850463P (−0.384886 < θ0 < 4.238317) = 0.95P (−u0.975 <8P (−u0.995 < qθ̂i − θi(X T X)−1 [i][i] ·Qn−p< u0.995 ) = 0.991.92671594516 − θ0< u0.995 ) = 0.991.17938850463P (−1.111389 < θ0 < 4.964821) = 0.99P (−u0.995 <Доверительный интервал для θ0 на уровне надежности 0.95 — [−0.384886, 4.238317]Доверительный интервал для θ0 на уровне надежности 0.99 — [−1.111389, 4.964821]2Оценка θ̂1Рассмотрим параметр θ̂1θ̂1 ∼ N (θ1 , σ 2 0.00185556749208).Построим доверительные интервалы уровней надёжности 0.95 и 0.99 для этого параметра.
Для N (0, 1) квантили u0.975 = 1.96 и u0.995 = 2.576, соответственно.Возьмем статистикуθ̂i − θiqQ(X T X)−1 [i][i] · n−pθ̂1 − θ1q(X T X)−1 [1][1] ·Q61−3θ̂1 − θ10.00185556749208 · 39.6856012114Она будет распределена по Стьюденту в общем случае. С учётом достаточно большого n = 61, можно говорить о нормальном распеределении. Построим эти интервалы:√P (−u0.975 < qθ̂i − θi(X T X)−1 [i][i] ·Qn−p< u0.975 ) = 0.952.15591627026 − θ1< u0.975 ) = 0.950.27136564173P (1.624040 < θ1 < 2.687793) = 0.95P (−u0.975 <9P (−u0.995 < qθ̂i − θi(X T X)−1 [i][i] ·Qn−p< u0.995 ) = 0.992.15591627026 − θ1< u0.995 ) = 0.990.27136564173P (1.456878 < θ1 < 2.854954) = 0.99P (−u0.995 <Доверительный интервал для θ1 на уровне надежности 0.95 — [1.624040, 2.687793]Доверительный интервал для θ1 на уровне надежности 0.99 — [1.456878, 2.854954]3Оценка θ̂2Рассмотрим параметр θ̂2θ̂2 ∼ N (θ2 , σ 2 0.000133378916912).Построим доверительные интервалы уровней надёжности 0.95 и 0.99 для этого параметра.
Для N (0, 1) квантили u0.975 = 1.96 и u0.995 = 2.576, соответственно.Возьмем статистикуθ̂i − θiqQ(X T X)−1 [i][i] · n−pθ̂2 − θ2q(X T X)−1 [2][2] ·Q61−3θ̂2 − θ2√0.000133378916912 · 39.6856012114Она будет распределена по Стьюденту в общем случае. С учётом достаточно большого n = 61, можно говорить о нормальном распеределении. Построим эти интервалы:P (−u0.975 < qθ̂i − θi(X T X)−1 [i][i] ·Qn−p< u0.975 ) = 0.95−2.06011691356 − θ2< u0.975 ) = 0.950.0727545359862P (−2.202716 < θ2 < −1.917518) = 0.95P (−u0.975 <10P (−u0.995 < qθ̂i − θi(X T X)−1 [i][i] ·Qn−p< u0.995 ) = 0.99−2.06011691356 − θ2< u0.995 ) = 0.990.0727545359862P (−2.247533 < θ2 < −1.872701) = 0.99P (−u0.995 <Доверительный интервал для θ2 на уровне надежности 0.95 — [−2.202716, −1.917518]Доверительный интервал для θ2 на уровне надежности 0.99 — [−2.247533, −1.872701]4Оценка YРассмотрим интервальную оценку полезного сигнала Ŷ для произвольного моментавремени x на уровне надёжности 0.95.Ŷ ∼ N (Y ; K̂Yn ),K̂Yn = cov(∆Ŷn , ∆Ŷn ) = σ 2 L(X T X)−1 LTL = hT = 1 x x21.9267σ 2 = 39.6856012114; θ̂ = 2.1559 ;−2.0601(X T X)−10.03500.0017 −0.00150.0019 −0.0003 ;= 0.0017−0.0015 −0.0003 0.0001Используя, символьные вычисления (ну или листок бумаги), получим 0.03500.0017 −0.001512T−1 T2 0.00170.0019 −0.0003x =σ L(X X) L = 1 x x−0.0015 −0.0003 0.0001x21.3909 + 0.1364x − 0.0470x2 − 0.0211x3 + 0.0052x4Возьмем статистикуŶ − Ypσ 2 L(X T X)−1 LT11√Ŷ − Y1.3909 + 0.1364x − 0.0470x2 − 0.0211x3 + 0.0052x4Она будет распределена по Стьюденту в общем случае.