NikitinMathstat (554752)
Текст из файла
Московский авиационный институт(государственный TEXнический университет)Факультет прикладной математикиKафедра «Теория вероятностей»Лабораторная работа по курсу «теория вероятностей и матеметическаястатистика»Студент: И. К. НикитинПреподаватель: Е. Р. ГоряиноваМосква, 2009Содержание1 Определение порядка модели,МНК оценка вектора θ1Шаг 0. . . .
. . . . . . . . . . .2Шаг 1. . . . . . . . . . . . . . .3Шаг 2. . . . . . . . . . . . . . .4Шаг 3. . . . . . . . . . . . . . .................................................................................................2 График оценки полезного сигнала3 Интервальные оценки для θ1Оценка θ̂0 .
. . . . . . . . .2Оценка θ̂1 . . . . . . . . . .3Оценка θ̂2 . . . . . . . . . .4Оценка Y . . . . . . . . . .5Доверительная трубка . . .и.....y. .. .. .. .. ......444557..............................................................................................................8891011134 Гистограмма по остаткам от регрессии141Вычисления . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 142Гистограмма . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165 Гипотеза: ошибки наблюдения имеют гауссовское распеределение176 Выводы191Задача:• Написать краткий реферат по методу наименьших квадратов (МНК).• Подобрать порядок модели p , используя критерий Фишера, и оценить векторпараметров θ модели полезного сигнала методом наименьших квадратов.• Построить график оценки полезного сигнала на всем интервале наблюдения [x1 , x2 ].• Найти закон распределения оценки вектора параметров. Построить доверительные интервалы уровня надежности 0.95 и 0.99 для параметров [θ1 , . . . , θp−1 ]. Дляпроизвольного момента времени найти интервальную оценку полезного сигналанадежности 0.95. Проанализировать полученные результаты• По остаткам от регрессии построить оценку плотности распределения случайной ошибки наблюдения в виде гистограммы.• По остаткам с помощью критерия хи-квадрат К.
Пирсона на уровне значимости 0.05 проверить гипотезу о том, что закон распределения ошибки наблюдения действительно является гауссовским.Входной массив X (61 число):1234567891011[−5.0, −4.8, −4.6, −4.4, −4.2, −4.0, −3.8, −3.6, −3.4, −3.2, −3.0,−2.8, −2.6, −2.4, −2.2, −2.0, −1.8, −1.6, −1.4, −1.2, −1.0,−0.8, −0.6, −0.4, −0.2, 0.0, 0.2, 0.4, 0.6, 0.8, 1.0, 1.2, 1.4,1.6, 1.8, 2.0, 2.2, 2.4, 2.6, 2.8, 3.0, 3.2, 3.4, 3.6, 3.8,4.0, 4.2, 4.4, 4.6, 4.8, 5.0, 5.2, 5.4, 5.6, 5.8, 6.0, 6.2,6.4, 6.6, 6.8, 7.02Выходной массив Y для 9 варианта (61 число):12345678910111213[−53.9, −51.8, −56.4, −37.6, −39.2, −40.4, −49.5, −41.5, −29.6,−32.2, −19.9, −18.8, −26.8, −11.2, −5.01, −20.8, −17.7, −7.88,−5.70, 5.63, 6.96, −0.857, 6.61, 3.42, 4.33, −1.30, 3.65,10.8, 5.79, −5.84, 5.21, 0.328, −0.97, −4.92, 0.27, −8.34,5.84, −7.92, −8.00, −22.8, −6.90, −11.9, −14.7, −24.2, −14.5,−15.5, −31.4, −22.6, −36.2, −31.5, −32.0, −29.1, −49.8, −59.6,−55.1, −63.7, −57.5, −74.5, −73.1, −80.7, −82.4]31Определение порядка модели,МНК оценка вектора θ1Шаг 0.Предположим, что yi = θ0 + εi .θ̂0 = (X T X)−1 X T Y−1 T= 61.0000X Y T= 0.0164 X Y = −23.5229,,yi = (−23.5229344262)2Шаг 1.Предположим, что yi = θ0 + θ1 xi + εi .θ̂1 = (X T X)−1 X T Y−161.0000 61.0000XT Y=61.0000 817.40000.0177 −0.0013−21.5586T=X Y =−1.9643−0.0013 0.0013,,yi = (−21.5586168694) + (−1.96431755685)xiQn (p) =p−1nXX(yk −(θj xjk ))2 ; Q61 (1) = 37040.1014477k=1j=0Q61 (0) − Q61 (1)∼ F (1, 61 − 1 − 1)1Q(1)6161−1−1Квантиль распределения Фишера равна 4.012.
Доверительной областью являетсяинтервал от 0 до 4.012. Kритической областью является интервал от 4.012 до ∞.Значение левой части выражения равно 5.13213489527. Цикл поиска продолжается.43Шаг 2.Предположим, что yi = θ0 + θ1 xi + θ2 x2i + εi .θ̂2 = (X T X)−1 X T Y−161.000061.0000817.4000= 61.0000 817.4000 2330.2000 X T Y817.4000 2330.2000 21476.19680.03500.0017 −0.00151.92670.0019 −0.0003 X T Y = 2.1559 = 0.0017−0.0015 −0.0003 0.0001−2.0601,,yi = (1.92671594516) + (2.15591627026)xi + (−2.06011691356)x2ip−1nXXQn (p) =(yk −(θj xjk ))2 ; Q61 (2) = 34121.4991715k=1j=0Q61 (1) − Q61 (2)∼ F (1, 61 − 1 − 2)1Q (2)61−1−2 61Квантиль распределения Фишера равна 4.0138. Доверительной областью являетсяинтервал от 0 до 4.0138. Kритической областью является интервал от 4.0138 до ∞.Значение левой части выражения равно 815.619504854.
Цикл поиска продолжается.4Шаг 3.Предположим, что yi = θ0 + θ1 xi + θ2 x2i + θ3 x3i + εi .5θ̂3 = (X T X)−1 X T Y−161.000061.0000817.40002330.2000 61.0000817.40002330.2000 21476.1968 T= 817.4000 2330.2000 21476.1968 92008.9840 X Y2330.2000 21476.1968 92008.9840 712678.14750.0414 −0.0040 −0.0024 0.00031.7208−0.0040 0.00710.0005 −0.0003 X T Y = 2.3425 =−0.0024 0.0005−2.03110.0003 −0.00000.0003 −0.0003 −0.0000 0.0000−0.0097,,yi = (1.72084507555) + (2.34246742614)xi + (−2.03113734295)x2i + (−0.00965985686993)x3iQn (p) =p−1nXX(yk −(θj xjk ))2 ; Q61 (3) = 2301.76487026k=1j=0Q61 (2) − Q61 (3)∼ F (1, 61 − 1 − 3)1Q(3)6161−1−3Квантиль распределения Фишера равна 4.0156. Доверительной областью являетсяинтервал от 0 до 4.0156.
Kритической областью является интервал от 4.0156 до ∞.Значение левой части выражения равно 0.168758425908. Оно попадает в доверительный интервал. Цикл поиска остановлен. Порядок полинома равен 2, коэффициентыберем из шага 3. В итоге наш полином равен yi = (1.92671594516)+(2.15591627026)xi +(−2.06011691356)x2i .62График оценки полезного сигналаНа графике точками изображен график реального сигнала.Синем цветом показана фунция yi = (−23.5229344262)Зеленым — yi = (−21.5586168694) + (−1.96431755685)xiКрасным — yi = (1.92671594516) + (2.15591627026)xi + (−2.06011691356)x2i73Интервальные оценки для θ и yТак как θ̂ − θ ∼ N (0, σ 2 (X T X)−1 ), тоНапомним, что0.03500.0017T−10.0019(X X) = 0.0017−0.0015 −0.0003θ̂ ∼ N (θ, σ 2 (X T X)−1 ).−0.00151.9267−0.0003 ; θ̂ = 2.1559 ; σ 2 = 39.6856012114;0.0001−2.0601Построим доверительные интервалы для каждого элемента из heta.1Оценка θ̂0Рассмотрим параметр θ̂0θ̂0 ∼ N (θ0 , σ 2 0.0350494184893).Построим доверительные интервалы уровней надёжности 0.95 и 0.99 для этого параметра.
Для N (0, 1) квантили u0.975 = 1.96 и u0.995 = 2.576, соответственно.Возьмем статистикуθ̂i − θiqQ(X T X)−1 [i][i] · n−pθ̂0 − θ0q(X T X)−1 [0][0] ·Q61−3θ̂0 − θ0√0.0350494184893 · 39.6856012114Она будет распределена по Стьюденту в общем случае. С учётом достаточно большого n = 61, можно говорить о нормальном распеределении. Построим эти интервалы:P (−u0.975 < qθ̂i − θi(X T X)−1 [i][i] ·Qn−p< u0.975 ) = 0.951.92671594516 − θ0< u0.975 ) = 0.951.17938850463P (−0.384886 < θ0 < 4.238317) = 0.95P (−u0.975 <8P (−u0.995 < qθ̂i − θi(X T X)−1 [i][i] ·Qn−p< u0.995 ) = 0.991.92671594516 − θ0< u0.995 ) = 0.991.17938850463P (−1.111389 < θ0 < 4.964821) = 0.99P (−u0.995 <Доверительный интервал для θ0 на уровне надежности 0.95 — [−0.384886, 4.238317]Доверительный интервал для θ0 на уровне надежности 0.99 — [−1.111389, 4.964821]2Оценка θ̂1Рассмотрим параметр θ̂1θ̂1 ∼ N (θ1 , σ 2 0.00185556749208).Построим доверительные интервалы уровней надёжности 0.95 и 0.99 для этого параметра.
Для N (0, 1) квантили u0.975 = 1.96 и u0.995 = 2.576, соответственно.Возьмем статистикуθ̂i − θiqQ(X T X)−1 [i][i] · n−pθ̂1 − θ1q(X T X)−1 [1][1] ·Q61−3θ̂1 − θ10.00185556749208 · 39.6856012114Она будет распределена по Стьюденту в общем случае. С учётом достаточно большого n = 61, можно говорить о нормальном распеределении. Построим эти интервалы:√P (−u0.975 < qθ̂i − θi(X T X)−1 [i][i] ·Qn−p< u0.975 ) = 0.952.15591627026 − θ1< u0.975 ) = 0.950.27136564173P (1.624040 < θ1 < 2.687793) = 0.95P (−u0.975 <9P (−u0.995 < qθ̂i − θi(X T X)−1 [i][i] ·Qn−p< u0.995 ) = 0.992.15591627026 − θ1< u0.995 ) = 0.990.27136564173P (1.456878 < θ1 < 2.854954) = 0.99P (−u0.995 <Доверительный интервал для θ1 на уровне надежности 0.95 — [1.624040, 2.687793]Доверительный интервал для θ1 на уровне надежности 0.99 — [1.456878, 2.854954]3Оценка θ̂2Рассмотрим параметр θ̂2θ̂2 ∼ N (θ2 , σ 2 0.000133378916912).Построим доверительные интервалы уровней надёжности 0.95 и 0.99 для этого параметра.
Для N (0, 1) квантили u0.975 = 1.96 и u0.995 = 2.576, соответственно.Возьмем статистикуθ̂i − θiqQ(X T X)−1 [i][i] · n−pθ̂2 − θ2q(X T X)−1 [2][2] ·Q61−3θ̂2 − θ2√0.000133378916912 · 39.6856012114Она будет распределена по Стьюденту в общем случае. С учётом достаточно большого n = 61, можно говорить о нормальном распеределении. Построим эти интервалы:P (−u0.975 < qθ̂i − θi(X T X)−1 [i][i] ·Qn−p< u0.975 ) = 0.95−2.06011691356 − θ2< u0.975 ) = 0.950.0727545359862P (−2.202716 < θ2 < −1.917518) = 0.95P (−u0.975 <10P (−u0.995 < qθ̂i − θi(X T X)−1 [i][i] ·Qn−p< u0.995 ) = 0.99−2.06011691356 − θ2< u0.995 ) = 0.990.0727545359862P (−2.247533 < θ2 < −1.872701) = 0.99P (−u0.995 <Доверительный интервал для θ2 на уровне надежности 0.95 — [−2.202716, −1.917518]Доверительный интервал для θ2 на уровне надежности 0.99 — [−2.247533, −1.872701]4Оценка YРассмотрим интервальную оценку полезного сигнала Ŷ для произвольного моментавремени x на уровне надёжности 0.95.Ŷ ∼ N (Y ; K̂Yn ),K̂Yn = cov(∆Ŷn , ∆Ŷn ) = σ 2 L(X T X)−1 LTL = hT = 1 x x21.9267σ 2 = 39.6856012114; θ̂ = 2.1559 ;−2.0601(X T X)−10.03500.0017 −0.00150.0019 −0.0003 ;= 0.0017−0.0015 −0.0003 0.0001Используя, символьные вычисления (ну или листок бумаги), получим 0.03500.0017 −0.001512T−1 T2 0.00170.0019 −0.0003x =σ L(X X) L = 1 x x−0.0015 −0.0003 0.0001x21.3909 + 0.1364x − 0.0470x2 − 0.0211x3 + 0.0052x4Возьмем статистикуŶ − Ypσ 2 L(X T X)−1 LT11√Ŷ − Y1.3909 + 0.1364x − 0.0470x2 − 0.0211x3 + 0.0052x4Она будет распределена по Стьюденту в общем случае.
Характеристики
Тип файла PDF
PDF-формат наиболее широко используется для просмотра любого типа файлов на любом устройстве. В него можно сохранить документ, таблицы, презентацию, текст, чертежи, вычисления, графики и всё остальное, что можно показать на экране любого устройства. Именно его лучше всего использовать для печати.
Например, если Вам нужно распечатать чертёж из автокада, Вы сохраните чертёж на флешку, но будет ли автокад в пункте печати? А если будет, то нужная версия с нужными библиотеками? Именно для этого и нужен формат PDF - в нём точно будет показано верно вне зависимости от того, в какой программе создали PDF-файл и есть ли нужная программа для его просмотра.