Н.И. Чернова - Лекции по математической статистике, страница 9
Описание файла
PDF-файл из архива "Н.И. Чернова - Лекции по математической статистике", который расположен в категории "". Всё это находится в предмете "теория вероятностей и математическая статистика" из 3 семестр, которые можно найти в файловом архиве МГУ им. Ломоносова. Не смотря на прямую связь этого архива с МГУ им. Ломоносова, его также можно найти и в других разделах. .
Просмотр PDF-файла онлайн
Текст 9 страницы из PDF
Найдем дисперсию оценки X.JJIIJIНа стр. ... из 179НазадВо весь экранУйтиСтр. 76Dα X =1α2Dα X1 =.nnПодставив дисперсию и информацию Фишера в неравенство Рао — Крамера, получаемравенство:α21Dα X ==.nnI(α)То есть оценка α∗ = X — эффективная оценка параметра α.Упражнение. Получить эту оценку методом моментов и методом максимальногоправдоподобия.
Она действительно несмещенная? А еще какими свойствами обладает?Упражнение. Проверьте, что для несмещенной оценки α∗∗ = X1 равенство внеравенстве Рао — Крамера не достигается. Объясните, почему, исходя только изэтого, нельзя сделать вывод о ее неэффективности в классе K0 . Сделайте этот выводна основании того, что оценки α∗ = X и α∗∗ = X1 принадлежат классу оценок содинаковым смещением, и одна из них эффективна. Используйте теорему 5.Отсутствие равенства в неравенстве Рао — Крамера вовсе не означает неэффективность оценки. Приведем пример оценки, которая является эффективной, но для которойне достигается равенство в неравенстве Рао — Крамера.
В эффективности оценки изэтого примера мы хотели бы, но не сможем убедиться.ОглавлениеJJIIJIНа стр. ... из 179Пример 22. Пусть X1 , . . . , Xn — выборка объема n из показательного распределения Eα с параметром α, где α > 0. Возьмем чуть поправленную оценку методамоментовn−1 1n−1α∗ =.· = PnnXi=1 XiУбедимся, что это — несмещенная оценка. Согласно свойству устойчивости поnPсуммированию для Г-распределения, суммаXi случайных величин с распределениемi=1НазадВо весь экранУйтиEα = Гα,1 имеет распределение Гα,n с плотностью n α yn−1 e−αy , y > 0,γα,n (y) = Г(n)0,y 6 0.Напомним, что Г(n) = (n − 1)! Вычислим математическое ожидание∗Eα α = Eαn−1PXi∞Z= (n − 1)0∞ZСтр. 77=1αnyn−1 e−αy dy =y (n − 1)!(n − 1)α· α · (αy)n−2 e−αy d(αy) =· Г(n − 1) = α.(n − 1)!(n − 2)!0Итак, оценка α∗ принадлежит классу K0 .
Найдем информацию Фишера относительнопараметра α:∂1ln fα (X1 ) = − X1 ,∂αα2∂1 21I(α) = Eαln fα (X1 ) = Eα X1 −= Dα X1 = 2 .∂αααfα (X1 ) = α e−αX1 ,Оглавлениеln fα (X1 ) = ln α − αX1 ,Итак, I(α) = 1/α2 . Найдем второй момент и дисперсию оценки α∗ .JJIIJI(n − 1)2= (n − 1)2Eα (α ) = Eα P( Xi )2На стр. ... из 179Назад∞Z∗ 2∞Z=αn1yn−1 e−αy dy =y2 (n − 1)!0(n − 1)2(n − 1)n−1 2· α2 · (αy)n−3 e−αy d(αy) =· α2 · Г(n − 2) =α .(n − 1)!(n − 2)!n−20Во весь экранТогдаn−1 2α2α − α2 =.n−2n−2Подставив дисперсию и информацию Фишера в неравенство Рао — Крамера, получаем,что при любом n есть строгое неравенство:Dα α∗ = Eα (α∗ )2 − (Eα α∗ )2 =УйтиDα α ∗Стр.
78=α2n−2>α21=.nnI(α)Тем не менее, оценка α∗ является эффективной, но доказывать мы это не будем.4.5. Наилучшие линейные несмещенные оценкиОглавлениеJJIIJIНа стр. ... из 179НазадВо весь экранУйтиВ плане подготовки к курсу «Эконометрика» полезно заметить следующее: в практической статистике часто рассматривают оценки, являющиеся линейными (и по возnPможности несмещенными) функциями от выборки, то есть оценки вида θ∗ =ai X i .i=1В классе таких оценок наилучшая в смысле среднеквадратического подхода оценкаобычно находится и без неравенства Рао — КрамераX(что особенно полезноX для нерегулярных семейств) — достаточно минимизироватьa2i при заданнойai .
Такуюоценку принято называть «наилучшей линейной несмещенной оценкой», или, по английски, BLUE (“best linear unbiased estimate”).Так, скажем, для распределения U0,θ оценка θ∗0 = 2X является BLUE, так какее дисперсия найти! или вспомнить пример 11 не больше доказать! дисперсии любой оценкиnnPPвида θ∗ =ai Xi , гдеai = 2. почему это гарантирует несмещенность?i=1i=1Справедливости ради следует добавить (см. пример 11), что оценка θ∗0 = 2X, хотьи является BLUE, не может конкурировать в среднеквадратичном смысле с нелинейнойоценкой θ^ = n+1n X(n) (которая является эффективной в классе несмещенных оценок,но этого мы доказывать не станем).4.6.
Вопросы и упражненияСтр. 791. Проверить эффективность ОМП для следующих распределений:а) Bp , б) Пλ , в) Na,1 , г) Bm,p (биномиальное), 0 < p < 1, при известном m.2. Выполнить все упражнения, содержащиеся в тексте главы 4.5. Интервальное оцениваниеОглавлениеJJIIJIПусть, как обычно, имеется выборка X = (X1 , . . . , Xn ) из распределения Fθ снеизвестным параметром θ ∈ Θ ⊆ IR. До сих пор мы занимались «точечным оцениванием» неизвестного параметра — находили число («оценку»), способную, в некоторомсмысле, заменить параметр.Существует другой подход к оцениванию, при котором мы указываем интервал,накрывающий параметр с заданной наперед вероятностью.
Такой подход называется«интервальным оцениванием». Сразу заметим: чем больше уверенность в том, чтопараметр лежит в интервале, тем шире интервал. Так что мечтать найти диапазон, вкотором θ лежит с вероятностью 1, бессмысленно — это вся область Θ.На стр. ... из 179НазадВо весь экранОпределение 13.
Пусть 0<ε<1.Интервал (θ− , θ+ ) = (θ− (X, ε), θ+ (X, ε))называется доверительным интервалом для параметра θ уровня доверия 1 − ε, еслидля любого θ ∈ ΘPθ θ− < θ < θ+ > 1 − ε.УйтиОпределение 14. Пусть 0<ε<1.Интервал (θ− , θ+ ) = (θ− (X, ε), θ+ (X, ε))называется асимптотическим доверительным интервалом для параметра θ (асимптотического) уровня доверия 1 − ε, если для любого θ ∈ ΘСтр. 80lim inf Pθ θ− < θ < θ+ > 1 − ε.n→∞На самом деле в определении 14 речь идет, конечно, не об одном интервале, но опоследовательности интервалов, зависящих от объема выборки n.ОглавлениеJJIIJIНа стр. ...
из 179НазадВо весь экранУйтиСтр. 81Замечание 11. Случайны здесь границы интервала (θ− , θ+ ), поэтому читают формулу Pθ (θ− < θ < θ+ ) как «интервал (θ− , θ+ ) накрывает параметр θ», а не как «θлежит в интервале...».Замечание 12. Неравенство «> 1 − ε» обычно соответствует дискретным распределениям, когда нельзя обязаться добиться равенства: например, для ξ ∈ B1/2 прилюбом x равенство P (ξ < x) = 0,25 невозможно, а неравенство имеет смысл:P (ξ < x) > 0,25дляx > 0.Если вероятность доверительному интервалу накрывать параметр в точности равна 1−ε(или стремится к 1 − ε), интервал называют точным (или асимптотически точным)доверительным интервалом уровня доверия 1 − ε.Прежде чем рассматривать какие-то регулярные способы построения точных иасимптотических ДИ (доверительных интервалов), разберем два примера, предлагающих очень похожие способы.
Далее мы попробуем извлечь из этих примеров некоторую общую философию построения точных и асимптотически точных доверительныхинтервалов. Начнем с нормального распределения как с наиболее важного и частовстречающегося.Пример 23. Пусть X1 , . . . , Xn — выборка объема n из нормального распределения Na,σ2 , где a ∈ IR — неизвестный параметр, а σ > 0 известно. Требуется построитьточный ДИ для параметра a уровня доверия 1 − ε.Вспомним, что нормальное распределение устойчиво по суммированию: доказать бы!ОглавлениеJJIIJIСвойство 6.Пусть ξ1 имеет нормальное распределение Na1 ,σ2 , ξ2 имеет нор1мальное распределение Na2 ,σ2 , и эти случайные величины независимы.
Тогда2η = bξ1 + cξ2 + d имеет нормальное распределение с параметрамиE η = b a1 + c a2 + d,D η = b2 σ21 + c2 σ22 .На стр. ... из 179НазадПоэтомуВо весь экранвеличинаnXXi имеет распределение Nna,nσ2 ,1УйтивеличинавеличинаСтр. 82nXXi − na1PnXi − na1√nσимеет распределение N0,nσ2 ,=√ X−anимеет распределение N0,1 .σ√ X−anимеет стандартное нормальное распределение. Поσзаданному ε ∈ (0, 1) найдем число c > 0 такое, что P (−c < η < c) = 1 − ε.Итак, величина η =Число c — квантиль уровня 1 − ε/2 стандартного нормального распределения:P (−c < η < c) = Φ0,1 (c) − Φ0,1 (−c) == Φ0,1 (c) − (1 − Φ0,1 (c)) = 2Φ0,1 (c) − 1 = 1 − ε,Оглавлениеили Φ0,1 (c) = 1 − 2ε .Напоминание:JJIIJIНа стр.
... из 179Определение 15. Пусть распределение F с функцией распределения F абсолютно непрерывно. Число τδ называется квантилью уровня δ распределения F, еслиF(τδ ) = δ. Если функция F монотонна, квантиль определяется единственным образом.НазадВо весь экранИтак, c = τ1−ε/2 , или −c = τε/2 (квантили стандартного нормального распределения).Уйти1−εε/2ε/2Стр. 83y−ccРис. 7: Плотность стандартного нормального распределения и квантили.Разрешив неравенство −c < η < c относительно a, получим точный доверительныйинтервал!1 − ε = Pa (−c < η < c) = PaОглавление√ X−a−c < n<cσ=cσcσ.
(13)= Pa X − √ < a < X + √nnJJIIJIМожно подставить c = τ1−ε/2 :Pa X −τ1−ε/2 στ1−ε/2 σ√<a<X+ √nn= 1 − ε.На стр. ... из 179Итак, искомый точный доверительный интервал уровня доверия 1 − ε имеет видНазадВо весь экранУйтиСтр. 84τ1−ε/2 στ1−ε/2 σX− √, X+ √.nnВопросы, на которые стоит себе ответить.1.Зачем мы брали симметричные квантили? Почему не брать границы для ηвида P (τε/3 < η < τ1−2ε/3 ) = 1 − ε? Изобразить эти квантили на графике плотности.Как изменилось расстояние между квантилями? Как изменится длина ДИ?2.
Какой из двух ДИ одного уровня доверия и разной длины следует предпочесть?3. Какова середина полученного в примере 23 ДИ? Какова его длина? Что происходитс границами ДИ при n → ∞?Пример 24. Пусть X1 , . . . , Xn — выборка объема n из показательного распределения Eα , где α > 0. Требуется построить асимптотический (асимптотически точный)ДИ для параметра α уровня доверия 1 − ε.Вспомним ЦПТ:nPОглавление1JJIIJIгде случайная величина η имеет стандартное нормальное распределение. По определению слабой сходимости, при n → ∞На стр. ...