Математическая статистика (PDF), страница 9

Проверьте, что для несмещенной оценки α∗∗ = X1 равенство внеравенстве Рао — Крамера не достигается. Объясните, почему, исходя только изэтого, нельзя сделать вывод о ее неэффективности в классе K0 . Сделайте этот выводна основании того, что оценки α∗ = X и α∗∗ = X1 принадлежат классу оценок содинаковым смещением, и одна из них эффективна.

Используйте теорему 5.Отсутствие равенства в неравенстве Рао — Крамера вовсе не означает неэффективность оценки. Приведем пример оценки, которая является эффективной, но для которойне достигается равенство в неравенстве Рао — Крамера. В эффективности оценки изэтого примера мы хотели бы, но не сможем убедиться.ОглавлениеJJIIJIНа стр. ... из 179Пример 22. Пусть X1 , . . . , Xn — выборка объема n из показательного распределения Eα с параметром α, где α > 0.

Возьмем чуть поправленную оценку методамоментовn−1 1n−1α∗ =.· = PnnXi=1 XiУбедимся, что это — несмещенная оценка. Согласно свойству устойчивости поnPсуммированию для Г-распределения, суммаXi случайных величин с распределениемi=1НазадВо весь экранУйтиEα = Гα,1 имеет распределение Гα,n с плотностью n α yn−1 e−αy , y > 0,γα,n (y) = Г(n)0,y 6 0.Напомним, что Г(n) = (n − 1)! Вычислим математическое ожидание∗Eα α = Eαn−1PXi∞Z= (n − 1)0∞ZСтр. 77=1αnyn−1 e−αy dy =y (n − 1)!(n − 1)α· α · (αy)n−2 e−αy d(αy) =· Г(n − 1) = α.(n − 1)!(n − 2)!0Итак, оценка α∗ принадлежит классу K0 . Найдем информацию Фишера относительнопараметра α:∂1ln fα (X1 ) = − X1 ,∂αα2∂1I(α) = Eαln fα (X1 ) = Eα (X1 − α)2 = Dα X1 = 2 .∂pαfα (X1 ) = α e−αX1 ,Оглавлениеln fα (X1 ) = ln α − αX1 ,Итак, I(α) = 1/α2 .

Найдем второй момент и дисперсию оценки α∗ .JJIIJI(n − 1)2= (n − 1)2Eα (α ) = Eα P2( Xi )На стр. ... из 179Назад∞Z∗ 2∞Z=1αnyn−1 e−αy dy =y2 (n − 1)!0(n − 1)2(n − 1)n−1 2· α2 · (αy)n−3 e−αy d(αy) =· α2 · Г(n − 2) =α .(n − 1)!(n − 2)!n−20Во весь экранТогдаα2n−1 2α − α2 =.n−2n−2Подставив дисперсию и информацию Фишера в неравенство Рао — Крамера, получаем,что при любом n есть строгое неравенство:Dα α∗ = Eα (α∗ )2 − (Eα α∗ )2 =УйтиDα α ∗Стр. 78=α2n−2>α21=.nnI(α)Тем не менее, оценка α∗ является эффективной, но доказывать мы это не будем.4.5. Наилучшие линейные несмещенные оценкиОглавлениеJJIIJIНа стр.

... из 179НазадВо весь экранУйтиВ плане подготовки к курсу «Эконометрика» полезно заметить следующее: в практической статистике часто рассматривают оценки, являющиеся линейными (и по возnPможности несмещенными) функциями от выборки, то есть оценки вида θ∗ =ai X i .i=1В классе таких оценок наилучшая в смысле среднеквадратического подхода оценкаобычно находится и без неравенства Рао — КрамераX(что особенно полезноX для нерегулярных семейств) — достаточно минимизироватьa2i при заданнойai .

Такуюоценку принято называть «наилучшей линейной несмещенной оценкой», или, по английски, BLUE (“best linear unbiased estimate”).Так, скажем, для распределения U0,θ оценка θ∗0 = 2X является BLUE, так какее дисперсия найти! или вспомнить пример 11 не больше доказать! дисперсии любой оценкиnnPPвида θ∗ =ai Xi , гдеai = 2. почему это гарантирует несмещенность?i=1i=1Справедливости ради следует добавить (см. пример 11), что оценка θ∗0 = 2X, хотьи является BLUE, не может конкурировать в среднеквадратичном смысле с нелинейнойоценкой θ^ = n+1n X(n) (которая является эффективной в классе несмещенных оценок,но этого мы доказывать не станем).4.6. Вопросы и упражненияСтр.

791. Проверить эффективность ОМП для следующих распределений:а) Bp , б) Пλ , в) Na,1 , г) Bm,p (биномиальное), 0 < p < 1, при известном m.2. Выполнить все упражнения, содержащиеся в тексте главы 4.5. Интервальное оцениваниеОглавлениеJJIIJIПусть, как обычно, имеется выборка X = (X1 , . . .

, Xn ) из распределения Fθ снеизвестным параметром θ ∈ Θ ⊆ IR. До сих пор мы занимались «точечным оцениванием» неизвестного параметра — находили число («оценку»), способную, в некоторомсмысле, заменить параметр.Существует другой подход к оцениванию, при котором мы указываем интервал,накрывающий параметр с заданной наперед вероятностью.

Такой подход называется«интервальным оцениванием». Сразу заметим: чем больше уверенность в том, чтопараметр лежит в интервале, тем шире интервал. Так что мечтать найти диапазон, вкотором θ лежит с вероятностью 1, бессмысленно — это вся область Θ.На стр. ... из 179НазадВо весь экранОпределение 13. Пусть 0<ε<1.Интервал (θ− , θ+ ) = (θ− (X, ε), θ+ (X, ε))называется доверительным интервалом для параметра θ уровня доверия 1 − ε, еслидля любого θ ∈ ΘPθ θ− < θ < θ+ > 1 − ε.УйтиОпределение 14.

Пусть 0<ε<1.Интервал (θ− , θ+ ) = (θ− (X, ε), θ+ (X, ε))называется асимптотическим доверительным интервалом для параметра θ (асимптотического) уровня доверия 1 − ε, если для любого θ ∈ ΘСтр. 80lim inf Pθ θ− < θ < θ+ > 1 − ε.n→∞На самом деле в определении 14 речь идет, конечно, не об одном интервале, но опоследовательности интервалов, зависящих от объема выборки n.ОглавлениеJJIIJIНа стр. ... из 179НазадВо весь экранУйтиСтр. 81Замечание 11. Случайны здесь границы интервала (θ− , θ+ ), поэтому читают формулу Pθ (θ− < θ < θ+ ) как «интервал (θ− , θ+ ) накрывает параметр θ», а не как «θлежит в интервале...».Замечание 12.

Знак «>» 1 − ε обычно соответствует дискретным распределениям,когда нельзя обязаться добиться равенства: например, для ξ ∈ B1/2 при любом xравенство P (ξ < x) = 0,25 невозможно, а неравенство имеет смысл:P (ξ < x) > 0,25дляx > 0.Если вероятность доверительному интервалу накрывать параметр в точности равна 1−ε(или стремится к 1 − ε), интервал называют точным (или асимптотически точным)доверительным интервалом уровня доверия 1 − ε.Прежде чем рассматривать какие-то регулярные способы построения точных иасимптотических ДИ (доверительных интервалов), разберем два примера, предлагающих очень похожие способы. Далее мы попробуем извлечь из этих примеров некоторую общую философию построения точных и асимптотически точных доверительныхинтервалов.

Начнем с нормального распределения как с наиболее важного и частовстречающегося.Пример 23. Пусть X1 , . . . , Xn — выборка объема n из нормального распределения Na,σ2 , где a ∈ IR — неизвестный параметр, а σ > 0 известно. Требуется построитьточный ДИ для параметра a уровня доверия 1 − ε.Вспомним, что нормальное распределение устойчиво по суммированию: доказать бы!ОглавлениеJJIIJIСвойство 6.Пусть ξ1 имеет нормальное распределение Na1 ,σ2 , ξ2 имеет нор1мальное распределение Na2 ,σ2 , и эти случайные величины независимы. Тогда2η = bξ1 + cξ2 + d имеет нормальное распределение с параметрамиE η = b a1 + c a2 + d,D η = b2 σ21 + c2 σ22 .На стр.

... из 179НазадВо весь экранПоэтомуnXXi имеет распределение Nna,nσ2 ,1nXУйтиXi − na имеет1PnXi − na √1√nσСтр. 82=распределение N0,nσ2 ,nX−aимеет распределение N0,1 .σ√ X−anимеет стандартное нормальное распределение. Поσзаданному ε ∈ (0, 1) найдем число c > 0 такое, что P (−c < η < c) = 1 − ε.Итак, величина η =Число c — квантиль уровня 1 − ε/2 стандартного нормального распределения:P (−c < η < c) = Φ0,1 (c) − Φ0,1 (−c) == Φ0,1 (c) − (1 − Φ0,1 (c)) = 2Φ0,1 (c) − 1 = 1 − ε,Оглавлениеили Φ0,1 (c) = 1 − 2ε .Напоминание:JJIIJIНа стр.

... из 179Определение 15. Пусть распределение F с функцией распределения F абсолютно непрерывно. Число τδ называется квантилью уровня δ распределения F, еслиF(τδ ) = δ. Если функция F монотонна, квантиль определяется единственным образом.НазадВо весь экранИтак, c = τ1−ε/2 , или −c = τε/2 (квантили стандартного нормального распределения).Уйти1−εε/2ε/2Стр. 83y−ccРис. 7: Плотность стандартного нормального распределения и квантили.Разрешив неравенство −c < η < c относительно a, получим точный доверительныйинтервал!1 − ε = Pa (−c < η < c) = PaОглавление√ X−a−c < n<cσ=cσcσ. (13)= Pa X − √ < a < X + √nnJJIIJIМожно подставить c = τ1−ε/2 :Pa X −τ1−ε/2 στ1−ε/2 σ√<a<X+ √nn= 1 − ε.На стр. ... из 179Итак, искомый точный доверительный интервал уровня доверия 1 − ε имеет видНазадВо весь экранУйтиСтр.

84τ1−ε/2 στ1−ε/2 σX− √, X+ √.nnВопросы, на которые стоит себе ответить.1.Зачем мы брали симметричные квантили? Почему не брать границы для ηвида P (τε/3 < η < τ1−2ε/3 ) = 1 − ε? Изобразить эти квантили на графике плотности.Как изменилось расстояние между квантилями? Как изменится длина ДИ?2.

Какой из двух ДИ одного уровня доверия и разной длины следует предпочесть?3. Какова середина полученного в примере 23 ДИ? Какова его длина? Что происходитс границами ДИ при n → ∞?Пример 24. Пусть X1 , . . . , Xn — выборка объема n из показательного распределения Eα , где α > 0. Требуется построить асимптотический (асимптотически точный)ДИ для параметра α уровня доверия 1 − ε.Вспомним ЦПТ:nPОглавление1JJIIJIгде случайная величина η имеет стандартное нормальное распределение.

По определению слабой сходимости, при n → ∞На стр. ... из 179НазадВо весь экранXi − n Eα X1√ X − 1/α √ √= n= n αX − 1 ⇒ η,1/αn Dα X1Pα −c <√ n αX − 1 < c → Pα (−c < η < c) = 1 − εпри c = τ1−ε/2 .То естьPα −τ1−ε/2 <√ n αX − 1 < τ1−ε/2 == Pατ1−ε/2τ1−ε/211<α< + √− √nXnXXX!→1−εУйтиИтак, искомый асимптотический ДИ уровня доверия 1 − ε имеет видτ1−ε/2 1τ1−ε/21− √,+ √XnX XnXСтр. 85!.при n → ∞.Сформулируем общий принцип построения точных ДИ:1.

Найти функцию G(X, θ), распределение которой G не зависит от параметра θ.Необходимо, чтобы G(X, θ) была обратима по θ при любом фиксированном X.Оглавление2. Пусть числа g1 и g2 — квантили распределения G такие, что1 − ε = Pθ (g1 < G(X, θ) < g2 ).JJIIJI3. Разрешив неравенство g1 < G(X, θ) < g2 относительно θ (если это возможно), получим точный ДИ.На стр. ... из 179НазадВо весь экранУйтиСовершенно аналогично выглядит общий принцип построения асимптотических ДИ:1. Найти функцию G(X, θ), слабо сходящуюся к распределению G, не зависящему от параметра θ. Необходимо, чтобы G(X, θ) была обратима по θ прилюбом фиксированном X.2. Пусть g1 и g2 — квантили распределения G такие, чтоPθ (g1 < G(X, θ) < g2 ) → Pθ (g1 < η < g2 ) = 1 − ε.Стр.