1612725170-d2dcc605205feb3d5b9a0101f2221951 (828894), страница 7
Текст из файла (страница 7)
Оценки такого вида (нелинейные функции от сумм) можносравнивать с помощью асимптотического подхода. Этот подход применимк асимптотически нормальным оценкам.Пусть X1 , . . . , Xn — выборка объёма n из параметрического семействараспределений Fθ , θ ∈ Θ.О п р е д е л е н и е 12. Оценка θ∗ называется асимптотически нормальной оценкой (АНО) параметра θ с коэффициентом σ2 (θ), если длялюбого θ ∈ Θ имеет место слабая сходимость при n → ∞√ ∗√ θ∗ − θ⇒ N0, 1 .n(θ − θ) ⇒ N0, σ2 (θ) или, что то же самое,nσ(θ)Асимптотическая нормальность оценок является важным свойством последовательностей оценок. В дальнейшем мы увидим, что это свойство используется не только для сравнения оценок между собой, но и при построении доверительных интервалов для неизвестных параметров и в задачахпроверки гипотез о значениях этих параметров.П р и м е р 14.
Пусть X1 , . . . , Xn — выборка объёма n из равномерного распределения U0, θ с параметром θ > 0. Проверим, являются лиоценки θ∗ = 2X и θ̂ = X(n) асимптотически нормальными. По ЦПТ,nP P(2Xi ) − nθ√ ∗√√Xii=1√−θ ==n(θ − θ) =n(2X − θ) = n 2nnP=n(2Xi ) − nE(2X1 )√⇒ N0, D(2X1 ) = N0, 4DX1 .ni=138ГЛАВА III. СРАВНЕНИЕ ОЦЕНОКИтак, оценка θ∗ = 2X асимптотически нормальна с коэффициентомσ2 (θ) = 4DX1 = 4 ·θ212=θ23.Для проверки асимптотической нормальности оценки θ̂ = X(n) воспользуемся определением слабой сходимости.
По определению, ξn ⇒ F,если для любой точки x, являющейся точкой непрерывности функциираспределения F, имеет место сходимостьP(ξn < x) → F (x) при n → ∞.√Слабая сходимость n (X(n) − θ) к N0, σ2 имеет место, если для любогоx ∈ R (почему для любого?)√P( n(X(n) − θ) < x) → Φ0, σ2 (x) при n → ∞.√Но в точке x = 0 функция распределения величины n (X(n) − θ)равна единице. Действительно,√√n(θ̂ − θ) = n (X(n) − θ) < 0 п.
н.,(9)√поэтому Pθ ( n (X(n) − θ) < 0) = 1. А для нормального распределенияN0, σ2 (θ) функция распределения в нуле равна Φ0, σ2 (θ) (0) = 0,5. Но 1 не√сходится к 0,5 при n → ∞, поэтому слабая сходимость n (X(n) − θ)к N0, σ2 (θ) места не имеет и оценка θ̂ = X(n) асимптотически нормальнойне является.Осталось ответить на напрашивающиеся вопросы.√В о п р о с 1. Куда всё же сходится по распределению n(X(n) − θ) ?√У п р а ж н е н и е. Доказать, что n(X(n) − θ) ⇒ 0.П о р я д о к д е й с т в и й: Выписать определение слабой сходимости. Нарисовать функцию√ распределения нуля.
Найти по определению функциюраспределения n(X(n) − θ). Убедиться, что она сходится к функции распределения нуля во всех точках непрерывности последней. Не забыть осуществовании замечательных пределов, логарифмов и ряда Тейлора.√В о п р о с 2. Если n(X(n) − θ) ⇒ 0, то на какую степень n нужнопопробовать умножить X(n) − θ, чтобы получить сходимость к величине,отличной от нуля и от бесконечности?У п р а ж н е н и е. Доказать, что −n(X(n) − θ) ⇒ η, где случайная величина η имеет показательное распределение E1/θ .П о р я д о к д е й с т в и й: прежний.§ 2. Асимптотический подход к сравнению оценок39n+1В о п р о с 3.
Для оценкиX(n) свойство (9) не выполнено. Можетnли эта оценка быть АНО?У п р а ж н е н и е. Модифицировать рассуждения и доказать, что этаоценка тоже не является асимптотически нормальной.В о п р о с п о с л е д н и й. Плохо ли, что оценка θ̂ = X(n) не асимптотически нормальна? Может быть, сходимость n(X(n) − θ) ⇒ −η ещё лучше(особенно из-за множителя n при разности (X(n) и θ)?«Скорость» сходимости оценки к параметру. Попробуем ответить√напоследний вопрос и заодно объясним себе, о чём говорит множитель nв определении асимптотической нормальности оценок.Т е о р е м а 12.
Если θ∗ — асимптотически нормальная оценка дляпараметра θ, то она состоятельна.Д о к а з а т е л ь с т в о. Вспомним свойство слабой сходимости: произведение двух последовательностей, одна из которых сходится по вероятностик постоянной, а другая слабо сходится к некоторой случайной величине,слабо сходится к произведению пределов. Поэтому√1θ∗ − θ = √ · n(θ∗ − θ) ⇒ 0 · ξ = 0,nгде ξ имеет нормальное распределение N0, σ2 (θ) . Но слабая сходимостьк нулю влечет сходимость к нулю по вероятности.У п р а ж н е н и е .
Верно ли утверждение теоремы 12, если предельнаявеличина ξ имеет распределение, отличное от нормального?ppИтак, если θ∗ асимптотически нормальна, то θ∗ −→ θ, т. е. θ∗ − θ −→0. Свойство асимптотической нормальности показывает, в частности, что1скорость этой сходимости имеет порядок √ . Действительно, расстояниеn∗между√ θ и θ сходится к нулю, но перестаёт это делать после умноженияна n :√ ∗pθ∗ − θ −→ 0, ноn(θ − θ) ⇒ N0,σ2 (θ) .Взглянем с этой точки зрения на оценку θ̂ = X(n) в примере 14. Дляэтой оценки (и для тех, кто справился с упражнениями)n(X(n) − θ) ⇒ ξ,(10)где ξ — некоторая случайная величина. Здесь расстояние между θ̂ и θ1ведёт себя как . Оценка быстрее сходится к параметру.nУ п р а ж н е н и е .
Лучше это или хуже?40ГЛАВА III. СРАВНЕНИЕ ОЦЕНОКСделаем вывод из предыдущих рассуждений. Асимптотическая нормальность представляет собой типичное, ничем не выдающееся качествооценок. Асимптотически нормальные оценки сближаются с параметром со1скоростью √ . Остутствие такого качества может означать, что оценкаnбыстрее сходится к параметру, нежели любая асимптотически нормальная оценка. Примером такой «выдающейся» оценки может служить ОМПдля параметра θ равномерного распределения на отрезке [0, θ], не являющаяся асимптотически нормальной. Она так быстро сходится к параметру, как не умеет ни одна АНО.
Таким образом, отсутствие свойства АНОне делает эту оценку хуже. Скорее наоборот.Асимптотическая нормальность ОММ. Продолжим рассмотрениеасимптотически нормальных оценок. В примере 14 мы видели, что дляоценки 2X свойство асимптотической нормальности сразу следует изЦПТ. Установим асимптотическую нормальность оценок более сложноговида, какими обычно оказываются оценки метода моментов.Л е м м а 1. Пусть функция g(y) такова, что 0 6= Dg(X1 ) < ∞. Тогда статистика g(X) является асимптотически нормальной оценкойдля Eg(X1 ) с коэффициентом σ2 (θ) = Dg(X1 ) :√ g(X) − Eg(X1 )n p⇒ N0,1 .Dg(X1 )У п р а ж н е н и е . Вспомнить ЦПТ и доказать лемму 1.Следующая теорема утверждает асимптотическую нормальность оценок видаg(X1 ) + .
. . + g(Xn )∗θ = H g(X) = H.nТакие оценки получаются обычно (найти примеры) при использованииметода моментов, при этом всегда θ = H (Eg(X1 )) .Т е о р е м а 13. Пусть функция g(y) такова, что 0 6= Dg(X1 ) < ∞,функция H(y) дифференцируемав точке a = Eg(X1 ) и её производная00в этой точке H (a) = H (y) y=a отлична от нуля.Тогда оценка θ∗ = H g(X) является асимптотически нормальнойоценкой для параметра θ = H (Eg(X1 )) = H(a) с коэффициентом асимптотической нормальности2σ2 (θ) = H 0 (a) · Dg(X1 ).41§ 2. Асимптотический подход к сравнению оценокД о к а з а т е л ь с т в о. Согласно ЗБЧ последовательность g(X) стремится к a = Eg(X1 ) по вероятности с ростом n.
Функция H(y) − H(a) , y 6= a,y−aG(y) =H 0 (a),y=aпо условию непрерывна в точке a. Поскольку сходимость по вероятности сохраняется под действием непрерывной функции, получим,pчто G(g(X)) −→ G(a) = H 0 (a).√Заметим также, что по лемме 1 величина n g(X) − a слабо сходитсяк нормальному распределению N0, Dg(X1 ) . Пусть ξ — случайная величинаиз этого распределения. Тогда √ √ n H g(X) − H(a) = n g(X) − a · G g(X) ⇒ ξ · H 0 (a).Мы использовали (в который раз?) следующее свойство слабой сходиpмости: если ξn ⇒ ξ и ηn −→ c = const, то ξn ηn ⇒ cξ. Но распределениеслучайной величины ξ · H 0 (a) как раз и есть N0, (H 0 (a))2 ·Dg(X1 ) . Поэтому2σ2 (θ) = H 0 (a) · Dg(X1 ).П р и м е р 15.
Пусть X1 , . . . , Xn — выборка объёма n из равномерного распределения U0,θ с параметром θ > 0. Проверим, являются лиасимптотически нормальными оценкиqk∗θk =(k + 1)X k , k = 1, 2, . . . ,полученные методом моментов в примере4 (с. 24).pПусть g(y) = (k + 1)y k , H(y) = k y. ТогдаrPqPkk(k+1)Xkg(Xi )∗ik=H.θk =(k + 1)X =nnПри этомθ = H (Eg(X1 )) =rqkE(k + 1)X1k =k(k + 1)θkk+1.Впрочем, иначе быть не могло по определению метода моментов (верно?).Проверим другие условия теоремы 13:a = Eg(X1 ) = (k + 1)θkk+1= θk ,42ГЛАВА III. СРАВНЕНИЕ ОЦЕНОКдисперсияDg(X1 ) = E(k + 1)2 X12k − a2 = (k + 1)2θ2k2k + 1− θ2k =k2θ2k2k + 1конечна и отлична от нуля. Функция H(y) дифференцируема в точке a :H 0 (y) =1 1−ky k ,kH 0 (a) = H 0 (θk ) =1 1−kθ6= 0.kПо теореме 13, оценка θ∗k является АНО для θ с коэффициентом2θ21k2θ2k =.σ2k (θ) = H 0 (a) Dg(X1 ) = 2 θ2−2k ·k2k + 12k + 1θ2Например, для θ∗1 = 2X имеем коэффициент σ21 (θ) = .
Это в точности3совпадает с коэффициентом, полученным нами в примере 14 (с. 37).Осталось понять, как сравнивать асимптотически нормальные оценкии что показывает коэффициент асимптотической нормальности.Асимптотический подход к сравнению оценок. Возьмём две случайные= N0,1 и 10 ξ ⊂= N0,100 . Разброс значений у величины 10 ξвеличины: ξ ⊂гораздо больший:0, 9973 = P(|ξ| < 3) = P(|10 ξ| < 30),и дисперсия (показатель этого рассеяния) соответственно больше.То же самое показывает и коэффициент асимптотической нормальности. Возьмём две АНО с коэффициентами 1 и 100:√√ ∗n(θ1 − θ∗ ) ⇒ N0,1 и n(θ∗2 − θ∗ ) ⇒ N0,100 .√ ∗При больших n разброс значенийвеличиныn(θ2 − θ∗ ) около нуля го√раздо больше, чем у величины n(θ∗1 − θ∗ ), поскольку больше предельнаядисперсия (она же коэффициент асимптотической нормальности).Но чем меньше отклонение оценки от параметра, тем лучше.
Получаеместественный способ сравнения асимптотически нормальных оценок.О п р е д е л е н и е 13. Пусть θ∗1 — АНО с коэффициентом σ21 (θ), θ∗2 —АНО с коэффициентом σ22 (θ). Говорят, что θ∗1 лучше, чем θ∗2 в смыслеасимптотического подхода, если для любого θ ∈ Θσ21 (θ) 6 σ22 (θ),и хотя бы при одном θ это неравенство строгое.П р и м е р 16. Сравним между собой в асимптотическом смысле оценки в последовательности θ∗1 , θ∗2 , . . . из примера 15. Для θ∗k коэффициент43§ 3. Вопросы и упражненияθ2асимптотической нормальности имеет вид σ2k (θ) =.
Коэффициент2k + 1тем меньше, чем больше k, т. е. каждая следующая оценка в этой последовательности лучше предыдущей.Оценка θ∗∞ , являющаяся «последней» оценкой в этой последовательности, могла бы быть лучше всех оценок в этой последовательности в смыслеасимптотического подхода, если бы являлась асимптотически нормальной.Но если читатель решил задачу 7 к главе I или задачу 10 к главе II, он знает, что этой «последней» оценкой является X(n) , а она не асимптотическинормальна.Ещё раз напомним, что оценка θ̂ = X(n) оказывается лучше любойасимптотически нормальной оценки: «скорость» её сходимости к параметру, как показывает (10), равна n−1 в отличие от скорости n−1/2 , котораянаблюдается у любой АНО.§ 3.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
