1612725170-d2dcc605205feb3d5b9a0101f2221951 (828894), страница 9
Текст из файла (страница 9)
Выпишем при n = 1 какой-нибудь интеграл и сравнимпроизводную от него по параметру и интеграл от производной: скажем,для T (X1 ) = 1,∂∂ET (X1 ) =∂θ∂θZθ1θdy =Zθ∂1 = 0;∂θно0∂ 11dy = − 6= 0.∂θ θθ0Заметим, что и само утверждение неравенства Рао — Крамера для данного семейства распределений не выполнено: найдётся оценка, дисперсиякоторой ведёт себя как 1/n2 , а не как 1/n в неравенстве Рао — Крамера.У п р а ж н е н и е . Проверить, что в качестве этой «выдающейся» изнеравенства Рао — Крамера оценки можно брать, скажем, смещённуюn+1оценку X(n) или несмещённую оценкуX(n) .n51§ 3. Проверка эффективности оценок§ 3. Проверка эффективности оценокСформулируем очевидное следствие из неравенства Рао — Крамера.Пусть семейство распределений Fθ удовлетворяет условиям регулярности(R) и (RR).С л е д с т в и е 1.
Если для оценки θ∗ ∈ Kb(θ) достигается равенствов неравенстве Рао — КрамераE (θ∗ − θ)2 =(1 + b0 (θ))2+ b2 (θ)nI(θ)или D θ∗ =(1 + b0 (θ))2,nI(θ)то оценка θ∗ эффективна в классе Kb(θ) .Оценку для параметра θ регулярного семейства, для которой достигается равенство в неравенстве Рао — Крамера, иногда называютR -эффективной оценкой. Следствие 1 можно сформулировать так: еслиоценка R -эффективна, то она эффективна в соответствующем классе.П р и м е р 21. Для выборки X1 , .
. . , Xn из распределения БернуллиBp несмещённая оценка p∗ = X эффективна, так как для неё достигаетсяравенство в неравенстве Рао — Крамера (см. [5, пример 13.20]).П р и м е р 22. Пусть X1 , . . . , Xn — выборка объёма n из нормальногораспределения Na, σ2 , где a ∈ R, σ > 0. Проверим, является ли оценкаa∗ = X ∈ K0 эффективной (см. также [5, пример 13.6]).Найдём информацию Фишера относительно параметра a (считая, чтоимеется один неизвестный параметр a ).
Плотность распределения равна1f(a, σ2 ) (y) = p2πσ2∂−(y−a)2 /(2σ2 )e,1(y − a)22ln f(a,σ2 ) (y) = − ln(2πσ ) −.22σ2y−aln f(a,σ2 ) (y) =. Найдя второй момент этого выСоответственно,σ2∂aражения при y = X1 , получим информацию Фишера2∂E(X1 − a)2DX1I(a) = Eln f(a,σ2 ) (X1 ) == 41 = 2 .4σ∂aσσσ21Найдём дисперсию оценки X: DX = DX1 =.nnСравнивая левую и правую части в неравенстве Рао — Крамера, получаем равенствоDX =σ2n=1.nI(a)Итак, оценка a∗ = X эффективна (т.
е. обладает наименьшей дисперсиейсреди несмещённых оценок).52ГЛАВА IV. ЭФФЕКТИВНЫЕ ОЦЕНКИП р и м е р 23. Пусть X1 , . . . , Xn — выборка объёма n из нормального распределения N0, σ2 , где σ > 0. Проверим, является ли эффективнойоценкаn1 X 22∗Xi = X 2 ∈ K0 .σ =ni=1У п р а ж н е н и е . Получить эту оценку методом моментов и методоммаксимального правдоподобия.Найдём информацию Фишера относительно параметра σ2 .
Плотностьраспределения равнаfσ2 (y) = p12πσ2e−y2 /(2σ2 ),12ln fσ2 (y) = − ln(2π) −1y2ln σ2 − 2 .22σПродифференцируем это выражение по параметру σ2 :∂∂ σ2ln fσ2 (y) = −12σ2+y22σ4.Вычислим информацию Фишера222X11121 −=E(XDX12 .I(σ2 ) = E−σ2 ) =142882σ2σ4σ4σ2Осталось найти DX12 = EX14 − (EX12 ) = EX14 − σ4 . Можно вспомнитьнекоторые формулы вероятности: величина ξ = X1 /σ имеет стандартноенормальное распределение, и для неёE ξ2k = (2k − 1)!! = (2k − 1)(2k − 3) · . . . · 3 · 1,Тогда E ξ4 = 3, X1 = ξ · σ,EX14 = E ξ4 · σ4 = 3σ4 .Если вспомнить не удалось, посчитаем заново. Воспользуемся свойствами характеристических функций и вычислим четвёртую производную ха2рактеристической функции ϕξ (t) = e−t /2 в нуле. Делать это удобнее черезразложение в ряд:∞X2 k2tt2t4t23t41−=1−+− ...
= 1 −+− ...e−t /2 =k=0k!22824!Производная четвёртого порядка в нуле равна коэффициенту при(4)Тейлора: E ξ4 = i4 E ξ4 = ϕξ (0) = 3.t4ряда4!53§ 3. Проверка эффективности оценокМожно вычислить интеграл и напрямую. Интегрированием по частямполучаем∞Z212y 4 √ e−y /2 dy = − √2π2πE ξ4 =−∞2 3 −y 2/2 ∞= −√y e −2π∞Z02·32π∞Zy2 e= √−y 2/2y 3 de=02e−y /2 dy 3 =0−y 2/2∞Z∞Z−y 2/21√ y2 edy = 3D ξ = 3.2πdy = 3−∞0Итак, DX12 = EX14 − σ4 = 2σ4 ,I(σ2 ) =1DX12 =84σ12σ4 =84σ12σ4.∗Найдём дисперсию оценки σ2 = X 2 и сравним её с правой частьюнеравенства Рао — Крамера:nX1112σ42Xi2 = DX12 ==DX = 2 D,nnnnI(σ2 )1∗Итак, оценка σ2 = X 2 R -эффективна и, следовательно, эффективна.У п р а ж н е н и е .
Пусть X1 , . . . , Xn — выборка объёма n из нормального распределения Na, σ2 , где оба параметра a и σ2 неизвестны. Проверить, является ли R -эффективной оценкой для σ2 несмещённаявыбороч222ная дисперсия S0 , используя равенство: D (n − 1)S0 /σ = 2(n − 1). Эторавенство читатель сможет доказать несколькими главами позднее, когдапознакомится с χ2-распределением. При некотором терпении его можнодоказать и непосредственным вычислением.П р и м е р 24. Пусть X1 , .
. . , Xn — выборка объёма n из показательного распределения E1/α с параметром 1/α, где α > 0. Проверим, является ли несмещённая (почему?) оценка α∗ = X эффективной оценкой дляпараметра α.Найдём информацию Фишера относительно параметра α2∂I(α) = Eαln fα (X1 ) .∂α54ГЛАВА IV. ЭФФЕКТИВНЫЕ ОЦЕНКИПлотность данного показательного распределения имеет вид(1 −ye α , если y > 0,fα (y) = α0,если y 6 0.Тогда fα (X1 ) =1αe−X1 /α п.
н., ln fα (X1 ) = − ln α −X1α,∂1X1ln fα (X1 ) = − + 21 = 2 (X1 − α)∂ααααи информация Фишера равнаI(α) =E(X1 − α)2α4=DX1α4=α2α4=1α2.Найдём дисперсию оценки X и сравним с правой частью в неравенствеРао — Крамера для несмещённых оценок:DX =1α21DX1 ==.nnnI(α)Следовательно, оценка α∗ = X R -эффективна и поэтому является эффективной оценкой для параметра α.У п р а ж н е н и е . Получить эту оценку методом моментов и методоммаксимального правдоподобия. Она действительно несмещённая? А ещёкакими свойствами обладает?У п р а ж н е н и е . Проверить, что для несмещённой оценки α∗∗ = X1равенство в неравенстве Рао — Крамера не достигается.
Объяснить, почему, исходя только из этого, нельзя сделать вывод о её неэффективностив классе K0 . Сделать этот вывод на основании того, что оценки α∗ = Xи α∗∗ = X1 принадлежат классу оценок с одинаковым смещением, и однаиз них эффективна. Сформулировать теорему о единственности эффективной оценки в классе оценок с фиксированным смещением.Отсутствие равенства в неравенстве Рао — Крамера вовсе не означает,что оценка не является эффективной.
Для некоторых семейств распределений это неравенство не точно́ в том смысле, что самая маленькая издисперсий несмещённых оценок всё же оказывается строго большей, чемправая часть неравенства. Приведём пример оценки, которая является эффективной (в этом мы убедимся много позже), но не R -эффективной, т. е.для неё не достигается равенство в неравенстве Рао — Крамера.П р и м е р 25. Пусть X1 , . . . , Xn — выборка объёма n из показательного распределения Eα с параметром α, где α > 0. Возьмём чуть поправ-55§ 3. Проверка эффективности оценокленную оценку метода моментовα∗ =n−1n−11=·.nX1 + .
. . + XnXУбедимся, что это несмещённая оценка. Согласно свойству устойчивости по суммированию для гамма-распределения, сумма X1 + . . . + Xnнезависимых случайных величин с распределением E = Γα,1 имеет распределение Γα,n с плотностью распределения n αy n−1 e−αy , y > 0,(n−1)!γα,n (y) =0,y 6 0.Вычислим математическое ожиданиеE α∗ = E= αn−1X1 + . . . + Xn(n − 1)(n − 1)!∞Z= (n − 1)αn1y n−1 e−αy dy =y (n − 1)!0∞Zα(αy)n−2 e−αy d(αy) =(n − 2)!· (n − 2)! = α.0Итак, оценка α∗ принадлежит классу K0 .
Информацию Фишера отно1сительно параметра α мы вычислили в примере 17 (с. 46): I(α) = 2 .αНайдём второй момент и дисперсию оценки α∗ :∞Z21αn(n − 1)∗ 22E(α ) = E P 2 = (n − 1)y n−1 e−αy dy =2(= α2y (n − 1)!Xi )(n − 1)2∞Z0(αy)n−3 e−αy d(αy) = α2(n − 1)!(n − 1)n−1 2· (n − 3)! =α ,(n − 2)!n−20тогдаD α∗ = E(α∗ )2 − (E α∗ )2 =n−1 2α2α − α2 =.n−2n−2Подставив дисперсию и информацию Фишера в неравенство Рао — Крамера, получим, что при любом n есть строгое неравенствоD α∗ =α2n−2>α2n=1.nI(α)В главе XI мы докажем эффективность оценки α∗ .56ГЛАВА IV.
ЭФФЕКТИВНЫЕ ОЦЕНКИ§ 4. Вопросы и упражнения1. Проверить эффективность оценок максимального правдоподобиядля неизвестных параметров следующих семейств распределений: Bp ,Πλ , Na, σ2 при известном a, Bm,p при известном m.2. Выполнить все упражнения, содержащиеся в тексте главы IV.3. Пусть X1 , . . . , Xn — выборка из параметрического семейства распределений Fθ , где θ ∈ Θ. Доказать, что если оценка θ∗ являетсяR -эффективной оценкой для θ в классе оценок со смещением b(θ) = θ/n ,то она состоятельна.4. Пусть X1 , . . . , Xn — выборка из распределения Пуассона с параметром λ . В качестве оценки параметра θ = e−λ рассматривается статистикаθ∗ = I{X = 0} .
Вычислить смещение этой оценки и проверить, являетсяли она R -эффективной.5. Выполнены ли условия регулярности для семейства распределенийFθ с плотностью распределения 4(θ − y)3 /θ4 на отрезке [0, θ] ?6. Семейство распределений {Fθ ; θ ∈ Θ} называется экспоненциаль~ θ) допускает представлениеным, если функция правдоподобия f (X;~~ θ) = eA(θ)T (X)+B(θ) h(X).~f (X;Проверить, являются ли экспоненциальными семейства распределений:Na, σ2 при известном σ2 , Na, σ2 при известном a, Γα, λ при известном λ,Γα, λ при известном α, Πλ .7. Пусть X1 , .
. . , Xn — выборка из экспоненциального семейства, причём функции A(θ) и B(θ) непрерывно дифференцируемы. Доказать, что~ из определения экспоненциального семейства додля оценки θ∗ = T (X)стигается равенство в неравенстве Рао — Крамера.ГЛАВА VИНТЕРВАЛЬНОЕ ОЦЕНИВАНИЕ~ = (X1 , . . . , Xn ) из распределенияПусть, как обычно, имеется выборка XFθ с неизвестным параметром θ ∈ Θ ⊆ R. До сих пор мы занимались «точечным оцениванием» неизвестного параметра — находили оценку (длякаждой реализации выборки — число), способную в некотором смысле заменить параметр. Существует другой подход к оцениванию, при котороммы указываем интервал, накрывающий параметр с заданной наперед вероятностью. Такой подход называется интервальным оцениванием.
Сразузаметим: чем больше уверенность в том, что параметр лежит в интервале, тем шире интервал. Поэтому бессмысленно искать диапазон, внутрикоторого θ содержится гарантированно,— это вся область Θ.§ 1. Доверительные интервалы~ = (X1 , . . . , Xn ) — выборка объёма n из распределения FθПусть Xс параметром θ ∈ Θ ⊆ R.О п р е д е л е н и е 15. Пусть 0 < ε < 1.
Интервал со случайными кон~ ε), θ+ (X,~ ε) называется доверительным интерцами (θ− , θ+ ) = θ− (X,валом для параметра θ уровня доверия 1 − ε, если для любого θ ∈ ΘP θ− < θ < θ+ > 1 − ε.О п р е д е л е н и е 16. Пусть 0 < ε < 1. Интервал со случайными кон~ ε), θ+ (X,~ ε) называется асимптотическим доцами (θ− , θ+ ) = θ− (X,верительным интервалом для параметра θ (асимптотического) уровня доверия 1 − ε, если для любого θ ∈ Θlim inf P θ− < θ < θ+ > 1 − ε.n→∞На самом деле в определении 16 речь идёт, конечно, не об одном интервале, но о последовательности интервалов, зависящих от n.58ГЛАВА V. ИНТЕРВАЛЬНОЕ ОЦЕНИВАНИЕЗ а м е ч а н и е 11. Случайны здесьграницы интервала (θ− , θ+ ), поэтому читают формулу P θ− < θ < θ+ как «интервал (θ− , θ+ ) накрываетпараметр θ », а не как « θ лежит в интервале.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
