1625915145-5b3debabab98d9e994cc3a1bc8da0f5b (843876), страница 10
Текст из файла (страница 10)
Следствие 1 можно сформулировать так: еслиоценка R -эффективна, то она эффективна в соответствующем классе.П р и м е р 21. Для выборки X1 , . . . , Xn из распределения БернуллиBp несмещённая оценка p∗ = X эффективна, так как для неё достигаетсяравенство в неравенстве Рао — Крамера (см. [5, пример 13.20]).П р и м е р 22. Пусть X1 , . . . , Xn — выборка объёма n из нормального распределения Na, σ2 , где a ∈ R, σ > 0. Проверим, является ли оценкаa∗ = X ∈ K0 эффективной (см. также [5, пример 13.6]).Найдём информацию Фишера относительно параметра a (считая, чтоимеется один неизвестный параметр a ). Плотность распределения равнаf(a, σ2 ) (y) = √12πσ2∂e−(y−a)2 /(2σ2 ),12ln f(a,σ2 ) (y) = − ln(2πσ2 ) −(y − a)22σ2.y−aln f(a,σ2 ) (y) = 2 . Найдя второй момент этого выСоответственно,σ∂aражения при y = X1 , получим информацию Фишера)2(E(X1 − a)2DX11∂ln f(a,σ2 ) (X1 ) ===.I(a) = E442σ∂aσσσ21Найдём дисперсию оценки X: DX = DX1 =.nnСравнивая левую и правую части в неравенстве Рао — Крамера, получаем равенствоDX =σ2n=1.nI(a)Итак, оценка a∗ = X эффективна (т.
е. обладает наименьшей дисперсиейсреди несмещённых оценок).52ГЛАВА IV. ЭФФЕКТИВНЫЕ ОЦЕНКИП р и м е р 23. Пусть X1 , . . . , Xn — выборка объёма n из нормального распределения N0, σ2 , где σ > 0. Проверим, является ли эффективнойоценкаn1 ∑ 22∗σ =Xi = X 2 ∈ K0 .ni=1У п р а ж н е н и е . Получить эту оценку методом моментов и методоммаксимального правдоподобия.Найдём информацию Фишера относительно параметра σ2 . Плотностьраспределения равнаfσ2 (y) = √12πσ2e−y2 /(2σ2 ),12ln fσ2 (y) = − ln(2π) −1y2ln σ2 − 2 .22σПродифференцируем это выражение по параметру σ2 :∂∂ σ2ln fσ2 (y) = −12σ2+y22σ4.Вычислим информацию Фишера()222X11121 −=I(σ2 ) = EE(X−σ2 ) =DX12 .142882σ2σ4σ4σ2Осталось найти DX12 = EX14 − (EX12 ) = EX14 − σ4 .
Можно вспомнитьнекоторые формулы вероятности: величина ξ = X1 /σ имеет стандартноенормальное распределение, и для неёE ξ2k = (2k − 1)!! = (2k − 1)(2k − 3) · . . . · 3 · 1,Тогда E ξ4 = 3, X1 = ξ · σ,EX14 = E ξ4 · σ4 = 3σ4 .Если вспомнить не удалось, посчитаем заново. Воспользуемся свойствами характеристических функций и вычислим четвёртую производную ха2рактеристической функции φξ (t) = e−t /2 в нуле.
Делать это удобнее через разложение в ряд:()k∞∑t4t23t41t2t2−t2/2+− ... = 1 −+− ...e=−=1−k=0k!22824!Производная четвёртого порядка в нуле равна коэффициенту при(4)да Тейлора: E ξ4 = i4 E ξ4 = φξ (0) = 3.t4ря4!53§ 3. Проверка эффективности оценокМожно вычислить интеграл и напрямую.
Интегрированием по частямполучаем∞∫E ξ4 =−∞212y 4 √ e−y /2 dy = − √2π2π2 3 −y 2/2 ∞= −√y e −2π∞∫02·32π∞∫y2 e= √y 3 de=e−y /2 dy 3 =2∞∫dy = 3−∞0−y 2/200−y 2/2∞∫−y 2/21√ y2 edy = 3D ξ = 3.2πИтак, DX12 = EX14 − σ4 = 2σ4 ,I(σ2 ) =1DX12 =84σ14σ2σ4 =812σ4.∗Найдём дисперсию оценки σ2 = X 2 и сравним её с правой частьюнеравенства Рао — Крамера:∑112σ41= 2DXi2 = DX12 ==,nnnnI(σ2 )nDX 21∗Итак, оценка σ2 = X 2 R -эффективна и, следовательно, эффективна.У п р а ж н е н и е . Пусть X1 , .
. . , Xn — выборка объёма n из нормального распределения Na, σ2 , где оба параметра a и σ2 неизвестны. Проверить, является ли R -эффективной оценкой дляσ2 несмещённаявыбо()222рочная дисперсия S0 , используя равенство: D (n − 1)S0 /σ = 2(n − 1).Это равенство читатель сможет доказать несколькими главами позднее,когда познакомится с χ2-распределением. При некотором терпении егоможно доказать и непосредственным вычислением.П р и м е р 24. Пусть X1 , . . . , Xn — выборка объёма n из показательного распределения E1/α с параметром 1/α, где α > 0.
Проверим, является ли несмещённая (почему?) оценка α∗ = X эффективной оценкой дляпараметра α.Найдём информацию Фишера относительно параметра α()2∂I(α) = Eαln fα (X1 ) .∂α54ГЛАВА IV. ЭФФЕКТИВНЫЕ ОЦЕНКИПлотность данного показательного распределения имеет вид{1 −ye α , если y > 0,fα (y) = α0,если y ⩽ 0.Тогда fα (X1 ) =1αe−X1 /α п. н., ln fα (X1 ) = − ln α −X1α,∂1X1ln fα (X1 ) = − + 21 = 2 (X1 − α)∂ααααи информация Фишера равнаI(α) =E(X1 − α)2α4=DX1α4=α2α4=1α2.Найдём дисперсию оценки X и сравним с правой частью в неравенствеРао — Крамера для несмещённых оценок:DX =1α21DX1 ==.nnnI(α)Следовательно, оценка α∗ = X R -эффективна и поэтому является эффективной оценкой для параметра α.У п р а ж н е н и е .
Получить эту оценку методом моментов и методоммаксимального правдоподобия. Она действительно несмещённая? А ещёкакими свойствами обладает?У п р а ж н е н и е . Проверить, что для несмещённой оценки α∗∗ = X1равенство в неравенстве Рао — Крамера не достигается. Объяснить, почему, исходя только из этого, нельзя сделать вывод о её неэффективностив классе K0 . Сделать этот вывод на основании того, что оценки α∗ = Xи α∗∗ = X1 принадлежат классу оценок с одинаковым смещением, и однаиз них эффективна. Сформулировать теорему о единственности эффективной оценки в классе оценок с фиксированным смещением.Отсутствие равенства в неравенстве Рао — Крамера вовсе не означает,что оценка не является эффективной. Для некоторых семейств распределений это неравенство не точно́ в том смысле, что самая маленькая издисперсий несмещённых оценок всё же оказывается строго большей, чемправая часть неравенства.
Приведём пример оценки, которая являетсяэффективной (в этом мы убедимся много позже), но не R -эффективной,т. е. для неё не достигается равенство в неравенстве Рао — Крамера.П р и м е р 25. Пусть X1 , . . . , Xn — выборка объёма n из показательного распределения Eα с параметром α, где α > 0. Возьмём чуть55§ 3. Проверка эффективности оценокпоправленную оценку метода моментовα∗ =n−11n−1·=.nX1 + .
. . + XnXУбедимся, что это несмещённая оценка. Согласно свойству устойчивости по суммированию для гамма-распределения, сумма X1 + . . . + Xnнезависимых случайных величин с распределением E = Γα,1 имеет распределение Γα,n с плотностью распределения n αy n−1 e−αy , y > 0,γα,n (y) = (n − 1)!0,y ⩽ 0.Вычислим математическое ожиданиеE α∗ = E= α(n−1X1 + . . .
+ Xn(n − 1)(n − 1)!)∞∫= (n − 1)1αny n−1 e−αy dy =y (n − 1)!0∞∫α(αy)n−2 e−αy d(αy) =(n − 2)!· (n − 2)! = α.0Итак, оценка α∗ принадлежит классу K0 . Информацию Фишера отно1сительно параметра α мы вычислили в примере 17 (с. 46): I(α) = 2 .αНайдём второй момент и дисперсию оценки α∗ :∞∫21αn(n−1)E(α∗ )2 = E ∑ 2 = (n − 1)2y n−1 e−αy dy =2(y (n − 1)!Xi )(n − 1)2= α2(n − 1)!∞∫0(αy)n−3 e−αy d(αy) = α2(n − 1)n−1 2· (n − 3)! =α ,(n − 2)!n−20тогдаD α∗ = E(α∗ )2 − (E α∗ )2 =n−1 2α2α − α2 =.n−2n−2Подставив дисперсию и информацию Фишера в неравенство Рао — Крамера, получим, что при любом n есть строгое неравенствоD α∗ =α2n−2>α2n=1.nI(α)В главе XI мы докажем эффективность оценки α∗ .56ГЛАВА IV.
ЭФФЕКТИВНЫЕ ОЦЕНКИ§ 4. Вопросы и упражнения1. Проверить эффективность оценок максимального правдоподобиядля неизвестных параметров следующих семейств распределений: Bp ,Πλ , Na, σ2 при известном a, Bm,p при известном m.2. Выполнить все упражнения, содержащиеся в тексте главы IV.3. Пусть X1 , . . . , Xn — выборка из параметрического семейства распределений Fθ , где θ ∈ Θ. Доказать, что если оценка θ∗ являетсяR -эффективной оценкой для θ в классе оценок со смещением b(θ) = θ/n ,то она состоятельна.4. Пусть X1 , . . .
, Xn — выборка из распределения Пуассона с параметром λ . В качестве оценки параметра θ = e−λ рассматривается статистикаθ∗ = I{X = 0} . Вычислить смещение этой оценки и проверить, являетсяли она R -эффективной.5. Выполнены ли условия регулярности для семейства распределенийFθ с плотностью распределения 4(θ − y)3 /θ4 на отрезке [0, θ] ?6.
Семейство распределений {Fθ ; θ ∈ Θ} называется экспоненциаль⃗ θ) допускает представлениеным, если функция правдоподобия f (X;⃗⃗ θ) = eA(θ)T (X)+B(θ) h(X).⃗f (X;Проверить, являются ли экспоненциальными семейства распределений:Na, σ2 при известном σ2 , Na, σ2 при известном a, Γα, λ при известном λ,Γα, λ при известном α, Πλ .7. Пусть X1 , . . . , Xn — выборка из экспоненциального семейства, причём функции A(θ) и B(θ) непрерывно дифференцируемы.
Доказать, что⃗ из определения экспоненциального семейства додля оценки θ∗ = T (X)стигается равенство в неравенстве Рао — Крамера.ГЛАВА VИНТЕРВАЛЬНОЕ ОЦЕНИВАНИЕ⃗ = (X1 , . . . , Xn ) из распределенияПусть, как обычно, имеется выборка XFθ с неизвестным параметром θ ∈ Θ ⊆ R. До сих пор мы занимались «точечным оцениванием» неизвестного параметра — находили оценку (длякаждой реализации выборки — число), способную в некотором смыслезаменить параметр.
Существует другой подход к оцениванию, при котором мы указываем интервал, накрывающий параметр с заданной наперед вероятностью. Такой подход называется интервальным оцениванием. Сразу заметим: чем больше уверенность в том, что параметр лежитв интервале, тем шире интервал. Поэтому бессмысленно искать диапазон, внутри которого θ содержится гарантированно,— это вся область Θ.§ 1.
Доверительные интервалы⃗ = (X1 , . . . , Xn ) — выборка объёма n из распределения FθПусть Xс параметром θ ∈ Θ ⊆ R.О п р е д е л е н(и е 15. Пусть 0 < )ε < 1. Интервал со случайными кон⃗ ε), θ+ (X,⃗ ε) называется доверительным интерцами (θ− , θ+ ) = θ− (X,валом для параметра θ уровня доверия 1 − ε, если для любого θ ∈ Θ()P θ− < θ < θ+ ⩾ 1 − ε.О п р е д е л е н(и е 16.
Пусть 0 < )ε < 1. Интервал со случайными кон⃗ ε), θ+ (X,⃗ ε) называется асимптотическим доцами (θ− , θ+ ) = θ− (X,верительным интервалом для параметра θ (асимптотического) уровнядоверия 1 − ε, если для любого θ ∈ Θ()lim inf P θ− < θ < θ+ ⩾ 1 − ε.n→∞На самом деле в определении 16 речь идёт, конечно, не об одном интервале, но о последовательности интервалов, зависящих от n.58ГЛАВА V.