1612725170-d2dcc605205feb3d5b9a0101f2221951 (828894), страница 6

Просмтор этого файла доступен только зарегистрированным пользователям. Но у нас супер быстрая регистрация: достаточно только электронной почты!

Текст из файла (страница 6)

Дана выборка X1 , . . . , Xn из равномерного распределения U0, θ с параметром θ > 0. Проверить состоятельность и несмещённость оценок θ∗ == X(n) , θ∗∗ = X(n) + X(1) для параметра θ.5. Построить оценки неизвестных параметров по методу моментовдля неизвестных параметров следующих семейств распределений: Bp —32ГЛАВА II. ТОЧЕЧНОЕ ОЦЕНИВАНИЕпо первому моменту, Πλ — по первому и второму моменту, Ua, b — попервому и второму моменту, Eα — по всем моментам, E1/α — по первомумоменту, U−θ, θ — как получится, Γα, λ — по первому и второму моменту,Na, σ2 (для σ2 при a известном и при a неизвестном).6.

Построить оценки неизвестных параметров по методу максимального правдоподобия для следующих семейств распределений: Bm, p приизвестном значении m ∈ N, Πλ+1 , U0, 2θ , E2α+3 , U−θ, θ , Na, σ2 при известном a.7. Какие из оценок в задачах 5 и 6 несмещённые? Какие из них состоятельны?8. Эмпирическая функция распределения Fn∗ (y) строится по выборкеиз равномерного распределения на отрезке [0, a], где a > 1. Для какогопараметра θ = θ(a) статистика Fn∗ (1) является несмещённой оценкой?Является ли она состоятельной оценкой того же параметра?9.

Пусть элементы выборки X1 , . . . , Xn имеют распределение с плотностью(33θy 2 e−θy , если y > 0,fθ (y) =0,если y 6 0,где θ > 0 — неизвестный параметр. Проверить, является ли оценка максимального правдоподобия асимптотически несмещённой оценкой для параметра θ .10. Дана выборка из равномерного распределения на отрезке [0, θ].Найти предел (в смысле сходимости п. н.) при k → ∞ последовательностиоценок параметра θ, полученных методом моментов по k -му моменту.Г Л А В А IIIСРАВНЕНИЕ ОЦЕНОКИспользуя метод моментов и метод максимального правдоподобия, мыполучили для каждого параметра достаточно много различных оценок.Каким же образом их сравнивать? Что должно быть показателем «хорошести» оценки? Понятно, что чем дальше оценка отклоняется от параметра, тем она хуже. Но величина |θ∗ − θ| для сравнения непригодна:во-первых, параметр θ неизвестен, во-вторых, θ∗ — случайная величина,поэтому при разных значениях выборки эти расстояния будут, вообще говоря, различны.

Для сравнения оценок используют обычно усреднённыехарактеристики рассеяния. Это может быть либо E(θ∗ − θ)2 , либо некий«предельный» разброс последовательности оценок относительно параметра. В зависимости от этого различают среднеквадратический и асимптотический подходы к сравнению оценок.§ 1. Среднеквадратический подход к сравнению оценокСреднеквадратический подход использует в качестве «расстояния» отоценки до параметра величину E(θ∗ − θ)2 . Это среднее является функцией от параметра θ, поэтому сравнивают такие отклонения при каждомвозможном значении θ.Пусть X1 , . .

. , Xn — выборка объёма n из параметрического семействараспределений Fθ , где θ ∈ Θ.О п р е д е л е н и е 9. Говорят, что оценка θ∗1 лучше оценки θ∗2 в смысле среднеквадратического подхода (или в среднеквадратичном), если длялюбого θ ∈ ΘE(θ∗1 − θ)2 6 E(θ∗2 − θ)2 ,и хотя бы при одном θ это неравенство строгое.Существует ли среди всех оценок наилучшая в смысле среднеквадратического подхода? Здравый смысл подсказывает, что ответ на этотвопрос скорее отрицателен, равно как и на любой вопрос о существовании слишком глобального экстремума. Предположим, что мы имеем дело34ГЛАВА III. СРАВНЕНИЕ ОЦЕНОКс невырожденной задачей: ни для какой статистики θ∗ невозможно, чтобы оценка θ∗ равнялась θ п. н.

при любых θ ∈ Θ.Т е о р е м а 10. В классе всех возможных оценок наилучшей в смыслесреднеквадратического подхода оценки не существует.Д о к а з а т е л ь с т в о. Пусть, напротив, θ∗ — наилучшая, т. е. для любой другой оценки θ∗1 , при любом θ ∈ Θ выполненоE(θ∗ − θ)2 6 E(θ∗1 − θ)2 .Пусть θ1 — произвольная точка области Θ. Рассмотрим статистикуθ∗1 ≡ θ1 . Тогда E(θ∗ − θ)2 6 E(θ1 − θ)2 при любом θ ∈ Θ. В частности, приθ = θ1 получим E(θ∗ − θ1 )2 6 E(θ1 − θ1 )2 = 0.

Поэтому E(θ∗ − θ1 )2 = 0.Поскольку θ1 произвольно, равенство E(θ∗ − θ)2 = 0 имеет место прилюбом θ ∈ Θ.Но величина (θ∗ − θ)2 неотрицательна, поэтому равенство нулю её математического ожидания возможно только в случае, когда θ∗ = θ п. н.(оценка в точности отгадывает неизвестный параметр), т. е. для вырожденной с точки зрения математической статистики задачи.Приведём примеры вырожденных задач, когда параметр однозначноопределяется по выборке. Так, для выборки из вырожденного распределения Iθ параметр совпадает с любым элементом выборки: θ = X1 п. н.;для выборки из равномерногораспределения Uθ, θ+1 при Θ = Z имеет место равенство θ = X1 п. н.Если в классе всех оценок наилучшей не существует, то, возможно,следует разбить класс всех оценок на отдельные подклассы и в каждомискать наилучшую.

Обычно рассматривают оценки, имеющие одинаковоесмещение b(θ) = E θ∗ − θ.Обозначим через Kb = Kb(θ) класс всех оценок со смещением, равнымзаданной функции b(θ):Kb = {θ∗ | E θ∗ = θ + b(θ)} ,K0 = {θ∗ | E θ∗ = θ} .Здесь K0 — класс несмещённых оценок.О п р е д е л е н и е 10.

Оценка θ∗ ∈ Kb называется эффективной оценкой в классе Kb , если она лучше (не хуже) всех других оценок класса Kbв смысле среднеквадратического подхода, т. е. для любой θ∗1 ∈ Kb , длялюбого θ ∈ ΘE(θ∗ − θ)2 6 E(θ∗1 − θ)2 .О п р е д е л е н и е 11. Эффективная оценка в классе K0 называетсяпросто эффективной.§ 1. Среднеквадратический подход к сравнению оценок35З а м е ч а н и е 8. Для оценки θ∗ ∈ K0 по определению дисперсииE(θ∗ − θ)2 = E(θ∗ − E θ∗ )2 = D θ∗ ,т.

е. сравнение в среднеквадратичном несмещённых оценок есть просто сравнение их дисперсий. Поэтому эффективную оценку ещё называют «несмещённой оценкой с равномерно минимальной дисперсией»(«н. о. р. м. д.»). Равномерность имеется в виду по всем θ ∈ Θ.Для смещённых оценок θ∗ ∈ KbE(θ∗ − θ)2 = D(θ∗ − θ) + (E θ∗ − θ)2 = D θ∗ + b2 (θ),т. е. сравнение в среднеквадратичном оценок с одинаковым смещением также приводит к сравнению их дисперсий.У п р а ж н е н и е .

Мы хотим найти наилучшую оценку в классе Kb .Объясните, почему доказательство теоремы 10 не пройдет в классе Kb .Следующее утверждение показывает, что в классе оценок с одинаковымсмещением не может существовать двух различных эффективных оценок:если эффективная оценка существует, она единственна.Т е о р е м а 11. Если θ∗1 ∈ Kb и θ∗2 ∈ Kb — две эффективные оценкив классе Kb , то с вероятностью 1 они совпадают: θ∗1 = θ∗2 п. н.Д о к а з а т е л ь с т в о. Заметим сначала, что E(θ∗1 − θ)2 = E(θ∗2 − θ)2 .Действительно, так как θ∗1 эффективна в классе Kb , то она не хуже оценки θ∗2 , т.

е. E(θ∗1 − θ)2 6 E(θ∗2 − θ)2 и наоборот.θ∗ + θ∗Рассмотрим оценку θ∗ = 1 2 . Она также принадлежит классу2Kb (доказать). Вычислим её среднеквадратическое отклонение. Запишемa+b 2a−b 2a2 + b 2+=(7)222и положим в этом равенстве a = θ∗1 − θ, b = θ∗2 − θ.

Тогдаa+b= θ∗ − θ,2a − b = θ∗1 − θ∗2 .Подставим эти выражения в (7) и вычислим математические ожиданияобеих частей: ∗ ∗ 2θ −θ(θ∗ − θ)2 + (θ∗2 − θ)2∗2E(θ − θ) + E 1 2=E 1= E(θ∗1 − θ)2 .(8)22Но оценка θ∗ принадлежит Kb , т. е. она не лучше, например, эффективной оценки θ∗1 . ПоэтомуE(θ∗ − θ)2 > E(θ∗1 − θ)2 .36ГЛАВА III. СРАВНЕНИЕ ОЦЕНОКСравнивая это неравенство с равенством (8), видим, что ∗ ∗ 2θ −θ1= E(θ∗1 − θ∗2 )2 6 0 и, следовательно, E(θ∗1 − θ∗2 )2 = 0.E 1 224Тогда (почему?) θ∗1 = θ∗2 п. н., что и требовалось доказать.Для примера рассмотрим сравнение двух оценок. Разумеется, сравнивая оценки попарно между собой, наилучшей оценки в целом классе ненайти, но выбрать лучшую из двух тоже полезно. Поиску наилучшей оценки в целом классе посвящена следующая глава.П р и м е р 13. Пусть X1 , .

. . , Xn — выборка объёма n из равномерного распределения U0, θ , где θ > 0. В примерах 4 и 10 мы нашли ОМПθ̂ = X(n) = max{X1 , . . . , Xn } и ОММ по первому моменту θ∗ = 2X.Сравним их в среднеквадратичном.Оценка θ∗ = 2X несмещённая, поэтомуE(θ∗ − θ)2 = D θ∗ = D2X = 4 · DX = 4DX1θ2θ2=4·=.n12n3nДля θ̂ = X(n) = max{X1 , . . . , Xn } имеем E(θ̂ − θ)2 = E θ̂2 − 2θ E θ̂ + θ2 .Найдём функцию и плотность распределения случайной величины θ̂ :0,n y < 0,yP(X(n) < y) = P(X1 < y, . . .

, Xn < y) = P n (X1 < y) =n , y ∈ [0, θ],θ1,y > θ,fX(n) (y) =0,nесли y 6∈ [0, θ],y n−1θn, если y ∈ [0, θ].Посчитаем первый и второй моменты случайной величины θ̂ = X(n) :ZθEX(n) = yny n−1θnndy =θ,n+10Zθ2EX(n)= y2ny n−1θndy =nθ2 .n+20ПоэтомуE(X(n) − θ)2 =nn2θ2 − 2θ2 + θ2 =θ2 .n+2n+1(n + 1)(n + 2)При n = 1, 2 квадратические отклонения оценок θ∗ и θ̂ равны: ни однаиз этих оценок не лучше другой в среднеквадратическом смысле, а при37§ 2.

Асимптотический подход к сравнению оценокn > 2 оценка X(n) оказывается лучше, чем 2X :E(X(n) − θ)2 =2θ2θ2<= E(2X − θ)2 .(n + 1)(n + 2)3nПри этом E(X(n) − θ)2 стремится к нулю со скоростью n−2 , тогда какE(2X − θ)2 — всего лишь со скоростью n−1 .§ 2. Асимптотический подход к сравнению оценокАсимптотически нормальные оценки. Среднеквадратический подходк сравнению оценок имеет существенный недостаток: не всегда возможно вычислить моменты величины θ∗ − θ. Например,не удастся сравqkнить в среднеквадратичном смысле оценки θ∗k = (k + 1)X k из примера 4 (с. 24).

Характеристики

Список файлов лекций