1612725209-a23bee82d85f38806186b1a563141c58 (828890), страница 5
Текст из файла (страница 5)
. . , Xn — выборка из усечённого на заданномуровне m геометрического распределения с параметром p ∈ (0, 1):P{X1 = k} = p(1 − p)k ,k = 0, . . . , m − 1,P{X1 = m} = 1 − P{X1 6 m − 1} = (1 − p)m .Найти оценку максимального правдоподобия для p.4.25. Найти оценку максимального правдоподобия параметраθ равномерного распределения на конечном множестве {1, . . . , θ},θ — целый положительный параметр.4.26. Пусть дана выборка из нормального распределения сосредним a и единичной дисперсией, где a может принимать лишьдва значения: 1 и 2. Найти оценку максимального правдоподобияпараметра a.Р е ш е н и е. Поскольку множество Θ = {1, 2} двухточечное, то оценка максимального правдоподобия a∗n (X1 , .
. . , Xn ) принимает значение 1, еслиf1 (X1 , . . . , Xn ) > f2 (X1 , . . . , Xn ), что эквивалентно неравенству221 P1 P11√e− 2 (Xi −1) > √e− 2 (Xi −2) .nn( 2π)( 2π)30отдел ii. методы построения оценокРешив последнее неравенство, получим1, если X < 3/2,a∗n =2, если X > 3/2.4.27. Пусть дана выборка из показательного распределенияс параметром α, где α может принимать лишь значения 1, 2 и 3.Построить оценку максимального правдоподобия параметра α.4.28. Пусть X1 , . .
. , Xn — выборка из следующего трёхточечного распределения, зависящего от параметра θ ∈ (0, 1/3):Pθ {X1 = 1} = θ,Pθ {X1 = 2} = 2θ,Pθ {X1 = 3} = 1 − 3θ.Найти оценку максимального правдоподобия параметра θ.4.29. Пусть распределение выборки имеет плотность fθ (y) =f (y − θ), где функция f (y) имеет единственный максимум в точкеy = 0. Построить оценку максимального правдоподобия θ1∗ параметра сдвига θ по одному наблюдению X1 .4.30. Пусть в условиях предыдущей задачи функция f (y) убывает с ростом |y|. Доказать, что оценка максимального правдоподобия θn∗ , построенная по выборке объёма n, лежит в интервале[X(1) , X(n) ].4.31.
Привести пример параметрического семейства распределений, для которого оценка максимального правдоподобия неединственна.4.32. Привести пример, когда оценка максимального правдоподобия не совпадает с оценкой по методу моментов, полученнойс помощью функции g(y) = y.§ 5. Байесовские оценкиПусть {Fθ , θ ∈ Θ} — некоторое параметрическое семейство распределений. Пусть выполнено условие доминирования относительно некоторой мерыµ на R, т.
е. это параметрическое семейство состоит из распределений, абсолютно непрерывных относительно µ. Обозначим через fθ плотность распределения Fθ относительно меры µ.Пусть параметр θ является случайной величиной с плотностью q(t) относительно некоторой меры λ. Функцияf (t, x1 , . . . , xn ) = ft (x1 , . . . , xn )q(t)31§ 5. байесовские оценкиявляется плотностью некоторого распределения в Rn × Θ относительно мерыµn ×λ. Байесовской оценкой параметра θ, построенной по выборке X1 , . .
. , Xn ,называетсяZθn∗ =tq(t|X1 , . . . , Xn )λ(dt),Θгде апостериорная плотность q(t|x1 , . . . , xn ) параметра θ вычисляется поформулеq(t|x1 , . . . , xn ) = Rft (x1 . . . , xn )q(t).fs (x1 , . . . , xn )q(s)λ(ds)Θ5.1. Пусть дана выборка из нормального распределения сосредним a и единичной дисперсией, причём параметр a имеет нормальное распределение с нулевым средним и известной дисперсией σ 2 . Построить байесовскую оценку параметра a.Р е ш е н и е. Так как2q(t) = (2πσ 2 )−1/2 e−t−n/2 −ft (x1 , .
. . , xn ) = (2π)ePn/2σ 2,i=1 (xi −t)2/2,то плотность q(t|x1 , . . . , xn ) пропорциональна (как функция от t) произведению q(t)ft (x1 , . . . , xn ) или, что то же, пропорциональна2e−tP2/2σ 2 − ni=1 (xi −t) /22= e−t(1/σ 2 +n)/2+xnt−nx2 /2.Из равенства(Xn)2t2 11 1Xn 2−+ n + Xnt = −+n t−+2222 σ2 σ1/σ + n2(1/σ 2 + n)следует что плотность q(t|x1 , . . . , xn ) отвечает нормальному распределению сосредним Xnσ 2 /(1 + nσ 2 ) и дисперсией σ 2 /(1 + nσ 2 ). Поэтому искомая оценкаимеет видZXnσ 2tq(t|X1 , .
. . , Xn ) dt =a∗n =.1 + nσ 2Θ5.2. Пусть дана выборка из нормального распределения сосредним a и единичной дисперсией, причём параметр a имеет нормальное распределение с известным средним b и известной дисперсией σ 2 . Построить байесовскую оценку параметра a.32отдел ii. методы построения оценок5.3. Пусть дана выборка из нормального распределения сосредним a и единичной дисперсией, причём параметр a имеет распределение Бернулли с параметром 1/2.
Построить байесовскуюоценку параметра a.5.4. Построить байесовскую оценку параметра θ равномерногораспределения на отрезке [0, θ], если параметр θ имеета) плотность q(t) = 1/t2 при t > 1;б) равномерное распределение на отрезке [0, 1].5.5. Пусть дана выборка из равномерного распределения наотрезке [0, θ], причём θ принимает значения 1 и 2 с равными вероятностями.
Построить байесовскую оценку параметра θ.5.6. Пусть дана выборка из показательного распределения с параметром α, причём α имеет показательное распределение с параметром β. Построить байесовскую оценку параметра α.5.7. Пусть дана выборка из смещённого показательного распределения с плотностью β−yeпри y > β,fβ (y) =0при y < β,причём β равномерно распределено на отрезке [0, 1]. Построитьбайесовскую оценку параметра β.5.8.
Построить байесовскую оценку параметра θ распределения с плотностью 2y/θ2 на отрезке [0, θ], если параметр θ имеета) равномерное распределение на отрезке [0, 1];б) плотность 3θ2 на отрезке [0, 1];в) распределение Парето с параметрами β и 1, где значениеβ > 0 известно.5.9. Пусть дана выборка из распределения Бернулли с параметром p, причём p равномерно распределено на отрезке [0, 1].Построить байесовскую оценку параметра p.5.10. Пусть дана выборка из распределения Бернулли с параметром p, причём p принимает значения 1/2 и 1/3 с одинаковымивероятностями. Построить байесовскую оценку параметра p.5.11. Пусть дана выборка из распределения Бернулли с параметром p, причём p имеет плотность q(t) = λtλ−1 на отрезке [0, 1],где λ > 0 известно.
Построить байесовскую оценку параметра p.§ 5. байесовские оценки335.12. Пусть дана выборка из распределения Пуассона с параметром λ, причём λ имеет показательное распределение с параметром 1. Построить байесовскую оценку параметра λ.5.13. Пусть дана выборка из распределения Пуассона, причёмпараметр λ принимает значения 1 и 2 с вероятностями 1/3 и 2/3соответственно. Построить байесовскую оценку параметра λ.5.14. Пусть дана выборка из геометрического распределенияс параметром p, причём p равномерно распределено на множестве{1/4, 1/2, 3/4}.
Построить байесовскую оценку параметра p.О Т Д Е Л IIIСВОЙСТВА ОЦЕНОК§ 6. Несмещённость и состоятельностьПусть {Fθ , θ ∈ Θ} — некоторое параметрическое семейство распределений. Пусть X1 , X2 , . . . — выборка из распределения Fθ и θn∗ = θn∗ (X1 , . . . , Xn ) —некоторая оценка параметра θ, построенная по данной выборке.Оценка θn∗ называется состоятельной оценкой параметра θ, если прилюбом θ ∈ Θ величина θn∗ сходится при n → ∞ по вероятности к θ.Оценка θn∗ называется сильно состоятельной оценкой параметра θ, еслипри любом θ ∈ Θ величина θn∗ почти наверное сходится при n → ∞ к θ.Смещением оценки θn∗ называется величина bn (θ) = Eθ θn∗ − θ.Оценка θn∗ называется несмещённой оценкой параметра θ, если bn (θ) = 0при любом θ ∈ Θ.6.1.
Для выборки из равномерного распределения на отрезке [0, θ] проверить состоятельность и несмещённость оценки X(n)параметра θ.Р е ш е н и е. Плотность распределения величины X(n) равна ny n−1 /θn приy ∈ [0, θ]. ПоэтомуZθnny n−1dy =EX(n) = yθ.θnn+10Следовательно, смещение оценки X(n) равно −θ/(n + 1) и она является смещённой, но асимптотически несмещённой. Проверим состоятельность: длялюбого фиксированного ε ∈ (0, θ) θ − ε n→0P{|θ − X(n) | > ε} = P{X(n) 6 θ − ε} =θпри n → ∞. Следовательно, оценка X(n) состоятельна. Более того, она сильносостоятельна, так как последовательность случайных величин X(n) не убывает с вероятностью 1.6.2.
Пусть X1 , . . . , Xn — выборка из равномерного распределения на отрезке [0, θ]. Проверить состоятельность и несмещённость§ 6. несмещённость и состоятельность35следующих оценок параметра θ:г) X(1) + X(n) ;а) 2X;д) n+1б) X + X(n) /2;n X(n) .в) (n + 1)X(1) ;6.3. Пусть X1 , . . . , Xn — выборка из равномерного распределения на отрезке [0, θ].
С помощью неравенства Чебышёва доказатьсостоятельность следующих оценок параметра θ:а) 2X;б) X(n) .6.4. Пусть X1 , . . . , Xn — выборка из равномерного распределения на отрезке [a, b]. Является ли оценка θn∗ = X(n) − X(1)несмещённой оценкой длины отрезка b − a? Состоятельной?6.5.