40 задач по мастату с решениями (made by Elendil)

ЗадачиЗадача №1. Пусть X1 , . . . , Xn независимыи имеют биномиальное распределениеPBi(1, θ), 0<θ<1. Доказать, что T (X) = ni=1 Xi – полная и достаточная статистика.Решение. Покажем, что Pθ (X=x | T (X)=t) не зависит от θ: n noX P X1 =x1 , . . . , Xn =xn , T (X) = tPθ X=x | T (X)=t =Xi ∼ Bi(n, θ) ==P T (X)=ti=1=nPθ i=1xi1−θtn−Cnt · θ 1−θnP= (1−θ)ϕ(k)Cnk τ kk=0nPµ1 = EX =k=0≡0Из условия равенства теоретических моментов эмпирическим получим оценку методом моментов для a и b:qa = M1 − 3 (M2 −M12 ) ,qb = M1 + 3 (M2 −M12 ) .P X(n) ∈ [θ−ε, θ] −−−→ 1.P→ θ, что означает состоятельность оценки T (X).То есть, T (X) = X(n) −∀τ ∈(0, +∞).ϕ(k)Cnk τ k – многочлен степени не выше n – имеет континуум корней, следова-Задача №2.

Пусть X1 , . . . , Xn независимы и имеют равномерное распределение наотрезке [a; b]. Найти оценку максимального правдоподобия для a и b.=nYθn× I Pxk !Задача №3. Пусть X1 , . . . , Xn независимы и имеют равномерное распределение наотрезке [0; θ]. Исследовать несмещенность и состоятельность оценки T (X)=X(n) параметра θ.Решение. Поскольку функция распределения X(n) представляется в виде0,y < 0, nyF (x) =X(n) n , y ∈ [0, θ],θ1,y > 0,xk =tk=1(nθ)tt!t!n× I P= tn · x 1 ! . . . xn !E θ ϕ T (X) =Решение. ET (X)=EX1 =θ.

T (X) = X – несмещенная оценка параметра θ.Воспользуемся неравенством Чебышева:DX∀ε > 0 P X − EX < ε > 1 − 2 −−−→ 1,ε n→∞∞Xϕ(k) exp(−nθ)k=0(nθ)k≡0k!DX =∀θ ∈ Θ.PT (X) = X −→ θ.Задача №7. Пусть X1 , . . . , Xn независимы и имеют равномерное распределение наотрезке [0, θ]. Доказать, что T (X)= max Xi - достаточная и полная статистика.1≤i≤nРешение. Проверим достаточности статистики T (X).

Функция правдоподобия выборки X=(X1 , . . . , Xn ) имеет следующий вид:L(X; θ) =nY1k=1θIВыполнен критерий факторизации, значит, статистика T (X)=X(n) – достаточная.T (X) – асимптотически несмещенная оценка θ.Ln (X, θ) = θ10−nPk=12 −3XXkk2nP×(1−2θ)k=12 −3XXkk2+1= g T (X), θ ×h(X),=1−2θθ 21nPгде T (X)=Задача №12.

Пусть X1 , . . . , Xn независимы и Xi =(Xk2 −3Xk )k=1nXk=1n×(1−2θ) =(Xk2 −3Xk ),h(X)=1.Для функции T (X) выполнен критерий факторизации, значит, она и будет достаточнойстатистикой.ϕ(θ) · θn−1 ≡ 0,ную достаточную статистику.Задача №10. Пусть X1 , . . . , Xn независимы и имеют равномерное распределениена отрезке [θ, θ+1]. Найти несмещенную оценку максимального правдоподобия для θ.Решение. Запишем функцию правдоподобия: = IL(X, θ) = I1≤i≤nθ≤X(1) ≤X(n) ≤θ+1Задача №8. Пусть X имеет биномиальное распределение Bi(n, 21 ). Найти оценкумаксимального правдоподобия для n.f1.2nИсследуем последовательность {an } на монотонность.xan+1 1 Cn+11 (n+1)! x! (n−x)!n+1= ·=∨1= ·an2 Cnx2 k! (n+1−x)! n!2(n−x+1)⇐⇒(x) =X(1)Найдем точки, в которых функция правдоподобия достигает своего максимума.

Обозначим2x−1 ∨ n.Получаем, a1 < . . . <a2x−2 <a2x−1 = a2x >a2x+1 > . . . >an . Функция правдоподобия достигает максимума в точках 2x−1 и 2x, которые и будут оценками максимального правдоподобия параметра n.1, θ,Найти одномернуюЗадача №9.

Пусть X1 , . . . , Xn независимы и Xi = 2, θ,3, 1−2θ.достаточную статистику.(x−1)(x−2)2=θ2− x2 + 3x2(1−2θ)x2− 3x+122.X(n) −1≤θ≤X(1).X(n)dF (x) = n(θ+1−x)n−1 ,dx X(1)f(x) =X(n)dF (x) = n(x−θ)n−1 ,dx X(n)значит, математические ожидания случайных величин X(1) и X(n)Z θ+1Z θ+1n1,EX(n) =,x · f (x) dx = θ+EX(1) =x · f (x) dx = θ+X(n)X(1)n+1n+1θθX(1) +X(n) −1=θ.Следовательно, E2X(1) +X(n) − 1X(1) +X(n) −1Наконец,∈ [X(n) −1, X(1) ] , поэтому функция T (X)=явля22ется несмещенной оценкой максимального правдоподобия для θ.Задача №11.

Пусть X1 , . . . , Xn независимы и имеют гамма-распределение Γ(θ, 2).Исследовать на несмещенность и состоятельность оценку T (X) = X для функцииτ (θ) = 2/θ.Решение. ET (X) = EX1 = 2/θ = τ (θ). T (X) – несмещенная оценка для τ (θ).12DX1 = 2 .nnθВоспользовавшись неравенством Чебышева, получимВычислим дисперсию оценки: DX =Решение. Функцию правдоподобия случайной величины X1 можно записать, например, так2:(1−2θ)Проверим это условие.n X2 1 X11X2exp − k2 = √exp − 22θ2θ k=1 k2π · θ( 2π · θ)nnnn1 X 2n X 2∂ln L(X, θ) = − + 3X − θ2 .X = 3∂θθ θ k=1 kθ k=1 knY√3Полагая an (θ) = θ /n, получим равенство (∗).

Эффективность оценки доказана.Задача №15. Пусть X1 , . . . , Xn независимы и имеют гамма-распределение Γ(θ, λ).Найти оценку методом моментов для θ и λ по первым двум моментам.Решение. Аналогично задаче №5, из системы уравненийλX = M1 = µ1 = EX = ,θX 2 = M = µ = EX 2 = λ(λ + 1) ;22θ2M12λ=.M2 − M12 DXθ(1−θ)P X − θ<ε > 1− 2 = 1−−−−→ 1,n→∞εnε→ θ, что по определению доказывает состоятельность оценки T (X).то есть T (X)=X −Задача №17. Пусть X1 , . . .

, Xn независимы и имеют нормальное распределение1N (θ, 1). Доказать, что X− является оптимальной оценкой функции τ (θ)=θ2 .nРешение. Функция правдоподобияnY(X −θ)21√ exp − i= K(θ) exp nθX h(X),22πi=1n nθ2 1X1, h(X)= √ n exp −X2 .где K(θ)= exp −22 i=1 i2πL(X, θ) =14Задача №18. Пусть X1 , . .

. , Xn независимы и распределены с плотностью(exp{−(x−θ)}, x > θ,f (x, θ) =0,x ≤ θ.Xi ≥θi=1Решение. ET (X)=EX1 = θ – оценка является несмещенной.1θ(1−θ).Вычислим дисперсию оценки: DX= DX1 =nnВоспользовавшись неравенством Чебышева, получимPx2− 5x+322(x−1)(x−2)2θ2 −x=2 +4x+3x23x(1−θ1 −θ2 ) 2 − 2 +1 .+3nPθ2 k=1−Xk2 +4Xk +3nP(1−θ1 −θ2 )k=1Pn = exp nθ −nXi=1Xi IX(1) ≥θДанная функция достигает максимума в точке bθ=X(1) , которая и будет оценкой максимального правдоподобия для θ.Задача №19. Пусть X1 , . .

. , Xn независимы и имеют гамма-распределение Γ 1/θ, 1 .n1PXi является эффективной оценкой θ.n i=1Доказать, что T (X)=Решение. Для доказательства эффективности оценки снова воспользуемся критерием эффективности, а именно, покажем, что∂(∗)T (X) − τ (θ) = an (θ) ln L(X, θ).∂θФункция правдоподобияnY1XiL(X, θ) =exp −,θθi=1PnXi∂nnln L(X, θ) = − + i=1= 2 X −θ .∂θθθθ2Полагая an (θ)=θ /n, получим равенство (∗), значит, T (X) – эффективная оценка θ. +1== g T (X), θ1 , θ2 ×h(X),2h(X)=1.где T (X)=k=1 Xk ,k=1 Xk ,Для функции T (X) выполнен критерий факторизации, значит, она и будет достаточной статистикой.Задача №13. Пусть X1 , .

. . , Xn независимы и имеют гамма-распределение Γ(θ, λ),λ - известно. Найти оценку максимального правдоподобия для θ.Решение.nnn X Yλ−1Yθnλθλexp(−θXk ) · Xkλ−1 =exp −θXk ·Xk,Γ(λ)(Γ(λ))nk=1k=1nnn nλ XXX∂∂ln L(X, θ) =nλ ln θ − n ln Γ(λ) − θXk + (λ−1)ln Xk =−Xk .∂θ∂θθk=1k=1k=1L(X, θ) =k=1В точке экстремума функции правдоподобия∂ln L(X, bθ) = 0∂θ⇐⇒λbθ= .XВ точке bθ достигается максимум, посколькуnλ∂2ln L(X, θ) = − 2 < 0.∂θ2θ.Значит, bθ = λ X – оценка максимального правдоподобия для θ.Задача №14. Пусть X1 , .

. . , Xn независимы и имеют нормальное распределениеn1PX 2 – эффективная оценка функции τ (θ)=θ2 .n i=1 iРешение. В неравенстве Рао – Крамера (22) равенство достигается, если и толькоесли найдется фукция an (θ) такая, что∂ln L(X, θ).∂θ(∗)В точке экстремума функции правдоподобия∂ln L(X, θ) = 0∂θ⇐⇒Решение. Функция правдоподобияnn (X − θ)2 oY1i√exp −;L(X; θ) =4θ4πθi=1nn1 X 2 n∂ln L(X, θ) = − + 2Xi − .∂θ2θ 4θ i=14θ2 + 2θ − X 2 = 0.В силу неотрицательности дисперсии θ > 0, значит, возможная точка максимумаqbθ = −1 + 1+X 2 .В этой точке действительно достигается максимум функции правдоподобия, посколькуq∂2n n1+X 2 − 1+X 2 < 0.ln L(X, θ) = 3 θ − X 2 b = 3∂θ22θ2θθ=θЗадача №21.

Пусть случайные величины X1 , . . . , Xn независимы и имеют гамма2nX является оптимальной оцен- распределение Γ 1/θ, 1 . Доказать, что T (X)=n+1кой θ2 .Решение. Функция правдоподобияL(X; θ) = n 1exp − X .θnθПо теореме о полноте экспоненциальных семейств X – полная и достаточная статистика, поэтому любая измеримая функция от X является оптимальной оценкой своегоn2X – оптимальная оценка дляматематического ожидания. В частности, T (X) =n+12 2 2nn n 1=EX =DX+ EXDX1 + EX1=n+1n+1n+1 nn θ2+ θ2 = θ2 = τ (θ),=n+1 nчто и требовалось доказать.ET (X) =Задача №22.X1 , . .

. , Xn независимы и распределены с Пусть случайные величиныплотностью exp −(x−θ)−exp[−(x−θ)] . Найти оценку максимального правдоподобиядля θ.Решение. Функция правдоподобия:nnnoXXL(X, θ) = exp nθ −Xi −exp(θ − Xi ) .i=1Задача №20. Пусть X1 , . . . , Xn независимы и имеют нормальное распределениеN (θ, 2θ). Найти оценку максимального правдоподобия для θ.152Xk3X− 2k213По теореме о полноте экспоненциальных семейств T (X)=X – полная достаточнаястатистика.

Любая измеримая функция от полной достаточной статистики X являетсяоптимальной оценкой своего математического ожидания.2В частности, X −1/n – оптимальная оценка для 2 12 12 111= EX − = DX+ EX − = DX1 + θ2 − = θ2 ,E X−nnnnnчто и требовалось доказать.Решение. Функция правдоподобия:n YL(X, θ) =exp −(Xi − θ) IЗадача №16. Пусть X1 , .

. . , Xn независимы и имеют биномиальное распределение Bi(1, θ). Требуется исследовать несмещенность и состоятельность оценки T (X)=Xдля параметра θ.∀ε > 0(1−θ1 −θ2 )T (X) − τ (θ) = an (θ) ×Найти оценку максимального правдоподобия для θ.получим оценку методом моментов для θ и λ:M1θ=,M2 − M122Xk5X− 2k21211k=1(x−1)(x−3)−1N (0, θ2 ). Доказать, что T (X) = DX1 2∀ε > 0 P X − 2/θ<ε ≥ 1− 2 = 1− 2 · 2 −−−→ 1,εε nθ n→∞то есть T (X) −→ 2/θ, что по определению доказывает состоятельность оценки T (X). PnPLn (X; θ1 , θ2 ) = θ1 k=12Разумеется, можно ее представить и в другом виде, важно лишь, чтобы в точках 1, 2 и 3 этафункция принимала значения θ, θ и 1−2θ соответственно.L(X, θ) =θ2= θ1PnОценка максимального правдоподобия для θ заключена на сегменте [X(n) −1, X(1) ].

Дляx ∈ [θ, θ+1]F (x) = 1−P X(1) ≥ x = 1 − (θ+1−x)n ,F (x) = P X(n) ≤ x = (x−θ)n ,X(1)Решение. Функция правдоподобия случайной величины X1L(x, θ) = Cnx n .2(x−1)(x−3)−1(x−2)(x−3)2Функция правдоподобия выборки X=(X1 , . . . , Xn ):ϕ(θ) ≡ 0 на (0, +∞).Итак, из E θ ϕ T (X) ≡0 следует ϕ≡0 по распределению T (X), что означает полнотустатистики T (X)= max Xi .θ1, θ1 ,Найти двумер2, θ2 ,3, 1−θ −θ .12Решение.

Функцию правдоподобия случайной величины X1 :L1 (x; θ1 , θ2 ) = P (X1 =x) = θ1откуда следует(x−2)(x−3)2 I = g T (X), θ × h(X), где = 1 IX(n) ≤θθn 0≤X(1)1. , h(X) = Ig T (X), θ = n IX(n) ≤θ0≤X(1)θФункция правдоподобия выборки X=(X1 , . . . , Xn ):Дифференцируем по θ:L1 (x; θ) = P (X1 =x) = θ0≤Xk ≤θ9Пусть неперывная функция ϕ(·) такова, что E θ ϕ T (X) ≡0 ∀θ ∈ (0, +∞). ny n−1d, y ∈ [0; θ]nF(y) =f(y) =X(n) θdy X(n)0,иначе.Z θZ θny n−1ϕ(y) n dy ≡ 0 =⇒E θ ϕ(X(n) ) =ϕ(y)y n−1 dy ≡ 0.θ00(∗)Задача №5. Пусть X1 , . .