Н.И. Чернова - Лекции по матстату (1115348), страница 11
Текст из файла (страница 11)
Докажем, что уравнение 12 разрешимо относительно c и p.!~Ψ2 (X)>c .~Ψ1 (X)Рассмотрим невозрастающую (почему?) функцию φ(c) = PH1φ(c) = PH1!~Ψ2 (X)>c =~Ψ1 (X)Поскольку интегрирование ведется по областиφ(c) =ZΨ2 (~y)>cΨ1 (~y)1Ψ1 (~y ) d~y<cΨ2 (~y)Ψ1 (~y)ZZΨ1 (~y ) d~y.Ψ2 (~y)>cΨ1 (~y)> c, то под интегралом Ψ1 (~y ) < Ψ2 (~y )/c. Поэтому1Ψ2 (~y ) d~y = PH2cΨ2 (~y)>cΨ1 (~y)!~Ψ2 (X)>c →0~Ψ1 (X)(13)при c → ∞.Рассмотрим φ(0):!~Ψ2 (X)~ >0φ(0) = PH1> 0 = PH1 Ψ2 (X)~Ψ1 (X)~ > 0 < ε и (б) φ(0) = PH Ψ2 (X)~ > 0 > ε.Возможны два случая: (а) φ(0) = PH1 Ψ2 (X)1~ > 0 > 0 и возьмемВ случае (а) положим c = 0, обозначим через ∆ разницу ∆ = ε − PH1 Ψ2 (X)p = ∆/(1 + ∆ − ε).
Тогда!!~~Ψ2 (X)Ψ2 (X)α(δ) = PH1> 0 + p · PH1=0 =~~Ψ1 (X)Ψ1 (X)∆(1 − (ε − ∆)) = ε.1+∆−ε~ >0 ,Заметим сразу, что в случае (а) мы хоть и нашли критерий заданного уровня ε > PH1 Ψ2 (X)но для этого пришлось принимать (с вероятностью p) гипотезу H2 там, где она быть верна не может — в~ = 0.области Ψ2 (X)~ >0Это означает лишь, что с самого начала наше желание найти критерий уровня ε, если ε > PH1 Ψ2 (X)— абсурд: все разумные критерии имеют меньший уровень.В случае (б) имеем: φ(0) > ε, φ(c) не возрастает и стремится к нулю с ростом c. Тогда найдется c такое,что φ(c − 0) > ε, φ(c) 6 ε (c может быть точкой разрыва).~ > 0 + p · PH Ψ2 (X)~ = 0 = (ε − ∆) += PH1 Ψ2 (X)148Тогда (вспомнить свойство функций распределения Fξ (x + 0) − Fξ (x) = P(ξ = x))!~Ψ2 (X)def∆ = φ(c − 0) − φ(c) ≡ PH1= c > 0.~Ψ1 (X)Возьмем p =ε − φ(c)∈ [0, 1]. Для такого p∆!~Ψ2 (X)> c + p · PH1~Ψ1 (X)ε = φ(c) + p∆ = PH1!~Ψ2 (X)= c = α(δ),~Ψ1 (X)что и требовалось доказать.2.
Докажем, что критерий δ наиболее мощный. Нам потребуется следующееУтверждение 1. Обозначим Ψ(~y ) = min{Ψ2 (~y ), cΨ1 (~y )}. Тогда β(δ) + cα(δ) =RΨ(~y ) d~y.RnДействительно,β(δ)+cα(δ) = PH2Z=!~Ψ2 (X)< c +q·PH2~Ψ1 (X)Ψ2 (~y ) d~y + qΨ2 (~y )<cΨ1 (~y)=ZZ!~Ψ2 (X)= c +cPH1~Ψ1 (X)Ψ2 (~y )=cΨ1 (~y)Ψ(~y ) d~y+qΨ2 (~y )<cΨ1 (~y)ZZΨ2 (~y ) d~y +ZZcΨ1 (~y ) d~y + pΨ2 (~y )>cΨ1 (~y)Ψ(~y ) d~y +Ψ2 (~y )=cΨ1 (~y)!~Ψ2 (X)> c +cp·PH1~Ψ1 (X)!~Ψ2 (X)=c =~Ψ1 (X)cΨ1 (~y ) d~y =Ψ2 (~y )=cΨ1 (~y)Ψ(~y ) d~y + pΨ2 (~y )>cΨ1 (~y)ZΨ(~y ) d~y =ZΨ(~y ) dy.RnΨ2 (~y )=cΨ1 (~y)Пусть δ0 ∈ Kε — другой критерий уровня ε. Докажем, что его ошибка 2-го рода не меньше, чем укритерия δ.Используя определение функции Ψ и утверждение 1, имеем:ZZZZZβ(δ0 )+cα(δ0 ) =Ψ2 (~y ) d~y+cΨ1 (~y ) d~y >Ψ(~y ) d~y+Ψ(~y ) d~y ≡ Ψ(~y ) d~y = β(δ)+cα(δ).δ0 =H1Но α(δ0 ) = α(δ)|=⇒δ0 =H2δ0 =H1δ0 =H2Rnβ(δ0 ) > β(δ).H1 : X 1 ⊂= U1,5 ,ТреH2 : X 1 ⊂= U0,2 .буется построить НМК уровня α = 1/3 (объем выборки мал, так что ошибки не могут не быть большими).Воспользуемся леммой Неймана - Пирсона и выпишем в зависимости от X1 отношение правдоподобия(см.
рисунок).Пример 29. Имеется выборка X1 объема 1. Проверяются простые гипотезыРис. 9: Две равномерные гипотезы.Поскольку отношение правдоподобия постоянно на каждом из трех интервалов, для постоянной c естьлишь несколько возможностей, при которых критерии будут различаться.
Перечислим все возможные49критерии видаеслиесли если~Ψ2 (X)<c~Ψ1 (X)~Ψ2 (X)>c~Ψ1 (X)~Ψ2 (X)=c~Ψ1 (X)|=⇒~ = H1δ(X)|=⇒~ = H2δ(X)~ = H2δ(X)~ = H1δ(X)|=⇒с вероятностью p,с вероятностью 1 − p,и убедимся, что лишь один из них имеет заданный уровень. Сначала рассмотрим нерандомизированныекритерии.1. c < 0. В этом случаеΨ2 (X1 )> c при любом X1 , и критерий отношения правдоподобия имеет вид:Ψ1 (X1 )δ1 (X1 ) = H2 при любом X1 .Его уровень α(δ1 ) = PH1 (δ1 (X1 ) = H2 ) = 1 — не то.Ψ2 (X1 )Ψ2 (X1 )> c при X1 ∈ [0, 2], и< c при X1 ∈ (2, 5]. КритерийΨ1 (X1 )Ψ1 (X1 )отношения правдоподобия имеет вид:H2 при X1 ∈ [0, 2]δ2 (X1 ) =H1 при X1 ∈ (2, 5].2.
0 < c < 2. В этом случаеЕго уровень α(δ2 ) = PH1 (δ2 (X1 ) = H2 ) = PH1 (X1 ∈ [0, 2]) = PH1 (X1 ∈ [1, 2]) = 1/4 — не то.Ψ2 (X1 )Ψ2 (X1 )> c при X1 ∈ [0, 1], и< c при X1 ∈ (1, 5]. КритерийΨ1 (X1 )Ψ1 (X1 )отношения правдоподобия имеет вид:H2 при X1 ∈ [0, 1]δ3 (X1 ) =H1 при X1 ∈ (1, 5].3. 2 < c < ∞. В этом случаеЕго уровень α(δ3 ) = PH1 (δ3 (X1 ) = H2 ) = PH1 (X1 ∈ [0, 1]) = 0 — не то.Таким образом, ни один из нерандомизированных критериев не имеет нужного уровня.
Посмотрим нарандомизированные.Ψ2 (X1 )Ψ2 (X1 )> c при X1 ∈ [0, 2], и= c при X1 ∈ (2, 5]. Критерий отношенияΨ1 (X1 )Ψ1 (X1 )правдоподобия имеет вид: если X1 ∈ [0, 2] |=⇒ δ4 (X1 ) = H2δ4 (X1 ) = H2 с вероятностью p, если X1 ∈ (2, 5] |=⇒δ4 (X1 ) = H1 с вероятностью 1 − p.4. c = 0. В этом случаеЕго уровень α(δ4 ) = PH1 (δ4 (X1 ) = H2 ) = PH1 (X1 ∈ [0, 2]) + pPH1 (X1 ∈ [2, 5]) = 1/4 + p3/4 6= 1/5— не то.Ψ2 (X1 )Ψ2 (X1 )Ψ2 (X1 )> c при X1 ∈ [0, 1],< c при X1 ∈ [2, 5],= c приΨ1 (X1 )Ψ1 (X1 )Ψ1 (X1 )X1 ∈ (1, 2).
Критерий отношения правдоподобия имеет вид:если X1 ∈ [0, 1] |=⇒ δ5 (X1 ) = H2если X1 ∈ [2, 5] |=⇒ δ5 (X1 ) = H1δ5 (X1 ) = H2 с вероятностью p,⇒ если X1 ∈ (1, 2) |=δ5 (X1 ) = H1 с вероятностью 1 − p.5. c = 2. В этом случаеЕго уровень α(δ5 ) = PH1 (δ5 (X1 ) = H2 ) = PH1 (X1 ∈ [0, 1]) + pPH1 (X1 ∈ (1, 2)) = 0 + p1/4 = 1/5при p = 4/5 — требуемый уровень.50Ψ2 (X1 )Ψ2 (X1 )< c при X1 ∈ [1, 5],= c при X1 ∈ [0, 1). Критерий отношенияΨ1 (X1 )Ψ1 (X1 )правдоподобия имеет вид: если X1 ∈ [1, 5] |=⇒ δ6 (X1 ) = H1δ6 (X1 ) = H2 с вероятностью p, если X1 ∈ [0, 1) |=⇒δ6 (X1 ) = H1 с вероятностью 1 − p.6.
c = ∞. В этом случаеЕго уровень α(δ6 ) = PH1 (δ6 (X1 ) = H2 ) = pPH1 (X1 ∈ [0, 1)) = 0 6= 1/5 — не то.Итак, среди всех критериев отношения правдоподобия только критерий δ5 имеет уровень α = 1/5, иявляется НМК: любые другие критерии того же уровня имеют меньшую мощность.Критерий δ5 предписывает на отрезке [0,1] принимать гипотезу H2 , на отрезке [2,5] — гипотезу H1 , ина отрезке (1,2) — гипотезы H2 и H1 с вероятностями 4/5 и 1/5 соответственно. Последнее равносильноразбиению отрезка (1,2) на две части в отношении 4:1. Но поскольку таких разбиений континуум, и ниодно из них не лучше другого, то разумнее выбирать гипотезы на отрезке (1,2) случайно, как и делаеткритерий.7.6Вопросы и упражнения1.
Задачник [1], задачи 9.1, 9.2, 9.4 – 9.6, 9.9, 9.12 – 9.14, 9.17.518К РИТЕРИИ СОГЛАСИЯСуществует класс критериев, называемых критериями согласия, которые используются для проверки гипотез (простых или сложных) против сложных альтернатив. Все критерии согласия строятся поединому принципу: задается некоторая функция отклонения эмпирического распределения от теоретического. Требуют, чтобы эта функция сходилась к какому-то собственному распределению, если вернапроверяемая гипотеза, и неограниченно возрастала, если гипотеза не верна. Гипотеза принимается илиотвергается в зависимости от величины данной функции отклонения.
Мы сформулируем ряд понятий дляслучая простой основной гипотезы, а в дальнейшем будем их корректировать по мере изменения задачи.~ = (X1 , . . . , Xn ), Xi ⊂Имеется выборка X= F. Проверяется простая основная гипотеза против сложной альтернативы:H1 : F = F 1 ,H2 : F 6= F1Отметим сразу, что любой критерий для различения этих гипотез δ : Rn → {H1 , H2 } имеет вполнеопределенную ошибку 1-го рода α(δ) = PH1 (δ 6= H1 ) = PF1 (δ 6= H1 ). Но ошибка 2-го рода может бытьвычислена только если известно конкретное распределение выборки F2 6= F1 (одна из альтернатив).Поэтому удобно представить альтернативу H2 : F 6= F1 в виде объединения (несчетного числа) простых альтернатив H2 (F2 ) : F = F2 6= F1 по всем возможным F2 .
Будем рассматривать ошибку второгорода как функцию от F2 : βF2 (δ) = PF2 (δ = H1 ).8.1Состоятельность критерияОпределение 28. Критерий δ для проверки гипотезы H1 : F = F1 против простой альтернативыH2 : F = F2 называется состоятельным, если~ = H1 ) → 0 при n → ∞.β(δ) = PF2 (δ(X)Определение 29. Критерий δ для проверки гипотезы H1 : F = F1 против сложной альтернативыH2 : F 6= F1 называется состоятельным, если для любой простой альтернативы H2 (F2 ) : F = F2 6= F1~ = H1 ) → 0 при n → ∞.βF2 (δ) = PF2 (δ(X)Определение 30. Говорят, что критерий δ является критерием асимптотического уровня ε, если α(δ) →ε при n → ∞.8.2 Построение критериев согласия~ = ρ(X,~ F1 ), обладающую свойствами:K1.
Требуется задать функцию ρ(X)~а) если гипотеза H1 верна, то ρ(X)⇒ ξ ⊂= G (распределение G известно);p~ −→ ∞ при n → ∞.б) если гипотеза H1 неверна, то |ρ(X)|~ задана. Для ξ ⊂K2. Пусть такая функция ρ(X)= G определим постоянную C из равенства ε = P(|ξ| > C)и построим критерий:~~ = H1 , если |ρ(X)| < Cδ(X)(14)~ >CH2 , если |ρ(X)|Мы построили критерий согласия. Он «работает» по принципу: если для данной выборки функция отклонения велика (по абсолютному значению), то это свидетельствует в пользу альтернативы, и наоборот.Убедимся в том, что этот критерий имеет (асимптотический) уровень ε и является состоятельным.Свойство 3. Для критерия δ, заданного в (14), при n → ∞:~ > C) → P(|ξ| > C) = ε;1.