Лекции по методам математической статистики (1162373), страница 8
Текст из файла (страница 8)
Обозначимα(z) = PH {pK (ξ) > zpH (ξ)}.28(7.3)Так как при вычислении вероятности PH достаточно рассматривать лишь точки, в которыхpH > 0, тоpK (ξ)α(z) = PH {pK (ξ) > zpH (ξ)} = PH {> z}.(7.4)pH (ξ)(ξ)< z} и, таким образом, 1−α(z) — функция распределенияСледовательно, 1−α(z) = PH { ppKH (ξ)случайной величиныpK (ξ).pH (ξ)Поэтому функция α(z) непрерывна слева:α(z) = PH∞\pK (ξ)11{< z − } = lim α(z − ),n→∞pH (ξ)nnn=1(7.5)не возрастает, причем α(−∞) = 1, α(∞) = 0, иα(z) − α(z + 0) = PH {pK (ξ)= z},pH (ξ)1◦ .
Существование. Пусть задано α, 0α(z0 ) > α > α(z0 + 0) и рассмотрим критерий:1,0 +0),ϕ(x) = α(zα−α(z)−α(z00 +0)0.PH {<pK (ξ)> z} = α(z + 0).pH (ξ)α<(7.6)1. Определим z0 из условия:pK (x) > z0 pH (x)pK (x) = z0 pH (x)pK (x) < z0 pH (x).(7.7)Заметим прежде всего, что функция ϕ(x) определена PH + PK -почти всюду. Действительно, ϕ(x) не определена лишь в случае α(z0 ) − α(z0 + 0) = 0 в тех точках x, в которыхpK (x) = z0 pH (x). Но при этомPH {pK (ξ) = z0 pH (ξ)} = α(z0 ) − α(z0 + 0) = 0.(7.8)Из сказанного следует, что существует EH ϕ(ξ), причем («размер» критерия)EH ϕ(ξ) = PH {pK (ξ)α − α(z0 + 0)pK (ξ)> z0 } +PH {= z0 } = α.pH (ξ)α(z0 ) − α(z0 + 0)pH (ξ)Пункт 1◦ доказан, так как можно положить λ = z0 .2◦ . (Достаточность.) Пусть критерий ϕ удовлетворяет условиям (7.1) и (7.2) и ϕ∗ — любойдругой критерий с уровнем α1 6 α.
ОбозначимS + = {x : ϕ − ϕ∗ > 0},S − = {x : ϕ − ϕ∗ < 0}.(7.9)В точках S + : ϕ(x) − ϕ∗ (x) > 0, следовательно, pK (x) > λpH (x), т.к. ϕ(x) > 0, т.е. ϕ(x) =6 0.−∗В точках S : ϕ(x) < ϕ (x) 6 1, следовательно, pK (x) 6 λpH (x), т.к. ϕ(x) < 1, т.е. ϕ(x) =6 1.ПоэтомуZZ(ϕ − ϕ∗ )(pK − λpH )dµ =(ϕ − ϕ∗ )(pK − λpH )dµ > 0,S + ∪S −Xоткуда следует, что∗ZEK (ϕ − ϕ ) =Z∗(ϕ − ϕ )pK dµ > λ(ϕ − ϕ∗ )pH dµ == λEH (ϕ − ϕ∗ ) > λ(α − α1 ) > 0,т.е., что ϕ — наиболее мощный критерий уровня α для проверки PH против PK .3◦ . (Необходимость.) Пусть ϕ∗ — наиболее мощный критерий уровня α1 6 α и ϕ удовлетворяет (7.1) и (7.2). Обозначим S пересечение множества S + ∪S − (см.
(7.9)), на котором ϕ 6= ϕ∗ ,и множества {x : pK (x) 6= λpH (x)}. Последнее взято в силу того, что в (8.7) нет условия с29равенством pK (x) = λpH (x). Допустим µ(S) > 0. Из положительности на S произведения(ϕ − ϕ∗ )(pK − λpH ) следуетZZ∗(ϕ − ϕ )(pK − λpH )dµ = (ϕ − ϕ∗ )(pK − λpH )dµ > 0S + ∪S −Sт.е., что ϕ - более мощный критерий, чем ϕ∗ . Из этого противоречия заключаем, что µ(S) = 0.Если бы ϕ∗ имел размер, меньший α, и мощность, меньшую единицы, то в критическуюобласть можно было бы добавить точки (или части точек), так, чтобы либо мощность сталаравной единице, либо размер стал равным α. Таким образом, или EH ϕ∗ = α или EK ϕ∗ = 1.В качестве следствия может быть получен следующий результат.Теорема.
Пусть β — мощность наиболее мощного критерия уровня α для проверки PHпротив PK . Тогда1 β > α за исключением случая PH = PK .Доказательство. Если положить ϕ∗ (x) = α, то EH ϕ∗ = α и EK ϕ∗ = α = β. Тогда длянаиболее мощного критерия ϕ: β = EK ϕ > EK ϕ∗ = α.Если α = β, то ϕ∗ — наиболее мощный критерий. Но тогда по предыдущей теореме онудовлетворяет (8.7). Поэтому pK (x) = λpH (x) mod µ и, следовательно, PH = PKЗамечание. Пусть Q — множество точек α, β, таких, что существует критерий ϕ, необязательно наиболее мощный, для которого EH ϕ = α, EK ϕ = β. Множество Q, как легкопроверить, выпукло, содержит точки (0,0) и (1,1) и вместе с точкой α, β содержит также1 − α, 1 − β.
Можно показать, что Q замкнуто.Существование наиболее мощного критерия для каждого α является следствием замкнутости Q.(αr 0 , 1) (1, 1)(1, 1)β 6β 6(α, β)rr(1 − α, 1 − β)(0, 0)-(0, 0)α-αПример. Найти наиболее мощный критерий уровня α = 0.05 для гипотезы ξ ∼ U [−1, 1]против альтернативы ξ ∼ N(0, 1) по одному измерению ξ. Определить мощность этого критерия.Поскольку вне [−1, 1] pK (x) > λpH (x) = 0 при любом λ, в критическое множество войдетвнешняя часть промежутка [−1, 1]. Кроме того, в критическое множество может войти (приpK (0) = √12π > λ2 ) симметричная окрестность нуля, т.е.
SK = (−∞, −1) ∪ (−ε, ε) ∪ (1, +∞), аRиз условияpH (x)dx = α получаем, что ε = α. После этого нетрудно посчитать мощностьSKRβ = pK (x)dx = 1 − 2Φ(−α) + 2Φ(−1) = 0.357188.SK1 Этосвойство критерия называется несмещенностью.307.2Продолжение темы проверка статистических гипотез.Ранее были рассмотрены некоторые задачи интервального оценивания. В более общем случаеречь идет о построении доверительных подмножеств пространства параметров.Мы хотим на одном примере установить связь между задачей построения доверительныхмножеств и задачей проверки параметрических гипотез.P(ξ −ϑ )Пусть ξ ∼ N(ϑ0 , σ 2 ) и пусть σ > 0 известна. Тогда √jnσ 0 ∼ N(0, 1) и P (ξj − ϑ0 ) Pϑ √ < z1−α/2 = 1 − α,nσт.
е.Pϑ0 {ϑ ∈ S(ξ)} = 1 − α,где Xσz1−α/2 1 Xσz1−α/21S(ξ) = ξ = (ξ1 , ..., ξn ) :ξj − √,ξj + √.nnnnЕсли параметр ϑ не принадлежит множеству S, то либо гипотеза H о значении параметраϑ = ϑ0 неверна, либо мы должны допустить ошибку, вероятность которой не превышает α.Таким образом, критическим является дополнительное к S множество в Rn : SK = S, то есть, X1 σz1−α/2ξj − ϑ > √SK (ξ) = ξ = (ξ1 , ..., ξn ) : .(7.10)nnДругой путь к нахождению критерия (при ϑ ∈ R1 ) — это попытаться найти критическоемножество наилучшее для альтернатив в известном смысле близких к (нулевой) гипотезе.Рассмотрим задачу проверки гипотез в случае, когда плотность имеет вид f (x, ϑ), ϑ ∈ R1и речь идет о гипотезе H0 : ϑ = ϑ0 .
Рассмотрим нерандомизированный критерий и соответствующее критическое множество SK уровня α.Zf (x, ϑ0 )dx = α.(7.11)SKФункция мощности критерия определяется равенствомZβ(ϑ) = f (x, ϑ)dx, ϑ ∈ R1 .(7.12)SKПредположим, что β(ϑ) может быть разложена в рядβ(ϑ) = α + (ϑ − ϑ0 )β 0 (ϑ0 ) +(ϑ − ϑ0 )2 00β (ϑ0 ) + ... .2(7.13)Если K — класс односторонних альтернатив ϑ > ϑ0 , K = {Pϑ : ϑ > ϑ0 }, то для получениялокально наиболее мощного одностороннего критерия следует максимизировать β 0 (ϑ0 ), илиZ∂f (x, ϑ0 )0β (ϑ0 ) =dx ∼ max,(7.14)∂ϑ0SKесли предположить возможность дифференцирования под знаком интеграла.Если K = {Pϑ : ϑ < ϑ0 }, то β 0 (ϑ0 ) следует минимизировать, а в случае двустороннегокласса альтернатив K = {Pϑ : ϑ 6= ϑ0 } следует наложить условие локальной несмещенностиβ 0 (ϑ0 ) = 0 и максимизировать β 00 (ϑ0 ).
Такой критерий называется локально наиболее мощнымнесмещенным.Во всех рассмотренных случаях критическое множество может быть найдено на основеследующей леммы.31Лемма (Нейман-Пирсон).Пусть f0 , f1 , ..., fm — µ-интегрируемые на Rn функции и S — измеримое подмножество Rn ,для которогоZfj (x)dµ(x) = Cj ,j = 1, 2, .., m,(7.15)Sгде Cj , j = 1, 2, ..., m — заданные числа. Пусть далее существуют постоянные k1 , ..., km , такие,что для измеримого множества S0 ⊂ Rn , в точках которого f0 (x) > k1 f1 (x) + ... + km fm (x)и вне которого f0 (x) 6 k1 f1 (x) + ... + km fm (x). Кроме того, для S0 ⊂ Rn также выполненыусловия (8.5).ТогдаZZ(7.16)f0 (x)dµ(x) > f0 (x)dµ(x).SS0Доказательство.
Согласно условиям леммыZZZf0 (x)dµ(x) − f0 (x)dµ(x) =SS0Z>S0 \S∩S0Zf0 (x)dµ(x) −S0 \S∩S0mXS\S∩S0mXZkj fj (x)dµ(x) −1S\S∩S0kj fj (x)dµ(x) = 0.1При этом последнее равенство нулю следует из равенствZZfj (x)dµ(x) =fj (x)dµ(x),S0 \S∩S0f0 (x)dµ(x) >j = 1, . . .
, m,S\S∩S0которые, в свою очередь, следуют изZZfj (x)dµ(x) = fj (x)dµ(x) = Cj ,S0j = 1, . . . , m.SВернемся к задаче построения критического множества для локальных критериев.Теорема. Для случая односторонних альтернатив получаем следующий результат. ПустьSK K = {Pϑ : ϑ > ϑ0 }. Определим критическое множество SK равенствомn ∂f (x, ϑ )o0SK = x :> kf (x, ϑ0 ) ,(7.17)∂ϑ0Rгде постоянная k определяется условиемf (x, ϑ0 )dx = α.
ТогдаSKZ∂f (x, ϑ0 )dx >∂ϑ0SKZ∂f (x, ϑ0 )dx∂ϑ0Sдля любого другого критического множества S размера (уровня) α.Доказательство. Достаточно сослаться на лемму, в которойf0 (x) =∂f (x, ϑ0 );∂ϑ0f1 (x) = f (x, ϑ0 ).Аналогично, если K = {Pϑ : ϑ < ϑ0 }, тоn ∂f (x, ϑ )o0SK = x :6 kf (x, ϑ0 ) .∂ϑ032Наконец, в случае двусторонних альтернатив K = {Pϑ : ϑ 6= ϑ0 }ZZ∂f (x, ϑ0 )0β(ϑ0 ) = f (x, ϑ0 )dx = α; β (ϑ0 ) =dx = 0∂ϑ0SK(7.18)SKи условие00Zβ (ϑ0 ) =∂ 2 f (x, ϑ0 )dx ∼ max∂ 2 ϑ0SKмаксимизирует критическое множество SK , определяемое равенствомSK = {x :∂f (x, ϑ0 )∂ 2 f (x, ϑ0 )> k1+ k2 f (x, ϑ0 )},2∂ ϑ0∂ϑ0где k1 и k2 определяется условием (7.18).Заметим, что мы получили достаточность решений при условии существования надлежащих kj , j = 1, 2.
При некоторых предположениях относительно плотностей Данциг и Вальддоказали как необходимость, так и существование соответствующих kj , j = 1, 2.Рассмотрим теперь задачу проверки гипотезы µ = µ0 при двусторонней альтернативеK = {N(µ, σ 2 ) : µ 6= µ0 } и фиксированным σ > 0.Так какn11 Xf (x, µ0 ) = √exp{− 2(xj − µ0 )2 )};2σ2πσ∂f (x, µ0 )1 X1= 2(xj − µ0 )f (x, µ0 ) ∂µ0σi21 hX1∂ 2 f (x, µ0 )n+=−(x−µ),j0f (x, µ0 ) ∂ 2 µ0σ2 σ4то критическое множество имеет вид−i2 k X1 hXn1+(x−µ)(xj − µ0 ) + k 2 ,> 2j024σσσили что то же самое,i2X1 hXSK = x : 4(xj − µ0 ) > k1(xj − µ0 ) + k2 .(7.19)σPPРешение неравенства (7.19) имеет вид (xj − µ0 ) < C1 , (xj − µ0 ) > C2 , где C1 < C2 , нов силу условияZXf (x, µ0 )(xj − µ0 )dx = 0,SK|C1 | = |C2 | = C так что константу k1 в (7.19) можно положить равной нулю.Окончательно,on P(x − µ ) j0 (7.20)SK = x : √>C .nσ 2qhPi2(xj −µ0 )√При этом постоянную C = σ nk2 можно определить, учитывая, что∼ N(0, 1) иnσ 2Zf (x, µ0 )dx = 2(1 − Φ(C) = α,SKтаким образом, C = z1−α/2 — квантиль уровня 1 − α/2.33Критические множества, определенные равенствами (7.10) и (7.20) совпадают.
Посколькупоследнее не зависит от альтернативы µ = µ1 , задаваемый (7.20) критерий является не тольколокально, но и РНМ критерием.Принцип отношения правдоподобияПусть L(x, ϑ) — функция правдоподобия в задаче проверки гипотезы H : {ϑ ∈ ΘH } противальтернативы K : {ϑ ∈ ΘK }. Критерий отношения правдоподобия определяется статистикойsup L(x, ϑ)λ = λ(x) =ϑ∈ΘHsupL(x, ϑ).(7.21)ϑ∈ΘH ∪ΘKОчевидно, 0 6 λ 6 1.
Критическое множество SK объема α для проверки гипотезы ϑ ∈ ΘHимеет вид λ(x) < Cα , где постоянная Cα определяется условиемZL(x, ϑ)dx 6 α, ϑ ∈ ΘH .(7.22)SKЗдесь всюду x и ϑ многомерные.Тест λ < C интуитивно означает, что если правдоподобие L(x, ϑ) при расширении областиΘH до ΘH ∪ ΘK значительно возрастает, то "наиболее вероятное"ϑ не принадлежит ΘH , т.е.гипотезу следует отвергнуть.Наоборот, если L(x, ϑ) не возрастает или возрастает незначительно, то "наиболее вероятное" ϑ принадлежит ΘH , т.е. гипотезу не следует отвергать.Пример. Рассмотрим пример проверки гипотезы ϑH = {µ = µ0 , σ 2 > 0} против альтернативы ϑK = {µ 6= µ0 , σ 2 > 0} на основании выборки x1 , ..., xn из N(µ, σ 2 ). В этом случаеnn/2 n111 X2Pmax √exp{− 2(xj − µ0 ) )} =exp − ,ϑ∈ΘH2σ22π n1 (xj − µ0 )22πσ1√2πσn1 X(xj − µ0 )2 )} =ϑ∈ΘH ∪ϑ∈ΘK2σ 2n/2 n1P=exp − ,22π n1 (xj − x)2maxexp{−PPn/2так что λ = { (xj − x)2 / (xj − µ0 )2 } .Посколькуkx − µ0 k2 = k(I − Π)(x − µ0 )k2 + kΠ(x − µ0 )k2 ,где µ0 = (µ0 , .