1625915145-5b3debabab98d9e994cc3a1bc8da0f5b (843876), страница 16
Текст из файла (страница 16)
Это означает, что нанекотором «большом» множестве значений выборки обе гипотезы «равноправны»: отношение правдоподобия постоянно. Относя это множествоцеликом к критическому множеству или целиком исключая из него, мыменяем вероятность ошибки первого рода (размер) критерия сразу на положительную величину ∆c :⃗ > c) + ∆c .⃗ = c) = PH (T (X)⃗ > c) + PH (T (X)⃗ ⩾ c) = PH (T (X)PH (T (X)1111И если вдруг мы захотим приравнять размер критерия заранее выбранному числу ε, может случиться так, что у критерия с критическим множеством S = {T (⃗x) ⩾ c} размер превысит ε, а у критерия с критическиммножеством S = {T (⃗x) > c} размер будет меньше, чем ε.Чтобы избежать этой искусственной проблемы, предположим (II).⃗ ⩾ c) непрерывна по c при c > 0.(II) Функция R(c) = PH1 (T (X)Здесь R(c) есть просто хвост функции распределения случайной вели⃗ вычисленной при верной первой гипотезе:чины T (X),⃗ < c).R(c) = 1 − PH1 (T (X)⃗ = c) равнаЕё непрерывность означает, что величина ∆c = PH1 (T (X)нулю для любого c > 0.О п р е д е л е н и е 28.
В условиях предположений (I), (II) критерий{f2 (X1 , . . . , Xn )⃗H1 , если T (X) < c, H1 , если f1 (X1 , . . . , Xn ) < c,⃗ =δc (X)=⃗ ⩾cH2 , если f2 (X1 , . . . , Xn ) ⩾ cH2 , если T (X)f1 (X1 , . . . , Xn )назовём критерием отношения правдоподобия (КОП). Размер и вероятность ошибки второго рода этого критерия равны соответственно⃗ ⩾ c) = R(c),⃗ < c).α1 (δc ) = PH (T (X)α2 (δc ) = PH (T (X)12§ 3.
Построение оптимальных критериев87Явный вид оптимальных критериев. Следующая теорема утверждает,что все оптимальные критерии суть критерии отношения правдоподобия.Третье утверждение теоремы называют леммой Неймана — Пирсона.Т е о р е м а 21. Пусть выполнены предположения (I) и (II). Тогдакритерий отношения правдоподобия является1) минимаксным критерием при c таком, что α1 (δc ) = α2 (δc );2) байесовским критерием при заданных априорных вероятностяхr и s, если c = r/s;⃗ > 0), если c выбрано так,3) НМК размера ε, где 0 < ε ⩽ PH1(f2 (X)что α1 (δc ) = ε.У п р а ж н е н и е . Прочитать доказательство теоремы 21 в [1, § 2, гл.
3].П р и м е р 38. Дана выборка X1 , . . . , Xn из нормального распределения со средним a и единичной дисперсией. Построим минимаксный,байесовский при r = 1/3, s = 2/3 и наиболее мощный критерии дляпроверки гипотезы H1 = {a = a1 } против альтернативы H2 = {a = a2 },где a1 < a2 .Отношение правдоподобия имеет абсолютно непрерывное распределение при любой из гипотез, поэтому условие (II) выполнено. Построим критерий отношения правдоподобия. Достаточно описать его критическую⃗ = H2 }. Она определяется неравенствомобласть S = {δ(X){ n}n∑∑⃗1⃗ = f2 (X) = exp 1T (X)(Xi − a1 )2 −(Xi − a2 )2 ⩾ c.
(22)⃗f1 (X)22i=1i=1Критерий будет байесовским при c = r/s = 1/2. Упростим неравенство (22). Получим⃗ = H2δ(X)приX⩾a1 + a2ln 2−.2n(a2 − a1 )Чтобы построить минимаксный и наиболее мощный критерии, запишем неравенство (22) в эквивалентном виде X ⩾ c1 , и искать будем c1 ,а не c. Размер и вероятность ошибки второго рода равны соответственно()(√)√α1 (δ) = PH1 X ⩾ c1 = PH1n (X−a1 ) ⩾ n (c1 −a1 ) =(√)= 1 − Φ0,1 n (c1 −a1 ) ,()(√)√α2 (δ) = PH2 X < c1 = PH2n (X−a2 ) < n (c1 −a2 ) =(√)= Φ0,1 n (c1 −a2 ) .88ГЛАВА VII. ПРОВЕРКА ГИПОТЕЗ√Равенство α1 (δ) = ε означает, что n(c1 −a1 ) = τ1−ε , где τ1−ε — квантиль уровня 1 − ε стандартногонормального распределения.
Тогда выра√зим c1 = a1 + τ1−ε / n. Получим НМК размера ε⃗ = H2δ(X)приτ1−εX ⩾ a1 + √.nПри α1 (δ) = α2 (δ) получим минимаксный критерий. Пользуясь свойствами функции распределения стандартного нормального закона, запишем(√)(√)(√)1 − Φ0,1 n (c1 − a1 ) = Φ0,1 n (c1 − a2 ) = 1 − Φ0,1 n (a2 − c1 ) ,откуда c1 −a1 = a2 −c1 и c1 = (a1 +a2 )/2. Минимаксный критерий имеетвид⃗ = H2 при X ⩾ a1 + a2 .δ(X)2П р и м е р 39. Имеется выборка X1 , .
. . , Xn из нормального распределения со средним a = 0 и дисперсией σ2 , σ > 0. Построим наиболеемощный критерий размера ε для проверки гипотезы H1 = {σ = σ1 }против альтернативы H2 = {σ = σ2 }, где σ1 < σ2 .Отношение правдоподобия снова имеет абсолютно непрерывное распределение при любой из гипотез, поэтому условие (II) выполнено. Кри⃗ = H2 }тическая область критерия отношения правдоподобия S = {δ(X)определяется неравенством{ (})∑nn11⃗ = σ1 exp 1− 2Xi2 ⩾ c,T (X)n2σ22σ1σ2i=1что равносильно неравенству X 2 ⩾ c1 .
Найдём c1 , при котором размеркритерия равен ε :()())(2nXncnc1⩾ 21 = 1 − Hn= ε.α1 (δ) = PH1 X 2 ⩾ c1 = PH122σ1σ1σ1Отсюда nc1 / σ21 = h1−ε , где h1−ε — квантиль χ2-распределения с n степенями свободы. Тогда c1 = h1−ε σ21 /n и НМК размера ε имеет вид⃗ = H2δ(X)приX2 ⩾h1−ε σ21.nСледующее определение касается асимптотических свойств последовательности критериев, построенных по выборке растущего объёма n в задаче проверки двух простых гипотез.89§ 3. Построение оптимальных критериевО п р е д е л е н и е 29. Критерий δn = δn (X1 , . . .
, Xn ) называется критерием асимптотического размера ε, если α1 (δn ) → ε при n → ∞.Критерий δn = δn (X1 , . . . , Xn ) называется состоятельным, еслиα2 (δn ) → 0 при n → ∞.З а м е ч а н и е 17. Отметим снова, что для сложной гипотезы Hi вероятность ошибки i -го рода αi (δn ) = αi (δn , F) зависит от конкретногораспределения F, удовлетворяющего этой гипотезе, по которому и вычисляется вероятность ошибки. Тогда сходимость в определении 29 должнаиметь место для каждого такого распределения F.П р и м е р 40. Является ли состоятельными НМК, построенные намив двух предыдущих примерах? Проверим состоятельность критерия изпримера 38:1−ε⃗ = H2 при X ⩾ a1 + τ√δn (X).nВероятность ошибки второго рода этого критерия равна(()τ1−ε )τ1−εα2 (δn ) = PH2 X < a1 + √= PH2 X − √< a1 .nnПри верной гипотезе H2 по ЗБЧτp1−εξn = X − √−→ a2 > a1 .nИз сходимости по вероятности следует слабая сходимость, т.
е. сходимостьфункций распределения Fξn (x) во всех точках непрерывности предельной функции распределения Fa2 (x). Функция Fa2 (x) = P(a2 < x) непрерывна в точке a1 (а где разрывна?) и равна в этой точке нулю. Поэтому()τ1−εα2 (δn ) = PH2 X − √< a1 = Fξn (a1 ) → Fa2 (a1 ) = 0.nПроверим состоятельность критерия из примера 39:⃗ = H2δn (X)приX2h1−ε σ21.⩾nВероятность ошибки второго рода этого критерия равна(h1−ε σ21 )α2 (δn ) = PH2 X 2 <.nВ замечании 14 (с. 78) мы выяснили, что квантили распределения χ2 c nстепенями свободы с ростом n ведут себя следующим образом:√√h1−ε = n + τ1−ε 2n + o( n).90ГЛАВА VII. ПРОВЕРКА ГИПОТЕЗТогда√(())21222α2 (δn ) = PH2 X < σ1 + σ1 τ1−ε √ + o √.nnОсталось перенести в левую часть неравенства всё, что зависит от n,и применить ЗБЧ вместе с определением слабой сходимости: при вернойгипотезе H2√() p2122X − σ1 τ1−ε √ + o √−→ σ22 > σ21 .nnВ силу непрерывности предельной функции распределения Fσ2 (x) в точкеσ212имеемα2 (δn ) = PH2(√X22− σ21 τ1−ε √n(1+o √n)<σ21)→ Fσ2 (σ21 ) = 0.2§ 4.
Вопросы и упражнения1. Есть две гипотезы: основная состоит в том, что элементы выборкиимеют нормальное распределение, а альтернатива — в том, что элементывыборки имеют распределение Пуассона. Построить критерий, обладающий нулевыми вероятностями ошибок первого и второго рода.2. Говорят, что распределения F и G взаимно сингулярны, если существует борелевское множество B такое, что F(B) = 0, G(B) = 1. Естьдве гипотезы: основная состоит в том, что элементы выборки имеют распределение F, а альтернатива — в том, что элементы выборки имеют распределение G, причём эти распределения взаимно сингулярны.
Построить критерий, обладающий нулевыми вероятностями ошибок и первого,и второго рода.3. Пусть X1 , . . . , Xn — выборка из биномиального распределения с параметрами m и p, где p может принимать лишь значения 1/3 и 2/3с априорными вероятностями 1/5 и 4/5 соответственно, а параметр mизвестен и фиксирован. Построить байесовский критерий.4. По выборке из показательного распределения с параметром α построить наиболее мощный критерий асимптотического размера ε, различающий гипотезу α = α1 и альтернативу α = α2 , если α1 < α2 . Вычислить предел мощности построенного критерия при n → ∞.Г Л А В А VIIIКРИТЕРИИ СОГЛАСИЯКритериями согласия обычно называют критерии, предназначенные дляпроверки простой гипотезы H1 = {F = F1 } при сложной альтернативе H2 = {H1 неверна}. Мы рассмотрим более широкий класс основныхгипотез, включающий в том числе и сложные гипотезы, а критериямисогласия будем называть любые критерии, устроенные по одному и томуже принципу.
А именно, пусть задана некоторая случайная величина, измеряющая отклонение эмпирического распределения от теоретического,распределение которой существенно разнится в зависимости от того, верна или нет основная гипотеза. Критерии согласия принимают или отвергают основную гипотезу исходя из величины этой функции отклонения.§ 1.
Общий вид критериев согласияМы опишем конструкцию критерия для случая простой основной гипотезы, а в дальнейшем будем её корректировать по мере изменения задачи.⃗ = (X1 , . . . , Xn ) — выборка из распределения F. ПроверяетсяПусть Xосновная гипотеза H1 = {F = F1 } при альтернативе H2 = {F ̸= F1 }.⃗О п р е д е л е н и е 30. Пусть существует борелевская функция ρ(X),обладающая следующими свойствами:⃗ ⇒ G,= F1 , то ρ(X)(K1) если гипотеза H1 верна, т. е.