Левин Б.Р. Теоретические основы статистической радиотехники (3-е издание, 1989) (1141996), страница 63
Текст из файла (страница 63)
(13.66) Если дисперсия оо известна, то сформулированная задача представляет проверку простой гипотезы Но против простой аль- тернативы Н!. Но если проверяются гипотезы о среднем гаус- совской величины в условиях параметрической априорной неоп- ределенности и/или если дисперсия представляет неизвестный мешающий параметр, то приходим к более трудным задачам про- верки сложных гипотез.
13.5.2. Достаточная статистика. Как было отмечено в п. 3.1.4, достаточной статистикой для проверки простой гипотезы против простой альтернативы является любое монотонное преобразова- ние отношения правдоподобия. Для рассматриваемой задачи про- верки простой гипотезы Но.а=по против простой альтернативы Н! ! а=а!~по из (13.17) и (1365а), (1365б) получим 1п1(х) = ' ' Х х„— (13.67) ао о=! 2ао Так как линейное преобразование — монотонное, то достаточной статистикой будет также у„(х)= — 2; х„ (13,68) . о=! т. е. среднее арифметическое выборочных значений.
а, Фу' (н ! Нр) 1 Нт (х)Я~) нр лттис. 13.4. Плотность вероятности исходной случайной величины (а) и достаточ- ной статистики (б) Статистика у„(х) как линейная функция гауссовских случайных величин подчиняется нормальному закону распределения. Параметры этого распределения при гипотезе Но и альтернативе Н, пт,(у„(х) !Но) =ао, тп~(у„(х) ~Нс) =а~ (13.69) н из условия независимости выборочных значений )ьа (уи (х) ~ Но) = )ьа (уи (х) ! Нс) = о~/и. (13.70) Рис. 13.4 иллюстрирует все возрастающую эффективность использования достаточной статистики для различения между гипотезой и альтернативой при увеличении размера выборки.
Априорные плотности вероятности случайной величины $ при гипотезе и альтернативе существенно перекрываются (рис, 13.4,а). Плотности вероятности среднего арифметического выборочных значений заметно различаются, концентрируясь при увеличении размера выборки вблизи средних значений, соответствующих гипотезе и альтернативе (рис. 13.4,б). 13.5.3. Оптимальные алгоритмы.
Из результатов, приведенных в $ 13,1, следует, что оптимальные дискретно-аналоговые одношаговые алгоритмы принятия решения при проверке простой гипотезы Н,; а=а, против простой альтернативы Н,: а=а,)ао состоит в сравнении с порогом достаточной статистики (13.68) 1 у„(х) = — ~ ха К, п (13.71) где порог К определяется выбранным критерием качества. Для 344 (13.77) (13.82) байесовского алгоритма, а также для алгоритмов максимальной' апостериорной вероятности н максимального правдоподобия к= Щ+" + (13.72) 2 " (по по) где константа с для указанных критериев приведена в табл. 1.1. При использовании оптимальных по указанным трем критери- ям алгоритмов вероятности ошибок первого и второго рода а = Р(у„(х) ) К!Но) = 1 — Р'( )/й), (13.73).
( — Р (у„(х) ( К1Н,) — Р ( Кп ), (13.74) я где Р(г) — интеграл Лапласа (функция распределения стандарт- ной гауссовской случайной величины). Подставляя (13.72) в (13.73) и (13.74), получаем а= 1 — Р(о1„/2+!и с/0„), (13.75) 8 = Р ( — сХ„/2+1п с/о(„), (13.76) где ( о о ),Гй и Формулы (13.75) и (13.76) можно записать иначе, если ввести процентные точки стандартного нормального распределения ве- роятностей 1см.
(2.34а)]: ха —— о(п/2-1- 1п с/о(„, (13.78» х~ а= — о(„/2+1пс/о(„, (13.79) откуда следует простое соотношение между вероятностями оши- бок первого и второго рода х — х~ а=0„, (13.80) которое определяется только величиной г/„, не зависящей от по- рога. Нетрудно проверить, используя (13.67), что среднее и диспер- сия логарифма отношения правдоподобия связаны с величиной' д„простыми соотношениями т,(1п1(х)1Но)= — т,(!п1(х) 1Но) =о/оп/2. (13.81а) 1о,(!п1(х) 1НД=1оо(!п1(х) ~1 Но) =о)о„.
(13.8 1б) Заметим, что (по, (!и Х (х)1Н,) — и, (1п 1(х)1Но)]о по(1п1(х)1Но Нг) Подставляя (13.75), (13.76) в (13.22), получаем величину ми- нимального среднего (байесовского) риска (при Поо=Пп=О) йо = Поо Ро [1 — Р (снап/2+1п со/А~) ) + ~+ЯТоероР~ — г/и/2+\и со/Ип) . (13.83) В4$- (13.86) Если По« = П,о, то формула (13.83) определяет вероятность ошибки любого рода. Для алгоритма максимального правдоподобия (с=1) из (13.75) и (13.76) следует а = 13 = 1 — Р (с/ /2) (13. 84) и согласно (13.72) К= (ао+а,) /2. (13.85) Рис.
13.5 иллюстрирует равенство (!3.84) и положение порога при использовании алгоритма максимального правдоподобия. В заключение' отметим, что согласно (13.75) — (13.77) при а-«.оо, т, е. при с/„- оо, вероятности ошибок а-«-0, 8-«.0. Алгоритмы, обладающие таким аснмптотическим свойством, назовем состоятельными. В этом случае плотности вероятности достаточной статистики (13.68) приближаются к дельта-функциям в точках х=ао и г=аь а порог К вЂ” «-(ао+а,)/2 (см. (13.72)]. 13.5.4. Алгоритм, оптимальный по критерию Неймана — Пирсона.
Для критерия Неймана — Пирсона алгоритм принятия решения определяется согласно неравенствам (13.71), но порог К при заданной вероятности а ошибки первого рода определяется из уравнения [см. (13.73)1 Р (у„(х) Р:К~Но) = 1 — Р ~ ' Уи ) = а, о которое можно переписать в виде К= ао+охо/Уа (13.87) где х„ — а-процентная точка нормального распределения, определяемая заданной величиной а. Минимальная величина ошибки второго рода () = Р(у„(х) =,а +ох /Уп1Нт) =Р( — с(„+х„) (13.88) или х«а=х„— 41„. (13.88а) Из (13.88а) следует, что и для рассматриваемого критерия имеет место соотношение (13.80) между вероятностями ошибок первого И'„„/н) ло/~ 346 ао а« х х-/он+а,И Рис.
!3.6. Вероятности ошибок (заштрихованные области) и второго рода. Из (13.88) следует также, что при и — со (с(„-асс) ф-вО. Заметим, что порог К, устанавливаемый в соответствии с (13.87), не зависит от а!. Кроме того, при а )О х )х! В, т. е. а(1 — р (вероятность ошибки первого рода меньше вероятности отвергнуть ложную гипотезу или уровень значимости меньше мощности правила выбора решения).
Формула (13.88) допускает и другую интерпретацию: при заданных вероятностях ошибок а и р определяется минимальновоз- от — оо можная величина с(„= т о'р'и. Это означает, что при заданном, о (а! — ао)/о существует минимальный размер выборки ивы=(о/(а,— ао)1'(х,„— х! а)', при котором возможна проверка гипотез с заданными вероятностями ошибок а и р. Если а,(а,, то решение 7! по критерию Неймана — Пирсона принимается при условии у„(х) = — Х хв ( а, — и х фи, (13;886) иа! 13.5.5. Минимаксный алгоритм. Полагая П,о=П„=О, Пм= =ЛП!о, из (13.27а) для рассматриваемой задачи проверки простых гипотез о среднем значении гауссовской величины находим следующее уравнение, определяющее наименее благоприятную априорную вероятность ро гипотезы Но.' а=ао (см.
также (13.83)) Л ~1 — Р( — "+ — 1п Р' ) ) =Г~ — " + 1и р" ). (13.897 При Л=1 (13.89) следует, что ром=1/2. При заданном Л наименее благоприятная величина ро„соответствует максимальному значению Я, =кто(рои) Как видно из рис. 13.6, если Л= $а!и!п~ =1, потери уменьшаются не очень значительно при роФ чьром, однако при Л=10 минимаксное правило может показаться чересчур осторожным. Но оно гарантирует, что потери никогда не превысят значения тг„. Действительно, если при Л=10 немного отклониться от наименее благоприятного значения ро„— — 0,3 и принять байесовское решение при Р Ро Ром Ром Ро / р о=0,2, то средние потери рис.
у,о Зависимость баяесовского риска будут уменьшены всего на от вероятности гипотезы при о =2 347 20~ . Если же в действительности роФР'о, а применяется байесовское решение для ро=ро, то средний риск будет изменяться в зависимости от Ро по линейномУ законУ й(ро) =Рог(Р'о)+ +(1 — ро)г,(р',) (касательная в точке ро=р'о к кривой Ко(ро) при Л=!0 на рис. 13.6) и при некоторых значениях р, может значительно превышать Я„, соответствующее минимаксному правилу (см. заштрихованную часть на рис.
13.6). 13.5.6. Оптимальный последовательный алгоритм Вальда. Рас. юмотрим оптимальный многошаговый дискретно-аналоговый алгоритм проверки простых гипотез о среднем значении гауссовской случайной величины по критерию минимума средних размеров выборки до принятия решения. Из (13.39а — в) следует, что указанный алгоритм предписывает сравнение достаточной статистики логарифма отношения правдоподобия (13.67) с двумя порогами (при а(0,5, 6(0,5) с,=!п, с,=1п —. 5 ' — й 1 — а а Этот же алгоритм можно записать, используя статистику (13.68): иа п-м шаге принимается решение то, если (х) ( ао+ аг ( ао оо 2 л (а, — ао) (13.91а) о а, — ао ао (п1(х)= ' ' х —, ао)ао, ао 2оо где х — гауссовская случайная величина с известной дисперсией оо и средними значениями ао при гипотезе, а, — при альтернативе, то по формулам (13.46а — б) находим или решение ть если (х)) о+ 1 + оа о (13.916) 2 л(а,— ао) или продолжаются наблюдения, если не выполняется ни одно из неравенств (13.91а,б), Определим средние значения (минимально возможные) размеров выборки до принятия решения.
Так как в рассматриваемом случае (ао — ао)' /иы = 2ао и1о. Подставляя (13.92) в (13.45а,б) получаем 2а' г ! — в а 1 и,(и~а=а,) = 1(1 — а)1п — +а1п — 11, (ао — ао)о а 1 — 11 .з т„(и ~ а = ат) = ~ р 1п — + (1 —. р) 1и — 1. (а, — ) 1 — а а 348 (13.92) (13.93) (13.94) (13.95) (13,97) 349 13.5.7. Проверка простой .1 1(н) гипотезы о среднем значении против сложной альтернативы. Предположим, что о неизвестном среднем значении гауссовской случайной величины выдвигается простая гипотеза Н: а=а, против сложной альтернативы К: ааааа.