Левин Б.Р. Теоретические основы статистической радиотехники (3-е издание, 1989) (1141996), страница 70
Текст из файла (страница 70)
Если Игп)»з(!п1(хь ...,х„, 1ь ..., 1„) ~ Нс, Н1)(оо, то )п1(х"ь 1"1) сходится к !п1(х(1)] в среднеквадратическом и имеет место регу- лярный случай. Для независимой однородной выборки при п со )»а (!п1 (хго ..., х„, 1зо ..., 1„)] = и !», (!п1(х,, 1г)) = и !», (!п1(х, 1))-~со, г=! т. е. этот случай си~нгулярный и рассматривался в $ !3.5 при проверке простых гипотез о среднем нормального распределения. Ясно, однако, что применительно к выборке из реализации случайного процесса неограниченное увеличение числа независимых наблюдений означает неограниченное время наблюдения.
13.9.3. Оптимальные аналоговые алгоритмы проверки гипотез. Оптимальный по любому из критериев, указанных в 3 !3.1, одношаговый аналоговый алгоритм проверки гипотезы Но против аль- ' В математической литературе часто используется следующая терминология. Регулярному случаю соответствует эквивалентность двух вероятностных мер (относительно гипотезы и альтернативы), а сингулярному случаю — ортогоиальность этих мер [46). 378 1310 ЗАДАтХИ 13.1. Проверяется простая гипотеза Нь о том, что дисперсия центрированной гауссовской случайной велнчнны равна о'=озз, против простой альтернатнвы Нь что от=ос~)о'з. ИмеетсЯ независимаЯ слУчайнаЯ выбоРка хь ..., х принадлежащая этой гауссовской величине.
Доказать, что оптимальный (по любому нз критериев, рассмотренных в ф 13.1) одношаговый днскретпо-аналоговый алгоритм принятия решения определяется неравенствами о т, хьш К. а=! у, Получнть следуюшне формулы для рода: вероятностей ошибок первого н второго а= ! — Г(п/2, К/(2азе))/Г (и/2), ()=Г(п/2, К/(2оз1))/Г(п/2), (2) (3) 379 тернативы Н, предписывает сравнение с порогом достаточной статистики функционала отношения правдоподобия / (х (/)) с, (13.205) тч где с — порог, определяемый из табл.
13.1. Можно показать, что в регулярном случае при любом конечном времени наблюдения Т алгоритм (13.205), использующий функционал отношения правдоподобия, неизбежно привод~ит к отличным от нуля вероятностям ошибочных решений. Напротив, в сингулярном случае достоверные безошибочные решения оказываются возможныьзи при любом конечном Т'= О.
Байесовский риск при использовании алгоритма (13.205) вычисляется согласно (!3.9), где вероятности ошибок а=РЯх(/)] )с)Но), (13.206) () = Р (1 [х (/) 1 ( с ( Н1 ) . (13.207) Эти же соотношения верны и для вероятностей ошибок прн использован~ни алгоритмов, оптимальных по критерию максимальной апостериорной вероятности или максимального правдоподобия (с соответствующим значением порога с).
Для алгоритма, оптимального по критерию Неймана — Пи~рсона, формула (13.206) используется для определения порога с в алгор|итме (13.205), а формула (13.207) — для определения минимальной вероятности ошибки второго рода. Нетрудно получить оптимальные аналоговые алгоритмы принятия решений и в многоальтернатввной задаче проверки гипотез. Для этого достаточно в формулах (13.53) ш (13.57) замен~ить отношения правдоподобия 1;(х) их предельными статистиками функционалами отношения правдоподобия /г(х(/)), /=1, пг.
где Г(и, и) — неполная гамма-функция, а также следующее соотношение между величинами а и (); Ха)Х! вар о!)оо (4) где Х', Х'! — процентные точки Хо распределения с л степенями свобоа' ды (см. задачу 3.9). 13.2. Пусть хь ..., х„представляют независимые выборочные значения, принадлежащие энспоненциальному распределению (см, задачу 2.1). Проверя. ется простая гипотеза Н, о том, что параметр этого распределения Л=Ло, против простой альтернативы, что Л=Л,)Л,. Доказать, что оптимальный (по любому из критериев, рассмотРенных в 6 !3.1) одношаговый дискретно-аналоговый алгоритм принятия решения определяется неравенствами л т, хь ~~ К.
(6) э=! т, Получить следующие формулы для вероятностей ошибок первого и второго рода: (6) а = Г (л, ЛоК) (Г (л), ()=1 — Г(л, Л!К)/Г(л), а также соотношение между величинами а и 6: Хр)Х! а = Лг1Ло (8) где Хор, Х', „— процентные точки Х' распределения с 2л степенями свободы (см, задачу 3.9). 13.3. Проверяется простая гипотеза Н, что дисперсия центрированной гауссовской случайной величины равна и',, против сложной альтернативы, что дисперсия поМооо Доказать, что при независимой выборке алгоритм, согласно которому отвергается гипотеза Н, если л хэ )~ оя уаэ, (9) о=! где Х' — процентная точка Х'-распределения с л степенями свободы, является а равномерно наиболее мощным относительно сложной альтернативы, если о') )и о.
13.4. Проверяется простая гипотеза Н, что параметр Л экспоненциального распределения (см, задачу 2.!) равен Ло против сложной альтернативы, что Лаз. Доказать, что при независимой выборке алгоритм, согласно которому отвергается гипотеза Н, если п 2 хо хл ( ° (10) э=! 2 Ло где Х', — процентная точка Хпраспределения с 2л степенями своболы, является равномерно наиболее мощным относительно сложной альтернативы, ес- Л)Л. 13.3.
Выдвигается простая гипотеза Но, что выборка х принадлежит нормальному распределению с вектором средних а и корреляционной матрнцей Ко, против простой альтернативы Нь что это значение принадлежит нормальному 380 распределевню с тем зке самым вектором средних и корреляционной матрнцей Кь Показать, что оптимальное правило выбора решения формулируется следуюшпм образом: принимается решение т! (корреляцнонная матрица равна К,), если для наблюдаемого вектора х (х — а)' (К вЂ” К ) (х — а) л21п с+ !и— — 1 — ! бе! К, о бе! К, н решение тз (корреляцнонная матрица равна Ке), если выполняется неравен- ство, обратное (11). 13.6.
Доказать, что условный макснмум функционала (!2) прн условии !р(х) )О, ) гр(х)ГГх=! достигается прп <р(х) †= в (х), (13) т. е. что в (х) 1п в (х) ох )~ ) в (х) !п гр (х) !Гх. Глава 14 ОЦЕНИВАНИЕ НЕИЗВЕСТНЫХ ХАРАКТЕРИСТИК 14.1. ОНРНИВАНИЕ В УСЛОВИЯЪ НЕНАРАМЕТРИЧЕСКОЙ АПРИОРНОЙ НЕОПРЕДЕЛЕННОСТИ 14.1.1.
Постановка задач. Наблюдается реализация исследуемого случайного процесса. Результат наблюдения представляется в виде однородной независимой выборки х= (х„..., х„) фиксированного размера п. Плотность вероятности шГ(х) каждого выборочного значения принадлежит непараметрическому семейству ХР'.
Один вид задач состоит в оценивании неизвестных числовых характеристик распределения вероятностей, другой — в оценивании неизвестных функции распределения г"!(х) и плотности тп!(х). Решение указанных задач представляется статистиками — функциями выборочных значений, формируемыми в условиях непараметрической априорной неопределенности на эвристической основе (ср. с.
п. 13.7.4). Критериями качества непараметрических оценок (алгоритмов оценивания) являются несмещенность (см. (12.35) ), асимптотическая несмещенность (см. (12.35а)], относительная эффективность (см. (12.36а, б)). Как правило, оценки, используемые на практике, должны быть состоятельными. Оценка () =д(х) неизвестной 381 числовой характеристики б раснределения называется состоятель- ной, если 11гп Р ()܄— 6))е) = О, е) О, л-и (14.1) то выборочный момент й-го порядка является состоятельной оценкой й-го момента распределен1ня: т» = т» (х), 1 .4 ) Наряду со статистикой (14.2) рассматривают центральный выборочный момент й-го порядка л — (х; — т)», й=2, 3, ..., (1 5) ~=1 который представляет состоятельную оценку центрального момен- та ч-го порядка распределения )»» = р» (х), (14.б) так как при условии 1»»»(со и.в < -э )»» --.
) (х — т,)» ю, (х) йх. л-+а (14,7) 382 т. е. если она сходится по вероятности к оцениваемой величине при неограниченном увеличении размера выборки 1с»ь (3.93)). Ясно, что требование состоятельности оправдывает затраты, связанные с накоплением данных (увел: чением размера выборки). По критерию состоятельности оценка величины д не определяется единственным образом. ! 4.1.2. Непараметрические алгоритмы оценивания лгоментов распределения. Пусть х= (хь ..., х„) — однородная независимая выборка, принадлежащая распределению с плотностью ы,(х). Выборочным моментом й-го порядка называют среднее арифметическое Ьх степеней выборочных значений т'= — ~ х»,й=1,2,...
(14.2) ~=! Из закона болыпих чисел (см. п. 3.4.3) следует, что выборочный момент т*» сходится по вероятности к моменту т» распределения [см. (2.20)1. Достаточным условием применимости закона больших чисел в рассматриваемом случае является существование конечного момента распределения порядка 2н. Следует подчеркнуть, что выборочные моменты являются случайными величинами (статистиками), в то время как моменты распределения — постоянными числами. Так как » в т»'-~- т»= ( х" ю,(х) ах, (14.3) При соответствующих ограничениях„формулируемых в центральной предельной теореме (см. п. 3.4.4), выборочные моменты (14,2) и (14.5), как суммы независимых случайных величин, асимпготинески нормальны при и-+.со. 14.1.3.
Выборочное среднее. В соответствии с (14.2) при н=! выборочный момент первого порядка (или выборочное среднее) равен среднему арифметическому выборочных значений, т. е. л Iи'= — ~ х,. п 1=! (14.8) ' Выборочное среднее характеризует расположение однородной независимой выборки на дсй!ствительной осн, Среднее з!гане!н;ь выборочного среднего л ь т, (т!) = — 2, т, (х!) = — 2; а=а, п и (14.9) т. е. совпадает прн любом п с априорным средним =т, (х) = ) (х) дх. Таким образом, выборочное среднее является несмещенной, состоятельной оценкой среднего значения распределения, представляет собой статистический аналог априорного среднего а и может использоваться в качестве оценки последнего т ! =3(х).
Дисперсия выборочного среднего при 1х!(х!) =о'( сь и рз' (т'!) = — Х р. (х!) = — Х о' =— п пь (14.10) и )ь', = — У (х; — т')~ п ! (14.11) Выборочная дисперсия характеризует рассеяние выборочных значений относительно выборочного среднего, является статистическим аналогом априорной дисперсии о' и может использоваться в качестве оценки последней 1х*,=о'. В соответствии с п. 14.1.2 выборочная дисперсия представляет собой состоятельную оценку дисперсии о' распределения.
Однако состоятельности оценки необязательно сопутствует ее несмещен- 333 так как дисперсия суммы независимых случайных величин равна сумме дисперсий слагаемых. 14.1.4. Выборочная дисперсия. В соответствии с (14.5) при й=2 центральный выборочный момент второго порядка (или выборочная дисперсия) ноать. Выборочная дисперсия — смещенная оценка дисперсии, так как т, (и,,") = — Х т, Их; — т!)') =- !=! (14.