Левин Б.Р. Теоретические основы статистической радиотехники (3-е издание, 1989) (1141996), страница 92
Текст из файла (страница 92)
логарифм отношения правдоподобия представляет сумму случайных величин) н если применена центральная предельная теорема, то распределение указанной статистики асимптотически нормальное'. Можно ожидать, что структура асимптотически оптимального алгоритма, использующего такую асимптотически нормальную достаточную статистику, будет аналогична структуре оптимального алгоритма обнаружения сигнала на фоне гауссовской помехи. Специфическим будет лишь устройство формирования асимптотически достаточной статистики, параметры которой определяются только распределением вероятностей помехи.
Прежде чем приступить к исследованию асимптотических свойств логарифма отношения правдоподобия, необходимо сформулировать условия, которым должны удовлетворять вероятностные модели наблюдений — помехи и смеси сигнала с помехой. 17.2. ВЕРОЯТНОСТНЫЕ МОДЕЛИ НАБЛЮДЕНИЙ 17.2.1. Независимая выборка. Предположим сначала, что наблюдается независимая выборка х=(к, „,х„) конечного размера п. Обозначим через ыг(х(0) плотность вероятности помехи и через тв(х(д) плотность вероятности смеси сигнала с помехой.
' Соотношение (17.17) удовлетворяется и при альтернативе К, если последовательности распределений наблюдаемых выборок (векторных) контнгуальвы и прп гипотезе, и при альтернативе (см. п. 17.3.1). ' Центральная предельная теорема формулируется относительно нормированных сумм (см. п.п. 3.4.4, 3.4.6, 5.2,7).
Далее часто используем термин аасимптотически нормальная статистика» для ненормированных сумм, имея в виду, что при большом числе слагаемых распределение таких сумм аппроксимируется нормальным, параметры которого зависят от числа слагаемых суммы. 497 Предположим, что функция ш(х!6) непрерывна и днфференцируема по параметру 6 в точке 6=0 при всех значениях х и ш(х!0) чьО, (17.18) (1?.20) ) (х) = — ш (х! 6) ! д з Ф О. (17.19) в (х!0) (д 6 Из (17.19) следует т, Д(х)!Н) = Ц(х) ш(х!О) с(х= О. В Функцию !'(х) можно представить в виде: 1(х) = — 1пв(х!6)!а а. до Величина 1(6) =т, (~ — 1пш(х$6)~ ) (! 7.21) представляет информацию по Фишеру о параметре 6, содержашуюся в распределении с плотностью ш(х!6) (см.
(14.37)), Введем величину 1~ — — т,(72„(х))Н)= )'!'(х)ш(х!0)с(х (17.22) М и предположим, что 0<17(оо. Из (17.21) и (17.22) следует 1,=1(О), (1?.22а) т, е. при 6=0 дисперсия нелинейного преобразования 1(х) выборочного значения х помехи равна информации по Фишеру. Поэтому величину !т будем называть информацией Фишера о помехе (или кратко — информацией по Фишеру).
Основным условием, которому должна удовлетворять плотность вероятности смеси сигнала с помехой, является возможность ее представления в виде ш(х!6) =ш(х!0)(1+67(х)+баб(х, 6)), (! 7.23) причем для любого е)0 всегда найдется такое значение 6,, что для всех значений х т~ (бз(х, 6) 1Н) (з, !6~ <6,. (17.23а) 17.2.2. Независимая последовательность векторных выборок. Рассмотрим случай, когда каждое из независимых наблюдений представляется коррелированной выборкой х размером г.
Обозначим через ш(х!6) многомерную плотность вероятности векторной выборки смеси сигнала с помехой, где 6 — векторный (г-мерный) параметр. Предположим, что функция ш(х!6) непрерывна и дифференцируема по параметру 6 в точке 6=0 при всех х и что гю(к~ О) ~0. ('17.24) 498 (17.29) Введем вектор 1(х) =(11(х), ...,1„(х)), где ~~(х) = — ш(х10)~~ „1=1, г.
(17.25) в (х10) д дт Из (!7,25) следует т,(1(х) 1Н) =О. (17.26) По аналогии с (17.22) назовем элементами информационной матрицы Фишера!г помехи следующие величины: 1п=т1();(х) 1;(х) 1Н) (оо, 1,1=1, г. (17.27) Предполагается, что матрица 19 положительно определенная, т. е. йе1 1~ФО. Основным условием, которому должна удовлетворять многомерная плотность вероятности смеси сигнала с помехой, является возможность ее представления в виде и(х~О) =ш(х(0)(1+ОЧ(х)+ (О~зб(х, 6)), (17.28) причем для любого з~О всегда найдется такое О„что для всех х т,(5'(х, О) ~Н) <е, ~О)(О,.
(17.28а) 17.2.3. Многосвязная марковская последовательность. Пусть х*' †'; м 1= ..., — 1, О, 1,..., п, представляет й-связную марковскую последовательность, стационарную при гипотезе Н (см. п. 5.4.3). Такая последовательность полностью характеризуется й-мерной плотностью ге(у10), где у и Π— й-мерные векторы, и плотностью вероятности перехода в(х~у, 6) из состояния у в состояние х (здесь 6 — векторный (й+1)-мерный параметр). Нулевой вектор О=О соответствует помехе.
Введем (й+1)-мерный вектор г=(х, у) и предположим, что функция в(г10) непрерывна и дифференцируема по параметру О в точке у=О при всех г и что и(г10) ~0. Введем также вектор 1(г(0) =(?,(г), ...,)д(г)), где 17(г)= — ш(х1у, О)1е=ы 1=1, Й. (17.30) в(хну, 9) дд~ Из (17.30) следует т1(1(г) /у, Н) =О. (17.31) По аналогии с (1?.27) назовем величину 1~=т~(1(г)1(г)'~ Н) (17.32) информационной матрицей Фишера помехи и предположим, что 1г — положительно определенная.
Основным условием, которому должна удовлетворять переходная плотность вероятности многосвязной марковской последовательности, является возможность представления ее в виде ге(х1у, О) =и(х1у, 0)(1+0'1(г)+16!'5(г, О)], (17.33) 499 Логарифм отношения правдоподобия 1( (б) ) П ю(х~))ий) ~ ) и(гн)хлп) и (х~)0) ,. 1 м (х~(0) (17.35) Если рассматривать линейную модель сигнала т з(1) = ~„'с; <р; (1) = с'~р(1), С=1 () 7.36) где с'= (с„..., с ) — совокупность коэффициентов разложения сигнала з(1) в базисе ~р(1) =(ф1(1), ..., ~р (1)1, то з;=с'~р(1;) =с'~рь (17.37) Пусть теперь хь ..., х„— независимая последовательность гмерных векторных выборок, где х~ = (хп..., хм), хм = х (1ш), 1м) 1м, 1'~ 1, 1)й, 1, Уг= 1, п.
Обозначим через зн значение сигнальной функции з(1) в момент 1=1н. Тогда векторный параметр плотности вероятности выборочного значения х; смеси сигнала с помехой при фиксированном векторе моментов времени 1;= (10, ., 1о) запишется в виде А () тзн~ " )"п~М1 (17.38) 500 причем для любого з)0 всегда найдется такое (),, что для всех х т~(бэ(г, Ю) )Н)<е, (()~ <д,. (17.33а) Для существования разложения (17.33) достаточно, чтобы в окрестности точки ()=0 т, ~ ш (х) у, ()) ) < с. 17.2.4. Логарифмы отношения правдоподобия. Запишем для рассмотренных вероятностных моделей наблюдений выражения статистики логарифма отношения правдоподобия при фиксированных размерах и выборок. В этих выражениях будет представлена в явном виде связь параметра () со значениями обнаруживаемого сигнала.
Пусть х= (хь ...,х„) — независимая выборка из реализации х(1) наблюдаемого процесса, причем х;=х(1;), 1=!,л, 1;)1; при 1)1. Выборку детерминированного сигнала в момент 1=1; обозначим Х„зь где з;=з(1;) и Մ— амплитуда сигнала, зависящая, вообще говоря, от размера выборки и. Безразмерная функция з(1) определяет форму сигнала. Параметр дь от которого зависит плотность вероятности выборочного значения х; смеси сигнала с помехой, () =А зь 1=),а.
(17.34) (17.42) п.з. коитигхдльность 17.3.1. Определение контигуальности. Асимптотические свойства статистики логарифма отношения правдоподобия нужно исследовать и при гипотезе Н (сигнала нет), и при альтернативе К (сигнал присутствует). Оказывается, что многие свойства этой статистики автоматически сохраняются и при гипотезе Н, и при альтернативе К, если использовать понятие асимметрической эквивалентности (контигуальности) последовательности распределений, введенное Ле Камом (см.
(52, 531). Последовательности распределений Р„(х~Н) и Р„(х(К) называют контигуальными, если для любой статистики 1„(х) сходно.в мость по вероятности 1„(х) — !- 0 для выборки х из распределеи.+аь ния Р„(х(Н) имеет место тогда и только тогда, когда и. а 1„(х) — +- 0 для выборки х пз распределения Г„(х~К). Понятие контигуальности выражает близость последовательностей вероятностных мер.
Свойство контигуальности транзитивно: если последовательности Г„<о и Р„м! контнгуальны и Р !'! и Р„!о! контигуальны, то последовательности Р !'! и Кх<'! также контигуальны. 50Г В этом случае логарифм отношения правдоподобия 1п1(х„..., х„)Ф„..., Ф„) = ~ 1и в(х!!О) Наконец, рассмотрим выборку х о+! —— 1х о+!, ...,х ) размером й+и й-связной !марковской последовательности. Ее распределение полностью определяется априорной плотностью й-мерного! вектора хо х+! и плотностями перехода в(х!~х! '! х, Ф!), !=1, н,. где (й+1)-мерный параметр Ф!=Л з!!-м (17.40)' (17,40 а) Из факторизации плотности вероятности многосвязной марковской последовательности (см.
(5.66)) следует в(хоо+)=и!(хо (Л„хо +) Цн!(х!(х! — ' Л„в' — '), (1741) !еп откуда логарифм отношения правдоподобия в ( хо ь+! ~ О) + У!п в (х! ~х! !,, Л„о' !) !-! в (х,(х,' ~!, О) (17.46а) ,и Р„(х!Ф) = ~ш„(х!К) дх (17.46б) контнгуальны. Если вместо функции Ф„(г) ввести функцию распределения логарифма отношения правдоподобия ф„(о) =Р(!п 1„(о!Н) (17.47) и если при и — ~-оо (о) р(э), (17.47а) то, используя замену переменной у=!па в (17.45), можно достаточное условие контигуальности записать в виде ОЭ )ехрог(ф(о) = 1.
— Ф Предположим, что функция ф(о) представляетнормальное распределение с параметрами а, Ф. Тогда из (17.48) находим Ю ) ехр (о — ) с!о = ехр ! а+ — ) = 1. (17 48а) а~/2д ( з ~ з / (17.48) 502 Можно доказать (см. [53], $1.2), что из сходимости двух последовательностей распределений по норме Г., при и — «со !!Рц>(х) — Глю(х)!! = [(в~м(х) — в~~>(х)! дх-~6 х следует контигуальность этих последовательностей. Обратное, вообще говоря, неверно, т. е. контигуальность является более слабой мерой близости последовательностей вероятностных мер, чем сходимость по норме Г,ь 17.3.2. Достаточное условие контигуальности. Рассмотрим отношение правдоподобия !п(х) =ша(х!К)/со„(х!Н) (17.43) и пусть Ф (г) — функция распределения статистики (17.43) при гипотезе Н, когда выборка х принадлежит распределению Р„(х!Н): Ф„(з) =Р(1„(г~Н).
(17.44) Имеет место следующая лемма (см. [42], с. 256): Лемма 1. Предположим, что последовательность функций Ф„(г), определенных согласно (17.44), при и-+со сходится к функции распределения Ф(г), такой, что [зсЮ(з) = 1. (17.45) Тогда последовательности распределений Р„(х]0) = [ш„(х)Н) дх — ФО (17.49 у то имеет место следующая лемма (см. 153, теорема 7.2)): Лемма 3. Распределение векторной статистики у,(х) при альтернативе К сходится к нормальному с параметрами ВЮ, В.
17А. АСИМПТОТИЧЕСКОЕ РАЗЛОЖЕНИЕ ЛОГАРИФМА ОТНОШЕНИЯ ПРАВДОПОДОБИЯ 17.4.1. Независимая выборка. Используя условия (17.4) и (17.23), представим логарифм отношения правдоподобия (17.35) для независимой выборки х= (хь ..., х„) в виде г ~ 1 1( ~6)= з 1 [1-;- " ' 1ь)~.— "' 6 ~*„л ')1 (17гл ~/л или л !п1(х(д) = ~ 1п) 1+ т"" ~(хг)1 + г)ы~ (х, — '" ), л г г г О л „1 + У~~'с 6(лг, тлггl'$~'л 1 (17.51) (17.51ай 503 Равенство (17.48а) выполняется, если а= — ого. Таким образом, как следствие леммы 1 получаем следующее достаточное условие контигуальности: если логарифм отношения правдоподобия при гипотезе Н асимптотически нормальный с параметрами — аг12, о', то последовательности распределений г„(х)Н) и Г„(х ~ К) контигуальны.