Левин Б.Р. Теоретические основы статистической радиотехники (3-е издание, 1989) (1141996), страница 76
Текст из файла (страница 76)
с (4.118), '(4.119)1 ~ 1+КК;,' ~-' ( 1 " х п,КК;,' ) 14.5.8. Рекуррентная форма байесовской оценки вектора средних. Формулу (14.126) можно переписать в форме рекуррентного соотношения Кп " Кл а„= — а„, + — х„, Кп-з К К. =К(К.,+К)-~ К„, (14. 127а) 412 (14.126) Безусловная дисперсия оценки (14.118) ) лзз (Из (лмп~п)) ~з зп (1+,з)з =- (1+ чз)-з ) в (а) ) (а„— а,)з 1з (а) дх Йз = 00 л х оз!л+ О 00 2и (14.123б) (1+тз)з 1+тз пз 14.5.7. Байесовская оценка вектора средних. Рассмотрим оценку вектора средних а многомерного нормального распределения, предполагая, что этот вектор случайный, его априорное распределение нормальное с известными параметрами аз и Кп и что корреляционная матрица К исходного распределения также известна.
Если, кроме того, принята квадратичная функция потерь, то байесовская оценка вектора средних многомерного нормального распределения запишется в виде [см. (14.95)1 а = ) а ((7 (а ~ х) да. (14.124) а и ах — байесовская оценка вектора средних на й-м шаге наблюдения. В скалярном случае К=а'1, Ка=а~а! и тогда рекуррентная форма байесовской оценки случайного среднего значения для одномерного нормального распределения записывается в виде !ср. с (14.118)] а~ (14.128) ааа+а~ ааа~+аа где а„-- опенка на и-и шаге наблюдения. При и-эао из (14.128) получаем рекуррентное соотношение для оценки максимального правдоподобия среднего значения (14.129) а„= (1 — 1(и) а„, + х„!и, 14.6.
АНАЛОГОВЬГЕ АЛГОРИТМЫ ОЦЕНИВАНИИ ПАРАМЕТРОВ 14.6.1. Постановка задачи. Пусть на интервале (О, Т) наблюдается реализация х(!) случайного процесса Х(!), некоторые характеристики которого, например моментные функции, содержат неизвестные параметры дь ...,д .
Задача состоит в том, чтобы найти оценки этих параметров в виде функционалов от непрерывно наблюдаемой реализации Ь, = да, [х (!)), ! еп (О, Т), 1 = 1, и. (14.130) Каждый функционал да,[х(!)) представляет случайную величину, распределение которой связано с вероятностными характеристиками случайного процесса Х(1). Как уже подчеркивалось в конце п. 13.9.1, предела функции правдоподобия, когда размер выборки неограниченно возрастает, не существует. Это, казалось бы, создает препятствия для формального обобщения изложенных результатов теории дискретных алгоритмов оцениваиия на аналоговые алгоритмы, в которых используются функционалы от реализаций случайных процессов.
Чтобы преодолеть это препятствие, вместо несуществующего функционала правдоподобия вводится функционал отношения правдоподобия 1 [х (1)[0[= 1!т йг (х,, ..., х„/д)/)[У (хм ..., х„[д,), (14,131) где да — некоторое фиксированное значение параметра д. В регулярном случае ~!п1[х(!) ~б) [(аа, Для синтеза аналоговых алгоритмов оценивания, оптимальных по рассмотренным критериям качества, следует учесть замечания, приведенные в п.п, 14.3.1 и 14.4.4 1см. (14.64а) и (14.80б)], о замене функции правдоподобия статистикой отношения правдо- 4!3 ! [х (!)[6„,[=.шах! [х (!)[61, получаем уравнение максимального правдоподобия' д6 — [1п ! [х (!) [6О = О, (14.135) (14.136) которое при условии — (1п ![х(!)[6[) (О дда Омп определяет оценку максимального правдоподобия 6м„[см. (14.68), (14.68а)).
Если параметр 6 случайный и известна его априорная плотность вероятности ш(6), то апостериорная плотность вероятности параметра 6 по наблюдаемой реализации х(1) случайного процесса (р [6[х (!)[ ге (6) 1 [х (1) )6! (14.137) ОО га(6) 1[х (1)!6!д 6 0 ' Если функционал !п Цх(1) )6! не дифференцируем по д, то оценку максимального правдоподобия находим иа условия Цх(1) )Ьмп! =апр ЦхРО)6!.
е 414 подобия. Тогда оптимальные аналоговые алгоритмы получаются предельным переходом [см. (14,131) ) из дискретных алгоритмов оценивания прн неограниченном увеличении размера выборки. 14.6.2. Несмещенность и эффективность оценок. Оценка 6= =до [х(1)1 паРаметРа Ю называетсЯ несмеЩенной, если пт,(гго[х(1)1) =6, где символ пт1 означает усреднение по множеству реализаций. Величина д(6) =гп1(Ыо[х(г)1) — 6 (14.132) называется смещением. Информация по Фишеру об оцениваемом параметре 6, содержащаяся в реализации х(1) случайного процесса, определяется по формуле 1(6) пт ~( — [п![х(!)[6[) ~ . 'хдд (14. 133) Нижнюю границу дисперсии оценки получаем из неравенства Рао — Крамера [см.
(14.40)) )ьг (6) ~~ [1+ Ь' (6) ) т/! (6) . (14.! 34) Оценка, для которой в (14.134) достигается равенство, называется эффективной. !4.6.3. Оптимальные аналоговые алгоритмы оценивания. Если параметр 6 — неизвестная константа, то, используя критерий максимального правдоподобия Оценка бмдд по критерию максимума апостериорной плотности находится из уравнения [см. (14.72)] дд — 1п ге (6) + — (1п 1 [х (1) [6]) = 0 дд (14.138) при условии —, [п(гн(0)1[х(1)]0])[ ~0 ддз Емап (24.138а) ЛпостеРиорный Риск Х(0]х(1)) получим усреднением функции потерь по апостериорной плотности (14.137): .7 (Ь[х(1)) = ] П(Ь, О) [[' [0]х (1)] г(0.
Байесовская оценка бе, определяемая из условия минимума апостериорного риска (14.139) для четных функций потерь и для унимодальных и симметричных относительно моды апостериорных плотностей вероятности оцениваемого параметра, имеет вид [см. (14.80) и (14.80а) ! Ьб= ~ б[[Р [0]х(1)] ~И (14.140) ЯО или М ] дэ[д)1[х(0!д]зп) — Р (14.140а) б ш(6) 1[к (1) ед! гИ 00 14.т. 3АЧАчи 14.1. Показать, что для равномерного распределения ш[х[б) =1/б, 0<к~О, оценка Ь, =х<" >+ [хоп — хп))1[п — 1), где хоп и хо) — наибольшая и наименьшая порядковые статистики [п)1), ,несмещенная и имеет наименьшую дисперсию ра[0ь) пЯ[[п — 1 ) (п+1) [п+2) ].
[2) 41$ Заметим, что знаменатель в правой части (14.140а) представляет усредненный по априорному распределению параметра функционал отношения правдоподобия. Естественным образом приведенные определения и соотношения обобщаются на совместные оценки компонент векторного параметра. Убедиться, что дисперсия (2) меньше нижней границы (Р/и', определяемой неравенством Рао — Крамера, если его формальна использовать для распределения, равномерного на интервале (О, Е).
14.2. Доказать, что выборочные среднее и дисперсия для нормального распределения независимы. Обобщить этот результат на многомерное норз альное распределение и доказать, что вектор выборочных средних значений не зависит от выборочной каеариациоапой л~атрицы (см. (45)). 14.3, Дисперсия центрированной гауссовской случайной величины распределена зкспоненциально с плотностью 1 г оа'1 э (оз) = — ехй оз ~ О2 / е о/ (3) Доказать также, чте прв квадратичной функции потерь байесовская опеи- ка й ( /т/ 2 ~1 1 г где оеиа — оценка максимального правдоподобия (см.
(14.105) прн а=-О), К„(г) — функция Бесселя второго рода от мнимого аргумента. Обратить внимание, что прп этом байесовская оценка не совпадает с оценкой по критерию максимальной апостериорной плотности и объяснить причину такого различия. 14.4. Доказать, что оценка максимального правдоподобия параметра д экспоненциального распределения с плотностью 1 / х ~ э (х)Е)= — ехр ~ — — /1, х ~ 0, Е > 0 е (, е/' (5) равна и Е .= — Х хз. (б) Доказать, что эта оценка несмещенная и эффективная. Показать, что доверительный интервал для оцениваемого параметра Е имеет следующий вид: 2 2 2п Емп/Х11 — т)/2 ж Е ( йл Емп/Х1 1+э)/2, где у — заданный коэффициент доверия и дз — процентная точка стандартного дз-распределения.
14.5. Параметр Е экспоненциального распределения (см. (5)] — случайная величина, распределенная также по экспоненциальному закону с известным па- 416 Доказать, что оценка максимальной апостериориой плотности вероятности параметра о' раметром Ео Дсжазать, что сценка макоимальной апсстериорной плотности вер е лбе [( 4 . )Пз Доказать также, что при квадратичной функции ба = — —" [)п Кз-, !(2)~ л! ними )]„ (в) потерь байесовская оценка (9) где Е, — оценка максимального правдоподобия (см. (6)] и К (г) — функ. цня Бесселя второго рода от мнимою аргумента (применительно к рассматри- ваемой задаче см.
также замечание к задаче !4.3). Глава 15 ОБНАРУЖЕНИЕ СИГНАЛОВ НА ФОНЕ АДДИТИВНЫХ ГАУССОВСКИХ ПОМЕХ 15.1. ОПТИМАЛЬНЫЕ ДИСКРЕТНО-АНАЛОГОВЬГЕ АЛГОРИТМЫ ОБНАРУРКЕНИЯ ДЕТЕРМИНИРОВАННЫХ СИГНАЛОВ 15.1.1. Постановка задачи н априорные данные. В раднолокацнн, в системах связи н во многих других областях естествознання н техники возникает следующая ситуация априорной неопределенности. Исследователь наблюдает (нлн регистрирует прн помощи автоматического устройства) реализацию случайного процесса, которая может представлять либо смесь сигнала, содержащего полезную информацию, н мешающей помехи, либо только помеху. Задача исследователя состоит в том, чтобы, нспользуя заранее выработанное правило, вынести решение о налнчнн нлн отсутствии полезного сигнала в наблюдаемой реалнзацнн.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
