Тихонов В.И., Харисов В.Н. Статистический анализ и синтез радиотехнических устройств и систем (2004) (1151791), страница 60
Текст из файла (страница 60)
Доверительная вероя.пюсть а назначается заранее, до наблюдения (например, а=0,9; 0,95; 0,99 и т. д.). При заданном и длина доверительного интервала характеризует точность локализации значения параметра и ее всегда желательно иметь наименьшей, Если этот интервал можно построить, то он обеспечит при заданном а наиболее точную локализацию параметра.
Задача определения доверительного интервала может быть решена только в том случае, если удается найти распределенно оценки к„=у(«ь). В этом состоит основная трудность. В настоящее время эти вопросы достаточно хорошо разработань> для нормально распределенных наблюдаемых величин. 6.4. ГРАНИЦА !'АΠ— — КРАМЕРА Пусть по результатам наблюдения «ь оцениваешься параметр Х, оредсгавляюпций собой сл. в. Докажем, что средний квадрат ошибки любой оценки х(«ь) удовлетворяет неравенству Рао Крамера М ([Х(«ь) — Ц ~) > (М >> [д 1п Р (Х, «ь)/д Ч з)) = — (М(д2!прР. Ц)!дХ'))-' (6.4.1) где р()., «ь) - совместная и.
в. параметра и наблюдения и м. о берется по Х и «ь. При этом предполагаются выполняющимися следующие условия: 1) др(Х, «"„)>дХ и д ~р(Х, «")1д).2 абсолютно интегрируемы по ~и«".; 315 8(Л) =- 1 [Л (1, о) — Л >! р (Ц о ! Л) г( 1 о. (6.4.2) имеем или можно записать иначе: Л)„> М о~'7>(~,',8) (6.4.6) или, что эквиваленте!о, 317 316 2) 11ш б(Л)р,(Л) = О, где б(Л) условное м. о.
ошибки при заданном Л Для доказательства неравенства (1), определяющего нижнюю гран>щу среднего квадрата ошибки оценки, умио>ким обе части (2) па р~,(Л), а затем продиффсрснцируем по / ар(х 6") — „[р"(л)б(лП=- — Х р(л ~"И~о+ Х [л(')>) — л)'-'~ ',~"- 7:"' Тепегь проинтегрируем по Л: х Х' р„,(л)б(л) ~ =-1+ ( ( М;)-л1'(', У:лй;;. Согласно допущению 2) левая части равна нулю, и поэтому ( [Л(ц)-Л15р~" о) гЛ.»ц = !. Это равенство с учетом очевидного соотношения ар(>.. Цо),, а1пр!>.
И =р(» 1о) —— (6.4.3) д~ ах д ! Е!!!>)-Ч Ю, !1!1('-"-",™,'>ПАВ)п~и=~. На основании неравенства Шварца- Буняковского можем написать О )' [Л(о) — Л)'р(Л, 1;)ИЛ!>'с,о ) ( (' — ",( '~ — ")~ х к р(» ~о)иЛиго~ ! ° (6.4.4) причем знак равенства имеет место тогда и только тогда, когда 61пр(Л, Я/ЙЛ=й[Л(Ц~) — Л1, »г =сопя!, (6.4.5) при всех г,о и Л. Два члена левой час~и (4) суть м. о., фигурирующие в (1). Таким образом М([Л(1~~) Л2>>) ~ М Р(1о! ) М Р„( ) (6,! 7 о>> ) ( ах> Действительно, дифференцируя по Л равенство Ор(л, ц)!лиц= 1, Пар(х')ыл!1 = П (л 1)а!"р(х ц)ыл~1 =0 Вновь дифференцируя по Л н применяя (3), получаем д!пр(1, Ц) „, ~(д'1пр(Х, Ц) д!пр(х, чо)1 ( М~[д 1пр(Л со)( М~)д'!пр (х)р(чо!л) что и доказывает (7).
Любая оценка Л, для которой в (1) имеет место знак равенства, т. е. для которой средний квадрат ошибки дости~ае~ нижнюю границу, называется эффекп>ип>юй оценкой. Для эффективной оценки должно выполняться условие (5), дифференцирование которого по Л дает эквивалентное условие ее (пр (» Ц)~!7 Л>— Подставив сюда р(Л, ц)=р(ц)р(Л(ц), получаем д>1пр(Л!Ц)!дЛ>= )о Дважды интегрируя, приходим к нормальной апостериорной п, в.
р (Л!го) = ехр( — lг Л'+ г!». + г,). (6.4.8) Следовательно, чтобы существовала эффективная оценка, апостериорная п. в. параметра должна быть нормальной. Неравенство Рао — Крамера обобщается на случай совместной оценки нескольких параметров Л=(Л„..., Л ). Теперь ошибки оценок разных параметров будут взаимно коррелировапь! и их совокупность описывается корреляционной матрицей ошибок оценок И„ составленной из элементов Л, =М>!(л,.— л,.)(л,— лз)), 1,7'=1, и>.
(6.4.9) Диагональные элементы матрицы представляют среднеквадратические ошибки, а недиагональные — взаимные корреляции ошибок. Введем так называемую информационную >пап!рицу Фишера .1 с элементами (6.4.! О) ! д!пр(Х, ~(г)д!пр(Х, Ц) .ц=м~ ! ! о '1 р(~дц ! ') д 1 р„(Х)) оценок (г„= О). Следует иметь в виду„что если параметры априорно независимы, то это совсем не означает, что ошибки их апостериорных оценок будут некоррелированными. 6.5. КРИТЕРИИ РАЗЛИЧЕНИЯ ГИПОТЕЗ Здесь первое слагаемое учитывает информацию, получаемую из резульгатов набл!одення, а второе априорную информацию. Неравенство Рао — Крамера для нижней границы корреляционной матрицы ошибок оценок имеет вид К, >,1 (6.4.1 1) где Л '---матрица, обратная ьшформационной матрице Фишера.
Диагональные элемегпы в матрице, обратной информационной, суть нижние границы соответствующих средних квадратов ошибок. Можно показать, что если ! '=-К„то все оценки являются эффективными. Необходимое н достаточное условие справедливости этого утверждения заключается в том, что апостериорное распределение должно быть нормальным для всех Возвратимся к широко используемому методу максимального правдоподобия (6.3.12). Для него применимо неравенство (1!), только послецнее сла~аемое в правой части (10) будет равно нулю (априорная п.
в. постоянна). Применительно к оценке двух параметров Хг н ).2, предполагая оценки совместно эффективными, из (11) с учетом (9) и (10) получаем 411 ( !д! ( д' ) ! — 12гг' '(=-цпр"'е!")! дкг 232 = (6.4.12) !3! (д' ) ! — ',,' !пгг(ьк!х)) )дгьг ~12 ~21 '~! 2!З! 1 12(О1 ~2) Здесь 1)1 и !3 дисперсии ошибок эффективных оценок параметров )ьг и ~2; 112 =У, (У„/22) "' -нормированная взаимная корреляция ошибок; 1,!1=(.1„1 —.212) — определитель матрицы 4. Из сравнения первых двух формул (12) с (!) следует, что первый сом~ожитсль в правой части (12) совпадает с дисперсией ошибки эффективной оценки одного параметра.
Поскольку 0 < г 2„< 1, то ясно, что наличие конечной корреляции между ошибками оценок всегда приводит к увеличению дисперсий ошибок совместных оценок (по сравнению с дисперсией ошибки эффективной оценки одного параметра). Дисперсии ошибок в обоих случаях будут совпадать лишь для некоррелированных 318 Рис. б.1. Вероятностная модель при различении двух гипотез 319 Рассмотрим вначале наиболее простую задачу различения двух гипотез. Допустим, что каждый конкретный результат наблюдения Ц может быть порожден одной из двух возможных несовместимых гипотез (причнн), которые обозначим Н„и Н,. По результату конкретного наблюдения с о требуется принять оптимальное решение, какой из гипотез обусловлен полученный результат.
Такое оптимальное правило принятия решения должно быть сформулировано до наблюдения; после получения результата наблюдения должно быть вынесено решение. Очевидно, что для обоснования такого правила нужно располагать некоторыми сведениями как о гипотезах, так н о их связи с наблюдениями со. Обратимся к упрощенной вероятностной модели радиотехнической системы (рис.
6.1). Помимо источника сообщений (формально обозначенных через Н и Н,) она включает некоторый механизм вероятностного перехода (канал связи и другис элементы), который преобразует известные сообщения (гипотезы) Но и Н, в точки Ц пространства наблюдений Г (область возмохег!ых значений случайных величии г,о). Допустим, что известны функции правдоподобия гипотез р(со!но) и р(г',о!нг).
Относительно априорных сведений о гипотезах Но н Н, возможны два случая: 1) известны априорные вероятности гипотез р „(Н„) н рр,(Н,)= ! — р „(Но) и 2) обоснованные сведения о них отсутствуют. В обоих случаях задача заключается в установлении наилучшего правила принятия решения о выборе между гипотезами Н„ и Н,. По существу задача сводится к оптимальному разбиению области Г па две непересекающиеся подобласти Г и Г,. Если результат наблюдения оказался в Г„, то принимается гипотеза Но, а если в Г, — то гипотеза Н,. При рассмотрении двух гипотез обычно одну из них выделяют, и проверка производится с точки зрения этой гипотезы.
Если выделена гипотеза Н, то Г называется областью принятия гшготезы, а Г, — облаггпью отклонения гипотезы или критической облаглгью. Ие егтракетдгг атглюденид Г В двухальгернагивной ситуации принятие решений всегда согй овождас гся ош иоки ми двух родов: огииб «! первого родо! гипотеза Н отверг.!ется тогда, когда в действительности оиа !орла; онаибна о»таимого рода (1 — отвер1 ается гипс.!сза Н„ ! го время как она верна. Ошибку перво»о рода и называи71 17»оо»7н м значимо»тли крнигерил, а веро ят носи 1-- (1 прцпя гь !и!и>гезу Н„когда она является верноиг — мои7ностьно кри»игрив. Применяя правило определения вероятности попадания случайной вели 7ипы со' в заданную область, можем написать ц=-,(Р(г,о!Но)г)1о, 1=) Р(1о!Н!)«1о. (6.5.1) г Гоезусловпые вероятности'р„и р ошибок первого и второго рода выражаются через а, (1 и априорныс вероятности р„.(Но) н р»„(Н!): Ро=р»о(Но) «=Р»,(Но) ( РАо ! Но) »11о.
! (6.5.2) р,=р,„(Н,) Р=р„.(Н,) )' р(Ц !Н,) (Ц. го Поэтому полная (суммарная) вероятность ошибки равна Ро=р.+Ро =Р»о(Но) ) Р(го ! Но) о)1о+Р»о(Н!) ) Р(со ! Н!)72»о. (6.5.5) Основываясь па введенных условных вероятностях а и (), можно ввести несколько определений оптимальности решения. Характер оптимальности в значительной мере зависит от двух факторов: 1) одинаковы или различны по значимости ошибки первого и второго рода, 2) известны или нет априорные вероятности р„„(Н ) и р„„(Н,). Приведем здесь три оптимальных правила решейия, которые наиболес часто применяются в радиотехнических приложениях. Критерий Байеса.
Идеальный наблодатель. В правилах решения, основанных па критерии Байеса, исходят нз того, что оптимальное правило должно минимизировать стоимость (ущерб) от принятия неправильных решений. При этом считаются заданными априорные вероятности каждой из гипотез р»„(Н ) и р,(Н,), а также количественные характеристики стоимостй, т. е. функцйи стоимости г;, !', 7'=О, 1 (первая цифра подстрочного индекса означает выорранную ' гипотезу, а вторая — 1ипотезу, которая является правильной). Как и при оценке параметров, в качестве критерия оптимальности принимается минимум среднего риска »о=соор»о(Но)Р(Но! Но)+соор» (Но)Р(Н! ! Но)+ + о ! ! Р».
(Н ) Р (Н! ! Н ) + ! о! Р». (Н~) Р (Н~ ! Н!). (6,5»4) 320 При указанном разбиении области наблюдений на две подобласти средний риск можно выразить через функции правдоподобия типо.гез р(Ц!Н): и =соор» (Но) ) р(»оо ! Но)о7»о+с!орр (Но) ) Р(со ! Но)о!со+ + г„р» (Нц) ) Р(~Оо ! Н!) »1 оо+ гоор»,(Н!) 1» Р(ойдо ! Н!) о(оо (6 5 5) г, го Из условия нормировки п.в. имеем ) Р(1о)Н!)«1о=) Р(1о!Н!)о(1о — ) Р(1о!Н)о(1о= го г, =1- ) Р(~;!Н,И~:. го Поэтому й='2ор. (Но)+ соор».(Н!)+,( !(со! — с! !)Р»,(Н!) Р(1о ! Н!)— го (соо соо) Р»о(Но)Р(го !НоЦ »2 го (6.5.6) Обычно стоимости полагают неотрицательными, причем стоимости ошибочных решений больше стоимостей правильных решений; соо>соо>0, оо! >со! >О.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
