Чураков Е.П. Оптимальные и адаптивные системы (1987) (1249286), страница 35
Текст из файла (страница 35)
(7.34) где Кр — ковариацнонная матрица ошибок измерений 2СВ :, Если эти ошибки пмерот гауссовскую плотность вероят. Мрорстегу при которой !пй(У,А,1 — !г) (2я)'Р'(К,, ! —,, ( !А)'К '(Ч- Х!Л1), 17.33) где Х(А) =-. (хр(А), х~ (А),, хл(А) ) ' - . вектор гюлезных ;",р;1!'-" 'составляющкх всех измерений, соотношение (7.34) ирннн.'э~!!1)„.",Мает форму Р,",:,'1(:-,: ' Л,"'" Л, М ф.(0:"~,''(0~") Кр ' (Ч Х(АРМ)). (7 Зб) В составе алгоритмои (7.34) и (7.36) по-прежнему 0 РЕ "-.~~~:, '!Г'0г" представляют матрицы О, Е), в которые вместо А под- "„,.~)!!~"' ставлена зяачепис оценки А, на й-м шаге ее поиска, т е.
)йр;:::гвеличниа Аг г". Функция правдоподобия обычна имеет несколько экст- ремумов, Максималыю правдоподобная опенка дол>хна -:-.,".,'с~му соответствовать глобальному экстремуму. Чтобы ее найти ,ю~~',',-;, с помогцью ал,оритмов (7.33) и (7.34), начальная точка .~ф-!р. должна принадлежать окрестности глобальио1о макси- :Ф'..',,'".
'.Мума. Максимально правдоподобные оценки в общем случае, '~«~!=;.:У особенно при малых выборках, имшот некоторое смен!ение ~',,-':!!''и пемииимальную дисперсию. Однако обладают рядом до- ).~„;: стоияств, особенно прояиляюцгихся прп статисти риски не- '~;.-",',"Г зависимых ошибках измерении р„рь,(ы и заключаю- :~-'-!;.-'в шихся в следугощеьп ! Если для вектора Л существует эффсктивн я оценка, то уравнеяпе максиршльного правдоподобия их ест единственное решение 2. Ес.
р~ для вектора А сущес;вуег достаточная оценка, то ка ьдыя корень уравне п.н правдоподобия ивляерся функцией достаточной оценки 3..! и симальио р:ран .оподобная оценка является соМ(вй) стоятет;шлт н асимптотнчесьн, т е п, и стремлении объема апостернорпой выборки к бескоис воли (рУ со), эффек ') г'1!.;. тивноп и гауссовской (и смысле се пло ногти вероятностей). На практн.-е зта асимптотиьа прояв„яе~ся диета. точно хорошо уже при лесяти независимых наблюдениях ва один скалярный параметр, подлежащяй оцсииванию 4. Метод максимально правдоподобного оценивания явф ляется весьма универсальным аш врагом решения задач оценивания.
!4 — 5224 209 Ас;ныптотвческне свойства метода, проивлятощнеся прэьтцческн уже врц относительно небольшэх обьемах выборгзи, позволяют при энз,тизе эффективности оценок успешно попользовать неравенство Рао Крамера (7.8) Во иногпх прикладных зздвчэх (Лг+1) мерный вектор ошибок измерений Р можно считать гауссовским с и) ~е. вым матеьга ическнм о.ьидалием и коваризцпоннои митри цеи Кр . сакра генно Р(=дг(0, Крр В этом случае справедливо (7 35) и элемент ь. (7 8) матрицы Фншера после диф. ференцпровэния и усрелнсния приобретают более коикретпын вид ах (А! гдХ(А) — Кр ' —,1,1 дог оа 1, и (7 37) (7.39! н пракшщесюг совпах!эют с уравнением (7 18) Ооогноц1сния (7.37) к (7.38) позво. яют в рамках пе равенства Рао -- Крамера вычислкть предельно доститкнмую эффективность, оценок в функции возмои.ных значс.
ний некторз А Отметим, что усреднения во всех приведенных соотношениях, связанных с условныип оцсньвт п (неслучайиыы вектором пзрзметров А), осупхестпхгиюгся при фиксированном векторе А: Л(У 1( ) ~( )!.,)?Л)йц Пример 7.1. Ржг. штгнч решение ззззчв из прит:ерз 7.1 в прелпшз пении Ргбм(0 К ). Соатве~ твуюпшя зпрвориая иифгртгшгня полагвеч, находится в евшем Гзшоряжении Лг гзгифн фтнкпин правдоподобия опредсляетгя саат~гошевасьг (736), в .огтзве кг хорога в соотвептвин с обабш*ингж нгде.пю па- 2!О Есгщ о,;ибки пзчереыий не коррглировэны др); с лру гоп и имеют одну и гу жс дисперсию о', т. е. в случае равно;очиыл измерении сри К, . а'Е то соотношения (737) упрощаются дх'(А) дх(А) Р .а '-..— — — - — —.
! ). 1, И (7.38) ао; д:й Прп пекоррслировэниых рзвноточпых измерениях метод максимального гран.,и!подобия вырождается в метод пан меньших квзлратов, так кик (7.32) при условиях (? 35) н Кр =-- о Е приобретают форму гблюдсннл (726) прнкиивгн Х(А) РА По ~ему : !пб(У Л):: - !п )у'(2а)' '!К,, — Об(У - ГЛ) К,чту ГЛ). !7.40) По.,ьвпв шу функцию в урамеяне . равд,.добвя .1 з.!), полу чии Г К ' (у -ГА) —.-С,: «удз . акгиызлыо прзвтгподабиав оценка в ее)"' . А,(Ь') —. (Г К„Г) ' ГК„'Ю.
(гмц Огеььз е.ыеше шах. гзх квк прв гготчелн нзглюлеинй (726) пв "Ч!Еьзг . 1угд (Аз) 4?р~д (!Г Кв Г) 'Щнв (ГА . РП= А, Кгаарввциониую ь з рацу ошвгки .зх дят пу ен нспогрех:таеь-'«~й:, ныт ра че,ов прозою иых по ле под-пы. вхн (74!) в обшее выгажв- К вЂ”. Пу,д((яз — Л)(Л,.— А> ) =- (Г К„'Г) ' (7.42) бели учес.*ь, чта в манн и случае д'1п1.(У?А)тдд'- — Г'К Г.
в то вялят., что результат (742) сгтвпвдзст с вишнев грзвицея перзнеЖф'-':.,) ствз 1таа — К; вмерз (76) при условии 177), т. е оце.ха (741) явля. ~флц е- я эффеягивнон Наконец, е.лв ошигягн изыеренаи рг, рг прн гы! ке 'Йуг"„.,'. корреляроваиы и изнерепия рзапотачшз то алгоригн (741) преврв~у;.",".!.' Шве..я в (? 26), т е п этих услсвиях чегоды ваксы. алснага прзвда- 7-''т Л",. падаыш и ьзиче~ьших хвадра:ов, ьак уже о началась, деймон.слыло совпадзю Ъ1ф,' Е.гв решаегся задача пре брззовзвия сигнала л(!) по закону Д:= =. Н'А, то оценка и' величины Ь„ апрелеле; ная пс правилу Д Н'Ат, в силу свои тв «кики Ах гяз ывзе~ я ггестюцегпгой в вьиет дисперсию а.
.1!у,д(Р;,)х,. -Н1:Г К,'Г! 'Н ~ 7.4. МЕТОД МАКСИМУМА АПОСТЕРИОРНОИ ПЛОТНОСТИ ВЕРОЯТНОСТЕИ Метод вспо.1ьзуется в задачах, в лоторых векторы яа. раме.ров А и ошибок измерении Р являкпся слу !аг!ными и известим их априорные плотпостг вероятногтеи о(А) и ;;:.::-: ш(Р) соответственно. В рэссмотренпе вводится условная плотность р(А , '47) вектора пврнмстров А, соответствугощэя неизменному фиксированному вектору измерений При кои;.,'.. кретных измерениях эту функцию называют алоггериорной плотностью пероятногтей параметров А н вычисляют по *-" 14 211 формуле Байеса м ( Цч) --.
(А) 5 (ЧУЛ), . (Ч), (7 43) где к( Ч) — безусловная плотность перон:костей измерении Ч. Оценка Аз вектора А, оптимальная по методу максимума апостериорной плотности яероятностеи, пшстся из условия максимума функции (7.43) или логарифма от иее. Эта оценка удовлетворяет услоаиго (7 44) )п! (Л з Н) -- >пах (п Н (А Ч). л Уравнение для оптимальной опенки имеет тра. нциониую форму --- )п(ч(Л, 5(Ч'Л,)) О (7 45) дл Если плотность а(А) разномерна в некоторой достаточно протяжсннои области пространства параметров А, котороп принадлелгат и экстремальные точки функцпи правдоподобия, то оценки, оптимальные по л.аксимуму апостериорной плоз ности, совпадаю.
с максимально цравдоподобными оценками Следовательно, прн ото>тствпи априорной информации о распределении параметров А, когда плотность а(А) услоико можно считать равномерной ао ноем пространстве А, метод максимума апостериорнои плотности превращаешься и метод максимального правдоподобия. Бычистспие оценок по уравненшо (7.45) прн стожных моделях паблюпений н априорных плопюстей пракюшески мохсет оказаться снох нон о..ерапией Поэ1ок>у, как н н предыдуших методах аценинания, широко используют поисконыс мече.гы оп имнзацни апостернорнон плот>к стн, напркмер по правилу (7.33), если в ием градиент логарифма функции правдоподобия зацепить градиентом логарифма апогтсрнорнои плшностп Полезно обрати~ь внимание на то, что в составе (7А3) плотность к(Ч) нс зазиснт от А, поэтому кгаб 1пп(А Ч) —. Кгаб 1п (з(А) 5 (Ч Л)1 л и функция к(Ч), как и при решении уравнения (7 45), не нужна.
Распространение алгоритма (7.34) на данную ситуацию приводит к следующему последовательному правилу иы- 212 )ччьисления оценок: А р и. А гм ! (Д М) 'Кгяб)пн(лз"' Чк )(. П+ Кл (7 Аб) .где К л -ковариацпоиная матрица вектора А. Если векто- 51 ры А н Р гауссовские, так что выполняется (735) и )п згй) - . (п)'(йх) ') Ьл(. 03>>Л пзл)"Кл'(Л гпл) (7.47) м ' ... т г1жгшгшт $,"":„'1 . ".,;;.;1, гдг: тл .
кпп з1сзпческое ожидание пмгтора ... о 1жд , ",,1ь',,апостсриорпок плотности можно вы шслгть аналитически н аг,горптм (7 46) преобразуется к виду л " ... Лз " 1 (д л>) (!Оул ) К-„'(ч 6 К(л,: >)) '. -!. К„'(пзл Л"!1). (7.48) Точность оценок, оптимальных по максимуму апостериорнои плотности оцениваемых параметров, прн достаточ ном объеме выборки (порядка десяти измерений на ска лярпый параметр) близка к низкнеи границе неравенства Рао Крамера (7.13). Прп слабьш ограничениях эти о:п.и состошельны, аспмшотически эффектна ы, песце'"::;:..
шснпы и гауссонски. Их аснмптотическая (77-ьсс) сонм т'*': ' ная гкютность вероятпостен описывается соотношением . ((2г)'" гр') ехр(. О,5(А, пзл)'Ф '1А. гпл)) 1;;:': где мат ица Ф соответств>ет определеишо (7 14) Отметим, что осредпения, пронодимые в связи с безуслопнымн оценками, учитывают случайность векчора А и в расьрытой форме представляют операцию вида 31~ „(.) =- Ц( )ц(Ч, Л)г(Чг(Л 'Ъ,' = ~ ~ (. ) з (А,*' Ц Ч, А) г(чбл, Пример 73 Рзггмотрим ззззчу аз преамхушнх примеров 7.1 м 72 > В пре п ~ хмвнн, по вектор А является случзйнмм, гзуссовгкзм с ну,:;':,"'лев„м мзггмзп1чег1гкм зхгихзпхс. и канзризцмаквоя мз:рнцем Огнпмгелшк зсхшра Р охранял ~ прежнее утверз ление РЦ > (О, К„) Позагагкк чо зтз зпржрнзз внхюрмапмя ззм изветва 217 Лля лавной снтузини па ам оваиия (735) и (747) в предполыкениа Х(А):.-ГА получас: )п( (А)т !Ч:А)) =.
с"пзс О 6А К»'А — О 5(у — ГА) К' '(и.- ГА). р (7 43у Урш ~еьне (7дб) запиваем вк — К„цт, -' РК им . Гдз) . О. Пз ега реешния следуег нгкг иая сцсма (7.5С) Аз. Л 'ГК 'Ч, Д ГК 'Г! К„' (7.5!) гле Д - невыршкдекьав магрица Несложно убедить я, что зта оценка являет я иесмегггепш)ь ак кзк при матрична-векгорной мадсяи иволюд шы (72з) для случая ш„.. о из (743) получаем — Гк»Г' '- К ' И г»Ч.). К Р М (ЧА ГК В резульгз~е (75) принимает вид к.-. л 'ок ол ' .
л 'ол ' — к„од — Л 'ОК» ', К», Π— Г К Г. (7 52) Рас: чо*.рнч совместно п рв е н тра~ ье слагаемые (Л 'О -! !К ОЛ ' (Л 'Π— Л 'Л)К, ОЛ Д 1(0 — Л)К»ОД ' . — Л 'ОЛ''. Па аналогичному г! шпгипу преобразуем дла по леших слв зе ых — Л ' ", .)К -- .Д ' ' ' ! — '( О- Д)К вЂ”..Л Пас вюш пи разул~ ~а:и в (752) оканчзтгльш нзхсшилг Ке Л (7 534 Срез»ш квалра. ошвгки оцени»зива величины й: Н'А, савпвлзюшни в дзыич случае г дв пер исй ошнски апределяегсв тзх лгцн (А,— А)д .н д- и. (7.54) Цзсга всгречзюг.н .нзуацнв, в ко арых веки.р А не является цеитриравз гшзтг н его чатечв; н .еское ожнзание рвано ш» Характер ре- 2)4 Лг(Аз) . Н '(Л 'ГгК' (ГА т Р)г -.С т е.
редисе значение оцш кв совпадает с априорным среляим век сза А. Т ша и гцеион (75!) абмч ~а характеризуют лгатрицегт в~арык моментов ошнсак оцепнвзння (7 5), которая в данном случзе блага„лри неси шеьггттн осин к овпалаег с ьаварнвцианиай матрацей ошнбок. Для вычисления (75) под твзим (75!) в (75). перемн жим гоивегстауюшие амнажигели и у.теч в предпалажеьив неко!зрелирзвз~ ногти А и Р ",",Эпеинз задачи в этой обстановке полностью сахраннется прюкиич ;,:Алгоритм аьвянвапия вектора А пршгимает внд А*(Ч) =-Л '(Г Кр'Ч * К»'ш») - ш„д 'Г Кр'(Ч вЂ” Рш») (7.65) Зб)(; где из*рвиа Д га„твег твует (75!) Кааариаци;а,ая ч:гршгв ее ошибок,- редел*:с:си соагнашеннеи (763). Справедлив н ршузыат (754) Приап '~авлегин .
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
