Чураков Е.П. Оптимальные и адаптивные системы (1987) (1249286), страница 33
Текст из файла (страница 33)
обхшгпмоп зприориои янформацюц критсриямп оценпваикя, сложностью вычис" саня оценок, соотвстстзуюшпл разлпчиыч критериям, и ~ д. Однако как бы нп был сонершенен метод оцсиивапия, прп цп пиачыю при конечном числе измерении ие удается добиться полного созпзденяя оценок А и оцениваемых парамстрои А. с)тобы судить о степени зриолп..синя оценок к оцша васмыч параметрам, и рассмотрение вводят понятие ошибки е оценказнпя, определяемоп аыра.кепиеч к(ч, А) =- .=-А(ч) — А. Так как аектор измсрени1 Ч случаен и параметр А тзюье моигит бьжь случаишлм, тт псы р ошибок всегда случаен п поэтому ие чо кет бы ь нагсжнои мерой эффектиг~чости си спивания.
Для описания точности огшннвания нсгользуют неону ~икике показззели, построенные на основе случаиной ошибки. Для услояиг и оцсн.н, ~ сторон соогаетстэует иес. учапный оценияаемып параметр, танич и показате ~ями являются вели гпиа саещ 'лил е(А) )(ч,д (а(ч, А!) . Л(ч(д (Л(Ч)) — А, (7.2) ( г !„':~~",--"-':з())едстаз,гяюгцэя собой сре,лес пэ юияе ошибки оценива',;;",:; дня, и коеариационнал латрэг(а ошибок опенииания Кз . Л1ч/д ((е ~ч, А) и',А)) (е .'Ч А) е (Л))', (7л) 'элементы гчаангй дна~опали исто(юи презстаалюот ди-- персни ошибок оценизап*я отдельиь х ьсх1пспситоп ась ра А, а осташ ные этемеьты - копирка,шн зтчх ошибок Для песмещснных оценок (е(Л) - й( коза)п апиоииая матрица оишбоь принимает вид Д - й)ч д ( А(Ч) - - А,', (Л (Ч) "'.
'Эг Элементы ее глапаоп диагонали ичеют счысл дисперсий отк.;оиеишц оценок от оцениваемых параметров, т. е яп лнются мерой разброса оцсиьн относительно опсниваечога параьетра Гочпость безус юз ои оденки, ко'орзг соответствует случашюму оцениваемому параметру, принято характергь зоэать матрицей вторых л~оыснтоз отклонен ~я оценки от оцениваемых параметров йз . Л(Ч З ( А(Ч) А) (А(ч). А), 17 б) Элементь главяоп дпамч али зтои мз.рицы представ ляют срегэи е квадраты впибок оценизз пгя отде„ьиых компонентов случапного вектора А, а остальные э.
емснты яяляютсн вторымп смешанными мг центами этих о,чнбоь. Как уже отмечалось, степень гриб.,и,ьс;ия оценок к оцениваем ям параметрам яэлне ся ограииченгюи снизу. Это зна шт, что прп любом способе опенка. иия нельзя получать оценки. точность кот~ рыл будет зыгис оирелс,шнпых зизчешш, яяляюших. я границачн принципиально достпкгиыых резу,ьтатоя Э и грации ч затзютгя г помопгюо нсравгисгеп Рао Краю ра Для пссчешениых устюаных оисноь ьсрааенство утверждает )(г - Л(Ч д ((А(Ч) Л .'(Л,Ч) А)! .а1 '.
(.,Б) Ипгфор гоцпоннал чптрица гдпшсра Ф ипрсч пласт,я дпу ля эквкзат ептиыии способами Ф -.,)(ч д '(, (пбгч Л,)'( — — 'пй(Ч,Л,) Л)ч т ' - - (п 1.('Ч Л) (7.7) 199 д ы Зл<сь — 1пс — вектор ст; кч, . 1пь па<рпцз 1:ссг. дА дА' Если // и элемент матрицы Фишер:.*. обозна-шть спмво, ом оф (А), то в соо<встстппи с (7.7) получим гюэ<емси<по<- определение л<азрнць< Фишера. 7,</Л) Л/Ч/А ---!<</.,Ч А)---/пй(У Л) !— д д (<а, д< / д',, < — ЛТЧ,А — "- <п!.';У Л) <, <, / - 1 т !?.й) ! дш<а, ! В структуре неравенства Рао — Кра .<ерг (7 61 наибош ни<и пра.
<яческнн интерес представ. я<от связи между дишональпьж<и:<лементаии, так как опн формирую: ограничения на топ<ость оцеиивания о дельных компонента не<тора Л. Если вычислить обратную матрицу Ф-' и ее и-и диагональцьп элемент обозначить символом ф,(А), то двсперсяя оцшбкн оценивапия <-<о компонента ьек ора А оказывается величиной, ограпиченяой снизу по правилу МЧ,А((а< У! - а У) эр, !А), <. 1, т (7.9) Условие (7.9) озня шет, что яайтп оценку с лпсперснеп ошибки, меньшей величины ~:„., невозможно Знак равенст ва в (<.9) достигае~ся лишь при эффективнь<х оценках, причем ошибка эффективной оценки выражается как взве щенная с некоторыми весами Ьч(А) сумма частных производных функции /п ь(У/А) по компонентам вектора А, т. е. п.<У! а Еб, <'Л:,,"- и</-<УА) < = Р т. (7.!О) Соотноп<егп<е (7.10) яв <яется условием существования эффективной оцсякп в том сиь<сле, по ес "и для»е«второй оцеялк справедливо представя<енве (7.10), <о она будет эффеьтшшай Длн скалярно:о параметра А - а(ш — 1) неравенство Рао.
- Крал<ера существенно уч рощается <у/ум ((и(Ч) — и< ) - (<(4 / — — А<<У<о< — ~ -Л/~ — -- /п(Ч,п)~) (711) хоп условная оценка А является смещенной а сл<ещения, то неравенство Рао--Краобразом характеризует срелпеквадратиченок от истинных значении парам<тров! ;, Ф ~Е+ '. Б;Л)1, (7.!2) ;,, „где — е(А) .иа<ирияа Якоби; е — единя нгя матрица дА Аналогичные ограничения существуют п для безусловных "",." оценок, которыя соответствуют случайные параметры А с априорной плотностью вероятиостеи п(Л).
Точность оценивании <-го компонента вектора А, формально отобража 'емая средним квадратом ошибки, при любом способе оце- '" -К пвнаиия ограничена условием Л Ч А((п,<У) . и,)):.<<,, — !,, ПАЗ) Здесь ф„является нрм элементом квадратной т-матрицы бз-', образиной по отношению к хитрице Ф, которая опре ';":*,'!~!.',деляется двумя зквпвалентными сне<обаяв так, что ее '-дг. // к элемент у«ИЧ 1 --/п(.(А)й;УА))--й<(.(Л)б(УА))(= д, д ( дл< дп< = -Л!ч А 1 '„ /п(ч<Л)й(У<А)) (. (7 14) ( да<ай Из сопоставления (7.14) и (7.8) следуе~, что при определении эффективности безусловных оценок дополп<тельно учитывается апрпориан информация о вероятностных свой.":! 'стяах оцениваемых параметроп. Б ос~альном струк!ура матриц Ф лля условкых и безусловных оценок совпадзет Йали п<е <прнорпой информации, дополнптельноп к получаемой пз резул~татов наблюдения информации, позволяет *;.'":,'достаточно обоснованно предположить, что безусловные ,:.Оценки до.пкцы по точвости превосходить условные <~!;,:;:-';;:'4<.:д Приступим теперь к рассмотрению наиболее распрост;"~„4! раивипых методов оценивании (4, 37).
сю! -":;. чл.",'"'., Наконец, если л р<((',:ув<:."-:!дую(Л) — - вели ши' ф',*'.(лг,:."-'~)мьерв следующим 1!::*'!=;!*:;,яое от,лонеиие оц 71/Ч <А /(А (Ч) ЛР,А Ч/ А) ):=-~Е '-'а,Л+ 2.2. МЕТОД НАИМЕНЬШИХ КВАДРАТОВ Метод вапмспьших квадратов (М11К), применявшийся еше Гауссом и Лежандром для определения орбкт планет, нспочьзуют в тол случаях, котла пот ипкакнх априорных сведена» о свойствах оцениваемых параметров и ошибо> намерении Б рассмотрение вводится ьри:еряй качества ш>ениванпя '~~~ (о, - х. (а,, и, па,>):, (7.! 5) пре ют. влякнций сумму квадратов удаления измерении о> нх потезных составлшоших Оптик>алька>ми по МНК оден кама (их иногда называют МНК.оценками) А,=-(й», ,а„, )' сч>г>ают такие зиачсння параметров А —. (а>, аа) ', прк которых в личина (7.15) дос» > ет минн мума 1>п„, и,, а„.ч) - шш)(п,, па .
и„) ( 7>6 А Очевидно, поиск соответствую>цих величаи моя.по асуп>погнить теми же способами, которые в гл. 6 рекомеидовалпсь лля отыскания экстремума произвольпон функции У Необходгмос ус>овне минвмума сводится к равенству нулю градиепга функция (7.!5) по всктору А 8гж! 7>А,) (д> г>а,, ддда ., д' ди„' !7 ) 7, ' 0 !7.!7) >л. л. оценок С учетом структуры функции (7.2) си<гома >ран пения (717) н дапяо» случае прнобре ает анд л '»д" о ч . 'А )а" 1» 0 ) 1 ш:7 !8) да, а Прн сложных зависимостях х (А) — ах,(ин аь.,.,аа ) шшспне системы нолю>сйныл уравнений (7.18) сопрано».
лается вес>,ма трудоемкичп вычислениями, позтому широко испо<из)ются >радиептные метод» поиска мшп мума критерия ( ., в ш '7 15), * астностп шаговая (дискрстная) форма метода градиента Будем по;агать, ч. о оценка А вы пк :ше.ся последовательяо — по шагам. Пусть А "' .зна:юнис оценки , на <-л> А ><-л> шаге.
Алгорп.м послсдовател>,ного 202 ' .аа)а~~~)ГОЧНЕНВЯ ОЦЕНОК ПО МстОДУ ГРаДИЕНта бУДЕт С г 7 '~~Ф~-.',"5 А>< "> — А,'">-,' 78мд) (А,">), 7(0: Д . О. 1, 2 .. >7 19) ь!.";!~-;:;;.,Влп в скалярной форме л)ал» и'а>. Т-'-(--' - > ! пг )(О; А: 0 1 2 д да ! (7.20) Начальная точка А>'а> задается па основании какихлйбо зврисж>ческих приемов или иногда полагают Ада'=О, где нуль интерпретируется как нулевой вектор .х! При поиске оценок в реальном л>асштабе времени, что свопстаенно, в частности, задачам обработки данных н СНС, болыпое значение приобретает скорост~ сходимостн алго- 1,",,:,- ритма, которую можно характеризовать количеством ите' х раций (шагов) алгорятма, затра шваемых на переход пз начальной точки Ада> в некоторую окрестность зкстрсма»ь иои точки А>.
)(орви>ие с з>их пози,ша результаты достнга>оы я яри нспользоваи>и ;тератнвно>о релаьсационпого ал ор>,тма, осушеств. я>ощсго последовательное уточнение оценок по правилу А >ал> -. А, а> (Г>~>>-'К>а<17 (Л,>> ), >7 21) А -.' ',:,,-т,,в котором матрица весовых коэффициентов 0-' определяется лак обратнан по отношению к матрице 0=-Е)'О дхз(А) ах<(д) д „(д) да. ' да, (7.22) а. под Она понимаетсв значение матрицы 0 при замене А Иа А<ы. Матрица О называется матрицей якоби пли яко ."".' .
биииоя Алгоритм (72!) являг>ся более обшим, чем (719) Величин:> ятерацнн при с>о использовании с нелинейными коэффициентами пропорцио«вльносто заш сит от в ех со ставляю>цих градиента критерия У, причем сами веса нелинейно зависят от оценок на к-л> ша>е и рационально (Т.,.:,',.регулируют величину шага Более высокие показатели демонстрирует алгоритм, В!)!!7> 'спответствуюшии обобщенному методу Ншот она (6.! 7) .
2ОЗ Однако необлошююсть вычпслеипн з!атриды вторыь производных в форме гессивпв препятствует широкому првк тнческону применению алгорить!а. Пример 7.1. Рассмотрим вада«у фильтраоэн каа.н:гетерминнраэанншо процесса х(!) по рсзуль этан ди нретныч нзмсреанй э изаестные моменты 1„1... !. На азад прсеьогруемой снш мы а указанк:„е л1 яре нье та ег гь и" т!ше..шпа. ь, х, р„м.О, 1, 2..., Д', (7 23) грс,ктаэгенный ал. нгнэсгч:и ью поле.н«и схтааляюш н х, .х!! а поыехи р,- р(1,) Прсзтпал«~зеын, чш на инте: вале наблюдения [!ь 1,) проис с х(!) можно ан~ро«имироаать полинамам (ш — 1! го аорэлка с неазэестнымн коэффициентами. Сооюет тауюгцую апнрак.