Чураков Е.П. Оптимальные и адаптивные системы (1987) (1249286), страница 38
Текст из файла (страница 38)
нетству~ошее: бщему определеншо (7 32): Р зло.ьим левую часп как функггшо А(л) а рял Тейлора в окрестности точки А(л — 1), о:ра~ ичив раз:оженпс в предлога,кении близости оценок А(л) п А(л — 1) линей!«!б 5244 222 ными членами. В результате уравнение (7.80) примет вид - 1п(,(У,,' Лгл 18 .г (А(л) Л(л . 1))'>' м.— '" !ггб(Ул Л( - !В . 0, Р,81 ) дл' где матрица вторых производных опрелетсгга таг» жо ее мсй элемент равен оо)п 1.1'(да,да ).
Иг пользуя форхгулу совместной ила~насти вероятностей, осугцествим основное при выводе рщ урренгпых алгоритмов представлсшге (43) )пб(У.,' Л) - (пй(У Л)., 1ггЦ,. Л, У;( ) (7.82) гле 1(о„,А, У.. ~) условная плотнг сть п слсднсго гг гугг реггня. Подставив (7.82) в (? 81), учитывая, что оценка Л(п — 1) удовлетворяет относительно функ!лги (,гУ,",,гЛ) условию (7.80), получим — )п((оя,гЛ(л - !), У), В (Л!л) дл с' — л(л — 1!) ".—. 1ггб(У,? л(л -- 1)) ..О.
ддг Из этого уравнения с уче~ом симметричности матрицы вторых произвог ных сс.сдует Л(л) =Л(л 1) Г, '1- -1пуо„""Л(п 1) У„';,)! 1783) ! дл где матрица вторых произаощпях функции !и 1.(У„"ггА), вычисленных в тачке А(л 1), обо гггачеггл символом Гл. Соотношение (783) является !гек)ррентг~гям н пр блиукенно выражает оценку, нзнлсннуго по наблю„гениям ос, .. л о, через оценку, соотвстста) ющую наблюдениям ш,,ол г, Иеластаток этого соотношения — необходимость «помнить» зависимость приращения оценки аг всех наблюдений ос,,оя.
Этот недостаток можит! устр;гнат;., если так организовать поступления данных, ч о ош; оказываются статистически независимыми и 1(ол Л,с, щ,) 1(ол Л), (7.84! а вьгчисление мат рнцьг Гл на основангг г прсдставлспня (782) и в предположении близости оцсно< Л(л .1), Л(п- 2) проводить рекуррентна: Г, Г,, --: - — )а1(о,,Л, (? 88) гул' 228 В случае (7.84) и (7.85) алгоритм (7.83) выражает 'те.
кущую оценку А(л) через предыдугцуго Л(л 1) и текущее измерение с» Иачальные условия Г. г, Л( 1), необхоли мыс лля организации процедуры (783) н (788), нлн выбирают нз основании имею!пикса априорных озеленяй, или их пота ают нулевыми И; о!да лля устр, кения завкспмосги приращения оценг и в составе (7 83) от наблюдений ог,, ол г матрицу Г, заменяют сс матемажшеским ожиланием, что превращает ее с ттгчг остью до знака в киформационную матрицу Фн щеря Ф,.
в соответствии с опрелелением (7.7). В резуш тате рснуррснтнос оггсшгвангге проводится по правилу д Лгл,' .. Л (л - 1) ' Фл ' ~ 1п(',о„Л(л 101; ,'д, (7. 86) Фл:,'Фл, — Гйу л 1 — !п1!о, Л !и .- 1;)(,'7.87) (длз Г)ри организации процедур (7 83) и (7 80) необхалимо следи~ь за тем, сыобы мгырицы Г„Ф, были не зырождены. В ряде задач это нагнет вьщолня ься лишь прк гг~й, где уг некоторая величина например связанная с размерност ю щ вектора А В втнх слу гаях рекуррентпое оцениванис проводится прн гг: )г Птн»лян» ялгсрнг ы рекуррсятязпз шеаняяяня к леяежгоа задаче о,.-1, ' р, г —.О, г, 2, .
!'гяе А-. не луж гния яекюр) н рша (а, ос) !!яя» я задал я .глс нсссррелгголзг.гс г л мех янлслняезся (? 84), а я, я. у гауссшгскосгя ! —; (о,— А'1)1 уяк ках чя рная е:орох лр и*,ясглггягх от юблюлег.на не занесет то а»горю аьг (783) я Ы Ьб) созггзляют л о,,ъелняяются сог тггоше анен 4- дл да, ",Р— - м г( и л) - — - г РР—,; -. (н, — г„л)»1 =- %: $1 -- . гл г("„А)— » А(л) =- А(л — — 1) — Гл ' л '",.„:„— гс А(л —.!!); (7.88) (7.89) Если иололюь 1' н — О. то пу!еи поглеиоввтюьного «уивер»ванин ьз (789) ш.
! ы ! Гв ~ П з.!г, что п»»волне злгорвтч (788), (789! перши«в!с в форче олг ит:оопюшевнз А(л) --А(л — !) ., ~л П ';1г' ),,'»!«( ъ — 1 'А(л — !)) (7.90) в Поломке н ш рш!ии рави»очинив (Ы = и"), пслу ич рсь)рревтвнй зл«орв ч г е слз квнчскь ~ и кввзрз:оь ! А(л) . А(г! - 1) 4-( «~~ 1,",!') 1в(,ъ — '„'г(л — !)К (7 о1) ! л(л', . л!л- !) - ',:„— л(ь-- !)!.
и П 9!) э о по лглогзшлыос правиле некио Гиао ги . ио ггтзновюг нснкргл;твшыо из о ~овви«н у!се юве тнгг: розу»ь!зтв (774). л 1 — е(л — 1) и г ! (7 93! Рсьурренп!ые аг горитмы сгогут быль по!.троепы не тоги,ю; лля мп!.спмально правлополобных .!цс.по!. Разработаны «олобные алгоритмы и лля оценок, оп!ичальных по критерию чакснчуча ацостериорноп плоти !стн всроятностеп (42! Для соиостав !ения с (792) прпвслем подсб. нын алгорити лля скалярного параметра аг'==8)(0, а,.з) и 228 М мк ",. *выть, вк татр„,в ~ 1,11 квьпю.,исьз то ьк» пр, ли ,.
е л -! фи!и"г, ,*г г звт сотлиивгтгя геч фзк,оч чтг г енв Ь и неслучва !Нк нгн ве т н«к ~ врвчг ~сов по -нслу и. чс; гиии, тзсвьюеиу числа вен всг гни« пз!.и ге»роз лс улз гсср лекс ирв окут-вяи опвЕок изчерснии П ттчу в влгорн:чвк (790! н (79!) и.. », т:!, лг-1- .2, Нзчалы!!ю осе!к! А(и — !) нгж.!.
озйти с псзгошгоо коиечносо в.ггригиз (741) При оиечзе скзл,р;ог пгрвчс" рз (А-л 1, -1) в !горл:ч (79!) ушествевио упрошзстю. и ~!вог:к зст пук»с«у рв«мыного урзв- невнн )Акт)У (О, аз): и!и! — а!и-- (;,:-;"„Г, а(л;! [!л 1- !)»*,+от), л,О(,2,... (7.94) р(рн малых и свинства алгоритма существенно зависят от априорных ланпьгх а,,', а'.
По мере увеличения объема апас:сриорп:п иь*бьр!.и, априорная информация утрачивает сво!о значимость оценка определяется результатами измерении, а сам ал1 ори гм выра!кластся в (7 92) Рекурреитные алгоритмы, подобные по смысловому салери.апшо (794), свойственны большиис ву соврет!енных мета шв обработгсп статистически, данных и базируются на весьма разнствтеиных и универсальных теориях, известных как г ал.наноаския !торил апти иальнои дт!Тлг три!(Гггг и теории условных ла)товских процессов ((5, 42). ГЛАВА В АДАПТИВНЫЕ МЕТОДЫ ОБРАБОТКИ ДАННЫХ Е.1.
АДАПТИВНОЕ ОЦЕНИВАНИЕ В УСЛОВИЯХ ПАРАМЕТРНЧЕСКОИ НЕОПРЕДЕЛЕННОСТИ Расссютреиные метолы оценивниця. исключая МНК, требуют опролеленнык априорных свелешш о вероятностных свойствах оцениваемых параме:роа и сшибок измерении Еслг! этн ланные отсутствуют, го их !рихолится елобываюь или из спсппально по~тавлсннс х экспериментов, илн в процессе функционирования системы оцснявания. Процедуры опенивания, пронолимые в условиях неполной априорной информации и осущестпля!ощпе восполнение пезостаю!цих лали!лт, принято !!взывать адалтивиь!Ли.
Характер априорной неопределенности мгтткст быть лвоякпи. В первом случае нсобхоличыс лля решения за. лгчи оценпвания плотности верон!насты! !Т.гиг!Гтны с точностью ло ряда параметров, в нпх вхолнц(пх (дисперсии, матечатичес1,ие о ьплаиш! и лр ). Э и варан тры априори ис лслонателю непзнестны Полобныс ситуации опшсят к лира.четричгсьи шоиргделенньшг. Во егоре:м с.б !ае априорная ипформаиия ма,! ет ног.ит: более о!рлниченный характер, так что оказывается ншшвесгныч лаже вид плотностей вероятностеп.
Такие ситунппн ннзыва!от иепаралгетр шг ! ки и 'алт!едллгннгггл!и Расее«!! рнм парамстрпчесхи неопрелелениые ситуации Пуст! провалятся измерсния (7 !), н сосгаве которых пезавпсимые ошибки р, имеют известную с то и!остью ла 229 вектора В плотность вероятностей. Последнее означает, что в составе плотности гп(р,) имеется ряд пензнестпых параметров, объсд>шенных в вектор В, т, е известна условная плотносгь сэ(р ««В) Если в атил ус оашы пытаться и« ити максимально правдопозобныс опенки А,, то ф)ннцпя правдоподобия (731) бу;ст садер>ка ь гони'чо кеизвегтных оценивасмьгх пар«>метров и неизвестны;г вектор В, который по супгеству являегся .Ешпаюп!ин парачстпоч. Поэтому рассмотрепнь«е конечные и рсьуррентные алгоритмы оцепивания оказывг >отея непрнг"ч «ет,ычи Вы;ол ггг> поло>кения г щут с. едующих мета.юв (35, 41).
11 е ««мегод Рнсшнненна«О НРОсгРенсген ОценОн Введем в рассмотрение, богг еггьып всюор нсгггнестпых параметров Б«-=- (А', В') вг:лючающий в сгся оцспиваемьс и неизвестные параметры в с,ртктгре априарггой ипформацкп. Функция праидопа.гебня (7 31) буде~ зависеть от вектора Б. Адаптявяып принцип ацепиваппя заключаегся в том, что вместо А ищется опенка Б вектора Б, *, е нарязу с А о енпвзк>тся и неизвесгггые паране«ры В. Поиск анен кн Б можно осуществить любые и рассмотрешпг»г, чета дама, цо следует иметь в вял), по из-за )ве.:ичения рзз мерности оцениваемого вектора Бд г*я получения оценки А с требуе>Сои точностью яеобхо" пмо итгеть ба.шцгее число измерении, гем при известном параметре В, Зто своеобразная пг ата за адапгашпо Поиск оценок осуществляют по схеме (786), (787), к«:торна прпобрстгет вид Б(п).= Б(п — 1)-'-Фн ' ~--- !пПС.
Б(п — 1))1; (8.1) Фн — Фн, л( (-,.— !и!(О,,'Б!«г 18); (8.2) («'А» ((п„'Б (п — 1)) —. Ш(!>Н>В(«г — 11) н ..и гн г . (83) е «г ме«Од усРедненне При втором подходе к проблеме не оценивают вектор В„ ио усредиягот по нему функцшо правдоп«х.обия. Вводят произвольную платность вероятностей а(В) вектора В и находят среднее значение функции прав,юподобвя Х.(ош О,, ..., Он А) .
~5((о„п„..., Он) А, В)О(В)г!Б, (8 4) В ь)«23П (8 5) т которое зависит только от А. После этого опенку А ищут . уже рассмотренными конечнь;мп илн рекурр«нтпы ли метот дами, по в составе соответствуюпгпх агшорнтмов функцию правдоподобия 5 заменяют ес усредненным значением Е. Возможность использования пронзвольноп плотности о(В] в целях усрегненпя аргументируется тсз, по аспчптотичесг.и -грп г;еограг иченнотг уветпче:нн объе га выборки оценка А оказывас>ся незавнсягцеп от п юггюсги о(В).
Анагогичное своиство мы уже отчечази в связи с алгоритмом (794). Из>гаже>гнг,гг чршгцип преодоления парачетрнческой неопределенности широко применяют и прп оцепнвзнпи случайного пара>гетра А с я вестпоп апрнорноп плотностью п(А) Оц«ньу А в этг«л слуо«ях ищут нлн по методу максимума нп«,стерпорнои пло«ности в р««ятнастей, илп в соответствии с байес«>вским прнпцнпом, т. е из условия (7 44) нли условия миничума среднего риска [7.57). Одпако при нагпщнн неизвестного параметра В в составе фуш.ции прав гоподобпя из (7 44), (7.57) не удается нанта оценку А в зависимости:олька от рс утьтатов габлюдег т ния, но ее можно пай~и хак фуньцшо измерен>«и п В, т е.
а виде А(У, В) 1)оьа параметр В не определен, эта оценка не имеет практического смысла, поэтому вместо В в е-. выражение А(У, В) налегав гяют оценг.). В В качестве последнеп наиба,тее часто пспользукп макспмальнаправдоподойгую оценк) „уг.овлетворяющуго условию ~ 5(У'А. Вгс(А;од .. и:ах, А ' В т. е.
соответствующуго максимуму усредненной по А функции праядапод«бг.я ГР можно нанти, например, одним из ьонечяыт методов Илло>гге>гггьге методы адаптивного ацепцвання применяют и в случаях, когда параметрическая неопределенность касается априорной информации о свонствах оцениваемого параметра А. Вт. АДАП1ИВНОЕ ОЦЕНИВАНИЕ В УСЛОВИЯХ ЫЕПАРАМЕТРИЧЕСКОИ НЕОПРЕДЕЛЕННОС1И е.гз Рмпнннчеснн» мнесоеснн» Рнсн Решение зала ш оцеииванпя парачетрав существенно усложняется, если априорная пеопределенгюсть носит не- Р':, параметрический характер. Стрееглегггге повышггь точность 231 енииапнв по сравнению с М>(К, принципиально примениым в условиях нспарнметричесьой нгопрелелениагти, приза к разработке ряда специальных адапз~ нных методов (35, 41, 47), в часзности эмпирического блие; овского риска.