Чураков Е.П. Оптимальные и адаптивные системы (1987) (1249286), страница 36
Текст из файла (страница 36)
г:алов ь аксвызл~ ного пззвдаподобия и кгз. й::::. кснчуча ав ггери,рван плагнг. и вер я- на:~егу аале гю Ш рв.ить в1 и- ,С маи т ге гледуюшее ре у,ьга ы ве1 ваго ю этих методов,чеьвдиыч ооразам глелуют из результатов в араго. е'лн ° по леданх формально полажигь К» О ч о ьвшвлеигяа ужс агмечзвшейся изма ии.*ер. Э ' претзции ве,лучаэ :о векг. рв как случайна|а с некоррелираваиамми в бес»свечи, .огьшимн в смшле ли»сер на камгонеитамв 7.5. БАЙЕСОВСКИЕ ОЦЕНКИ Бапссовское правило оцсннваиия наиболее обшее и исисльзуетсв при с, учайиых векторах А и Р с априори известными пло:настями вероятностей Оио осиовыоастся кв следу юших полол.синях М: Использование любого пз обсужденных 1гето.ов оценивании сопровожт!ается ошибкой в (Ч, А, —.
А (Ъ') А (7. 56) которая зависит от конкретной реализации ваб.падений Ч, будучи при одних реализациях малов, пря других -- боль июи. Естественшзм явзяется стремление с большими о!пиб камы встречаться как можно реже Очевидно, а.тога этих т с е встреч может депе!вительно уменьшиться, если сис;ему океннушиия «наказываю т эа бо ьшис оуш!б,и. С этой т,с, ью в рассмотрение вводят неко!орую фуикпию С(А, А), которая, !,аь прав!и,о, зависит от ошибки е и называется фрнкииеи стаи»гости или фрнкииеи потер!. Выбирают эту фуиььшо в зна ппе п.иои степени субъс!Пивяо Структура С(е) обычно такова, что фуикция возрастает (или по крайней мере ие убывает) с ростом любого иэ аргументов и достигает наимен,и! то значения при а=б.
Фнэушсскп такой профиль функции обеспечивает возрастаюгцую стоимость больших они,бгк оцениваипя, эа ко орые система до.!укиа весы! «иаквзаипсг Ф)нация стоимости принимает случайпыс эиачеиия, так кзк в к:шестве се аргумент!в фигурируют случайныс век торы А и Ч. Среднее значение функции стоимости, полученное усреднением ее по всем возможным эиа !енш!м векторов А и Ч, называют сиег)гтизги потеряли или сргйним 2)5 рисков 7 - ) ) С(Л, А(У),„(, Ч)ь)йаЧ. (7.67! Здесь ш(А, Ч) — совместная плотность векторов А и Ч; индексы у шпегралов символически отражают тот фа»я, что интегрирование ведется по всем простра««став««супьествования векторов А н Ч. Инте.р«,раввине является многомерным, поэтому !с(4! )з...! «(г«„г(', аь: ) УА .—.-)) ) «!ада, аа» Ч я Так ьак ь«(А, Ч) ==-п(А) ь(Ч7А), то мол«ем записать 7 .- ~г,'Л)ь(Л)г(А, «768! где г(Л) ~С(А, А(У))Е(Ч А)дУ С(А, А) - с — ~«У(а, а,), « !7 6О) где г .
О. капота ма; б(и, а) — деььта-фуш.цвя Дпрака. бууьяци» ао«ерь, зависящая ог иаоулеа о«««ибок, (7 6!) С(Л, Л! ~«, (а«аж 1 Квадратична!«функция потерь --условные потери (условный риск). Оптимальнон по Байесу нли просто баи«савской оцея кой называют такую функцию иабшодепип А«(Ч), при ко торой средний риск достигает наименьшего значения. Хотя выбор функции С(А. А), как уже отме ш, ось, в значвтельной степени произволен, существует ряд функ цпй, у«.е признанных н апробированных ин>««енср!«Рп пра«.- тикоп. Основные из них следующие. Простая фуякцил потерь 7!рва«оугольяая функция потерь С(Л, Л! . ~~~ сд с, . ~ ' ' ' '(' (7.63) (О !а, - г!. )ай, где Л вЂ” некоторая константа.
Наибольшее рас,«ространение в ш«женсрпых задачах по учила квадратичная функция стоннос|п (7 62) Это обусловлено относительноп простотой мюемат ичесього аппарата, сопрано кдающего связанные с э"ой функцпеп преобразования, п хорошем соотвстс в им функции физическим требованиям задачи оценпванпя; с вочра таином ошибки «наказание» суще;тненно возрастает. Остановимся подробнее на результатах байесовского оценпвания прп квадратичнон функции стон «ости. Перепишем фун«цию (7.62) в более удобной форме С(А, Л).=-(А — А) «(А-.-А).
Среднпн байесовсьнй риск описывается соо«ношением ! ! л«Ч! ) (Л, А)" (Л,. - Л!р(А У!дЛ«(Ч, (7 64) ч л ирн формированпи которогь мы пщю.,ьзонал«: фоРмулу и (А, Ч) ==к(Ч) !«(А/У) М«:ннмиза. що функционала (7.64) осуществим в соот вс«с«вцн с, бщими методами вариационного нсчпслеьшя.
Нсобтояимо нанти функцию А«(Ч), на ьоторои функционал 7достпгаст наименьше.о значения. формально относительно аргумента У функционал (7 64) подобен простейшему (! !), если с учетом независимости ог А сомно«ьвтеля м(Ч) под 6 понима«ь внутренний внтеграл по А и поло. жить ( (Л„. Л!«(Л, Л) !«(ЛуЧ)дА--6 Уравнение Эйлера благодаря зависимости ф)нкцяи 6 толю.о от ф)ню«ии А, имеет просту«о форму д6,ьдА»= — =О. Дифференцировавне ь«о»«.но проводи ~ь под ьпакот интеграла в составе функции 6. Поскольку д((А„-- А)'(Л,— А)) 7дА,=.-2(А,-"А)', то уравнеш«е Эйлера таково (!.66) Л)в,л У)«(А-.О.
(7.62) С(А, А) .= ДЗ (а, — а,)'. 1 2!В Л„(Ч) . ~ ЛР(л Ч)с)Л Л !т 66) (Л вЂ” С) Д(Л вЂ” С). :, «!Ч 1 Л.;Л Л',),г(д Ч)г(л:)Ч Ч Л Г 219 Так как А,(Ч) не зависят от А, то Аг выносктсн нз-под знака нпгс!гааза, и с у ~стон нормировки ~ р(лггЧ)ДЛ- — -! б, и опасная оценка Следовательно, байесовская о.!енкг:!ря к! адратнчной фуккцнн стоят!ос н представляет и!гост!'р!горное с!нг)нсе оценнваемого вектора А. 7)7!я ряда апрцорных плотностей п(А), ю(Р) н моделсп (7 1) нптегрнрованпс в (7 66) удастоя провести аналкт!Мескн н и,луить оце,!ку А„в виде явной завнснмостн от вектора наблюлсю п Ч. Позставна (7.65) в (7.64), находят мнвцьгальный средннн риск, оотВсге; СУЮГЦНО бапесовскон оценке: .
~ Л Ло(л)г1Л ~Л, (Ч)Л,(Ч)к(Ч)г!Ч. !? 6;) Л Ч Рю несовсюю подход - . более универсальное средство оцсн!пгання, чеы вздох.синие ранее способы, папрвтгер. можно показать, что оценки макснмалького правдоподобна соотвс!ствуют мнннмуму условного ряс. а (7.59) прн прос .гоп ф>нкш!и потерь (760) Оцепкн, соогвстству!опц!е мак- симуму а! остернорноп п.!Откос!н вероятностей, могут быть получены кз условия мннпмума безусловного ряска (757) таклге нрн пр;с гон ф, ~ ю нн и терь, пример 7А. 1)аидсч Оаи:,ю кое рсюеггие ыцзчн нз првчера 7.1, ЦР ИЯ, АГ '«И К.) РС-т~!З К„) Г!Г ЬГЕ МЗЧЕНГЮ Гнл |ЕК ГГЬА н к вс)гггь и чгиз а рицы Кл К пр.
гпгюагают<я нгьс нани Так ка. векторы Л и Р в Ланцет«лучас гну~сон кис, т я .оотеегстапи ан,еделеюеч ~когес:ернст гау:совгкг.й пло насти пря модели (728) июеч о".г кг в г;ь аьс гериняую и ютногть век сра Л ацра ю ь сле- д)юси.и ~а=гни цктячи, игнагь.овав формулу басеса (7АЗ) ! р(А Ч) ..—. (А)йгу А) ~ ~ (Л)ЦЧ,'Л)г!А; ! г( 1) — ' ((2 1 ' ! Кл И пе!г ! О 6(Л вЂ” гпл) Кл!(Л ' юл)) Ь(Чгл) --: (( Я) ' '! Нз(! ' зе Р,*- ОЬ(Ч вЂ” ГД)' Кз '(Ч- — ГЛ)г. 2!8 Подставим ьти функцнгг в (7.66), приведем ггодывтегральвые' вы рагкения к виду, удобному для цг след! юпюго иятегрирававия.
Пока. аатслг эк поиск~ пресбратуен (л ю )'К„"' (л — „); (ч — гл) К '(ч — гл) Вгльюю,ы й С, Д вайлем вз условия томде гвыпого вьюолиенпя вп „.. "оггкгшеюггг отггсгвтельио А Д Г К„'Г+К;,', С вЂ”.Д (К-„'ю„, Г К,чн) г! юаКа пгл,, Ч КР Ч С ДС. 8 р.
ультате оценка (766) опнюстся выра кеггием 1 С'.,(Ч) ~ Аехр' О,б(Л вЂ” С)'Д!Л вЂ” С)' м ! :г)Л ) ~ ехр( О,б(Л С)'Д(т.—.С),,КЛ. (7.66) 1!рсдс.,ы ин гегригования зле, ь про т: алены в гоогвет тени с областью уме твоваюы функ ~ни о(Л) Многомерное в,пгри,юоанн в (768! ючьслнжтгя по гледуютЛ~ ,7).
скеме Замени «н)смгнкье Л С-:ЦК, гле К - гч мерю и яекпр но уЮ... вых пер и яы, д — ортогональная ггатрица.два~о, али яргюцюямат,ф: -,, 'рину Д, т е у;ов. етвсряющая условиям КК ...Е Ц'ДЦ-5 Манила ф 5 явля*ми ль:гслальной ма рицей юб гвенвых чисел ыатрицы Д он с ц Здг ь .' г 1, аь . «Огчвснвые числа матр1щы Д, явлгюшвеся кориа мн у, .внепня )зб .Д)--О За гспнс что преобра ование Ц н"мет бып улан: члено юя,гюбсй симха-рнчюи мат!гиггп Д О ", юег гьи а» ~у лсрсмеккых в (7 681 и )чтсн.
что ЦА=- )2'., =)Ц(сК Так ьаг Ц:1,цггнггъпая матрица, «ес определвтель ,цс- моягно палатки ь равгыч .д~нигге, поз о гу г учетом гггави.иьгссгг~ С ацту' от Л получаем Лг .. С г К ~ Кехр ',- О,ЬК'8КгЛК ) ~ ехр!, О ЬК'8К) йК. (7,69) 2 ч:(к»э т- 1>>ехр( Об,й; Лй, л,(ч) — д (и и„'>ч > К 'ю ) >'7 70) У.й. МИНИМАКСНЫЕ ОЦЕНКИ Рассмотрим нпгегрзл в чвслитеке (7.89) тзк кв. в >илу нечеткости п>дывтегрззыюй ф,нинин >и ли>ель в (769) гбрещзст>я в нуль, н окоичзтслы>о язходим >(ро тым ленею.
", »рео>трзл>жжем в ктогв А, нвхолим женку й,,оогз > твгю ую звззчс и;еоб; взния сн:нзлз х(() : ГЧ) .. Н Д ЦГ'и,'Ч й К,',) 7 7() К ь види > при линейной зввигимости пвглюдений ат сптчзипого гауссовского вврз>летрв А в при гзуссовских пюибкзх измерений Р влгори>и оптнчззьно>о оиенивлння о> з.извет я юаейных> отнын>езьно взпх*оденнй и Следовз сльно. среди всех возможных з..гоаитиов нзнт>ев.ыее знв>гине среднего риска при кввдр личной фтькн ю *отсрь в этих условиях обеспечивается линейным влгорвтиот> Гслв ье мо. доль нзблю,п*ннй не будет линейной отвогнтельно А нли веьтс(ы А н Р в.*: с.юн ю ы оквжутсч негзуссовскичя, линейный злгорнти вс бэдг. огтнмвльнмм О,е >кв (7 7:) н (7 7() созпвдз>от с з нелогичными, получеюшми но методу ивв, >шуке зож тсриор>юй плотности вероятностей, поэтому их то> юювье понз з:ею оп >,,ввю я уже и ее<та>чи,т>от нюеинимп (7 б4 и (7 54).
Это говпздение при квздрзтвчнои функнии стон»ости об»зау>кивзетгя прв всех унимодвлькых и симметричных отпг,си сльно мгды зпа териор>ых плотностях верпятпостер. О мстим, что след мв>рины (7 53), т. е сух>ма элементов славной лввгонзли, >,род тзвзвет собой мв>лчвльвый средпнз рис« прп кв*дрвтнчв> и функпии потерь .Ч(и шт>аксныс оценки применяю' ся и >ох случаях когда априорная пиз>пасть о(А) слу >аш>ого пзрэметра А неизвестна и оцениэанис осушсстааистся а расчете нл нпиболее неблагоприятную оГ>станопку Обратимся к ус,>панаму риску ( .59).
22З Пусть кан>штлибо абра: ом найдена л>оГ>ая оценка иек,'" тора А, которую обозначит> через А*,г (Ч) Гслн эту оцекку подставить а (7,59), то, проинтегрировав, наи (ем условный риск кэк функцию А. При некотором зна >ешп> А поверхность г(Л) будет доспшат>, наиботьшего значения (одно мерная ситуация представлена на рпс. 7.2) Ес.тп и (7.59) надет»вить каку>о-.чибо дру: у>о оценку А, (Ч), то функция «(Л) также прн некотором Л .нютигне, ма>.спмального значения, по уже друго>о. Очевн (ио, среди асе> о м>южестаа возможных оценок найдется акая, для которои махсималыюе зпячснис условя>ого риска >(А) как функции А ока>исуса алкмен>,ци>тг 5)та оценка и будет мпипмаксяой А,(Ч) Та>п>м образом, форттальиа минимаксиая о>(сика удовлетворяет условию пвх>'А, Л) пппп>ах>(Л.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
