Н.С. Бахвалов, Н.П. Жидков, Г.М. Кобельков - Численные методы (djvu) (1160088), страница 38
Текст из файла (страница 38)
Метод наименьших квадратов н регуляркзання совпадает с функцией ЛР) в точках Р. Подставляя в нредьгдугцее со- отношение В ггз (2), получим иное представление д(Р), а именно: «е(Р) = ) нгеюг(Р). д(Р) = ~ ле(Р))(Р ), где Така» форма зыгиси интерполяционной функции является аналогом за- писи интерполяционного многочлена в форме Лагранжа.
Как н в одно- мерном случае, можно надеяться, что при удачном выборе узлов Р„н функций ю (Р) будет мала погрешность в приближенных равенствах: ЛР) шд(Р) = .'.«е(Р) (Ре), (4) Ю(Р) = Пд(Р) ='~ Вхе(РИ(Ре), (5) «У) = У(д) = ~ С,1(Р,), (б) 2 2. Метод наименьших квадратов и регуляризация Как мы отмечали, применение описанного выше метода часто приводит к неудовлетворительным результатам. Повышение качества приближения может достигаться различными способами. Рассмотрим первый нз них, называемый мешодом наименьших кеадрппое.
Перенумерусм функции ы.(Р) таким образом, чтобы меньшим значениям у соответствовали более гладкие функции. Прибнижение ищется в виде д(Р) = ЯВ и (Р), 4=1 где Се = 1(хе). Как отмечалось в гл. 2 для одноыерного случая, при неудачном выборе большого числа узлов интерполирования погрешнить приближенного равенства (4) может оказаться катастрофически большой. Поскольку приближенныо равенства (5), (5) являются следствием приближенного равенства (4), то может быть большой н погрешность в приближенных ра«енсгвах (5), (б).
Позгому применение соотношений (4)-(б) требует обоснования и выяснения условий законности использования. Глава 5. Многомерные зал!и!к 204 где и « йг. Параметры В. определяются из условия ппа Ф(д), в„,в где, например Ф(д) = Ф(В! ° В ) =,«~ е(д(Р ) — У(Р )) и / 3 =,'«р„~) в!.г( ) ((р)) е=! г=! 1 ВФ вЂ” =) а; в. -д;=й, 2 ВВ! !'=! (2) дг! = 4ч =,«Рею!(Ре)ыг(Ре) 4 =) 3еы (Ре'Яе).
Раскрывая скобки в (1), получим Ф(Вг,..., В„) = ) д!гВ!В! — 2!) г!гВ!. -!- г!е, ,г=! г=! где д, = ~ Ре®Ре))з. В основе метода наименьших квадратов лежит следующее соображение. Малость величины Ф(д) обеспечивает близость функция д(Р) и ДР) в точках Р,; при и « !д функция д(Р) является линейной комбинацией относительно более гладких функций, позюму у нее меныпе возможностей отличаться аг 1(Р) вне узлов по сравнению со случаем и =- !«!. Числа ре > О, называемые весами, подбираются в зависимости ог плотности распределения точек Р. Если значения !"(1',!) содержат случайнуго погрезлность, то ре выбирают также в зависимости от дисперсии погрешностей измеряемых значений.
Там, где точки Ре распределены плотнео, числа ре берутся меньше; зна!ениям ((Ре) с большей дисперсией погрешности ставят в соответствие меныпие значения р . Такие реломеццации выглядят довольно неопределенными, поскольку нельзя предложить общего правила, пригодного для все» задач. Для конкретных классов задач принципы выбора ре и и = п()ч) вырабатываются с учотом специфических свойств задач па основе статисти"!вских критериев и численного зксперимента. Приравнивая нулю производные дФ/дВо получим систему. линейных уравнений дня определения В: 203 З 2. Ме!.од наименьших квадратов и регуляризация Так яак Ф(Вг,, Вэ) > О, то симметричная матрица В = !(ФХ(( яеотрицательиа. В связи с этим в ряде стандартных программ метода наемы!ыпях квадратов лч» решения системы уравнений (2) используется метод квадратного корня.
Иногда целесообразно искать Вз, непосредственно мииимизирув Ф каким-либо итеравиовным методом. Выражая В из (2) через гХь а затем через )(Р!), получим В, = ) „Х(Р,)! !=! следовательно, д(Р) = ) зз(Р)Х(Р,), (3) у=.! где зч(Р) = ~ а, и,(Р). Воспользовавшись (3), можно получить также формулу численного дифференцировании ВХ вЂ” Вд и квадратурную формулу Х(Х) — Х(д).
В основе мсшооа рсгдллрпзацпи непосредственно лежат сшбражвния о сглаживании аппроксимирующей функции. Наиболее распространенной формой метода регуляризации является следующая. Приближение отыскивается в виде д(Р) =",, Взыт(Р), з=! а к<нффициенты В. выбираются из условия минимума выражения Ф(Л, д) = Ф(д) -~ ЛФ(д), Л > О. (4) фугшплонал Ф(д) подбирается из следу!ощего условия: если значение атого функпионала невелико, то функпля д обладает определенной гладкостью. Например, Ф(д) может быть некоторым приближением к интегра- лУ / (йг!айд(Р)( гХР. В приложениях часто используется случай, когда п = гд, на котором мы далее и остановимся. Пусть минимум выражения Ф(Л, д) досппаотся при неисторых Вз,..., Вял и л г=! Рассмотрим крайние случаи: Л = О и Л вЂ” очень большое число.
Имеем Равенство я / л Л з Ф(0, д) =~ Р, ~ В!му(Ре) — Х(Р,) !'=! Х=! Глава 5. Многомерные задачь Есаи бед)(ыу(Р«)(( у О, то система (1.1) имеет решение и на ее решении правая часть этого равенства обращается в пуль. В то же время выра жение Ф(О, д) всегда нг«тгрицательлло. Таким образом, нижняя грань до.
стигается на значениях Вз являющихся решениями системы (1.1). Тогда до(Р) совладав» с инторполяционным лшогочленом с узлами инттрпшляции Р . При болыпих Л в функпионале Ф(Л, д) определшощим является второе слагаемое, нижняя грань ыггорого достигается иа гладкой функции. Следовательно, есть какие то основания ожидатгч ччо лри промежугочных значениях Л функции дл(Р) будут гладкими и в то же время ие очень сильно отличающимися от приближаемой функции в заданных узлах.
Наши рассуждения выглядят довольно расплывчато, однако при такой общей посгановке задачи приближения функции без конкретного указания системы функций ы, распределения точек Рд и класса рассматриваемых функгшй вряд ли можно сказать что-либо определенное. Подобные грубые «физические» соображения шсго помотают при конструировании новых методов решения зады»и в условиях недостаточной информированности о самой задаче.
Ниже на конкретном примере будет объяснена сущллосгь эффекта, достигаемого за счет применения регулярнзации. 2 3. Примеры регуляризации Пусть 1 (х] — действителылая периодическая функция с периодом ПУсть известны значении (д во«личин,((х«) пРи хд —— дб, д = О,..., Лд — 1; дл1л = 1. погРешносги пРиближенных опале»гид Уд — У"(хд) = од- независимые случайные величины с математическим ожиданием, равным нулю, и дисперсией л1х. Требуется получить таблипу приближенных значений производных ('(хд).
Погрешность оценивается в норме, соответсчяулощсй скалярному произведению и†! (Лд) =- ~ Аддй. д=о Далее 1(х) рагс»«атр»геаогся как периодически щюдовжешлая функция. Длш нахождения производной используем простейшую формулу числилного дифференцирования Г(*,)ш ЛЛ=-'" '' (1) 26 Предположим, что функция )(х) достаточно глалуля и шаг 6 настолько мал, что лри отсутствии погрешностей в значениях функции погрешность формулы численного дифферыщирования ((х лл) — 1(х г) (2) 2й 2ОУ 23.
Примеры регуляризации Д /ет! — /т-г /.(я ) //(Яеш) — /(хе-г) /,( )~ + Ач+! — Ат-г Ать г — Ае -( +- = г'т. 23 26 Обозначая математическое ожидание знаком М, имееы равенство М))П,))з =М)(г,() =и ~ 'Еб Геь! 44=1) 1 =- с==с я — г — Аь (Мс( .ьг 2М(г(е — гг(ее!) ! Мг( ) . е=е Соглсано ушшанныьг выше свойствам случайных величин Дг, имеем МИДИ = Кзот (3) Таким образом, МЦД,,))з = Дсзйз/2, т.е. среднеквадратичное значевие нормы погрешности равно )!гй/цг2. Мы видим, что погрешность приближенной формулы (1) возрастаег с уменьшением Й = 1/)!Г; в ю же время для малости погрешности в предположении отсутствия погрегпносгей в исходной информации (2) требуется достаточная ьшлость Ь. Чтобы выягнить пути уменьшения погрешности, проведем белее дегальиое исследование. Пусть .4„" — дискретные коэффициенты Фурье (ДКФ) функция Дхг): Дг ) = А Лг~ р(2х!/г ), -ю1г<з<яд а А — ДКФ функции /г. Величины а.
= А — Л',! будут ДКФ функции Аг —— /г — Д;гг). Имеем Аь = А а ехр(2гпух ) — ир<г<юд (4) я-1 а, =Ь~ А,сх1,( 2я;,х ) г=.е Чтобы вычислить ДКФ лля г, применим опершор чиглгнного дифференцирования П к функции ехр(2я!/хг): ехр(2я!уяьы) — ехр(2гг!гх г) !ешзяуб П ехр(2я!/х<) = 23 б ехр(2г!/х<(. Применяя оператор П к обеим .мотям (4), получим ! Пц 2гг) б гд = я азехр(йягухд).
Ь -и1е<З<Ии1з пренебрежимо мала. Тогда погрешность в значении производной пред- сгавима в виде Глава 5. Мвагомер»гые зю»ачи 208 Из равенства Пщввваля ))г»(( = ~ (' " '"') )о/) -лщ</См/» следует, что »» -л/»<»<эЧ» Имеем м-1 (а/(» = а»5» — — Ь» А АЩ,елр(2я»у(хр — хе)); », э=е мы замевили д на г/, восполмовавшись»ем, что А действительим. Такал» сбрав»м, и-» и — 1 «Ф/( = й' Е ~Р(2я»у(хг - х»)) «/(6»А,) = 5' ~ «."«,', = «А' г,г~ ». в=О «» И((г,))»= ~' (' "( У~ )) ЛА». « -в»ч<»йм/» (5) Позамел некоторую функцию р(у) и положим «э(х) ~ Ае/»(у) ехр(йт)ух), -и/»<»цю/» «(' = А А//»(() елр(ух»у'х ). — л/»<»цм/» При эаданнык значениях /'г мои»но вычислить коэффициеяты Аю а следова- тельно, и величины /»Ц Пусть».„" — ончавляющвя погрешности формулы чи- сленного дифференцирования, являющаяся следе»вием погрешносшй Н»: Аналогично (5) имеем „» - (яп(2ту/») ) ' р,, „ -и/»<»<л/» П/(,) = Г/)в(х,), «/()г»'((' ««/((г,()', (6) то имшт смысл положить В(хг) ш П«ь.
Для выполнения первого из соотно- шений (6) существенна близость кца)в)»ипяенюв Фурье функций ~(х) и /э(х); лля выполнения второго — малость рЦ) при болыпик у) т е, определеннав глад- кость Дх). 209 $3. Примеры регуляризапнн Попробуем прибегнуть к сглаживанию функции 1«при гюмопШ метозд регуляризации. Рассмотрим функнионал и-1 Фь(Л д) = Л'~ (д — У)э+Лей)' (д«"' «=е «=-а гце ди = де. Если д«являютгл значениями д(х«) гладкой функции д(х), то величина 1 ~ч' (д««ч д«) «=с Гг '~"~" " ""™'Р У (д'(х))' Ь. У с лик, гарантирует определенную гладкость фуюсцин д(х).
Таким образом, есть какие-то основания считиггь что функционал Фь(Л, д) удовлетворяет требованиям, накладываемым на функционалы могсда регуляризации. Определим сеточную функцию д" из условия минимума функционала Фьг(Л, д) и положим ) ( л л ))(2Л) Посмотрим, что является аналогом такой регулярнзации для случая функций непрерывного аргумента. Пусть у(х) = ~ А екр(2я1дх) и дг — функция, реализующая минимум функционала «1 гг Фг(Л, д) = / (д(х) — 1(х)) Аг -~- Л ( (д'(х)) Ах.