Ортега Дж., Пул У. Введение в численные методы решения дифференциальных уравнений. Под ред. А.А.Абрамова (1986) (1095855), страница 37
Текст из файла (страница 37)
— 2;х,~ Хх; т Хх,'. — (Хх;) т Х х!А Е '1; Х х! а! = т Хх2 (Хх!)2 гце суммы берутся по всем ! от 1 до т. В общем случае полиномов степени н мы приходим к задаче минимизации функции (5.2.27), т.е. ищем минимум функции а(ао.а!,...,ан) = Х (ао+а,хс+ .. +алх", — У;)'. (5.2.29) != ! Из анализа известно, что, как и в случае и = 2, необходимым условием минимума функции я является обращение в нуль всех ее частных производных первого порядка: ду — (ао.
а!,..., ан) = О, / = О, 1,..., и. оа, Выписывая эти частные производные в явном виде, получаем соотношения т ! И 2' х (ао+а,х;+ ... +а х,. — ~;.)=О, !'=0; 1,...,н, (5.2.30) !' = 1 которые представляют собой систему л + 1 линейных уравнений относитель- но п + 1 неизвестных ао, а„..., а„. Эти уравнения обычно называют нор- мальными уравнениями, Собирая коэффициенты при а! и переписывая 152 Поскольку уравнение я '(и ) = 0 имеет только одно решение, точка !! будет ецинственной точкой минимума функции я.
Таким образом, аппроксимацией по методу наименьших квадратов для величины и будет просто среднее арифметическое измерений и,,..., !с„,. Следующей по простоте является ситуация, когда используется линейный полипом р(х) = ао + а! х. Такие ситуации часто возникают на практике, когда предполагается, что наши данные подчиняются некоторой линейной зависимости. В этом случае функция (5.2.27) принимает вид он я(ао, а, ) = Х (~! — а„— а, х;), (5.2.28) г=! уравнения (5,2.30) в векторно-матричной форме, приходим к системе Хх" гл 2.х; 2.х; ...
1х; 2;л", 2. ~;- 2.'х;~ (5.2.31) г! х,. :гх, 2,х,. 1;, а„ где все суммы берутся от 1 до т. Заметим, что систему (52.31) можно переписать в виде Е~Еа = Е' г, (5.2.32) где П ! х, ... х, л 1 х, ... хг Л .гт (5.2.33) а 1 х„, ... х„, .г гг! Матрица Š— это матрица типа Вандермонда размера пг Х (гг + 1) . В предположении, что по крайней мере л + 1 из точек х; различны, можно показать, что ранг матрицы Е равен п + 1. Следовательно, матрица Е ~Е является положительно определенной. Отсюда, в частности, следует, что рещение системы (5.2.31) дает единственную точку минимума функции я из (5.2.29), так что задача аппроксимации по методу наименьших квадратов имеет единственное решение.
Изложенная выше процедура непосредственно распространяется на более общую задачу приближения по методу наименьших квадратов, когда аппроксимирующие функции не обязательно являются полиномами. Пусть Ре, Фг,..., Ԅ— заданные функции одной переменной, ь г,..., гг — заданные положительные числа, называемые весами, а х,,, х„, н.г г,...,,г,гг— то же, что и раньше.
Тогда общая линейная задача аппроксимации по методу наименьших квадратов заключается в нахождении чисел ае, аг, ..., а„, которые минимизируют функцию У(ае, аг,..., а„) = т — 2: и; [ае р, (х;) + а ! р ! (х;) + ... + а„ч~„(х;) — Я' . (5,2.34) г=! Если г! ! = и, = ... = гг!„! = 1, а р,. (х) = х, то я — просто функция(5.2.29) . В качестве базисных часто используются также функции д (х) = ап уггх, г' = О, 1,.... п, ~,( -) = е'г", г = О, 1,...,, 153 где а, — заданные числа. Веса и; обычно используются для придания большей или меньшей роли тем или иным членам суммы (5.2.34). Если, например, значения г! получены в результате измерений и мы достаточно твердо уверены, скажем, в измерениях г г,...,,г ! е, а по поводу остальных имеем некоторые сомнения, то можем положить ю, =и!г = ...
= гг!„= 5 и и ! г =... =и„, = 1. Действуя точно так же, как и раньше, можем получить нормальные уравнения для функции (5.2.34). Частные производные первого порядка от функции я имеют вид а~ — = 2 Х и«р)(х!) 1аоФо(х!)+а! Р,(х;)+... +а„ро(х!) — !;.]. ! Приравнивая эти производные нулю и объединяя коэффициенты при а,„ приходим к линейной системе уравнений, которая в векторно-матричной форме записывается в виде Хи,. Ро(хг) ро(х!) Хи;р,(х;) ро(х;)... Хи~;р„(х!) Р,(х;) ио Хи'1 ро(х!) Р1 (х;) а! Х «г!ФО(х!) Фо (х!) Х и;ч2„(х!) р„(х!) а„ Х1о,.~Р0(х;)~;. Х 1о; р1(х;)~;. (5.2.35) Х И !Фо (Х1)А где все суммы берутся от 1 до т. Как и систему в форме (5.2.32), где теперь ~и! Ро(х,) ~/в, р,(х,) Ъ~~~2 ~РО(х2 ) Ч~~2 ~Р1(х2 ) прежде, можем переписать эту ~/И! Ро(Х1) ~ЫФо(Х2 ) Е= ~l~нг 40(хт ) Ч~ и1'Ро(А1«) 4н~~ л ~/ 1О 2 Х2 (5.2.36) 4~т |пь Чтобы система (5.2.35) имела единственное решение, необходимо и достаточно, чтобы ранг матрицы Е в (5.2.3б) был равен и + 1.
Это в свою очередь накладывает определенные условия на точки х,,..., х и функции 'РО А!1 ° Рл. Нормальные уравнения очень полезны для теоретических рассмотрений. Однако для практических вычислений их можно использовать только при малых и, поскольку уже при л > 5 эти уравнения обычно оказываются очень плохо обусловленными. Опишем теперь другой подход к построению полинома метода наименьших квадратов, основанный на использовании ортогональных полино мов. Пусть до, 111, ..., д„— полиномы степеней О, 1,..., и соответственно.
Будем говорить, что полиномы 11,- взаимно ортогональны на множестве точек х1,..., х,если )И Х д„(х;) д.(х,) = О, Ус,)' = О, 1,..., и; 11 Фу. (5.2.37) 1=1 Мы вскоре вернемся к вопросу о том„как построить такой набор ортогональных полиномов, а сейчас давайте предположим, что мы их уже имеем, и подставим Ф! = 1?,. (? = О, 1, ..., и) в нормальные уравнения (5.'.35), где все веса и; взяты равными единице. Тогда, в силу (5.2.37), все лежащие вне главной диагонали элементы матрицы коэффициентов системы (5.2.35) обратятся в нуль и система уравнений примет вид юл т Х 1!?«(х;)1за« = Х 1?«(х;У,, ?с=О, 1,...,и, 1=1 1=1 так что а« = ( 2. "Ч„(х;)т Х Ь?„(»-)32), ?с = О, 1,..., п. 1=1 1=1 (5.2.38) можно найти коэффициенты се, с1,..., сл такие, что Р(х) = сего (х) + с, 1? ! (х) + ...
+ спи?„(х) . (5.2.41) Это может быть сделано следующим образом. Пусть 1?,. (х) = д!о + !?! ! х + ... + Ипх ', !' = О, 1,..., л, где !?и Ф О. Приравнивая правые части (5.2.40) и (5.2.41), получаем Ьо+Ь1»+ ... +Ьл»л = = СО!?ОО + С, И1О + А 1Х) + ...+ Сл Ил О + .. + ~?пл »") Приравнивая теперь коэффициенты при одинаковых степенях х, приходим к соотношениям Ьл сп 1?л л ° Ьп — 1 Сп 1?и, л — 1 Сл — 11?п — 1,л — 1е (5.2.42) Ьо = сп1?по + сп — 1~?п — 1,о + ° + со~?оо, которые являются необходимыми и достаточными условиями тождествен- ности полиномов (5.2.40) и (5.2.41).
При заданных Ьо, Ь1,..., Ьл соот- 155 Таким образом, по методу наименьших квадратов получаем полипом и 1?(х)= Х а«? (х). (5.2.39) «=о Естественно возникает вопрос, совпадает ли полипом (5.2.39) с поли. номом, полученным из нормальных уравнений (5.2.31). При нашем стандартном предположении, что среди гл точек х! есть по крайней мере л + 1 различных, ответ на этот вопрос положителен. Это следует из того факта, что, как уже отмечалось выше, задача аппроксимации по методу наименьших квадратов имеет единственное решение, т.е. существует единственный полипом степени меньшей или равной л, который минимизирует(5.2.27).
Следовательно, чтобы убедиться, что полипом (5.2.39) является тем же самым минимизирующим полиномом, достаточно показать, что любой полипом степени л может быть представлен в виде линейной комбинации полиномов ц,, т.е. по заданному полиному р(х) = Ьо + Ь1х + ... + Ь„хл (5.2.40) где константа а! должна быть определена из условия ортогональности 4!0 и !1! на множестве точек х;. Следовательно, должно выполняться соот- ношение О= Х д,(х;)д!(х;) = Х (х; — а!) = Х х; — !!!г!!, откуда 1 !!! й! = Х х!. т (5.2.44) Пусть теперь !1,(х) =х!1!(х) — !т.!1!(х) — р!, где константы а! н ~, определяются из условий ортогональности !1! полиномам д0 и д!, т.е. из условий т 2: [х;Ц!(х;) — Й,Д!(х/) 13!] =О, г=! Х [х;!!,(х!) — а!д!(х;) — 1!!]д!(х;) =О.
!=О Учитывая, что 2:!1 ! (х;) = О, из этих соотношений получаем 2: х!!1!(х!) — т(3! = О, != ! «! 2: х![4!!(х!)]' — !!~ Х [!1!(х!)]' =О, ю=! так что т !!! = 2 хИ!(х!) !л !=! юв !тг = ( Х х;[!1!(х;)]~)(( Х [!з!(х!)]!).
к= ! 156 ношения (5.2.42) представляют собой треугольную систему уравнений относительно коэффициентов сг, которая разрешима, так как вл Ф О (! = О, 1,..., п) . Таким образом, полипом (5.2.39) дает просто другое представление единственного полинома метода наименьших квадратов, получаемого как решение системы нормальных уравнений (5.2.31) .
Использование ортогональных полиномов позволяет преобразовать нормальные уравнения в тривиальную диагональную систему уравнений. Однако все трудности теперь переносятся на вычисление полиномов !1!. Имеется несколько возможных способов построения ортогональных полиномов, но мы остановимся только на одном, особенно подходящем лля вычислений. Пусть с!е(х) — = 1, д!(х) =х — а!, (5.2.43) Построение последующих полиномов ц,- проводится аналогичным об разом. Считая, что полиномы це, ц,,..., ц; уже найдены, положим ц,, (х) = хц;(х) — а; „ц;(х) — 1),.ц,, (х), (5.2.45) где константы а,+! и д, подлежат определению из условий ортогональности. В частности, должны выполняться равенства л! )И Х ц,(х;)ц (х;)=О, Х ц,(х;)ц,,(х;)=О.
(5.2.46) (5.2.47) Два последних члена в (5.2.47) равны нулю по предположению, а полипом хц„(х) имеет степень 1с+ 1 и, следовательно, может быть представлен как линейная комбинация полиномов ц„, ц!,..., ц„+,. Отсюда следует, что и первый член в правой части (5.2.47) также равен нулю. Возвращаясь к условиям (5.2.4б) н подставляя в них ц,+, из (5.2.45), приходим к следующим формулам для а;+, и 13> .. !!! У>! ау„=( 2: х;[ц,(х;)]')Я Х [ц;(х;)1'), (5.2.48) !=1 ! =1 р, =( 2; х;ц,(х;)ц,-,(х;))/( Х [ц,,(х;)]').
(5.2.49) Отметим, что знаменатель в (5.2,48) может обратиться в нуль только в том случае, если ц.(х;) =0 (! = 1,...,ти). Но поскольку по предположению среди точек х; есть по меньшей мере л+ 1 различных и у <л, отсюда бы следовало, что полипом ц,-(х) тождественно равен нулю, что противоречит определению ц,. Таким образом, знаменатель в формулах (5.2.48) и (5.2.49) отличен от нуля. Теперь можем сформулировать алгоритм построения ортогональных полиномов следующим образом: т 1. Положить ц,(х) = — 1, ц, (х) = х — — 2; х;.
гп 2. ля 7' = 1,..., л — ! положить ц,+,(х) =хц,(х) — а;.!!ц,(х) ф,ц, !(х), где а;+ ! задается формулой (5.2.48), а 15 — формулой (5.2.49). 3. Вычислить коэффициенты а0, а!,..., ц, полинома метода наименьших квадратов а,>ц„(х) + а,ц,(х)+...