1611688890-f641c9ec8276824e4686da772eb56520 (826652), страница 23
Текст из файла (страница 23)
. , m,hϕj , ϕj i(2.98)1332.10. Приближение функцийи, как известно, называется (конечным) рядом Фурье для f по ортогональной системе векторов {ϕj }mj=1 . Коэффициенты cj из (2.98) называют при этом коэффициентами Фурье разложения функции f . См.подробности, например, в [12, 16].Кроме того, в случае ортогонального и близкого к ортогональномубазиса {ϕj }mj=1 решение системы (2.96) устойчиво к возмущениям вправой части и неизбежным погрешностям вычислений. Но в общемслучае базис линейного подпространства G может сильно отличатьсяот ортогонального, и тогда свойства системы уравнений (2.96) могутбыть плохими в том смысле, что её решение будет чувствительным квозмущениям данных и погрешностям вычислений.2.10гСреднеквадратичноеприближение функцийВ этом разделе мы применим развитый в предыдущем разделе общий подход к конкретной задаче наилучшего среднеквадратичного приближения функций, заданных на интервале вещественной оси.Приближение функций в норме, порождённой скалярным произведением, часто называют среднеквадратичным или просто квадратичным.
Дело в том, что в конечномерной ситуации скалярное произведение векторов f = (f0 , f1 , . . . , fn )⊤ и g = (g0 , g1 , . . . , gn )⊤ часто определяется какn1 X̺i f i g i ,(2.99)hf, gi =n + 1 i=0для некоторого положительного весового вектора ̺ = (̺0 , ̺1 , . . . , ̺n )⊤ ,̺i > 0. То есть, соответствующая норма k · k такова, что расстояниемежду векторами f и g естьdist (f, g) = kf − gk =n1 X̺i (fi − gi )2n + 1 i=0!1/2,(2.100)— усреднение квадратов разностей компонент с какими-то весовымимножителями ̺i , i = 0, 1, .
. . , n.Весовые множители полезны для того, чтобы представить возможную неравноценность компонент вектора. Например, если известна информация о точности задания отдельных значений функции fi , то веса1342. Численные методы анализа̺i можно назначать так, чтобы отразить величину этой точности, сопоставляя значениям fi с бо́льшей точностью бо́льший вес. Нормиру1ющий множитель n+1при суммах в (2.99) и (2.100) удобно брать длятого, чтобы с ростом размерности n (при росте количества наблюдений, измельчении сетки и т. п.) ограничить рост величины скалярногопроизведения и порождённой им нормы, обеспечив тем самым соизмеримость результатов при различных n.Если f и g — функции непрерывного аргумента, то обычно полагаютскалярное произведение равнымZ bhf, gi =̺(x)f (x) g(x) dx,(2.101)aдля некоторой весовой функции ̺(x) > 0.
Это выражение с точностьюдо множителя можно рассматривать как предел выражения (2.99) приn → ∞, так как в (2.99) легко угадываются интегральные суммы Римана для интеграла (2.101) по интервалу [a, b] единичной длины приего равномерном разбиении на подинтервалы. Тогда аналогом (2.100)является расстояние между функциямиsZ b2̺(x) f (x) − g(x) dx .(2.102)dist (f, g) = kf − gk =aВ связи с решением рассматриваемой задачи приближения функций, как в дискретном варианте, так и в непрерывном, часто используют термин метод наименьших квадратов.
Фактически, это общееназвание целого семейства идейно близких методов построения приближений, которые основаны на минимизации суммы квадратов отклонений компонент исходного вектора от приближающего. В случае, когдарассматривается приближение функций (или вообще элементов) какихто абстрактных пространств, естественным обобщением минимизациисуммы квадратов является нахождение минимума нормы, порождённой скалярным произведением. Помимо математической элегантностисреднеквадратичное приближение в прикладных задачах, как правило,имеет ясный содержательный смысл.Пример 2.10.2 В качестве примера практического возникновениязадачи среднеквадратичного приближения рассмотрим тепловое действие тока I(t) в проводнике сопротивлением R.
Мгновенная тепловая мощность, как известно из теории электричества, равна при этом1352.10. Приближение функцийРис. 2.18. Иллюстрация различия равномерного и интегрального(в частности, среднеквадратичного) отклонений функцийI 2 (t)R, а полное количество теплоты, выделившееся между моментамивремени a и b, равноZ bI 2 (t)R dt.aЕсли мы хотим, скажем, минимизировать тепловыделение рассматриваемого участка электрической цепи, то нам нужно искать такой режим её работы, при котором достигался бы минимум выписанного интеграла, т. е. среднеквадратичного значения тока. В электротехнике егоназывают также действующим или эффективным значением силы тока.Линейным пространством F, элементы которого мы будем приближать, выступит пространство всех функций, квадрат (т. е. степень 2)которых интегрируем на интервале [a, b] с заданным весом ̺(x). Егоназывают пространством L2 [a, b], и нам сначала требуется показать,что оно в самом деле является линейным.Ясно, что если f ∈ L2 [a, b], то для любого скаляра c функция cf (x)также интегрируема с квадратом на [a, b].
Далее, с силу очевидногонеравенства222 |f (x) g(x)| ≤ f (x) + g(x)из интегрируемости вторых степеней функций f (x) и g(x) с весом ̺(x)следует интегрируемость их произведения на [a, b]. Поэтому для f , g ∈1362. Численные методы анализаL2 [a, b] существует интегралZab2̺(x) f (x) + g(x) dx =Zab2̺(x) f (x) dx + 2Zb̺(x) f (x) g(x) dx +aZab2̺(x) g(x) dx,т. е. сумма f (x) + g(x) также имеет интегрируемый с весом ̺(x) квадрат. Это завершает доказательство линейности пространства L2 [a, b].Скалярное произведение в нём задаётся выражением (2.101).
В курсах функционального анализа показывается, что если интегрированиепонимается в смысле Лебега, то L2 [a, b] — гильбертово пространство,т. е. дополнительно обладает свойством полноты [16]. По этой причинеоно очень популярно в самых различных математических дисциплинах, от теории уравнений в частных производных до математическойстатистики.Как выглядит система линейных уравнений (2.96) для определения коэффициентов наилучшего приближения? Это зависит от подпространства G ⊂ L2 [a, b] и от базиса, выбранного в G.
Рассмотримконкретные примеры на эту тему.Пример 2.10.3 Пусть дана задача о среднеквадратичном приближении функций из L2 [0, 1] с единичным весом полиномами фиксированной степени m. Скалярное произведение определяется при этом какZ 1hf, gi =f (x) g(x) dx,0а нормой берёмkf k =Z102f (x) dx.Соответственно, расстояние между функциями определяется тогда какZ 11/22dist (f, g) = kf − gk =f (x) − g(x) dx.0Если в качестве базиса в линейном подпространстве полиномов мывозьмём последовательные степени1,x,x2 ,...,xm ,1372.10. Приближение функцийто на месте (i, j) в матрице Грама (2.97) размера (m+1)×(m+1) будетстоять элемент1Z 1xi+j−1 1xi−1 xj−1 dx =i, j = 1, 2, .
. . , m + 1 = i + j − 1,i+j−100(сдвиг показателей степени на (−1) вызван тем, что строки и столбцыматрицы нумеруются, начиная с единицы, а не с нуля, как последовательность степеней). Матрица H = (hij ) с элементами hij = 1/(i+j −1),имеющая вид1 11. . . m+1123 1111 2. . . m+234 11 11... 345m+3 , ...... .... .....1111...m+1m+2m+32m+1называется матрицей Гильберта, и она является исключительно плохообусловленной матрицей (см. §3.5б). Иными словами, решение СЛАУс этой матрицей является непростой задачей, которая очень чувствительна к влиянию погрешностей в данных и вычислениях.Пример 2.10.4 Пусть k и l — натуральные числа.
ПосколькуZ2πsin(kx) cos(lx) dx = 0,0для любых k, l, иZ2πsin(kx) sin(lx) dx = 0,Z2πcos(kx) cos(lx) dx = 0,00для k 6= l, то базис из тригонометрических полиномов вида1,cos(2πkx),sin(2πkx),k = 1, 2, . . . ,является ортогональным на [0, 1] относительно скалярного произведения (2.101) с весом ̺(x) = 1.
Иными словами, этот базис очень хорош ввычислительном отношении для построения среднеквадратичных приближений.1382. Численные методы анализаБолее детальный теоретический анализ и практический опыт показывают, что в методе наименьших квадратов в качестве базиса ϕ1 , ϕ2 ,. . .
, ϕn линейного подпространства G ⊂ F имеет смысл брать системы элементов, ортогональных по отношению к какому-то скалярномупроизведению (возможно, даже отличающемуся от того, относительнокоторого рассматривается задача приближения), так как это служитгарантией «разумной малости» внедиагональных элементов матрицыГрама и, как следствие, её не слишком плохой обусловлености.Среднеквадратичные приближения и метод наименьших квадратовдля решения переопределённых систем линейных алгебраических уравнений, которые возникают в связи с задачами обработки наблюдений,были почти одновременно предложены на рубеже XVIII–XIX вековА.М. Лежандром и К.Ф. Гауссом, причём первый дал новому подходу современное название.
На практике метод наименьших квадратовочень часто применяется в силу двух главных причин. Во-первых, егоприменение бывает вызвано ясным содержательным смыслом задачи, вкоторой в качестве меры отклонения возникает именно сумма квадратов или интеграл от квадрата функции. К примеру, чрезвычайно популярно теоретико-вероятностное обоснование метода наименьших квадратов (см., к примеру, [52]). Впервые оно было дано также К.Ф.
Гауссоми далее доведено до современного состояния в трудах П.С. Лапласа,П.Л. Чебышёва и потом А.А. Маркова и А.Н. Колмогорова. Во-вторых,в методе наименьших квадратов построение элемента наилучшего приближения сводится к решению системы линейных уравнений, т. е. хорошо разработанной вычислительной задаче. Если для измерения расстояния между функциями применяются какие-то другие метрики, отличные от (2.102), то решение задачи минимизации этого расстояния потребует решения задачи вычислительной оптимизации, которая можетоказаться более трудной или непривычной. В целом, если какое-либоодно или оба из выписанных условий не выполняется, то метод наименьших квадратов становится не самой лучшей возможностью приближения функций.Нередко форма приближающей функции (2.93) не подходит по темили иным причинам, и тогда приходится прибегать к нелинейному методу наименьших квадратов, когда приближающая функция g(x) выражается нелинейными образом через базисные функции ϕ1 (x), ϕ2 (x),.
. . , ϕm (x). Тогда минимизация средневадратичного отклонения f от gуже не сводится к решению системы линейных алгебраических уравнений (2.96), и для нахождения минимума нам нужно применять числен-1392.11. Полиномы Лежандраные методы оптимизации. Обсуждение этого круга вопросов и дальнейшие ссылки можно найти, к примеру, в книге [44].2.11Полиномы Лежандра2.11аМотивация и определениеПримеры 2.10.2 и 2.10.3 из предшествующего раздела показывают,что выбор хорошего, т.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
