В.А. Ильин, Г.Д. Ким - Линейная алгебра и аналитическая геометрия (другой скан) (1113057), страница 73
Текст из файла (страница 73)
гг гг(!=г,геь г у 113. Задачи наилучшего приближения 361 С другой стороны, Х„а — одно из подпространств пространства г размерности н — (й + 1) + 1 и в силу теоремы Курапа-Фишера рг > ппп тпзх (Ах,х) = Лг ° м т.е. Рь, > Лг+ь. Б изиль 1щ=ьлоь„оэьтьь Таким образом, Лг > ььг > Лг.ть, а = 1, о — 1. ° Соотношения (112.9) называются соотношениями разделения собственных значений. Сл г дс т е из. Если А — матрона (вещественная или когьнлексная) размера т х н,  — нодматрица, состоящая из ть — 1 столбцов матарицы А, то для стьнгуляримх чисел Рь »... Р„матрицы А и зь » ... о„ь матнрицм В имеют место соотпношеиия (112.11) Рь > а'ь > Рг » . ° зэ-ь > Рч Эти неравенства вытекают из соотношений разделения собственнык значений самосопряженной матрицы АиА, для которой матрица В~В является главной подматрицей (н — 1)-го порядка.
Соотношения (112.11) называются соотпношсниами разделения сингуллрнмх чисел. й' ПЗ. Задачи наилучшего приближения в нормированном пространстве Наилучшее приближение. Коли т' — метрическое пространство, Х вЂ” его надпространство и Х - фиксированный элемент пространства 1т, то, как известно ($74), величина Р(Х,Х,) = 1пХ Р(7,х) называется расстоянием от элемента Х до множества Х или, как говорят иначе, отклонением элемента Х от множества Х. Коли сушествуег элемент хо б Х такой, что Р(Х т) = Р(Хьхо) то элемент хо называется элементам наилу визга приближения элемента Х на множестве Х . Теорема 113,1 (о наилучшем приближении).
Если 1тнормированное нростраистнво и Ь вЂ” гзо канечномерног надпространство, то для любого вектора Х е К сутцествует вектор наилучшего приближения на Ь. Доказательство. Покажем, что дли любого вектора Х б У существует вектор хо е Х такой, что (~Х вЂ” хо)~ = шшх Ц вЂ” хо.
362 Глава ХИ. Линейные нормированные пространства а Пусть ем...,е„— базис подпространства Е и х = 1 Льеь. Тоь=1 и гда ~~У вЂ” х)~ = ~~~ — Я Льеьй. Требуется найти числа Лм..., Л„так, а=1 чтобы функция ь у(Лм...,Л„) = у — ~~~ Льеь принимала наименьшее значение. Заметим прежде всего, что у(ЛП..., Л„) — непрерывная Функция своих аргументов Лм..., Л„, так как ~у(Лм...,Л'„) — р(Лм..., Л„)) = ~ ~) г — ~~Г Л~ье~Д вЂ” ~(~ — ~~~ ЛьеД ~ < < До- ЬЬ > фа(~ — ~~Ь)Я < (у — С Лаев) — (у — ~ ~Лаев) < а=1 а=1 <~~~ ')Л~ь — Ль~ йеьЙ < швх )Л~ь — Ль~ ~'Ьеь~~.
ь 1 н=г Пусть р — точная нижняя грань множества значений функции у(Лг,..., Л„). Рассмотрим новуго функцив ф(Лм...,Л„) = ~ Льеь Эта функция на едкничной евклидовой сфере 1" ~Ль~~ = 1 неотрнь=! цательна,'непрерывна и по известной теореме Вейерштрасса (11] она достигает на ней своей точной нижней грани. Пусть д= шш Ф(Лг,.--,Л ). Е1=, Рьй=1 Очевидко, что д > О. Рассмотрим все векторы з = Я Льсь ~ Х,, для которых а=1 с )Ль~~ > — (р+ 1+ ЦЦ ы Н. (113.1) 1 ь~~ И '3113. Задачи наилучшего приближения Для этих векторов а иг(Лм.",Л ) > !!~ Льеь!! — !!1!! = в=1 1/г ~ ~ ь ~ | ь ~ ~ ~ ь ~~ г и ~ ~ ~~ ~ ~ ~ ~~ ~ ~~ ~ ~ Л ~ ~ ~ ~ ? л, = Ф,,~г " гр1г)~ ! !Ль! ! — !Л> г1г "р К!Ль!' — !Л>р+1. шш !!А — 6!!г = оь+и ве ц ъ~, щ,та в < ь (113.2) До к аз а т е л ь с т в о, 1, Прехсце всего отметим, что в силу согласованности спектральной нормы с евклидовыми векторными нормами !!(А — 6)х!!х < !!А — 6!!г (!х!!в.
Отсюда следует, что !!А — 6!!г > !!Ах — 6х!!я !!х!!в = 1. (113.3) 2. Пусть еп..., е„и Л,..., 1' — сингуляряые базисы для операто- ра А, т.е. с Аег = огЛ, г = 1, г, Ае;=д, 1>г. Таким образом, для векторов х = 2, Льеь й 1., удовлетворяющих условию (113.1), у(Лп...,Л„) = Ц вЂ” х!! > р+ 1. Следовательно, желая найти наименьшее значение функции !!1 — х!!, можно ограничиться рассмотрением только тех векторов х = ~" Льеь е Ь, для ь=1 которых !Ль!~ < 6~. Функция !!у — х!! непрерывна на замкнутом а=1 шаре !!х(!г < В и по теореме Вейерштрасса (11! существует вектор хо Е Ъ, для которого !!1 хо!! = Р- ° 3 а лг е ч а н и е. Если У вЂ” конечномерное евклидово (или унитарное) лространство, то задача наилучшего приближения вектора 1 на подпространстве Ь решена в 374 для евклидовой нормы: единственным вектором наилучшего приближения вектора 1 на подпространстве Ь является ортогональная проекции вектора 1 на подпространство 1.
Аппроксимация оператора (матрицы). Теорема 113.2. 11усть У и И' — евилидови (или униторимс1 пространства и А й Е(К И"). Пусть гйА = г и ог » ... р„> Π— ненулевые сингулярные числа оператора А. Есаи х ~ 1Ч, х < г, то у 114. Линейные операторные уравнения Однородное уравнение (114.2) называется сопряженным к уравнению (114.1). Т е о р е м а 114.1 (альтернатива Фредгольма). Либо основное уравнение (114.1) имеетп решенье при любой правой части и б Ит, либо сопрягтсенное к нему уравнение имеетп нетрияиалиное решение.
Доказательство. Пусть т = гяА, т = дппИ'. Возможны два случал: либо г = т, либо г < т. Условие т = тп равносильно условию ппА = И', которое означает, что уравнение (114.1) имеет решение при любом и б Ит. При этом так как гяА = гяА', то МгА* = (д) и уравнение (114.2) не имеет ненулевого решения. Условие г ( тп равносильно условию дет А* > О, которое означает существование ненулевого вектора и ь )сегА", те. ненулевого решения (114.2). При этом пи А-ф Ит и уравнение (114.1) имеет решение не для любого и б Ит.
° Замена ние 1. Альтернатива Фредгольма для оператора А, действующего в одном пространстве т', означает, что либо основное уравнение имеет единственное решение при любом и б Ъ", либо сопряженное к нему уравнение имеет нетривиальное решение. Т ео рема 114.2 (теорема Фредголъма). Операторное уравнение (114.1) имеетп решение тпагда и только тогда, когда его правая часть артогональна всем решениям сопряженного уравнеДоказ ате льст во.
Уравнение (114.1) имеет решение тогдаи только тогда, когда и б 1ш А или, с учетом (95.4), когда и б 'кег А'. Это равносильно ортогонэльности вектора и всем векторам кег А', т.е. решениям уравнения (П4.2). ° Нормальное решение. Пусть уравнение (114.1) разрешимо, т.е, имеет хотя бы одно решение. Обозначим через Н множество всех его решений. Нормальным ретьением уравнения (114.1) называется тавэе его решение го, что Другими словами, нормальное решение — это решение наименьшей длины.
Корректность определения вытекает из следующей теоремы. Т е о ре м а 114 3. Для любого разрешимого уравнения (114 1) нормальное решение существуетп и единстпвенно, Доказательство. Существование. Пусть г — решениеуравнення (114.1). Совокупность Н всех решений этого уравнения является линейным многообразием Н = г + )сегА, так как для множеств Н и г + 1тегА, как легко показать, имеет место двустороннее вложение.
Иэ свойств линейного многообразия в евклидовом (унитарном) пространстве (теорема 73.1) следует существование и единственность нормального вектора сдвига го, ортогонального нанравляхяцему погь пространству кегА. Причем вектор ге имеет наименьшую длину сре- 366 1'лава Х1Х. Линейные нормированные пространства ди всех решений уравнения (114.1).
Таким образом, »о — нормэльнсе решение уравнения (114,1). Единственность. Пусть»! — нормальное решение уравнении (114.1). Тогда»! 6 Н, те. »! = »о + и!, где ю 6 Йе»А, (и!,»о) = О, и !!»г!!в = !!»о!)й + !!и!!!й. Так как !!»о!!и = !!»! !!к то ю = д и»! = »о. ° Замечание 2. Доказательство теоремы дает правило для отыскания нормального решения (тезрема 73.2) !»о — перпендикуляр, опущенный из любого решении» уравнения (114.1) на 1сег А. Псевдорешение, Рассматривается уравнение (114.1), не обязательно разрешимое. Вектор г = А» — и называется неелзкой вектора », функция Г(») = !!Аи — »!!й — функционалом неелзки. Очевидно, вектор» являетсн решением уравнения (П4.1) тогда и только тогда, когда его невязка г = д, т.е. когда !!г!!и = О.
Поскольку нулевое значение нормы является наименьшим, решение» можно рассматривать как вектор, невязка которого имеет наименьшую норму, нли, как принято говорить, мииимизиррюи!ий функционал неелзки. Задача отыскания векторов, минимизирующих функционал невязки, имеет смысл н тогда, когда уравнение (114.1) неразрешимо (нв пример, вследствие погрешностей измерения А и и). В этом случае, если» минимизирует функционал невязки, то расстояние р(А», и) = = !!А» — и!!в минимально и, следовательно, при таком» левая часть уравнения А» "ближе" всего к правой части и. Для многих задач вычислительной математики векторы, минимизирующие функционал невязки, представляют интерес (даже если уравнение (114.1) не разпешимо). Дли таких задач рассматриваются обоб!ценные решения.
Вектор»т 6 Ъ' называется псеегйгрешсниаи уравнения (114,1), если !!А» — и!!й = шг" !!А» — иЦ. (114.3) аеи Другими словами, псевдорешение — это вектор пространства У, минимизирующий функционал невязкн. Очевидно, если уравнение (114.1) разрешимо, то псевдорешение совпадает с решением в обычном смысле. Метод наименьших квадратов, Задача поиска псевдорешения возникаег, например, тогда, когда некоторая величина Ь находится как линейная комбинация величин аг,..., а„: Ь = и!аг+...
+ я„а„, а коэффициенты при ку должны быть найдены в результате измерения величин ау и соответствующих значений 6. Если прн 1-и измере' нин получены значения аи для величин аз и значения Ь! для величины 6, то нужно составить уравнение па!~! + ам»з + ° ° ° + аюяь = 66 гп измерений приводят к системе гп уравнений, которая, вообще говоря, будет несовместной вследствие неизбежных ошибок измерении, у 114.
Линейные операторные уравнения а, может бьггь, еще из-за того, что величина Ь не является в точности линейной комбинацией ам..., а„, а лишь аппроксимируется ею. Возникаег задача определить коэффициенты ху так, чтобы каждое уравнение удовлетворялось приближенно, но с наименьшей общей погреппюстью.
Если за меру погрешности взять функционал невязки, то мы и придем к задаче поиска псевдорешения. Описанный прием называется методом наименьших квадратов. Т е ор ем а 114.4. Псевдорешение существует длл любого операторного уравненил (114.1). До к аз атель ство. Согласно определению (114 3), ()Аг+ -и)(к = = 'шХ !)Аг — и()к = нК )Аг — и(= 1пГ р(Аг,и) = ш( р(у,и). «ви м и м и веььЛ Это означает, что вектор Аг+ — зто вектор наилучшего приближения вектора и на 1шА. Из теоремы 74.2 следует, что Аг+ — ортогональная проекция вектора и на ппА.
Пусть и = д + Ь, где д ~ ппА, Ь 1 ппА. Тогда г+ является решением в обычном смысле уравнения (114.4) (очевидио, оно имеет решение, так как д е ни А). ° Уравнение (114.5) называется нормальным уравнением для уравнения (114.1). Теорема 114.5. Вектор гь иространства Ъ' лвллетсл псевдорсшением уравнения (114.1) тогда и только тогда, когда г+ — решение нормального уравненил (П4.5). Доказательство. Выше было показано, что г+ — псевдорешение (114.1) тогда и только тогда, когда гр — решение в обычном смысле уравнения (114.4). Покажем, что уравнения (114.4) и (114.5) равносильны. Действительно, А'и = А'д, так как и = д+ Ь, где Ь Е пп А = кегА'.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
