Ильин, Позняк - Линейная алгебра (947283), страница 22
Текст из файла (страница 22)
Выразим далее координаты х„х„..., х„произвольного элемента х относительно ортоиормированного базиса е„е„..., вл. Умножая разложение этого элемента по базису х = х,в, + + х,е, + ... + х„ел скалярно на е„и пользуясь соотношениями (4.25)„получим (для любого й, равного 1, 2, ..., и) / л л (х, еа) = ~ Е х,еп еа) = Е х, (е„е,) = х,.
1=1 ~=! Итак, как н в случае вещественного евклидова пространства, координаты произвольного элемента х относительно ортонормированного базиса равны скалярным произведениям этого элемента на соответствующие базисные элементы. В полной аналогии с доказательством теоремы 4.4 устанавливается, что все комплексные евклидовы пространства одной и той же размерности и изоморфны между собой. й 4. Метод регуляризации для отыскания нормального решения линейной системы Снова возвратимся к рассмотрению общей линейной системы т уравнений с и неизвестными вида (3.1).
Эту систему кратко запишем в матричной форме ') АХ=В. (4.26) Напомним, что в этой записи символ А обозначает матрицу А = =)аыД(1 = 1,2, „т;) = 1,2...„п), а символы Х и Вобозначают столбцы (нли векторы) вида ь, кг ь, первый из которых подлежит определению, а второй — задан. Будем рассматривать случай, когда значения элементов матрицы А и столбца свободных членов В заданы нам лишь приближенно "). Тогда естественно говорить лишь о приближенных ') См. формулу (3.6) из предыдущей главы.
") Такая ситуация будет иметь место в случае, если ати значения получакпся из физических измерений или если в процессе вычислений приходится округлять указанные значения до некоторого знака. метод РЕГУляРИЗАЦИИ 191 значениях искомого столбца Х. Изложенные в предыдущей главе и основанные на формулах Крамера алгоритмы вычисления столбца решений Х в этом случае могут приводить к большим погрешно. стям и теряют практический смысл ') В этом параграфе мы изложим принадлежащий А. Н.
Тихонову алгоритм, позволяющий находить так называемое н о рм а л ь н о е (т е. наиболее близкое к началу координат) решение Х с точностью, соответствующей точности задания элементов матрицы А и столбца В «'). Введем в рассмотрение так называемые сферические нормы столбцов В и Х и матрицы А, положив их равными Ш Г» и а ЦВЦ=~/ 2„" Ь,', ЦХЦ= Ц/ ~ х,', ЦАЦ= ~ 2,'а,'1, (4.27) Заметим, что нормы столбцов В и Х определяются как обычные нормы векторов — элементов пространств Ем и соответственно Е". Норма матрицы А согласована с нормой и-мерного столбца Х в том смысле, что норма и1-мерного столбца АХ, равного произведению матрицы А на столбец Х, удовлетворяет условию '") ЦАХЦ ~ ЦАЦЦХЦ. (4,28) Будем считать, что вместо точных значений элементов матрицы А = Ца!!Ц и столбца правых частей В = ЦЬ! Ц нам заданы приближенные значения А = Ца,~Ц, г) = Ц Ь, Ц.
Матрицу А (столбец В) будем называть б-и р и б л и ж е н и е и матрицы А (столбца В), если справедливо неравенство / л а ЦА — АЦ= Ц/' ~ ~ (ап — а„)з~б Ц — ВЦ= 2, (Ь, — Ь,)»<8 . (4.29) ") Особенно зто относится к случаю так называемых »плохо обусловлен. ных» матриц (для которых »малые» изменения влементов матрицы базисного минора ведут и »большим» изменениям злементов обратной матрицы). '«) См.
А. Н. Т и хан о в »О некорректных задачах линейной алгебры н устойчивом методе их решения», Доклады Акахемни наук СССР, том 163, № 3 (1965), стр. 591 — 594 "") В самом деле, пользуясь определением произведения матрицы на столбец, соотношениями (4.27) и неравенством Коши — Буняковского для алементов евклидова пространства Еа, будем иметь Ц АЛ 1)е= ~ 2', а,х ( Я 2', аз!1 2' хз (( А !)з )( Х !)з. ! 11 1 ! ! и'л. 4 ВВКЛНДОВЫ ПРОСТРАНСТВА Назовем нормальным решением совместной сн- О 1 стемы (4.26) то ее решение Х'= ', норма (Хь!! которого яв- нее ляется наименьшей среди норм ) (! всех решений Х этой системы. Заметим, что у всякой совместной системы (4.26) (в том числе н у неопределенной) существует единственное нормальное решение.
Введем в рассмотрение следующую функцию и переменных х! х„х„..., х„нлн одного столбца Х = хл( Еа (х„..., х„, А, В) = Р' (Х, А, В) = (АХ вЂ” В). + а$ Х )4, (4.30) зависящую как от параметров от элементов матрицы А н столбца В, а также зависящую от некоторого числового параметра с!. В подробной записи эта функция выглядит так: «! г « «! « Еа(Х, А, В) = ~, '~ ~„'а!/х/ — Ь1~ +а,)"„х/' (4.30') ! /=1 / ! Фактически Еа (Х, А, В) является функцией от элементов Х евклидова пространства н-мерных столбцов Ел. Такого рода функцию, аргументом которой служат элементы некоторого линейного пространства, принято называть ф у н к ц и о н а л о м'). Легко убедиться в том, что любом фиксированном а ) 0 неотрицательный функционал (4.30') достигает своего минимальнога (ао всем пространстве Е ) значения в единственной точке „а 1 Х" = " пространства Ел. „а В самом деле, дважды дифференцируя функцию (4.30 ), по- веса ( 1 при л=(„ лучим — = 2 ~~ ймаи+ 2!хбь/, где б!и = ~ ахл ал, = ~0 при йчьй Следовательно, второй дифференциал функции Е имеет внд л л Г а л л йеР'= ~ ~~ ~ ~ а!Аа„~ 4(х„с(х!+а ~ ~„'бы с(хдйх, = 4-1 /-! /-1 4-1!-1 аГ« те л = 2.
~ ~~ ам/(хь~ + с! ~ (//хь)'. ! ! 4-1 Л 1 ') Функнноналн снстемлтнчесхн изучвютсн в следующей глене. метод РегуляРизяции хь 1 (4.26) к отысканию того элемента Х" = °, на котором достихь « гает своего минимального значения функционал (4.30). Теорема А. Н. Тихонова. Пусть матрица А и столбец В удовлетворяют условиям, обеспечивающим совместность системы хо ! (4.26), Х» = . — нормальное решение этой системы, А— х» Ь-приблиэкение матрицы А,  — Ь-приближение столбца В, е (6) и а (6) — какие-либо возраспииощие функции 6, стремящиеся к нулю при 6- О+ 0 и такие, что 6' ч: а (6) а (6).
Тогда для любого е > О найдется положительное число 6» = 6» (е, ~Х»!!) такое, что при любом Ь ( Ь, (е, ~) Х»1) и при любом а, удовлетворяюи(ем условию — бе~а~а(6), ! е (6) (4.31) ха ! элемент Хь = °, доставляющий минимум функционалу (4.30), а удовлетворяет неравенству ~ Хь — Х» '1 ~ а. (4.32) Д о к а з а т е л ь с т в о. Рассмотрим в линейном пространстве и, Е«! подмножество (()д) всех элементов () = ., представи- и!в мых в виде () = АХ, где Х=~~... — произвольный элемент ') См., в частности, выпуск ) »Основы математического анализа«, часть 1, гл. )4, $ 7. ««) См. там же.
Кз этого равенства вытекает оценка йер"~а ~ (йхь)е, означа- »-1 ющая, что функция г' является с т р о г о в ы и у к л о й в н н з. Кроме того, гь - +со при 1Х) = 1/ ~ хх -«со. Отсюда А=! очевидным образом следует, что Г" имеет и притом единственную точку минимума Хм *), Методы отыскания минимальных значений функционалов вида (4.30) хорошо разработаны "). Докажем следующую фундаментальную теорему, сводящую вопрос о приближенном отыскании нормального решения системы 1гл.
а ЕВКЛИДОВЫ ПРОСТРАНСТВА пространства Е". Совершенно очевидно, что подмножество (У2) представляет собой линейное пространство и поэтому является подпространством Е~. Обозначим через (УА-) ортогональное до. полнение ((>А) (до всего Е ) н разложим Е" в прямую сумму подпространств ((>А) н (УА) ').
Пусть ВА обозначает проекцию столбца В на подпространство ((>2), так что В = ВА + ( — ВА), где( — ВА ) — элемент (У-„). Тогда, поскольку для любого элемента Х пространства Е" столбец АХ является элементом (УА), мы получим следующее разложение: АХ вЂ” В = (АХ вЂ” В А) + (В А — В), в котором элементы (АХ вЂ” Вй) н (ВА — В) ортогональны друг другу и принадлежат соответственно ((>А~ и (УА).
Пользуясь теоремой Пифагора (см. и. 2 2 1), мы получим (для любого элемента Х пространства Е') (АХ вЂ” В ~ = (АХ вЂ” ВА ~(>+ ( — ВА (~. (4.33) Из (4.33) следует, в частности, нераненство ~ — ВА'1 ~ (АХ вЂ” В1, (4.34) также справедливое для любого элемента Х пространства Е". Из (4.33) н (4.30) мы получим, что для любого Х из Е" Е>(Х, А, В)=$ — ВА)'+Р>(Х, А, ВА), (4.35) т. е. функционалы, стоящие в левой н в правой частях (4.35), имеют общий элемент Х'", доставляющий им минимум.
Установим теперь для любого а, удовлетворяющего условиям (4.3Ц, следующее неравенство Е» (Х'", А, В А) ~ ае (6) Са + а ~ Ха (, (4.36) в котором через С обозначена величина С = 2 (1 + 1Ха)), а Х'— нормальное решение системы (4.26). Так как столбец Х" доставляет минимум функционалу, стоящему в правой части (4.35), то Е'(Х"> А ВА) <Р" (Х' А> ВА)=1АХа ВА)а+а)Хор. (437) ') См. В. 3 з 2 втой главы, метОд РвгуляРизации Пользуясь соотношением АХ' В и неравенством треугольника, получим «АХо — Вл««а ««АХ' — АХо«+ «В — В««+ ««В — Вл «.
Б правой части последнего неравенства воспользуемся соотношениями (4.28) и (4.29), а также неравенством (4.34), взятым при Х = Хо. Получим ««АХо В-„««( 6«Хо««+ 6+ ««В АХо««(4,38) Из (4.38) и (4.39) следует, что «АХ вЂ” ВХ«« «26(1+««Хо««) = Сб, (4.40) где С = 2 (1+ «Хо««). Для завершения доказательства оценки (4.36) остается подставить (4.40) в (4.37) и воспользоваться неравенством (4.31), Поскольку из определения функционала Р сразу вытекает, что а ««Хо«о ~ Р' (Х", А, В-„), то из доказанного нами неравенства (4.3б) вытекает также следующее неравенство: «Х Ц » ««Хо««+е,(б), (4.41) в котором г, (Ь) - 0 при б 0 + О.
Из (4.41) вытекает„что при всех достаточно малых б множество «Хо«точек Х" пространства Е" является о г р а и и ч е и и о» л». Теперь уже нетрудно доказать теорему от противного. Предположим, что для некоторого е, ) 0 существует последовательность 6„- 0 + 0 и отвечающая ей последовательность «а„« чисел а„, удовлетворяющих условию (4.31о) такая, что для всех номеров и ««Х~о — Х «« ~ ео.