В.А. Ильин, Э.Г. Позняк - Линейная алгебра (1152751), страница 22
Текст из файла (страница 22)
) См. Тихонов А. Н. О некорректных задачах линейной алгебры и устойчивом методе их решения О ДАН СССР. 1965. Т. 163, №3. С. 591 — 594. ') В самом деле, пользуясь определением произведения матрицы на столбец, соотношениями (4.27) и неравенством Коши — Буняковского для элементов евклидова пространства Е , будем иметь т г 1« тг 1 !АХ~ =~ ~~ а«»х»~ К~ ~~ а, 2 э!»~ =~ 2 а„~ л;= =!»=! =! »=! »=! = !!А) з1(Хй . 99 МЕТОД РЕГУЛЯРИЗАЦИИ Матрицу А (столбец В) будем называть б-приближением матрицы А (столбца В), если справедливо неравенство ш п / ла 'йА — А)( = 2 ~ (ац — аы)а < Б ~'й — Вй' = 2 (Ь! — Ь!)з < б г=! у=! !=! (4.29) Назовем нормальным решением совместной системы (4.26) то ее о х" а , норма йХ й которого является наименьшей сре- решение Х ди норм йХй всех решений Х этой системы.
Заметим, что у всякой совместной системы (4.26) (в том числе и у неопределенной) существует единственное нормальное решение. Введем в рассмотрение следующую функцию п переменных х!, х! хш ..., х„или одного столбца Х = х ~ Е" (х!,..., х„, А, В) = Е (Х, А, В) = йАХ вЂ” Вйз+ сгйХйз, (4.30) зависящую, как от параметров, от элементов матрицы А и столбца В, а также зависяпгую от некоторого числового параметра сг. В подробной записи эта функция выглядит так: т !' и ча и Е" (Х, А, В) = 2' ~ "> а; х — Ьг)~ + о 2 х-.
(4.30') г=! у=! у=! Фактически Е"(Х, А, В) является функцией от элементов Х евклидова пространства и-мерных столбцов Е". Такого рода функцию, аргументом которой служат элементы некоторого линейного пространства, принято называть функционалом ') . Легко убедиться в том, что при любом фиксированном о ) 0 неотрицательный функционал (4.30') достигает своего минимального (во всем пространстве Е") значения в единственной точке х! Х" = ... пространства Е". х В самом деле, дважды дифференцируя функцию (4.30'), получим (! прий=), = 22 асьанбы+2обы, где бы = ~ ~хь х! !О при йф!.
') Функционалы систематически изучаются в следующей главе. (гл. 4 евклидовы пРостРлнствл Следовательно, второй дифференциал функции )г имеет вид и и 1 и» и и й6$" = 'У' 2 ~ 2 а»йа»1! быйхййх!+о 2 ',У,быйхййх! = й=11=1 »=1 й=1»=1 т ! и 2 и агййхй) + о 2'(йхй)з. »=1 й=! й=1 — б <а<о(б), Те(й) (4.31) х! элемент Х" = ..., доставляющий минимум функционалу (4.30), х" удовлетворяет неравенству !~хи Х01~ < е (4.32) ') См., в частности, выпуск 1 «Основы математического анализа», часть 1, гл.!4, э7 ') См. там же. Из этого равенства вытекает оценка а~с' > о 2 (йхй)з, означаюй=1 щая, что функция ри является строго выпуклой вниз. Кроме того, с'" — е +сю при ~~Х~~ = 2 х~~ — й со.
Отсюда очевидным образом слей=! дует, что г'" имеет, и притом единственную, точку минимума Х" ') . Методы отыскания минимальных значений функционалов вида (4.30) хорошо разработаны з) . Докажем следующую фундаментальную теорему, сводящую вопрос о приближенном отыскании нормального решения системы (4.26) хр к отысканию того элемента Х = ..., на котором достигает своего х.".
минимального значения функционал (4.30). Теорема Тихонова. Пусть матрица А и столбец В удовлетворяют условиям, обеспечиеающим совместность системз» (4,26), ь Хо = ... нормальное решение этой системы, А б-приблио У жение матрицы А,  — б-приближение столбца В, е(б) и о(б)— какие-либо возрастающие функции б, стремящиеся к нулю при б — е 0+ 0 и такие, »то б" < е(б)о(б). Тогда для любого е > 0 найдется положительное число бо = бо(е, ()Х" (() такое, что при любом б < бо(е, !)Хо(!) и при любом о, удовлетворяющем условию 101 метОд Регулягизлции Д о к а з а т е л ь с т в о. Рассмотрим в линейном пространстве Е и~ подмножество (1Уд) всех элементов УУ = ..., представимых в виде и УУ = АХ, где Х = ...
— произвольный элемент пространства Е". а Совершенно очевидно, что подмножество ((Уд) представляет собой линейное пространство и поэтому является подпространством Е Обозначим через (Ъд) ортогональное дополнение (1Уд) (до всего Е ) и разложим Е™ в прямую сумму подпространств (УУд) и (Ъсду '). Пусть  — обозначает проекцию столбца В на надпространство (УУд-у, так что В = Вд + ( — Вд), где ( — Вд) — элемент ()гд). Тогда, поскольку для любого элемента Х пространства Е" столбец АХ является элементом (1У-), мы получим следующее разложение: АХ вЂ” В = (АХ вЂ” Вд) + (Вд — В), в котором элементы (АХ вЂ” Вд) и (Вд — В) ортогональны друг другу и принадлежат соответственно (1Уд) й (Ъ'-). Пользуясь теоремой Пифагора (см. п.2 Я1), ыы получим (для любого элемента Х пространства Е™) !)АХ вЂ” В)! = ()АХ вЂ” Вд)! + )) — Вд)! .
(4.33) Из (4.33) следует, в частности, неравенство (4.34) 'я — Вд(( ( ()АХ вЂ” В)(, также справедливое для любого элемента Х пространства Е". Из (4.33) и (4.30) мы получим, что для любого Х из Е" Е (Х, А, В) = )( — ВдЦ~ + Г (Х, А, Вд), (4.35) т.е. функционалы, стоящие в левой и в правой частях (4.35), имеют общий элемент Х", доставляющий им минимум. Установим теперь для любого гх, удовлетворяющего условиям (4.31), следующее неравенство: Е"(Х", А, В„-) < ое(б)Сз+ ~~~Х"~~, (4.36) в котором через С обозначена величина С = 2(1+ !/Хо/!), а Хо— нормальное решение системы (4.26).
Так как столбец Х доставляет минимум функционалу, стоящему в правой части (4.35), то Е (Х", А, В-) ( Е (Хо, А, Вд-) = )(АХ" — ВЯ~+ о))Х )(~. (4.37) ') См. п.З 42 этой главы. (гл. 4 102 евклидовы пРОЕТРлнствл Пользуясь соотношением АХО = В и неравенством треугольника, получим ОАХ" — ВЛО < ОАХ вЂ” АХ О+ 'О — ВО + О — Вля. В правой части последнего неравенства воспользуемся соотношениями (4.28) и (4.29), а также неравенством (4.34), взятым при Х = Х". Получим О 4ХО В О < бОХОО, б+ ОВ АХОО (438) Еще раз учитывая, что АХО = В, и снова пользуясь неравенством треугольника и соотношениями (4.28) и (4.29), получим, что ))В АХО)! < )(В В()+))АХО АХО() < б+б))ХО)( (439) Из (4.38) и (4.39) следует, что (~АХ' — В;й < 2б(1+ ~~Х" ~~) = Сб, (4.40) где С = 2(! + ЦХО//).
Для завершения доказательства оценки (4.36) остается подставить (4.40) в (4.37) и воспользоваться неравенством (4.31). Поскольку из определения функционала В" сразу вытекает, что а~~Х" ~~з < б'"(Х", А, В-), то из доказанного нами неравенства (4.38) вытекает также следующее неравенство: !)Х")! < )(Х ()+ е1(б), (4.41) е(б ) п Я б~ < оя < а(б„), (4.31') такая, что для всех номеров п ~~Х"- — Хо!~ >,О, (4.42) Так как множество (Х ) ограничено, то в силу теоремы Больцано— Вейерштрасса из последовательности (Х ") можно выделить сходящуюся подпоследовательность. Чтобы не менять обозначений, будем считать, что вся последовательность (Х ") сходится к некоторому 1 х столбцу Хо = ..., т.е.
~~Х'*" — Хо~~ — г 0 при п — е оо. Убедимся в том, что ))АХ"" — АХО() -о 0 при п -о со. (4.43) в котором е|(б) — э 0 при б — э О+ О. Из (4.41) вытекает, что при всех достаточно малых б множество (Х ) точек Х пространства Е" является ограниченным. Теперь уже нетрудно доказать теорему от противного.
Предположим, что для некоторого ео > 0 существует последовательность б„ -е — ~ 0 + 0 и отвечающая ей последовательность (а„) чисел а„, удовлетворяющих условию 103 метод пвгглягизлции В самом деле, пользуясь неравенством треугольника, оценками (4.28), (4.29), (4.36) и (4.40) и соотношением (4.31"), получим ~~АХ „АХо~~ < < )(АХ"" — АХ""()+ ))АХ"" — Вд)(+ ()В3 — АХ~)! < ( ))х" 1)+ ~/к (х . А. В-) +сБ„( < б„((/Х"" /! + С) + — >О при и — ~ оо. Из неравенства (4.43) вытекает, что АХо = АХ", т.е. предельный элемент Хо является решением системы (4.26), удовлетворяющим, в силу соотношения (4.41), неравенству ~~Хо(~ < ~(Хо~~. Так как по определению для нормального решения Хо справедливо обратное неравенство ((Х~(! < )(Х "(), то ((Х")! = )(Х~(), т.е.
Х = Хо, а это противоречит неравенству (4.42), справедливому для любого номера п. Полученное противоречие завершает доказательство теоремы. Глава 5 ЛИНЕЙНЫЕ ОПЕРАТОРЫ В этой главе исследуются так называемые линейныв отображения линейных и евклидовых пространств, т.е. такие отображения, при которых образ суммы элементов равен сумме их образов и образ произведения элемента на число равен произведению этого числа на образ элемента.
При этом мы будем рассматривать комплексные линейные и евклидовы пространства. Результаты, относягциеся к вещественным пространствам, будут оговорены специально. ф 1. Понятие линейного оператора. Основные свойства 1. Определение линейного оператора. Пусть И и И' линейные пространства, размерности которых равны соответственно п и т. Мы будем называть оператором А, действующим из И в И', отображение вида А: 1л — т И', сопоставляющее каждому элементу х пространства И некоторый элемент у пространства И'.
При этом будем использовать обозначение у = А (х) или у = Ах. Определение. Оператор А, действующий из 1л в И', называется линейным, если для любых элементов х1 ц хз пространства И и любого комплексного числа Л выполняются соотношения: 1; А (х~ + хз) = Ах1 + Аха (свойство аддитивности оператора); 2'. А (Лх) = ЛАх (свойство однородности оператора). 3 а м е ч а н и е 1.