1611688890-f641c9ec8276824e4686da772eb56520 (826652), страница 37
Текст из файла (страница 37)
Поэтому решатьсистему (3.8) также можно по частям, отдельно для x и отдельно дляy, что обычно и делают на практике. Отметим, что для вещественныхсобственных чисел, когда λ = λ, системе (3.8) после эрмитова сопряжения второй части можно придать следующий элегантный матричныйвид!!!xxA 0.(3.9)= λyy0 A∗Изменим соотношения (3.8), чтобы они «завязались» друг на друга,поменяв в правых частях векторы x и y :(Ax = σ y,(3.10)y ∗ A = σ x∗ .Фигурально можно сказать, что при этом векторы x и y становятся«право-левыми» или «лево-правыми» собственными векторами матрицы A. Как мы увидим вскоре, аналоги собственных чисел матрицы,2243.
Численные методы линейной алгебрыкоторые мы переобозначили через σ, также получают новое содержание. Далее нас будут интересовать вещественные σ, удовлетворяющиесистеме (3.10). Тогда σ = σ, и, беря эрмитово сопряжение от второгоуравнения из (3.10), можем переписать всю эту систему уравнений вследующем виде равносильном:(Ax = σ y,(3.11)A∗ y = σ x.Определение 3.2.2 Неотрицательные вещественные скаляры σ, которые являются решениями системы матричных уравнений (3.11),называются сингулярными числами матрицы A.
Удовлетворяющиесистеме (3.11) векторы x называются правыми сингулярными векторами матрицы A, а векторы y — левыми сингулярными векторамиматрицы A.Отметим, что и система (3.11), и данное выше определение имеютсмысл уже для произвольных прямоугольных матриц, а не только дляквадратных, как было в случае собственных значений и собственныхвекторов.
Для m × n-матрицы A правые сингулярные векторы имеютразмерность n, а левые — размерность m.Полезна матричная форма системы (3.11),0A∗A0!xy!= σxy!,(3.12)которая находится в красивой двойственности с системой (3.9). ЕслиA — вещественная матрица, то векторы x и y также могут быть взятывещественными, а система уравнений (3.12) для определения сингулярных чисел и векторов принимает ещё более простой вид:!!!xx0 A⊤.(3.13)= σyyA 0Из уравнений (3.11)–(3.13) видно, что, в отличие от собственных значений, сингулярные числа характеризуют совместно как саму матрицу,так и её эрмитово-сопряжённую (транспонированную в вещественномслучае).3.2.
Теоретическое введение225Наша ближайшая цель — показать корректность Определения 3.2.2,то есть существование решений σ, x, y для системы уравнений (3.11)–(3.13) и наличие среди них вещественных неотрицательных σ. Сразуже можно заметить, что матрицы!!0 A⊤0 A∗иA 0A 0размера (m+n)×(m+n) являются эрмитовой и симметричной соответственно. Как следствие, матричные уравнения (3.12) и (3.13), которыеопределяют их собственные значения σ и собственные (m + n)-векторы(x y)⊤ , имеют вещественные решения.Предложение 3.2.4 Сингулярные числа матрицы A суть неотрицательные квадратные корни из собственных чисел матрицы A∗A илиматрицы AA∗ .Формулировка этого утверждения требует разъяснений, так как вслучае прямоугольной m × n-матрицы A размеры квадратных матрицA∗A и AA∗ различны: первая из них — это n × n-матрица, а втораяm × m-матрица. Соответственно, количество собственных чисел у нихбудет различным.Известно, что ранг произведения матриц не превосходит наименьшего из рангов перемножаемых матриц (см.
[9, 23, 50]). Отсюда следует,что если m < n, то n × n-матрица A∗A имеет неполный ранг, не превосходящий m, а потому её собственные числа с (m + 1)-го по n-ое —заведомо нулевые. Аналогично, если m > n, то неполный ранг, которыйне превосходит n, имеет m × m-матрица AA∗ , и её собственные числа с(n + 1)-го по m-ое равны нулю. Таким образом, для m × n-матрицы Aсодержательный смысл имеет рассмотрение лишь min{m, n} штук собственных чисел матриц A∗A и AA∗ , что устраняет вышеотмеченнуюкажущуюся неоднозначность.Другой неочевидный момент формулировки Предложения 3.2.4 —взаимоотношение собственных чисел матриц A∗A и AA∗ .
Здесь можно вспомнить доказанный выше общий результат линейной алгебры —Предложение 3.2.1, — о совпадении ненулевых точек спектра произведений двух матриц, взятых в различном порядке. Впрочем, для частного случая матриц A∗A и AA∗ этот факт будет обоснован в следующемниже доказательстве.2263.
Численные методы линейной алгебрыДоказательство. Умножая обе части второго уравнения из (3.11) наσ, получим A∗ (σy) = σ 2 x. Затем подставим сюда значение σy из первого уравнения (3.11):A∗Ax = σ 2 x.С другой стороны, умножая на σ обе части первого уравнения (3.11),получим A(σx) = σ 2 y. Подстановка в это равенство значения σx извторого уравнения (3.10) даётAA∗ y = σ 2 y.Иными словами, числа σ 2 являются собственными значениями как дляA∗A, так и для AA∗ .Покажем теперь, что собственные значения у матриц A∗A и AA∗неотрицательны, чтобы иметь возможность извлекать из них квадратные корни для окончательного определения σ. Очевидно, это достаточно сделать лишь для одной из выписанных матриц, так как для другойрассуждения совершенно аналогичны.Пусть λ — собственное значение матрицы A∗A, а u — соответствующий ему собственный вектор. Заметим, что (Au)∗ (Au) ≥ 0, будучи скалярным произведением вектора Au на себя.
Кроме того, (Au)∗ (Au) =u∗ (A∗Au) = u∗ λu = λ(u∗ u), откуда в силу u∗ u > 0 следует λ ≥ 0.Для завершения доказательства осталось продемонстрировать, чтоарифметические квадратные корни из собственных значений матрицA∗A и AA∗ вместе с их собственными векторами удовлетворяют системеуравнений (3.11)–(3.12).Пусть u — собственный вектор матрицы A∗A, отвечающий собственному числу λ, так что A∗Au = λu,силу ранее доказан√ причём λ ≥ 0 в √ного. Обозначим y := Au и x := λ u. Тогда λu = λ x, и потому√√ √Ax = A λ u = λ Au = λ y,√A∗ y = A∗Au = λu = λ x,√так что система (3.10)–(3.12) удовлетворяется при σ = λ с выбранными векторами x и y.Аналогично, если v — собственный вектор матрицы AA∗ , отвечающий её собственному числу µ, то AA∗ v = µv, причём µ ≥ 0.
Обозначим√√x := A∗ v и y := µ v. Тогда µv = µ y, и потому√Ax = AA∗ v = µv = µ y,√ √√A∗ y = A∗ µ v = µ A∗ v = µ x,3.2. Теоретическое введение227так что система (3.11)–(3.12) действительно удовлетворяется при σ =√µ с выбранными векторами x и y.Следствие. Сингулярные числа матрицы не меняются при умноженииеё на унитарную матрицу (ортогональную в вещественном случае).Доказательство. Пусть A — исходная матрица, а U унитарна. Тогда(AU )∗ (AU ) = (U ∗A∗ )(AU ) = U ∗ (A∗A) U = U −1 (A∗A) U , и потому матрица (AU )∗ (AU ) имеет те же собственные значения, что и A∗A. Крометого, (AU )(AU )∗ = AU U ∗A∗ = AA∗ . Привлекая Предложение 3.2.4, можем заключить, что сингулярные числа матриц AU и A также должнысовпадать.Для матрицы UA, обоснование аналогично.Итак, задаваемые Определением 3.2.2 сингулярные числа вещественной или комплексной m × n-матрицы — это набор из min{m, n} неотрицательных вещественных чисел, которые обычно нумеруют в порядкеубывания:σ1 ≥ σ2 ≥ .
. . ≥ σmin{m,n} ≥ 0.Таким образом, σ1 = σ1 (A) — это наибольшее сингулярное число матрицы A. Мы будем также обозначать наибольшее и наименьшее сингулярные числа матрицы посредством σmax (A) и σmin (A).Из доказательства Предложения 3.2.4 следует также, что правымисингулярными векторами матрицы A являются правые собственныевекторы матрицы A∗A, а левыми сингулярными векторами матрицы A— левые собственные векторы для A∗A или, что равносильно, эрмитово сопряжённые правых собственных векторов матрицы AA∗ . Отметимтакже, что как левые, так и правые сингулярные векторы суть ортогональные системы векторов, коль скоро они являются собственнымивекторами эрмитовых матриц A∗A и AA∗ .Пример 3.2.1 Пусть A — это 1 × 1-матрица, т. е. просто некотороечисло a, вещественное или комплексное. Ясно, что единственное собственное число такой матрицы равносамому a.
Сингулярное число у√A также всего одно, и оно равно aa = |a|.Пусть A = (a1 , a2 , . . . , an )⊤ — это n × 1-матрица, т. е. просто векторстолбец. Тогда матрица A∗A является скаляром a1 a1 +a2 a2 +. . .+an an =|a1 |2 + |a2 |2 + . . . + |an |2 , и поэтому единственное сингулярное число2283. Численные методы линейной алгебрыматрицы A равно евклидовой норме вектора (a1 , a2 , . . . , an )⊤ .
То жесамое верно для 1 × n-матрицы, то есть вектор-строки (a1 , a2 , . . . , an ).Пример 3.2.2 Для единичной матрицы I все сингулярные числа очевидно равны единицам.Но все единичные сингулярные числа имеет не только единичнаяматрица. Если U — унитарная комплексная матрица (ортогональная ввещественном случае), то U ∗ U = I, и потому все сингулярные числадля U также равны единицам.Пример 3.2.3 Для 2 × 2-матрицыA=1 23 4(3.14)нетрудно выписать характеристическое уравнениеdet1−λ234−λ= λ2 − 5λ − 2 = 0,√и найти его корни 21 (5± 33) — собственные значения матрицы, приблизительно равные −0.372 и 5.372. Для определения сингулярных чиселобразуем10 14⊤,A A =14 20√и вычислим её собственные значения.
Они равны 15 ±p 221, и потому√получается, что сингулярные числа матрицы A суть 15 ± 221, т. е.примерно 0.366 и 5.465 (с точностью до трёх знаков после запятой).С другой стороны, для матрицы1−324,(3.15)которая отличается от матрицы (3.14) лишь противоположным знакомэлемента на месте (2, 1),√ собственные значения — это комплексно-сопряжённая пара 12 (5 ± i 15) ≈ 2.5 ± 1.936 i, а сингулярные числа сутьp√15 ± 125, т.
е. приблизительно 1.954 и 5.117.2293.2. Теоретическое введениеМожно заметить, что максимальные сингулярные числа рассмотренных матриц превосходят наибольшие из модулей их собственныхчисел. Мы увидим ниже (см. §3.3ж), что это не случайно, и наибольшеесингулярное число всегда не меньше, чем максимум модулей собственных чисел матрицы.Рассмотрим вопрос о том, как связаны сингулярные числа для взаимно обратных матриц.Предложение 3.2.5 Если σ — сингулярное число неособенной квадратной матрицы, то σ −1 — это сингулярное число обратной к нейматрицы.Доказательство. Вспомним, что собственные числа взаимно обратных матриц обратны друг другу (Предложение 3.2.3).
Применяя этосоображение к матрице A∗A, можем заключить, что если λ1 , λ2 , . . . ,λn — её собственные значения, то у обратной матрицы (A∗A)−1 =A−1 (A∗ )−1 собственными значениями являются λ1−1 , λ2−1 , . . . , λ−1n . НоA−1 (A∗ )−1 = A−1 (A−1 )∗ , а потому в силу Предложения 3.2.4 выписан−1−1ные числа λ−11 , λ2 , . . . , λn образуют набор квадратов сингулярных−1чисел матрицы A .
Это и требовалось показать.3.2дСингулярное разложение матрицВажнейший результат, касающийся сингулярных чисел и сингулярных векторов матриц, который служит одной из основ их широкогоприменения в разнообразных вопросах математического моделирования — этоТеорема 3.2.1 (теорема о сингулярном разложении матрицы)Для любой комплексной m × n-матрицы A существуют унитарныеm × m-матрица U и n × n-матрица V , такие чтоA = U ΣV ∗с диагональной m × n-матрицейσ1 0 0 σ20Σ = 0 ... .. .0000σ3...0(3.16)·········...···000,.. .2303. Численные методы линейной алгебрыгде σ1 , σ2 , .
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
