1611688890-f641c9ec8276824e4686da772eb56520 (826652), страница 42
Текст из файла (страница 42)
любая фундаментальная («сходящаяся всебе») последовательность имеет в нём предел. Это следует из предшествующего рассуждения и из факта полноты вещественной оси R икомплексной плоскости C.В заключение этой темы отметим, что в вычислительной линейнойалгебре нормы векторов и матриц широко используются с серединыXX века. Пионерский вклад в развитие соответствующей математической техники внесли работа Дж. фон Неймана и Г.
Голдстайна [99] имонография В.Н. Фаддеевой [82], которая предшествовала капитальнойкниге [44] и вошла в неё составной частью.3.3еЭнергетическая нормаЕщё одной важной и популярной конструкцией нормы являетсятак называемая энергетическая норма векторов, которая порождается2553.3. Нормы векторов и матрицкакой-либо симметричной положительно-определённой матрицей (эрмитовой в комплексном случае). Если A — такая матрица, то выражение hAx, yi, как нетрудно проверить, есть симметричная билинейнаяположительно-определённая форма, т. е. скалярное произведение векторов x и y.
Обычно обозначают его hx, yiA . Следовательно, можноопределить норму вектора x, какppkxkA :=hAx, xi =hx, yiA ,т. е. как корень из произведения x на себя в этом новом скалярномпроизведении.Норма k · kA называется энергетической нормой относительно матрицы A, и нижний индекс указывает эту порождающую матрицу.Энергетическую норму k · kA часто называют также A-нормой векторов, если в задаче имеется в виду какая-то конкретная симметричнаяположительно определённая матрица A. Термин «энергетическая» происходит из-за аналогии выражения для этой нормы с выражениями дляразличных видов энергии (см.
также §3.10а).x2x1Рис. 3.7. Шар единичного радиуса в энергетической нормепри значительном разбросе спектра порождающей матрицыТак как симметричная матрица может быть приведена к диагональному виду ортогональными преобразованиями подобия, тоA = Q⊤ D Q,где Q — ортогональная матрица, D = diag {λ1 , λ2 , . . . , λn } — диагональная матрица, на главной диагонали которой стоят собственнные2563. Численные методы линейной алгебрызначения λi матрицы A. ПоэтомуqpkxkA =hAx, xi =hQ⊤DQx, xinXpp=hDQx, Qxi =hDy, yi =i=1λ2i yi2!1/2.(3.28)где y = Qx. Таким образом, в системе координат, которая получаетсяиз исходной ортогональным преобразованием x = Q⊤ y, линии уровняэнергетической нормы, т. е.
поверхности kxkA = const, являются эллипсоидами в Rn . Они тем более вытянуты, чем больше различаютсямежду собой собственные значения матрицы A, т. е. чем больше её число обусловленности cond2 (A).Из сказанного вытекает характерная особенность энергетическойнормы, которая в ряде случаев оборачивается её недостатком, — возможность существенного искажения обычного геометрического масштаба объектов по разным направлениям (своеобразная анизотропия).Она вызывается разбросом собственных значений порождающей матрицы A и приводит к тому, что векторы из Rn , имеющие одинаковуюэнергетическую норму, существенно различны по обычной евклидовойдлине, и наоборот (Рис.
3.7). С другой стороны, использование энергетической нормы, которая порождена матрицей, фигурирующей в постановке задачи (системе линейных алгебраических уравнений, задачена собственные значения и т. п.) часто является удобным и оправданным, а альтернативы ему очень ограничены. Примеры будут рассмотрены в §3.10б, §3.10в и §3.10г.Из общего факта эквивалентности любых норм в конечномерномлинейном пространстве следует, что энергетическая норма эквивалентна рассмотренным выше матричным нормам k · k1 , k · k2 , k · k∞ , фробениусовой норме и норме k · kmax . Но интересно знать конкретныеконстанты эквивалентности. Из выражения (3.28) следует, чтоmin |λi | kxk2 ≤ kxkA ≤ max |λi | kxk2 .iiДругие двусторонние неравенства для энергетической нормы можнополучить на основе Предложения 3.3.7.Выражения для матричных норм, которые подчинены энергетической норме векторов или просто согласованы с нею, выписываютсянепросто.
Даже не всегда можно указать для них явный и несложно3.3. Нормы векторов и матриц257вычисляемый вид. Тем не менее, мы приведём полезный и красивыйрезультат на эту тему, который будет далее использован при исследовании метода наискорейшего спуска в §3.10б:Предложение 3.3.8 Пусть A — симметричная положительно определённая матрица, порождающая энергетическую норму k · kA . ЕслиS — матрица, которая является значением некоторого многочленаот матрицы A, то для любого вектора x справедливоkSxkA ≤ kSk2 kxkA .(3.29)Доказательство. Воспользуемся разложением симметричной положительно определёной матрицы A в виде A = QΛQ⊤ , где Q — ортогональная матрица, а Λ — диагональная матрица с положительнымисобственными значениями A по диагонали.Ясно, что матрица S, фигурируюшая в формулировке предложения, — симметричная одновременно с A.
Для неё справедливо аналогичное разложение S = QΣQ⊤ с той же самой матрицей Q, гдеΣ = diag {s1 , s2 , . . . , sn } — диагональная матрица, имеющая по диагонали собственные числа S. Тогда S ⊤ = QΣQ⊤ и потомуkSxk2A = hASx, Sxi = hA QΣQ⊤ x, QΣQ⊤ xi= hQΛQ⊤ QΣQ⊤ x, QΣQ⊤ xi = hΛΣQ⊤ x, ΣQ⊤ xi= hΣΛΣQ⊤x, Q⊤ xi = hΣ 2 ΛQ⊤ x, Q⊤ xi≤ s21 hΛQ⊤ x, Q⊤ xi = s21 hQΛQ⊤ x, xi= kSk22 hAx, xi = kSk22 kxk2A ,где s1 — наибольшее сингулярное число матрицы S, т. е.
s1 = kSk2 . 3.3жСпектральный радиусОпределение 3.3.6 Спектральным радиусом квадратной матрицыназывается наибольший из модулей её собственных чисел.Эквивалентное определение: спектральным радиусом матрицы называется наименьший из радиусов кругов комплексной плоскости C сцентрами в нуле, которые содержат весь спектр матрицы.
Эта трактовка хорошо объясняет и сам термин. Обычно спектральный радиусматрицы A обозначают ρ(A).2583. Численные методы линейной алгебрыСпектральный радиус матрицы — неотрицательное число, котороев общем случае может не совпадать ни с одним из собственных значений (см. Рис. 3.8). Но если матрица неотрицательна, т. е. все её элементы — неотрицательные вещественные числа, то наибольшее по модулю собственное значение такой матрицы также неотрицательно и,таким образом, равно спектральному радиусу матрицы. Кроме того,неотрицательным может быть выбран соответствующий собственныйвектор.
Эти утверждения составляют содержание теоремы ПерронаФробениуса, одного из главных результатов теории неотрицательныхматриц (см. [9, 35, 50]).Imρ0ReРис. 3.8. Иллюстрация спектрального радиуса матрицы:крестиками обозначены точки спектра.Предложение 3.3.9 Спектральный радиус матрицы не превосходитлюбой её нормы.Доказательство.
Рассмотрим сначала случай, когда матрица является комплексной.Пусть λ — собственное значение матрицы A, а v 6= 0 — соответствующий собственный вектор, так что Av = λv. Воспользуемся тем установленным в §3.3в фактом (Предложение 3.3.4), что любая матричнаянорма согласована с некоторой векторной нормой, и возьмём от обеихчастей равенства Av = λv норму, согласованную с рассматриваемой3.3. Нормы векторов и матрицнормой матрицы kAk. ПолучимkAk · kvk ≥ kAvk = kλvk = |λ| · kvk,259(3.30)где kvk > 0, и потому сокращение на эту величину обеих частей неравенства (3.30) даёт kAk ≥ |λ|.
Коль скоро наше рассуждение справедливо для любого собственного значения λ, то в самом деле max λ =ρ(A) ≤ kAk.Рассмотрим теперь случай вещественной n × n-матрицы A. Если λ— её вещественное собственное значение, то проведённые выше рассуждения остаются полностью справедливыми. Если же λ — комплексноесобственное значение матрицы A, то комплексным является и соответствующий собственный вектор v.
Тогда цепочку соотношений (3.30)выписать нельзя, поскольку согласованная векторная норма определена лишь для вещественных векторов из Rn .Выполним комплексификацию рассматриваемого линейного пространства, т. е. вложим его в более широкое линейное векторное пространство над полем комплексных чисел. В формальных терминах мыпереходим от Rn к пространству Rn ⊕ iRn , где i — мнимая единица(т. е. скаляр, обладающий свойством i2 = −1), iRn — это множествовсех произведений iy для y ∈ Rn , а «⊕» означает прямую сумму линейных пространств (см. [10, 23, 35, 84]).Элементами Rn ⊕ iRn служат упорядоченные пары (x, y)⊤ , где x,y ∈ Rn .
Сложение и умножение на скаляр (α + iβ) ∈ C определяютсядля них следующим образом(x, y)⊤ + (x′ , y ′ )⊤ = (x + x′ , y + y ′ )⊤ ,(α + iβ) · (x, y)⊤ = (αx − βy, αy + βx)⊤ .(3.31)(3.32)Введённые пары векторов (x, y)⊤ обычно записывают в виде x+i y, причём x и y называются соответственно вещественной и мнимой частямивектора из Rn ⊕ iRn . Линейный оператор, действующий на Rn ⊕ iRn ипродолжающий линейное отображение на Rn , порождаемое матрицейA, может быть представлен в матричном виде какA 0.(3.33)A=0 AЕго блочно-диагональный вид объясняется тем, что согласно формуле(3.32) для любого α ∈ Rα · (x, y)⊤ = (αx, αy)⊤ ,2603. Численные методы линейной алгебрыи потому вещественная матрица A независимо действует на вещественную и мнимую части векторов из построенного комплексного пространства Rn ⊕ iRn .Без какого-либо ограничения общности можно считать, что рассматриваемая нами норма матрицы, т.