1611688847-5b7354cc83380cb6c671f7c9dd5f83f8 (826648), страница 3
Текст из файла (страница 3)
Бельтрами (Италия) и К. Жордана(Франция), но никак специально не называлось.Термин valeurs singulières — «сингулярные значения» — впервыебыл использован французским математиком Э. Пикаром около1910 года в работе по интегральным уравнениям.Сингулярное разложение матрицСингулярное разложение матриц впервые возникло во второйполовине XIX века в трудах Э. Бельтрами (Италия) и К.
Жордана(Франция), но никак специально не называлось.Термин valeurs singulières — «сингулярные значения» — впервыебыл использован французским математиком Э. Пикаром около1910 года в работе по интегральным уравнениям.Задача нахождения сингулярных чисел и сингулярных векторовматриц, последняя из списка задач вычислительной линейнойалгебры, по-видимости является частным случаем третьей задачи— нахождения собственных чисел и собственных векторов.Но вычисление сингулярных чисел и векторов матриц сделалосьочень важным в теории и приложениях вычислительной линейнойалгебры. С другой стороны, численные методы сингулярногоразложения — весьма специальные.Нормы векторов и матрицНорму можно рассматривать как обобщение на многомерный иабстрактный случаи понятия абсолютной величины числа.Нормы векторов и матрицНорму можно рассматривать как обобщение на многомерный иабстрактный случаи понятия абсолютной величины числа.Вообще, и норма, и абсолютная величина являются понятиями,которые формализуют интуитивно ясное свойство «размера»объекта, его «величины», т.
е. того, насколько он мал или великбезотносительно к его расположению в пространстве или к другимвторостепенным качествам.Нормы векторов и матрицНорму можно рассматривать как обобщение на многомерный иабстрактный случаи понятия абсолютной величины числа.Вообще, и норма, и абсолютная величина являются понятиями,которые формализуют интуитивно ясное свойство «размера»объекта, его «величины», т. е. того, насколько он мал или великбезотносительно к его расположению в пространстве или к другимвторостепенным качествам.Такова, например, длина вектора как направленного отрезка впривычном евклидовом пространстве R2 или R3 .Векторные нормыОпределениеНормой в вещественном или комплексном линейном векторномпространстве X называется функция k · k : X → R, удовлетворяющаяследующим свойствам (называемым аксиомами нормы):(ВН1) kak ≥ 0 для любого a ∈ X, причём kak = 0 ⇔ a = 0— неотрицательность,(ВН2) kα ak = |α| · kak для любых a ∈ X и α ∈ R или C— абсолютная однородность,(ВН3) ka + bk ≤ kak + kbk для любых a, b ∈ X— «неравенство треугольника».Само пространство X с нормой называется тогда нормированнымлинейным пространством.Примеры векторных нормЕсли a = (a1 , a2 , .
. . , an )⊤ , то обозначимkak1 :=kak2 :=nXi=1| ai | ,nXi=12|ai |!1/2,kak∞ := max | ai | .1≤i≤nВторая из этих норм часто называется евклидовой, а третья —чебышёвской или максимум-нормой.Евклидову норму часто называют также длиной вектора.Векторные нормыЕвклидова норма k · k2 замечательна тем, что она порождаетсястандартным скалярным произведением h · , · i в Rn или Cn .Более точно, если скалярное произведение задаётся какha, bi =nXai biилиi=1для a, b ∈ Rn или Cn , то kak2 =pha, bi =nXai bii=1ha, ai.Иными словами, 2-норма является составной частью более богатойи содержательной структуры на Rn и Cn .Векторные нормыЕвклидова норма k · k2 замечательна тем, что она порождаетсястандартным скалярным произведением h · , · i в Rn или Cn .Более точно, если скалярное произведение задаётся какha, bi =nXai biилиi=1для a, b ∈ Rn или Cn , то kak2 =pha, bi =nXai bii=1ha, ai.Иными словами, 2-норма является составной частью более богатойи содержательной структуры на Rn и Cn .Напомним неравенство Коши-Буняковского|ha, bi| ≤ kak2 kbk2 .Векторные нормыНормы k · k1 и k · k2 — частные случаи общей p-нормыkakp =nXi=1|ai |p!1/pдля p ≥ 1,которую называют также гёльдеровой нормой (по имениО.Л.
Гёльдера). Неравенство треугольника для неё —nXi=1| ai + bi |p!1/p≤nXi=1| ai |p!1/p+nXi=1| bi |p!1/p,оно называется неравенством Минковского.Чебышёвская норма может быть получена из p-нормы с помощьюпредела p → ∞, что объясняет индекс «∞» в её обозначении.В нормированном пространстве X шаром радиуса r с центром вточке a называется множество { x ∈ X | kx − ak ≤ r }.2-норма∞-норма❅❅❅❅❅1-нормаГеометрически наглядное представление о норме даётся еёединичным шаром, т. е.
множеством { x | kxk ≤ 1 }. На рисункепоказаны единичные шары для рассмотренных нами норм в R2 .Расстояние между векторамиРасстояние (метрика) между элементами a и b линейногонормированного пространства X может быть задано какdist (a, b) = ka − bk,т. е. как «величина различия» элементов a и b.Матричные нормыОпределениеМатричной нормой на множестве вещественных или комплексныхm × n-матриц называют вещественнозначную функцию k · k,которая удовлетворяет следующим условиям (аксиомам нормы):(МН1) kAk ≥ 0 для любой матрицы A,причём kAk = 0 ⇔ A = 0 — неотрицательность,(МН2) kα Ak = |α| · kAkдля любых матрицы A и α ∈ R или α ∈ C— абсолютная однородность,(МН3) kA + Bk ≤ kAk + kBk для любых матриц A, B— «неравенство треугольника».(МН4) kABk ≤ kAk · kBk для любых матриц A, B— «субмультипликативность».Матричные нормыОсобую ценность и в теории, и на практике представляютситуации, когда нормы векторов и матриц, которыерассматриваются совместно друг с другом, согласованы друг сдругом относительно операции умножения матрицы на вектор.ОпределениеВекторная норма k · k и матричная норма k · k′ называютсясогласованными, еслиkAxk ≤ kAk′ · kxkдля любой матрицы A и всех векторов x.Матричные нормыПример 1.Матричные нормыПример 1.Фробениусова норма матрицы A = (aij ) определяется какkAkF =Xi,j2|aij |!1/2.Матричные нормыПример 1.Фробениусова норма матрицы A = (aij ) определяется какkAkF =Xi,j2|aij |!1/2.Ясно, что она удовлетворяет первым трём аксиомам матричнойнормы просто потому, что задаётся совершенно аналогичноевклидовой векторной норме k · k2 .Пример 1.Чтобы доказать субмультипликативность фробениусовой нормы,рассмотрим2X X2aik bkj .kABkF =i,jkВ силу неравенства Коши-Буняковского!!X2XXaik bkj ≤a2ikb2lj ,kklпоэтомуkABk2F ≤X=Xi,ji,j,k,lчто и требовалось.Xka2ik!a2ik b2lj =XlXi,kb2lj!a2ik!Xl,jb2lj!= kAk2F kBk2F ,Пример 2.Матричная нормаkAkmax = n max |aij |,i,jопределённая для квадратных n × n-матриц, является аналогомчебышёвской нормы векторов k·k∞ .
По этой причине выполнениепервых трех аксиом матричной нормы для kAkmax очевидно.Пример 2.Матричная нормаkAkmax = n max |aij |,i,jопределённая для квадратных n × n-матриц, является аналогомчебышёвской нормы векторов k·k∞ . По этой причине выполнениепервых трех аксиом матричной нормы для kAkmax очевидно.Необходимость удовлетворить аксиоме субмультипликативностиобъясняет появление множителя n перед max |aij |: n!nXXkABkmax = n max aik bkj ≤ n max|aik | |bkj |i,ji,j k=1≤ nnXk=1k=1!max |aik | max |bkj |i,kk,j≤ n2 max |aij | max |bij | = kAkmax kBkmax .i,ji,jПодчинённые матричные нормыОпределениеДля заданной векторной нормы k · k матричная норма k · k′ ,определяемая какkAk′ = maxx6=0kAxk= max kAyk ,kxkkyk=1называется подчинённой к k · k матричной нормой(или индуцированной, или операторной нормой).Подчинённые матричные нормыОпределениеДля заданной векторной нормы k · k матричная норма k · k′ ,определяемая какkAk′ = maxx6=0kAxk= max kAyk ,kxkkyk=1называется подчинённой к k · k матричной нормой(или индуцированной, или операторной нормой).Нетрудно показать, что подчинённая норма удовлетворяют условиюсогласования с векторной нормой, из которой она порождена.Подчинённая норма — наименьшая из согласованных норм.ПредложениеДля векторной 1-нормы подчинённой матричной нормой дляm × n-матриц является!mX|aij |kAk1 = max1≤j≤ni=1— максимальная сумма модулей элементов по столбцам.Для чебышёвской векторной нормы (∞-нормы) подчинённойматричной нормой для m × n-матриц является!nX|aij |kAk∞ = max1≤i≤mj=1— максимальная сумма модулей элементов по строкам.Матричная норма, подчинённая евклидовой норме векторов kxk2 ,есть kAk2 = σmax (A) — наибольшее сингулярное число матрицы A.Вычислительные методыанализа и линейной алгебрыКурс лекцийС.П.
ШарыйКафедра математического моделирования НГУЛекция 22 ноября 2017 г.Сингулярные числа и векторы матрицСтандартные программы для их вычисления существуют вбольшинстве систем компьютерной математики и библиотекматематических программ.Сингулярные числа и векторы матрицСтандартные программы для их вычисления существуют вбольшинстве систем компьютерной математики и библиотекматематических программ.В системах Scilab, Matlab, Octave, Maple и других для вычислениясингулярных чисел и векторов матриц имеется функция svd(аббревиатура от «singular value decomposition»)Сингулярные числа и векторы матрицСтандартные программы для их вычисления существуют вбольшинстве систем компьютерной математики и библиотекматематических программ.В системах Scilab, Matlab, Octave, Maple и других для вычислениясингулярных чисел и векторов матриц имеется функция svd(аббревиатура от «singular value decomposition»)-->A = [ 1 2;A =1.2.3.4.-->svd(A)ans =5.46498570.365966234 ]Сингулярные числа и векторы матрицЗачем нужнысингулярные числаи сингулярные векторы матриц ?Теорема о сингулярном разложении матрицыДля любой комплексной m × n-матрицы A существуют унитарныеm × m-матрица U и n × n-матрица V , такие чтоA = U ΣV ∗с диагональной m × n-матрицейσ1 0 0 0 σ2 0Σ = 0 0 σ3 ..... ....0 0 0·········...···00 0 ,..
. где σ1 , σ2 , . . . , σmin{m,n} — сингулярные числа матрицы A, астолбцы матриц U и V — левые и правые сингулярные векторы A.Сингулярное разложение матрицПредставлениеA = U ΣV ∗ ,где U , V — унитарные матрицы, а Σ — диагональная, называетсясингулярным разложением матрицы A.Сингулярное разложение матрицПредставлениеA = U ΣV ∗ ,где U , V — унитарные матрицы, а Σ — диагональная, называетсясингулярным разложением матрицы A.Если A — вещественная матрица, то U и V являются такжевещественными ортогональными матрицами, и сингулярноеразложение принимает видA = U ΣV ⊤ .Сингулярное разложение матрицСингулярное разложение матриц впервые возникло во второйполовине XIX века в трудах Э.