Вырезка из книги Михалева (1113037), страница 14
Текст из файла (страница 14)
Обратно,любой оператор на евклидовом пространстве 1R V, имеющий ортогональную матрицу в ортонормированнам базисе, ортогонален.Доказательство.1)А( е1),Дляортонормированного... , А( е n)базисаel, ... , е nиортогональногообразуют ортогональный базис пространстваVстолбцы матрицы А образуют ортонормированный базис пространствалярным произведением), поэтому А*А=Е, и следовательно, А*=оператора(по леммеА- ,1JRnАэлементы??), следовательно,(со стандартным ска132§ 10.2)Если е1,=матрица, А... , е.; (щj) ЕЕекпнпово пространствоортонормированный базис евклидова пространства JR V, АMn(JR),АА*=Е=A~A. Ае1"", е n равна А, то(A(ei), A(ej)) =--ортогональнаялинейный оператор, матрица которого в базисе(A i . -4j) = bij = (ei' ej),где Ai , А] - i-й и j-й столбцы матрицы А.
(A. i . A.j ) - стандартное покомпонентное скалярное произведение столбцов (так как А*А = Е, то (A.i,A j) = bij). Следовательно, А(е1),'" ,А(е n ) оргонормированный базис евклидова пространства JR V, и по лемме?? А - ортогональный оператор.ОЗамечание10.59.Ортогональные матрицы размераная группа), подгруппу линейной группыравен +1 или -1: АА* =подгруппуGLn(IR).Е, 1 = JAA*1 = IAIIA*Iвсех ортогональныхnХобразуют группуnOn(JR)(ортогональОпределитель любой ортогональной=IAIматриц с определителем2матрицыГруппа On(JR) содержит нормальную+1(специальная ортогональная группаSOn(JR)).Любая ортогональная матрица А ЕOn(JR) обладает следующими свойствами: столбцы матрицыJRn (со стандартным скалярным произведеиием); строкиnматрицы образуют ортонормированный базис в IR.
(со стандартным скалярным произвецением).Действительно, первое свойство следует из равенства А* А = Е, а второе - из равенства AA~ = Е.образуютортонормированныйбазис вКаждое из этих свойств эквивалентно ортогональности матрицы А.ЗамечаниеА1 ,.. . ,10.60 (QR-разложение матрицы и QR-алгоритм). Пусть А Е GL"iRi.А n - столбцы матрицы А. Применяя процесс ортогонализации к линейно невависимойсистеме столбцов А 1 , ... , А n в евклидовом пространстве i n со стандартным СК2.1ЯРНЫ>,! произведением, мы переходим к оргонормированной системе столбцов Q1, ....
Qn. Пусть Q - матрицасо столбцами Q1", ., с; Тогда Q - ортогональная матрица. Каждый шаг процесса ортогонализации для столбцов эквивалентен умножению матрицы, состоящей из рассматриваемых столбцов,справа на верхнетреугольную матрицы.
Поэтому А =QR,гдеQ-ортогональная. аR -верхнетреугольная матрицы. Такое разложение матрицы называется QR-разложенuе},(. При этом можносделать так, что диагональные элементы матрицыв QR-разложении обратимой матрицы А,IAII-Rбудут положительны. Тогда матрицыQиRО, определены однозначно. Действительно, пустьА =Q1B1 = Q2R2. Так как матрица А обратима, то 01- IAI = IQ111R11, и поэтому матрица В 1также обратима. Тогда Q2 1Q1 = В2Нl1. Матрица R 2H11 является произведением верхнетреугольных матрицы, следовательно, R2Hl1 и (R 2R11) = R 1R2 1 - верхнетреугольные матрицы.
Нов 2н1 1 = Q2 1Q1 - ортогональная матрица. Следовательно, (R 2R11)* = (B 2R 11)-1 = B 1R2 1нижнетреугольнаяматрица. Поэтому B 2B11 - диагональная ортогональная матрица, и все её диагональные элементы равны ±1. Так как В2 = (B 2R11)В 1 И все диагональные элементы матриц В 1и В 2 положительны, то в 2к1 1 = Е, R2 = В 1, поэтому Q1 = Q2.Q В-разложение матриц активно используется в вычислительной линейной алгебре. Если известно Q В-разложение матрицы А и решается система линейных уравнений АХ = В Е i n , то этасистема эквивалентна системе ВХ = Q*В, которая решается очень быстро (матрица В верхнегреугольная) .Один из эффективных алгоритмов приближённого нахождения собственных чисел матрицыQВ-алгоритм, состоящий в следующем.
Пусть А ЕразличныИ так далее,k---7и все собственные числа матрицы Апо модулю.Положим А 1приGLn(IR.),00Положим А о = А, и пусть А о = QoR o - QR-разложение матрицы А о .RoQo, рассмотрим QR-разложение матрицы А 1 = Q1R1 И положим А 2 = B 1Q1,A k = QkBk - QВ-разложение матрицы A k, АН1 = BkQk,.. Можно показать, чтоматрицы A k сходятся к верхнетреугольной матрице, на диагонали которой стоят=собственные числа матрицы А.Отметим, что существуют более эффективные, чем обычный процесс ортогонализации, методыпостроения QR-разложений матриц.10.4.133Метод наименьших квадратовУпражнение10.61.Получите QR-разложения:о i)о1О(!(i ~)о11Если А ЕMm,n(IR),-%~) О ~)оо11ОО12J3J6J3о111J3J6v'2111J3J6v'2ооЕRMn(IR),1J3 J321J6у6о1-)'\-г(А) = т, то существуют такая матрицастолбцами и верхнетреугольная матрица2что А =Q Е ~Im.лСR) с ортогональнымиQR (снова достаточно провестипроцесс ортогоиализации столбцов матрицы А).
Такое разложение называется QR-разложениемпрямоугольной матрицы А (с линейно независимыми столбцами).10.4.Метод наименьших квадратовПусть (в результате последовательных измерений) требуется найти величину У как линейнуюфункцию величин Xl, ... , Х n : У =b1 Xl+ ...
+ ЬnХ л,biЕIR.ДЛЯ этого производятся т измерений:..::':' (~~I,)уль~а:~ 1:0;ЗiМ;:И:i(l~~~j~ :n~в~л;ч:~ :'~) ,:,,~y :O:n(::~B:H:m.~(:)Х 2т(столбцы матрицы А: A i=х; 1 ~ i ~ n). Коэффициенты bi , 1 ~ i ~ n, удовлетворяют системелинейных уравнений(20)Обычно число измерений бывает больше числа неизвестных: т> n.Принимая во вниманиепогрешности измерений, мы ищем не точное, а приближённое решение системы(20)может быть и, как правило, бывает несовместной). Точнее, ищется такой набор чиселпри которомквадратичное(системаb1 , ...(20)IR,,Ьn Еуклонениеm(nр = ~ ~ Xil ь, - лпимеет наименьшее значение (если системана любом решении системы(20))2совместна, то р = О, и это значение р достигается(20)).Задача наименьших квадратов впервые была сформулирована Гауссом при решении практической задачи повышения точности задания координат межевых вех (по заказу германского правительства) .Пусть JR:.n - евклидово пространство столбцов длины п со стандартным скалярным произведением.
Тогда р = Ib1X1 + ... + ь.х; - YI. Пусть и = (Х 1 , ... ,Хn ) ~ ]Rim Если У t/:. и, топо ?? минимальное значение р достигается только на ортогональной проекции элемента У на134§ 10.подпространствоu.Допустим, что столбцы Х1 ,...Евклидово пространство.х; линейно независимы. Тогда (Ь 1 , · · · , Ь n )-единственное решение системы линейных уравненийТак как в нашем случае= А*У ,то система(20)может быть записана в видеА*АВ = А*У.(21)Эта система называется нормальной системой для системыТаким образом, решение системы(20)(20).по методу наименьших квадратов задаётся единственнымточным решением системы (21), В = (А* А)-l А*У.Пример10.62. Необходимо найти решение (методом наименьших квадратов) системы+ 4z = -1,х - у + z = 1,х + у + z = 7,х-2у1x+2y+4z=3.Эта система является несовместнойНаходим нормальную системуРешая эту систему, получаем единственное решение х =Пример10.63.5, у= 1,4, z = -1.
Наилучшее отклонениеВ евклидсвом пространстве непрерывных функций на (О, 2п) со скалярнымпроизведением21Ти, g) =Jf(t)g(t) dtо135Метод наименьших квадратов10.4.для функцииll(t)нормированнымтребуется найти такую функциюпринадлежащую подпространству с ортобазисомcos t1ео =чтоw·(t),v'27Т' el =sin tV7Г' е2 =cos ntfi····'e2n-l =sin ntvп' е2n =V7Г'величина27ГJIll(t) - w(t)1 2 dtIll(t) - w(t)1 =оминимальна. Тогда в соответствии с??nw(t)+ I)o,kCOs(kt)+bksin(kt)),= 0,02k=lгде27Г0,0=~27ГJ~o,k =f(t) dt,оЗамечание10.64.J-ll(t).(20)(необязагельно с линейно независиэто в точности решения системылинейно зависимы, то нормальное уравнение10.65.1((1 SillJ·[ (.,[-ОВ общем случае решения системымыми столбцами матрицы А)Упражнениеь; = ~1(t) cos(kt) dt,окоэффициенты Фурье функцииJ27Г(21).Если столбцы матрицы Аимеет бесконечно много вешений.(21)Найдите решение по методу наименьших квадратов системы3х{+ 2у-х+ 10у -А=имеемА* А12120-84-2,7z = 1.(; ~4 ~1)111=12(-7+ 3z =хДля матрицы4у- z = 2,10-7-7) А' е2)-8459(i25),Решение системы(х, у,z)t="71( 2 - t, 1312+ Ы, t ) , tЕJR.Все эти решения (х, у,квадратичное отклонение:5у'6'z)дают одно и то же минимальное136§ 10.Замечание10.66.нений (20) (А* А)13=Евклидово пространствоЕсли столбцы матрицы А линейно независимы, то система линейных уравА*}1- имеет единственное решение.
Это решение может быть эффективнонайдено, например, с использованием LU-разложения положительно определенной симметрической матрицы А * А. В практических вычислениях для уменьшения накопления ошибок стараютсяизбежать прямого вычисления матрицы А* А. ДЛЯ этого можно воспользоваться QR-разложениемматрицы А: если А Ето система(21)M m,n(1R),г(А)=т, А=QR - QR-разложение прямоугольной матрицы А,записывается в видеR* кв= R*Q*QR13 = (QR)*(QR)13 = (QR)* 13= но:fз(ясно, что R*R-разложение Холеского матрицы А*А).
Так как(22)R Е GL r (1R.), то система (22)эквивалентна системе(23)R13 = Q*Yс обратимой верхнетреугольной матрицей R. В таком виде система решается эффективно (формула1b1 , ... , Ь т : В = R- Q*Y).лдля коэффициентовПример10.67л(использования QR-разложениядля решения нормальной системы линейных уравнений в методе наименьших квадратов). Требуется найти решение (методом наименьших квадратов) для системы+ 3у + 5z = -2,х + у + о· z = 3,х + у + 2z = -1,х + 3у + 3z = 2.х1в этом случаеА ~ (~ 1~) Е М4 ,(Щ, ,(А) ~3.Матрица А имеет следующее QR-разложение:Поэтому система(23)имеет видРешая эту систему, получаем хЛеммаО=f15= 2' у = 2' z = -2.10.68. Пусть к V - евклидово пространство, А: V ~ V - ортогональный оператор,=f V, и - инвариантное подпространство для оператора А.
Тогда U~ также инварии ~ V, иантное подпространство для оператора А.Доказательство. Так как А(U) ~ И, то по лемме ?? А*(U~) ~ о: Но А- ортогональный оператор, поэтому A- 1 = А* и A-1(ul.) = A*(Ul.) ~ ul. Следовательно, по лемме ??A(Ul.)=(A-1)-1(Ul.) ~ о:О137Метод наименьших квадратов10.4.Лемма10.69(ортогональныеоператоры в одномерном случае). ПУСТЬ]RVстранство, diШ]R V= 1,А-ортогональный оператор на пространстведественный оператор), либо А =Доказательство. Пустьбазис одномерного пространства ]R V. Тогда А( v)v-х ЕV,х =av,а Еоператора А.