3. Основы теории случайных процессов. Карлин (1971) (1186156), страница 84
Текст из файла (страница 84)
Из последнего соотношения следует, что (х, Ху) = Х(х, у). Говорят, что векторы х и у ортогональны, если (х, у) = О. Норма 11х9 вектора х определяется как 9х11 = (х, х)'/. Набор (а!/), й/ = 1, ..., л,комплексных чисел образует (квадратную) матрицу порядка и, обычно обозначаемую А = )~а!/!1, й/= 1,, л. Квадратная матрица порядка п определяет преобразование (или оператор) в и-мерном пространстве, ставящее в соответствие вектору х из этого пространства вектор у = Ах, где и л Гм= ~ а//х/, !' = 1, ..., и, либо вектоР г = хА, где г/= 2'„х/а//, / 1 !-! /=1, ..., и.
Из этого определения непосредственно следует, что А (ах+ ру) = аАх + 1)Ау, (ах + Оу) А = ахА + 9уА Р !. Саектральиал теорема для любых векторов х и у и любых констант а и (!. Кроме того, (х, Ау) =(хА, у), где А — квадратная матрица порядка и с элементами аеь В. Собственные значения и собственные векторы Комплексное число Л называется собственным значением (или характеристическим числом) матрицы А, если существует такой вектор х(М ФО, что Ахиа = Лх!"Л Пусть Л вЂ” собственное значение матрицы А; множество йм состоящее из всех векторов х, таких, что Ах = Лх, называется правым собственным подпространством матрицы А, соответствующим собственному значению Л.
Элементы подпространства й„называют при этом правыми собственными (или характеристическими) векторами, соответствующими (отвечающими или принадлежащими) собственному значению Л. Очевидно, что из у, вен йь следует, что ау+ Ьх енйь для любых констант а и Ь. Размерность йь называют кратностью собственного значения Л. Если йь ..., й„ вЂ” собственные надпространства оператора А, соответствующие различным собственным значениям, то ненулевые вектоРы «Рь ..., ~Р„пРинадлежащие подпРостРанствам йь ..., й„соответственно, линейно независимы. В самом деле, предположив противное, обозначим через лт наименьшее целое число, для которого существуют векторы еР, яй,, ..., ~Р, енй, и константы сь ..., с , такие, что с,~р,, + ... + с ~Р, = О, где не все с; равны О и все ея 1 (/ (пт, различны.
Очевидно, т)~2. Применяя А к обеим частям предыдущего равенства, получаем Л1с~~рй+ ... +Л с тР~ =О. Если хотя бы одно из' собственных значений Ле равно нулю, то т — 1 векторов ~Р, линейно зависимы, что противоречит определению числа лт. Если же все Ле отличны от нуля, то, умножая равенство ср,,+ ... +с еР, =О, например, на Л, и вычитая из результата равенство Л,с,ер, + ... +Л с ~Р, = О, получаем (Л2 Л\) стере + ' ' + (Л Л!) с три О Последнее также противоречит определению т.
Пусть ~Р",, ..., ~Р"' — базис собственного подпространства й„ ! = 1, ..., г; легко видеть, что векторы ш ш сл сэ (т~, !т) ЕР1 в в ~Рм г тР1 > з «Рта '> еР~ в '~ ~Рд~ 1 т т линейно независимы. Из вышесказанного следует, что А может иметь лишь конечное число собственных значений и собственных подпространств, В том важном случае, когда сумма размерностей Приложение собственных подпространств равна и, в и-мерном векторном пространстве существует базис из собственных векторов матрицы А. Матрица А, обладающая этим свойством, называется приводитиой к диагональной форме (или диагонализируемой).
Точно так же, как в предыдущих рассуждениях мы отправлялись от уравнения Ах = Лх, за основу можно принять уравнение хА = Лх. Оказывается, что значения Л, при которых уравнение хА = Лх имеет ненулевое решение, суть собственные значения матрицы А, определенные ранее. Размерность подпространства, образуемого век~орами, удовлетворяющими уравнению хА = Лх (левыми собственными векторами), равна кратности собственного значения Л.
(Читателю следует убедиться в этом самостоятельно.) Как и в предыдущем случае, левые собственные векторы, отвечающие различным собственным значениям, линейно независимы. Отметим, что собственные значения матрицы А являются корнями алгебраического уравнения и-й степени йеЦ!А — Л1! = О, где ! — единичная матрица.
Отсюда следует, что если ',1 где Аь Ае — квадратные матрицы, то Л является собственным значением матрицы А тогда и только тогда, когда Л вЂ” собственное значение по крайней мере одной из матриц А1 или Аз. Действительно, так как бе!1А — Л11= де!!А, — Л11де((~ А,— Л! 1, где через 1 обозначены единичные матрицы соответствующих по- рядков, то утверждение очевидно. (а) Спектральное представление В этом пункте мы будем предполагать, что матрица А действительная, т. е. что ее элементы — действительные числа. Пусть матрица А такова, что ее правые собственные векторы образуют базис в и-мерном векторном пространстве.
В этом случае, как легко убедиться, левые собственные векторы также образуют базис. Если элементы матрицы А действительны, указанные базисы можно сделать биортогональными. Покажем это. Пусть «рь ..., <р„ и ~рь ..., ~р„— базисы из правых и левых собственных векторов соответственно. Биортогональность базисов означает, что ( 1, если е= г', ( О если [, если е~у. Прежде всего отметим, что если Ах; = Л;х; и у,А = игу~, то р~(уп х,)=-(ртур х,)=(утА, х;) =(уп Ах;) =(уг, Л;х,) =Ле(уп х,). э' Л Спектральная тепрел«а Таким образом, если р, = Ло то (у,,х;) = О. Далее, из Ах = Лх следует, что Ах = 7,х, где х = (хь...,х„), Это означает, что Л является собственным значением матрицы А той же кратности, что и Л. Пусть Л« Л« Лг Лг Л Л Л .ь« Л .ьг Л вЂ” собственные значения матрицы А, причем Ль ..., Лт — комплексные, а Лт.ь«, ..., Л вЂ” действительные. Обозначим соответствующие правые собственные подпространства через %«, Йь ..., %„ Й„Я,е«, ..., И, а левые собственные надпространства через Как мы уже показали, каждый вектор из О«ортогонален любому правому собственному вектору, за исключением принадлежащих подпрострапству Й«.
Наша задача теперь состоит в выборе базиса ф«, ..., фе подпространства 6 « и базиса «рь ..., ф« («7 — кратность собственного значения Л«) подпространства Й«, векторы которых обладают тем свойством, что («р«, ф;) = би. Чтобы решить эту задачу, предположим, что фь ..., фе — произвольный базис в Й«, а уь ..., Уа — произвольный базис в 6 ь Нам нужно найти такие константы с«, ..., сю что «р« = с,у, + ... + саул и (Ф ф«) = би « = 1, 2, ..., «(, т. е с, (у„«р,) + с,(у„«р,) + ... + се(ую «р,) =-1, с«(У«фг) + сг(ум фг) + + се(уе фг) = 0 с,(уо фе)+с,(у,, фе)+ ... +с,(ую фа) =О.
Если эта система линейных уравнений относительно с„..., се не имеет решения, то вектор (1,0,...,0) не представим в виде линейной комбинации векторов 1« =((У» ф ) ° (У| фа)) ° ° Ь=((у ф«) ° ° ' (Уе фе)). Отсюда следует, что эти векторы линейно зависимы, т. е. существуют константы а«, ..., аю не все равные нулю, такие, что а«т«+ ... + аа(а = О. Но это значит, что (а«у, + ... +алуа, ф,)=0, «'=1, ..., «(. Ранее нами было доказано, что векторы уь ..., Уе (а следовательно, и любая их линейная комбинация) ортогональны любому правому собственному подпространству, за исключением Йь Теперь мы видим, что а,у, +...
+ ануе ортогонален всем правым собственным векторам и, разумеется, любой их линейной комбинации. По предположению правые собственные векторы образуют «7 Зьк. 939 Прилоа ел ив базис. Поэтому вектор а,у, +... + азуз ортогонален самому себе и, следовательно, равен нулю. Это противоречит линейной независимости векторов уь ..., уж Таким образом, искомый вектор ~р, существует. Остальные векторы, Чм ..., ~рю строятся точно так же. Остается показать, что векторы Чь ..., Чз линейно независимы. ПРедположим, что а~~Р~ + ... + азиз = О; тогда 0=(а,Я, + ...
+ а„тр,, ~р,) г-ао 0 = (а, Ч, + ... + пЯю грз) = а„ 0 = (а тр, + ... + а~ф„, <р„) = аю а это и означает, что векторы ф линейно независимы. Итак, мы показали, что действительная диагонализируемая матрица имеет базис из правых собственных векторов ~рь ..., ~р„ и базис из левых собственных векторов ич, ..., Ч„, векторы которых биортогональны, т. е. (Чь~р,) = бп. Мы воспользуемся этим результатом при построении канонического представления матрицы А, называемого спектральным.
Пусть Ль ..., ˄— собственные значениЯ матРицы А, а ~Рь ..., ~Р„и ~Рь ..., ׄ— соответствующие им правые и левые собствевные векторы. Пусть Р;=(Рп, ", Р;.), Ч =(Рп., Р.), 'Ф Чы ~ йчл ° ° <Р~~ 1ю Фпн 0 ... О 0 Лэ...О 0 О Из биортогональности базисов «рь ..., ~р„и Чь ..., Ч„сразу же следует, что Ч"Ф = 1, где 1 — единичная матрица. Кроме того, непосредственным вычислением легко установить, что ФЛЧ"~р; = Л;~рь ( = 1, ..., и.
Поскольку А~р; = Лпрь ~ = 1, ..., п, и векторы чч образуют базис во всем пространстве, то А = ФЛЧ' и ФЧ" = 1, 507 э" 2. Теория Фробениуоа Легко видеть, что А'"= ФЛЧ"ФЛЧ" ...ФЛЧ" =ФЛ Ч'. Так как О ... О О А,"...О 0 0 то А'" относительно легко вычисляется, если известно спектраль- ное представление матрицы А. !б) Сходимость Нам понадобится понятие сходимости для последовательностей векторов и матриц. Говорят, что последовательность хп>, х<о>, ... векторов и-мерного векторного пространства сходится к вектору х<о>, если !пп х<<»=х",>, 1=1, ..., и.
Точно так же последовательность квадратных матриц А<'>, А<о>, ... порядка и сходится к матрице А<'>, если 11<и а<Я>=а<о>, 1, 7'=1, ..., и. „„п»~ Из этих определений сразу же следует, что если !пп А' А' ' <я> <о> В-» и !пп хп>=х'", то 1пп А<Их<И=А'"х<". Более того, если !Ал!— /.+ о +с последовательность матриц, для которой существует матрица А' ' <о> и базис х<", ..., х<"', такие, что 1пп А' 'х">=А"'х">, 1=1, ..., и, о-е то !пп А<И=А<'>. Действительно, в этом случае 1пп А<му= Агву я.+ В-е а для любого у, так как х<", ..., х<"> образуют базис, а, следовательно, у = с,хо'+ ...
+с„х<">. ф 2. ТЕОРИЯ ФРОБЕНИУСА ПОЛОЖИТЕЛЬНЫХ МАТРИЦ Теория положительных матриц, развитая Фробениусом, играет важную роль во многих разделах теории вероятностей, в частности в анализе матриц переходных вероятностей цепей Маркова. Предварительные замечания Если каждый элемент ап некоторой квадратной матрицы А = !!а,,!1, <, 1 = 1... и, неотрицателен, то мы будем писать !7е Гтрн.южанке всв А ) 0; если А ) 0 и по крайней мере один элемент ап ) О, то мы будем писать А ) 0 и называть А положительной матрицей. Если все ап ) О, то этот факт мы будем обозначать А » О. Такими же обозначениями мы будем пользоваться и для векторов.
Именно если х = (хь, х„), то х )~ 0 означает, что х, )~ О для всех ! = 1, ..., и; х > 0 означает, что х)~0 и х; ) 0 хотя бы для одного й и, наконец, х » 0 означает, что х; ) 0 для всех ! = 1,, и. Мы также будем писать х)~у, если х — у)~ О, и т. п, Ясно, что из А)~0 и х)~у следует, что Ах)~Ау, а из А >> 0 и х ) у следует, что Ах » Ау. Пусть А)~0; рассмотрим множество Л всех действительных чисел Х, каждому из которых соответствует вектор х = (хь ..., х,1, такой, что ~х;=1, х)0, Ах)Хх.