1625915148-9c9f9a2bacef72b603fa281986313335 (843878), страница 49
Текст из файла (страница 49)
В классе линейных оценок л вида ~ а;Ч! найдем наилучшую (в среднеквадратическом смысле) г=- ! оценку случайной величины $ (ср. с п. 2 ~ 8). Простой подсчет показывает, что — 2 ~ гг; (г, г;;) + ! ~, огнь ~~ а,гй, = =-1' 1,' — 2 ~' сч (г, тв) + ~" а == г=-. ! г=- ! где мы воспользовалпсь тем, что а' — 2а;(г, ти) =!гй — (;, г);) ' — !(В, т;),". Отсюда ясно, что инфинум М $ — ~'а,г)! ' по всем действпг=! тельным а„..., а„достигается при а! = ($, тн), ! = 1, ..., и. Таким образом, оптимальной (в среднсивадратическом смысле) линейной оценкой $ по и„..., тм является сценка г=! Прп этом л !г л л = !П(м г — 5„"айг); =((л!г фг (х!г ~~~ ((й „1.) (г (5) г=! г=! (ср, с (1.4.17) и (8.13)). 5 !!. Гилъвегтово пгостглнство случлиных Величин гз! Из (3) вытекает также следующее неравенство Бесселя: если М=(т)„т)„...) — некоторая ортонормированная система и $ ен еЦ то Х!(с ъй)!'=тз!!' (6) «=- ! при этом равенство достигается тогда и только тогда, когда $=!.1.
гп. ~, ($, т)!)«1!. (Т) «-.= ! Оценку $, являющуюся оптимальной линейной оценкой, часто обозначают М (Е ! «1„..., «1„) и называют условнь«м мапымапи!««вским огкиданигм Д относительно Ч„..., т)„) в широком смысле. Это название объясняется следующим. Если рассматрнват ь всевозможные оценки «р=«р(т1,, «1„) случайной величииыпо т1„..., т)„(«р — борелевская функция), то оптимальной оценкой будет оценка «р" =МЯ!т)„..., «1„), т, е. условное математическое ожидание $ относительно т)т, ..., т)„(ср. с теоремой 1 8). Поэтому оптимальную линейную оценку по аналогии обозначают Й($!Ч„..., «)„) и называют условным математическим ожиданием в широком смысле.
В этой связи отметим, что если н„..., «)„образуют гауссовскую систему (см, далее ~ 13), то М Я(т)„..., «)„) и М(з(т)„..., т1„) совпадают, Остановимся на геометрическом смысле оценки 2 = М (с !Ч„... . ° «1»). Обозначим чс))ез Х = Х («)«, ..., т!») линейное многообразие, порожденное ортонормированной системой случайных величин т!!, ..., т1„(т. е. совокупность случайных величин вида ~' а««1«, а! ~ Д), !'=. ! Тогда из вышеизложенного вытекает, что $ допускает гортогональное разложение» (8) где $ ~ Х, а с — ~ ! Х в том смысле, что Ч вЂ” $ 1 Л для любого Л ~Х.
Естесгвенно поэтому Ц назвать проекнией $ на о («ближайшим» к $ элементом из Ж), а Š— $ — перпендикуляром к Х. 4. Предположение ортонормнрованности случайных величин т)„..., т1„позволило просто найти оптимальную линейную оценку (проекцию) з для з по «1„..., «1„. сложнее обстоит дело, если отказаться от предположения ортонормированности. Однако случай произвольных величин «)„..., «)„в определенном смысле может быть, как будет ниже показано, сведен к уже 282 гл. и. мАтемАтические ОснОВАния теОРии ВеРОятнОстей рассмотренному случаю ортонормированных величин. Для простоты дальнейшего изложения будем предполагать, что все рассматриваемые случайные величины имеют нулевые средние.
Будем говорить, что случайные величнны пи ..., Ч„линейно незааисимы, если равенство Л 'У',а;О;=0 (Р-и. н.) (=1 выполнено лишь тогда, когда все а; равны нулю. Рассмотрим матрицу ковариации Я = Мйг)* вектора п=(ПИ г, ~)„). Она является симметрической и неотрпцательно определенной и, как отмечалось в 8 8, найдется ортогональная матрица гВ, приводящая ее к диагональному виду где -Г,3 (9) ~=В '~"т). Тогда матрица ковариацпй вектора р МЩР = В-'гВ* Мт1ц" ВВ-' = В-'В* АВВ-' = Е, и, следовательно, вектор () = (()„ ..., ()„) состоит из некоррелированных случайных величии. Ясно также, что О = (ЕВУ. (10) Таким образом, если т)„..., п„линейно независимы, то найдется такая ортонормированная система р„..., 1)„, что выполнены соотношения (9) и (10).
При атом ~(Ч., ", Ч«)=~А " РА) — матрица с неотрицательными элементами дь являющимися характеристическими числами матрицы Р, т. е, корнями ). характеристического уравнения бе1К вЂ” ),Е) = О. Если величины по ..., Рм линейно иез,висимы, то детерминант Грама (т. е. г)е1й) нс равен нулю и, значит, все 4 О, Пусть $11 ГИЛ1ВЕРТОВО ПРОСТРАНСТВО СЛУЧАЙНЫХ ВЕЛИЧИН ЕЗЗ Изложенный способ получения ортонормированной системы в ряде задач сказывается не очень удобным. Дело в том, что если трактовать ТН как значение случайной последовательности (т1„ ..., »1„) в момент времени 1, то построенное выше значение р1 сказывается зависящим не только от «прошлого» (11„„., Ч,), но и от «будущего» (т111„,, т1„).
Приводимый ниже про1(есс ортогонализации Грал1а — Шмидта не страдает этим недостатком, более того, он Обладает тем преимушеством, что может быть применен к бесконечным последовательностям линейно независил1ых случайных величин (т. е. последовательностям, у которых любое конечное число величин является линейно независимыми). Пусть т)1„п„...— псследовательнссть линейно независимых случайных величин из Ь«. Построим по индукции последовательность е„е„...
следующим образом. Пусть е = — ', Если Ч1 (ч,' е„..., ел, уже выбраны так, что они ортонормированы, то положим 1ч.— ч. ( (11) где Ч„есть проекция т1„на линейное многообразие О (е„ ..., Е„Т), порожденное величинами «1„..., Ч„, « — 1 Т1„= ~ч~~ (11„, ел)ел. »=1 (12) где Ь„=(т1„— т)„(, а т)„определяется формулой (12). Пусть теперь Ч„..., т1„— произвольная система случайных величин (пе обязательно линейно независимых).
Пусть бе( Я=О, где Е= (гд) — матрица ковариаций вектора (11„„,, 11„), и пусть гапйй=г(п, Тогда, как известно из алгебры, квадратичная форма Я(а) = ~ гда,а~, а=(ал, ..., а„), С1ИИ Псскольку величины Ч„..., Ч, линейно независимы и Х(11„..., 11„,)=Х'(е„..., е,,), то )1)„— Ч„))О и, следовательно, е„определено, По построению;,е„,=1, пеь1, и ясно, что (Р„, е»)=0, й<п, Тем самым последовательность е„е„... является ортонормированной. При этом, согласно (11), га4 ГЛ И МАТЕМАТИЧЕСКИЕ ОСНОВЛНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЯ такова, что существует ровно и — г линейно независимых векторов а!'1, ..., а!" — '! таких, что Я(а<!!) =О, !=1, ..., и — г, Но в 11 Я (а) = М ~ ~ алт1л ~, Ф=! Следовательно, с вероятностью единица 'У, 'авдо!(а = О, 1 = 1, ..., п — г,; 1=1 Иначе говоря, существует ровно и — г линейных соотношений между величинами 11„..., т1„.
Поэтому, если, скажем, 11„..., 11, линейно независимы, то все остальные величины 11, „..., и„ линейно через ннх выражаются и, значит, Х(111, ..., 11„) = =- Х(Т11, ..., и,). Отсюда ясно, что с помощью процесса орто- гонализации можно найти г ортонормированных случайных вели- чин е„..., е„таких, что все 11„..., т1„линейно через них выражаются и Ж(т1„..., 11„) =Ж(е„..., е,), 5, Пусть 111, 11,, ..., — последовательность случайных величин из 1.'.
Будем обозначать через Ю=Х(П1, 11„...) линеиное много- образие, порожденное величинами Ч„!1„..., т. е. совокупность л случайных величин вида '~, 'а!111, и ~ 1, а; ~ Я. Через 2' =. !†! =- Ж(11„П„...) обозначим замкнутое линейное многообразие, по- рожденное Т1„11,, ..., т. е.
совокупность случайных величин из Ж и нх пределов в среднеквадратическом смысле. Говорят, что система случайных величин 11„11„... образует светный ортонормированны!! базис (иначе — полну!о ортонорми- рованндю систему) в 1.', если: а) Ч„т)м ...— ортонормированная система, Ь) Х (П„т1„...) = г.т.
Гильбертово пространство со счетным ортонормированным ба- зисом называют сепарабельнылп В силу условия Ь) для любого е~!'.' н заданного е)О найдутся такие а„..., а„, что л (~$ — ~; арй(е. 1=1 Тогда, согласно (3), й 1!$ —,У,($, т1!)11!(~-=е 1=1 % Н ГИЛЪБЕРТОВО ПРОСТРАНСТВО СЛУЧАЙНЫХ ВГЛНЧНН и, следовательно, для сепарабельных гильбертовых пространств 1е любой элемент $ представим в виде ~=Ха, М. ь (13) с=! точнее, Отсюда и из (3) тогда заключаем, что имеет место следующее равенство Парсеваля: $'= 2:!(й тр)" хь~)-' (14) Нетрудно доказать, что верно и обратное: если !"„, с!.„ ...— некоторая ортонормпрованная система и выполнено любое нз условий (13) илп (!4), то зта система являщся базисом.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
