И.И. Гихман, А.В. Скороход - Введение в теорию случайных процессов (1134101), страница 51
Текст из файла (страница 51)
Му=ММ(~~Я=М~, и величины к — у и 5 при любом а еп Л не коррелированы: М (ь — у) $, = М М ((к — у) 5, ~ Я = М$,а1 ((к — у) ~ Я = О. К сожалению, практическое применение теоремы 1 для получения эффективных формул приближения бывает весьма трудным. В случае гауссовских случайных величин, однако, можно пойти дальше. Заметим, прежде всего, что более простой постановкой задачи, приводящей в ряде случаев к законченным и аналитически доступным решениям, является задача отыскания оптимального приближения не в классе всех измеримых функций от заданных случайных величин, а в более узном классе линейных функций. Более точно это означает следующее. Пусть (12, 2В, Р) — основное вероятностное пространство. Предположим, что величины с„и к имеют конечные моменты второго порядка.
Введем подпространство Ы2(29, и ~ Л) гильбертова пространства .У2(кг, Я, Р), являющееся замкнутой линейной оболочкой величин $„, а еп А, и константы. Можно рассматривать подпространство Ж(9„, а еп А) как множество всех линейных (неоднородных) функцйй от $„ с конечными дисперсиями. Наилучшим линейным приближением т к случайной величине ~ является тот элемент Ы2(9„, а ен А), который находится от Ь на кратчайшем расстоянии, т. е. б2 М~~ ~Р~М~~к ~~2 для любого Ь' ен Ы2(9„, а я А). Из теории гильбертовых пространств известно, что задача отыскания элемента ь из подпространства Нь, который находится на кратчайшем расстоянии от заданного элемента Ь, всегда имеет единственное решение. Л именно, к является проекцией ь на Нь Элемент ь может быть определен, и притом единственным образом, из системы уравнений (ь — к, ь") = О для любого ь" ~ ы2(9„, а еп А). В нашем случае эта система уравнений сводится к уравнениям М Я,) = М (Д,), и поскольку в 2'2(9„аенА) включена единица, то Мьа= М~, зоо ЛИНЕЙНЫЕ ПРЕОБРАЗОВАНИЯ Сл:С1АЙНЫХ ПРОЦЕССОВ 1ГЛ.
Р так что оптимальные линейные оценки ь обязательно не смещены. Можно считать, что М$„= О для любого а. Поэтому в дальнейшем мы ограничимся рассмотрением подпространства случайных величин из Ыз(ь), 9, Р) с математическим ожиданием О. Разумеется, пе всегда есть основания считать, что линейная оценка величины ~ является приемлемой. Например, если й(п) = еч"1ью, где Р равномерно распределена на ( — и, и), то М Ц(п)г,(т)) = О (и Ф т) и наилучшая линейная оценка величины в(т) по значениям всех ь(п) (пчьт) имеет вида(т) =О, т. е.
не использует значений величин $(п). С другой стороны, достаточно произвольной пары наблюдений а(й) и $(й + 1), чтобы определить всю последовательность е(п) точно, а именно Допустим теперь, что все конечномернь|е распределения системы Д, $„, а БЕ А) нормальны и Ме = О, Мь = О. В этом случае из некоррелированности величин ~ — ь и ~„ следует, что они независимы. Поэтому ь — ь не зависит от о-алгебры 5 и М(ц~а) =М(~ — й+~~~) = М(~ — ~)+~=~, Теорем а 2. Для системы гауссовых случайных величин (~, $„, а ~ А) наилучшая (в смысле среднего квадратического отклонения) оценка величины Ь" с помощью ОД„, а ее А)-измеримой функции совпадает с наилучшей линейной оценкой в .'к г й„, а ее А). В дальнейшем рассматривается ряд частных задач на построение оптимальных линейных оценок.
А) Число случайных величин В„конечно (а = 1, 2, ..., Л). Задача имеет простое решение, хорошо известное из линейной алгебры. Предполагая, что В„линейно независимы, можно представить проекцию Ь величины Ь на конечномерное пространство Нь, натянутое на величины в„ (а = 1, ..., и), с помощью формулы (Е1 Е1) ($, Ь)Ь 1 Г ($, Ь) Й, $,)$, (ь,Ь) .
(ь,е,) О где Г = Г(ЕН $м ..., Е„) — определитель Грама системы век- торов еь еь..., $„: ь 6! пРОГн03 и ФильтРлция стАННОИАРных пРОпессОВ 30! и ($, т!) = М(яЧ). Средняя квадратическая погрешность б приближенного равенства ~ = ~ равна длине перпендикуляра, опущенного из конца вектора $ на пространство Нь, и дается формулой Г (1, 12, ..., 1, П ГЯН Зь "" йа) Б) Рассмотрим задачу об оценке с„учайной величины Г по результатам наблюдения с. к. непрерывного случайного процесса $(1) на конечном промежутке времени Т = !а, Ь).
Пусть 16(1, з) — корреляционная функция процесса В(!). В салу теоремы 5 в 1 процесс в(1) может быть разложен в ряд ь (1) = Х '!|! Ль (() зь где е|А(!) — ортонормированная последовательность собственных функций, ль — собственные значения корреляционной функции на (а, Ь); )ьбрь(1) = ~ Р(1 з) |рь(з)|(з а $6 — нормированная некоррелированная последовательность, МЫ,=Ь,. Очевидно, что Дь), й = 1, 2, ..., образуют базис в 2'2Д(1), 1~ (а, Ь)). Поэтому ~ =. Х с„$„, а | где ь хlх„$„~ $ (1) ч~„(1) Ш, п = 1, 2, ..., а ь с„= Мй„= 1 гд(1) |р Р) Ж, Лсь(1) = Ма(1). а Средняя квадратическая погрешность б оценки может быть найдена по формуле ь 2 б2=М!СР— М!ВР=М!~1' — ~ ~йи(1)р (1)6(1 .
а 0 а Практическое применение этого метода затруднено сложностью вычисления собственных функций и собственных значений ядра Й(1, з). 302 линвпныг пгвовгязовяния слячлпных пгоцессов ~гл, ч В) метод Винера. пусть э(1) и ь((), 1 ~ т, — две гильбертовы случайные функции. Допустим, что процесс $(Г) наблюдается на некотором множестве Т" значений аргумента й Ставится задача об определении оптимальной оценки значения ь(~г), Гя ~ Т, по наблюденным значениям $(1), Г ~ Т'. Если предположить, что искомая оценка имеет внд ь(Г,) = ~ с (я)К (я) т(Йя), (5) где т — некоторая мера на Т* н выполнены условия, при которых этот интеграл имеет смысл, то уравнение (4) принимает внд ~ с(я) Иы(я, )) т(дя) =ась(1„1), 1евТ", (6) г' где Йяэ — корреляционная функция $(1), а Рд — взаимная корреляционная функция ~(Г) н $(Г).
Уравнение (6) является интегральным уравнением Фрсдгольма первого рода с симметричным (эрмитовым) ядром. Далеко не всегда оно имеет решение. Однако если ~ М~ в(~) гт(й() < т то интегральное уравнение (6) имеет решение с(я)еп Ыя(т) тогда н только тогда, когда оптимальная линейная оценка ~(гя) величины ~(() имеет внд (5). Пусть Т вЂ” ось действительных чисел, Т' =(а, Ь), процессы $(1) и ь(Г) стационарны н стационарно связаны (в широком смысле), а в качестве меры т взята лебегова мера.
Тогда уравнснне (6) принимает внд ~ с (я) Ряе (я — () йя = Рст Рг — (), ( ~ (а, Ь). а Если ь(~) = 3(~) ( — со ~ «= со) и ~г ) Ь, т. е. если задача состоит в оценке величины $(1г) по значениям а(1) в прошлом, то задачу будем называть задачей чистого прогноза. Остановимся подробнее на задаче прогноза величины ~(1+ д) по результатам наблюдения процесса $(я) до момента времени г, 1 = я. Прн этом будем предполагать, что процессы $(г) и Ь(1) стационарны н стационарно связаны (в широком смысле).
Прогнознрующую величину ь(() будем рассматривать как функцию от 1 пра фиксированном д, $6! пгогноз и еильтгхция стхционлгных пгопгссов зоз Положим (10) ь(1)= 1 С1(з)6(з) д . Легко заметить, что процесс ь(1) является стационарным. Действительно, уравнение (7) в рассматриваемом случае имеет вид ~ с~ (з) Я11(з — и) гЬ = ЯС1 (1 + д — и), и ( 1.
Замена переменных 1 — и = и, 1 — з = 0 преобразует последнее уравнение в следующее: ~с,(1 — Е)г„( — Е) (В=гС1(1+ ), в~о. (8) о Отсюда мы видим, что функция с,(1 — 0) не зависит от й Положим с(0) = с~(1 — О). Уравнение (8) запишется теперь так:. ~с(з))~Ы(1 — з)сЬ=ЛС1(7+1), 1)0, (9) а формула (5) для прогнознрующей функции имеет вид Ь(1)= ~ с(1 — з)С(з)п'з= ~ с(з)$(1 — з)п'з. о Таким образом, процесс 4(1) =~,Я стационарен. Из формулы (10) следует, что с(1) является импульсной переходной функцией физически осуществимого фильтра, преобразующего наблюдаемый процесс в оптимальную оценку величины ь(1+д).
Легко указать выражение для средней квадратической погрешности б прогнознрующей функции 4(1). Так как бз есть квадрат длины перпендикуляра, опущенного из конца вектора ь(1+ д) на ЫгД(з), з ( 1), то бз = М ! ~ (1+ Ч)!2 — М! Й (М) !2 = О =АСС(0) — ~ ~ с(~) Рте(1 — з) с (з) гЬ й.
(11) о о Полагая 1т' с(0) = о"- и переходя к спектральному представлению корреляционной функции Ры(1), получим бз= о' — ~ ~ с(ш) ~'с(ры(ий 304 ЛИНЕЙНЫЕ ПРЕОБРАЗОВАНИЯ СЛУЧАЙНЫХ ПРОЦВССОВ (ГЛ, Ч где Ь41(и) — спектральная функция процесса $(1) и е (;и) $ е (1) е-(и( (11 0 Изложим кратко метод решения уравнения (9), предложен. ный Н. Винером. Допустим, что спектр процесса $(() абсолютно непрерывен и спектральная плотность )41(и) допускает факторизацию (см. теорему 3 5 5) (11(и)=1Ь(ш)Г, Ь(г)= ~а(1)е о(й, йег' ВО, ч( зи Из равенства Парсеваля для преобразования Фурье следует, что )(111(1) = ~ е '1Ь(ш)('а)и= ~ а(1+а)а(з) а)з.