А.Д. Вентцель - Курс теории случайных процессов (1134103), страница 16
Текст из файла (страница 16)
Иначе говоря, при любом 1 любая случайная вели- 2 г чина т1 из Йг принадлежит также и л, -т (точнее, в любом классе эквивалентных друг другу случайных величин, принадлежащем Х,'„, найдется случайная нег личина, принадлежащая Х~г), или, окончательно, г Ь~г =Ьт. Таким образом, регулярным признается положение, когда с течением времени случайность полностью обесценивает всю информацию о далеком прои~лом (з( А г-» — во); возможность совершенно точного прогнозирования связана с какой-то особенностью, вырожденностью процесса.
Разумеется, могут быть процессы не регулярные и не сингулярные, а находящиеся между этими двумя крайностями. Аналогично, если Т неограничено сверху, вводятся г понятия регулярности справа: Х,- + состоит только г г г из констант, и смнгулчрности справа:Х>э =Х~г=Хг. Регулярность или сингулярность процесса однозначно определяется его конечномерными распределениями (см. п. 2). 5. Теперь перейдем к аналогам рассмотренных задач «в широком смысле» вЂ” к задачам наилучшей в среднем квадратическом линейной оценки. Пусть и — интегрируемая в квадрате случайная величина, $ь г е== Т,— интегрируемый в квадрате случайный процесс. Требуется найти случайную величину т) еп Нг = Нгн ~ г, для которой М~ ~г Решение задачи наилучшей линейной оценки есть Ч=прпЧ т т.
е. такой вектор из Нг, что М(ч — й) ь=б для любого Ье=Нг. Это условие можно заменить на Мт1 = Мт1, соч (т~ — т), ь) = О. Способ вычисления ц — линейной оценки т~ — по ~ь г е- =Т, полностью определяется математическими ожиданиями Мть М~, и ковариациями 0т), соч(ть 1~), Квз(й э), причем, так как эти данные проще, чем совместные распределения гьч, а,, М, которые нужно знать для нахождения наилучшей нелинейной оценки, задача наилучшей линейной оценки значительно ближе к эффективной разрешимости.
Ясно, что средний квадрат ошибки наилучшей линейной оценки не меньше, чем средний квадрат ошибки наилучшей оценки (т! ближе к большему пространству Ег, чем к меньшему Н,.), Можно рассматривать задачи наилучшей линейной фильтрации, линейной экстраполяции (прогнозирования), интерполяции. Например, задача наилучшего линейного прогнозирования есть задача нахождения проекции на пространство Н~п. Для решения таких задач в случае стационарных процессов развита мощная теории (см.
Дуб, !956, гл. ХП; Розановв, !963, гл. 11, Н1); с частью этой теории мы ознакомимся в ф 4.3. 6. В связи с задачами наилучшей линейной оценки мы рассматривали пространства Нг, Н -ь и т, пл однако оказывается, что здесь можно обойтись пространствами Н' и т. п., получаемыми как замыкания множеств линейных комбинаций значений случайного процесса без свободного члена. Пусть ц — случайная величина, чь ! е== Т,— случайный процесс М)т!1 М ! $, !т С оо. По предположению, нам известны все моменты первого и второго порядка, в частности, т= =Мт1, т,=МЦг Положим т!о=т! — тп, Ц=Ц вЂ” т, Математические ожидания т!", вот равны нулю, а ковариации остаются прежними.
Пространство о Н,о, г — замыкание множества линейных комбинзций значений зо, 1о— : Т, — обозначим для краткости Но~о. Мы уже говорили, что математическое ожидание т! — наилучшей линейной оценки т! — равно Мт1, т. е. т. Легко проверить, что т! = тп + п)т оо т! ° г Иначе говоря, задачу можно решить, оставаясь в пределах пространства случайных величин с нулевым математическим ожиданием, а потом только прибавить математическое ожидание.
7. Введем понятия линейной регулярности и сингулярности. Пусть вт — интегрируемый в квадрате случайный процесс на неограниченном снизу множестве Т; случайная величина т! е=Нт. Обозначим через т! наилучшую линейную оценку этой величины по 80 в~(1: с1 =пр т1 Случайный процесс называется н<с линейно регулярным слева, если для любого т1 изНт 1пп М ( с1 — с1, ~' = Ос1; он называется линейно сингулярным слева, если этот предел равен нулю, т. е. средний квадрат ошибки тождественно равен нулю. диалогично вводятся понятия линейной регулярности справа и линейной сингулярности справа, Легко понять, что из регулярности процесса вытекает линейная регулярность (раз его нельзя сколько- нибудь точно прогнозировать никак, то нельзя и линейно), а из линейной сингулярности — просто сингулярность (линейный прогноз сколь угодно точен).
8. Посмотрим, какими свойствами обладает задача линейного прогнозирования для стационарных в широком смысле процессов (тот же вопрос можно поставить для нелинейного прогнозирования и стационарных в узком смысле процессов, но мы собираемся конкретно рассматривать только задачу линейного прогноза). Пусть $с — процесс, стационарный в широком смысле, на Т= асс = ( — оо, оо) или на Т=_#_с = = (..., — 2, — 1, О, 1,,). Так как операторсдвнга Ол переводит чс в 5с „, а пространство Н, в Н то, как легко проверить, для любого с1 е=.Нт (В„1) „„=.В„й,; в частности, для любого 1о ) 1 ( сын)<с+о я(-с,)сс (ос,)<с Ос (ьс.-с)~о (Разумеется, все эти равенства должны выполняться почти наверное.) Далее, средний квадрат ошибки прогноза Мр.— 6.) Г=м(йс~Рс.— — А.-) .1Г= с (ьс,— с)~о ! зависит только от го — 1; обозначим его аа(1в — г).
Функция сг'(~)=М(5~ — 6)- (а, естественно, равна нулю при (( О, не убывает при положительных ~; она стремится гс а'=01, при ~- -+ +со для линейно регулярного слева процесса и к нулю для линейно сингулярного. 3 а д а ч а 2 Докажите, что в случае непрерывного в среднеи квадратическом стационарного процесса $к 1 ~я к", функции и'(Г) непрерывна. Для линейной сингулярности достаточно, чтобы оа(в) =О хотя бы при одном в» О; действительно, в этом случае процесс можно со сколь угодно большой точностью продолжить со значений 1 ( 1о до 1в+ + в, затем до 1в+ 2в, и так можно добраться до любого 1~ » 1в (на языке гильбертовых пространств: Н:, = Н«ь~ и =- Н» ь „=...
И - ь), М и к р о т ео р е м а. Для стационарного в широком смысле числового процесса ~ь ~а== Т, Т=й' или Л', линейная регулярность слева и, линейная регулярность справа равносильны. Точно так же равносильны линейная сингулярность слева и справа. Д о к а з а т е л ь с т в о. Как мы уже говорили, решение задачи линейного прогноза однозначно опреде. ляется математическим ожиданием и корреляционной функцией процесса. Значит, линейные регулярность и сингулярность определяются корреляционной функцией процесса (математическое ожидание на них никак не влияет). Регулярность (сиигуляриость) справа процесса Сг — это то же, что регулярность (сингулярность) слева процесса сг = $ г. Но корреляционная функция этого стационарного процесса удовлетворяет равенству К-(т) =- К ( — т) = К (т).
Эта корреляционная функция отличается от Кт(т) только заменой г на — и; значит, и функция й'(~) = М ! е,, — р„В, ~', задающая ошибку экстраполяции «назад», отличается от функции аа(1) — ошибки при экстраполяции «вперед» вЂ” только заменой г' на — ~'. Но аа(1) действительно, поэтому ат(1) = па(г), откуда вытекает утверждение микротеоремы.
82 Лля нелинейной регулярности (сингулярносзи) и стационарных в узком смысле процессов соотнетствующее утверждение неверно. Заметим, что мы доказали нашу микротеорему только для числовых процессов; для векторныл стационарных н широком смысле процессов доказательство не проходит, потону что корреляционная функция (иатричная) при обращении направления времени заменяется на комплексно-сопряженную транспонированную 3 а д а ч а 3*. пусть (яь тр), г ш ( — со, оо), — днумерный стационарный з широком смысле процесс (т. е. Мх,, МП сопМ, а сок (зг, $х), соч (", ц,), соч (т1, ц ) зависят только от ~ — з) Пусть Й г — пространство, линейно порожденное случайными величинами й, т1, хо.,г; хх г — величинами $о Пь з ) й Возможно ли нсрзвенстно М ! э — пртг яг )з яь М ) я г — при- аз г~ эр 9. 3 а д з ч а 4.
Пусть ц — случайная величина, яь 4 гы Т,— случайный процесс, причем нее совместные распределения р й й — гауссовские. Локажите что в этом случае наилучшая оценка ц по $ь 4 ш Т, совпадает с наилучшеа линейной оценкой. В частности, для гауссонского процесса наилучший прогноз его значения в любой момент времени †линейн. С этим, конечно, свнзан (но непосредственно отсюда не нытекает) тот факт, что для гзуссоеских стационарных пропессов регулярность н линейная регулярность равносильны (см. Р о з а н о в, 1963, гл. 1Ъ', 5 9).
Глава 4 КОРРЕЛЯЦИОННАЯ ТЕОРИЯ СТАЦИОНАРНЫХ (В ШИРОКОМ СМЫСЛЕ) СЛУЧАИНЫХ ПРОЦЕССОВ в 4.1. Корреляционные функции В этом параграфе мы рассмотрим некоторые примеры н результаты, относящиеся к «элементарной» части теории, — то, что получается применением к стационарным процессам методов ф 2.1.