А.Д. Вентцель - Курс теории случайных процессов (1134103), страница 15
Текст из файла (страница 15)
»(х)= ~ !~(х!, ..., х„) / р,, (2(х, ... 2(х„) = х . х =-М!11":, ...,Ь, )!'=М!и!'. Это, прежде всего, показывает, что определение, даваемое формулами (1), (2), корректно. Дело в том, что одна и та же случайная величина 21 может, вообще говоря, иметь различные представления (1), причем соответствующие величины (2) могут не совпадать. Но если 1 = ) (~2, - , 5, ) =- а (5.. . 12 ) (хотя бы только почти всюду), то М~~("-2,2» в2„+л) д~~~,+л . х, лл)~ = =М!!(й,, ..., К,) — ~Р„...,Ь2 )~'=О, так что О»21 определяется однозначно с точностью до множеств вероятности О, т, е. однозначно как эле- МЕНТ »,2. Оператор Ол стандартным образом продолжается по непрерывности на замыкание множества случайных величин вида (1), т. е., согласно задаче 1 2 3.2, 2 на все х.г, при этом изометричность сохраняется. Для стационарного процесса можно определить и — ! операторы Ол, действующие на события из У г,— тоже с точностью до событий вероятности О.
Событие — ! О» А определяется как такое, индикатор которого почти наверное равен Олул, при этом приходится 73 доказывать, что Олух почти всюду равно О или !. Точно так же операторы Ол можно распространить на не- интегрируемые случайные величины, положив, например, Олт! = !пОл агс1п4). 5. Для стационарных в широком смысле процессов мы пе можем, вообьце говоря, определить операторы О» на пространстве Йг, но можем определить их 2 на Нг. Для случайных величинт) вида 7!= с»+ сА + +... +с„л, полагае»40»ц=-с»+ с З, л+...+с„ь, л л Это — изол»стричный оператор, и он продолжается по непрерывности, оставаясь изометричным, на все Нг.
Операторы 0», действующие на события, не удается определить, хотя бы потому, что случайная величина тл может не принадлежать Н,. й З.З. Задачи наилучшей оценки 1. К числу теоретико-вероятностных задач, наиболее тесно связанных с приложениями, относятся задачи оценки каких-либо неизвестных величин по наблюдениям случайных объектов. Пусть на вероятностном пространстве (Я, Я, Р) заданы случайная величина л! и случайный процесс ~ь 1»в : 7'. Требуется найти для») наилучшую в среднем квидратичегком оценку по наблюденик» случайного процесса, т, е оценку л), которую можно вычислить по Хь 1е:— : Т, и для которой М !»! — й !з = пни. Уточним постановку задачи.
Пусть случайная величина Ч интегрируема в квадрате. Задача состоит в том, чтобы найти такую случайную величину т! из 2 2 пространства йт = Е;г ~ г, порожденного наблюдаемым случайным процессом, что для любой другой величины т)»вЂ : . Ет М ! ч — ч !з < М ! ч — Ч !'. Оказывается, эта задача всегда разрешима. Мы можем установить это двумя различными способами. Во-первых, мы знаем, что в полном евклидовом пространстве существует ортогональная проекция любого вектора на любое замкнутое подпространство и эта 74 проекция есть ближайший к исходному вектору элемент подпространства.
Это означает, что решение нашей задачи имеет вид т! =пР гт1, ~т Иначе говоРЯ, Ч вЂ” такой вектоР из йт, что длЯ г любого ~епйт (Ч вЂ” Ч, 1) =О, нли, записывая это через математическое ожидание, М (т! — т!) ь = О. Здесь ~ пробегает все элементы йт. Но прн этом комплексно-сопряженная к ~ случайная величина также пробегает все йт, так что условие (2) можно заменить на М(т! — Ч)~=О, ~евйт. (3) С другой стороны, искомое Ч представляется в виде условного математического ожидания Ч = М (Ч ~ бает). (4) Вероятно, зто хорошо известно читателям, но привег, дем доказательство. ПУсть Ч вЂ” пРоекциЯ Ч найт, 'докажем, что выполняется (4). То, что Ч измеримо относительно 9 т, очевидно; остается проверить, что МХлЧ=МХлЧ для любого события Л е-:У т. Но зто вытекает из (3) с ь = Хл 2.
Нахождение оценки Ч состоит из двух этапов: во-первых, мы должны найти способ вычисления Ч по яь ! ~ Т, и, во-вторых, применить этот способ к наблюденным значениям процесса. В какой форме может быть представлено решение первой части задачи? Вспомним, что (согласно задаче 1 3 3.1) любой элемент йт представляется в виде предела в среднем случайных величин вида )(зг, ..., «„1, !и ..., 1„~Т. Таким образом, способ вычисления Ч можно задавать последовательностью натуральных чисел п(й), последовательностью измеримых функций !«от л(я) переменных и последовательностью наборов 1~(А), ...
75 г'„<а!(й) элементов Т. При этом Ч =!.!.щ.1а(5, мр ..., $, ада,). Способ вычисления т! по йь ! е=. Т, мы можем в принципе найти, если нам известны совместные распределения (ь ~ ~ случайной величины Ч и ~л любого числа значений случайного процесса. Рассмотрим для простоты случай, когда множество Т конечно или счетно. Если Т = ((ь ..., у,), то "=-М(Ч~', ".)=Ж ".) Функцию Т можно найти следующим образом. Рассмотрим пространство Сз(г((з„б ~ '! функций ~нl Ф(у, хь ..., х„), измеримых и интегрируемых в квадрате относительно совместного распределения т), й,, ..., я, . Функция )(х,, ..., х„) есть проекция в этом пространстве функции, тождественно равной у, на замкнутое подпространство функций, зависящих только от последних а координат.
В случае бесконечного счетного Т = ((ь ... воспользуемся следующей леммой: Задача !. Н,: — Нас: —... я Н с:-' ...— неубывающая последовательность замкнутых подпространств полного евклидова пространства Н; Н вЂ” замыкание линейного пространства Ц Н,; Ч вЂ” произвольный и=! вектор из Н. Тогда при и- со пРи Ч пРи Ч. и В применении к Н =д,"и, Н„=й(,г,,г ) это Означает, что т! = !. !. пь т!„, где Чи = М (Ч! еьг, н-» 1 ..., ~, ) =) (~,,, Ц, ). (В гл. 7 мы увидим, что Ч„ также сходится к Ч почти наверное.) Лля несчетного Т, в случае стохастической непрерывности вь можно (в силу задачи 2 й 3.!! обойтнсь всюду плотным подмножеством (гь ..., йн ...) ~ Т; в противном случае берем всевозможные Те = (Гь ..., йо ...) ~ Т и выбираем из всех Чг — — М ТЧ ! Ц~...,, й~, ... ! то, дла котоРого М ! Ч вЂ” Ч и !з = пни. а! (В принципе это требует лишь знания всех распределений Н„ .
. и срайнення несчетного множества вариантов.) Принципиальная разрешимость задачи нахождения наилучшей оценки не означает, что существуют эффективные способы ее решения. Задача все же решается в некоторых классах случаев, но решение ее подчас весьма сложно. 3. Рассмотрим различные частные случаи задачи наилучшей оценки. Задача 4илбтрации. Нас интересуют значения случайного процесса т)г, а наблюдаем мы случайный процесс еь который получается из з)г действием какой-то помехи, Простейший случай: сг = т)г+ ьг, где случайный процесс цг («шум»), скажем, не зависит от з)ь Посложнее: йг — — (((, ьг, т)г) или йг — решение дифференциального уравнения й,' = т)', + ((й„ьг) с начальным условием йо =т)а и т. и.
Требуется оценить какое-то значение т)г по наблюдению всех (е:— : Т («отфнльтровать помеху»). Задача экстраполяции (прогнозирования). Пусть йг — случайный процесс, причем нас интересует его значение в момент (ь а наблюдаем мы процесс лишь до какого-то момента (е ( (н Здесь в качестве наблюдаемого йг, (е:— Т, берется йь (<(о, а величина т), подлежащая оценке, есть сг (говоря языком евклидовых пространств, требуется спроектировать й, на Е,», ). Такая постановка задачи отражает черты, характерные для многих практических ситуаций: нашему наблшденяш может быть доступно только настояцгее н прошлое, н нас часто интересует нопрос предсказания будущего (прогнозирования).
Другая точка зрения на ту же задачу — как иа чисто математическую: речь идет об экстраполяции --.продолжении функции $г за пределы отрезка Г ( Гч, на котором она известна (о приближенном продолжении, в определенном смысле наиболее точном). С математической точки зрения совершенно такой же является задача экстраполяции процесса, наблюдаемого прн ( ) (о, до значения (, ((,.
В задачах прогнозирования для случайных про. цессов речь может идти об оценке по йг, ( - (а, случайных величии ть отличных от значений й,, напри! мер; т)=~(йг), т)=(($,, ..., $, ) или, вообще, т)— 77 произвольный элемент Е~,. К таким задачам название задачи экстраполят)ии, пожалуй, уже не подходит. В задачах интерполяции случайных процессов речь идет об оценке значения ~,, где 1о лежит между теми значениями 1, для которых а~ доступны наблюдению. Так, мы можем наблюдать $~ при 1(1, и при 1 ~ 1т, где 1~ ( 1о -" 1ь или наблюдаемыми могут быть ~ли, й =О, +1, ~2, ..., 1о чь Ыь. Можно рассматривать очень много различных (причем осмысленных с точки зрения практики) разновидностей задачи оценки. 11апримср, речь может идти об оценке значения в точке 1о случайного поля (1 пробегает, скажем, какую-то область Т на плоскости) по наблюдениям $т в какой-то части области Т, не содержащей 1о, или об объединении задач прогнозирования и фильтрации и т.
и. 4. Задача наилучшего прогнозирования имеет болыпое значение для теории случайных процессов. Пусть Чь 1е:— : То: — ')т',— случайный процесс, причем множество Т неограничено снизу. Для случайной величины т) оэ:.т,тг обозначим чеРез т1, ее наилУчшУю оценку по $„ з ( й (~~ (~) р 2 Так как А'-~<: — А'-т при 1 (~1', тО средний квадрат ошибки пРедсказаниЯ М ! т1 — ттм, ) — невозРастающая функция от й Все ее значения заключены между нулем и дисперсией еб поэтому существует предел Вгп М ) т) — т)к, (т, (6) С->- причем он лежит между нулем и 0т1.
Случайный процесс Ст называется регулярным слева, если для любой величины т1е-=Т.г предел (6) равен 0т1 (т. е. при значениях 1, далеких влево по оси времени, невозможен прогноз более точный, чем указание Мт1). Случайный процесс называется сингулярным слева, если этот предел равсн нулю. Это означает, что для любой т1 Е' простоМ ~ т1 — т) =О при любом 1, т. с. т1 = т) ., почти наверное.