И.И. Гихман, А.В. Скороход - Введение в теорию случайных процессов (1134101), страница 64
Текст из файла (страница 64)
СС ~ в,' ) в:)— с л-1 =мл,(Пх,С.Р,, СС м,,л лх„С*, С~.. 8~в;). Теперь под знаком математического ожидания стоит произведение уже а — 1 функций, если считать последнюю функцию рав. ной пл с(х) М, хд„(хс (с„, а)). Поэтому, воспользовавспись индукцией, найдем м, . (П а, С*, сс сС ~ в:) = = М (д, (хх (с„сз)) Мс х (, в)йз(хс (1з м)) Х ХМсв», (сз,в)Из(хс,((з ")) Х ... Х М, х (, „>д„(хс (с„, м))(Ь„')= — М с сд,(х (К„сз)) М,, (с,й,(хс ((з, м)) Х „,.
... Х М... >д„(хс (С„, ес)) (псос( Р, х). (7) Полагая в последней формуле з=и„находим л л и „(П х. С*. в .сС) = и.,а, С,. с~, .)С х смх (!с,в)йзС с (2' )) ''' с с,хс (с в)й( с (л~ сэ))' (8) Если в (8) вместо х подставим х,(и,ез), то получим выражение для правой части (6). Поскольку оно совпадает с правой частью (7), (6) доказано. Введем и-алгебры зсс' — это о-алгебры событий, порожденная величинами хм(г', сз) при и ~ з, С'~(з, с).
8сс — о-алгебра событий, порожденных процессом, наблюдаемым на отрезке ТаК КаК В СИЛУ УСЛОВИЯ Д, 2) Х„(С', а) бс-ИЗМЕРИМО ПРИ э и ОВШЕЕ ОПРЕДЕЛЕНИЕ МАРКОВСКОГО ПРОЦЕССА' 387 н «з «Р'«1, Го Из с=К а-алгебры Ио удовлетворяют всем условиям, которые налагались на а-алгебры бо при определе. иии марковского процесса (это условия б), д 2) и д 4)). В проверке нуждается лишь условие д 4).
Но по формуле повторных условных математических ожиданий М, „(д (х, (~, ы)) ~ И„') = М,,, (М,, (д (х. (~, ы)) ~ Е'„) ) И;) = = Мз, х (Ми,х (и, и1йо(хи((о Гэ))1 Ии) = Ми, х (и,со)й (хи(~о Гэ)) (той Р,,х), г«и Г', так как И, ~ Ь'„и х,(и, Вз) — И,-измеримая величина, а функция М„, „д(х„((, н)) — чз-измерима. л'4ы показали, что (5) имеет место, если Ь, заменить на Ии. Таким образом, если (хз(э, в), К, Р,,,) — марковский проз ЦЕСС, тО И (Х~(Э, ЗЭ), ИО Рз, х), ГДЕ Рз, х — ОГРаНИЧЕНИЕ МЕРЫ Р,, х иа И =-() И~о также является марковским.
Очевидно, что Из— з семейство минимальных о-алгебр, относительно которых хз(з, Гэ) может быть марковским. Приведем, наконец, соотношение, обобщающее (6) и выражающее марковское свойство в самом общем виде. Пусть $(а) является ограниченной Янизмернмой величиной. Тогда при з « «и«Г М...(е(ел)!Ь',) = Мхи хзм, Д(зэ) (тос) Р,,). (9) (9) вытекает из (6), так как всякая ограниченная Я'-измеримая величина представима как предел по вероятности Р, „сумм вида ~ Ц д (х,(Г' 1, Гэ)).
Пусть, далее, Ч(зэ) — Я,'-измеримая величина. Из (9) вытекает Мз, ххи (ы) М з, х (Ч (Гд) ~ И ) = Мз, хЧ (ы) хи (ы) — Мз, лЧ (зэ) Мь х н, и)$ (ы) = = М, „(Мо х п,)~ (в)) М, „(Ч„~ И) = М,,~ (зэ) М, „(Ч (зэ) 3 И) . Значит, М ( ( )~Из)=М ( («э)~Из). В силУ (9) и Мз х ($ (из) ! И) = М, „(Е(ГВ) ~ И). ПоэтомУ, какова бы ни была ограниченная измеримая функция л(х), М,,АЧ(ГВ)й(х,(Г Гэ))й(зэ) = М, хЧ (ГР)к,(х,(Г, Гэ)) М, „(ь(м) !И') = =М, „д,(х,(Г, Гэ)) М, х(~(зэ) ~И',) М, „(Ч(ГР) !П',). скьчкоовгхзные мьгковскцг пгоцессы зее сгл.
~ и Отсюда вытекает равенство М, к(ц( )Ь( )151,')=М,,,(ц( )~Р),')М,,,(и )1Р))), (15) выражающее независимость прошлого от будущего при задан'. пом настоящем. Укажеч сейчас некоторые полезные расширения о-алгебр Р1;, относительно которых марковость будет сохраняться.
Обознагпм Яь" пополнение о-алгебРы к)~ по меРе Рк,.к, Р,,„— попол. пение меры, 51', =- Д Я)ч'. Тогда (х (гч в), Я~, Рк ) (мы будем обозначать сужение меры на меньшую о-алгеору тем же символом, если это пе вызывает путаницы) также является марковским процессом. Чтооы уоедиться в этом, достаточно проверить, что выполнено (5), если Я,', заменить Й„. Пусть $(в) — огранпченная %„-измеримая функщпз. Тогда опа и Й,"-измерима. Поэтому существует такая "„-1(в), изморе.аая относительно в(к, что Р, „(~ (в) =- $, (в)) =- 1.
Значит, при з < и < г (обозначая М интеграл по Р) будем иметь М „„д (Х, (Г, В)) ~ (В) = М „яд (Х, (1, В)) В | (В) = = М„„~, (в) М„, (д (хк(1, в)) ~ й„') = = Мк, кк1(гв) Мк, кк <к, Вд (Хи(Г, В)) — = Мк, к1 (В) Ми, кк В, Ву (Хи(1 В)) ° Из этого соотношения и вытекает (5). Пусть теперь Х вЂ” метрическое пространство, о-алгебра 8 содержит все сферы.
Обозначим %7+= П й! Т е о р е м а 1. Пусть о-алгебра 6 порождается множеством непрерывных функций, а вероятность перехода Р(з, х,1, В) непрерывного справа марковского процесса (х,(г, в), Я~, Р,,) удовлетворяет условию: для всех з и Г и ограниченной непрерывной Ю-измеримой функиии д(х) функция д,(х) = М, кд(х,(1, в)) непрерывна по х и удовлетворяет условию 1!гп 1д, ьь(х) — д;.ьь(у) ~ = О. ьэо д-кк Тогда пРоцесс (х,(Г, в), Ясэ, Р,,) также Явллетса маРковскпм. ОБШЕЕ ОПРЕДЕЛГППГ МЛРКОВСЕОГО ПРОЦРСГЯ 389 з и Доказательство.
Достаточно проверить соотношение (5), если ~1'=й)(+ для непрерывных функций й(х). Пусть е(в) — з((+-измеримая ограниченная функция. Тогда для лобого Ь ) О она Я'„+л-измерима. Следовательно, М», »и (В) и (Х» ( В)) М Ь»Ь (В) М», » ЛК (Х» (! В)) ! Яи+Л) = М5, »ь (в) ]М»+л, » (и+л, ый (Хи+а (! в)) = М„8(в) д„~л(х,(а+ Ь, в)), (11) Заметим, что функция д„(хи(и, в)) является ограниченным мар- тингалом, так как при и, ( и М,,[ди(х,(и, в)) ] Я„'1 = М,,[[М, „д(х,(1, в))! ЯД,(Я'„=— = М,,[д(х,(1, в)) ]Я'„~ =д„(х,(ип в)) Поэтому существует с вероятностью 1 предел (см.
$6 гл. !Ч) !!шди+л(х,(и+ Ь, в)). ЛФЛ Так как в силу условия теоремы и непрерывности процесса справа с вероятностью ! !!т ]д„.(л(х,(и+ Ь, в)) — ахи+а(х,(и, в))] О, Лэи то 1нп д„+л(х,(и+ Ь, в)) =!Пп ди.(„(х,(и, в)), Пусть и обозначает Лэч м,о общее значение этих пределов. т( совпадает с Я„"-измеримой вечичнной (как предел таких величин) и, следовательно, имеет вид Л(х,(и,в)), где 1,(у) — некоторая 6-измеримая функция. Переходя в равенстве (11) к пределу при Ь ! О, находим М„Д(в)д(х,(1, в)) = М, „$(в)Ь(х,(и, в)).
(12) Если "- (в) Р)'„-измерима, то левая часть этого равенства совпадает с выражением М.. »е (в) М... (,, ыд(х, (1, в)). Поэтому М. »$(В) Ми,» (и, и)д(Х»(1, В)) = М.,»Л(В)Л(Х»(и, В)) для всех з(,-измеримых ограниченных величин й(в) и, значит, К(Х»(и В)) = Ми,» (и Ыи(Х»(1~ В)) СКАЧКООБРАЗНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ 390 1гл, тц Подставляя выражение для Л в (12), убеждаемся в справедливости (5) при К=У)ьь И 3 а м е ч а н и е. Используя марковость процесса (х,(1, ы), У)1+, Р,,), можем точно также, как (10), установить аналогичное равенство, если т1(1ь) 91;+-измерима.
Пусть В вне,+. Тогда тв является У(1+-изыериь1ой и У)Сизмеримой. Значит, Р,,(В~У(,)=М, „(~,~,191,)= = Мь,(Х )%,') М, „(11 ~У(,') = Р',,(В )Я,'). Поэтому в условиях теоремы 1 Р, „(В!%',) может равняться или О, или 1 для В ен с1,'+. Это утверждение носит название «закона 0 или 1» для марковских процессов. В дальнейшем мы будем использовать понятие стохастической эквивалентности марковских процессов. Пусть имеется два марковских процесса (х,(1, 1ь), Я1, Р,,) и (х,(1, ь1), Ж, Р,,) с одним и тем же фазовым пространством (Х, 6) и заданных на одном и том же пространстве элементарных событий (й, 6). Они называются стохастически эквивалентными, если сушествует такой же марковский процесс (х,(1, сь), Й1, Р.,), для которого: а) Й; ~ЯМ $ с =4 б) меры Р,,„, Р,, „, Р, „совпадают на 1о'; в) для всех 1 Р, „(х,(1, 1ь)=х,(С, сь))=1, Р, „(х,(1, сь)=х,(1, 1ь))=1. Очевидно, стохастически эквивалентные процессы имеют Одинаковые вероятности перехода.
Пусть (х,(1, м), Сс, Р,,) — марковский процесс. Неотрицательная случайная величина т называется марковским моментом для этого процесса, если при 1)0 событие (т >1)сна, т. е. наблюдая процесс на отрезке времени [О, 1) мы можем судить, наступил момент т или нет, Вообц1е говоря, будут рассматриваться моменты, могущие принимать значение + Ро. Кроме марковских моментов будем рассматривать з-марковские моменты (з > 0); в этом случае т > з и при 1> з событие (т > 1) ~ Я~.
0-марковские моменты являются просто марковскими. Пусть т — з-марковский момент. Совокупность событий из Ю', для которых АП( ~1) обозначим Я,. Очевидно, что Я; является о-алгеброй. Очевидно, что т измеримо относительно Я;. Л е м м а 1. Если Х вЂ” метрическое пространство, 6 порождено некоторым классом непрерывных функций и х,(с, сь) непрерывно овщее оп~ сдслгнце маяковского пгоцвссл гп справа, го х,(т, в) гакзсе Ъ;-измеримо для любого я-марковского момента т.
Доказательство. Имеем для любой непрерывной измеримой функции д(х) д(х,(т, о))т,„, = 11га ~ д(х,(1 —,„, о) )тгл, л л.+ Вл ':„1 < т к -в- 1 л-1 2 Следовательно, д(х,(т, в)) т„< „является измеримой величиной. Поэтому это справедливо и для любой измеримой функции д, в частности для 8-измеримых В: Хв(х,(т, в))т, н К-измеРимо, значит, (хл(т, в) ЯВ) П(т г) ~31. (х,(т, в) е-= еиВ)яЯс И Наиболее интересными примерами марковских моментов являются моменты первого достижения некоторого множества (или выхода из некоторого множества).
Пусть Х вЂ” метрическое пространство, х,(1, о) непрерывно справа. Пусть 6 — открытое множество. Тогда величина = яцр [й х,(и, а) ф 6, и ( 1), называемая моментом первого попадания в 6, будет я-марковским моментом. Действительно, (т ) 1) = П (о: х, (1ы в) Ф 6) () (о: х, (г, в) Ф 6), где (гл) — всюду плотное множество на [я, 1), а множества в правой части этого равенства принадлежат Ь~*. Если т„) т и т„— я-марковские моменты, то и т — я-марковский момент: ( >1)=()(.> ). Поэтому для всякого множества г = П 6л, где 6„— монотонно л убывающая последовательность открытых множеств, т=япр[й х,(и, в) Фг, и(1[ будет также я-марковским моментом, так как т = я"Ртл> л где т — момент первого попадания в многкество 6 . В частности, момент первого попадания в замкнутое множество также является я-марковским моментом.
Очень важный класс процессов — это такие марковские процессы, у которых марковское свойство сохраняется и в 392 сгглчкоовигзггые млгковские иго|гесс| г |гл; || марковские моменты. Такие процессы называются строго марковскими, Приведем точное определение этого понятия. Определение. Процесс (х,(1, ы), К, Р, „) называется строго,чарковским, если выполняются следующие условия; 1. Для любого з-л|арковского момента т величина х,(т, ы) является Ь;-измеримои.
П. Для ! . О и Т-излгеримой функции д(х) М,, (д (х, (т + 1, |ь)) 1Ь;) = М с, ыч агу (х, (т+1, и)) (пгог) Р„„), (13) Правую часть (13) нужно понимать как результат подстановки и = т, х = хл (т, ы) в функцию Мь, кв (хи (и + (, ы) ) . Чтобы результат такой подстановки был случайной величиной, будем требовать еще выполнения следующего условия: 111. Для всякой измерилгой ограниченной функции д функция Мь,а(х„(и+ (, ы)) измерилга по совокупности |геременных и, х относительно произведения а-алгебр 6 лг', 6, где 6 — о-алгебра борелевских множеств на (О, оь), Л е м м а 2. Соотношение (13) выполняется для любого з-,иарковского момента т, принимающего счетное множество значений, Доказательство. Пусть !г, 1„..., г„, ... — все возможные значения т. Тогда (т = !л) ен Яг Пусть А ~ С,.