И.И. Гихман, А.В. Скороход - Введение в теорию случайных процессов (1134101), страница 65
Текст из файла (страница 65)
Тогда Л () П ( с = !л) енйг . Значит, Мл лХлй ( л( + )) л Мл ХХАХ(г=г )у(хг (с + ~ ы)) =ХМ,„,хлх(, г,!а(х,(1,+1, ы)) =- =- Х М, „Х(...! М,,(у(х, (1, + 1, ы)) ~ Е; ) = = 2: М лХ(,.=, )ХлМ| л (, )Ы(хг (!л+ 1, ы)) = =М,„Х,М,л „„,:(х,(,+(, )), Из этого равенства и вытекает (13). И Приведем одно достаточное условие строгой марковости. Т е о р е м а 2. Пусть Х вЂ” метрическое пространство, 6— о-алгебра, порожденная некоторым классом непрерывных функций, и марковский процесс (х,(1, ы), г-г', Р,,„) удовлетворяет условиям; !) х,(1, ы) непрерьгвно сгграва по (; овщву опггдслвнив млоковского пуопгсс« % с1 393 2) для всякой излсеримой ограниченной непрерывной функс(сси 1" (х) срункция Щ(з, х)= ~ е хс ~ Р(з, х, з+1, йу))(у) (14) о удовлетворяет условию 11сп ссхс'(з+ Ь, у) = Я«1"'(з, х), «оо у.ух Тогда процесс (х,(1, со), сзос, Рь„) является строго марковским.
Доказптел«ство. Пусть т — некоторый з-марковский момент. «+1 Сс «+1 Положим т„=-, если — < т < —. Очевидно, т„)т и (т„<1) =~ т„< 1 1 ~ =(т< 1 1 ~ я 15мсс сб' (здесь (х) обозначает целую часть х). Значит, т„— также з-марковский момент. Поэтому в силу леммы 2 Мх, х(й(х,(т„+1, со)))б,' ) = = Мх„, х, ( „, )й(хх„(т, + 1, ос)) (гпос( Р,, „). (15) Левая часть (15) совпадает с М„,,д(х„(и+ 1, ол)), (16) если положить и = т„, х = хх(т„, ос).
В силу непрерывности х„(сс+ 1, ох) по 1 справа при ссепрерывных д выражение (16) также непрерывно по 1 справа и, значит, интегрируемо. Поэтому и функции, стоящие в равенстве (15), интегрируемы по 1. Следо- вательно, ~ е — "М, „(и(х,(т, +1, со)) ~б*„)й1= о = ~ е-ЧМхк,,(х„,в)й(хх (тх+1, со))йс (псос(Р,, „).
(17) о Пусть А он С;. Тогда А Д(т„<1) = А() ~т„< — ~ =А П ( с < — "1 ~ енб~с. Значит, А ен сел; . Умножая (17) на 11л и беря М,, „, получим ~ е «с М, хй (хх (т„+ 1, со)) хл й =- М,,сс«й (т„, х, (т„, со)) Хл. о склчкоовгозньсв млнковскив пооцсссы (гл о»» 394 Переходя к пределу при п- оо и учитывая, что т„)т, т„- т, а х,(т„+с, в)- х,(т+1, а), и условие 2) теоремы, находим — 'М,,„а(х,(т+1, в))К с(1 = М,,„Р»й(т, х,(, а))Кл= о =М, )е ~~М»,х», д>йс(х (т+с, в))КзЖ= о = ~ е м М,, „М,, „(,, >д (х, (т + 1, в)) Кл о(1. о Из того, что две непрерывных справа функции имеют одинаковые преобразования Лапласа, вытекает совпадение этих функций.
Поэтому Й'(х (т+1ю в))Кл — М, „М, йс(х (т+1, в))К,» (18) для всех А ен Е,'. Значит, (13) выполнено для ограниченных непрерывных измеримых д, а следовательно, и для всех ограниченных измеримых д. г-;-изв»еримость х,(т, в) вытекает из леммы 1. й Соотношение (13) для строго марковских процессов может быть обобщено следующим образом. Пусть 1» ( Гс, д»(х) и дс(х) — две ограниченные измеримые функции, а т — з-марковский момент. Тогда т+ Гс также является з-марковскнм моментом: прн и ~ с> + з (т+1> ~(и) =(т Си — сс) е= ', с, с:(о*„. Легко убедиться, что б;с.с, ~ Ь;. Запишем соотношение (13) для функции дс и момента т+(,: (йсс(х (т+ гс в)) с>сестсс ) Мс+с, с (с+с,о)ссс(х +с (т+1» в)). Умножив это равенство на с»с (хс(т+1», а)) н беря условное математическое ожидание относительно Ь,, получим М„„(д»(хс(г+(„в)) й,(хс(т+ 1>ь а)) ~С,') = Мс.
х»с с (х»т+ 1>, О>)) Мс+с, с (с+с, сс>ссс»хс+с»» + (а а)) ~~т)' Используем теперь следующее равенство: если 7(х, з) — ограниченная 6;>»',т»-измеримая функция, т — з-марковскнй момент, то М,,()'(х,(т+1, в), т) ~ Ьс)= = М,, »самс"'(хт(т+ с, а), т) (шо»( Р,,„) (18) 5 2) овщие скхчкоовгазпык мхековгюге пгоцгссы 395 (правая часть (18) есть результат подстановки и = т, х = = х,(т,в) в функцию М ,,('(х„(и + (,в), я)). Равенство (18) очевидно, есле )(х, и) = 1,(х)д,(и) в силу 6,-пзмеримости вели- чины т и соотношения (13). Далее можно воспользоваться тем, что фувкцня 1(х, и) является пределом по любой мере на 6 Х 6-последовательности функций нида ~, )ь (х) уе (и). Используя (18), можем записать М(е1(хз( + и )) 1ччгх (т+с„н)ез(хт+х,(т+ гз в))!~т) )4ь (тт ( + (п )) Мтч-сг х (т ы в)ь2(' тчч ( + (в в))' Таким образом, М,.(81(х.(т+(ы в)) дз(х.(с+ Гв в)) ~б~) = == М„„.,а,(х,(т+ 1„)) Х ты х ( -~л о)йз(~тчч (т+ в)) (шо Рт .) Аналогично устанавливается следующая формула: для О (1~ ( ( (е ( ...
< (в ограниченных измеримых функций д1(х), ... ..., дч(х) и з-марковского момента т м,,,(Па,(*,( 4-ч. ))~~',) = =Мт х (т а)у~( т( + и )) тч-сех (тчч,а)йз(хт+с ( +(м в))... ... Мт~ме е в ч.~ (т+ (ь-о в) Ыь (хт+чь (т+1а в)) (той Рд ~). (19) Из (19) с помощью (8) и (6) получаем следующую формулу: и... (П а, м. -~ „.1 ~ а:) = =М...,<, в Цд;(х,(т+(н в)) (той Р,,), (20) 9 2. Общие скачкообразные марковские процессы Пусть (Х, 6) — произвольное измеримое пространство, а о-алгебра 6 содержит все одноточечные множества. Марковский процесс (х,(г, в), бы Р...) называется ступенчатым, если для всех з и х 1пп Р,, „((в: х, (г, в) = х, з ( г ~ з + б)) = 1.
ойдо 396 склчкоовгхзиые мкеконс|кив пРО|шссы |гл. чи Если выполнено условие (1), то для всех з определена положительная случайная величина г|: т, =зцр[Е х,(и, а) =-х,(в, а), эь-и<~4, называемая моментом первого выхода из начального состояния. Очевидно, что эта величина является з-марковскнм моментом. Заметим, что а — множество, стоящее под знаком вероятности в (1) — не обязано быть событием, так как оно является пересечением континуума событий. Чтобы оно было событием, будем рассматривать лишь процессы, выборочные функции которых сепарабельны в следующем смысле: если х,(1, а) = х при ! ~ (а, р) О Л, где Л вЂ” некоторое счетное плотное на [О, со) множество, то х,(1,а) = х для всех ! ы [а,()).
Из условия (1) вытекает, в частности, условие 1ипР, „((а: х,(1, а)=х))=1ипР(э, х, 1, (х))=1 (2) сэ! стч ((х) — одноточечное множество, состоящее из одной точки х), Процессы, вероятности перехода которых удовлетворяют условию (2) для всех э, х, называются сгохастическсс непрерьсвными.
Л е м м а 1, Если процесс стохастически непрерывен, то сусцествует стохастически эквивалентный ему сепарабельный процесс. Доказательство. Построим процесс х,(й а) следующим об разом: л,(1, а) = х, если существует такое 6 ) О, что хч(и, со) = = — х при цен(1, !+ 6) П Л; х,(1, а)= х,(1, а) в остальных случаях. Обозначим через аь событие х,(1„а)=х,(!с, о!), !с, !сея ен (1, !+ — у, Л =(Сп 1„...). Выберем последовательность ! ч 1„ь ~ Л такую, чтобы ! < 1„~ ( 1+ —,. Тогда ! (х,(с, а) ч~ х, (с, а)) ~ Ц с(ы Значит, Р,, ((х, (1, а) Ф х, (1, со))) ( ! ип Р,, „((х, (1, а) ~= х, (1, а)) П 9(ь) 1|ш Рч, х ((хю ((и, а) Ф х! (1, а)) П ~ь) ~ (!!|п Р,, „(хс(1„~, а)Ф х,(1, а)) = ьо =!нп М...М|,, сс,„|!с(хс((, а)~хс(1,, а)) = ь-ою ь' = !ип ~ Р (з, х, 1, с(у) Р (1, у, ! „, Х вЂ” (у)) = О, ь -~ огщис скхчкоогг»зныв мквковскпг пгоцсссы так как 1„(1 и Р(», у, »»», Х вЂ” (у))- О для всех у.
О(евидио, х,(», ы) будет нзмеримо относительно о-алгебры Й»-событий, -» порожденной событиями из (о» и 1)У ), где»)»' ( порождена »» — ' »(— П1 6$ множеством чЛ,„П А,, А, с з(,», 1 ~ ((, т+ Ь). Поскольку Й» с:. К то мера Рь „определена и на Й». Покажем, что (х,(», ы),э», Р,,) также является марковским процессом. Пусть» — произвольная Ф;-измеримая ограниченная величина. Так как (=» содержится в пополнении Ь» по мере Р, „, то существует такая Ь;-из»(еримая величина ь, что Р, „(»=»)=1. Поэтому при и ) 1 М», хвХв(х»(и~ ы)) — Мн х»»Ха(х»(и 'ь))— =М, «М, „(, )Х (х,(и, ы))=-: М, »еМ», ш )Ха(х» (и, ы)).
Отсюда вытекает равенство Р, „((х, (и, ы) ~ В) )» Й»») = Р», х, (», м) ((х» (и, ы) ен В)). Но тогда, учитывая равенство Р,,(х,(и, ы) = х„(сс, ы))= 1, убеждаемся, что последнее соотношение вьщолпено, если х„(, ) заменить на х,(, ). йй Будем предполагать, что все рассматриваемые далее процессы стохастически непрерывны и сепарабельны. Найдем условие, при котором выполнено (1).
Теор ем а 1. Для того чтобы сепарабельный марковский процесс в фазовом пространс)ве (Х,6) был ступенчатым, необходимо и достаточно выполнения условия: для всех з с= [О, со), хе=Х 11гп 1пп Р ((»"~, х, К(, Х вЂ” (х)) =- О, (3) Ь » Ь т (в) (и) х » - »(") « г « »(") = -И п~ах (»», — »»»).+О " е '" и ((а) какова бь» ни была последовательность разоиений з= — 'ь ( ... ... <» =э+ Ь, для которой щах((»' — »»'))) — О. Доказательство, Необходимость.
Пусть выполнено условие (1), Тогда Р, „((ьн х, ((„о)) = х, з ( 1 < з + б)) = Игп Р...(х,(('»'~, ь))=х, й=!,п)= шах (»(» )-»(» ) ))-»ь !пп Ц Р((~»"'), х, (»"', (х)) = 11нх т»(")-»(") ~.»0 '~ (, »»-!) СКйЧКООБРАЗНЫГ МАРКОВСКИЕ ПРОЦЕССЫ 398 (гл чп л 1пп Ц(! — Р((й"~„х, (ай"'р Х вЂ” (х))) ~( слах (с(п)-1(п) )->о й '"1 й й-1/ л <екр — 1пп ~ Р((й")(, х, ф), Х вЂ” (х)) . ирах ' 1(Л) 1(Л) с+а й-1 ирах — „'1 )-р Значит, л 1!и) Х Р((й"'ь х, (й"', Х вЂ” (х)) =.=.
асах (1(йп)-ф ).ай . — 1п Р,, „((: х, (г, й)) =, з < г < з + 3)). Переходя к пределу прн Ь( О, из (1) получим (3). Достаточность. Пусть выполнено (3). Выберем последовательность разбиений з = 1ал' < !',л) « ... 1~," = г + 6 так, чтобы МНОжЕСтВа Ли= ф", ..., 1„" 1( МОНОТОННО ВОЗраСтаЛИ С П И С (л) (л) ) ( ) Лл = Л () (г, з + б).
Тогда л Ра,х((ха((с ы) =х, з~<(~э+ б)) = =Р,,„((х,(1, Б))=х, (~Л()(г, з+Ь)))= = 1пп Р, „((х,(1, й)) = х, (ев Лл)) = п-1 =!Пп ). (Р(с~й")1, х, (й"), (х)) = п-а п-1 = 1ип Ц (1 — Р Я~(, х, ((йл), Х вЂ” (х))) =- и.+ и-1 Г л-1 Р 1 ь 1 (1 — Р (Фь *, 1Г, х — ( ))) ) . (с) .+ ар Если б выбрано так, чтобы 1)п) ~' Р(1'й"~1, х, 1(йл), Х вЂ” (х)) < е, й 1 то и !ПпзпрР(1(й")1, х, 1йл), Х вЂ” (х)) < е и, значит, п-1 !Пп ~:!и(! — Р((й") „х, (й"', Х вЂ” (х)))) — и-1 л ) (1+ 0(Б)) 1((п ~".