И.И. Гихман, А.В. Скороход - Введение в теорию случайных процессов (1134101), страница 66
Текст из файла (страница 66)
Р(1(й) „х, 1а;), Х вЂ” (х)). л.+ р Поэтому, учитывая (3), из (4) получаем (1). И эп ОБЩИЕ СКАЧКООБРАЗИЫР МАРКОВСКИЕ ПРОНКССЫ З99 Рассмотрим в Х дискретную гопологию, при которой (х) является наименьшей окрестносгью гочки х. Всякая функция на Х тогда будет непрерывной. Из соотношений1 Р(з, х, 1+ Ь, А) = ~ Р(з, х, 1, ду) Р(1, у, 1+ Ь, А) и Пт Р(1, у, (+Ь, А)=ХА(у), Аао Р(з, х, а+Ь, (х)) Р(э+Ь, х„1, А)+ + ~ Р(з,х,з+Ь, г(у)Р(з+Ь, у, г, А)=Р(з, х, г, А) Х-1к1 вытекает, что для стохастически непрерывного процесса Р(з, х, г, А) непрерывна справа и по з и пой Поэтому и функция ~ е-А' ~ Р(з, х, (+ з, г(у) у(у) М о непрерывна справа по з, Из того, что процесс ступенчатый, вытекает, что каждое свое значение он принимает на некотором интервале, прн этом этот интервал можно считать замкнутым слева (таким будет процесс, построенный в лемме 1).
Однако это не гарантирует непрерывности процесса справа, как показывает пример х(1) = Ь при — < ~ < — „,, х(0)=0. 1 ! Непрерывные справа в дискретной топологии процессы будут обязательно ступенчатыми, Они образуют более узкий класс, чем ступенчатые процессы. Их мы н будем называть скачкообразными. В силу теоремы 2 5 1 скачкообразный процесс является строго марковским. Рассмотрим марковские моменты ть — моменты Ь-го скачка процесса х,((, оо). Онн определяются рекуррентно следующим образом, т~ — это момент выхода нз начального состояния, он уже определен выше. В силу строгой марковости определена величина х,(ть оо).
Из скачкообразносгп процесса вытекает существование такого интервала (ть т~ + б), что х,(1, оо) = — х,(ть оо) при 1ен (ть т~+ б). Пусть то — — вор~1: х,(и, го) = х.(ть оо), т, ~ ( и < 1). Легко проверить, что т,— также з-марковский момент. Очевидно, т1 < ть Если опРеделен момент ть ь то та определяется так; ть = зцр[й х,(и, оо) = х,(тА О го), ть- (и < ~).
Может оказаться, что при некотором Ь тА = + Оо. Тогда т, при 400 СКАЧКООБРАЗНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ <ГЛ. РП ) ) к пе определены, Не определено также и х,(тв в). Чтобы построить процесс (его выборочные функции) на интервале [з, зцР тл), достаточно знать последовательности паР ((то, х,(тл, <о) ), й = 1, 2, Теорема 2. Последовательность (ты х,(тв о!)), й = 1, 2, ..., образует, вообще говоря, обрывасощуюся однородную цепь Маркова в фазовом пространстве ([О, оо)КХ, 6 К 6), где 6 — о-алгебра борелевских !<ножеств на [О, оо), с вероятностью перехода за один шаг, определяемой из соотношения Р(тв < 1, х,(т, в) ее В[т,л с, х,(т „в)) = = Р, к (т! < 1, хл (тс, <о) е: В) [, 1 ) з, В ~ 8.
(5) к-к (к,л с, о) Доказательство Для доказательства теоремы достаточно показать, что правая часть (5) совпадает с Рм „((т ~ А, х,(г, в) ен В) [Я„',). 1-1о в силу скачкообразпости процесса имеем <1х(тль ) =В) Д Ц ~ П (х~,„,+ — „, ) л сс с ! клс-с+ л <с = — х,(т „<о)~П(х,(тл, !+ — „, в) ~В'((хк(т 1, в))~. Для всякой Ь;л -измеримой ограниченной величины й в силу соотношения (18) 5 1 можем записать М,,кв ~~ ПХ (х,[т !+ — „, в) =х,(т „в)~ У( А С=! ХХ(х (т -1+ ~з, а) <нВ ' (хк(т 1, в))~=— А-1 ! =- Мк, кВМк„, к (к,л ! <о)) ~' ПХ (хк,л, (т,л 1+ — л, со) =.=- А с-! 'лс-!+ л (С А — -тк(тсл-Цьс)~Х (Хс (тлс-!+ л, а) <БВ ',(Х,(т „В))~ (6) овьчпс склчкоовглзныс млгкогскпг.
пгоцгссы 401 Переходя к пределу при и — со слева, получим М, ЛХ(т < т, х (т„о ь») еи В). Заметим теперь, что 11п1 М„„~ Ц т, (х„(и+ — '„, а) = х ~ Х «.» 0 «+ — < 1 2 Х х (х„(и+ ~„, ь«) ен В'к(х)~= = М„,т,(т, <1, х„(ть ь») еыВ) = Р„, „(т, <1, х„(ть ь») еи В). Таким образом, М,, „$х (т < й х,(т, сь) ~ В) = =М,,Д(Р„,„(~, <1, х„(ть ) В)],, И ««( 1 го) Скачкообразный процесс называется регулярным, если вирт« = + оо с вероятностью Рь „= 1, каковы бы ни были з, х, Приведем одно достаточное условие регулярности. Л ем м а 2. Пусть существует такое б ) О, что для всех з, х Р,,„(т, >з+б) > б.
Тогда процесс является регулярнылк Доказательство. Используя теорему 2, можем записать, что для всех и '>б~~' -1)=Р««(т~>и+б)1 >б (7) 1~« и о) Положим б„=т„— т„ь Из (7) вытекает, что Р(1«>б~1ь ..., 1„-д>б, Р(1„<б~1ь ..., к„д((1 — б). Для каждого из событий А;,„, ~ = И (~~ (б) имеем оценку 'г " щ Р(АО .„, ~ )((1 — б)~.
Далее, событие ф+ ... +~„(йб) влечет одно из событий Асп... с„„, 1(1~ < ... < ю'„ь(п. Поэтому Р(~~+ ... +ь„((яб) (С (1 — б)" — »О при и — оо, каково бы ни было й. Значит„Рм „(тл(1)-»О прп и-»оо. И СКАЧКООБРАЗНЫЕ МАРКОВСКНБ ПРОЦВССЫ 402 (гл чп Выведем одно интегральное уравнение для вероятностей пе- рехода скачкообразного процесса. Обозначим п(з, х, А, В) = = Р..»(т1~А,х,(т„в)яВ) совместную функцию распределе- ния т, и х,(т1, в). Имеем Р (з, х, (, В) = Р» „((х, (Г, в) ~ В)) = = Р,, » ((х,((, в) ен В) () (т < ()) + Р, „((х, ((, в) еи В) Д (т > ()) =- =х,(х) М, „х„,о+ М„„хп<пха(х, ((, в)) = =х,(х) М, „к(, и+ М, „х(, „М, „(х, (х,(г, в)ЯЯ;) = =Х,(х) М, „х(, о+ М, „хп»хпМ,,» и „,Х,(х,((, в)) —-- =;( (х) М,,1(, „+ М,,1(п~, Р (т, х,(т, в), Ф, В), Таким образом, Р (з, х, (, В) =1(а(х) п(з, х, [(, ОО), Х)+ 1 + ~ ~ гг(з, х, 1(и, »(у) Р (и, у, 1, В).
(8) Рассмотрим теперь однородный скачкообразный пропесс. Для такого процесса вероятность перехода Р(з, х, (, В) зависит лишь от разности ( — з, которую будем обозначагь Р(( — з, х, В). Условие стохастической непрерывности теперь имеет вид !Нп Р ((, х, (х)) = 1. (9) 140 Из теоремы 1 вытекает, что для того, чтобы сепарабельный однородный процесс был ступенчатым, необходимо и достаточно, чтобы выполнялось условие 1 — Р(а, к, (х)] (10) »»» Если это условие выполнено, то величина т1 — з-момент выхода из начальной точки процесса х»(Г, в) — имеет показательное распределение, т, е. существует такое 2,(х), что Р,, „( т, > (+ з) = ехр ( — 1 (х) 1).
Необходимость условия (10) вытекает из того, что при 3=(» <(1 « ° .. (е =з+б, Й=Г» (» — 1=б/л (пп ~~ Р((»'1, х, (1"', Х,(х)) =1пп(1 — Р( —, х„Х' (х))) = =6!Пп ! — Р (А, х, (х)) Ь ОБЩИЕ СКАЧКООБРлЗНЫЕ МАРКОБСКИЕ ПРОЦЕССЫ 1оз Из этого соотношения можем получить и достаточность уело. вия (10), учитывая то обстоятельство, что в качестве множества сепарабельности можно взять множество всех двоично-рациональных чисел. Далее, Р,,(т <1+ з) =! — )ип (Р [ —, х, (х))) "= =1 — !!т[! +~Р [ —,'„, х, (х)) — 11) "= =-1 — ехр(1цп — „" (Р ( — „, х, (х)) — 1) ~ =1 — ехр( — й(х)), где Х (х) =!Ип ' ', й„= [12" — ![+ 1, [. [ — целая Леа 6 часть числа. Пусть теперь процесс х,(1, в) скачкообразный.
Тогда Р, „(т, <1+э,х,(т„в)енВ) = )ип ~~ Р, „(х,[з+ — „, в) = х.+ л(!е !=1, ..., й — 1, х (з+р, в)енВ ~,(х)~— — )пп ~~ ~Р ( „, х, (х))1 Р ( —,.„, х, В'~(х))— л(се -' "( —" "(")) =- йп Р ( — „, х, В ' (х)) Р.Л 1 — Р ~ — к, (х)) ( ЕР~ причем этот предел существует. Значит, существует и предел Р ( — „, х, В', (х)) Р ( — „, х, В ", (х)) "+" 1 — Р1 —, х, (х]) "+" Р 1 — „х, Х вЂ” (х]) 'л2"' ! РР Обозначая этот предел п(х, В), получим Р, „(т, <1+э, х,(т„в) еи В) =я(х, В)(1 — е 'лсо), (11) Таким образом, т! и х,(т„в) независимы. Заметим, что — = М, „[т, — з] — среднее время пребыва- 1 ния в состоянии х. Если Х(х) = О, то Р, „(т! ) 1+ а) = 1 для всех з, т. е.
процесс никогда не покинет состояния х, если только он был в этом состоянии в настоящий момент. Такое состояние называется поглоц(а!Оп)их!. 404 СКЛЧКООБРЛЗНЫЕ МЛРКОВСКИЕ ПРОЦГССЫ (гл. лрп Рассмотрим величины (т„, х,(т„, а)) в однородном случае. Формула (11) позволяет с помощью теоремы 2 получить здесь более сильное утверждение, чем в теореме 2. Т е ар е м а 3. Если у процесса отсутствуют поглощающие состояния, то последовательность (х„(а) = х,(т„, а), и = 1, 2,...) образует однородную цепь Маркова с вероятностью перехода п(х, В): Р (х„(а) ен В ~ х„, (а) ) ~к = и (х„, (а), В), а величины Ь) = т( — з, ~1 = тт — т(, ...
условно независимы, если заданы (х„(а), и = 1, 2...,), и имеют показательное распределение; Р(ьл >(~л»,(а)) =ехр( — 11 (х»,(а))). Доказательство. В силу теоремы 2 и формулы (11) Рр, к(Ь» >1, х»(а) е= В)Ь„..., Ь» 1, х, (а), ..., хл,(а)) = = Р, „(т, >1+ и, х„(т,(а)) ~В) (,, к-к», (рр) =п(х»,(а), В)ехр( — 1)р(хл ) (а))). Следовательно, совместное распределение величин ь), ..., ь», х,(а), ..., хл(а) задается формулой Р,, (ь) > '11, ь > га ..., ь» > гм х, (а) ен В„..., хл (а) ~ В») = — 1 (*, р*,) .. 1 (*.-, р")1 г ( — Ь к(.,-,( ))( (рр) в, в» 1 1 (хь((В) = х).