И.И. Гихман, А.В. Скороход - Введение в теорию случайных процессов (1134101), страница 68
Текст из файла (страница 68)
(4) Тогда е' ~~а р йв, 'ц ('-'> х'' (О> ям> е -с* > р(>'>> (1) — р(>'>> (>) = ~ о ры'и(>)-р' '(1) = ц е'> '(' '> ~ а . ( р)ю (в) — ры- '> (в)] йв. (6) склчкооволзныя млгковскив пгоцвссы 414 )гл. тп Из соотношений (5) и (6) вытекает, что О =р(-) (!) (р()с)(1)( ... ... (Р(а)(1), Далее, если з(са)(с)=~,Р(ас)(1), то из (3) и (4) вы! текает з",) (1) = е'! ! ~ 1, с (а)(1) ацс+ ~ а;си-в) ~~;а~ (а-!)( ) ( о <е'ссс 1 $еасс(с-в) ~~)~ а, с(з за!!с ац ~еац(с-в)с(з о лФ! о если только з("-')(1)" 1.
Следовательно, для всех и Е рс!'(1) <1 I Поэтому существуют пределы р,. (1) =!)гп р(")(1). Переходя к пределу в соотношении (4), убеждаемся, что рц(1) удовлетворяют равенству (2). Покажем, что рц(Г) являются наименьшими неотрицательными решениями (2). Пусть рц(1)— некоторое неотрицательное решение (2). Тогда Если р, (!)) р(."-п(1) при некотором п) О, то () б ацс+ ~ а (с-в) о й~! Значит, рсс(!)) р(а!)()) для всех и. Переходя к пределу, получаем рсс(г) ) рц(().
Это решение р;с называется минимальным, Прежде чем вывести уравнение Колмогорова — Чепмена, получим для рц(Г) некоторое представление. Используя рекуррентные соотношения (4), можем убедиться, что 4 (1) =бце'*'+ ~~' ~~'" а„а..." а,, Х с ! в'!' !' ''" с — !в с 2 Х ~ ехр(ацз)+ ал,л,зо+ ... + ал,л,з„+ в)+ .л Ьв <С +а)с(1 — з! — ..
— зс))«з! ... «з, ОД)(ОГОЗНЬ(Г ПРОЦЕГСЫ 4)5 (считаем й,=2). Поэтому р)е(Е) =быебм + ~ ~~ апч ... а...Х 1 2„01 20 1' ''' г-1~ 2-2 Х ~ ехр(а„з,+ ... +ах,2,г,+ 21+22+ 1 бг «1 + а„ (Š— з, — ... — з,)) (Ез) ... 2(з,. (8) Обозначим через П(Е) матрицу ) р„(Е) З; пусть и, = п(Е 1- — „, ~Е, "11 Л(= — ап, П=()п(Е)(, Л=з)0(б)Е)(. Тогда (8) О, 1'=1, можно переписать так: П(Е) = Ее-(х+ +~~( ~ е 1ЛПе-2 ЛП...е ( ' "' гг) (Ез ...а(з (9) -( 2,+...+02«1 (1 — единичная матрица). Формула (9) допускает простую вероятностную интерпретацию.
Пусть (х„(е)), а=0,1, ...) — цепь Маркова с фазовым пространством Л) и матрицей вероятностей перехода за один шаг П. Рассмотрим последовательность случайных величин ь), ьр, ..., связанных с цепью Маркова, совместное распределение которых при заданных хп(20), х((в), ... совпадает с распределением независимых показательных величин, при этом Р (Ь2 > Е~хр(02), х)(в), ...) = ехр( — Х„~ ,(„)Е). Другими словами, (х„(е))) — вложенная цепь Маркова для процесса, вероятности перехода которого мы хотим построить, а (ь), ьз, ...) — времена пребывания в состояниях. Пусть х(Е, ер) = л л+( , 0 =*.( ),- 2,1,«Г<К(,(х=б) ПР*б.
2(), ), РР. 2-1 [О, Хр,) л( бр ( 2)/ 2-( жно считать, что он попадает в поглощающее состояние + оо). Обозначим Г гэ1 02(Г) Р(2(), ) — (, х(,«Г<т~ )р(0, ) Г) (10) 2-1 2-1 4!6 (вероятность перейти из Е-го состояния в Е-е, совершив ровно г переходов). Тогда Ог...,й Г Таким образом, обозначая ЕЕ)г)(Е) =!!)Е))гЕ)(Е)/!, можем (9) переписать в виде П(Е) = ~ ф')(Е). (11) г О Используя равенство (1О), легко получить г =-Х Еб4 (Е)Е~ ()!) О т. е.
г Я")(Е+и) = Е Я")(Е)(Е' "(и) )=О Поэтому г П (Е+ и) = ~„я)г) (Е + и) = ~ ~ я)о (Е) я)г ') (и) = г=О г О ! Π— Е:))г) (Е) ЕЕ)О) (и) — П (Е) П (и) г>О О>О Тем самым для рм(Е) установлено уравнение Колмогорова —- Чепмена. Вопрос о единственности решения первой системы Колмогорова с начальным условием ро(0) = бн непосредственно связан с регулярностью процесса.
Действительно, заметим, что для единственности решения достаточно выполаения условия Е Р)Е(Е) =1 (12) б)Е)(Е) =Х О Е~. скхчкоовнхзныс мхрковгкпг и опгсгы )гл гл) Е ) Ь)Л)ОЕ Мг!ОПОО г,+...-)-г <! "Фг "(! г) "' г! ... Хе ~г'Еки! е е! ' ' )Ез! ...)Ез,. ХО(г))О...)=Г ГО,.)-). )-О )+! г+1 С)С Ь О, Ь )с„С С Х Г)О, )=)) О)-) и-)Е)»-)О) однородньш процессы 417 (гл Оп а),,..,О» =- Х Х и"4 (Г) и'-и (и), О (-О т. е.
г ~(г) (( + и) = 2« с((!) (() с)(» !) (и). (=О (13) Поэтому (14) Е Р )(() =1 ! (12) 14 И. И. Гихмад, А. В. Скороход скзчкооврхзиыг мдгковск))г. процгсгы (вероятность перейти из г-го состояния в (се, совершив ровно г переходов). Тогда Е "'А(ПМ Е М «»(О,ПО,О«Х а,+...+«,С! Таким образом, обозначая Я(г) (() = (д((г!) (Г) 1', можем (9) переписать в виде и (() = Х Я( ) ((). (11) г .О Используя равенство (1О), легко получить г «го)-Е ЕР(«Р«- . )-)'. «О, )=«, О )+! г+! Е(с)<Е(,, Е (с«< Е ((а, )=))= о)=( о) ! о )+! О=(з) П ((+ и) = Х Я(") ((+ и) = Х Х Яп) (Г) Я' " (и) == г-о -о )-о = Х Я" (() Я(О)(и) =П(() П(и).
г>О Тем самым для рм(() установлено уравнение Колмогорова— Чепмена. Вопрос о единственности решения первой системы Колмогорова с начальным условием рм(0) = 60 непосредственно связан с регулярностью процесса. Действительно, заметим, что для единственности решения достаточно выполнения условия для всех 0 г' > 0 (ри — минимальное решение), Действитсльно, если ро(Г) — другое неотрицательное решение, для которого 2 рн (Г) = 1, то р;! (() — р;! (() ~) 0 и 2'„(р)у(() — ри(()) =1 — 1=0. ! Значит, р)((() = р(г(Г), Но из (10) вытекает г г-») !" «а()) гр(г! <)<ь! )«(а, )=«)= г-О О-) О=! Г 1 Г =Р ~ внр ~Ь >Г!х(0, Оо)=г1=Р~ Х,(л>1~х(0, ОО)=! О-) )) ( Поэтому условие (12) эквивалентно регулярности процесса.
В случае нерегулярности процесса можно построить и другие решения первоя системы Колмогорова. Укажем лишь один способ такого построения. Зададим произвольные вероятности рю ~ р„= 1и будем считать, что в момент 2 ~О (если он конечен) й-) процесс с вероятностью рд попадает в состояние (О.
Для такого процесса вероятности перехода будут удовлетворять следующему уравнению: »н О) - Р (* О..) = а т !. «) )~ *(а ..) = ) -» О . †. 1 ( +у(р(7Π— «*)((а. )=)1««„Π— ) (можем перейти кз !' в !' за конечное число скачков либо после того, как произошло бесконечное число скачков). Первое сла- гаемое справа в (13) совпадает с р„((), Функции о,()=р(ь(,< )«(а, )=)) !.О=! можно считать заданными. Уравнение (13) принимает вид р; (() = ри(() + ~, ~ р)р)Г(( — з) (Ф((э).
о Решение этого уравнения, удовлетворяющее 1) — 4), строится точно так же, как минимальное решение уравнения (2). Рассмогрим теперь вторую (прямую) систему Колмогорова. Формально она получается из уравяения Колмогорова— СКАЧКООБРАЗНЫЕ МАРКОВСКНЕ ПРОПРССЫ |гл чтг 418 Чепмена следующим образом: Ри(|+") — Ри(0 т~ »РА|(А) АА1 ~ = р.р.(1)1 и после перехода к пределу ~~Ре (») — +» — = ~', р»А(1)аА|. (15) Уравнение (15) удобно тем, что из него можно получить равнение для безусловного распределения процесса: если (х(0, »о) =») = ро то Р (х(1, »о) =1) =,).
р;ри(1). с Умножая (15) на р» и суммируя по», найдем и Р(х(1, »о)=1)=~ Р(х(1, »о)=Цая|. (16) ~р»А(1)аАА ) — оо. (17) Тогда при заданном» для всех 1 выполнено (15). Доказательство. При доказательстве теоремы 1 установлено, что 1 — Р»» (А) » (— ан. Значит, при йчь1 РА) (А) 1 — РАА (А) — < <-аАА.
Ь А Имеем Ри(»+А) — Р (») т, ГР (А) — а А А Поскольку для ряда в правой части существует мажоранта пой Р, (А) — а„ ~~' ) р»А (1) А ~ ~( ,) ( р»А (1) аАА (, то можно перейти к пределу при й ( О. Существование производной слева установлено в теореме 2. ° Приведем одно достаточное условие, при котором вторая система Колмогорова выполняется. Теор ем а 3. Пусть все состояния процесса регулярны и при заданном » однородньсе пропвссы 419 Заметим, что ряд справа в (15) сходится всегда, каковы бы ни были вероятности перехода, если только все состояния процесса регулярны. Действительно, рс|(С+ Л) — ри (С) 1 — р|С (Л) т-с ры (6) | + а Рс| (|)= ~ Рсь(|) л Фс переходя к пределу при Ь:Ь О и учитывая существование прас| изводной — „р,|(|) (теорема 2), убеждаемся, что Х арсс (с) Рсь (|) асс < — '„, — ассрсс (|) л сс*| Покажем, что минимальное решение Р,|(|) первой системы Колмогорова удовлетворяет и второй системе.
Из полученной оценки вытекает, что определены суммы ~, Рм(1)ил| =1 Рсь(|)Хьао| а значит, определено произведение матриц П(и) ЛП. Из (9) находим с П(д) ЛПе-лсс-о~с(д — $ е-с лЛПе-сс-о) л с(д + е 'лЛП .. е (" сс ... — с.)лЛПе сс-слс(д Г-1 о 5,+ ...
+с,асс Полагая в г-м слагаемом суммы з,+, =и — з, — ... — е„получим с П (и) ЛПе-<с м л с|и = о *слПЛ (с сс " сс) л сс Г е ' ...е с "' с зс... з= с ! с+ ° "+с <С Г П ( ) е с л 1 Последнее соотношение позлементно можно записать так: ~ Рсл(и)ал|е |' ~с(и =р,|(|) — е Сбсс, о о~с Гкхчкоовгхзныв мьгковс!гие пгоцассь« !Гл уп 420 откуда Рм (и) аь/е гч дг/ = Р// (/) е / — Ьс/. ь ьр«/ Дифференцируя по /, находим Х Р;и(/)и еги= — идс Рс/(/) е'/'+Л/Рс/(/) е"/'/ А~/ хс подставляя Л/ — — — а;/ и сокращая е г, получаем (15). Приведем еще одйо условие регулярности процесса. Положим то д,.(Л) = ~ Мсехр( — Лиат,„„„, /!д,. (Л) = и;/ я,/ — „' д/(Л) = лл ' д/(Л).
/ /~с Окончательно для дс(Л) получаем следующее уравнение: Л дс (Л) = — л аг/д/ (Л) . (19) Теор ем а 4, Для того чтобьс ггроиесс был регулярен, необходил/и и достаточно, чтобьс уравнение (19) не и/мело лри Л ) 0 ограниченных решений, отличньгх от нуля. Доказательство. Если процесс перегулярен, то функции дс(Л), определяемые равенствами (18), будут ограниченными ненулевыми решениями (19). Пусть теперь процесс регулярен, Равенство (19) эквивалентно соотношению 9', (Л) = М,. ехр ( — ЛЬ,) д„„г (Л) (20) р,!«г =- м („р ( — « Х с ! *!р, г = ) = м;.р ( — « К и) !«рг и=!,р л ь-! (через М„мы обознача и М„,; последнее обозначение введено в $1).