3. Основы теории случайных процессов. Карлин (1971) (1186156), страница 37
Текст из файла (страница 37)
а где р' = (!!с!чг ° ° Хс-!)I(1сс1гг ° ° ° р!). В случае процесса рождения и гибели с линейным ростом (Х„= Ю, р, = п1г, 1с > Х) среднее время са! до поглощения из состояния 1 равно В В, Цепи Маркова с конечнам числом состояний й 8. ЦЕПИ МАРКОВА С КОНЕЧНЫМ ЧИСЛОМ СОСТОЯНИИ И НЕПРЕРЫВНЫМ ВРЕМЕНЕМ Марковская цепь с непрерывным временем Хт (1 > 0) является марковским процессом с состояниями О, 1, 2, .... Предположим, как обычно, что переходные вероятности стационарны, т. е.
Р» (1) = Р(Х+,=11Х, = 1). (8.1) В этом параграфе мы рассмотрим лишь случай, когда пространство состояний 8 конечно, 5 = (О, 1, 2, ..., А(). Некоторые проблемы, касающиеся цепей Маркова с бесконечным числом состояний и непрерывным временем, рассмотрены в следующей главе, Марковское свойство требует, чтобы Рн(1) удовлетворяли условиям: (а) Ры(1) >О, (б) ~с; Ры(1) = 1, 1, ! ~ 8, !=о (в) Рси(з+Г)= Х Ри(з)РЫ(Г), 1, з>0 (уравнение Колмогоу-о рова — Чэпмена), и мы требуем, кроме того, чтобы выполнялось условие (1, 1=1, (г) 11ш Ри(с)='(О т тот 1 О, Е~!'. Если обозначить через Р(1) матрицу 1~ Рн(1) 11;, то условие (в) можно записать более компактно в матричных обозначениях Р(1+8) Р(1) Р(э), 1, э) О. (8.2) Условие (г) говорит о непрерывности Р(1) при 1= О, поскольку из (8.2) следует, что Р(0) = 1 (! — единичная матрица). Из (8.2) вытекает, что Р(1) непрерывна при всех 1> О. В самом деле, если в = А > 0 в (8.2), то в силу (г) имеем 1!гп Р(1+6) =Р(1)11шР(Ь) =Р(1)1=Р(1).
(8.3) н-то+ н-то С другой стороны, при г > 0 и 0 ( Ь ( г запишем (8.2) в виде Р (Г) = Р (1 — Ь) Р (Ь). (8.4) (8.5) Но Р(Ь) при достаточно малых Ь близка к единичной матрице. Поэтому (Р(Ь))-' (обратная матрица к Р(А)) существует и также близка к 1. Следовательно, Р (1) = Р (1) 1пп (Р (Ь) ) = Вш Р (1 — Ь). о +о+ л.то+ Гж 7, Классические примера цепей Маркова 232 (8.6) Чо Чо| ° ° ° с!ам Ч~ ° ° ° Ч1 м Фо Чмо Чм1 ° ° ° Чм Предельные соотношения (8.6) запишем в матричном виде 1пп 1 =А.
п.+о+ С помощью этой формулы и равенства (8.2) находим Р 1)+ й) — Р (с) Р 69 [Р(й) — Ц Р !Ь) — ! Р (1). (8.7) (8.8) Предел правой части существует, и, таким образом, получаются матричные дифференциальные уравнения Р'(!) = Р(1) А АР(!), где Р'(!) — матрица с элементами Рц(!). Существование Рп (!) является очевидным следствием (8.7) и (8.8).
(8.9) Предельные соотношения (8.3) и (8.6) показывают, что Р(!) не- прерывна. В теоремах 1.1 и 1.2 гл. 8 доказано, что в общем случае для цепей Маркова с бесконечным (счетным) числом состояний и не- прерывным временем существуют пределы 1 — Ри (й) 11т =Чс й-чо+ Рп РО !пп — = д», л.,о+ Л где О ( с)м < оо (! Ф 1) и О < дс < оо, т.
е. дс) (! Ф !) всегда ко- нечны, а йч определены, но могут принимать бесконечные значения, Возможность д» = со не может осуществиться в случае марков. ской цепи с конечным числом состояний и непрерывным временем, Действительно, запишем соотношение 1-Рн(й)= Х Р„(Л), )-о,), ю разделим его на й и устремим Й(,0, получим ц= Х цм, )-о,!чч г откУда следУет конечность с)с. Предполагая справедливым (8.6), найдем точное выражение для Рс)(!) через инфинитезимальную матрицу Задачи 233 Уравнения (8.9) можно решать при начальном условии Р(0) = ! стандартными методами теории обыкновенных дифференциальных уравнений '). Получим Р (!) = е"' = 1+ ~~)~~ — „, (8.10) а 1 Практически мы находим собственные значения Ха, Х<, ..., Хм матрицы А и полную систему соответствующих им правых собственных векторов и<'1, ..., н<м1, если это возможно (см.
приложение в конце данной кйиги), Затем мы пользуемся представлением Р (!) = !)А (!) !) (8.1 1) где 1) — матрица, столбцами которой являются соответственно векторы и<о<, ц<'1, ..., и<и<, а Л(!) — диагональная матрица ехр (ло!) 0 ... 0 0 ехр (Я4) 0 л (!) = 0 0 ехр ()<,4) Строки матрицы !1-' можно рассматривать как полную систему левых собственных векторов, бнортогональных к (и<п)<" Применения формул (8.10) или (8.11) рассматриваются в задачах 18, 20 и 21 к данной главе. ЗАДАЧИ 1.
Рассмотрим пуассоновский процесс с параметром л. При условии что за время < произошло и событий, найти плотность вероятности времени осуществле. ния г-то события (г < л). Ответ и! хг ( х1" г — 1 — — 1, 0<х<А р (х) = (г — 1)1 (а — г)1 0 в противном случае. 2. Предположим, что прибор отказывает после воздействия Й возмущений Пусть возмущении случаются в моменты, образующие пуассоновский поток с параметром а. Найти плотность времени жизни Т прибора.
Ответ: х< 'е )О) = г(й) О, 1<0. ') К од дин тто н Э. А., Л е в пи с он Н., Теория обыкновенных дифференциальных уравнений, тл, 3, ИЛ, 1958 (см. также Гантмахер Ф. Р., Теория а<атриц, тл. Ч, «Наука», !967. — Перез ). 234 Гл. 7. Классаческае примеры целей Маркова 3. Пусть (Х(1), У(1)) — вероятностный процесс в двумерном пространстве, где Х(1) — пуассоновский процесс с параметром Л|, а У(1) — пуассоновский процесс с параметром Ло, не зависящий от Х(1).
При условии что процесс находится в состоянии (хо, уо) в момент 1 О, хо + уо < г, найти вероятность пересечения процессом прямой х + у г в точке (х,у). Ответ: < ( ' у')(Л ' ) ( — ') при хатха, у)уо. 0 в противном случае. 4. Рассмотрим пуассоновский процесс с параметром Л. Пусть Т вЂ” время до наступления первого события, а /о'(Т/й) — число событий в следующие Т/(й еди. ТТ! ниц времени. Найти первые два момента величины 31( — ) Т. ~й) ' Отвею М~й/(Т) Т~ 2 М~(й/(т) Т) ) б + 24 б. Пусть (Х(1),1 ~ 0) — пуассоновский процесс с параметром Л.
Предположим, что каждое событие «регистрируется» с вероятностью р независимо от остальных событий. Пусть (У(1),1) 0) — процесс, скачки которого происходят лишь в моменты наступления «зарегистрированных» событий. Доказать, что У(1) — пуассоновский процесс с параметром Лр. 6. Рассмотрим л независимо действующих объектов (таких, как электриче. ские лампочки), время безотказной работы (т. е. время жизни) которых является случайной величиной, зкспоненциально распределенной с плотностью / (х, В) = О ' О ехр(- — ), х) О, О, х<0, Π— положительный параметр. Действительные длительности реал|жации безотказной работы становятся известными в порядке отказов объектов, Пусть Х|л ~ 1Хол < 4' ' ' 4~ Хгл — длительности времен жизни первых г отказавших объектов. Найти совместную плотность величин Х| , 1 1, 2, ..., г.
Ответ: л! 1 / х,+хо+ ... +х, |+(л-г+!)хг) /(хь хо, ..., хг) — —,ехр( (л-г)! Е е 7. В предыдущей задаче введем У,„Х,л, У|л Х|л — Хс-|,л 2~<1<с. Доказать, что У|„ независимы в совокупности, и найти функцию распределения каждой из них. Ответ: и — 1+! Р (У|л(~ у) 1-ехр (- 8 .). 8. Пусть [Х(1),1) 0) и (У(1),1) 0) — два независимых пуассоновских процесса с параметрами Ло и Ло соответственно. Введем процесс Х(1)-Х(1)-У(1), 1~0. Задачи Пространство состояний этого процесса состоит из всех целых чисел (положительных, отрицательных и нуля).
Пусть Р (1) Р(Е(1)=а), п=О, Ш1, ч-2,.... Доказать формулу Х ° Ра(1) з" = ехР (- (Л, +Ля)1) ехР(Л,г1+ — з 1), )з).ра О. я Найти М(Е(1)) и М(Хт(1)), Ответ: М(г (1))-(Л,+Л,)1+(Л,-Л,)з(з. й. Рассмотрим два независимых пуассоновских процесса Х(1) и У(1), где М(Х(1)) = ЛГ, а М(У(1)) = рй Пусть два последовательных события процесса Х(1) понсходят в моменты Т и Т'> Т, так что Х(1) =Х(Т) при Т вЂ” 1~ Т' и Х(Т') Х(Т) + 1. Пусть У = У(Т') — У(Т) — число событий процесса У(1), про.
исшедших на иатервале (Т, Т'). Найти распределение М Отает: Р(Ф т)= — ~ 1, т О, 1. 2... Л+и Л+и 1О. Пусть Х(1) — марковский процесс чистого рождения с непрерывным вре. менем. Предположим, что Р(событие наступит в (Лг+ Ь))Х(1) нечетно) Л~Ь+ о(й), Р (событие наступит в (1,1+ Ь)) Х(1) четно) Лзй + о(Ь), где — -ьО при А Е О. Примем Х(0) - О. Найти следующие вероятности: о (Ь) Ь Р,(Г) = Р(Х(1) нечетно), Рт(1) Р(Х(1) четно). Указаиие: Вывести дифференциальные уравнения Р', (1) = — Л,Р, (1)+ Л,Р,(1). Р,'(1) =Л,Р, (1) -ЛзРа (1) и решить их.
Ответ: Р, (1) = — (1 — ехр (- (Л, + Лз) 1) ); л Л,+Л Рз(1)= ' + ' ехр(-(Л,+Л,)1). 11. В условиях задачи 1О найти М(Х(1)). Ответ: М(Х(1))= ' з 1+ ' з,з (ехр(-(Л,+Л,)()-Ц. Л, + Лз (Л, + Лз)т 12. Пусть а(1) — условная интенсивность исчезновения частицы в момент 1 при условии, что она не исчезла до 1, т. е.
Р(исчезновение произошло в (1,1+6)) исчезновения не было до момента 1) у(г)й+о(й) при ЬеО. предположим, что п(1) положительна и непрерывна на (О, оо). Найти выражение для Р(1) = Р(исчезновение произошло в некоторый момент т(1) через а( ). Задачи 231 !7. Найти стационарное распределение для процесса рожде шя н гибель с линейным ростом при Л ( )г (см. пример 1 $6). Огаег: !8. Бень Маркова с непрерывным временем имеет два состоя,шш 0 и !. Время пребывания в состоявии О распределено экспоненпнальпо с параметрол~ Л > О. Время пребывании в состоянии 1 распределено экгпопенппальпо с параметром )л ) О. Найти вероятность Рга(1) нахождения процесса в состоянии О в мамюш 1, если в момент О он находится в состоянии О.
Ответ: р (1) — Р + а-)л+н! г ээ = Л+В Л+ )9. Пусть в задаче )8 Л = р, а )У(1) — число моментов измспе~шя состоянии процесса за время 1 ~) О. Найти вероятностное распределенно 17(1). 0|вег; Р ()т (1) = л) = е л! 20. Имеется два трансатлантических кабеля, каждый из которых может передавать одновременно только одно телеграфное сообщение. Время до отказа каждого из них имеет одно и то же энспоненциальное распределение с параметром Л. Время ремонта каждого кабеля имеет одно и то же экспоненциальпое распределение с параметром )г. При условии, что в момент О оба кабеля находятся в рабочем состоянии, найти вероятность того, что если в момент 1 одновременно поступают два сообщення, то они найдут оба кабеля исправными.