Цепи Маркова (1121219), страница 61
Текст из файла (страница 61)
В силу симметрии для всех таких имеемP (посетить каждое состояние) = P 1 (посетить каждое состояние),что в свою очередь равноP 1 (попасть в 2,3 и 4) = 1 − P 1 ({избежать попадания в 2}∪∪ {избежать попадания в 3} ∪ {избежать попадания в 4}).§ 2.12. Вопросы к теории цепей Маркова с непрерывным временем389По формуле включений-исключений последнее выражение можно записать в видеP1S4i=2{избежать попадания в i} == P 1 ({избежать попадания в 2}) + P 1 ({избежать попадания в 3}) ++ P 1 ({избежать попадания в 4}) − P 1 ({избежать попадания в 2 и 3}) −−P 1 ({избежать попадания в 2 и 4}) −P 1 ({избежать попадания в 3 и 4}) ++ P 1 ({избежать попадания в 2, 3 и 4}).Учитывая п.
а), получаем, что P 1 ({избежать попадания в j}) = 4/7 дляj = 2, 4 и 5/7 для j = 3.Далее,P 1 (попасть в 2 или 4) = 2/3 и P 1 (избежать попадания в 2 and 4) ={3,4}Тогда вновь в силу симметрии для вероятности достижения h i= P i (попасть в 3 или 4) находим{3,4}h1{3,4}Следовательно, h1=1.3:=11{3,4}{3,4}+ h3,4и h1= h2 .33 2= 1/2, иP 1 ({избежать попадания в 2 и 3}) =1= P 1 ({избежать попадания в 3 и 4}).2Наконец,P 1 ({избежать попадания в 2, 3 и 4}) = P 1 ({сразу попасть в 5}) = 1/3.Собрав все слагаемые, получаемP1S4i=2 4 5 4 1 1 1 16{избежать попадания в i} = + + − − − + = ,77732237а следовательно,P 1 (попасть в каждое состояние) = 1/7.Задача 2.12.4.
Паук взбирается по вертикальной трубе высоты aс единичной скоростью. В моменты скачков процесса Пуассона (с интенсивностью ) начинается дождь, который мгновенно смывает паука надно трубы, а тот сразу же начинает карабкаться вновь вверх по трубе.Предположим, что в начальный момент времени паук находится на днетрубы. Пусть T — момент времени, когда паук достигнет вершины, а числоN обозначает, сколько раз паука смывал дождь, прежде чем он достигвершины. Для > 0 и 0 6 z 6 1 покажите, что− ( + )a+ )a)( + )e+ − z(1 − e− (E (e− T zN) =.Вычислив E (e− T | N = n), или иным способом, определите E (T | N == n) при каждом n = 0, 1, 2, .
. .Решение. Пусть J1 — момент выпадения первого дождя. Запишемz )==Z∞0e− s E (e− T zN | J1 = s) ds =e− s − aeZads +e− s − s!ez ds g =+ )a+ zg0a= e− (g = E (eZ∞− T N+(1 − e− (+ )a).Таким образом,z(1 − e− ( ++1−)a)g=e− ( + )a −1.Тогда E (e− T 1(N = n)) является коэффициентом при zn в разложении g:hinE (e− T 1(N = n)) = e− ( + )a(1 − e− ( + )a) ,+Далее, определим| N = n) = e−(1 − eaТогдаi) n−1in.h× −( + )2×1 − e−a−73003 14 −20 4Q=0 28 −3242Инвариантное распределение = ( 0 ,творяет уравнению Q = 0, т.
е.1,12 .4 −423,4)единственно и удовле-−7 0 + 14 1 = 0,3 0 − 20 1 + 28 2 = 0,3 0 + 4 1 − 32 2 + 42 3 = 0,0 + 2 1 + 4 2 − 42 3 = 0.0 1 − e ( + )a =0a.e a−1Отсюда находимiae− ( + )a+.( + ) (1 − e− a)(1 − e( + ) (1 − e− a)a(1 − e− ( + )a)( + ) (1 − e− a)− ( + )adg = −agn + ne−d nhh391Задача 2.12.5. Каждая пара городов A, B и C соединена телефоннойлинией, которая может выйти из строя из-за снежных ураганов. Ураганыналетают согласно процессу Пуассона (с интенсивностью 8 в единицувремени), и, когда это случается, каждая линия выходит из строя с вероятностью 1/2, независимо от других линий. Если линия повреждена, для еевосстановления требуется случайное время, которое имеет показательноераспределение со средним 1/14, и ремонт каждой линии производитсянезависимо от других.
Пусть {Xt , t > 0} — ц.м.н.в., Xt равно числу бездействующих линий в момент t. Определите среднее время пребыванияв каждом состоянии и выпишите Q-матрицу для ц.м.н.в. {Xt , t > 0}.Найдите предельную пропорцию времени, когда возможна телефоннаясвязь между каждой парой городов, предполагая, что при необходимостисвязь можно осуществлять и через третий город.Решение. Состояния цепи Маркова — 0,1,2,3 (число бездействующихлиний), и средние времена пребывания равны 1 /7, 1/20, 1/32 и 1/42.Производящая матрица имеет вид) .Td− a ngn = E (e−Чтобы найти E (T |N = n), мы вновь положим = 0:1dE (T | N = n) = − gn =a+n−= 0:− aP (N = n) = eа P (N = n) мы получим, если положим§ 2.12. Вопросы к теории цепей Маркова с непрерывным временемГлава 2. Цепи Маркова с непрерывным временем390=28,511=14,512=7,513=2.51Таким образом, искомая предельная пропорция равна 0 + 1 = 14/17.Задача 2.12.6.
Рассмотрим систему массового обслуживания с однимсервером и комнатой ожидания, где может находиться не более одногоt→∞Для случая = вычислите P (X(t) = 0|X(0) = 0) для всех t > 0.Решение. Следуя общепринятой практике, моделируем очередь какц.м.н.в. с Q-матрицей следующего вида:0−Q=!− −0−p(t) := P (X(t) = 0|X(0) = 0) =p(t) =Q = 0,0+1+1=2),+ Ae t + Be t , t > 0,−1 = −A − 3B,1216A= , B= .Таким образом,= 1.21+ A + B,3p(t) =111+ e−t + e−3t .326Альтернативный путь — решить обратное или прямое уравнения.=2Man’s unhappiness, as I construe, comes of his greatness;it is because there is Infinite in him,which with all his cunning he cannot quite bury under the Finite.222.1+2+2Т.
Карлейль (1795–1881), английский поэт и писатель.Далее, в силу стандартных результатов для j = 0, 1, 2 получаемlim P (X(t) = j) =t→∞= j .1+= . Рассмотрим сначала случайПусть теперьjQ=−1 1 01 −2 10 1 −1!2+2.= 1. Тогда.Задача 2.12.7. а) Предположим, что автобусы прибывают на остановкусогласно процессу Пуассона {Xt }t>0 с параметром в единицу времени(в данном случае это час) и что через 1 час прибыло ровно n автобусов.Вычислите условные вероятности P (Xt = k|X1 = n) того, что в точности kавтобусов, 0 6 k 6 n, прибыло на остановку за время t, 0 6 t 6 1, приусловии, что n автобусов прибыло к моменту времени 1.б) Рассмотрим ц.м.н.в.
{Xt }t>0 с двумя состояниями 0 и 1. Для всехt > 0 и i, j ∈ {0, 1} положим pij (t) = P (Xt = j | X0 = i). Пусть длянекоторого T > 0 матрица P(T) имеет видP(T) = 1 −0 = det( I − Q) = ( + 1) 2 ( + 2) − 2( + 1) = ( + 1) ( + 3).Докажите, что 1/2 <Чтобы найти собственные значения, решаем уравнение1−,= 1,11,/ ), т. е.∝ (1, / ,2=0Тогдаи1,01+ Ae−t + Be−3t .31 = 2A,= ( 0,= −3. Используя общийdp(0) = −1, имеемdtПоскольку p(0) = 1 и.Чтобы найти инвариантное распределение, решаем дляi > 0, систему уравнений= −1 и393Получаем собственные значения 0,результат, находимклиента вдобавок к тому, что один клиент обслуживается.
Прибывающиеклиенты не попадают в систему, если комната ожидания занята. Интервалывремени между моментами появления клиентов являются независимымипоказательными случайными величинами с параметром , а времена обслуживания — независимыми показательными величинами с параметром. Выпишите Q-матрицу ц.м.н.в. X(t), где X(t) — число клиентов в системев момент t.Оцените lim P (X(t) = j) при j = 0, 1, 2.§ 2.12. Вопросы к теории цепей Маркова с непрерывным временемГлава 2.
Цепи Маркова с непрерывным временем392.6 1, и вычислите P(t) для всех t > 0.394Глава 2. Цепи Маркова с непрерывным временемРешение. а) Условная вероятность P (Xt = k|X1 = n) равнаP (Xt = k, X1 = n)P (Xt = k) P (X1 = n|Xt = k)==P (X1 = n)P (X1 = n)P (Xt = k) P (X1−t = n − k)== (в силу марковского свойства) =P (X1 = n)(1−t)[e− t ( t) k /k!] [e−=( (1 − t)) n−k / (n − k)!]= Ckn tk (1 − t) n−k .n n!/395Покажите, что при соответствующих предположениях (которые следуетопределить) описанная ситуация может быть представлена при помощиц.м.н.в.
с состояниями (r, s), где r — число стажеров, занятых осмотромпациентов, а s — число пациентов, которые были направлены на консультацию к заведующему и все еще находятся в госпитале. Опишите Q-матрицуэтой ц.м.н.в.Пусть (r, s) — это предел при t → ∞ вероятности того, что в моментвремени t цепь находится в состоянии (r, s). Выпишите уравнение, которому должен удовлетворять этот предел, и покажите, что при< егорешение можно представить в виде11> 0.При 0 = 1 = 0 матрица Q превращается в нулевую матрицу, e —в единичную матрицу и = 1 > 1/2.Следовательно, мы можем предположить, что 0 + 1 > 0. Тогда собственные значения матрицы Q равны 0 и − ( 0 + 1), а уравнения длядиагональных элементов имеют вид(r, s) =e−r!r0+1+00+0+1e− (0 + 1)Te− (0 + 1)Tи0=11+11.q((r,q((r,q((r,q((r,= , т.
е.Получаем0= p11 (T) ==11+ e −2 T ,22(r + 1, s)) = ,(r − 1, s)) = r (1 − ),(r − 1, s + 1)) = r ,(r, s − 1)) = ,r, s > 0,r > 1, s > 0,r > 1, s > 0,r > 0, s > 1.откуда следует, что ∈ (1/2, 1).Для произвольного t > 0 имеемs),s),s),s),+0sпри подходящих значениях и .Решение. Предположим, что времена осмотра пациента стажероми заведующим являются показательными и независимыми друг от другаи от пуассоновского процесса поступления пациентов. Тогда в силу свойства отсутствия памяти показательного распределения пара (r, s) являетсясостоянием ц.м.н.в. с производящей матрицей Q = (q((r, s), (r 0 , s0)), составленной из следующих ненулевых внедиагональных элементов:1= p00 (T) =(1 − )TQ1Таким образом, условные вероятности являются биномиальными.− 00TQб) Запишем e = P(T), где Q =— Q-матрица и 0 ,−e−§ 2.12.