Цепи Маркова (1121219), страница 44
Текст из файла (страница 44)
. . ∀ t > 0(2.5.24)×Z t Ztn0Yk : n→1...0Zt20= il − 1)) ×exp [− (t − tn) ((exp [− (tk − tk−1) (ik−1in++×il 1(il+1( il 1(il+1 = il + 1) +l=0nY−1Общая формула для выражений в правой части соотношения (2.5.21) соответствует последовательности скачков через состояния i = i 0 , i1 , . . . , in = j,где il = il−1 ± 1, и может быть записана в форме277in )] ×ik−1 )]) dt1 . . .dtn ,(2.5.22)и взрывным в противоположном случае.
Точнее, мы называем состояние iневзрывным,P если соотношение (2.5.24) верно для любого t > 0, и взрывpij (t) < 1 для некоторого t > 0.ным, еслигде t0 = 0, илиj>0×0Yk : 1→n0(exp [− (sk − sk+1) (i0+i0 )] ×exp[− (t − s1) (0...sZn−1Теорема 2.5.10 (см. Ledermann W. , Reuter G. E. H. Spectral theory forthe differential equations of simple birth and death processes // Philos. Trans.Roy.
Soc. London. Ser. A. 1954. V. 246. P. 321–369) дает достаточные условия для того, чтобы ПРГ ( k , k) был невзрывным.Теорема 2.5.10. Зафиксируем набор интенсивностей k , k > 0.При заданном i > 0 предположим, что k > 0, k = i, i + 1 . . . Тогдалюбое из следующих условий a) –г) гарантирует, что состояние iневзрывное:Z t Zs1= il − 1)) ××il 1(il+1ik+( il 1(il+1 = il + 1) +l=0nY−1j>0ik )]) dsn .
. .ds1 ,(2.5.23)Глава 2. Цепи Маркова с непрерывным временемn−1 n+ ... +i+1 . . .i i+1 . . .nn+i ...ni i+1 . . .n= +∞.Таким образом, ПРГ ( k , k) невзрывной, если для любого состояния i выполняется одно из условий а) –г).Профессор Вальтер Ледерманн умер 22.05.09 в возрасте 98 лет. Его математическаякарьера была яркой и необычной. Ледерманн родился в Германии в 1911 г.
и изучал математику в Берлинском университете, где его профессорами были Эрих Шмидт (операторыГильберта—Шмидта), Исай Шур (лемма Шура из теории представлении групп) и ЛюдвигБибербах (гипотеза Бибербаха). Физику ему преподавали Макс Планк, Макс фон Лауэ иЭрвин Шредингер. Выпускные экзамены Ледерманн сдавал в ноябре 1933 г. Шмидту и Шуру(который несмотря на еврейское происхождение был временно восстановлен в должностипрофессора, как ветеран Первой мировой войны, но вскоре окончательно уволен).
Бибербахтакже появился во время экзамена, одетый в нацистскую униформу.В январе 1934 г. Ледерманн получил стипендию в университете Св. Андрея в Шотландии, средства для этой стипендии были собраны местными студентами. Впоследствии онработал в нескольких британских университетах и сотрудничал со многими выдающимисяматематиками и физиками, включая Нобелевского лауреата Макса Бора. Статья Рейтера иЛедерманна была написана, когда Ледерманн и Гарри Рейтер работали в одной комнате вуниверситете Манчестера, такие случаи очень характерны для Ледерманна. Он запомнилсямногими коллегами как человек, вызывающий естественную симпатию. Как сказал один из егобывших студентов: «Это был маленький и хрупкий человек, который оказался обаятельным,остроумным и все понимающим, и который мастерски читал лекции».(2.5.26)при h → 0+, где остаточные члены могут зависеть от i, но не от t,илив) как процесс, который 1) проводит случайное время ∼ Exp( i + i)в состоянии i ∈ Z+ , если i + i > 0, и затем прыгает в состояние i + 1или i − 1 с вероятностями i / ( i + i) и i / ( i + i) соответственно или 2)остается навсегда в этом состоянии, если i = i = 0, независимо от егопредыдущей истории.Теорема 2.5.12.
Для невзрывной матрицы Q три характеризацииа) –в) ПРГ ( k , k), заданные в определении 2.5.11, эквивалентны.В дальнейшем мы детально изучаем ПРГ, у которых 1 = 2 = . . . = >> 0 и 1 = 2 = . . . = > 0. Такие ПРГ всегда невзрывные. При этом если0 = 0, то состояние 0 поглощающее.А что будет, если матрица Q взрывная? Тогда следуем предыдущимрецептам: добавляем поглощающее состояние ∞, т. е. рассматриваем нашПРГ на расширенном пространстве состояний Z+ = Z+ ∪ {∞}.
Вновь обозначим процесс как (Ntmin , t > 0), тогда определение 2.5.11 a) принимаетследующий вид.nj h + o(h),= i − 1 | NtРГ = i) = j h + o(h),РГP (|NtРГ+h − i| > 1 | Nt = i) = o(h)n+P (NtРГ+hn>iРГP (NtРГ+h = i + 1 | Nt = i) =nX 1i> 0 для n > i иn= 0,0P (NtРГ+h = j | Nt = i) = 1 − ( j + j)h + o(h),n>iг)i+1 . .
.279условно не зависит от прошлого (NsРГ , 0 6 s < t) и= 0 для некоторого n > i;P 1б) n > 0 для n > i и= +∞;n>i iP i i+1 . . . nв) n > 0 для n > i и= +∞;nа)§ 2.5. Процессы рождения и гибели. Взрыв278Определение 2.5.11. Зафиксируем набор интенсивностей 0 , 1 ,. . . > 0.
Пусть P(t) = (pij (t)), t > 0, — минимальное решение прямого/обратного уравнения Ṗ = PQ = QP, P(0) = I, и предположим, что матрица Q невзрывная. ПРГ ( k , k) с интенсивностями i , i , выходящийиз состояния i ∈ Z+ , — это процесс (NtРГ , t > 0), N0РГ = i0 , со значениямиj ∈ Z+ , который можно охарактеризовать тремя следующими способами:a) как такой процесс, что1,P i (NtРГ= i1 , ..., NtРГ= in) = pi0 i1 (t1)pi1 i2 (t2 − t1) ...pin−1 in (tn − tn−1), (2.5.25)n1∀ 0 = t 0 < t 1 < . .
. < t n , i = i 0 , i1 , . . . , i n ∈ Z+ ;б) как процесс, у которого для любого t > 0 и j ∈ Z+ при условииРГNtРГ = i приращение NtРГ+h − Nt на будущем временном интервале [t, t + h)Рис. 2.44Определение 2.5.13. Для любых чисел 0 = t0 < t1 < . . . < tn < tn+1 <Глава 2. Цепи Маркова с непрерывным временем< .
. . < tn+l и i = i0 , i1 , . . . , in ∈ Z+ определимP i0 (Ntmin= i1 , . . . , Ntmin= in , Ntmin= ∞, . . . , Ntmin= ∞) =n1n+1n+lnYX=pik−1 ik (tk − tk−1) 1 −pin j (tn+1 − tn) .k=1j∈Z+Соответственно назовем состояние i ∈ Z+ взрывным, еслиP(2.5.27)pij (t) < 1j∈Z+для некоторого момента времени t > 0 (следовательно, и для б о́льшихмоментов времени).
Для взрывного состояния i выполняется соотношениеXP i (Tвзр < +∞) > 0, точнее, P i (Tвзр < t) = 1 −pij (t),(2.5.28)j∈Z+Tвзр = lim Jn =n→∞становится сложным. Бывают случаи, когда прямое уравнение имеет единственное решение, а у обратного уравнения число решений более одного,и наоборот.
См., например, Reuter G. E. H. , Ledermann W. On the differential equations for the transition probabilities of Markov processes with enumerably many states // Proc. Cambridge Philos. Soc. 1953. V. 49. P. 247 –262;Karlin S. , McGregor J. The classifications of birth and death processes //Trans. Amer. Math. Soc. 1957.
V. 86. P. 366–400; Добрушин Р. Л. Условиярегулярности для марковских процессов с конечным числом состояний //УМН. 1952. Т. 7, № 6. С. 185–191.Для невзрывного ПРГ, конечно, P i (Tвзр = +∞) = 1 для любого состояния i ∈ Z+ .Следующий класс процессов, которые хотелось бы упомянуть, — этослучайные блуждания с непрерывным временем (с.б.н.в.) на Z d . Вначалерассмотрим одномерный случай, когда d = 1.Если i = i , то случайное блуждание называют симметричным; еслии i ≡ , то случайное блуждание называют однородным.i≡Для этой ц.м.н.в. Q-матрица бесконечна (во всех направлениях):XSn .(2.5.29)n>0Здесь 0 = J0 < J1 < .
. . — последовательность времен скачков ПРГ и S0 ,S1 , . . . — последовательность времен пребывания,J1 = inf [t > 0 : Ntmin 6=:N0min ] , J2 = inf [t > J1 : Ntmin 6=:NJmin] , ...,1 +0S0 = J1 , S1 = J2 − J1 , ..... .. . .Q = . . .. . .(2.5.30)..Достаточное условие (Ledermann—Reuter) для того, чтобы состояние iбыло взрывным, таково:hiX 1n+1< 1.>0дляn>i,<∞,sup:n>inn>1ni i+1 . .
.n−1 nni i+1 . . .nnhиsupn+11n+nn−1 n+ ... +i+1 . . .i i+1 . . .......i−10......−(i−1...+i0...i−1)...0i−1− ( i + i)i+1.........0i−(+...i+1.i+1)i+1........ ... .... ....nДругое достаточное условие таково: n > 0 для n > i,X 1... nni ... n++ . . . + i+1+< +∞,n>i281где время взрыва Tвзр определяется как§ 2.5. Процессы рождения и гибели. Взрыв280nn+i ...ni i+1 . . .ni: n > i < +∞.Вновь упомянем, что при наличии взрывных состояний вопрос единственности (субстохастического) решения прямого и обратного уравненийРис. 2.45В двумерном случае (d = 2) состояниями являются точки i = (i 1 , i2),i1 , i2 ∈ Z; см.
рис. 2.46.Мы сосредоточимся в основном на однородном и симметричном случае,когдаqi := −qii ≡ q > 0, i = (i1 , i2) ∈ Z2 ,иq4qii0 = , если точка i0 соседняя к i, т. е. i0 = (i1 ± 1, i2) или (i1 , i2 ± 1).282Глава 2. Цепи Маркова с непрерывным временем§ 2.6. Инвариантные распределения счетных цепей Маркова. Цепь скачков283§ 2.6. Инвариантные распределения счетныхцепей Маркова. Цепь скачковCountably Many Dalmatians9(Из серии «Фильмы, которые не вышли на большой экран».)Рис. 2.46Для однородного и симметричного с.б.н.в. при d = 3 существует шестьвозможных переходов, соответственноqii0 =Введем теперь общие ц.м.н.в.
и (не более чем) счетным множествомсостояний (или счетные цепи Маркова с непрерывным временем). Ц.м.н.в.с конечным числом состояний включаются сюда как частный случай. Мыбудем приводить доказательства только тех фактов, которые в принципемогли бы появиться на экзаменах в Кембридже.Пространство состояний по-прежнему будем обозначать I; будем рассматривать Q-матрицы Q = (qij) с элементами qij , проиндексированнымипарами состояний i, j ∈ I. Неизменными остаются условия (внедиагональные элементы Q неотрицательны и матрица Q консервативна)qдля точки i0 , соседней к i = (i1 , i2 , i3).6Общий случай Zd , d > 1, рассматривается аналогично.
При этом в качестве индексов у элементов Q-матрицы выступают точки i ∈ Zd :qi = −qii = 1,qi j =11(||i − j|| = 1),2di 6= j, i, j ∈ Zd .И вновь в более общей модели элементы qi могут зависеть от i ∈ Zd .qij > 0 ∀ i, j : i 6= j,и−∞ < qii 6 0,qi := −qii =Xj∈I : j6=i(2.6.1)qij ∀ i.(2.6.2)Напомним, что для любых j 6= i элемент qij является интенсивностью перехода из состояния i в состояние j и для любого i значение q i задает полнуюинтенсивность выхода из состояния i.Pqij равномернойКроме того, будем предполагать сходимость рядаj : j6=i(хотя в большинстве случаев утверждения, приведенные ниже, не требуюттакого ограничения). Равномерная сходимость означает, что состояния i ∈ Iможно пронумеровать, например, индексами j0 , j1 , j2 , . .