Цепи Маркова (1121219), страница 42
Текст из файла (страница 42)
В 1960-х гг. эти ошибки привлекали внимание как авторов,так и читателей стенной газеты механико-математического факультета Московского государственного университета. Газета называлась «За передовой факультет»; она выпускалась(издание было прекращено в 1990 г.) с некоторой периодичностью и была проводником официальной политики партийного бюро, профсоюзного комитета и руководства факультета (изэтих трех образований в настоящее время сохранилось лишь последнее).
Статьи печаталисьна машинке, а иногда были написаны от руки и наклеивались на плотный белый ватман(предназначенный, в принципе, для технических чертежей и выпускаемый в больших количествах для нужд советской промышленности). В периоды политических оттепелей издателигазеты могли позволить авторам занять более свободную позицию, интерпретируемую каксоветская сатира и юмор.
Официально это было направлено на «искоренение существующихпреград на пути нашего прогресса», а неофициально на то, чтобы развлечь (и привлечь)читателей. И действительно, многие математики и ученые других специальностей редко пропускали случай прочесть свежий номер этой стенгазеты; многие часами добирались даже изПодмосковья (в общем, по нашим предположениям, газета была эквивалентом современногоинтернета). Некоторые статьи вызывали оживленные профессиональные или общественныедискуссии и имели значительное влияние на математическую жизнь в Москве. Одна серия(анонимных) статей появлялась в газете периодически, общим числом где-то дюжину разили около того, и постоянное название пародировало риторику времен холодной войны,господствовавшую в советской прессе тех лет.
Название звучало так: «Свежая ошибкаамериканского автора», и статья всегда начиналась словами «Наши читатели обнаружилиновую ошибку американского автора Феллера». В недавно вышедшей книге «Колмогоровв воспоминаниях учеников» (М.: МЦНМО, 2006) этот эпизод описывается несколько иначе,хотя два представленных рассказа также отличаются друг от друга.§ 2.5.
Процессы рождения и гибели. ВзрывAnd such a yell was there,Of sudden and portentous birth,As if men fought upon the earth,And fiends in upper air;Oh, life and death were in the shout...В. Скотт (1771–1832), шотландский писатель и поэтИ сразу шум такой,Как будто злобна и слепаВоюет дьяволов толпаТам, в туче над землей!И смерть, и жизнь — всё в крике том...Пер.
С. Я. МаршакаДругое полезное обобщение процесса Пуассона получают, предположив, что независимые времена пребывания распределены экспоненциаль-264Глава 2. Цепи Маркова с непрерывным временемно:Sk ∼ Exp( k),(2.5.1)где k > 0 зависит от состояния k. (Если k = 0, то состояние является поглощающим и Sk = ∞. Процесс прекращает развиваться, попадаяв такое состояние.) Это обобщение приводит к процессу рождения с интенсивностями ( k) (обозначим его кратко ПР ( k)). См.
рис. 2.38.Рис. 2.38Являясь ц.м.н.в., процесс ПР ( i) представляет собой процесс с пространством состояний Z+ и Q-матрицей−00 ...0 0Q= 0...§ 2.5. Процессы рождения и гибели. Взрыв265где остаточные члены могут зависеть от i, но не зависят от t,илив) как процесс, который 1) находится в состоянии i > i 0 в течениеслучайного времени ∼ Exp( j), где j > 0, независимо от предыдущейистории, а затем совершает скачок в j + 1, или 2) остается навсегда в этомсостоянии, если j = 0, независимо от предыдущей истории.Ясно, что эти характеризации дублируют свойства б) и в) процессаПП ( ).
В дальнейшем будем предполагать, что все i положительны (т. е.нет поглощающих состояний).В приложениях процесс ПР ( k) часто представляет собой численностьрастущей популяции (например, живых организмов или физических частиц), скорость роста которой зависит от состояния, в котором процесснаходится в заданный момент времени t.0−10...−.... .... .2.. ....012.(2.5.2)Можно ожидать, что, как и в случае процесса ПП ( ), матричная экспонента∞X(tQ) kP(t) = etQ =k=0k!будет задавать переходные вероятности этого процесса. Более удобно,однако, начать с определения, которое обобщает характеризации б) и в)процесса ПП ( ).Определение 2.5.1. Пусть 0 , 1 , . . . > 0.
Процесс рождения с интенсивностями 0 , 1 , . . . , выходящий из состояния i0 ∈ Z+ , — этонеубывающий процесс (NtР , t > 0) с начальным состоянием N0Р = i0и значениями в Z+ , который может быть охарактеризован двумя эквивалентными способами:б) как такой процесс, что для любых t > 0 и i ∈ Z+ при условии NtР == i приращение NtР+h − NtР на будущем временно́м полуинтервале [t, t + h)условно не зависит от прошлого (NsР , 0 6 s < t) и имеет следующиеинфинитезимальные вероятности:P NtР+h = i | NtР = i = 1 − i h + o(h),(2.5.3)P NtР+h = i + 1 | NtР = i = i h + o(h),P NtР+h > i | NtР = i = o(h),Рис.
2.39Вернемся теперь к характеризации а). Заметим, что матрица Q должнаприводить к верхней треугольной матричной экспоненте P(t) = e tQ :p00 (t) p01 (t) p02 (t) . . . 0p11 (t) p12 (t) . . . P(t) = etQ = 0(2.5.4)0p22 (t) . . . ,...0причем P(0) = I. Чтобы отыскать эту матрицу P(t), вновь воспользуемсяпрямым и обратным уравнениямиṖ = PQ = QP, P(0) = I(аргумент t > 0 часто будем опускать). Уравнения для заданного элементаимеют вид(− j pij + j−1 pij−1 (прямое уравнение),(2.5.5)ṗij =− i pij + i pi+1j(обратное уравнение),pij (0) =ij ,i 6 j.266Глава 2.
Цепи Маркова с непрерывным временемПредположение о том, что матрица P(t) имеет верхний диагональный вид,позволяет решить эти уравнения. Например, рассмотрим прямое уравнение. Здесь на главной диагонали§ 2.5. Процессы рождения и гибели. Взрывpii+2 (t) =Zt Zt0ie0Z t Zt2=ṗii = − i pii , pii (0) = 1 ⇒ pii (t) = e− it, t > 0.0=На один шаг вверх от главной диагонали имеемṗi i+1 = −i+1 pii+1i pii ,+i=i+1ii+1−ei−− iti(e−− e−−(i+1 t)=i+1 − i)t),pii+n (t) =i6=i+1 , t > 0.Видим, что pii+1 (t) > 0 и стремится к te− t , когда i , i+1 стремятся к .Далее, на два шага вверх от главной диагонали имеемi+2 pii+2i⇒ pii+2 =i+1−i+1 pii+1 ,+e− iti+2i−ipii+2 (0) = 0 ⇒−e− i+1 ti+2−i+1+ e−i+2 ti6=−1i+2 −i+1i6=1+i+2 −i+2i+1,6= i , t > 0.( t) 2e− t , когда i , i+1 , i+2 стремятсяИ вновь pii+2 (t) > 0 и стремится к2к , и т. д.Более элегантный способ решения прямого и обратного уравнений состоит в использовании характеризации в) из определения 2.5.1: запишемpii (t) = e−pii+1 (t) =Zt0ieit− i t1 −e(нет скачков до момента времени t),i+1 (t−t1)(2.5.6)dt1 , (единственный скачок до момента t),(2.5.7)Zt...0=− i t1i+1 (t2 −t1)i+1 e−i+2 (t−t2)e−i+1 (t2 −t1)e−1(t1 < t2) dt2 dt1 =i+2 (t−t2)dt1 dt2 =0ie− i (t−s1)0i+1 e−i+1 (s1 −s2)e−i+2 s2ds2 ds1(в точности два скачка до момента t)...Zt...0Ztie− i t1i+1 e0Zt0=ṗii+2 = −−(2.5.8)и т.
д. Решение для pii+n имеет видit(1 − ei+1 eieZ t Zs10pi i+1 (0) = 0 ⇒⇒ pi i+1 =− i t1267Zt20×eie0sZn−1−− i t1ie...− i (t−s1i+1 (t2 −t1)−i+n (t−tn)i+n−1 e......−i+n−1 e−i+n−1 (tn −tn−1)×1(t1 < . . . < tn) dtn . . . dt1 =i+n−1 (tn −tn−1)i+n−1 e−e−i+n (t−tn)i+n−1 (sn−1 −sn)e−dt1 . . .
dtn =i+n sndsn . . . ds1(в точности n скачков до момента t)(2.5.9)и т. д. При этом подынтегральное выражение как функция переменных 0 << t1 . . . < tn < t (времена скачков) удобно для проверки прямых уравнений,а как функция переменных sl = t − tl (времена от скачков до момента t,т. е. времена переходов) удобно для проверки обратных уравнений. Заметим, что в формулах (2.5.6) – (2.5.9) не требуется, чтобы выполнялосьравенство i = i+1 .
Но все же, когда i совпадают, получаем соотношения(2.3.8) – (2.3.9). Выборочные траектории ПР ( k) показаны на рис. 2.40.Пример 2.5.2. (ср. с примером 2.4.2). Сигнализация в другом зданииуниверситета на Квантовой улице отличается от описанной в примере 2.4.2:P (Mt+h − Mt = 0 | Mt = i) = 1 − i h + o(h),P (Mt+h − Mt = 1 | Mt = i) = i h + o(h),P (Mt+h − Mt > 1 | Mt = i) = o(h)∀ t > 0, i = 0, 1, . . . , h & 0.Найдите уравнения для вероятностей pi (t) = P (Mt = i). Проверьте, что268Глава 2. Цепи Маркова с непрерывным временем§ 2.5.
Процессы рождения и гибели. Взрыв269Наконец, рассмотрим∂2G(s, t) ,∂ s2s=1v(t) = EMt (Mt − 1) =Var Mt = v(t) + m(t) − m(t) 2 .Тогдаv̇(t) = 2 v(t) + (2 + 2 )m(t), v(0) = 0.( + )Рис. 2.402ПР с «линейными интенсивностями» k = k + называется процессомЮла—Фурри; он используется в некоторых приложениях.ie t −1Var Mt = e t (e t − 1).выполняется равенство= i+при2иv(t) =Отсюда следует, чтоm(t) = EMt =(e t − 1)и найдите Var Mt .Решение. В предположении, что M0 = 0, (Mt) ∼ ПР ( i) (интенсивностирождения i), уравнения таковы:= i+Приṗ0 = − 0 p0 ,ṗi = i−1 pi−1 − i pi , i > 1.iпроцесс не взрывается.
Рассмотрим п.ф.м.Xsi pi (t),G(s, t) =i> 0при этомG(1, t) = 1X∂G(s, t) =isi−1 pi (t).∂s(взрыва нет) иi> 1Million Dollar(Из серии «Фильмы, которые не вышли на большой экран».)Перейдем теперь к вопросу о возможности взрыва, т. е. бесконечногочисла скачков (траектория неограниченно растет) на конечном интервалевремени, см. рис. 2.29.Как мы только что видели, при k ≡ > 0 (т. е. (NtР) ∼ ПП ( )) вероят P∞Sk < ∞ взрыва за конечное время равна 0. Сформулируемность Pk=N0теперь общий результат.Теорема 2.5.3. Для ПР ( k) с интенсивностямиследующая дихотомия:а) еслиX 1kТогда∂∂G(s, t) = (s − 1) G(s, t) + s(s − 1)G(s, t)∂t∂s∂получаеми для m(t) = G(s, t) ∂ss=1m(0) = 0.Отсюда следует, что m(t) =(e t − 1)ṁ(t) = m(t) + ,.7б) еслиkX 1kk= ∞, то взрыва нет: P< ∞, то взрыв есть: PX∞k=N0X∞k=N0k> 0 имеет местоSk < ∞ = 0,(2.5.10)Sk < ∞ = 1.(2.5.11)Д о к а зPа т е л ь с т в о.
а) Следуя доказательству теоремы 2.3.10, положим Tвзр = Sk и рассмотрим п.ф.м. Ee−Tвзр . Вновь используя монотоннуюk7 Ср.с названием фильма «Million Dollar Baby».270Глава 2. Цепи Маркова с непрерывным временемKPсходимость частичных суммk=0вания S0 , S1 , . . . , запишемEe−Tвзр= limK →∞KYEe−S kSk % Tвзр и независимость времени пребы-= limK →∞k=0KYk=0k=0элементарную оценку1+1kk=0=1+KX1k=0+k= lim+1kKQЗаметим, что последнее произведениеK YkK →∞"KY(1 + 1/ k)k=0# −1.11k1k2k1 ,k2 =0+ ... >В случае невзрывного процесса ПР ( k), когдаlimK →∞KY(1 + 1/ k)k=0# −16Xk1/KX1k=0k −1,kВновь как в доказательстве теоремы 2.3.10, заметим, что e −Tвзр = 0 и Tвзр == ∞ с вероятностью 1, откуда следует соотношение (2.5.10).б) С.в. Tвзр принимает значения в [0, ∞) и, возможно, значение +∞.ОднакоKXX−1Sk =ETвзр = lim Ek <∞kв силу теоремы о монотонной сходимости.