3. Основы теории случайных процессов. Карлин (1971) (1186156), страница 23
Текст из файла (страница 23)
Пусть лье и лли = 1 — лье (1 < й ( ( Ф вЂ” !) обозначают вероятности поглощения состояниями 0 и Дт соответственно при начальном состоявии й. Доказать, что !ип МВ! (О!1г) =л е за+и е(и !.+ т О. В условиях предыдущей задачи предположить, что существуют действительные числа а и Ь, такие, что М (и ! Ь) (~ ! ( М (Ь ! Ь) (1г = 1, 2, ..., 1тт — 1), (+) где М (О 1 Ь) = Ми!(О ! Ь).
Доказать, что еьь 1 ела 1 ,иь 1 "атт иа Ьтказаиие: Показать, что М!н(а ! Ь) ( 1 ( Мги(Ь ! 1т) (й = 1, 2...,, М вЂ” 1), и затем воспользоваться результатом предыдущей задачи. 1О. Рассмотреть марковскую цепь с состояниями (О, 1, ..., У) и переходными вероятностями Р ~ . )Р (1 — р) 1, где р —., 0<о<1 (1+0)1 Ц (!) ! ! Ь(+ а! (см. пример Ж из $2 гл.
2). Показать, что М (О ! Ь) = е ~ [рье + 1 — р„) (определение М(Втй) см. в задаче 8). 11. Для марковской цепи из предыдущей задачи показать, что числа 1 1-о а=!п —, Ь=(ив !+а' !+а удовлетворяют условвю (+) задачи 9, и затем получить оценки [(1 — а)1(1 4- а)] — 1 !/(1+а) — 1 (лая ( а)1(1+о))тт-1 ахт !Д!+и)тт-! 142 Гл. 4. Алгебраические методы исследования марноесках целей 12. Рассмотреть конечную марковскую цепь (Х,), л = О, 1, ..., с двумя классами состояний, один из которых представляет собой поглощающее состояние. Для определенности пусть поглощающий экран расположен в пуле, а ! 1, 2, ..., /У представляют состояния другого класса.
Пусть собственные значения матрицы переходных вероятностей занумерованы в порядке убывании их абсолютных значений: Лз =! ) (Лз!) 1Л,! > !Л,! )... (Подчеркнем, что мы предполагаем условие 1 ) ! Лз! ) ! Лз!.) Пусть Ь/ — предельная вероятность пребывания в состоянии / при условиях, что поглощения состоянием 0 не произошло, а начальным состоянием было з, т. е. Ь/ !/ш Р(Х(л) /!Х (и) М О, Х (0) /). и -Э т (См.
стр. 116.) Оценить скорость сходимости к нулю величин Р7/ н й/' 1-Рзз Ответ: Скорость сходимости имеет порядок ! Лз/Лз ! ". 13. Некоторые соотношения для бросаний монеты. Пусть с. в. (ХД,! ( / < ео, независимы, одинаково распределены и Р (Х/ Ц Р (Х/ — — Ц '/з. Пусть Я„= чз', Х/ при ! (л < со н ! 1 Р(т, л)-Р(Яз/-0 для некоторого ), т (/<т+л). Доказать, что Р(т, л) + Р(л, т) = 1 при т ) 1, п ) 1, Указание: Воспользоваться равенством Р(Яз 0) = Р(5| ~ О, Яз -ЬО,... ..., Яз„ = 0) и, предположив, что доказынаемый результат справедлив при т=/з и произвольном и ~ 1, обосновать следующие равенства: 1 — Р(й+1, и) = Р(5/ ~ 0 при й~(/<й+л+ Ц+ + Р(5 а =0 и 5 / ~ 0 при й+1(/<й+и+ Ц Р (Яз/ Ф 0 при й (/<й+ и + Ц+ + Р (Язз = 0) Р (Я,/ Ф 0 при 1 (~ / < и + Ц Р(5/= 0 при некотором ), и+! (/<й+л+ Ц+ + Р (Яз/ Ф 0 при 1 ~( / < й + Ц Р (Яз„О) Р(Яз/ 0 при некотором /, и+ ! (/<й+и+ Ц+ +Р(5 и 0 и Яз/Ф 0 при л+1(/<й+л+ Ц Р(л, й+Ц.
НЕКОТОРЫЕ ЭЛЕМЕНТАРНЫЕ ЗАДАЧИ 1-р 1. Проверить утверждение теоремы 2.1 на марковской матрице !! д 1-а где 0 ( р ( 1 и 0 ( д (!. При каких значениях р и д марковская цельс двумя состояниями, которой соответствует эта матрица, имеет ровно один возвратный класс? 2. Пусть Р и Π— конечные матрицы переходных вероятностей порядка и, такие, что РО = 1 = ОР. Показать, что матрицы Р н О являются матрицами перестановок, т, е.
матрицами с одним отличным от нуля элементом в каждом столбце и каждой строке. Литература 143 3. Пусть (Х„ л ) 0) — марковская цепь с двумя состояниями 0 и 1, причем Роо - 1 — оо, Ро~ со, Рп 1 — р, Рю ()(О < со,(! < 1). Пусть Ао есть значение индекса л ~ 1, для которого Х г Х„ О, и йусть гГ« М(йо1 Хо - 0). Показать, что г(о -1+ а !+() в ' Указание; Установить связь между озо и г(г = М(дг!Хо 1). ЗАМЕЧАНИЯ Алгебраическим методам исследования марковских цепей посвящена гл. )б книги Феллера [)1 Эти же вопросы освещены в книге Кемени и Снелла (21.
ЛИТЕРАТУРА 1. По ел л е р В„Введение в теорию вероятностей и ее приложения, т. 1, «Миро, 1964. 9. Ке слепу Х П., 5 не)1 Л Е., Г!п!(е Маг)гоч Сиа(пз, Чап (Чоз!гапд, Рппсе1оп, Иетч оегвеу, 1960, Глава 5 ТЕОРЕМЫ ОБ ОТНОШЕНИЯХ ПЕРЕХОДНЫХ ВЕРОЯТНОСТЕЙ И ИХ ПРИЛОЖЕНИЯ 5 Е ВЕРОЯТНОСТИ ПЕРЕХОДА С ЗАПРЕЩЕНИЕМ В возвратной нулевой неприводимой марковской цепи среднее а-! переходных вероятностей — х Рп стремится к нулю при стреме-0 ленин и к со. Но и при этом возвращение в любое данное состояние происходит с достоверностью.
Другими словами, относительная частота посещений любого данного состояния стремится к нулю с ростом времени, но тем не менее процесс находится в каждом состоянии бесконечное число раз с вероятностью 1. Имеет смысл рассмотреть число пребываний в данном состоянии 1 в отношении к числу пребываний в некотором другом состоянии У при бесконечном возрастании числа переходов.
Для этой цели полезно ввести «вероятности перехода с запрещением»: ьРуу= Р(Х„=у, Х,ФА, э = 1, 2, ..., п-! |Х0= У! при АФу', п)!. Здесь в правой части стоит событие, состоящее в том, что процесс перейдет из состояния 1 в состояние у за и шагов, ии разу не по- пав при переходе в состояние й. Состояние й в этом смысле назы- вают запрещенным, Аналогично при й Ф у, п > 1 определим ь~уу=Р(Х„=У', Х,ФУ', Х,ФА, т=1, 2, ..., п — 1!Х,=У), ( О, если (Фу, .Р»= !! 1 1, если и „~, =— О для всех у, у. Далее, при У Ф у' и п)~ О имеет место следующая важная формула; ~л '5$ ~р ~е-ч э-о' (1.1) вероятность того, что процесс, исходя из состояния у, на л-м шаге впервые достигнет состояния у, не попав при переходе в состоя- ние й. Для удобства положим при й Ф.у Э Л Веропгносто переходе с зопресяеноеи основывающаяся на разложении события, состоящего в первом достижении состояния ! из состояния ! на и-м шаге, на и несов.
местных событий, состоящих в возвращении в состояние ! па т-и шаге при запрещенном состоянии ! и последующем первом дости. женин состояния ! за и — т шагов при запрещенном состоянии ~', т = О, 1,..., и — 1. При выводе (1.!) ключевую роль играет классификация траекторий по последнему моменту нахождения процесса в состоянии й предшествующему моменту и. Упомянем здесь, что при выводе формулы (5,!) гл. 2 траектории подразделялись по моменту первого наступления этого события, Вообще соотношения, связанные с запрещенными состояниями, чаще всего устанавливаются с помощью рассмотрения первого илн последнего появления некоторого события. Эта двойственность между первым и последним играет важную роль во многих разделах теории вероятностей.
Наиболее яркой иллюстрацией этого служит теория сумм независимых одинаково распределенных случайных величин, где имеет место полная эквивалентность между понятием первого и понятием последнего момента. Соотношение (1,1) можно заменить эквивалентным ему уравнением для производящих функций. Последнее можно вывести ме. тодом, аналогичным примененному нами при выводе соотношения (5.10) из соотношения (5.9). Итак, сначала определим производящие функции: гР се (з) = Х;Р з". п=о Затем, так как соотношение (1.!) является сверткой, при с Ф ! мы получаем 1 ! (з) = гР и (з) Аг (з).
(!.2) Поскольку в силу части (а) леммы Абеля (лемма 5.1 гл. 2) имеют место следующие соотношения: 1пп ~О(з) =,".,' (,Ч, 1!ш,.(,. (з).= У„ /,т е-+1- п=~ О' с+1 и ! Если состояния ! и ! сообщаются, то существует такое целое число а)~1, что !", >О, и тогда в силу (1.!) Д >О для некоторого т= О, 1, ..., и — 1.
146 Гл. 5. теоремы об отношениях переходных вероятностей Последнее неравенство позволяет утверждать, что 3,1"„) О, а следовательно, и Х!»» Игп»Ри(з)= " ' <оо. ».Ф» т$ л Х !и л 1 Наконец, в силу части (б) леммы Абеля имеем ;Р;» = ~~', »Р ч — — 1!гп»РО (з) < оо. л-в»-ч»- 5 2. ТЕОРЕМЫ ОБ ОТНОШЕНИЯХ Для доказательства двух теорем этого параграфа нам понадобится следующая Лемма 2.1. Пусть се= ~~~~~ ал Ь„, и=О, 1, 2, ...„ ч-О 11»п — „" = Ь.
л+» -о л л Доказательство. Заметим, что ~ч.", ал = ~ а,. Следоч-О ч-О вательно, ~ ол-чЬч О ~ ол-ч(Ьч-Ь) Ь л ~л~~~ оч ч-о л ~ оч С'.» пл-ч ч О Поскольку Ь„стремятся к конечному пределу Ь, существует такое М ) О, что !Ь„~ < М при всех я~~ О. Выберем теперь такое»»»'*= = А»(а), что !܄— Ь )<е для всех п)А(, где О -< а„< К (К вЂ” положительная константа) и ~~."~ ал оо, л 0 Тогда если предел 1!гп Ьл= Ь конечен, то Ь' 2. Теоремы об отиоаеелалх !4Т Тогда при п)~)ч' имеем У вЂ” 1 ,т; ал, (Ьч — Ь) л ~ ал ч(Ьч — Ь) ел — — Ь л ч-о л ,~~~ ач л ~я~', ач ~З~ ач ч о У-1 ~ аи-ч (~ — л+ Е.
2М)ч'К -о ч о ~2М ~л'.~ ач ч о ~ ач ч-о Так как е > О произвольно, то, устремляя и к оо, мы получаем доказываемый результат. Приведем теперь три соотношения, подобных соотношению (1.!): (2.1) и л 'Чч ч л-ч Рп= Х Рее грц ч-о (2.2) ).,и ~~ )ч рл-ч (2.3) л о где (2.4) До к аз а тел ьств о. Из (23) имеем л ~ч чз еч Рл-ч 'чее ~З~ )л-лРа ~~ чп (л-аРл ,-о " .-,-о " " йо а-о " " .-о л-о " поскольку 1",. " = О при )е ) и (по определению), при й яь 1', 1~1 и п >~ О.
Последнее соотношение совпадает с соотношением (5.9) гл. 2. Вывод чх аналогичен выводу соотношения (1.1). Теорем а 2.1. Пусть 1 и 1 — произвольные состояния, причем состояние / — возвратное; тогда Х рег 1нп ы+ ~~~ рл 148 Ги 5. Теоремы об отношеннях переходных вероятностей Поскольку на самом деле обе суммы конечны, порядок суммирования можно поменять: вг И ш-о ~ч~з Рв ~ч~~ Рн 'чт сн-о ~ч,"~ Ро ~~ ег нО Н ОО ПнОС1 не ИгО Положим Рс ~н); при от=О, 1г 2, г о Р1ч=О при т= — 1, — 2,..., тогда ~ Рл чсз Рш-оРо ~ч,"~ Рт-оРо ч"~ Рт-чРч н о о-о о-о ч-о Применим теперь лемму 2.1, положив ч ч и ач=Ррл Ьч=Рсг и с = ~~ Рп.