А.В. Прохоров, В.Г. Ушаков, Н.Г. Ушаков - Задачи по теории вероятностей (основные понятия, предельные теоремы, случайные процессы) (1115316), страница 31
Текст из файла (страница 31)
Отсюда следует, что матрица вероятностей перехода за один шаг и начальвон рзсиределение полностью оиределя(от все расиределения цепи Маркова, а значит и саму цепь Маркова, если отождествлять цени с одинаковыми раслроделениями. Важную роль в теории цепей Маркова играет классификация состояний. Говорят, что состояние зз достижимо иа состояния к(, если сущестаует таков " ) О, что Р(Р ) О. Состояния к( и к( называется саобщаюк(имися, если они достижимы друг из друга 11 л. и. Проколок и дю 161 Состоппие т< пазыааетск игсуи<еггвг»аы.к, если существует такое состокпие х<, что х< достижимо из .т„а х, иедостижимо ит г< и иазыааетск гвв(г<гвеккым в противиом случае. Мпок<ггтво всех сущсс<кеипыт состоянии пепи Д!аркова разбиваетсп иа щ игресгкакициеси классы сообщиюипжск с ютоаиий так, что любые два состояния пз одного класса сообщаютск мемтч собой, в длп л<обых двух состокпиб х< и,г< из рззиь<х классов Р, = Р.
= И ллп <в< (в< 7 щобого и. Цепь Маркова, ксе состоииип которой составлщот одни класс сообипиощихск состояний, иазываетси квразлажим <й. Состоппие х< иазываетсп вагврагкь<м, егчи вероптпость во!враки иик о зто состокиие равпа 1, и аскер»рвгк»<к в — противном стучае. Если дли во!- арап<ого состокиик сргдиее врсмп во<вращение конечно. то оио иззывае<си везврагкым пережи«лалы», в иротивиом случае в «ар»<ар.» ау<<вы». Состопиие р< иазыизетск кгриааичггким, если Н. (7. д.р) )и( 7",.." >с<) =- =й)1, ири атом й иазываетск игр<и»7ам состокиип. Ес <и й = 1, состолиие иазываетсп иелсриедичгским. В иеразло<кимой пепи Маркова ксе состопиип имеют одинаковый период, в частности, одиовргмеиио квлпютгк ищи рпедич< сними.
Неразложимая иепь Маркова иззЫвветси квлври,дичггкай, если в<г «состоянии колк<отса щ периодическими. Цепь Маркова <иыьи<астгк грвааичгской, если длк .кобы» ( и 7 сущессвует Нш Рио = р.~о, ~р.=-1. а Распределение вероктпостгй чи лг, ... пазь<ваетсп с<а<,игкарвим рвглргделеиивм цепи Маркова, если длк <иобого к л, = ч! л Р(»7, 7 = 1, 2, « Справедлпвы следуюище критерии зргодичпости перзчложпмьж цепей Маркова.
Теорема 1. Если д<л <»два(<вдави чгви <Марка»в с»ввгчиым числ ы< состояний существует кр талас, чга Р,. Р,мо <7.<л в<обык < и /, га Чвль Маркова является эргедичгскай. Те о р е и а 2. Длл грге<7ичиегги адларадиай, вгрвглвжимай, лгггрирдичгскей деви Л)арк< ва са гчв< ам.ч чиглак саггелкий даст»<очке сущее<вава»ил кенгчкаге множества )р ~ !1, 2...,), дейсгвигвльк ага е ) П, к»туралы<ага и и кгегритагглькых дейст<и<в<рных чисел иь иг, ..., <аких, чта Р(.".)и.
( и,. — е, < ф 7, <=! Х Р(У<и ( ар, 0 < в г=! 1. Основные понятия н соотношения 9.1. Доказать, что для лк бой стохастической матрицы Р сушествует веронтностное пространство н последовательность случайных величии па нем, образующих цепь Маркова с матрппей веронтностей перехода за один шзг Р. 9.2.
Всякая лп стоьастпческая матрпца мозкет быть матридей вероятностей перехода за два шага некоторой цепи Маркова? ') Н. О. Д.— наибольший общий долите<сь. 162 9.3. Известно, что цепь Маркова полностгпо определяется начальным распределением и матрипей вероятностей перехода за одни гнаг.
Определяетгн ли пень б!аркова пзчальнытг распределением н матрнцей вероятпост~ и перехода за два шша? 9.4. Доказать, что стохастическан матрица второго порядка является матрицей вероятностей перехода за два шага некоторой цепи Маркова тогда и только тогда, когда сумма ес диагональных злемептов больше нли равна единице. 9.5. Определить, при каких значениях с н г? цепь Маркова определяется однозначно начальным распределением и матрпцей веронтиостей перехода з» два шага: Вм ( г 1 — г~ 9.6. Доказать, что для цепи Маркова 3„, геп ... прп лнйгзх 0 < А =.
л — 1: а) Р(с„= 1„(=.„, =- („„,...,"-,„= — й) =- Р(;-„= (,А,-, = 1„-,); =Р(в.=г„, ..., '.. = (г, ~$.=ц)' и) Р(;,„=Г„(ьд =Еь ..., $о = 4)=Р(=п =1 ~йг=й) ° 9.7. Пусть Л вЂ” событие, зависящее только от состояний цепи Маркова на первых и — 1 шагах, а  — событие, зависящее от состонпнй па (и+ 1)-м...,, (и+ т)-и шагах. Доказать, что при фиксированном состоянии па гг-хг шаге события А и В независимы.
9.8. Пусть в„. ь„...— цепь Маркова. Доказать, что длн любых 0<п,<п ($0|г = (л+г 1 ъ,, = гй„..., Ьл, =(л„) = (та гг =(л~г(ън„— — гн„), где и,. = гнал(и;). 9.9. Пусть случайная величина т не зависит от однородной шин Маркова ~н ~п ... и принимает целые неотрицательные значения.
Доказать, что для любого н ~ 1 и любых го ...,!.е, Р(ь,„„, = ю'„„,( „„= („, ..., еь, = й)= РД„„„= 1„„,~$„„=1„), Первы ли указанные равенства, если цепь Маркова "и ~ь ... неоднородна? 9.10. Пусть т„ т,, ... — последовательность независимых положительных целочисленных случайных величин, не завпсягцнх от цепи Маркова $п $н ... Доказать, что Р($, . „„= 1„(1п,...„„, = -„,,..., 1, = г,)— - Р(1т,~-...+*, = 1. (Ь е...+т„,=г„,).
9.11. Цепь Маркова имеет матрицу вероятностей перехода за один шаг ~1 — а а ) 11а 1аЗ Найти матрицу вероятностей перехода за и шагов и предел нрн п - с». 9Л2. Пусть в матрице вероятностей перехода за один шаг цепи Маркова с тремя состояниями Рс,с-сс-с Р„= Рсд — с.сс 1) ' Найти матрицу вероятностей перехода за и шагов и предел прн п- и. 9ЛЗ. В матрице вероятностей перехода Р за один шаг 7)с, Рп = с-с-сс,!1 Доказать, что аналогичные соотношения выполняются для вероятностей перехода за лс шагов. 9.14. Пусть Рп — вероятность перехода за и шагов из с-го сосю стояния в 1-е некоторой цепи Маркова, а;(л) = шсп Рсес, ();(и) = шах Рс.;"с.
с 1 Доказать, что ас(1) < ас(2) «... а,(и) «... 9,(п) «... Ц2) < (сс. (1) 9.!5. Пусть последовательность случайных величин образует цепь Маркова. Доказать, что любая подпоследовательность последовательности ~о $„... также образует цепь Маркова. 9.16.
Пусть $„$с, ...— последовательность независимых одинаково распределенных целочисленных случайных величин. Доказать, что она образует цепь Маркова. Найти матрицу вероятностей переходя за >г шагов. 9Л7. Пусть $„зс, ...— последовательность случайных величин, обрязуюших однородную пень Маркова. Доказать, что для того, чтобы случайные величины $„$с, ... были независимы, необходимо и достаточно, чтобы все строки матрацы вероятностей перехода зв один шаг были одинаковыми. 9.18.
Пусть $о $с, ...— последовательность попарно независимых (не обязательно независимых в совокупности) случайных величин. Образуют ли Ь, $с, ... цепь Марковау 9Л9. Точки Ас, ..., А„нредставляют собой вершины правильного и-угольника. Некоторая частица совершает случайное блуждание по точкам А„..., А.. Определить, является ли последовательность положений частипы цепью Маркова, если а) частица совершает детерминированное двискение по часовой стрелке; б) частица в начальный момент случайно выбирает направление цо или против часовой стрелки и далее постоянно движется в выбранном направлении; в) из любой точки Аь с Ф 1, частица с вероятностью р сдвигается по часовой стрелке, а с вероятностью д 1 — р — против часовой стрелки в соседнюю точку.
По- 164 падая в точку А„частица возвращается в ту точку, из которой опа пришла в А,. 9.20. Частица совершает случайное блуждание в плоскости по целочисленным точкам (~, 1), таким, что 0~~, )(и. Из любой внутренней точки указанного квадрата частица с равными вероятностями, независимо от ее предыдущего движения, переходит в одну из соседних (по вертикали илп горизонтали) точек. При выходе пз границу квадрата частица далее: а) движется по границе квадрата детермикированно по часовой стрелке; б) возвращается в ту точку, из которой опа вышла иа границу; в) выбирает случайным образом направление на границе и движется по границе в выбранном направлении. Для каждого пз указанных случаев определить, будет ли последовательность положений, аанимаемых частицей, цепью Маркова.
9.21. В условиях предыдущей задачи частица из каждой внутренней точки с равной вероятностью мелеет переходить в одну из соседних (по горизонтали, вертикали или диагонали). Будет ли последовательность положений частицы цепью Маркова для каждого из трех указанных в предыдущей задаче условий движения после выхода на границу? 9.22. В начальный момент времени в урне и, белых и ш» черных шаров. Через каждую единицу времени из урны по схеме выбора без возвращения извлекается один шар. Пусть я, — число белых, а ш, — число черных шаров в урне в момент времени 1с.
Какие из указанных ниже последовательностей образуют цепь Маркова, а какие нет: а) л„ б) и„ вЂ” тм в) л, + и», г) пара (л„ лз»), д) л, — ж»+ + 1/(и» + лз» + 2)? 9.23. Пусть случайные величины з», ..., $ образуют цепь Маркова. Доказать, что случайные величины ц„..., т), где ц~ $ -ь также образуют цепь Маркова. Образуют ли цепь Маркова случайпые величины ь„..., Ь, где ь», ..., Ь» — произвольная перестановка с„..., з? 9.24. Пусть $„$о ...— последовательность независимых случайных величин.