3. Основы теории случайных процессов. Карлин (1971) (1186156), страница 27
Текст из файла (страница 27)
т!. показать, что л 1 // (г) - с)/ (1/г)/О/4! (1/г). Указание: Получить рекуррентнусо формулу для Р(Т/ л), рассматривая возможные исходы первого перехода, затем перейти к производящим функциям. ЗАМЕЧАНИЯ Материал этой главы почерпнут в основном из книги Чжун Кай-лая (!1. Наше изложение представляет собой лишь введение в эту важную и развивающуюся область теории вероятностей. Готовящаяся к изданию книга Кемени и Снелла [2~ содержит подробное изложение теории потенциалов для марковских цепей.
ЛИТЕРАТУРА !. Чж ун К а й- л ай, Однородные цепи Маркова, «Мир», М., !964, 2 К е щ е и у 5. О., 8 и е 11 3. 1., Ро1епца! Т))еогу 1ог Маг)сот С))а!пз (готовится к печати]. Глава 6 ПОСЛЕДОВАТЕЛЬНОСТЬ СУММ НЕЗАВИСИМЫХ СЛУЧАЙНЫХ ВЕЛИЧИН КАК МАРКОВСКАЯ ЦЕПЬ $1. СВОИСТВА ВОЗВРАТНОСТИ СУММ НЕЗАВИСИМЫХ СЛУЧАЙНЫХ ВЕЛИЧИН Пусть Хь Хм... — последовательность целочисленных независимых одинаково распределенных случайных величин. Положим 5„= Х, + Х, +... + Х„а = 1,2,.... Для полноты будем считать, что 5» = С. В этой главе мы остановимся на некоторых свойствах сумм 5„, л = О, 1, 2,..., независимых случайных величин. Сами суммы мы будем рассматривать как последовательные значения марковской цепи специальной структуры с дискретным пространством состояний.
В пределах нашего элементарного изложения мы лишь поверхностно коснемся теории сумм независимых случайных величин. Полное и элегантное изложение этой богатой н красивой теории читатель найдет в книге Спицера (1). В примере А З 1 гл. 2 мы упоминали о последовательности 5„ (где Х; были неотрицательными целочисленными случайными величинами) как о примере марковской цепи. В этой главе пространство состояний соответствующей марковской цепи состоит из всех целых чисел: положительных, отрицательных и нуля. Так как мы положили 5» = О, начальным состоянием является нуль. Характерной чертой марковской цепи (5,) является пространственная однородность, т.
е. ее одношаговые переходные вероятности обладают следующим свойством: Р(5„= ) ! 5„, = 1) = РО = Рв г с — — Р< г, Простой индукцией легко убедиться, что этим же свойством обладают п-шаговые переходные вероятности: Р";~ =Р»" ! 1= Р";, »= Р(5„~.»=/(5»=1), и) 1. В этой главе мы будем предполагать, что случайная величина Х~ «неприводима». Под этим подразумевается, что марковская цепь с матрицей переходных вероятностеи РО = Р(5„= = 1!5„, = 1) неприводима. Ниже мы дадим простой критерий не- приводимости для рассматриваемого случая. Условимся с самого начала, чтобы не повторять это каждый раз, что с. в. Х, является невырожденной, т. е.
оиа может принимать по крайней мере два значения с положительными вероятностями. Перейдем теперь к условиям возвратности и невозвратности марковской цепи, порожденной последовательностью (5„). Для В Е Свойства воэвратлости сумм !7! того чтобы получить эти условия, введем следуюшие величины: л 6т! = Х Р)ь 6и = Х Рц< °, т о гл-О определенные для всех с, ! и п = О, 1, 2,.... Величина 6О является аналогом функции Грина и связана с элементами теории потев.
циала, о которой мы упоминали в гл. 5. Л е м м а 1.1. 6с! ~( 6оо, и= О, 1, 2, ..., (1. 1) для всех целых чисел т и 1. В частности, при п - о 6ц » ~6оо для всех целых чисел ! и !1 (1,2) До к а з а тел ь ст в о. В силу пространственной однородности процесса 6ц = 6", ьо. Поэтому достаточно показать, что 6!о~~ 6й при всех т = О, ч 1, ч 2, ... и п = 0,1,2,....
Но л л т л л л л-т 6л ~ч~~ Рт ~ ~ (т-!Р~ ~ Р! ~чз ~(т-т ~ч;~ Р! т о ю т о ! о ко оо т о м ! Ео ! о оо г о то где )со есть вероятность достичь 0 из т в первый раз на г-м шаге. л-! Так как ~~.', 1,'.о(1, то г-о л 'Чт ! л 6 (ХР =6оь И т-о Изящный и полезный критерий возвратности составляет содержание следующей теоремы. Теорем а 1.1. Если М!Хо1=М! Х! )=. с~~ !(1Ро!(оо> й= 2, 3, ..., (1,3) р = М(Хо) = М(Х!) = ~ !Ро! — — О, I-- то марковская цепь (5„) является возвратной. (1.4) 3 ам еч а н не. Поскольку М(Х,) = 0 и Х, — невырожденная случайная величина, то она принимает как положительные, так и отрицательные значения с положительными вероятностями.
Условие неприводимости гарантирует, что марковская цепь, порождаемая последовательностью (Я„, и = 0,1,2, ...), неприводима (состоит из одного класса). Пространство состояний цепи состоит нз 172 Гл. б. Последовательность сумм невависииьы величин всех целых чисел: положительных, отрицательных и нуля. Наконец, в соответствии со следствисм 5 гл. 2 для доказательства возвратности рассматриваемой цепи достаточно установить возвратность хотя бы одного (скажем, нулевого) состояния.
Доказательство. В силу леммы 1.! 0О1~(воо при всех целых 15 Это неравенство сохраняется и при осреднении: м ,'„Х:<- (1.5) 1--М Но м и и и Х 6о1= Х Х Ро1 = с."~ Х РО1) )2~ Х Роб (1.6) 1--М 1П~М иь О т О 1/1(М т О 111т1~М!и последнее неравенство имеет место просто потому, что нь (и. Сравнив (1.5) и (!.6), мы видим, что :-, „Х 2. я (1.7) т=о 1 ЛМ1(м1и Далее, по определению Ро"! = Р [5~ = 1 [Яо = О).
(!.8) Поскольку 5ь представляет собой сумму й независимых одинаково распределенных случайных величин с конечным средним р = М(Хь) =М(5ь) = О, можно применить закон больших чисел (см. $ 1 гл. 1, стр. 20), согласно которому для любого е > 0 Р~! '" ' ~(а~= Р~! — ")(в~-+1 при т-еао. (1,9) Из (1.8) находим р([З [(н1е) Х Ро! 1! 1 < 1те! (Здесь [й! обозначает наибольшее целое число, не превышающее Ь; поэтому й — 1 ( [Ь) ( Ь.) Предельное соотношение (1.9) можно представить в следующем эквивалентном ему виде: Н (в) = ~.", РО1-+ 1 при не- ео, (1.10) 1/!~!те! Положим теперь в (1.7) М = [яе), где е ) О.
Тогда О;)„„,~„,,'~', ~ РЦ=„„,'„, ~, ~ Р1= т О 111(т 1иь1/и т О 1М~ !те! и н + 1 1 Х 77 (е) ( 1.1 1) т-о 173 Е д Свойства воэвратности сумм Из (1,10) следует, что л — т Н (е) — «1 при и — «со, ! (1.12) л Кроме того я+1 1. л+1 1 2 (ле)+! „2ле+1 2е Из (1.11) и (1.!2) заключаем, что л 1 11!и 6оо~) —. л-+ 2е ' Так как е ) 0 может быть выбрано сколь угодно малым, то из последнего соотношения следует, что Х Роо = !пп бсо = оо. л-о л-+ л Наконец, обращаясь к теореме 5.1 гл. 2, вспоминаем, что равенство стоо = оо зквивалентно утверждению, что нулевое состояние возвратно. ° Отметим, что мы не использовали всей силы предположения о том, что Х, имеет конечное среднее значение.
Нам понадобился лишь слабый закон больших чисел, выполнение которого в форме соотношения (1,9) достаточно для справедливости утверждения теоремы. В следующей теореме, являющейся частичным обращением теоремы 1.1, существование конечного среднего играет более важную роль.
Теорема 1.2. Если М(!Хс!)= ~ !1!Ро!(оо, с'=1, 2, ..., (1,13) ! 1 о(А„У Р б ! ( печно многих п ! тогда и только тогда, когда марковская цепь (5л) возвратна, (1.!4) тогда и только тогда, когда марковская цепь (5л) невозвратна. !с = М(Хс) = Х 1'Р ! М О, -ю то марковская цель (5„) является невозвратной. До к аз а тельство, Пусть А обозначает событие (5„= О).
Воспроизведем известный нам критерий возвратности (см. теорему 7.1 гл. 2) в форме )74 Гл. 6. Последовательность сумм невависилсмх велилин Усиленный закон больших чисел утверждает, что Р ~ ) нп —" = р / = 1. (1.!5) Поскольку )с'Ф О, рассмотрим события Сл=~~ )ь~ 2 ~~ п=!, 2, Пусть С вЂ” событие, состояшее в том, что С„наступает при бесконечно многих ть Мы найдем вероятность Р (С). Всякая реализация процесса, для которой 1!ш 3„/п= р, очевидно, не может принадлежать событию С.
Но, согласно (1.15), реализации процесса, для которых 1)т 3„/и= р, имеют вероятность 1. Следовательно, вел -ь роятность события, дополнительного к С, равна 1, или Р (С„происходит при бесконечно многих и) = О. Ясно, что наступление события А„влечет наступление события С„, т. е. А„с: С„, Поэтому Р(Ал наступает при бесконечно многих и) ~ Р(С) = О. Принимая во внимание критерий (1.14), заключаем, что марковская цепь (5л) невозвратна. й 2. ЛОКАЛЬНЫЕ ЛРЕДЕЛЬНЫЕ ТЕОРЕМЫ Заметим, что если марковская цепь (5„) возвратна, то она может быть только возвратной нулевой.
Это так, потому что в силу пространственной однородности и, = )нп Рес = 1!т Рос = по при всех !. л +си л-ью Ро! -+ О при и — ь оо. Представляет интерес оценка скорости сходимости к нулю. Результат подобного рода относится к так называемым «локальным предельным теоремам». Приступая к этой задаче, введем характеристическую функцию /хх(0)= ~ Ро,ехр(!ТО)=М(ехр(!ХиО)), /г=), 2, ...,— п(0(п, о (2. 1) Если же по>О, то ~'.~ и,= оо, что невозможно. Следовательно, т=- пе = О при всех Е Итак, марковская цепь (3„) является либо возвратной нулевой, либо невозвратной; следовательно, при всех ! д и Локальные предельные теоремы где ряд сходится абсолютно и равномерно, Мы утверждаем, что [ф(0)]"= .'Е Ро ехр((чО), — п(9(п.
(2.2) Действительно, Хм й = 1, 2, ..., и, — независимые одинаково рас- пределенные случайные величины, так что Ру~ = Р(8„= ]], ~~.", Рт", ехр (1т О) = М [ехр (15„0)] = М [ехр [10 (Х, + ... + Х„)Ц т--в о и = Ц М [ехр ((ОХ„)] = Ц [фх (ОЦ = ]фх, (О)]" (см. стр. !5). Отметим, далее, что О, если !Фй, е'0 моь(0=1 12п, если ]=й; (2.3) так как в правой части остается лишь член, соответствующий т = й. Прежде чем сформулировать и доказать результат, касающийся скорости сходимости Рте к нулю при а- оо, введем некоторые понятия, которые нам понадобятся для этого, и обсудим их свойства.
Будем говорить, что Х является периодической случайной величиной, если все значения, которые Х может принимать с положительной вероятностью, содержатся в множестве с= О, ч1, ~2, Х= то+ го, где ьо и с — целые и ] с]+ 1. Отметим, что из утверждения «марковская цепь (3„] является периодической» следует, что Хь — периодические случаиные величины, но не обратно.