А.Н. Зубков - Курс лекций по теории случайных процессов

МОСКОВСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТимени М. В. ЛОМОНОСОВАМеханико-математический факультетКурс лекций потеории случайных процессовЛектор — Андрей Михайлович ЗубковIII курс, 6 семестр, поток математиковМосква, 2007 г.Содержание1.Немного философии32.Закон повторного логарифма33.........66777889104.Ветвящиеся процессы4.1.

Производящие функции . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .4.2. Вероятность вырождения ветвящегося процесса . . . . . . . . . . . . . . . . . . . . . . . . . . . . .1212135.Конечномерные распределения случайных процессов5.1. Семейства согласованных распределений . . .

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .15156.Процессы с независимыми приращениями. Пуассоновский процесс6.1. Определения . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .6.2. Свойства пуассоновского процесса . . . . . . . . . .

. . . . . . . . . . . . . . . . . . . . . . . . . . .1616167.Цепи Маркова с непрерывным временем7.1. Вложенная цепь Маркова . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .7.2. Предельная теорема . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

. . . . . . . . . .1919228.Мартингалы8.1. Напоминание про условные математические ожидания (в дискретном случае)8.2. Мартингалы с дискретным временем: определение и простые свойства . . . . .8.3. Примеры мартингалов . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . .8.4. Предсказуемые последовательности случайных величин. Разложение Дуба . .8.5. Моменты остановки . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .8.6. Тождество Вальда . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . . . . . . . .8.6.1. Преобразование Лапласа. Фундаментальное тождество Вальда . . . . .8.7. Применения тождества Вальда . . . . . . . . . . . . . . . . . . . . . . . . . . . .8.7.1. Теорема восстановления . . . . . . . . . . . . . . . . . . .

. . . . . . . . .8.7.2. Неравенства Дуба и Колмогорова . . . . . . . . . . . . . . . . . . . . . .8.7.3. Теорема Дуба о среднем числе пересечений полосы мартингалом . . . .8.7.4. Теорема Дуба о сходимости субмартингалов . . . . . . . . . . . . . . . .....................................................................................................................................24242425262730313232333434Процесс броуновского движения9.1. Теорема Колмогорова о непрерывной модификации . . . . .

. .9.2. Свойства винеровского процесса . . . . . . . . . . . . . . . . . .9.3. Закон повторного логарифма для винеровского процесса . . . .9.4. Неограниченность вариации траекторий винеровского процесса............................................35353740409.Цепи Маркова3.1. Определения .

. . . . . . . . . . . . . . . . . . . . .3.2. Примеры цепей Маркова . . . . . . . . . . . . . . .3.2.1. Модель Эренфестов для диффузии . . . . .3.3. Свойства матрицы переходных вероятностей . . .3.4. Классификация состояний цепей Маркова . . . . .3.4.1. Примеры . . . . . . . . . . . . . .

. . . . . .3.4.2. Критерий возвратности состояния . . . . .3.5. Предельная теорема для конечных цепей Маркова............................................................................................................................................................................................................................................................Предисловие от редакцииЭто полный курс лекций, однако при наборе в текст могли вкрасться опечатки, неточности и ошибки. Пожалуйста, сообщайте о них нам по электронной почте. В текущей версии есть незначительные пробелы, которыехотелось бы заполнить, но на это пока что не хватает времени. Если кто-нибудь вдруг захочет этим заняться,сообщайте, мы вышлем вам исходники.Александр Харитонов (kalkin@mexmat.net), Степан Кузнецов (skuzn@inbox.ru).Последняя компиляция: 22 сентября 2007 г.Обновления документа — на сайте http://rain.aliso.ru/mexmat,Об опечатках и неточностях пишите на kalkin@mexmat.net, skuzn@inbox.ru.21.

Немного философииВ теории вероятностей рассматривается вероятностное пространство (Ω, F , P) и случайные величиныξ: Ω −→ R (или в другое множество, вроде Z или Rn ), т.е. функции, измеримые относительно F и σ-алгебрына образе. В теории случайных процессов рассматривается отображение Ω в некоторое пространство функций,например R∞ — множество последовательностей вещественных чисел или RR — множество отображений R −→ R.Сравним две теоремы из курса теории вероятностей:ЗБЧ. Пусть ξ1 , ξ2 , . . . — независимые одинаково распределённые случайные величины, Mξ1 = a, Dξ1 < ∞,Sn = ξ1 + · · · + ξn .

Тогда для всех ε > 01P Sn − a > ε −−−−→ 0.n→∞nУЗБЧ. При тех же условиях имеемP1Sn = an→∞ nlim= 1.В ЗБЧ речь идёт о распределениях отдельных сумм, а в УЗБЧ — уже о всей последовательности {Sn } — этоуже теорема о случайном процессе (случайной последовательности).Рассмотрим ещё одну теорему из курса теории вероятностей:ЦПТ. В условиях ЗБЧ имеем:PZxu2Sn − na1√6 x −−−−→ Φ(x) = √e− 2 du.n→∞nDξ12π−∞Здесь — опять свойство распределений отдельных сумм.2.

Закон повторного логарифмаПусть ζ1 , ζ2 , . . . — произвольная последовательность случайных величин, ψ(n) — детерминированная функ∞Pция натурального аргумента. Рассмотрим последовательность событий {ζn > ψ(n)}. Положим ν(ψ) =χ{ζn >n=1ψ(n)}, где χ(A) — индикатор события A.Определение. ψ — верхняя функция максимумов, если P{ν(ψ) < ∞} = 1. ψ — нижняя функция максимумов, если P{ν(ψ) = ∞} = 1. ψ — правильная функция максимумов, если для любого ε > 0 (1 + ε)ψ —верхняя функция максимумов, а (1 − ε)ψ — нижняя функция максимумов.

Аналогично определяются функцииминимумов.Утверждение 2.1. Пусть {ζn } — последовательность независимых случайных величин, ζn ∼ N (0, 1).Тогдаζnζn=1 =1иP lim inf √= −1 = 1.P lim sup √n→∞n→∞2 ln n2 ln nЛемма 2.2 (лемма Бореля–Кантелли). Пусть на (Ω, F , P) задана последовательность событий {An }.∞PA = {ω ∈ Ω |χ(An ) = ∞} = {выполняется бесконечно много событий из этой последовательности}.

Тогда∗n=11. если∞Pn=1P(An ) < ∞, то P(A∗ ) = 0;2. если An попарно независимы и∞Pn=1P(An ) = ∞, то P(A∗ ) = 1.Смотри курс теории вероятностей. 1 − εx1x2Утверждение 2.3. 1 − Φ(x) =ϕ(x), где εx −→ 0 при x −→ ∞, εx > 0, ϕ(x) = √ e− 2 .x2π Совершаем замену u = x + v:11 − Φ(x) = √2π+∞+∞+∞ZZx2 Z221e− 2v2? 1 − εx− u2− (x+v)2edu = √edv = √e−xv− 2 dv =ϕ(x).x2π2πx003Чтобы обосновать последний переход (доказать, что εx такое, какое надо), оценим интеграл. Совершим заменуxv = z (x dv = dz):+∞+∞ZZ2z 2 dz−xv− v2.edv =e−z− 2x2x00+∞+∞ZZz2e−z− 2x2 dz <e−z dz = 1,00откуда εx > 0.

Оценим с другой стороны:√√00+∞ZZxZx√ z2z211 −z− 2x−−−z2edz >1 − e− x −→ 1 (x −→ ∞),e e 2x2 dz > e 2xe−z dz > 1 −2x0откуда εx −→ 0 при x −→ ∞. √ [Доказательство утверждения 2.1] Положим ψ(n) = 2 ln n, An (b) = {ζn > bψ(n)},() ∞Xζn∗A (b) = ω |χ(An (b)) = ∞ = ω | lim sup>b .n→∞ ψ(n)n=1В силу утверждения 2.3∞XP(An (b)) =n=1∞Xn=1e2− (bψ(n))2∞X11 − εn1 − εn√=√ √b2nbψ(n) 2π n=1b 2π 2 ln n(= ∞ при b 6 1,< ∞ при b > 1.Отсюда в силу леммы Бореля–Кантелли для всех b > 1ζnP lim sup> b = 0,n→∞ ψ(n)а поэтомуζnP lim sup6 1 = 1.n→∞ ψ(n)Кроме того, для всех b < 1ζnP lim sup> b = 1,n→∞ ψ(n)откудаζnP lim sup> 1 = 1.n→∞ ψ(n)Окончательно,ζnP lim sup= 1 = 1,n→∞ ψ(n)что и завершает доказательство утверждения. Теорема 2.4 (закон повторного логарифма). Если ζ1 , ζ2 , . .

. — независимые случайные величины, ζn ∼N (0, 1), Sn = ζ1 + · · · + ζn , тоSnSn=1 =1иP lim inf √= −1 = 1.P lim sup √n→∞n→∞2n ln ln n2n ln ln n√SnЗаметим, что Sn ∼ N (0, n), поэтому √ ∼ N (0, 1). Положим M (t) = max Sk , h(t) = 2t ln ln t (t > 0).16k6tnСформулируем две вспомогательные леммы.Лемма 2.5. Для всех r > 1∞XM (rk+1 )P>r< ∞.h(rk )k=1Лемма 2.6.

Для всех натуральных v∞XSvk − Svk−1P> c(v) = ∞,h(v k )k=14где c(v) =r11− .vЭти леммы мы докажем потом, а сейчас с их помощью докажем теорему. [Доказательство закона повторного логарифма] Пусть r > 1. Из леммы 2.5 и леммы Бореля–Кантеллиимеем, чтоM (rk+1 )P lim sup6r= 1.h(rk )k→∞Положим k(n) = [logr n], т.е. rk(n) 6 n < r1+k(n) (квадратные скобки обозначают взятие целой части).

k(n) −→∞при n −→ ∞. Имеем:SnSnM (rk(n)+1 )M (rn+1 )⇒limsup66limsup.h(n)h(rn )h(rk(n) )n→∞ h(n)n→∞Отсюда∀r > 1Sn6r =1P lim supn→∞ h(n)⇒SnP lim sup6 1 = 1.n→∞ h(n)kПусть v — целое число, v > 1. Svk − Svk−1 =лемме 2.6 и лемме Бореля–КантеллиvPζn — семейство независимых случайных величин. Поn=v k−1 +1S k − Svk−1P lim sup v>c(v)= 1.h(v k )k→∞Из соотношения h(v k ) =√√2v k ln ln v k = (1 + o(1))h(v k−1 ) v (при k −→ ∞) и ранее доказанного получаем:S k−1Svk−11√√P lim sup v k = lim sup6= 1.k−1 ) vvk→∞ h(v )k→∞ h(vТак как распределение N (0, 1) симметрично относительно нуля, получаем:Svk−11P lim inf> −√= 1.k→∞ h(v k )vИз анализа известно, что если lim sup ak > c и lim inf bk > d, то lim sup(ak + bk ) > c + d. Отсюдаk→∞k→∞k→∞S k1Sn1P lim sup v k > c(v) − √= 1 ∀v < ∞⇒∀ v < ∞ P lim sup> c(v) − √= 1.vvn→∞ h(n)k→∞ h(v )qc(v) = 1 − v1 , поэтому c(v) − √1v близко к 1 при достаточно больших v, откуда получаем, чтоSnP lim sup> 1 = 1.n→∞ h(n)Окончательно,Sn= 1 = 1.P lim supn→∞ h(n)Второе утверждение следует из первого в силу симметрии стандартного нормального распределения.

Лемма 2.7 (аналог неравенства Колмогорова). Если ξ1 , . . . , ξn — независимые случайные величины,имеющие симметричное распределение (P{ξk 6 x} = P{ξk > −x} для всех x), то для всех a > 0 P{ max Sk >k=1,...,na} 6 2P{Sn > a}, где Sk = ξ1 + · · · + ξk . Пусть τ — случайная величина, равная номеру первого члена последовательности {Sk }, который большеa (или n + 1, если такого нет):(k,если S1 , . .