А.Н. Зубков - Курс лекций по теории случайных процессов (1134117)
Текст из файла
МОСКОВСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТимени М. В. ЛОМОНОСОВАМеханико-математический факультетКурс лекций потеории случайных процессовЛектор — Андрей Михайлович ЗубковIII курс, 6 семестр, поток математиковМосква, 2007 г.Содержание1.Немного философии32.Закон повторного логарифма33.........66777889104.Ветвящиеся процессы4.1.
Производящие функции . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .4.2. Вероятность вырождения ветвящегося процесса . . . . . . . . . . . . . . . . . . . . . . . . . . . . .1212135.Конечномерные распределения случайных процессов5.1. Семейства согласованных распределений . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .15156.Процессы с независимыми приращениями. Пуассоновский процесс6.1. Определения . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .6.2. Свойства пуассоновского процесса . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . . . . . .1616167.Цепи Маркова с непрерывным временем7.1. Вложенная цепь Маркова . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .7.2. Предельная теорема . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . .1919228.Мартингалы8.1. Напоминание про условные математические ожидания (в дискретном случае)8.2. Мартингалы с дискретным временем: определение и простые свойства . . . . .8.3. Примеры мартингалов . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . .8.4. Предсказуемые последовательности случайных величин. Разложение Дуба . .8.5. Моменты остановки . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .8.6. Тождество Вальда . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . . . . .8.6.1. Преобразование Лапласа. Фундаментальное тождество Вальда . . . . .8.7. Применения тождества Вальда . . . . . . . . . . . . . . . . . . . . . . . . . . . .8.7.1. Теорема восстановления . . . . . . . . . . . . . . . . . . .
. . . . . . . . .8.7.2. Неравенства Дуба и Колмогорова . . . . . . . . . . . . . . . . . . . . . .8.7.3. Теорема Дуба о среднем числе пересечений полосы мартингалом . . . .8.7.4. Теорема Дуба о сходимости субмартингалов . . . . . . . . . . . . . . . .....................................................................................................................................24242425262730313232333434Процесс броуновского движения9.1. Теорема Колмогорова о непрерывной модификации . . . . .
. .9.2. Свойства винеровского процесса . . . . . . . . . . . . . . . . . .9.3. Закон повторного логарифма для винеровского процесса . . . .9.4. Неограниченность вариации траекторий винеровского процесса............................................35353740409.Цепи Маркова3.1. Определения .
. . . . . . . . . . . . . . . . . . . . .3.2. Примеры цепей Маркова . . . . . . . . . . . . . . .3.2.1. Модель Эренфестов для диффузии . . . . .3.3. Свойства матрицы переходных вероятностей . . .3.4. Классификация состояний цепей Маркова . . . . .3.4.1. Примеры . . . . . . . . . . . . . .
. . . . . .3.4.2. Критерий возвратности состояния . . . . .3.5. Предельная теорема для конечных цепей Маркова............................................................................................................................................................................................................................................................Предисловие от редакцииЭто полный курс лекций, однако при наборе в текст могли вкрасться опечатки, неточности и ошибки. Пожалуйста, сообщайте о них нам по электронной почте. В текущей версии есть незначительные пробелы, которыехотелось бы заполнить, но на это пока что не хватает времени. Если кто-нибудь вдруг захочет этим заняться,сообщайте, мы вышлем вам исходники.Александр Харитонов (kalkin@mexmat.net), Степан Кузнецов (skuzn@inbox.ru).Последняя компиляция: 22 сентября 2007 г.Обновления документа — на сайте http://rain.aliso.ru/mexmat,Об опечатках и неточностях пишите на kalkin@mexmat.net, skuzn@inbox.ru.21.
Немного философииВ теории вероятностей рассматривается вероятностное пространство (Ω, F , P) и случайные величиныξ: Ω −→ R (или в другое множество, вроде Z или Rn ), т.е. функции, измеримые относительно F и σ-алгебрына образе. В теории случайных процессов рассматривается отображение Ω в некоторое пространство функций,например R∞ — множество последовательностей вещественных чисел или RR — множество отображений R −→ R.Сравним две теоремы из курса теории вероятностей:ЗБЧ. Пусть ξ1 , ξ2 , . . . — независимые одинаково распределённые случайные величины, Mξ1 = a, Dξ1 < ∞,Sn = ξ1 + · · · + ξn .
Тогда для всех ε > 01P Sn − a > ε −−−−→ 0.n→∞nУЗБЧ. При тех же условиях имеемP1Sn = an→∞ nlim= 1.В ЗБЧ речь идёт о распределениях отдельных сумм, а в УЗБЧ — уже о всей последовательности {Sn } — этоуже теорема о случайном процессе (случайной последовательности).Рассмотрим ещё одну теорему из курса теории вероятностей:ЦПТ. В условиях ЗБЧ имеем:PZxu2Sn − na1√6 x −−−−→ Φ(x) = √e− 2 du.n→∞nDξ12π−∞Здесь — опять свойство распределений отдельных сумм.2.
Закон повторного логарифмаПусть ζ1 , ζ2 , . . . — произвольная последовательность случайных величин, ψ(n) — детерминированная функ∞Pция натурального аргумента. Рассмотрим последовательность событий {ζn > ψ(n)}. Положим ν(ψ) =χ{ζn >n=1ψ(n)}, где χ(A) — индикатор события A.Определение. ψ — верхняя функция максимумов, если P{ν(ψ) < ∞} = 1. ψ — нижняя функция максимумов, если P{ν(ψ) = ∞} = 1. ψ — правильная функция максимумов, если для любого ε > 0 (1 + ε)ψ —верхняя функция максимумов, а (1 − ε)ψ — нижняя функция максимумов.
Аналогично определяются функцииминимумов.Утверждение 2.1. Пусть {ζn } — последовательность независимых случайных величин, ζn ∼ N (0, 1).Тогдаζnζn=1 =1иP lim inf √= −1 = 1.P lim sup √n→∞n→∞2 ln n2 ln nЛемма 2.2 (лемма Бореля–Кантелли). Пусть на (Ω, F , P) задана последовательность событий {An }.∞PA = {ω ∈ Ω |χ(An ) = ∞} = {выполняется бесконечно много событий из этой последовательности}.
Тогда∗n=11. если∞Pn=1P(An ) < ∞, то P(A∗ ) = 0;2. если An попарно независимы и∞Pn=1P(An ) = ∞, то P(A∗ ) = 1.Смотри курс теории вероятностей. 1 − εx1x2Утверждение 2.3. 1 − Φ(x) =ϕ(x), где εx −→ 0 при x −→ ∞, εx > 0, ϕ(x) = √ e− 2 .x2π Совершаем замену u = x + v:11 − Φ(x) = √2π+∞+∞+∞ZZx2 Z221e− 2v2? 1 − εx− u2− (x+v)2edu = √edv = √e−xv− 2 dv =ϕ(x).x2π2πx003Чтобы обосновать последний переход (доказать, что εx такое, какое надо), оценим интеграл. Совершим заменуxv = z (x dv = dz):+∞+∞ZZ2z 2 dz−xv− v2.edv =e−z− 2x2x00+∞+∞ZZz2e−z− 2x2 dz <e−z dz = 1,00откуда εx > 0.
Оценим с другой стороны:√√00+∞ZZxZx√ z2z211 −z− 2x−−−z2edz >1 − e− x −→ 1 (x −→ ∞),e e 2x2 dz > e 2xe−z dz > 1 −2x0откуда εx −→ 0 при x −→ ∞. √ [Доказательство утверждения 2.1] Положим ψ(n) = 2 ln n, An (b) = {ζn > bψ(n)},() ∞Xζn∗A (b) = ω |χ(An (b)) = ∞ = ω | lim sup>b .n→∞ ψ(n)n=1В силу утверждения 2.3∞XP(An (b)) =n=1∞Xn=1e2− (bψ(n))2∞X11 − εn1 − εn√=√ √b2nbψ(n) 2π n=1b 2π 2 ln n(= ∞ при b 6 1,< ∞ при b > 1.Отсюда в силу леммы Бореля–Кантелли для всех b > 1ζnP lim sup> b = 0,n→∞ ψ(n)а поэтомуζnP lim sup6 1 = 1.n→∞ ψ(n)Кроме того, для всех b < 1ζnP lim sup> b = 1,n→∞ ψ(n)откудаζnP lim sup> 1 = 1.n→∞ ψ(n)Окончательно,ζnP lim sup= 1 = 1,n→∞ ψ(n)что и завершает доказательство утверждения. Теорема 2.4 (закон повторного логарифма). Если ζ1 , ζ2 , . .
. — независимые случайные величины, ζn ∼N (0, 1), Sn = ζ1 + · · · + ζn , тоSnSn=1 =1иP lim inf √= −1 = 1.P lim sup √n→∞n→∞2n ln ln n2n ln ln n√SnЗаметим, что Sn ∼ N (0, n), поэтому √ ∼ N (0, 1). Положим M (t) = max Sk , h(t) = 2t ln ln t (t > 0).16k6tnСформулируем две вспомогательные леммы.Лемма 2.5. Для всех r > 1∞XM (rk+1 )P>r< ∞.h(rk )k=1Лемма 2.6.
Для всех натуральных v∞XSvk − Svk−1P> c(v) = ∞,h(v k )k=14где c(v) =r11− .vЭти леммы мы докажем потом, а сейчас с их помощью докажем теорему. [Доказательство закона повторного логарифма] Пусть r > 1. Из леммы 2.5 и леммы Бореля–Кантеллиимеем, чтоM (rk+1 )P lim sup6r= 1.h(rk )k→∞Положим k(n) = [logr n], т.е. rk(n) 6 n < r1+k(n) (квадратные скобки обозначают взятие целой части).
k(n) −→∞при n −→ ∞. Имеем:SnSnM (rk(n)+1 )M (rn+1 )⇒limsup66limsup.h(n)h(rn )h(rk(n) )n→∞ h(n)n→∞Отсюда∀r > 1Sn6r =1P lim supn→∞ h(n)⇒SnP lim sup6 1 = 1.n→∞ h(n)kПусть v — целое число, v > 1. Svk − Svk−1 =лемме 2.6 и лемме Бореля–КантеллиvPζn — семейство независимых случайных величин. Поn=v k−1 +1S k − Svk−1P lim sup v>c(v)= 1.h(v k )k→∞Из соотношения h(v k ) =√√2v k ln ln v k = (1 + o(1))h(v k−1 ) v (при k −→ ∞) и ранее доказанного получаем:S k−1Svk−11√√P lim sup v k = lim sup6= 1.k−1 ) vvk→∞ h(v )k→∞ h(vТак как распределение N (0, 1) симметрично относительно нуля, получаем:Svk−11P lim inf> −√= 1.k→∞ h(v k )vИз анализа известно, что если lim sup ak > c и lim inf bk > d, то lim sup(ak + bk ) > c + d. Отсюдаk→∞k→∞k→∞S k1Sn1P lim sup v k > c(v) − √= 1 ∀v < ∞⇒∀ v < ∞ P lim sup> c(v) − √= 1.vvn→∞ h(n)k→∞ h(v )qc(v) = 1 − v1 , поэтому c(v) − √1v близко к 1 при достаточно больших v, откуда получаем, чтоSnP lim sup> 1 = 1.n→∞ h(n)Окончательно,Sn= 1 = 1.P lim supn→∞ h(n)Второе утверждение следует из первого в силу симметрии стандартного нормального распределения.
Лемма 2.7 (аналог неравенства Колмогорова). Если ξ1 , . . . , ξn — независимые случайные величины,имеющие симметричное распределение (P{ξk 6 x} = P{ξk > −x} для всех x), то для всех a > 0 P{ max Sk >k=1,...,na} 6 2P{Sn > a}, где Sk = ξ1 + · · · + ξk . Пусть τ — случайная величина, равная номеру первого члена последовательности {Sk }, который большеa (или n + 1, если такого нет):(k,если S1 , . .
Характеристики
Тип файла PDF
PDF-формат наиболее широко используется для просмотра любого типа файлов на любом устройстве. В него можно сохранить документ, таблицы, презентацию, текст, чертежи, вычисления, графики и всё остальное, что можно показать на экране любого устройства. Именно его лучше всего использовать для печати.
Например, если Вам нужно распечатать чертёж из автокада, Вы сохраните чертёж на флешку, но будет ли автокад в пункте печати? А если будет, то нужная версия с нужными библиотеками? Именно для этого и нужен формат PDF - в нём точно будет показано верно вне зависимости от того, в какой программе создали PDF-файл и есть ли нужная программа для его просмотра.