3. Основы теории случайных процессов. Карлин (1971) (3. Основы теории случайных процессов. Карлин (1971).djvu), страница 3

о Интеграл в правой части существует для значений комплексной переменной з = о + сс, таких, что о )~ О. Для з чисто мнимых фх(з) сводится к характеристической функции фх( — 7). Для дискретных неотрицательных д. с. в. преобразование Лапласа определяется по формуле фх (з) = Х е ""а..

а О Как и для характеристических функций, если Хь Хм ..., Хн— неотрицательные независимые д, с, в,, то и фх, + ... +х (з) = Ц ф„(з). ') В дальнейшем для краткости мы будем пользоваться термином «производяшая функция случайной величины, хотя более правильно было бы говорить «производящая функция распределения д.

с. в.». В оригинале часто используется термин «ргоьаыюу Кепегаиоп Вцпсиоп», т. е. «вероятностная производяшая функция». — Прим, перев. Гл. Л Элементы геории слунайныл нроцессое !в В случае общих функций распределения для преобразования Лапласа имеем формулу фх(е) = ~ е '!с(рх(в). о Как и характеристическая функция, преобразование Лапласа однозначно определяет функцию распределения. Е. Примеры функций распределения Мы предполагаем известными элементарные свойства функций распределения, которые приведены в таблицах 1 и П.

Следующие два многомерных распределения имеют принципиальное значение. (б) Полиномиальное распределение Совместное дискретное распределение т величин, принимающих только неотрицательные целочисленные значения О, ..., и, называется полиномиальным. Оно определяется выражением Р (Х, = )гь ..., Х, = й,) =- н1 е, е, 0 если й!+ ... +й,=п, в противном случае, где р!))О, !'=1, ..., г и 2лр!=1. ! ! (а) Многомерное нормальное распределение Пусть ~~не!~~, с, !' = 1,2 — симметрическая положительно опреде- ленная матрица порядка 2 Х 2 (т. е. ам — — а„и ан)0, ина„— — и' ) 0) и пг!, пег — любые действительные постоянные.

Тогда !г !'(х! хг) = ~ ехр ~ — ~ ~ ЬМ (х! — пг!) (ху — т!) е,/ ! где ((Ье;~~ — матрица, обратная к ~!аг,~1, и В = де1 !!Ье!!1, является плотностью распределения, называемого невырожденным двумер- ным нормальным распределением. Если Хь Хг — д.

с, в., совмест- ная функция распределения которых равна л, Р(Л» Лг) = ~ ~ 1(х„хг) дх! свахе, то М (Х!) = пгс, ог(Х!) = ии при !' = 1, 2 и М(Х,Хг) — пггтг = ань Переход к случаю и-мерного нормального распределения оче- виден. Ъ х о 'и :О ! а х ОО М О, ~ З М ах О ~ 1 :О + Ы- а х ~~8 М3 а И ОО О О ООО О1 у ОО ы Л О 1 ОО ! 1 и С 1 О б ОО ОО х ОО ОО Ю О О О ОО ~ О О ОО о о Эа ~"Р ь Я*О Б ь ОО 8 ОО 1 ОО ОО ~фйИ О О а о О ~О О\ Оо" а ~ООООО ОО а ОООО о аоод х о о л л Ю о о а ~.

ОО а О О О а а ~ О ОО О ~~ ОО ОО а о о л ц а О О1 й ° о ОО ОО '3 а а ОО ОО 'О' „ОО а ОО О\ ~~~й ~0 ОО О 2 О Е Ф ф Х О а "с О Ьа О йй О д ы О О дО 1 ОО Ф 1 за О Е юЫ 1 О ОО д к О О О Р Т к !. Элементы теории случайных процессов Таблица )! В о э мопн м е значения случааныл величин Дискретная Функция распределения Вероятность состояния Произзодящал Функция Дис- персия Среднее Пуассоновское распределение с параметром Л>0 е-"Лк и! е -к+ аз п = О, 1, 2..., Биномиальное распределение с параметрами Л! и р (су — целое положительное, О<р<!), ' б 1 р ) я Н я (1 — !т + !тв) и = О, 1, ..., (э! Отрицательное биномиальное распределение (Паскаля)') с параметрами п>0, 0<р<1 (а+п — 1) о п=о, 1,2 '! Геометрическое распрекелеяяе является вамямм частным случаем распределения Паскаля, получающимся пря а !. Ж.

Предельные теоремы Многие из основных результатов теории вероятностей имеют вид предельных теорем. (Мы не будем формулировать зти резуль. таты при наиболее слабых предположениях.) Из них упомянем следующие. Закон больших чисел (слабый). Пусть Х1, Ху, ...

— независимые одинаково распределенные случайные величины со средним пт и конечной дисперсией. Тогда для любого е ) О ((гп Р~~ ' '„'' " — пт~<е~=(. Усиленный закон больших чисел, Пусть случайные величины Хь Х,,, те же, что и выше, и пусть 3„= (Хт + ... + Х„)1п! тогда для любых е, 6 ) О существует целое число )Ч(е, 6), такое, что Р() 3„— пр () е для всех п ) Л'(е, 6)) <6 '). ') Оба последних утверждения остаются в силе и при отсутствии конечной дисперсии у случайных величин Х„. — Прим, ред.

З х дво простых примере слуподпых процессов Центральная предельная теорема. Пусть случайные величины Хь Хм... те же, что и выше; тогда ь !Пп Р(а< ' ''' " < Ь ~== ) ехр( — — ) ах, а где о' — общая дисперсия величин Хо Лемма Бореля — Кантелли. Пусть Аь А,,... — бесконечная по. следовательность независимых событий. Тогда событие А„, которое означает осуществление бесконечного числа событий из Аь Ам ..

имеет вид А =П ЦАи ь-1 т-ь Лемма Бореля — Кантелли устанавливает, что вероятность события А равна нулю или единице, если соответственно ~ Р (А,) < оо ь ! или ~ч"„Р (А;) = оо. й 2. ДВА ПРОСТЫХ ПРИМЕРА СЛУЧАЙНЫХ ПРОЦЕССОВ Данная книга может служить введением в различные направления случайных процессов. Теория случайных процессов имеет дело с исследованием структуры семейств случайных величин Хи где г — параметр, принадлежащий соответствующему множеству Т. Иногда, когда это не приводит к недоразумениям, мы будем писать Х(!) вместо Хь Реализацией, или выборочной функцией, случайного процесса (Хи 1~ Т) является функция, ставящая в соответствие каждому 1~ Т одно из возможных значений Хь Множество параметров Т может быть дискретным, т.

е. Т = (О, 1,2,3,...), а (Х ) может при этом представлять исходы последовательных испытаний, таких, как результаты бросаний монеты, последовательные реакции объекта на изучающий эксперимент или последовательные наблюдения некоторой характеристики популяции и т. д. Величина Х~ может быть одномерной, двумерной, п-мерной или иметь более общую природу. В случае, когда Х„ является исходом п-го бросания кости, возможные ее значения образуют множество (1,2, 3,4, 5,6), а одной из типичных реализаций процесса является последовательность 5, 1, 3, 2, 2, 4, 1, 6, 3, 6,,...

Она показана на рнс, 1, где ординатой при ! = и является значение Х„. В этом примере случайные величины Х, взаимно независимы, но в общем случае величины Х„являются зависимыми. Случайные процессы, у которых Т = (О, оо), особенно важны в приложениях. В этом случае ! обычно интерпретируется как время, Гл. 1. Элементы теории случайных лронессов Здесь мы ограничимся весьма кратким обсуждением некоторых понятий, относящихся к случайным процессам, н двумя примерами. ° ° 3 4 5 б 7 9 9 IВ Рис. Ь В конце главы дана сводка различных типов случайных процессов.

Некоторые из них будут подробно изучаться в последующих главах. П р и м е р 1. Весьма важным примером является известный процесс броуновского движения. Этот процесс характеризуется следующими свойствами: (а) Пусть (о < 1~ <... < в„. Тогда приращения ХΠ— Х,, ...

..., Хв — Хв — независимые в совокупности д,с.в. Говорят, что процесс, обладающий таким свойством, является процессом с независимыми приращениями, выражая тем самым тот факт, что изменения Хв на неперекрывающихся интервалах времени являются независимыми д. с. в. (б) Вероятностное распределение величин Хи — Хво если 1х>го зависит только от 1, — в1 (и не зависит, например, от 1~). (в) Р(Хе — Хх~х) (2иВа(1 — з)) и ~ ехр~ —, )йи,1>з,  — положительная постоянная. Пусть Хо = О. Заметим, что М(Х,) = О, ое(Хв) = Вй где В— фиксированное положительное число.

Можно доказать, что если 0 <1, < 1, « ... 1„< 1, то условное вероятностное распределение величины Х, при известных значениях ХО, ..., Х, равно (см. гл. 1О) Р ~Хе(х)ХО =х„..., Х,„=хи) = х-х л = [2иВ (г гл)1 ' ~ ехр [ 2э (с с ) ~ с(и. Э 2. Два простых притлера случайных процессов История возникновения этого случайного процесса началась с наблюдений Р. Броуна в 1827 г., заметившего, что маленькие частицы, помещенные в жидкость, совершают непрерывное беспорядочное движение. В 1905 г.

А. Эйнштейн объяснил это явление тем, что наблюдаемые частицы подвержены непрерывным соударениям с молекулами окружающей среды, Выведенные Эйнштейном аналитические результаты были позднее проверены экспериментально и обобщены другими физиками и математиками. Пусть Х, — расстояние броуновской частицы от начальной точки в момент й Смещение Х, — Х, за интервал времени (з, () можно рассматривать как сумму большого числа малых смещений.

В этой ситуации применима центральная предельная теорема, поэтому естественно ожидать, что Х, — Х„имеет нормальное распределение. Аналогично естественно предположить, что распределения величин Х, — Х, и Хын — Х,.„н совпадают при любом й > О, если среда находится в равновесии. Наконец, интуитивно ясно, что смещение Х, — Хе должно зависеть только от 1 — з, а не от момента начала наблюдения. Процесс броуновского движения (называемый также вннеровским процессом) играет фундаментальную роль при изучении множества случайных процессов других типов. Одномерный процесс броуновского движения будет более полно изучен в гл. 1О. П р и м е р 2. Другим важным примером случайного процесса, непрерывного по времени (Т = (О, оо)), является пуассоновский процесс, Его выборочная функция Х, представляет собой число регистрации наступления некоторого события за период от 0 до текущего момента времени б Очевидно, всякая возможная реализация Х, есть неубывающая ступенчатая функция, Реализация, изображенная на рнс.