3. Основы теории случайных процессов. Карлин (1971) (3. Основы теории случайных процессов. Карлин (1971).djvu), страница 2

А. Совместные функции распределения Пусть (Х, т') — пара случайных величин; их совместная функция распределения является функцией двух действительных переменных и определяется как Р(Ло Ле) =Г'ху(Ло Лт) = Р(Х ~(Ль л ~(Ле). (Индексы Х и У обычно опускаются, если нет опасности возникновения путаницы.) ') В отечественной литературе принято называть случайную величину не.

прерывной нменно в случае существования плотности. — Прим. ред. З Л Сводка основных терминов Функция Р(Ль + оо) = — !1гп Р(Лн Л,) является функцией распределения и ее называют частной (или маргинальной) функцией распределения д. с. в. Х. Аналогично функция Р(+ оо, Лз) называется частным распределением д. с. в.

У. Если случится так, что Р(Ль + с ) Р(+ оо, Л,) = Р(Лн Л,) для любой пары значений параметров Л1 и Лм то случайные величины Х и У называются независимыми Говорят, что совместная функция распределения Рхт имеет (совместнукз) плотность вероятности, если существует функция рхт(з, Г) двух действительных переменных, такая, что м ц Рхг(Л1 Ла) = ~ ) Рхг(зс г)йзйГ для всех Лн Ль Если Х и У вЂ” независимые д. с, в., то рхт(в, Г) с необходимостью представима произведением рх(з)рг(с), где рх и рт — плотности вероятности частных распределений д. с. в. Х и У соответственно. Совместная функция распределения любого конечного набора Хь ..., Х„ д. с. в.

определяется как Р(Ль ..., Л„)=Р,о...,,„(Л„..., Л„)=Р(Хс(Ль ..., Хв(Лв). Функция распределения Рх х (Лсн Лс ) !1гп Р (Л~ Л ) и' ''' в называется частной функцией распределения случайных величин Хц, ..., Хцс Если Р(Ль ..., Л,) = Р(Л1)Р(Л,)... Р(Л„) для всех значений Ль Лм ..., Л„, то д. с, в. Хь ..., Х„называются независимыми.

Говорят, что совместная функция распределения Р(Ль ..., Л„) имеет плотность вероятности, если существует неотрицательная функция р((ь..., с„) от н переменных, такая, что хв х, Р(Ль, Л,) = ) ) р(Гь ..., 1„)й1, ... йс„ для всех действительных Ль..., Л„. Б. Условные распределения и плотности Пусть Х и У вЂ” д. с, в., принимающие счетные множества значений, скажем 1,2, .... Условная вероятность Р(Х = 1) У = 1) определяется соотиошением Р (Х = ! У = 1) = Р !Х = ~ У = .~) Р(У = Д 14 Га б Элел~енты теории слуиойимх орочессов Здесь предполагается, что Р(У 1] ) О; в противном случае значение Р(Х = 1] У = 1] произвольно (скажем, равно нулю). Условные вероятности могут быть определены и для случайных величин других типов. Мы рассмотрим только случай, когда Х и У име1от совместную плотность вероятности рхг(з, (), Тогда условное распределение Р (Х (~ а ! У = Ь) определяется формулой О Р (Х(а ! !' = Ь] = (р„(Ь) ) ' ]Г р»; (з, Ь) с(з, если рг(Ь) > О, и произвольно в противном случае.

Из определения рг(Ь) следует, что ! ! ш Р (Х ( а ! У =-. Ь) = ! о+ для всех Ь, таких, что рг(Ь) ) О. Таким образом, Р! 1(а) = = Р(Х (а ! У = Ь) представляет собой функцию распределения в случае рг(Ь) > О. Легко видеть, что эта функция распределения имеет плотность, а именно таковой является функция Рхг(а, Ь)/Рх(Ь). Последняя называется условной плотностью вероятности случайной величины Х при условии, что У = Ь, и часто обозначается р»1г(а; Ь). Условное математическое ожидание д.с.

в, Х при условии, что У = у, определяется формулой М (Х ~ У = у] = ~ хр „, (х, у) с(х для всех у, таких, что рг(у) > О. Аналогичное определение условного математического ожидания можно дать и для дискретного случая. Нетрудно видеть, что М(Х]У) является случайной величиной. Следующее соотношение является очень важным свойством условного математического ожидания: М (М (Х ! У] ] = М (Х]. В. Бесконечные семейства случайных величин Прн рассмотрении бесконечных семейств случайных величин непосредственное обобщение предыдущих определений сопряжено с существенными трудностями.

Поэтому мы воспользуемся несколько другим подходом. Рассмотрим счетное семейство Хь Хз, ... случайных величин. Будем считать их статистические свойства заданными, если для б Л Сводка основных тетиннов каждого целого числа п)~ 1 и любого набора ть ..., т'„из и различных положительных целых чисел задана совместная функция распределения Рх, „„х случайных величии Хти ..., Х,, Разугг "" ти ' л меется, при этом на бесконечное семейство (гх ...

х, ) должны б гл быть наложены условия согласованности, состоящие в том, что гхт,...,хг,х,",х (Ло . ° ., Л) ь Л)+ь ..., Лл)= =И~Г,,„„,,(Л, ...,Л,„Л,,Л„„...,Л), а.-+ 1 и в требовании инвариантностн функции т хг, хт, ..., Хт (Ль Лег ..., Лл) относительно перестановки любой пары индексов г„и (и и соответствующих им Л„ и Л„. Последнее просто означает, что способ нумерации д. с.

в. Хь Х,,... не имеет значения. Совместные распределения (гх, „„х. ) называются конечнот1 'л мерными распределениями семейства случайных величин (Хл)„,. В принципе все важные вероятностные свойства этих величин могут быть выражены через конечномерные распределения, Г. Характеристические функции С каждой функцией распределения Р связана важная функция гр(т), где 1~( — оо, оо), называемая характеристической По определению имеем ') р (1) = )Г еттлс(Р(Л) тт 1 (1.1) Пока читатель может интерпретировать запись интеграла в правой части как символическую. Если Р имеет плотность вероятности р, то характеристическая функция представима в виде гр(Г) - )' енхр(Л) пгЛ. Если Р— распределение д.

с. в. Х со счетным множеством возможных значений (Л„), н Р(Х=. Ль)= аь (я = О, 1, ...), то ') Интеграл в правой части (1.!) является шпегралон Лепета — Стильтьеса. У читателей не предполагается знания интегралов этого типа. !6 Гл. ) Элементы теории случпйньгх процессов правая часть (1.1) сводится к ряду гр(1)=- ~ е ааа. а-о Весьма полезным фактом является следующее легко доказываемое утверждение: если (Хь ..., Х„) — семейство независилгеях д. с. в., то характеристическая функция их суммы представляет собой произведение характеристических функций этих д.

с. в. Соответствие между функциями распределения и характеристическими функциями — взаимно однозначное. Представление функции распределения через ее характеристическую функцию известно как формула обрашения Леви. Поскольку она нам в дальнейшем не понадобится, мы рекомендуем иптересуюшемуся читателю обратиться к литературе, где эти вопросы рассматриваются подробно. Взаимно однозначное соответствие между функциями распределения и характеристическими функциями сохраняется и при различных предельных переходах. В частности, если Г, Гь Гз, ...

— функции распределения, такие, что Пт Гл(Л) г'(Л) для всех Л, где Г непрерывна, и гр (() — характеристические фуннции членов последовательности (Г„), то ь юфл (г) = ~ еггл йял (л) -ь ф (г) Г еггл вя (л) равномерно по Г в каждом конечном интервале. Обратно, если фь грз, ... — характеристические функции членов некоторой последовательности Гь Гз, ... функций распределения н )пп фа(Г) ф(() для любого й а т()) непрерывна в И "+ точке Г О, то гр(() является характеристической функцией функции распреде.

ления Г и .Ит Я„(Л)=Г(Л) для любого Л, где Г непрерывна. Этот результат л-ь известен под названием критерия сходимости Леви. Д. Производящие функции Для случайных величин, которые могут принимать только неотрицательные целочисленные значения, вместо характеристической функции используется функция д(з)= лм раз, ра=р(Х=/г), а-о называемая производящей. Тнк как по предположению ра )~0 и ~ ра= 1, функция д(з) определена по крайней мере для з, таз-о ких, что ! з ~ ( 1 (з — комплексная переменная), и бесконечно дифференцируема при )з)< 1.

Отметим следующие элементарные свойства производящих функций. (а) Если У = Х~ + Хя, где д. с. в. Хг и Хз независимы и могут принимать лишь неотрицательные целочисленные значения, то про- !7 б й Сводка основных терминов изводящая функция д. с. в. У') является произведением производящих функций слагаемых. (б) Пусть Хь Х,, ... — независимые и одинаково распределенные неотрицательные целочисленные случайные величины, и пусть йг — неотрицательная целочисленная д.

с, в., не зависящая от Х,. Мы хотим найти производящую функцию д. с. в. Я = Хг + ... + Х,„ (суммы случайного числа слагаемых, каждое из которых является д. с, в.). Пусть дм(з) — производящая функция д. с. в. Лг, а ьт(з)— производящая функция, общая для всех Хь Тогда а (з) =ам(д(з)). Имеет место следующее обобщение предыдущего результата. Пусть Хь Х,, ... — произвольные независимые одинаково распределенные случайные величины (необязательно целочисленные), а д. с. в. ту', как н ранее, неотрицательная целочисленная и не зависящая от Хо Тогда фн (г) = й'и (ф (г) ) где р„ и дм — характеристическая и производящая функции д. с, в.

тс = Х~ +... + Х, и д. с. в. У соответственно, а <р — обьцая характеристическая функция д. с. в Хе. Рассматривая неотрицательные д. с. в., полезно заменить характеристические функции преобразованиями Лапласа функций распределения. Если распределение гх имеет плотность р, преобразование Лапласа определяется формулой фх(з) = ~ е '"р(х) с(х.