И.И. Гихман, А.В. Скороход - Введение в теорию случайных процессов (1134101), страница 28
Текст из файла (страница 28)
Следовательно, оно стремится к нулю и при достаточно больших и становится меньше б. Таким образом, — „~((5'и) — Г( ) (Зб, н)н,=и,(б), ь-3 р причем число б может быть выбрано сколь угодно малым (б ) 0). Таким образом, (15) доказано.,И1 Определен ие 2. Множество А е=!й назь1вается 5-ннвариантным, если 11((5 'А) ЛА) = О. Здесь Л вЂ” символ симметрической разности множеств. Легко проверить, что класс всех 5-инвариантных множеств образует о-алгебру й-измеримых множеств. Далее, если й'(и) — 5-инвариантная функция, то множества (и: д(и) ) с), )гл. Ит СЛЬЧАННЫЕ ПОСЛЕДОВАТЕЛЬНОСТИ 158 (и: и(и) = с) 5-инвариантны. С другоч стороны, если А 5-инвариантно, то )1л(и) — Я-инвариантная функция.
Обозначим о-алгебру Е-инвариаитных множеств через Э. Пусть )А(У) = 1. Будем считать (К 5, )с) вероятностным пространством и символом М обозначать интегрирование по мере )А (математическое ожидание). Следствие 2. )"*(и) = М(1(и) Щ (гпоб р). Очевидно, что М(7(и) (3) является Е-инвариантной функцией. Поэтому для доказательства следствия 2 достаточно проверить, что для произвольной ограниченной Я-инвариантной функции Мд (и) (7' (и) — М ()' (и) ! 3) ) = 0 или что М(д(и)К*(и) — й(и)К(и) ) = 0; но последнее вытекает из (12), так что л-1 (й(и)((и))*=11пт — ~~ й(В~и))(5~и)=й(и))'(и) (гпод)А).
И А-О Эргодические стационарные последовательности. Возвратимся к стационарным последовательностям. Пусть Д(1), 1~ Т) — стационарная последовательность и (Хт, 6, Р) — ее естественное представление. Следствие 3. Если 1 — изигритиая функция в (Х,6 ) и М1(ь(0) ь(1), ..., Ьл(гн — 1)) Ф со, то с вероятностью 1 л — ! — „~~.1(;(й), 1(й+1), ..., 8(й+„— Ц) А-О -»М(1(»(0), е(1), ..., л(т — 1)) ~Я при и — »со гдг 3 — о-алгебра событий из 5, инвариантных относительно сдвига вретиени.
Рассмотрим произвольное событие А ее%' и последовательность событий, получаемых из А «сдвигом времени» вЂ” А, О~'А, 5 'А,... Если т„— индикатор события 5«А, то у„(н = О, «-1,...) образуют стационарную последовательность случайных величин л-~ ) х и — р ть есть частота наступления события А, вычисленная по л ь-о одной реализации последовательности (К(1), 1 = О, 1, 2, ...)) Тл(А) и Лг)1А= л ь-о Э з1 эягодические ТГОРРмы В силу теоремы Биркхофа — Хинчина с вероятностью 1 суще- ствует предел = и (А) = М (Хл ! 3) и Мп (Л) = Р (Л), «-« Величину п(А) можно назвать эмпирической вероятностью со- бытия А.
Она явяяется случайной величиной. Естественно, воз- никает вопрос: когда эмпирическая вероятность п(Л) не зависит от случая н совпадает с вероятностью Р(А)» Стационарные последовательности, обладающие этим свой- ством, называются зргодическими, Более общим является следующее определение.
Оп р еде лени е. Пусть (У, 6, и) — вероятностное простран- ство, 5 — сохраняющее меру преобразование У в себя, т«(А) = ч„(А, и) — число членов последовательности (и, 5и, ... , 5"-'и), попадающих во множество А. Преобразование Ь на- зывают зргодическим, если для любого А енв !пп " ' = р(А) (пю4 и).
« -+ Преобразование 5 называют метрическим транзитивным, если любое 5-инвариантное множество имеет меру 1 или О. Теорем а 2. Чтобы преобразование 5 в вероятностном про- странстве (У, й, р) было зргодическим, необходимо и доста- точно, чтобы выполнялось одно из двух условий: а) 5 метрически транзитивно; б) для любой 8-измеримой и;интегрируемой функции 1(и) функция )' (и) = !пп —, ~ ) (5 "и) « -+ в=а с вероятностью 1 постоянна. Доказательство.
Пусть А — 5-инвариантное множество и О ( !»(А) < 1. Множества А, 5А, 5»А, ... отличаются друг от друга на множества меры О и т„(А) = и»!А(и) (пюй и). Следовательно, 1!гп — не может быть постоянной (пюб !») величич«(А1 ' «.+,«« ной. Таким образом, из эргоднчности следует метрическая транэитивность. Пусть теперь 5 метрически транзитивно. Таь как функция 1" (и) 5-инвариантна, то симметрическая разность множеств 5 '(и: 1'(и) <х) =(и: (*(5и) < х) и (и: 1*(и) <х) имеет р-меру О.
Отсюда вытекает, что и(и: )*(и) < х) = О или 1 для любого действительного х, т. е. 1*(и) = сопз1 (той 1х). Таким образом, из а) вытекает б). Наконец, условие эргодичности ггл. Ен СЛУЧАИНЫЕ ПОСЛЕДОВАТЕЛЬНОСТИ !бе является частным случаем условия б), а именно когда 7"(и) есть индикатор некоторого события. 9 Приведем несколько следствий из эргодичности. Пусть (Х, 6, Р) — естественное представление стационарной последовательности е(п), 5 — преобразование сдвига времени в Х Ы«=Ы«(ХТ,6, Р). Из следствия 1 теоремы 1 вытекает, что для произвольных функций )(и) и д(и) из Ы« л-1 !Ип ~ — ~Х !'(5«и)д(и) Р(ди) = ~ !" (и) д(и) Р(ди). (16) л-« х' «-О х' Будем говорить, что последовательность (Е(п), и = О, -~-1, ...) эргодична, если эргодическим является преобразование 5.
Положим д(и) = т1, !" (5«и) = ~«и предположим, что исходная стационарная последовательность (с(н), и = О, ~1,...Г эргодична. Соотношение (16) принимает вид л-! (ип ! ~, 1«т! = Мь«Мт! (17) илн (если Р(В) Ф О) л-1 1нп —, ~~ Р (5 «А ! В) = Р (А), «-о (19) где Р (5-"А !В) — условная вероятность события 5-"А относительно В. Лемма 6. Равенство (18) (или (19)), длл любых А, В ~6 зквивплентно эргодичности. Достаточно показать, что из (18) следует эргодичность. Пусть С вЂ” любое 5-инвариантное событие. Положим в (18) А = В = С. Тогда оио переходит в следующее: Р(С) = Р'(С), откуда Р(С) = О или 1, и лемма следует из теоремы 2. р Равенство (19), имеет следующий теоретико-вероятностный смысл. Пусть А и  — два события из 6.
Если событие А неограниченно сдвигать во времени, то в среднем события 5-"А и В становятся независимыми, каково бы ни было событие В. Пусть а(и)= те(и), )(и) тл(и), А и В в= 6. Из (17) следует, что л — ) 1!т — „~ Р(5 АПВ) = Р(А) Р(В) (18) лФ 161 эРГодические теоРемы о 31 Условие (19) является частным случаем более жесткого требования: Вш Р (~ "А ! В) = Р (А), (20) л+ э которое называется условием перемегиивания. Условие (20) является частным случаем равенства 1пп Мь„г) = М~,М«1, (21) Случайная величина э', очевидно, не зависит от любого конечного числа величин $о, $1, ..., $р. Поэтому $' измерима относительно 1!шб(ао) и на основании «закона 0 или !» постоянна, е* = с (шоб Р), причем с = М$. Таким образом, мы получаем следующую теорему.
Т е о р е м а 3 (усиленный закон больших чисел). Если (е„, и = О, ь1, ...) — последовательность независимых одинаково распределенных случайных величин и М!$„! оо, то с вероятностью 1 л-1 !1гп — ~~ ео = Мео. 1 ч' л'+ ь-о л .Е~ (22) Доказанная теорема является следствием эргодичности независимых одинаково распределенных случайных величин. Но можно доказать большее, а именно, что оператор сдвига времени и лт является перемешиванием. В свою очередь это вытекает из более общего утверждения.
Пусть (Э„, и = О, ч-1,...)— где ь =)(~"и) г) = к(и), )(и) и у(и) — произвольные функции из хо С другой стороны, из (20) следует (2!) для простых функций 1' и д. Аппроксимируя произвольные 1(и) и д(и) из йго последовательностями простых функций 1„(и) и д„(и), сходящихся в Ыо к 1(и) и д(и) соответственно, нетрудно убедиться, что условие перемешнвания эквивалентно условию (21) (!(и), д(и) — произвольные функции из Ыо). С другой стороны, условие (21) достаточно проверить для некоторого множества функций, линейная оболочка которых всюду плотна в Ыо. В качестве таковой удобно принимать индикаторы цилиндрических множеств.
Рассмотрим последовательность Д„п = О, ~1, ...) независимых одинаково распределенных случайных величин, и пусть М!$„!( оь. Она является стационарной последовательностью. В силу теоремы Биркхофа — Хинчина Л-1 Иш — „~ $о=~' (гпог( Р), М$'=М$. "+ ь-о юл ги случхнныг последовхтельности 162 стационарная последовательность случайных элементов в (Х, Ц, 6„— о-алгебра, порождаемая случайными элементами в Ь»+ь,б„=П6 =1!гп5„.
Будем говорить, что к посяедоь вательности («„, и = О, -~-1, ...) применим «закон 0 или 1», если а-алгебра 5 содержит только события вероятности 0 или 1, Т е о р е м а 4. Если последовательность Д„, и = О, -~1, ) удовлетворяет «закону 0 или 1», то преобразование сдвига вре- мени является пережегииванием. Положим ~ „= Р(В!$ ). Последовательность (ь„, 6», и = = ...— й,— й+ 1, ..., 0), 5 „=В„является мартингалом, н Р(В!5 ) является его замыканием слева. Так как о-алгебра 5 тривиальна, то Р(В!5 ) = сопи( = Р(В) (гпог( Р).
В силу тео- ремы о сходимости мартингалов (теорема 1, следствие, 5 1) 1пп Р(В!5,) = Р(В) с вероятностью 1. Пусть А — цилиндриче- ское множество над координатами и = О, 1, 2,... Тогда 5-"А ен ~ 5 Поэтому при и — + оо Р'хВЙВ "А)= ~ Р(В)5„)Р(ди)- Р(В)Р(Я "А)=Р(В)Р(А), з «л Очевидно, что это соотношение имеет место и для любого цилиндрического А.
Отсюда вытекает, как было замечено ранее, соотношение (21). И Другим примером процесса, удовлетворяющего условию перемешивания, может служить стационарная гауссова последовательность, коэффициент корреляции которой стремится к нулю. Пусть ($„, и = О, ~1, ~2, ...) — стационарная гауссова последовательность, М$„ = т, М (с„ — т)($ь — т) = Я„, ((и) = ((хо,хь ..., хр), И(и) = п(х„ хь ..., х„) — ограниченные достаточно гладкие функции р+1 переменных, имеющие абсолютно витегрируемые преобразования Фурье !'(Л,, ..., Л„), а' (Ль,..., Лр) .
Тогда М((»л »»+АЙ~ ' ' ' ~ »ь«Р) Я (~ь»~ ' ~ »Р) л Р '~ 2; хь":«+,~- 2, ь»1»~) = М ... ~ ° ~ -" "-' ' Х Х ('(Л,,..., Л,) д" (р„..., р«) Л ... Л, 'р, ... др, =- ь ь у '( Х яь — (х»х~ н ььс)+ Х я«+ь — ~х»ь Х ('(Ло, » ») К*(!хь ~ р,) «Ль дЛ» дно 4л.
пгоцесс восстановления 1вз Если 11тй„=О, то, переходя в написанном соотношении к пре- 6-> делу при п — оо, получим Пгп М) Ф й -~~ ' $ +р)Я($м $~ $я) = = М~(ььо ьь1 ° ° ° ььг) Мк (ььь ьы> ° ° ° ~ ьья) Так как класс функций 1 и у, для которых доказано последнее соотношение, всюду плотен в Ж, то соотношение (23) имеет место длЯ пРоизвольных 1 и д из Ыь Таким образом, доказан следующий результат. Теорем а 5. Стационарная гауссова последовательность, коэффициент корреляции которой 1г, - 0 при и — оо, удовлетворяет условию перемешивания.