А.Н. Ширяев - Вероятность-1 (1115330), страница 58
Текст из файла (страница 58)
— независимые события и 2 Р(А«) < оо. Докал=! л зать, что лля 5« лл 2 I(А») справедливо усиление «второй леммы Бореля— л=! Кантелли»ч ззт й !о. рлзныв виды сходимости 28. Доказать следуюший вариант второй леммы Бореля — Кантелли верждение Ь) в лемме 1): пусть А ь Аз, ... — произвольные (не обяза(ут тельно независимые) события такие, что ~- Р(А;ол,) Р(А„) =ос и (нп!п! ", ~", < 1; ~ Е Р(А1)~ 1<оп тогда Р(А„б. ч.) = 1. 28 Показать, что во второй лемме Бореля — Кантелли вместо независимости событий Аь Аз, ...
достаточно требовать лишь их аопарнрю независимость. 27. Доказать следующий вариант закона нуля или единица (ср. с законами нуля или единицы в $1 гл. 1Н): если события Аи Аз, ... попарно независимы, то ) О, если 2 Р(А„) <оо, (1, если ~ Р(А„) =со. 28. Пусть Аи Аз, ... — произвольная последовательность событий таких, что (нп Р(А„) =0 и 2 Р(А„ йА„+1) < со. Доказать, что тогда л и Р(А„б.
ч.) = О. 29. Доказать, что если ~', РЩ > л) < со, то! нп зцрЩ/а) < 1 (Р-п. н.). 30. Пусть Е„) Е (Р-п. н.), Е(Я < оо, а > 1, и 1п1 ЕЕ„> — оо. Показать, к с! что тогда ń— Е, т. е. Е(Е„-Е1- О. 31. В связи с леммой Бореля — Кантелли показать, что Р(А„б. ч.) =1, если и только если 2 Р(АйА„)=со для каждого множества А с Р(А) >О. и 32. Пусть события Аь Аз, ...
независимы и Р(А„) < 1 для всех л > 1. Тогда Р(А„б. ч.) = 1, если и только если Р(Ц А„) =! . 33. Пусть Хь Хз, ... — независимые случайные величины с Р(Х„=О) = = 1/и и Р(Х„= Ц = 1 — ! /и. Пусть Е„= (Х„=О). Показать, что ~; Р(Е„) = аьц СО = оо, ~ Р (Е„) = со. Заключить отсюда, что 1нп Х„не существует (Р-п. н.). л=1 л 34.
Пусть Хи Хз, ... — последовательность случайных величин. Показать, что Х„ - 0 тогда и только тогда, когда Е , — 0 для некоторого г > О. !Ха!' 1+ (Хп!' 338 ГЛ. и. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ В частности, если 5„ =Х~ + ... + Х„, то 5л — ~5л Р Е (~п — Юе) О и аз+ (5, — Е5„)з Показать, что для произвольной последовательности Х,, Хз, гпах !Х»(- 0 =ь — — +О. 5д 1к»кл и Зб.
Пусть Хн Хз, . — независимые одинаково распределенные бернули Х» лиевские величины: Р(Х» = Ы) = 1/2. Пусть (l„= 2 — з», и > 1. Показать, ~ 2»' что 0„- У (Р-п. н.), где У вЂ” случайная величина, равномерно распределенная на (-1, +1). В! 1. Гильбертово пространство случайных величин с конечным вторым моментом 1. Среди банаховских пространств (.», р > 1, рассмотренных выше, особо важную роль играет пространство (.з = (.з(й, Я, Р) — пространство (классов эквивалентных) случайных величин с конечным вторым моментом.
Если С, г! Е ( 3, то положим (с, и) ээ Е(г!. Ясно, что для с, г), ь е (.~ (аС + Ьп, 0 = а(С, ~) + Ь(гЬ г,), а, Ь Е й, (Е, 0>0 (с, с)=0 ~ с=О. Тем самым (С, г)) является скаллрны.м произвеДением. Относительно нормы и!!=к, а' ', (2) индуцируемой этим скалярным произведением, пространство 1.3 (как было показано в $10) является полным. Поэтому в соответствии с терминологией функционального анализа пространство с введенным скалярным произведением (1) является гильбертовым пространством случайных величин (с конечным вторым моментом). Методы гильбертова пространства широко используются в теории вероятностей при исследовании свойств, определяемых лишь первыми двумя й ! !.
ГИЛЬБЕРТОВО ПРОСТРАНСТВО СЛУЧАЙНЫХ ВЕЛИЧИН 339 моментами рассматриваемых случайных величин («с.з-теория>). В этой связи остановимся на основных понятиях и фактах, необходимых для изложения !'.з-теории (гл. Н1). 2. Две случайные величины С и г) из Ез будем называть ортогональными (с Ьп), если их скалярное произведение (С, !)) =ЕС!)=О. Согласно $8, величины С и г) называются некоррелированными, если соч(С, !1) =О, т. е.
если Е~!1=Е~ Ег). Отсюда следует, что для случайных величин с нулевыми средними понятия их ортогональности и некоррелированности совпадают. Система М С !'.3 будет называться системой ортогональнык случайных величин, если с 1. г) для любых с, г) 6 м (4 зе !1). Если к тому же для всех (ЕМ их норма 1!С!1 =1, то М называется ортонормированной системой случайных величин. 3. Пусть М =(!)!, ..., г)„) — ортонормированная система и с — какая« то случайная величина из (.з. В классе линейных оценок вида 2 аггт !=! найдем наилучшую (в среднеквадратическом смысле) оценку случайной величины с (ср.
с п. 2 $8). Простой подсчет показывает, что з / « л Е С вЂ” ~ а!гд~ я~С вЂ” ~ а!щ = ~~ — Х ~а!!1!, С вЂ” ~ а!щ !=! 1=! !=! !=! Л / « и = !!Ц~ — 2 ~~! а!(с, и!)+ ~~ а!!)!, ~~ а!г)! !=! !=! !=! и л =1!С!1~ — 2 ~~ а!(С, гй)+~~ а~= !=! !=! « л л = !!С!13 — Х 1(С, з1;))~+ ~ ' !а! — (С, з) Кз > 1!С 11з — ~~!, 1(4, зу!)1~, (3) где мы воспользовались тем, что аз — 2а!(С, !д) = 1а! — (с, Ч!Н вЂ” ~(с !)!Н .
«1з Отсюда ясно, что инфимум Е С вЂ” 2 а!!1!~ по всем действительным !=! аь, а„достигается при а; = (с, !1;), 1= 1, ..., п. й ! ! ГИЛЬБЕРТОВО ПРОСТРАНСТВО СЛУЧАЙНЫХ ВЕЛИЧИН 34! где Ее.У', а е — с 1Я в том смысле, что с =с 1л для любого лел'. Естественно поэтому с назвать проекцией Е на .к." («ближайшим» к Е элементом из.Р), а Š— с — перпендикуляром к.к".. 4. Предположение ортонормированности случайных величин г)!, ..., !)„ позволило просто найти оптимальную линейную оценку (проекцию) Е для х по г!!, ..., г)„.
Сложнее обстоит дело, если отказаться от предположения ортонормированности. Однако случай произвольных величин гд „, !)„ а определенном смысле может быть, как будет ниже показано, сведен к уже рассмотренному случаю ортонормированных величин. Для простоты дальнейшего изложения будем предполагать, что все рассматриваемые случайные величины имеют нулевые средние. Будем говорить, что случайные величины Ш, ..., гь линейно независими, если равенство » ,') а!та=О (Р-п.н.) 1=! выполнено лишь тогда, когда все а; равны нулю.
Рассмотрим матрицу ковариаций вектора г) = (г)!, ..., и,), рассматриваемого как вектор-столбец. Она является симметрической и неотрицательно определенной и, как отмечалось в 5 8, найдется ортогональная матрица Ф, приводящая ее к диагональному виду !(т'жФ = О, где — матрица с неотрицательными элементами !(!, являющимися характеРистическими числами матрицы )к, т. е. корнями Л характеристического уравнения де(((к — ЛЕ) =О, где Š— единичная матрица. Если величины г!!, ..., «)„линейно независимы, то детерминант Грама (т е, бе! )к) не равен нулю и, значит, все г(! > О.
Пусть ,в=в-!ст и. 342 ГЛ. и. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ Тогда матрица ковариаций вектора В ЕВВ'=В 'тт'Ет!т!'тУ'В ~ =В 'тУ'МВ ' =Е, и, следовательно, вектор,9 =(!3н ...,!3„) состоит из некоррелированных случайных величин. Ясно также, что т) = («тВ),3. (10) Таким образом, если ть, ..., т)„линейно независимы, то найдется такая ортонормированная система Вн ..., )3„, что выполнены соотношения (9) и (!0). При этом -2'(ти, ", т)») =-(е(А, ", Ю Изложенный способ получения ортонормированной системы Вь ...,,9„ в ряде задач оказывается не очень удобным.
Дело в том, что если трактовать тЬ как значение случайной последовательности (ть, ..., т)„) в момент времени 1, то построенное выше значение Д оказывается зависящим не только от «прошлого» (Пн ..., т);), но и от «будущего» (щ+н ..., т)„). Приводимый ниже процесс ортогонализации Грана — Шмидта не страдает этим недостатком, более того, он обладает тем преимуществом, что может быть применен к бесконечным последовательностям линейно независимых случайных величин (т. е. последовательностям, у которых любое конечное число величин являются линейно независимыми). Пусть тл, т)2, ...
— последовательность линейно независимых случайных величин из ьз. Построим по индукции последовательность ен ез, ... следующим образом. Пусть е1 =тл/!)ял!!. Если еь ..., е„~ уже выбраны так, что они ортонормированы, то положим е»вЂ” (11) !!я« — й !1' где т)„есть проекция т)„на линейное многообразие .У'(ен ..., е„~), порожденное величинами Пн ..., т!«Н л-1 т)л = ~~'',(т)л еь)еы (12) Поскольку величины ть, ..., т)„линейно независимы и .2'(тп, ..., т)„~) = =.2«(ен ..., е, ~), то !)т)„— т)«)! > 0 и, следовательно, е„определено.
По построению !!е„!! = 1, и > 1, и ясно, что (е„, е») = О, й < н. Тем самым последовательность ен ет, ... является ортонормированной. При этом, согласно (! 1), т)» — т)«+ Ь»еп -„!), а "„определяется формулой (12). й ! !. ГИЛЬБЕРТОВО ПРОСТРАНСТВО СЛУЧАЙНЫХ ВЕЛИЧИН 343 Пусть теперь и!, ..., и — произвольная система случайных величин (не обязательно линейно независимых). Пусть де1 %=О, где Жщ'1г!Д— матрица ковариацнй вектора (!)!, ..., и„), и пусть гапдй=г<п. тогда, как известно нз алгебры, для квадратичной формы 9(а)= ~~! гуа;а,, а=(а!, ..., а„), существует ровно н — г линейно независимых векторов а!'1,..., а!" '! таких, что ()(а!!!) =О, !'=1, ..., л — г.
Но / л 'х 2 Я(а) = Е ~ ) аьг!4) . 4=! Следовательно, с вероятностью единица а ' г)4 = О, ! = 1, ..., и — г. Е' (В 4=! Иначе говоря, существует ровно и — г линейных соотношений между ве- личинами !)!, ..., г)„. Поэтому, если, скажем, 41!,..., г), линейно независимы, то все остальные величины 4),+!, ..., г)„линейно через них выражают- ся и, значит, .ВГ(г!!, ..., г!„) =.у'(г)!, ..., 4ь).
Отсюда ясно, что с помощью процесса ортогонализации можно найти г ортонормированных случайных величин е!, ..., е, таких, что все 41!, ..., !)„линейно через них выражаются и .и"(!)!, ..., и„) =.!с(е!, ..., е,). 5. Пусть !)!, г)з, ... — последовательность случайных величин из 1.3. Будем обозначать через й'=.9'(г)!, г)3, ...) линейное многообразие, по- рожденное величинами г)!, г)3, ..., т. е. совокупность случайных величин вила ~," ! а!гу, и > 1, а; ей. Через,У=.У(П!, гн, ...) обозначим замкну- тое линейное многообразие, порожденное и!, г)3, ..., т.
е. совокупность случайных величин из .У и их пределов в среднеквадратическом смысле. Говорят, что система случайных величин г!!, г)э, ... образует счетный ортонормированный базис (иначе — полную ортонормированную систему) в 1.3, если: а) !1!, 4)3, ... — ортонормированная система, Ь) й'(г)!, г)з ".) =й'. Гильбертово пространство со счетным ортонормированным базисом называют сепарабельным. 344 ГЛ.