Лекция по сходимости почти наверное (М.Л. Сердобольская) (ПДФ-лекции)

3. СХОДИМОСТЬ С ВЕРОЯТНОСТЬЮ ЕДИНИЦАПрежде чем доказывать утверждения, связанные со сходимостью с вероятностьюединица, докажем две леммы общего характера.Лемма 3.1. Для любого счётного набора событий A1 , A2 , . . . справедливо неравенство[ XnnPP (Ak ),n6∞(3.1)Ak 6k=1k=1(здесь речь идёт о конечном или счётном объединении событий).Доказательство. Возьмём сначала n = 2, имеемP (A1 ∪ A2 ) = P (A1 ) + P (A2 ) − P (A1 ∩ A2 ) 6 P (A1 ) + P (A2 ),отсюда для n = 3 в силу ассоциативности операции объединенияP (A1 ∪ A2 ∪ A3 ) = P ((A1 ∪ A2 ) ∪ A3 ) 6 P (A1 ∪ A2 ) + P (A3 ) 6 P (A1 ) + P (A2 ) + P (A3 ).Продолжая подобные рассуждения, получим неравенство (3.1) для любого конечного n.

Для n = ∞ воспользуемся предельным переходом. Очевидно, что∞nn∞∞ [[[[[Bn ,Bn =Ak ,Ak =Ak =k=1n=1n=1k=1k=1причём в силу Bn+1 = Bn ∪ An+1 мы имеем монотонность (Bn ⊂ Bn+1 ) последовательности B1 , B2 , . . . . Таким образом, по теореме о непрерывности вероятностии вследствие неравенства (3.1), уже доказанного для конечного n, получаем неравенство для n = ∞:[[∞∞PAk = PBn = P lim Bn = lim P (Bn ) =k=1= lim Pn→∞n→∞n→∞n=1[nAkk=16 limn→∞nXP (Ak ) =k=1∞XP (Ak ).k=1Заметим, что ряд в правой части неравенства не обязан сходиться и может (формально) быть равен бесконечности.

На этом доказательство леммы завершается.Аналогичные рассуждения доказывают следующую лемму.Лемма 3.2. Для любого счётного набора событий A1 , A2 , . . . равенство\∞PAk = 1(3.2)k=1имеет место тогда и только тогда, когда P (An ) = 1 для каждого n = 1, 2, . . . .Доказательство. Из очевидных соотношений\∞1=PAk 6 P (An ) 6 1,k=11получаем, что (3.2) влечёт P (An ) = 1 для каждого n = 1, 2, . . . .Наоборот, если P (A1 ) = P (A2 ) = 1, то P (A1 ∪ A2 ) > P (Ak ) для k = 1, 2, следовательно, P (A1 ∪ A2 ) = 1, откудаP (A1 ∩ A2 ) = P (A1 ) + P (A2 ) − P (A1 ∪ A2 ) 6 P (A1 ) + P (A2 ) = 1 + 1 − 1 = 1.Аналогично, если P (A1 ) = P (A2 ) = P (A3 ) = 1, тоP (A1 ∩ A2 ∩ A3 ) = P (A1 ∩ A2 ) + P (A3 ) − P ((A1 ∩ A2 ) ∪ A3 ) = 1 + 1 − 1 = 1.Продолжая подобные рассуждения, получаем, что если P (Ak ) = 1 для каждогоk = 1, 2, .

. . , n, то для любого конечного nP\nAkk=1n\defCn == P (Cn ) = 1,Ak .(3.3)k=1Для n = ∞, как и выше, воспользуемся предельным переходом. Используя равенства∞n∞∞ \[\\Cn = lim Cn ,Ak =Ak =n=1k=1n→∞n=1k=1(предельный переход справедлив в силу включения Cn+1 = Cn ∩ An+1 ⊂ Cn ), вышедоказанное равенство (3.3) и непрерывность вероятности, имеемP\∞k=1Ak=P\∞Cnn=1= P ( lim Cn ) = lim P (Cn ) = 1.n→∞n→∞Лемма доказана.Посмотрим, что вытекает из сходимости ряда в правой части (3.1) при n = ∞.Сначала вспомним понятия верхнего и нижнего пределов последовательности множеств:∞∞ [∞[\def∗Ak ,A = lim sup An =Ak = limn→∞defA∗ = lim inf An =n→∞n→∞n=1 k=n∞ \∞[Ak = limn→∞n=1 k=nk=n∞[Ak ,k=nгде предельные соотношения вытекают из включений∞[k=n∞\k=nAk = An ∪Ak = An ∩ [∞k=n+1 [∞k=n+1AkAk⊃⊂∞[k=n+1∞\Ak ,Akk=n+1и монотонного поведения соответствующих последовательностей событий.Следующее утверждение известно как лемма Бореля–Кантелли.2(3.4)Лемма 3.3.

Если∞XP (An ) < ∞,n=1то P ( lim sup An ) = 0.n→∞Доказательство. С учётом представления (3.4), теоремы о непрерывности вероятности и оценки (3.1) получаем для A∗ = lim sup Ann→∞P (A ) = P∗limn→∞∞[k=nAk= lim Pn→∞[∞Akk=n6 limn→∞∞XP (Ak ) = 0,k=nгде собственно равенство нулю следует из условия сходимости ряда вероятностей.Можно вспомнить, что верхний предел последовательности множеств есть множество тех элементарных исходов, которые принадлежат бесконечному поднабору(подпоследовательности) множеств из A1 , A2 , . . .

. В условиях леммы Бореля–Кантелли это событие имеет вероятность ноль, а дополнительное к нему – вероятностьединица. Таким образом, лемма Бореля–Кантелли может быть сформулированаP∞так: еслиn=1 P (An ) < ∞, то с вероятностью единица происходит только конечное число событий из A1 , A2 , .

. . .Сходимость с вероятностью единица. Рассмотрим последовательность случайных величин ξn : Ω 7→ R, n = 1, 2, . . . .Будем говорить, что последовательность {ξn }n=1,∞ сходится с вероятностьюединица или, другими словами, почти наверное, если множествоnoP ω : существует lim ξn (ω) = 1.(3.5)n→∞Чуть ниже мы покажем, что множество под знаком вероятности принадлежит сигма-алгебре событий, т. е. вероятность в (3.5) обязательно существует. Кроме того,если выполнено условие (3.5), то соответствиеξ : Ω → R,ξ(ω) = lim ξn (ω),n→∞обязательно является случайной величиной. Этот факт мы оставим без доказательства, поскольку в наших дальнейших рассуждениях предел будет задан априори.Рассмотрим более подробно определение сходимости с вероятностью единица.Пусть ξn (ω) → ξ(ω) при n → ∞.

Это означает, что для любого ε > 0 найдетсячисло n ∈ {1, 2, . . . } такое, что |ξk (ω) − ξ(ω)| < ε для всех k > n. Запишем этот фактв терминах операций над множествами: заменим все условия типа «для любого»операцией пересечения, а все условия типа «существует» – операцией объединения.Получим∞ \∞ \ [ω : ξn (ω) −→ ξ(ω) =ω : |ξn (ω) − ξ(ω)| < ε =n→∞ε>0 n=1 k=n=\ε>0lim inf ω : |ξn (ω) − ξ(ω)| < ε .n→∞3Без ограничения общности можно записать∞ [∞ \∞\ω : ξn (ω) −→ ξ(ω) =ω : |ξn (ω) − ξ(ω)| < 1/m =n→∞=m=0 n=1 k=n∞\m=0lim inf ω : |ξn (ω) − ξ(ω)| < 1/m ,n→∞(3.6)заставив индекс в пересечении пробегать счётное множество значений вместо несчётного ε > 0.

Здесь мы для m = 0 положили 1/m = ∞ и defω : |ξn (ω) − ξ(ω)| < ∞ = Ω.Замечание. Соотношения (3.6) показывают, что множество тех исходов, прикоторых существует lim ξn (ω), принадлежит сигма-алгебре событий.Итак, сходимость с вероятностью единица,P ω : ξn (ω) −→ ξ(ω) = 1,n→∞имеет место тогда и только тогда, когда выполнено любое из двух равенств\Plim inf ω : |ξn (ω) − ξ(ω)| < ε= 1,ε>0P \∞m=0n→∞lim inf ω : |ξn (ω) − ξ(ω)| < 1/m= 1.(3.7)n→∞По лемме 3.2 второе из этих равенств эквивалентно тому, чтоP lim inf ω : |ξn (ω) − ξ(ω)| < 1/m = 1,m = 0, 1, 2, . . .

.(3.8)Нетрудно сообразить, что в условии (3.8) можно заменить 1/m на ε:P lim inf ω : |ξn (ω) − ξ(ω)| < ε = 1,ε > 0.(3.9)n→∞n→∞Эквивалентность (3.8) и (3.9) видна из следующих рассуждений. ПустьAn (x) = ω : |ξn (ω) − ξ(ω)| < x ,x > 0.Очевидно, что если x1 6 x2 , то|ξn (ω) − ξ(ω)| < x1=⇒|ξn (ω) − ξ(ω)| < x2 ,или, в терминах множеств, An (x1 ) ⊂ An (x2 ), что приводит к P (An (x1 )) 6 P (An (x2 )).Учитывая включение Ak (x1 ) ⊂ Ak (x2 ) при нахождении пересечений и объединений,приходим кlim inf An (x1 ) =n→∞∞ \∞[Ak (x1 ) ⊂n=1 k=n∞ \∞[n=1 k=n4Ak (x2 ) = lim inf An (x2 )n→∞иесли x1 6 x2 .P (lim inf An (x1 )) 6 P (lim inf An (x2 )),n→∞n→∞Таким образом, если x1 6 x2 и P (lim inf An (x1 )) = 1, то P (lim inf An (x2 )) = 1.n→∞n→∞Теперь вернёмся к доказательству эквивалентности равенств (3.8) и (3.9).

Есливыполнено (3.8), то, находя для любого ε > 0 число 1/m 6 ε, в силу приведённыхвыше рассуждений получаем (3.9). Если, наоборот, выполнено (3.9), то подберёмдля данного m число ε 6 1/m, получим (3.8).Подведём итог. Сходимость с вероятностью единица,P ω : ξn (ω) −→ ξ(ω) = 1,n→∞имеет место тогда и только тогда, когда для любого ε > 0P lim inf ω : |ξn (ω) − ξ(ω)| < ε = 1.n→∞Переходя к дополнительным событиям, получим важную для нас лемму.Лемма 3.4. Последовательность {ξn }n=1,∞ сходится к ξ с вероятностью единица тогда и только тогда, когда для любого ε > 0P lim sup ω : |ξn (ω) − ξ(ω)| > ε = 0.n→∞Объединяя последнюю лемму и лемму Бореля–Кантелли, получаем ещё одноутверждение.Лемма 3.5.

Если для любого ε > 0∞XP (|ξn − ξ| > ε) < ∞,(3.10)n=1то последовательность случайных величин {ξn }n=1,∞ сходится к случайной величине ξ с вероятностью единица.Доказательство. В самом деле, по лемме Бореля–Кантелли из (3.10) имеемP ( lim sup ω : |ξn (ω) − ξ(ω)| > ε}) = 0,n→∞по лемме 3.4 это влечёт сходимость последовательности {ξn }n=1,∞ к случайнойвеличине ξ с вероятностью единица.На основании доказанных фактов докажем ещё одно утверждение.Утверждение 1. Сходимость с вероятностью единица влечёт сходимость повероятности:п.

н.ξn → ξ=⇒Pξn → ξ,n → ∞.Доказательство. Проведём доказательство от противного. Пусть последовательность {ξn }n=1,∞ не сходится по вероятности к случайной величине ξ. Это означает, что найдётся ε0 > 0 такое, что P |ξn −ξ| > ε0 не стремится к нулю при n → ∞.5Это, в свою очередь, означает, что найдётся число δ > 0 и подпоследовательность{ξnk }k=1,∞ такие, чтоP |ξnk − ξ| > ε0 > δ,следовательно,k = 1, 2, . . . ,[∞> δ,Pω : |ξnk (ω) − ξ(ω)| > ε0s = 1, 2, . .

. ,k=sи, в силу (3.4),P lim sup ω : |ξnk (ω) − ξ(ω)| > ε0 = lim Ps→∞k→∞[∞> δ > 0.ω : |ξnk (ω) − ξ(ω)| > ε0k=sЭто означает, что для подпоследовательности {ξnk }k=1,∞ и, следовательно, для всейпоследовательности {ξn }n=1,∞ неверно, что они сходятся к случайной величине ξс вероятностью единица.Усиленный закон больших чисел. Напомним, что если случайные величиныξ1 , ξ2 , . .

. попарно некоррелированы, cov(ξi , ξj ) = 0 при любых i 6= j, и дисперсииэтих случайных величин ограничены в совокупности, Dξk 6 σ 2 для всех k = 1, 2, . . . ,то при n → ∞n1XP(ξk − M ξk ) → 0.nk=1Это утверждение носит название закон больших чисел (в форме Чебышёва) и вытекает из неравенства Чебышёва: X Xnn1 n1 Xnσ 21n → ∞.(ξk − M ξk ) > ε 6 Dξk = 2Dξk 6 2 2 → 0,P nnnn εk=1k=1k=1В частности, если M ξk = µ для всех k = 1, 2, . . . , тоn1XPξk → µ.nk=1Докажем, что в этом случае имеет место и сходимость с вероятностью единица.Эта теорема носит название усиленный закон больших чисел.Теорема 3.1.