А.В. Булинский - Курс лекций по теории вероятностей (1120059), страница 7
Текст из файла (страница 7)
Пусть X1 , X2 , . . . — попарно независимые одинаково распределенные случайныевеличины, E|X1 | < ∞. ТогдаSn п.н.−→ EX1 , n −→ ∞,(9)nгде Sn = X1 + . . . + Xn .nPXi+nPXi−Замечание. Если случайные величины Xn > 0, одинаково распределены, некоррелированы (т.е. cov Xi Xj =0 ∀i 6= j) и существует E|X1 | < ∞, то соотношение (9) следует из теоремы 4.3. Покажем сначала, что достаточно рассмотреть случай неотрицательных случайных величин Xn . Действительно, если они любого знака, то представляем их в виде Xn = Xn+ − Xn− = x+ (Xn ) − x− (Xn ), гдеx+ = max(0, x), x− = x+ − x. Если Xi Xj , то x+ (Xi ) x+ (Xj ) и x− (Xi ) x− (Xj ).
Поэтому если теорема будет доказана для неотрицательных величин, то применяя ее для X1+ , X2+ , . . . и X1− , X2− , . . . , получим= n − 1 n −→ EX1+ − EX1− = EX1 , n −→ ∞.Итак, далее считаем, что Xn > 0, n = 1, 2, . . .. Введем «урезанные» случайные величины Yi = Xi I{Xi 6 i},nPi = 1, 2, . . .. Пусть Sen =Yi .
Определим последовательность kn = [αn ], n = 1, 2, . . ., где α > 1.Snn1п.н.i=1Sekn − ESekn п.н.Лемма 4.5.−→ 0, n −→ ∞.kn23Для доказательстваприменим лемму Бореля–Кантелли. А именно, докажем, что ∀ε > 0 сходится ряд e e∞∞PPek Skn −ESekn Skn −ESekn DSnP >ε<∞.ПрименяянеравенствоЧебышёва,получаемP>ε62 .
Вknknε2 kn∞Pn=1n=1силу некоррелированности имеем DSekn =knPn=1DYi , поэтомуi=1!kn∞∞∞ Se − ESe XX 1DSekn1 X 1 X1 X knkn 2P =DY6EY.>ε 6iiknε2 kn2ε2 n=1 kn2 i=1ε2 i=1kn2n=1n=1∞Xn: kn >iВ последнем неравенстве мы изменили порядок суммирования и воспользовались оценкой DYn 6 EYn2 . Далее,XX111 X12оцениваем последнюю сумму в правой части:=, т.к. [αn ] > cα α2n622n2nncαcααα[α ]n:[αn ]>in:[αn ]>in:[αn ]>iдля некоторой константы cα . Так как1X 11q2m=, то1 = 2(m−1)q 2nq(1 − q 2 )1 − q2n>mXn: [αn ]>i1=α2nXn>[logα (i+1)]16α2n1cα.2 = e1−α2log(i+1)(i + 1)2ααα2∞∞ eXC(α) X EYi2 S −ESe Итак, мы доказали, чтоP kn kn kn > ε 6.
Далее, по формуле математическогоε2 i=1 (i + 1)2n=1R∞ожидания Ef (X) =f (x)PX (dx) и учитывая, что PXi = PX1 ∀i (так как по условию X1 , X2 , . . . одинаково1−∞распределены) имеем∞Xi=12Zi∞X1EYi2=x2 µ(dx), где µ = PX1 (в нашем случае функция f имеет вид2(i + 1)2(i+1)i=10f (x) = x I{06x6i} ). Применяя аддитивность интеграла и меняя порядок суммирования, получаем:∞Xi=1∞XEYi21=2(i + 1)(i + 1)2i=1Zi2x µ(dx) =∞Xi=10ZZi−1 k+1∞ k+1XXX112xµ(dx)=x2 µ(dx).2(i + 1)(i + 1)2k=0 kk=0 kДалее, воспользуемся известной из математического анализа оценкой∞Pi>k+1n=mXi>k+1∞Xf (x) dx; получим:m−1k+1Z∞ZZ∞ k+1∞X 1XXX1dx1112=6=.Следовательно,xµ(dx)6x2 µ(dx) 6(i + 1)2j2x2k+1(i + 1)2k+1j>k+2k=0 kk+1i>k+1k+1Zk=0 kR∞f (n) 6x µ(dx) = EX1 < ∞ (по условию). Подставляя эту оценку в исходную, получаемk=0∞Xk e S −ESe P kn kn kn > ε 6n=1C(α)EX1Sek − ESekn п.н.< ∞ ∀ε > 0.
Значит, по лемме Бореля–Кантелли n−→ 0, n −→ ∞, что и требовалось. 2εknknPekESnknEYi= i=1kn . Покажем, что EYi = EXi I{0 6 Xi 6 i} −→ EX1 ,Вернемся к доказательству теоремы. Мы имеемi∞RRR∞i−→ ∞. Действительно, EXi I{0 6 Xi 6 i} = x µ(dx) = xI{x 6 i} µ(dx) −→ x µ(dx) = EX1 , i −→ ∞ по теореме000ESeknSekn − ESekn п.н.−→ EX1 , n −→ ∞. А так как по лемме 4.5−→ 0,о монотонной сходимости.
Следовательно,knknSekn п.н.Skn п.н.n −→ ∞, то отсюда получаем−→ EX1 , n −→ ∞. Докажем, что отсюда вытекает−→ EX1 , n −→ ∞.knknPPPлеммаДействительно, так какP(Xi 6= Yi ) =P(Xi > i) =P(X1 > i) < EX1 + 1 < ∞, то по лемме Бореля–iiiКантелли P(Xi 6= Yi ) = 0. Следовательно, для почти всех ω ∈ Ω и ∀n > N (ω) Xi (ω) = Yi (ω) =⇒EX1 , n −→ ∞.1knknPi=1п.н.Xi −→Sn п.н.−→ EX1 . Фиксируем α > 1. Для каждого n > N (α) найдем такое m(n), чтоnS[αm(n) ]S[αm(n) ] [αm(n) ]Sn1> lim= lim m(n)> EX1 , так как[αm(n) ] 6 n < [αm(n)+1 ]. Так как все Xi > 0, то limnnα]n nnn [αНаконец, докажем, что24S[αm(n)+1 ]S[αm(n)+1 ] [αm(n)+1 ][αm(n) ][αm(n) ]1Sn> m(n)+1 −→ , n −→ ∞.
Аналогично, lim6 lim= lim m(n)+16 EX1 · αn nnn [αnαnn[α]][αm(n)+1 ]1SnSn[αm(n)+1 ]−→ α, n −→ ∞). Итак, EX1 6 lim(воспользовались тем, что66 lim6 αEX1 , гдеnnαnn[αm(n) ]nα > 1 — любое. Устремим α ⇓ 1, тогда получим lim Snn = EX1 п.н., что и требовалось доказать. nСледствием доказанной теоремы является важная классическая теорема Колмогорова:Следствие 4.2 (Колмогоров). Пусть X1 , X2 , . . . — независимые в совокупности одинаково распределенSn п.н.ные случайные величины такие, что E|X1 | < ∞. Тогда−→ EX1 , n −→ ∞, где Sn = X1 + .
. . + Xn .n4.3.3. Классическая теорема Колмогорова. Закон 0 и 1Теорема 4.6 (Закон 0 или 1 Колмогорова).Пусть ξ1 , ξ2 , . . . — независимые случайные величины иTпусть Fn = σ{ξn , ξn+1 , . . .}. Обозначим F∞ = Fn . Тогда если A ∈ F∞ , то P(A) = 0 или P(A) = 1.nS Пусть A ∈ F∞ . Тогда A ∈ Fn ∀n. Обозначим Ank = σ{ξn , .
. . , ξn+k }, тогда Fn = σAnk . Ноk>1SAn =Ank — это алгебра, следовательно, ∀ε > 0 ∃Aε ∈ Ank = σ{ξn , . . . , ξn+k } : P(A△Aε ) < ε (см. задачуk>1такую-то). Но A ∈ Fn+k+1 = σ{ξn+k+1 , . . .}, поэтому A и Aε — независимые события, т.е. P(A∩Aε ) = P(A)P(Aε ).Отсюда получаем, что P(A) = P(A)2 , откуда либо P(A) = 0, либо P(A) = 1, что и требовалось доказать. 5. Центральная предельная теорема5.1. Теорема Александрова5.2. Характеристические функции5.2.1.
Определение, основные свойства и примерыПусть Q — вероятностная мера на B(R).Определение. Характеристической функцией вероятностной меры Q называется функцияZZZϕQ (t) := eitx Q(dx) = cos(tx)Q(dx) + i sin(tx)Q(dx).RRRЕсли X : Ω −→ R — случайная величина, то на B(R) возникает вероятностная мера PX , определяемая поформуле PX (B) = P(X −1 (B)).
Тогда характеристической функцией случайной величины X называется характеристическая функция вероятностной меры PX :ZZϕPX (t) = eitx PX (dx) = eitX dP = EeitX = ϕX (t).ΩRТаким образом, характеристическая функция случайной величины X записывается в виде ϕX (t) = EeitX .Имеется взаимно-однозначное соответствие между вероятностными мерами Q на Ω, их функциями распределения F и характеристическими функциями ϕ: Q ↔ F ↔ ϕ.Приведем несколько примеров характеристических функций.Пример 2.1.
Пусть X(ω) = C = const ∀ ω ∈ Ω — постоянная случайная величина. Тогда ее характеристическая функция: ϕX (t) = EeitX = EeitC = eitC .0,...,k,...Пример 2.2. Пусть X ∼ πλ (пуассоновское распределение с параметром λ > 0), X =λk e−λ−λe , ...,...k!Найдем характеристическую функцию этого распределения:ϕX (t) = EeitX =∞Xk=0eitk P(X = k) =∞Xk=0eitk∞kX (λeit )ititλk e−λ= e−λ= e−λ eλe = eλ(e −1) .k!k!k=0Итак, характеристическая функция пуассоновской случайной величины X ∼ πλ с параметром λ > 0 равнаitϕX (t) = eλ(e −1) .25Пример 2.3. Пусть случайная величина X ∼ N (0, 1) имеет стандартное нормальное распределение. Тоx2гда, по определению, его плотность равна p(x) = √12π e− 2 , x ∈ R.
Характеристическая функция равна ϕ(t) =R∞ itxR∞ itxR∞ itx− x22 dx. Легко проверить, что эта функция от t удовлетворяϕX (t) =e dF (x) =e p(x) dx = √12πe−∞−∞−∞ет дифференциальному уравнению ϕ′ (t) = −tϕ(t) (продифференцируйте интеграл по параметру t и убедитесьt2в этом!), решая которое, получаем решение ϕ(t) = e− 2 с начальным условием ϕ(0) = 1, которое должно бытьвыполнено для любой характеристической функции.Итак, характеристическая функция случайной величины X ∼ N (0, 1), имеющей стандартное нормальноеt2распределение, равна ϕX (t) = e− 2 .Теорема 5.1 (Свойства характеристических функций).
Все характеристические функции обладаютследующими свойствами:1) ϕ(0) = 1;2) |ϕ(t)| 6 1;3) ϕ равномерно непрерывна на R;4) ϕ(−t) = ϕ(t);5) X имеет симметричное распределение (т.е. Law(X) = Law(−X)) тогда и только тогда, когда ϕX —действительная функция;6) Если Y = aX + b, a, b ∈ R, то ϕY (t) = eitb ϕX (at). R∞R∞ itx Свойство 1) очевидно: ϕX (0) = Ee0 = 1.
Свойство 2): |ϕX (t)| = eitx dF (x) 6|e | dF (x) =−∞−∞R∞dF (x) = 1, так как |eitx | = 1.−∞Докажем свойство 3) — равномерную непрерывность. Имеем:ϕ(t + h) − ϕ(t) =Z∞−∞eitx(eihx− 1) dF (x),|ϕ(t + h) − ϕ(t)| 6Z∞−∞|eihx − 1| dF (x)∀ x ∈ R.Так как |eihx − 1| −→ 0, h −→ 0 ∀ x ∈ R, то по теореме о мажорируемой сходимости получаем требуемое.Докажем свойство 4). Вспомним, что комплексно сопряженное число к z = u + iv (u, v ∈ R) — это числоR∞ −itxR∞edF (x) =eitx dF (x) = ϕ(t).z̄ = u − iv. Имеем: ϕ(−t) =−∞−∞Свойство 5) сразу следует из свойства 4): действительно, пусть ϕ — действительная функция.
Тогда ϕ−X (t) =Eeit(−X) = Eei(−t)X = ϕX (−t) = ϕX (t) = ϕX (t), следовательно ϕ−X (t) = ϕX (t) ∀ t ∈ R. По теореме единственности (формула обращения; см. следующий пункт) Law(−X) = Law(X). Производя те же выкладки в обратномпорядке, получаем обратное утверждение (достаточность).Осталось доказать свойство 6). Имеем: ϕaX+b (t) = Eeit(aX+b) = Eei(at)X eitb = eitb ϕX (at), что и требовалосьдоказать. Доказанная теорема дает необходимые условия, которым должны удовлетворять характеристические функции произвольных случайных величин. В частности, если некоторая (данная) функция ϕ не удовлетворяет хотябы одному из этих условий, то теорема позволяет сделать вывод о том, что эта функция не является характеристической ни для какой случайной величины X.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
