Ульянов (новое издание) (1115355), страница 19
Текст из файла (страница 19)
В силу доказанного выше утвержденияFnn (x) ⇒ G(x).Теорема 10.2 (Вторая теорема Хелли). Пусть g(x) — непрерывная функция иFn (x) ⇒ F (x), при этом F (+∞) − F (−∞) = 1. ТогдаZ∞Z∞g(x) dFn (x) →−∞g(x) dF (x).−∞Доказательство. Сначала докажем, что для некоторого фиксированного A > 0ZAZAg(x) dFn (x) →−Ag(x) dF (x).(2)−AФиксируем произвольное ε > 0. Разделим отрезок [−A, A] точками x0 , . . . , xN :−A = x0 < x1 < . . . < xN = A, так что xi — точки непрерывности F (x) и|g(x) − g(xi )| < ε для ∀x ∈ [xi−1 , xi ]. Последнее возможно, т.к.
g(x) равномернонепрерывна на [−A, A].Определим ступенчатую функцию gε (x) на [−A, A]:gε (x) = g(xi )для x ∈ [xi−1 , xi ) i = 1, N87иgε (−A) = gε (A).Тогда, очевидно, что для ∀x ∈ [−A, A] |gε (x) − g(x)| < ε. Рассмотрим разностьинтегралов 1:¯ A¯¯Z¯ ZAZA¯¯¯ g(x) dFn (x) − g(x) dF (x)¯ 6|g(x) − gε (x)| dFn (x)¯¯¯¯−A−A−A¯ A¯¯Z¯ ZAZA¯¯¯+ ¯ gε (x) dFn (x) − g(x) dF (x)¯¯ + |g(x) − gε (x)| dF (x)¯¯−A−A6 2ε + MNX−A(|Fn (xk ) − F (xk )| + |Fn (xk−1 ) − F (xk−1 )|),k=1где M = supk |g(x)|.Так как Fn (x) ⇒ F (x), то при n → ∞ последнее слагаемое стремится к нулю,следовательно (2) доказано.Фиксируем ε > 0, тогда ∃A : F (−A) < ε/4, 1 − F (A) < ε/4.
Не ограничиваяобщности, считаем, что −A и A — точки непрерывности F . Тогда, т.к. Fn (−A) →F (−A) и Fn (A) → F (A), то ∃n0 : n > n0 :Fn (−A) < ε/2и1 − Fn (A) < ε/2.Таким образом имеем:¯ ∞¯ ¯ A¯¯Z¯ ¯Z¯Z∞ZA¯¯ ¯¯¯¯ 6 ¯ g(x) dFn (x) − g(x) dF (x)¯g(x)dF(x)−g(x)dF(x)n¯¯ ¯¯¯¯ ¯¯−∞−∞−A−A¯¯ ¯¯ ¯¯¯ Z¯ ¯ Z¯ ¯ ZA¯ZA¯¯ ¯¯ ¯¯¯¯ ¯¯ ¯+¯g(x) dFn (x)¯ + ¯g(x) dFn (x)¯ 6 ¯ g(x) dFn (x) − g(x) dF (x)¯¯¯¯ ¯¯ ¯¯¯¯ ¯¯|x|>A−A|x|<A−A+M (Fn (−A) + (1 − Fn (A)) + F (−A) + (1 − F (A))¯ A¯¯Z¯ZA¯¯¯6 ¯ g(x) dFn (x) − g(x) dF (x)¯¯ + M ε + M ε/2.¯¯−A−AВ силу (2) правая часть стремится к нулю.
Таким образом теорема доказана.10.2Предельные теоремыдля характеристических функцийИз прошлой лекции мы знаем, что между функциями распределения и характеристическими функциями существует взаимно однозначное соответствие. Следующиедве предельные теоремы показывают, что соответствие не только взаимно однозначно, но и непрерывно.Теорема 10.3 (Прямая предельная теорема).
Если последовательность {Fn (x)}функций распределения слабо сходится к функции распределения F (x), то соответсвующая последовательность {ϕn (t)} характеристических функций сходитсяк характеристической функции ϕ(t).88Доказательство. Эта теорема является прямым следствием второй теоремы Хелли. Действительно, из Fn (x) ⇒ F (x) вытекает, чтоZ∞Z∞eitx dFn (x) →ϕn (t) =−∞eitx dF (x) = ϕ(t).−∞Теорема 10.4 (Обратная предельная теорема).
Пусть {ϕn (t)} — последовательность характеристических функций, сходящаяся к непрерывной в нуле функции ϕ(t). Тогда последовательность {Fn (x)} функций распределения слабо сходится к некоторой функции распределения F (x), и ϕn (t) и ϕ(t) — характеристическиефункции Fn (x) и F (x) соответсвенно.Замечание. Возникает вопрос, всегда ли будет характеристической функцией предел ϕ(t) последовательности {ϕn (t)} характеристических функций.Ответ на этот вопрос отрицательный.
Рассмотрим пример, поясняющий сказанное.Пример. Рассмотрим последовательность характеристических функций0,при t 6 −1/n;n t + 1,при −1/n < t 6 0;ϕn (t) =−n t + 1, при 0 < t < 1/n;0,при x > 1/n.Очевидно, что предельная функция0,ϕ(t) = 10,при t < 0;при t = 0;при t > 0не будет характеристической, т.к. она не является непрерывной.Доказательству теоремы предпошлем леммуЛемма 10.1. Пусть X — случаяная величина. Тогда для ∀τ > 0 имеет местонеравенство¯¯¯¯Zτ¯ 1¯P(|X| 6 2/τ ) > 2 ¯¯(3)ϕ(t) dt¯¯ − 1.¯ 2τ¯−τДоказательство.¯¯ ¯¯¯¯ ¯¯ZτZτ¯ 1¯ ¯ 1¯itX¯¯¯ϕ(t) dt¯ = ¯Ee dt¯¯¯ 2τ¯¯ ¯ 2τ¯−τ−τ¯¯¯¯ ¯¯Zτ¯ 1¯ ¯ sin τ X ¡¢¯itX¯¯¯= ¯ E e dt¯ = ¯EI|X|62/τ + I|X|>2/τ ¯¯2ττX¯¯−τ6 P(|X| 6 2/τ ) +1(1 − P(|X| 6 2/τ )) .289Теперь мы обладаем всем, чтобы доказать обратную предельную теорему.Доказательство.
По первой теореме Хелли из последовательности Fn (x) можновыделить подпоследовательность Fnn (x), слабо сходящуюся к некоторой функцииF (x).Докажем, что функция F (x) является функцией распределения. Для этого достаточно доказать, чтоF (+∞) − F (−∞) > 1.А так как в силу первой теоремы Хелли F (x) неубывает и 0 6 F (−∞) 6 F (∞) 6 1,то отсюда будет следовать, что F (x) — функция распределения.
В силу леммы 2¯¯¯¯Zτ¯¯ 1¯ϕnn (t) dt¯¯ − 1.Fnn (2/τ ) − Fnn (−2/τ ) > 2 ¯¯¯ 2τ(4)−τВ неравенстве (4) можно считать, что −2/τ, 2/τ — точки непрерывности функции F (x).Устремив n → ∞ и применяя теорему Лебега о мажорируемой сходимости, получаем¯¯¯¯Zτ¯ 1¯¯F (2/τ ) − F (−2/τ ) = lim Fnn (2/τ ) − Fnn (−2/τ ) > lim 2 ¯ϕnn (t) dt¯¯ − 1n→∞n→∞¯ 2τ¯−τ¯¯¯¯Zτ¯¯ 1¯ϕ(t) dt¯¯ − 1.= 2¯¯¯ 2τ−τТогда, так при τ → 012τZτϕ(t) dt → ϕ(0),−τто¯¯¯¯Zτ¯ 1¯¯F (+∞) − F (−∞) > lim 2 ¯ϕ(t) dt¯¯ − 1 = 1.τ →0¯ 2τ¯−τПокажем теперь, что Fn (x) ⇒ F (x). Пусть это не так.
Тогда существуют две под21(x) слабо сходящиеся к F 1 (x) и F 2 (x). При этом(x) и Fnnпоследовательности Fnn12F (x) 6= F (x).Пусть ϕ1nn (t) → ϕ1 (t), где ϕ1nn (t) и ϕ1 (t) — характеристические функции, отвечаю1(x) и F 1 (x) соответственно. И ϕ2nn (t) → ϕ2 (t), где ϕ2nn (t) и ϕ2 (t) — характерищие Fnn2(x) и F 2 (x) соответственно. Т.к. F 1 (x) 6= F 2 (x),стические функции, отвечающие Fnnто по прямой теореме о непрерывном соответсвии ϕ1 (t) 6= ϕ2 (t). Но это противоречитусловиям теоремы.
Следовательно Fn (x) ⇒ F (x).90Замечание. Покажем, что требование непрерывности в нуле предельной функцииϕ(t) существенно.Рассмотрим последовательность нормально распределенных с параметрами 0 и nслучайных величин Xn (Xn ∼ N (0, n)).
Тогда Xn имеет характеристическую функ2цию ϕn (t) = e−nt /2 . Очевидно, что(0, если t 6= 0,lim ϕn (t) = ϕ(t), где ϕ(t) =n→∞1, если t = 0.Таким образом предельная функция ϕ(t) разрывна при t = 0. Следовательно, теорема непрерывности не может иметь место. Это следует из соотношенияFn (x) = P{Xn 6 x} = P{n−1/2 Xn 6 xn−1/2 }1= Φ(n−1/2 x) →n → ∞.2Cледовательно, предел lim Fn (x) = F (x) существует для каждого x ∈ R, но функn→∞1ция F (x) = не является функцией распределения.291Лекция 1111.1Метод характеристических функций в доказательстве предельных теоремТеперь мы обладаем хорошо развитым аппаратом характеристических функций иможем доказать некоторые простые предельные теоремы.Cформулируем и докажем закон больших чисел в форме Хинчина.Теорема 11.1 (закон больших чисел). Пусть X1 , X2 , .
. . — последовательностьнезависимых одинаково распределенных случайных величины c EX1 < ∞ и EX1 = m.Sn pТогда−→ m, т.еn¯½¯¾¯¯ Sn¯¯P ¯ − m¯ > ε → 0,n → ∞,nгде Sn = X1 + . . . + Xn .Замечание. Напомним, что в законе больших чисел в форме Чебышева было требование существования ограниченных дисперсий. В усиленном законе больших чисел вформе Колмогорова требовалась сходимость некоторого ряда даже в случае не всехограниченных дисперсий. У Хинчина же требуется только ограниченность первыхмоментов.Перед тем как перейти к доказательству ЗБЧ в форме Хинчина, выведем оценкудля характеристической функции.Теорема 11.2. Пусть ϕX (t) — характеристическая функция некоторой случайнойвеличины X. Если E|X|n < ∞ , тоϕX (t) = 1 + itEX + . .
. +где Rn (t) = o(tn ),(it)nEX n + Rn (t),n!(1)t → 0.Доказательство. ИмеемZ∞eitx dF (x)ϕX (t) =−∞Z µ=eitx(itx)n− 1 − itx − . . . −n!¶Z µdF (x) +R(itx)n1 + ... +n!¶dF (x). (2)RИз существования E|X|n < ∞ вытекает существование E|X|r < ∞ для ∀r 6 n.Таким образом, мы можем переписать (2) в виде(it)nEX n + Rn (t).ϕX (t) = 1 + itEX + . . . +n!92Покажем, что¯¯n¯n+1¯ iy(iy)¯e − 1 − iy − .
. . −¯ 6 |y|.¯n! ¯ (n + 1)!(3)Для n = 1 имеем¯ y¯¯ Z¯ Z|y|¯¯|eiy − 1| = ¯¯i eiu du¯¯ 6 1 du = |y|.¯¯00Воспользуемся индукцией и получим¯ Zy µ¯¶n−1n¯¯ iy(iu)(iy)iu¯e − 1 − iy − . . . −¯6e − 1 − ... −du¯n! ¯(n − 1)!0¯Z|y| nZ|y| ¯n−1 ¯¯ iu(iu)|u||y|n+1¯ du 66 ¯¯e − 1 − . . . −du=.(n − 1)! ¯n!(n + 1)!00Выведем еще одну оценку:¯¯¯¯nn−1¯ |y|n |y|n¯ iy(iy)|y|n(iy)¯6¯e − 1 − iy − . . . −−+=2.¯(n − 1)! | {zn! }¯¯n!n!n!¯|{z}Перепишем Rn (t) в таком виде¶ZZ µ(itx)nitxdF (x) =Rn (t) =e − 1 − itx − . .
. −n!R(4)Z+|X|6a.|X|>aОценим |Rn (t)| сверху используя (3) и (4)ZZ|tx|n+1|tx|n|Rn (t)| 6dF (x) +2dF (x)(n + 1)!n!|X|6an+1 n+1n|t| at6+2(n + 1)!n!Z|X|>an|x| dF (x) 6 |t|tne +2n!Zn+1 a|X|>a|x|n dF (x).|X|>aВыберем теперь a > 0 так, чтобыZε2|x|n dF (x) < .n!2|X|>aЗатем выберем δ = δ(ε; a) так, чтобыε|t|ea < .2Таким образом, мы получили вторую оценку.93Перейдем теперь к доказательству закона больших чисел.SnДоказательство. Пусть Sn = X1 + .
. . + Xn , ϕ(t) = EeitX1 и ϕ Sn (t) = Eeit n . Тогдаnв силу независимости случайных величин и свойства 8 характеристических функций·¸ntϕ Sn (t) = ϕ( ) .nnСогласно (1) для n = 1ϕ(t) = 1 + itm + o(t),t → 0.Значит, для всякого t ∈ Rtt1ϕ( ) = 1 + i m + o( ),nnnn → ∞,и поэтому·¸n1tϕ Sn (t) = 1 + i m + o( ) → eitm .nnnФункция ϕ(t) = eitm непрерывна в нуле и является характеристической функциейвырожденного распределения вероятностей, сосредоточенного в точке m. ПоэтомуSn d→− m,nзначит нам осталось доказать, что отсюда следует, чтоSn p→− m.nПо обратной теореме F Sn (x) ⇒ Fm (x). Фиксируем произвольное ε > 0.n¯µ¯¶¯ Sn¯P ¯¯ − m¯¯ < ε = F Sn (m + ε) − F Sn (m − ε) → Fm (m + ε) − Fm (m − ε) = 1.nn| {z } | {z }n=1=0Что и требовалось доказать.11.1.1Центральная предельная теоремаПерейдем к центральной предельной теореме.
Эта теорема примечательна уже тем,что в ее названии содержится слово «центральная» , показывающее, что эта теореманаходится не на переферии теории вероятностей, а является центральной.Предельная теорема Муавра-Лапласа может быть получена как следствие центральной предельной теоремы.Перейдем к формулировке теоремы.Теорема 11.3 (Центральная предельная теорема для независимых одинаково распределенных случайных величин). Пусть X1 , X2 , . . . — последовательность независимых одинаково распределенных (невырождненных) случайныхвеличин с EX12 < ∞ и Sn = X1 + . . . + Xn . Тогда при n → ∞ для ∀x ∈ R имеем¾½Zxz21Sn − ESn√6 x → Φ(x) = √(5)e− 2 dz.PDSn2π−∞94Доказательство. Пусть EX1 = m, DX1 = σ 2 иϕ(t) = Eeit(X1 −m) .Обозначимϕn (t) = Een −ESnit S√DSn,то получим, что·¸ntϕn (t) = ϕ( √ ) .σ nВ силу формулы (1) для n = 2ϕ(t) = 1 −σ 2 t2+ o(t2 ),2t → 0.Поэтому для любого t ∈ R и n → ∞·¸t2σ 2 t21ϕn (t) = 1 − 2 + o( ) → e− 2 .2σ nnt2Функция e− 2 является характеристической функцией стандартного нормальногораспределения ( N (0, 1) ).