А.С. Холево - Курс лекций по теории вероятностей (1120061), страница 6
Текст из файла (страница 6)
. , m})⇒M |X|k < ∞Индукция по k. При k = 0 формула тривиальным образом верна. Пусть верно для k < m. Докажем дляk + 1. (k) ik M (X k ) ei(t+∆)X − eitX ϕ (t + ∆) − ϕ(k) (t)k+1itXk+1 k+1k+1 itX −iMe(X)={предп.инд.}=−iMXe=∆∆ i∆X i(t+∆)Xe− eitX−1kitX k e= M X− iXe− iX 6 M |X| ∆∆|{z}Y∆Нужно показать, что |Y∆ (ω)Y∆ (ω) → 0 ∀ω.
Тогда мы сможем 6 C|X|,рованной сходимости. (Тогда |X|k Y 6 c|X|k+1 .) Y∆ → 0 поточечно (т.к. i∆X i∆Xsin ∆X e e2−1−12 + |X| =− iX 6 + |X| 6∆∆|∆|воспользоваться теоремой о мажори′ei∆X ∆=0 = iX).2 ∆X2+ |X| = 2|X||∆|3.4. Формула обращенияТеорема 3.6 (Формула обращения). Пусть ϕ(t) — характеристическая функция случайной величиныX с функцией распределения F (x). Тогда для любых точек непрерывности x1 < x2 функция распределения F (x)удовлетворяет условию:1F (x2 ) − F (x1 ) = limσ→0 2π+∞Z−itx2σ2 t2 e− e−itx1ϕ(t)e− 2dt−it−∞{z}|(∗)Докажем эту теорему мы несколько позже, а пока займёмся следствиями.Лемма 3.7 (Следствие 1). Характеристическая функция однозначно определяет функцию распределенияF (x).
ϕ(t) ↔ F (x).Лемма 3.8 (Следствие 2). Пусть характеристическая функция ϕ(t) интегрируема (по Лебегу) на R.Тогда F (x) абсолютно непрерывна, и распределение имеет плотность1p(x) =2π+∞Ze−itx ϕ(t) dt.−∞(формула обратного преобразования Фурье)24 (Доказательство следствия 2)ϕ(t)e−σ2 t22e−itx2 − e−itx1e−itx2 − e−itx1−→ ϕ(t)σ→0−it−it∀t ∈ R(поточечная сходимость) e− σ22t2−itx22 22| sin(t(x1 − x2 )/2)|− e−itx1 it(x1 −x2 )ϕ(t)e− σ 2t e= |ϕ(t)| e− 16 |ϕ(t)|6−it|t||t|По теореме Лебега можно перейти к пределу под знаком интеграла:|ϕ(t)| · |x1 − x2 ||{z}интегрируемая мажорантаx+∞+∞ZZZ2−itx2−itx11e−e1ϕ(t)dt =ϕ(t) e−ity dy dtF (x2 ) − F (x1 ) =2πit2π−∞−∞x1По теореме Фубини меняем порядок интегрирования:F (x2 ) − F (x1 ) = · · · =откуда F абсолютно непрерывна, и p(y) =12π+∞RZx2x1 12π+∞Ze−ity ϕ(t) dt dy,−∞e−itx ϕ(t) dt.−∞ (Доказательство формулы обращения) Пусть X — случайная величина с функцией распределенияF (x) и характеристической функцией ϕ(x).
Рассмотрим сглаженную случайную величину X + Yσ , где Yσ ∼σ2 t2N (0, σ 2 ), X и Y независимы. Характеристическая функция X + Yσ есть ϕ(t)e− 2 = ϕσ (t). Функция ϕ(t)превращается в интегрируемую функцию ϕσ (t).pσ (x) — плотность распределения X + Yσ . Докажем формулу обращения для плотности:1pσ (x) =2π+∞Ze−itx ϕσ (t) dt−∞Далее получим:Fσ (x2 ) − Fσ (x1 ) =Zx21pσ (t) dt =2πx1pσ (x) =−∞−∞| {z }(∗)В силу обобщения формулы свёртки:+∞Z+∞Z...(y−x)21√e− 2σ2 dF (y)22πσС другой стороны,12π+∞Ze−itx ϕσ (t) dt−∞|{z}1=2π−∞существует (инт.
Лебега)=+∞Z−∞12π+∞+∞ZZ2 2−itx − σ 2teeeity dF (y) dt = {теорема Фубини} =−∞|{z}ϕ(t)+∞+∞+∞ZZZ2 21it(y−x)− σ 2tedt dF (y) =eit(y−x)2π−∞−∞−∞σ2 t21q e− 2|2πσ2{zплотность N=+∞Z−∞25“dt dF (y) =}0,1σ2”(y−x)21√e− 2σ2 dF (y) = pσ (x)2πσ 2Формула обращения для сглаженной случайной величины доказана:1Fσ (x2 ) − Fσ (x1 ) =2π+∞Z−∞e−itx2 − e−itx1 − σ2 t2e 2 ϕ(t) dt.−itОсталось показать, что lim Fσ (x) = F (x) в точках непрерывности. Зафиксируем ε > 0.σ→0Fσ (x) = P {X + Yσ < x} = P {X < x − Yσ }∀x.σ2=ε2= {выберем σ 2 = ε3 } = F (x + ε) + ε.Fσ (x) 6 P {X < x − Yσ , |Yσ | 6 ε} + P {|Yσ | > ε} 6 {по неравенству Чебышёва} 6 P {X < x + ε} +σ2=ε2= F (x − ε) − ε.Fσ (x) > P {X < x−Yσ , |Yσ | 6 ε} > P {X < x−ε}−P {|Yσ | > ε} > {по неравенству Чебышёва} > F (x−ε)−Имеем: F (x − ε) − ε 6 Fσ (x) 6 F (x + ε) + ε, F (x − ε) − ε → F (x), F (x + ε) + ε → F (x) (т.к.
x — точканепрерывности F ). Отсюда Fσ (x) → F (x). 4. Наиболее суровые вопросы теории вероятностей4.1. Теоремы ХеллиОпределение. Последовательность {Fn (x)} функций распределения слабо сходится к F (x), если ∀ x ∈ C(F )имеем lim Fn (x) = F (x). Тогда можно считать, что 0 6 F 6 1, если разрешить переопределять F в точкахразрыва, чтобы F была непрерывна слева.
Обозначение: Fn ⇒ F .Теорема 4.1 (Хелли-I). Из последовательности функций распределения можно выбрать слабо сходящуюся. 1 2 3РассмотримсчётноевсюдуплотноеD⊂Rизанумеруемегоэлементы:D=x,x,x,.... Рассмотрим11Fn (x(в силу её ограниченности)сходящуюсяподпоследовательность F1n (x ) . Далее рассмот ) и выберемрим F1n (x2 ) и в ней выберем сходящуюся F2n (x2 ) и так далее. Таким образом, количество точек сходимостина n-м шаге увеличивается на 1. Очевидно, что последовательность {Fnn} сходится на D к пределу (обозначим его F ), поскольку ∀ k начиная с n = k последовательность Fnn (xk ) является подпоследовательностьюсходящейся. Далее, покажем, что если x ∈ C(F ), то Fnn (x) → F (x).
Пусть x′ , x′′ ∈ D, причём x′ < x < x′′ ,тогда F (x′ ) 6 Fnn (x) 6 F (x′′ ). Осталось устремить x′ → x ← x′′ , тогда по теореме о двух милиционерах имеемFnn (x) → F (x), ибо это число зажато между F (x′ ) и F (x′′ ). RRТеорема 4.2 (Хелли-II). Пусть Fn ⇒ F , где F — функция распределения. Тогда f dFn → f dF , еслиRRf ∈ C и ограничена на R. Пусть |f | 6 C. Фиксируем ε > 0, пусть a < b ∈ R — достаточно далёкие точки непрерывности F , т.
е.F (a) < ε, а F (b) > 1 − ε. Тогда, поскольку Fn ⇒ F , ∃ N : ∀ n > N имеем Fn (a) < ε и Fn (b) > 1 − ε. Тогда+∞+∞ZZbZaZf dFn − f dFn 6|f | dFn +|f | dFn 6 2Cε,−∞иaОсталось показать, чтоaf dFn →aRb−∞(1)b+∞+∞ZZbZaZf dF − f dF 6|f | dF +|f | dF 6 2Cε.−∞Rb−∞(2)bf dF . Разобьём отрезок [a, b] точками непрерывности так мелко (Naштук), что ω(f ) < ε на каждом элементе разбиения. Так можно сделать в силу равномерной непрерывности f26на [a, b]. Приблизим f равномерно ступенчатой функцией g, для которой kf − gk[a,b] 6 ε, тогдаZb ZbZb ZbZbZb f dFn − f dF 6 |f − g| dFn + g dFn − g dF + |f − g| dF 6aaaaaaNX6ε+Ck=1!Fn (xk ) − F (xk ) − Fn (xk−1 ) + F (xk−1 ) + ε, (3)а последнее слагаемое можно сделать маленьким при n → ∞.
4.2. Предельные теоремыТеорема 4.3 (Прямая предельная теорема). Пусть Fn , F — функции распределения, а ϕn , ϕ — их характеристические функции. Пусть Fn ⇒ F , тогда ϕn → ϕ.RR Применим вторую теорему Хелли к f = eitx , тогда ϕn (t) = eitx dFn → eitx dF = ϕ(t). Ru1 − ϕ(t) dt, где ϕ = char X.Лемма 4.4 (Оценка вероятности хвостов). P |X| > u2 6 u112u−uИмеемZu−u11 − ϕ(t) dt =2uZu−u1 − Me−itX dt = Фубини =1=1−M2uZu−uИмеем 1 −sin xx> g(x) :=что и требуется. 12eitX dt = 1 − MeiuX − e−iuXsin uX=1−M= (∗).
(4)2iuXuX− 12 χ(−2,2) , поэтому 1 (∗) > Mg(uX) = 0 · P |uX| < 2 + · P |uX| > 2 ,2Теорема 4.5 (Обратная предельная теорема). Если {ϕn = char Fn } сходится к ϕ, непрерывной приt = 0, то Fn ⇒ F , где F — функция распределения, для которой char F = ϕ. По первой теореме Хелли выделим Fnk ⇒ F . Беда в том, что она в общем случае не будет функциейраспределения. Докажем, что F (−∞) = 0, а F (+∞) = 1. Фиксируем ε > 0, тогда, поскольку ϕ ∈ C(0), аRuϕ(0) = lim ϕn (0), то ∃ Uu (0) : |1 − ϕ(t)| 6 ε.
Тогда u11 − ϕ(t) dt < ε, поэтому для достаточно больших n имеем−uRu1 − ϕn (t) dt < ε, ибо по теореме Лебега интегралы сходятся к интегралу предела.−uПрименим лемму 4.4, тогда P |Xn | > u2 < ε. Имеем P Xn 6 − u2 + P Xn > u2 = Fn − u2 + 1 − Fn u2 .Выберем u так, чтобы ± u2 были точками непрерывности F , и устремим n → ∞. Отсюда ε > F − u2 + 1 − F u2 >> F (−∞) + 1 − F (+∞).RRПо второй теореме Хелли имеем eitx dFn → eitx dF , откуда ϕnk → ϕ = char F . Если теперь допустить,1uRRчто Fn ; F , то найдутся две подпоследовательности Fn′ → F ∗ и Fn′′ ⇒ F ∗∗ , но по прямой теореме ϕn′ → ϕ∗ иϕn′′ → ϕ∗∗ , но их предел общий, поэтому ϕ∗ = ϕ∗∗ = ϕ, но это противоречит формуле обращения.
Теорема 4.6 (ЦПТ). Пусть X1 , . . . , Xn — независимые одинаково распределённые случайные величины,для которых MXi2 < ∞. Положим m := MXi , а σ 2 := DXi > 0. Пусть Fn — функции распределения величинnPXi −mSn := √1n. Тогдаσi=11lim Fn = Φ(x) = √2πZxe−y22dy.(5)−∞ Рассмотрим величины Xiσ−m , тогда M Xiσ−m = 0, а D Xiσ−m = 1.
Пусть им соответствует характеристическая функция ϕ(t), тогда ϕ ∈ D2 , кроме того, ϕ(0) = 1, ϕ′ (0) = 0, ϕ′′ (0) = i2 = −1. По формуле Тейлора имеем27 2ϕ(t) = 1 − t2 + o t2 , тогда по мультипликативному свойству имеем char Sn = ϕn √tn . При фиксированном t nt2t2+ o n1→ e− 2 = char N (0, 1). Осталось применить теорему непрерывности. имеем ϕn √tn = 1 − 2nПрименения ЦПТ — статистика. Пусть имеются одинаково ошибочные наблюдения с двухсторонними погрешностями, т. е. Xi = m + Yi , где Yi — ошибки, а m — истинное значение.
Предположение состоит в том, чтоnPMYi = 0, а M Yi2 < ∞, т. е. разброс конечен. Введём Sn := n1Xi , тогда рассмотрим P ω : |Sn − m| > ε =i=1on Pon Pnnxσxσ11(Xi − m) < √n → Φ(x). Отсюда P ω : n(Xi − m) > √→ 1 − Φ(x) + Φ(−x) = 1 − 2Φ0 (x), где=P nni=1Φ0 (x) =√12πRxi=1e2− y2dy. Примерные данные показывают следующее:0x\Px1310ЗБЧ616 0.16 0.01ЦПТ6 0.3176 0.0026∼04.3. Теорема ЛяпуноваТеорема 4.7 (Ляпунова). Пусть X1 , . . . , Xn — независимые случайные величины. Пусть M|Xi |3 < ∞ и( P)pP3M|Xi − MXi |3(Xi − MXi )pP→ 0 ⇒ P pP< x → Φ(x).M|Xi − MXi |2M|Xi − MXi |24.4. Закон 0 и 1 КолмогороваРассмотрим вероятностное пространство(Ω, A, P) ина нём — X1 , .
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
