Н.И. Чернова - Теория вероятностей (1115308), страница 24
Текст из файла (страница 24)
Функция ϕξ (t) = E eitξ вещественной переменной t называется характеристической функцией случайной величины ξ.П р и м е р 72. Пусть случайная величина ξ имеет распределение Бернулли с параметром p. Её характеристическая функция равнаϕξ (t) = E eitξ = eit·0 P(ξ = 0) + eit·1 P(ξ = 1) = 1 − p + peit .П р и м е р 73. Пусть случайная величина ξ имеет биномиальное распределение с параметрами n и p. Её характеристическая функция равнаitξϕξ (t) = E e=nXit·kek=0=nXCnk peitP(ξ = k) =nXeit·k Cnk pk (1 − p)n−k =k=0kn(1 − p)n−k = 1 − p + peit .k=0Последнее равенство есть бином Ньютона.130ГЛАВА XII. ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИП р и м е р 74. Пусть случайная величина ξ имеет распределение Пуассона с параметром λ. Её характеристическая функция равнаitξϕξ (t) = E e=∞Xit·keP(ξ = k) =k=0= e−λ∞Xk=0∞Xeit·kλkk!k=0e−λ =kitλeit= e−λ eλe = exp{λ eit − 1 }.k!П р и м е р 75.
Пусть случайная величина ξ имеет гамма-распределение с параметрами α и λ. Её характеристическая функция равна∞∞ZZαλϕξ (t) = E eitξ = eit·x fξ (x) dx = eitxxλ−1 e−αx dx =Γ(λ)=αλ0∞ZxΓ(λ)0λ−1 −x(α−it)edx =αα − itλ= 1−it −λα.0Интеграл мы вычислили с помощью гамма-функции: замена y = x(α − it)даёт∞∞ZZΓ(λ)1λ−1 −y.yedy=xλ−1 e−x(α−it) dx =λλ(α − it)(α − it)00В качестве следствия получим, что для случайной величины ξ с показательным распределением Eα = Γα, 1 характеристическая функция равнаαϕξ (t) =.α − itП р и м е р 76.
Пусть случайная величина ξ имеет стандартное нормальное распределение. Её характеристическая функция равна∞∞ZZ22211itx −x /2e edx = √e−t /2 e−(x−it) /2 dx =ϕξ (t) = √2π2π−∞= e−t2 /21√2π∞Z−∞2e−(x−it)/2d(x − it) = e−t2 /2.−∞При интегрировании мы выделили полный квадрат в показателе экспо21ненты и вспомнили, чему равен интеграл по R от функции √ e−u /22π(а чему он равен?).§ 2. Свойства характеристических функций131Самое время остановиться и спросить: «Ну и что? Зачем нам эти функции и какой от них прок?» Давайте познакомимся с замечательными свойствами характеристических функций.§ 2. Свойства характеристических функций(Ф1).
Характеристическая функция всегда существует:|ϕξ (t)| = E eitξ 6 1.Д о к а з а т е л ь с т в о. Воспользуемся свойством D η > 0, равносиль2ным неравенству E η 6 E η2 :222|ϕξ (t)|2 = E cos(tξ) + iE sin(tξ) = E cos(tξ) + E sin(tξ) 66 E cos2 (tξ) + E sin2 (tξ) = E cos2 (tξ) + sin2 (tξ) = E 1 = 1.(Ф2). По характеристической функции однозначно восстанавливаетсяраспределение (функция распределения, плотность или таблица распределения). Другими словами, если две случайные величины имеют одинаковые характеристические функции, то и распределения этих величинсовпадают.Формулы, с помощью которых по характеристической функции восстанавливается распределение, в анализе называют формулами «обратного преобразования Фурье». Например, если модуль характеристическойфункции интегрируем на всей прямой, то у случайной величины есть плотность распределения и она находится по формуле∞Z1fξ (x) =e−itx ϕξ (t) dt.2π−∞Ни одна из формул обратного преобразования Фурье нам не понадобится.(Ф3).
Характеристическая функция случайной величины a + bξ связана с характеристической функцией случайной величины ξ равенствомϕa+bξ (t) = E eit(a+bξ) = eita E ei(tb)ξ = eita ϕξ (tb).П р и м е р 77. Вычислим характеристическую функцию случайной величины ξ, имеющей нормальное распределение с параметрами a и σ2 .Мы знаем, что у «стандартизованной» случайной величины η = (ξ − a)/ σ2характеристическая функция равна ϕη (t) = e−t /2 . Тогда характеристическая функция величины ξ = a + ση равна2ϕξ (t) = ϕa+ση (t) = eita ϕη (tσ) = eita e−(tσ) /2 .132ГЛАВА XII.
ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИ(Ф4). Характеристическая функция суммы независимых случайных величин равна произведению характеристических функций слагаемых: еслислучайные величины ξ и η независимы, то, по свойству (E7) математических ожиданий,ϕξ+η (t) = E eit(ξ+η) = E eitξ E eitη = ϕξ (t) ϕη (t).З а м е ч а н и е . Чтобы характеристическая функция суммы n случайных величин распадалась в произведение их характеристических функций, попарной независимости слагаемых не хватит. То же самое можносказать про свойство (E7) математических ожиданий.Замечательным свойством (Ф4) мы сразу же воспользуемся, как обещали, для доказательства леммы 3 (с.
86), утверждающей устойчивостьнормального распределения относительно суммирования.= N=Д о к а з а т е л ь с т в о л е м м ы 3. Пусть ξ ⊂a1 , σ21 и η ⊂ Na2 , σ22независимы. Характеристическая функция суммы ξ + η равнаita1 −t2 σ21 / 2 ita2 −t2 σ22 / 2ϕξ+η (t) = ϕξ (t) ϕη (t) = eeeeit(a1 +a2 ) −t2 (σ21 +σ22 )/2=ee.Видим, что характеристическая функция суммы есть характеристическаяфункция нормального распределения с параметрами a1 + a2 и σ21 + σ22 .= NСледовательно, ξ + η ⊂a1 +a2 , σ2 +σ2 по свойству (Ф2).12Д о к а з а т е л ь с т в о л е м м 1, 2, 4 (с. 86).
Докажем свойства устойчивости по суммированию биномиального распределения, распределенияПуассона и гамма-распределения, используя характеристические функциииз примеров 72— 75.Для независимых случайных величин с распределениями Пуассона Πλи Πµ характеристическая функция суммыϕξ+η (t) = exp λ eit − 1exp µ eit − 1 = exp (λ + µ) eit − 1равна характеристической функции распределения Пуассона Πλ+µ .Для независимых случайных величин с биномиальными распределениями Bn,p и Bm,p характеристическая функция суммыnmn+mϕξ+η (t) = ϕξ (t) ϕη (t) = 1 − p + peit1 − p + peit = 1 − p + peitравна характеристической функции биномиального распределения с параметрами n + m и p.133§ 2.
Свойства характеристических функцийДля независимых случайных величин с гамма-распределениями Γα, λ1и Γα, λ2 характеристическая функция суммы it −λ2it −(λ1 +λ2 )it −λ11−= 1−ϕξ+η (t) = 1 −αααравна характеристической функции гамма-распределения Γα, λ1 +λ2 .(Ф5.) Пусть существует момент порядка k ∈ N случайной величиныξ, т.
е. E |ξ|k < ∞. Тогда характеристическая функция ϕξ (t) непрерывнодифференцируема k раз и её k -я производная в нуле связана с моментомпорядка k равенством dk(k)ϕξ (0) =E eitξ = E ik ξk eitξ = ik E ξk .d tkt=0t=0Существование и непрерывность k -й производной, равно как и законность переноса производной под знак математического ожидания, мы доказывать не будем.У п р а ж н е н и е . Доказать, что для случайной величины ξ со стандартным нормальным распределением момент чётного порядка 2k равенE ξ2k = (2k − 1)!! = (2k − 1) · (2k − 3) · .
. . · 3 · 1.Доказать по определению, что все моменты нечётных порядков стандартного нормального распределения существуют и равны нулю.Как только появились производные высших порядков, самое время разложить функцию в ряд Тейлора22 .(Ф6). Пусть существует момент порядка k ∈ N случайной величины ξ,т. е. E |ξ|k < ∞. Тогда характеристическая функция ϕξ (t) в окрестноститочки t = 0 разлагается в ряд Тейлораϕξ (t) = ϕξ (0) +kXtjj=1= 1 + it E ξ −(j)kϕ (0) + o(|t |) = 1 +j! ξt22E ξ2 + .
. . +ik tkk!kXij tjj=1j!E ξj + o(|tk |) =E ξk + o(|tk |).Ряды Тейлора бывают особенно полезны в теории пределов. Следующее основное свойство характеристических функций потребуется нам длядоказательства предельных теорем, и это свойство — последняя теорема,оставленная нами без доказательства.Т е о р е м а 44 (т е о р е м а о н е п р е р ы в н о м с о о т в е т с т в и и23 ).Случайные величины ξn слабо сходятся к случайной величине ξ тогда22Brook Taylor (18.08.1685—29.12.1731, England).134ГЛАВА XII. ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИи только тогда, когда для любого t характеристические функции ϕξn (t)сходятся к характеристической функции ϕξ (t).Сформулированная теорема устанавливает непрерывное соответствиемежду классами hFξ , ⇒i функций распределения со слабой сходимостьюи hϕξ , →i характеристических функций со сходимостью в каждой точке.«Непрерывность» этого соответствия — в том, что пределу в одном классеотносительно заданной в этом классе сходимости соответствует пределв другом классе относительно сходимости, заданной в этом другом классе.Осталось воспользоваться теоремой о непрерывном соответствии и доказать ЗБЧ в форме Хинчина и ЦПТ.§ 3.
Доказательство ЗБЧ ХинчинаПусть ξ1 , ξ2 , . . . — последовательность независимых в совокупностии одинаково распределённых случайных величин с конечным первым моментом E |ξ1 | < ∞. Обозначим через a математическое ожидание E ξ1 .Требуется доказать, чтоξ + . . . + ξn pSn= 1−→ a.nnПо свойству 26 (с. 122) сходимость по вероятности к постоянной эквивалентна слабой сходимости. Так как a — постоянная, достаточно докаSзать слабую сходимость n к a. По теореме о непрерывном соответствии,nэта сходимость имеет место тогда и только тогда, когда для любого t ∈ Rсходятся характеристические функцииϕS /n (t) → ϕa (t) = E eita = eita .nSНайдём характеристическую функцию случайной величины n .
Пользуnясь свойствами (Ф3) и (Ф4), получаем nttϕS /n (t) = ϕS=ϕξ.nn1nnВспомним, что первый момент ξ1 существует, поэтому свойство (Ф6) позволяет разложить ϕξ1 (t) в ряд Тейлора в окрестности нуля:ϕξ (t) = 1 + it E ξ1 + o(|t|) = 1 + ita + o(|t|).1В точке t/n соответственно ϕξ123tn itat= 1++o ,nnPaul Pierre Lévy (15.09.1886—15.12.1971, France).135§ 4. Доказательство центральной предельной теоремыϕS /n (t) =nϕξ1 ntn= nitat1++o nn.x n1+→ ex ,nПри n → ∞, пользуясь «замечательным пределом»получаем nitat→ eita ,+oϕS /n (t) = 1 + nnnчто и требовалось доказать.§ 4.
Доказательство центральной предельной теоремыПусть ξ1 , ξ2 , . . . — последовательность независимых в совокупностии одинаково распределённых случайных величин с конечной и ненулевойдисперсией. Обозначим через a математическое ожидание E ξ1 и черезσ2 — дисперсию D ξ1 . Требуется доказать, чтоξ + . . . + ξn − naSn − na√√= 1⇒ N0,1 .σ nσ nВведём «стандартизованные» случайные величины ζi = (ξi − a)/ σ —независимые случайные величины с нулевыми математическими ожиданиями и единичными дисперсиями. Пусть Zn есть их сумма:Zn = ζ1 + . . . + ζn =Sn − naσ.ZТребуется доказать, что последовательность √n слабо сходится к станnдартному нормальному распределению. Характеристическая функция веZличины √n равнаn ntt√= ϕζ1 √.(26)ϕ√ (t) = ϕZnZn / nnnХарактеристическую функцию случайной величины ζ1 можно разложить в ряд Тейлора, в коэффициентах которого использовать известныемоменты E ζ1 = 0, E ζ21 = D ζ1 = 1 :t2t222E ζ1 + o(t ) = 1 −+ o(t2 ).ϕζ (t) = 1 + it E ζ1 −122√Подставим это разложение, взятое в точке t/ n, в равенство (26) и устремим n к бесконечности.
Ещё раз воспользуемся замечательным пределом: n 2 n2ttt−t2 /2√ϕ=1−+o→eпри n → ∞.√ (t) = ϕζ1Zn / nn2nnВ пределе получили характеристическую функцию стандартного нормального распределения. По теореме о непрерывном соответствии можно сде-136ГЛАВА XII. ХАРАКТЕРИСТИЧЕСКИЕ ФУНКЦИИлать вывод о слабой сходимостиSn − naZ√n =√⇒ N0,1 .nσ nПопробуйте теперь сами.У п р а ж н е н и е .