А.Н. Соболевский - Конкретная теория вероятностей (1119908), страница 7
Текст из файла (страница 7)
Выберем такой интервал (a, b), на котором разность F (x) − G(x)возрастает (почему это возможно?). Тогда при a < y < b и достаточно малом σ праваячасть почленной разности соответствующих тождеств вида, установленного в п. 4.17, будетположительной (почему?), а левая должна быть равна нулю. IТеперь перейдем к доказательству основного утверждения последней части лекции.4.19. Пусть последовательность случайных величин Xn обладает характеристическимифункциями ϕn , которые поточечно сходятся к функции ϕ, непрерывной при s = 0.
Тогда ϕявляется характеристической функцией распределения вероятности некоторой случайнойвеличины X, к которому слабо сходятся распределения Xn .J Пусть ϕn (s) → ϕ(s) при всех s. Выберем из последовательности Fn подпоследовательность, сходящуюся к некоторой монотонной предельной функции F во всех точках непрерывности последней.
Это возможно по теореме Хелли.Записывая тождество п. 4.17 для ϕn и Fn , замечаем, что обе части сходятся к пределам,соответствующим предельным функциями ϕ и F . Действительно, к правой части непосредственно применимо доказательство сходимости из п. 4.14. Чтобы доказать сходимостьлевой части, разобьем ее на слагаемые, содержащие ϕRe,+ (s) = max(Re ϕ(s), 0), ϕRe,− (s) =max(− Re ϕ(s), 0), а также аналогичные положительные и отрицательные срезки мнимойчасти ϕ(s). Теперь можно применить то же доказательствосходимости почленно к каждоRму из этих слагаемых, которые все имеют вид e−isy dGn (s) с положительной плотностью1 2 21 2 211меры dGn (s) = 2πϕn (s)e− 2 σ s ds, слабо сходящейся к пределу dG(s) = 2πϕ(s)e− 2 σ s ds.Рассуждение п.
4.18 показывает, что не только распределение вероятности, но и любоеположительное распределение, не обязательно нормированное на единицу, восстанавливается по функции ϕ однозначно. Поэтому любая сходящаяся подпоследовательность Fnимеет один и тот же предел F , а значит имеет место и сходимость всей последовательности Fn → F . Это доказывает, что распределения случайных величин Xn слабо сходятся кнекоторому предельному распределению, которое, однако, может и не быть распределениемвероятности: необходимо еще гарантировать отсутствие оттока вероятности «на бесконечность».√Чтобы доказать последнее, домножим обе стороны тождества п. 4.17 на 2πσ 2 и устремим теперь σ к бесконечности, а не к нулю.
Поскольку функция ϕ непрерывна в нуле,левая часть тождества п. 4.17 будет стремиться к ϕ(0) = 1. Правая же часть при любом σRR22не превосходит dF (x), поскольку e−(x−y) /2σ 6 1. Отсюда следует dF (x) > ϕ(0) = 1,т. е. масса распределения F не может быть меньше единицы (но, очевидно, не может бытьи больше). I4.20. Еще раз о законе больших чисел. Пусть X1 , . . .
, Xn — независимые и одинаково распределенные случайные величины, причем их характеристическая функция ϕдифференцируема в нуле. Тогда слабым пределом среднего выборки X n = n1 (X1 + · · · + Xn )является −iϕ0 (0).J Поскольку вещественная часть характеристической функии четна (п. 3.7), ее производнаяв нуле исчезает. Поэтомуϕ(s) = 1 + ϕ0 (0)s + o(s) = 1 + iµs + o(s).Следовательно,h s in h s iniµs= 1+−−−−→ eiµs ,ϕX n (s) = ϕX+on→∞nnnа это — характеристическая функция распределения вероятности, полностью сосредоточенного в точке x = µ. Остается применить результат предыдущего пункта. IЕсли существует EX = µ, то ϕ0 (0) = iµ. Однако производная может существовать и тогда,когда интеграл, выражающий математическое ожидание, расходится на бесконечности в обычномсмысле, но сходится в смысле главного значения. В этом случае для существования производнойдополнительно требуется, чтобы «хвосты» распределения убывали достаточно быстро, а именночтобы limR→∞ R [FX (−R) + 1 − FX (R)] = 0.
Точное необходимое и достаточное условие дифференцируемости характеристической функции в нуле см., напр., в § 2 гл. XVII т. 2 книги Феллера.4.21. В многомерном случае определение слабой сходимости аналогично: последовательность распределений случайных величин Xn слабо сходится к распределению случайнойвеличины X, если P(X ∈ A) → P(X ∈ A) при n → ∞ для любого такого открытого множества A, что P(X ∈ ∂A) = 0 (ср. условие п. 4.9). Аналогично переносится на многомерныйслучай критерий плотности Прохорова: если для любого ε > 0 найдется такой компакт Kε ,что P(Xn ∈ Kε ) < ε, то компактность последовательности распределений случайных векторов Xn относительно слабой сходимости гарантирована. Переносится на многомерныйслучай и теорема о сходимости характеристических функций к непрерывному пределу.5. Центральная предельная теорема и устойчивые распределения5.1.
Как и в предыдущей лекции, пусть X1 , X2 , . . . , Xn — набор n независимых одинаково распределенных случайных величин, обладающих конечной дисперсией EXi = µ иматематическим ожиданием DXi = σ 2 .5.2. Перенормируем сумму Sn = X1 + · · · + Xn таким образом, чтобы дисперсия стремилась не к нулю, а к конечному положительному пределу (если µ 6= 0, то необходим еще исдвиг):11E √ (Sn − µn) = 0,D √ (Sn − µn) = 1.σ nσ n√Иначе говоря, рассмотрим «под микроскопом» окрестность точки x = µ размером порядка 1/ nи тем самым уточним асимптотику в законе больших чисел.5.3.
Удобно рассматривать случайные величины X̃i = Xi −µ, так что E X̃i = 0, D X̃i = σ 2и S̃n = X̃1 + · · · + X̃n = Sn − µn. Для характеристической функции ϕ случайной величиныX̃i имеет место разложение в нуле11ϕ(s) = 1 + i E X̃ s + i2 D X̃ s2 + o(s2 ) = 1 − σ 2 s2 + o(s2 ).22Поэтомуϕ1√S̃σ n n(s) = ϕS̃n s h s in h s2 in2s2√−−−−→ e−s /2 .= ϕ √= 1−+on→∞2nnσ nσ nВычисляя обратное преобразование Фурье (для этого достаточно выбрать dF (x) = δ(x) dx,ϕ(s) ≡ 1 в тождестве п. 4.17), получаем, что элемент распределения вероятности, котороезадает предельная функция, имеет вид1 21p(x) dx = √ e− 2 x dx.2πЭто распределение вероятности называется нормальным.
Одномерным гауссовым распределением, как и выше (п. 3.22), будем называть результат произвольного перемасштабирования и сдвига нормального распределения:p(x | µ, σ) dx = √211e− 2 (x−µ) .2π σПользуясь результатом п. 4.19, получаем следующее утверждение.5.4.
Центральная предельная теорема. Если при каждом n случайные величиныX1 , X2 , . . . , Xn независимы и одинаково распределены, EXi√= µ, DXi = σ 2 , то последовательность распределений случайных величин (Sn − µn)/(σ n) слабо сходится к нормальному распределению.Идея доказательства центральной предельной теоремы методом характеристических функцийпринадлежит А. А. Ляпунову. Позднее метод характеристических функций был применен П. Левидля получения значительно более тонких результатов, касающихся безгранично делимых распределений (п. 5.12).Сделаем несколько замечаний о полученном результате.5.5. Пример. Пусть закон распределения Xi задается плотностьюp(x) =λν ν−1 −λxxeΓ(ν)при x > 0,где λ > 0, ν > 1, так что EX = ν/λ, DX = ν/λ2 (гамма-распределение, см. п.
П1.11). ТогдаpSn (x) =λnν nν−1 −λxxeΓ(nν)при x > 0,т. е. распределение суммы сосредоточено на положительной полуоси и экспоненциально√убывает при x → +∞. Однако перемасштабированное распределение (λSn − nν)/ nν сходится к нормальному распределению, которое симметрично и на бесконечности убываетсверхэкспоненциально.5.6. Логнормальное распределение. Пусть случайные величины Y1 , Y2 , . . . , Yn независимы и одинаково распределены на положительной полуоси и Πn = Y1 Y2 . .
. Yn . Логарифмируя, получим log Yi = Xn , log Πn = X1 + · · · + Xn = Sn ; если EXn = µ и DXn = σ 2 ,то из центральной предельной теоремы следует, что распределение случайной величины√(Y1 Y2 . . . Yn e−µn )1/σ n сходится к пределу, задаваемому функцией плотности вероятностилогнормального распределения (см. п. П1.15)p(y) = √211e− 2 (ln y) .2π y5.7. Еще раз о контрпримере п. 4.7. Если распределение вероятности характеризуется медленным (степенным) убыванием «на бесконечности», то, вообще говоря, DX = ∞ ицентральная предельная теорема неприменима. Однако для распределения Коши результат, отчасти напоминающий центральную предельную теорему, выполняется при другой√нормировке: нетривиальным предельным распределением характеризуется не Sn / n, аX = Sn /n. С другой стороны, из-за степенного убывания функции плотности вероятности«на бесконечности» характеристическая функция распределения Коши недифференцируема в нуле: ϕC (s) = exp(−|s|).Заметим, что перемасштабирование суммы умножением на n1 оказывается «согласовано» с этойособенностью распределения Коши: [ϕC ( n1 s)]n = ϕC (s).
Аналогичное соотношение для нормального распределения имеет вид [ϕ( √1n s)]n = ϕ(s) и согласуется с перенормировкой сумм в центральнойпредельной теореме.Чтобы понять, как в общем случае соотносятся: (а) медленное убывание на бесконечности,(б) характер особенности характеристической функции в нуле и (в) «правильная» перенормировкасуммы случайных величин, рассмотрим следующий пример.5.8.
Симметричное распределение со степенным убыванием. Пусть распределение вероятности задано функцией плотностиp(x) =Aпри |x| 6 1,2p(x) =Aпри |x| > 1,2|x|α+1αгде α > 0. Из условия нормировки следует, что A = α+1(проверьте!). Для характеристической функции получаемZZZA 1 isx1Aisxϕ(s) = p(x) e dx =e dx +eisx dx.2 −12 |x|>1 |x|α+1Учитывая симметрию и заменяя переменную на ξ = |s|x, получимZZ 1Z ∞Z ∞A |s|cos ξcos sxαdx =dξ.ϕ(s) = Acos ξ dξ + A|s|cos sx dx + Aα+1α+1x|s|ξ00|s|1Изучим асимптотику этой функции при малых |s|.
Первое слагаемое равно A sin |s|/|s| ипри s → 0 стремится к A, а во втором слагаемом при s → 0 возникает неопределенностьвида 0 · ∞. Чтобы разрешить ее, перепишем интеграл в видеZ ∞Z ∞Z ∞cos ξ − 1 + 1dξ1 − cos ξαααA|s|dξ = A|s|− A|s|dξ.α+1α+1ξξ α+1|s||s| ξ|s|При 0 < α < 2 и малых положительныхR ∞ |s| последний интеграл положителен и отличается от конечной константы I1 (α) = 0 (1 − cos ξ) dξ/ξ α+1 на величину порядка O(|s|2−α )(проверьте!). Поэтому при 0 < α < 2 получаемϕ(s) = Aили с учетом того, что A =αα+1sin |s| A+ − AI1 (α) |s|α + O(|s|2 )|s|αиsin |s||s|= 1 + O(|s|2 ),ϕ(s) = 1 − AI1 (α) |s|α + O(|s|2 ).Пусть теперь X1 , X2 , .