Ю.В. Прохоров, Л.С. Пономаренко - Лекции по теории вероятностей и математической статистике (1115359), страница 19
Текст из файла (страница 19)
В этомслучае мы будем писать P = {Pθ , θ ∈ Θ}, где Θ — множество допустимыхзначений параметра.12812.1Сходимость по вероятностиОсновным видом сходимости в математической статистике является сходимость по вероятности. Напомним определение.Определение 12.1. Последовательность случайных величин {Yn }∞n=1pсходится к случайной величине Y по вероятности (Yn −→ Y ), если длялюбого ε > 0P {ω : |Yn (ω) − Y (ω)| ≥ } → 0(12.1)при n → ∞.Заметим, что выполнение (12.1) равносильно тому, чтоP {ω : |Yn (ω) − Y (ω)| < ε} → 1(12.2)Определение 12.2. Последовательность случайных величин {Wn }∞n=1называется ограниченной по вероятности, если для любого ε > 0 существует K = K(ε) такое, что при всех nP {ω : |Wn (ω)| ≤ K} ≥ 1 − ε.(12.3)В качестве самостоятельных упражнений докажите следующие свойства сходимости по вероятности.Задача 12.1.
Если последовательность случайных величин {an } ограppничена по вероятности, а bn −→ 0, то an bn −→ 0.Задача 12.2. Если последовательности случайных величин {an }, {bn }ограничены по вероятности, то последовательность {cn } (cn = an bn )также является ограниченной по вероятности.Сформулируем несколько утверждений, касающихся этого вида сходимости, которые нам понадобятся в дальнейшем.Пусть FU (x) обозначает функцию распределения случайной величины U, а соотношение FYn (x) ⇒ FY (x) – слабую сходимость функций распределения.pТеорема 12.1. Если Yn −→ Y, то FYn (x) ⇒ FY (x), то есть из сходимости по вероятности следует слабая сходимость функций распределения.Теорема 12.2.
Пусть FWn (x) ⇒ FW (x),FWn +Yn (x) ⇒ FW (x).129pYn −→ 0. ТогдаДокажите эти утверждения самостоятельно.pТеорема 12.3. Пусть h(x) — всюду непрерывная функция, а Yn −→ 0.pТогда для всех a h(a + Yn ) −→ h(a).Доказательство. В соответствии с определением сходимости по вероятности необходимо показать, что для любого ε > 0 при n → ∞ выполняетсяP{|h(a + Yn ) − h(a)| ≥ ε} → 0.(12.4)Из непрерывности функции h(x) в точке x = a следует, что ∀ε > 0существует λ = λ(ε) такое, что если |x − a| < λ, то |h(x) − h(a)| < ε.Представим вероятность в (12.4) следующим образом:P{ω : |h(a + Yn ) − h(a)| ≥ ε} = P{ω : |h(a + Yn ) − h(a)| ≥ ε, |Yn | < λ}++P{ω : |h(a + Yn ) − h(a)| ≥ ε, |Yn | ≥ λ} = P(An (ε, λ)) + P(Bn (ε, λ)).pПоскольку Yn −→ 0, то для ∀λ, а значит, и для выбранного λ = λ(ε),выполняетсяP{ω : |Yn | ≥ λ} → 0при n → ∞.
Следовательно,P(Bn (ε, λ)) ≤ P{|Yn | ≥ λ} → 0.Рассмотрим другое слагаемое. Поскольку если ω ∈ An (ε, λ), то в этомслучае |Yn (ω)| < λ, и значит, |(Yn + a) − a| < λ. Но тогда в соответствиис выбором λ|h(a + Yn ) − h(a)| < ε.Следовательно, P(An (ε, λ)) = 0, что и завершает доказательство теоремы.pТеорема 12.4. Если Yn −→ a при n → ∞, то последовательностьслучайных величин{Yn } ограничена по вероятности.pДоказательство. Пусть Yn −→ 0, тогда из (12.2) следует, что∀ε > 0,∀δ > 0 ∃N = N (ε, δ) такой, что ∀n > N1P{ω : |Yn − a| ≤ δ} > 1 − ε.2Выберем M ∗ = max(|a + δ|, |a − δ|), тогда для всех n > N1P{ω : |Yn | ≤ M ∗ } > 1 − ε.2130Задача 12.3.
Покажите, что для произвольной случайной величины Xи любого ε > 0 существует MX = MX (ε) такое, чтоP{|X| ≤ MX } > 1 − ε.Пользуясь этим фактом, получим, что существуют константыM1 , M2 , . . . , MN такие, чтоεε, · · · , P{|YN | ≤ MN } > 1 −,P{|Y1 | ≤ M1 } > 1 −2N2NНо тогда для M0 = max(M1 , · · · , MN ) выполняется(N)[P{|Y1 | ≤ M0 , · · · , |Yn | ≤ M0 } = 1 − P{|Yi | > M0 } ≥i=1≥1−NXP{|Yi | > M0 } > 1 −i=1εε·N =1− .2N2Следовательно, если выбрать M = max(M ∗ , M0 ), то для всех nP{|Yn | ≤ M } > 1 − ε,то есть последовательность {Yn } ограничена по вероятности.12.2Асимптотическая нормальностьОпределение 12.3.
Последовательность случайных величин Yn асимптотически нормальна с параметрами (An , Bn ), если для всех x при n → ∞Y n − AnP< x → Φ(x).(12.5)BNВ определении предполагается, что −∞ < An < ∞,Bn > 0.Пример 12.1. Пусть µn - число успехов в n испытаниях Бернулли свероятностью успеха в одном испытании p (0 < p < 1). Из теоремыМуавра - Лапласа следует, что µn асимптотически нормальна с пара√метрами (np, npq), а относительная частота успеха µnn асимптотическиpнормальна с параметрами (p, pq).nЗадача 12.4.
Докажите, что из асимптотической нормальности последовательности случайных величин Yn с параметрами (An , Bn ) вытекаетасимптотическая нормальность Un = αYn + β с параметрами (αAn +β, αBn ).131Теорема 12.5. Пусть1) последовательность случайных величин Yn асимптотически нормальна с параметрами (a, bn ), причем bn → 0 при n → ∞,2) функция g(x) дважды непрерывно дифференцируема на всей прямой.Тогда последовательность случайных величин Wn = g(Yn ) асимптотически нормальна с параметрами (g(a); bn |g 0 (a)|).Доказательство.
Доказательство теоремы довольно громоздко, его можно посмотреть в учебнике Б.А.Севастьянова. Мы же разберем простойслучай, когда случайные величины Yn нормально распределены.Пусть Zn ∼ N (0, 1), Yn = a + bn Zn , bn > 0, bn → 0. Покажем вэтих дополнительных предположениях справедливость теоремы 5.Для дважды непрерывно дифференцируемой функции g(x) можнонаписать разложение по формуле Тейлора в окрестности точки a :g(Yn ) = g(a) + bn Zn g 0 (a) +bn Zn2 00· g (a + θbn Zn ),2где |θ| ≤ 1.Для определенности будем считать, что g 0 (a) > 0.
Тогдаb2n Zn1g(Yn ) − g(a)=Z+· 0· g 00 (a + θbn Zn ).n0bn g (a)2g (a)(12.6)Для того,чтобы доказать утверждение теоремы, достаточно показать,что последнее слагаемое в (12.6) сходится по вероятности к 0.Так как для всех n FZn (x) = Φ(x), то для любого ε > 0 ∃M = M (ε)такое, чтоP{|Zn | ≤ M } > 1 − εдля всех n одновременно. Значит, последовательность {Zn } ограниченаpпо вероятности.
Но тогда ( утверждение задачи 12.1 ) bn Zn −→ 0, и,сталобыть,bn Zn2 p−→ 0.2g 0 (a)Кроме того, из непрерывности второй производной функции g(x) следуетсходимостьpg 00 (a + θbn Zn ) −→ g 00 (a).Следовательно, по теореме 12.4 последовательность g 00 (a + θbn Zn ) ограничена по вероятности.
Учитывая все, что было сказано выше, получим,132что второе слагаемое в (12.6) сходится по вероятности к 0. Но тогда всилу утверждения теоремы 2g(Yn ) − g(a) d−→ Z,bn g 0 (a)или, что то же самое, g(Yn ) асимптотически нормальна с параметрами(g(a), bn g 0 (a)), что и требовалось доказать.12.3Некоторые важные преобразования случайных величинПусть U — случайная величина, равномерно распределенная на [0, 1] сплотностью1,x ∈ [0, 1]pU (x) =0,x∈/ [0, 1]и функцией распределения 0,x,FU (x) =1,x≤00<x≤1x > 1.(12.7)Лемма 12.1. Пусть X — случайная величина с непрерывной функциейраспределения F (x), строго возрастающей в окрестности любой точкиx0 , где 0 < F (x0 ) < 1, F −1 (x) — функция, обратная к F (x).
Тогда1) случайная величина Y = F (X) имеет равномерное распределениена [0, 1],2) случайная величина V = F −1 (U ) имеет функцию распределенияF (x).Доказательство. 1). Поскольку 0 ≤ F (x) ≤ 1, то FY (x) = 0 при x ≤ 0 иFY (x) = 1 при x > 1. Для 0 < x < 1 имеемFY (x) = P{Y < x} = P{F (X) < x} = P{X < F −1 (x)} = F F −1 (x) = x,то есть функция распределения случайной величины Y совпадает с функцией равномерного распределения на [0, 1].2). Функция распределения случайной величины V равнаFV (x) = P{V < x} = P{F −1 (U ) < x} = P{U < F (x)} = F (x),что и требовалось доказать.133Задача 12.5.
Докажите, что утверждение 1) леммы верно для всякойнепрерывной функции распределения F (x).Замечание. Утверждение 2) леммы используется при моделировании случайных величин с заданной непрерывной функцией распределения F (x). Для этого надо уметь моделировать равномерно распределенные случайные величины и применить к ним обратную функцию F −1 (x).Определение 12.4.
Пусть 0 < γ < 1. Решение уравнения F (xγ ) = γназывается квантилью уровня γ.Если γ = 1/2, то x1/2 называется медианой распределения, для нееP{X ≥ x1/2 } = P{X ≤ x1/2 } = 1/2.(12.8)Если γ = 1/4, 2/4, 3/4, то x1/4 , x2/4 , x3/4 называются квартилямираспределения. Если γ = k/10 (k = 1, 2, . .