1625915143-9358bde957c0693ae60a95b83ad382f6 (843873), страница 12
Текст из файла (страница 12)
То, что написано в определении, означает:большие расхождения (т. е. когда |Xn −X| ≥ ε) возможны, но вероятность появлениятаких расхождений стремится к нулю.52Пример последовательности, сходящейся по вероятности. Пусть, как и ранее,Ω = [0, 1]. Для всякого интервала A ⊂ Ω положим P(A) = λ(A), где λ(A) — длинаинтервала. Определим случайные величины X(ω) ≡ 0,(1, ω ∈ [0, n1 ],Xn (ω) =0, иначе.1 6Xn (ω)01n1-ωЯсно, что P(|Xn −X| ≥ ε) = 0 при ε > 1.
Если же ε ≤ 1, то P(|Xn −X| ≥ ε) = 1/n → 0при n → ∞.Некоторые свойства сходимости по вероятностиPPP1. Если Xn → X, Yn → Y , то Xn + Yn → X + Y .Доказательство. Для любого ε > 0P(|Xn + Yn − X − Y | ≥ ε) =≤≤≤(1) PP(|(Xn − X) + (Yn − Y )| ≥ ε) ≤P(|(Xn − X)| + |(Yn − Y )| ≥ ε) ≤P({|Xn − X| ≥ ε/2} ∪ {|Yn − Y | ≥ ε/2}) ≤P(|Xn − X| ≥ ε/2) + P(|Yn − Y | ≥ ε/2) → 0.(2) P(k) P2. Пусть при n → ∞ Xn → a1 , Xn → a2 , .
. ., Xn → ak , функция g : Rk → Rнепрерывна в точке a = (a1 , . . . , ak ). ТогдаPg(Xn(1) , Xn(2) , . . . , Xn(k) ) → g(a1 , . . . , ak ).при n → ∞.Доказательство. По определению непрерывности, для любого ε > 0 найдетсячисло δ = δ(a, ε) такое, что если |yi − ai | < δ для всех i, то|g(y1 , . . . , yk ) − g(a1 , . . . , ak )| < ε.(i)Введем события Bi = {|Xn − ai | < δ}, i = 1, . . . , k, тогдаB1 B2 . . . Bk ⊂ {|g(Xn(1) , . . . , Xn(k) ) − g(a1 , . .
. , ak )| < ε},откуда следует неравенство для вероятностейP(B1 B2 . . . Bk ) ≤ P{|g(Xn(1) , . . . , Xn(k) ) − g(a1 , . . . , ak )| < ε} ≤ 1.По условию P(Bi ) → 1 при n → ∞ для каждого i. Покажем, что такжеP(B1 B2 . . . Bk ) → 1. Для двух событий имеемP(B1 B2 ) = P(B1 ) + P(B2 ) − P(B1 ∪ B2 ).53Каждая вероятность в правой части стремится к единице, следовательно,P(B1 B2 ) → 1. Применяя индукцию, получаем утверждение для любого k.Тем самым мы доказали, чтоP{|g(Xn(1) , .
. . , Xn(k) ) − g(a1 , . . . , ak )| < ε} → 1.PP3. Если Xn → a, αn → 0 (здесь αn — числовая последовательность), то αn Xn → 0.Доказательство. Поскольку αn Xn = αn (Xn − a) + αn a, то достаточно доказать,Pчто αn (Xn − a) → 0 и воспользоваться свойством 1. Поскольку |αn | ≤ 1 начиная снекоторого номера n0 , поэтому при n ≥ n0P(|αn (Xn − a)| ≥ ε) ≤ P(|Xn − a| ≥ ε) → 0.Для установления факта сходимости по вероятности часто пользуются следующим утверждением.Второе неравенство Чебышева. Пусть EX 2 < ∞, тогда для любого ε > 0P(|X − EX| ≥ ε) ≤DX.ε2Доказательство. Достаточно применить первое неравенство Чебышева к случайнойвеличине (X − EX)2 :P(|X − EX| ≥ ε) = P((X − EX)2 ≥ ε2 ) ≤E(X − EX)2.ε2Неравенство доказано.4.2.Закон больших чиселПредположим, что раз за разом повторяется один и тот же случайный эксперимент, и каждый раз в результате него мы измеряем какую-то характеристику.Получаем тем самым последовательность случайных величин X1 , X2 .
. . . Их можно считать взаимно независимыми, если последовательные эксперименты не влиялидруг на друга, а также одинаково распределенными (т.е. имеющими одно и то жераспределение), если эксперименты по сути повторяют друг друга. Пример тому —повторяющиеся испытания Бернулли. Производя без ограничений один экспериментза другим, мы можем обнаружить ряд закономерностей в получающейся последовательности случайных величин. Одна из таких закономерностей, возникающая примногократном подбрасывании монеты, уже обсуждалась в начале курса.
Она является частным случаем следующего более общего утверждения, которое носит названиезакона больших чисел.Теорема (закон больших чисел). Пусть случайные величины X1 , X2 , . . .независимыи одинаково распределены, причем EX12 < ∞. Обозначим a = EX1 ,PnSn = i=1 Xi . Тогда при n → ∞Sn P→ a.nДоказательство. Заметим, чтоE(Sn /n) =EX1 + . . . + EXnna== a.nn54Обозначим σ 2 = DX1 и применим второе неравенство Чебышева к случайной величине Sn /n:¯½¯¾¯ Sn¯D(Sn /n)nσ 2σ2P ¯¯ − a¯¯ ≥ ε ≤==→0nε2n2 ε2nε2при n → ∞.Следствие (теорема Бернулли). Пусть Sn — число успехов в n испытанияхсхемы Бернулли, p — вероятность успеха в одном испытании. ТогдаSn P→pnпри n → ∞.Доказательство. Пусть Xi — число успехов в i-м испытании.
Тогда Xi ⊂= Bp ивсе эти случайные величины независимы. Здесь Sn = X1 + . . . + Xn , EXi = p и темсамым выполнены все условия теоремы.Замечания1. Условие EX12 < ∞ в теореме завышено. Закон больших чисел справедлив, дажеесли существует только первый момент E|X1 | < ∞. Однако доказательство теоремыпри таком условии потребовало бы бо́льших усилий.2. Число a есть среднее значение каждой из случайных величин Xi , здесь усреднение произведено по пространству значений случайной величины. Параметрi = 1, .
. . , n есть номер эксперимента, его значения можно воспринимать как целочисленные моменты времени. Тем самымSnX1 + . . . + Xn=nnесть усреднение результатов экспериментов по времени.Закон больших чисел утверждает, что среднее по времени сближается со средним,вычисленным по пространству значений.4.3.Центральная предельная теоремаКак и в предыдущем параграфе, будем иметь дело с последовательностьюX1 , X2 , .
. . независимых одинаково распределенных случайных величин,Sn = X1 + . . . + Xn .Во многих прикладных задачах возникает необходимость вычислять вероятностивида P(A ≤ Sn ≤ B) при больших n. Это происходит, например, при планированиипроизводства, поскольку общая выработка продукции предприятием за смену складывается из случайных объемов продукции, произведенных отдельными рабочими.Вычисление различных средних показателей в экономике, социологии, демографии,статистике также сводится к суммированию случайных величин.Мы видели, что для нахождения распределения суммы двух независимых случайных величин следует пользоваться формулой свертки.
Однако ее применение сопряжено с непростыми вычислениями, в особенности если мы интересуемся распределением суммы большого числа слагаемых. Более продуктивными оказались методыприближенного вычисления указанных вероятностей для сумм.Мы знаем, что для нахождения вероятности попадания суммы в интервал (илиотрезок) достаточно знать ее функцию распределения. Значит, необходимо искатьприближения для функций распределения сумм. Оказалось, что в широких условиях функции распределения немного подправленных (а точнее стандартизованных)55сумм случайных величин сближаются с функцией распределения стандартного нормального закона, если число слагаемых возрастает.Этот эффект можно наблюдать на примерах.
Пусть все Xi независимы и имеютравномерное на [0,1] распределение. Вычислим с помощью сверток плотности распределения случайных величин X1 + X2 , X1 + X2 + X3 (это нетрудно) и увидим,что их графики очень быстро начинают напоминать плотность нормального распределения:6fX1(t)fX1 +X26(t)¡@¡¡@@¡0¡¡t -10@@@12t-6fX1 +X2 +X3 (t)012- t3Последний график получается склеиванием трех квадратических парабол. ДляfX1 +X2 +X3 +X4 (t) график будет склеиваться из кубических парабол; уже для суммыпяти случайных величин на глаз трудно различить график полученной плотностиот гауссовской кривой.Такую же закономерность мы можем наблюдать, если рисовать графики плотности сумм в том случае, когда все Xi ⊂= Eα .
Тогда, как мы видели, Sn ⊂= Γα,n ,и при больших значениях n кривая плотности гамма-распределения, растягиваясьвправо, все больше будет напоминать плотность нормального распределения, только сильно вытянутую и смещенную вправо. Чтобы в пределе получалась плотностьстандартного нормального закона, суммы надо подправлять с помощью операциистандартизации.Эти наблюдения иллюстрируют важную закономерность, о которой пойдет речьниже.Центральная предельная теорема (ЦПТ).
Пусть X1 , X2 . . . — независимыеодинаково распределенные случайные величины. Предположим, что EX12 < ∞. Обозначим Sn = X1 + . . . + Xn , a = EX1 , σ 2 = DX1 , и пусть σ 2 > 0. Тогда для любого yµPSn − na√<yσ n¶1= F Sn√−na (y) → Φ0,1 (y) = √σ n2πZye−t2 /2dt−∞при n → ∞.Доказательство теоремы приводиться не будет. Зато подробно обсудим этот результат.56Замечания√√√1.
Нетрудно видеть, что ESn = na, DSn = nσ 2 = σ n, т. е. к случайнойвеличине Sn в теореме применена операция стандартизации;¶µ¶µSn − naSn − na√√E= 0, D= 1.σ nσ n2. Можно показать, что сходимость в ЦПТ является равномерной по всем y, т. е.¯ µ¯¶¯¯Sn − na¯√sup ¯P< y − Φ0,1 (y)¯¯ → 0σ nyпри n → ∞. Доказательство этого факта мы не приводим.3. Можно сформулировать ЦПТ в эквивалентной форме: для любых A ≤ Bµ¶ZB1Sn − na2√P A≤≤B → √e−t /2 dt.σ n2πAИменно такая форма чаще всего используется при решении задач. Делается этоследующим образом. Предположим, что нам необходимо найти вероятностьP(C ≤ Sn ≤ D) при больших значениях n.
Первое, что мы должны сделать, этоподогнать наше выражение под формулировку теоремы:¶µC − naSn − naD − na√√√≤≤,P(C ≤ Sn ≤ D) = Pσ nσ nσ nпосле чего объявляем эту вероятность почти равной1√2πZBe−t2 /2dt = Φ0,1 (B) − Φ0,1 (A),AгдеA=C − na√ ,σ nB=D − na√ .σ nЧисленные значения функции Φ0,1 (y) обычно находятся из таблиц.4. Коль скоро мы заменяем допредельное выражение в ЦПТ предельным, возникает вопрос о величине погрешности, которую мы допускаем при этом. Это вопрос оскорости сходимости в ЦПТ. Имеет место следующий факт.Неравенство Берри–Эссеена. Пусть E|X1 |3 < ∞, тогда¯ µ¯¶¯¯Sn − naµ¯√sup ¯P< y − Φ0,1 (y)¯¯ ≤ 3 √ ,σ nσ nyгде µ = E|X1 − EX1 |3 .5.