Ульянов (новое издание) (1115355), страница 16
Текст из файла (страница 16)
. .i=1. . .−f (a04 )+f (b2 )−f (a03 )+f (b1 )−f (a02 )+f (a)−f (a01 ) > 0.68Для завершения мысли вспомним, что f (a0i ) > f (ai ) −nf (b) − f (a) −ε2i+1εи f (b0 ) > f (b) − :2∞XXε< f (b0 ) − f (a) 6(f (bi ) − f (a0i )) <(f (bi ) − f (a0i ))2i=1i=1∞ ³´Xε<f (bi ) − f (ai ) + i+12i=1⇓εf (b) − f (a) − <2∞ ³Xf (bi ) − f (ai ) +i=1ε ´2i+1=∞X(f (bi ) − f (ai )) +i=1ε2⇓∀ ε > 0 f (b) − f (a) − ε <∞X(f (bi ) − f (ai )).i=1В силу произвольности ε в итоге получаем∞∞XXF (K) = f (b) − f (a) 6(f (bi ) − f (ai )) =F (Ki ).i=1i=1Всё, счётная аддитивность показана. Применяем теорему о продолжении мерыи обнаруживаем, что задано отображение из B в R, обладающее всеми свойствамивероятности.
Вот её и назначим вероятностью в том пространстве, что мы строим ссамого начала доказательства. Тем самым, задано распределение, ну а вместе с ними функция распределения, которая, если присмотреться, в каждой точке совпадаетс f . А случайная величина, кстати, подойдёт тождественная, то есть, ψ(ω) = ω.Утверждение доказано.Пусть F — множество всех непрерывных слева неубывающих на R функций,у которых предел на +∞ равен 1, на −∞ равен 0. Пусть P — класс всевозможных вероятностных распределений на действительной оси.
Последнее утверждениенаглядно демонстрирует, что между F и P можно построить взаимно-однозначноесоответствие, посредством функции распределения. Эти множества эквивалентны.Речь даже заходит об изоморфизме, но для этого сначала нужно ввести групповыеоперации, а для линейной алгебры места здесь не выделено.На функцию распределения наложены весьма мягкие условия — она может бытьнепрерывной на всей оси, может состоять из полуотрезков прямых, параллельныхгоризонтальной оси (это и наблюдается для дискретных случайных величин), а может просто иметь счётное количество разрывов. Всё это — в рамках наложенныхусловий.69Лекция 88.18.1.1Неравенство и УЗБЧ КолмогороваНеравенство КолмогороваТеорема 8.1 (Неравенство Колмогорова).
Пусть X1 , X2 , ..., Xn — независимыеслучайные величины, EXi = 0, EXi2 < ∞, i = 1, . . . , n. Тогда ∀a > 0 справедливонеравенство:nPµ¶EXi2i=1P sup |X1 + X2 + ... + Xk | > a <.a216k6nЗамечание. Неравенство Чебышева в тех же условиях, таким образом, являетсячастным случаем неравенства Колмогорова, только в неравенстве Чебышева речьидет о сходимости по вероятности, а в неравенстве Колмогорова — почти всюду.Если положить k = n, то получится уже знакомое нам неравенство Чебышева.Доказательство. Положим Sk = X1 + X2 + ... + Xk . Вектор из случайных величин(X1 , . . .
, Xn ) обозначим как Y . Понадобятся следующие четыре факта:EXi Xj = EXi · EXj = 0 при i 6= jESn2 ==⇒nXEXi2 ;(1)i=1nXE(Sn − Sk ) = E Xi = 0;½Введем события A =¾Y : sup |Sk | > ai=k+1и Ak =16k6n(2)½¾Y:sup16m6k−1|Sm | 6 a, |Sk | > a⇓A=n[Ak и Ai Aj = ∅ ∀i 6= j;(3)k=1Рассмотрим случайные величины (Sn − Sk ) и Sk IAk . Первая из них конструируется как борелевская функция от Xk+1 , .
. . , Xn , вторая — от X1 , . . . , Xk , а случайныевеличины X1 , . . . , Xn независимы в совокупности. А тогда будут независимыми случайные величины (Sn − Sk ) и Sk IAk . А произведение мат. ожиданий независимыхслучайных величин равно произведению их мат. ожиданий. То есть, верно следующее:X1 , . . .
, Xn — независимые случайные величины⇓(Sn − Sk ) и Sk IAk независимы⇓E((Sn − Sk ) · (Sk IAk )) = E(Sn − Sk ) · ESk IAk .70(4)Далее происходят небольшие выкладки:nX(1)EXi2 =ESn2=ESn2·1>ESn2· IA =ESn2·nXi=1IAk =k=1>(2)=nX(ESk2 IAkk=1nXnXE(Sk + (Sn − Sk ))2 · IAkk=1n(4) X+ 2E(Sn − Sk )Sk IAk ) =(ESk2 IAk + 2E(Sn − Sk )ESk IAk )k=1∗ESk2 IAk > a2k=1nXEIAk = a2k=1nX(3)P(Ak ) = a2 P(A).k=1Помеченный * переход может вызвать вопросы. Только один из индикаторов в суммеможет быть единицей, тогда множитель при нём обязательно превысит a2 — такопределялось событие Ak . Множители же при остальных индикаторах нам вовсенеинтересны, потому что умножаться они всё равно будут на ноль.
Сведя конецэтой цепочки с ее началом, получим желанноеµ¶P sup |X1 + X2 + ... + Xk | > a <nPi=116k6n8.1.2EXi2a2.Усиленный закон больших чисел КолмогороваТеорема 8.2 (Усиленный закон больших чисел Колмогорова). ПустьX1 , .., Xn — независимые случайные величины∞XDXnn=1n2<∞⇓X1 + X2 + ... + Xn EX1 + EX2 + ...
+ EXn−−−−→ 0 почти всюду.n→∞nnЗамечание. В законе больших чисел вместо∞XDXnn=1n2< ∞ было DXi 6 C,последнее сильнее первого ограничивает множество подходящих под условие теоремы последовательностей случайных величин.Доказательство. Центрируем случайные величины Xi :Yi = Xi − EXi ;EYi = 0;DYi = DXi = σi2Обозначим Sn = Y1 + Y2 + . . .
+ Yn и вектор из величин Yi как просто Y . Для доказательства теоремы достаточно показать, чтоY1 + Y2 + ... + YnSn=→ 0 почти всюду.nnmµ¶|Sk |∀ ε > 0 P sup> ε −−−→ 0.n→∞k>n k71Будем работать с событиями Ak , которые определим следующим образом:¯¯¾½¯ Sk (Y ) ¯¯¯>εAn = Y : n−1max n ¯26k<2k ¯Ã∞!¶µ[|Sk |Заметим, что P> ε −−−→ 0.Ak −−−→ 0 ⇐⇒ ∀ ε > 0 P supn→∞n→∞k>n kk=nЧтобы было верным стоящее слева от знака равносильности утверждение, достаточно показать, что∞XP(Ak ) < ∞.k=1В самом деле:P(An ) 6 P(max2n−1 6k<2n|Sk | > ε2n−1 ) 6 P(maxn |Sk | > ε2n−1 )k<26 {По неравенству Колмогорова} 6XDS2n−2 −2n=4ε2σk2ε2 22(n−1)k62nПолучив оценку сверху для P(Ak ), оценим теперь сверху сумму ряда из этих вероятностей, умноженного на константу:∞∞∞XXXXε2 X2−2nσk2P(An ) 62−2nσk2 =4 n=1n=1n : 2n >kk62nk=1µ¶∞∞∗ X14 X σk2σk2 k −26=·< ∞ по условию.123k1−4k=1k=1В помеченном * переходе мы поменяли порядок суммирования ряда.
Поскольку онзнакопостоянный и сходится, то можно менять порядок суммирования, не разрушивсходимость. Остается воспользоваться тем фактом, что остаток сходящегося рядастремится к нулю:Ã∞!∞∞[XXP(Ak ) < ∞ =⇒ PAk 6P(Ak ) −−−→ 0.k=18.1.3k=nk=nn→∞Применение УЗБЧ: метод Монте-КарлоПусть дана функция f (t), непрерывная на [ 0, 1]. Не ограничивая общности, будемсчитать, что 0 6 f (t) 6 1 (в противном случае отнимем от функции ее минимальноена сегменте значение, а потом полученную функцию поделим на ее же максимум, если эта функция — не константа).
Оказыватся, интеграл от этой функции на сегменте[ 0; 1] можно вычислить с помощью УЗБЧ.Пусть X и Y — независимые случайные величины, равномерно распределенныена отрезке [ 0; 1]. Введем случайную величину z следующим образом:(1, если f (X) > Yz=.0, если нет72Математическое ожидание этой случайной величины оказывается равным интегралу, о котором говорилось выше:Z1Ez = P(f (x) > y) =f (z) dz.0Объясняется это тем, что случайный вектор (X, Y ) имеет в квадрате ( 0; 0)×( 1; 1)на XY-плоскости плотность, равную единице, за пределами квадрата плотность равна нулю. Далее заметим, что из-за выбранного вида величины z её мат.
ожиданиебудет равняться двойному интегралу от единицы по фигуре Λ = {(x, y) : 0 6 y <f (x), x ∈ [ 0; 1]}. А поскольку функция на сегменте [ 0; 1] расположена между нулеми единицей, то фигура Λ — это не что иное, как площадь под графиком f (x). Двойной интеграл от единицы по этой фигуре даст площадь под графиком f (x), то естьтот самый интеграл от f (x) от нуля до одного.Теперь пусть у нас имеется 2n независимых случайных величин, равномерно распределенных на сегменте от нуля до одного: X1 , . . .
, Xn и Y1 , . . . , Yn . Сконструируемиз них n случайных величин z1 , . . . , zn по следующему закону:(zi =1, если f (Xi ) > Yi, у всех zi одинаковое мат. ожидание: Ezi =0, если нетZ1f (t) dt.0Остается только применить УЗБЧ Колмогорова, предварительно заметив, что дисперсии zi ограничены, и сами zi независимы в совокупности. Тогдаz1 + . . . + zn−−−→n→∞nZ1f (t) dt почти всюду.0Здесь, однако, имеются серьезные проблемы: во-первых, надо где-то взять оченьмного независимых равномерно распределенных на сегменте от нуля до одного случайных величин. Это совсем не так просто, как хотелось бы! Кроме того, не приведена оценка погрешности для n-того шага. Так что перед тем, как воспользоватьсясим методом, с проблемами этими надо разобраться.
Здесь этого не сделано.8.2Сходимость в среднемОпределение 8.1. Последовательность Xn сходится к случайной величине X всреднем порядка k, где k — натуральное числоmE|Xn − X|k −−−→ 0.x→∞Если k = 2, то говорят, что имеется сходимость "в среднем квадратично".Если k = 1, то просто "в среднем".Утверждение 8.1. Из сходимости в среднем следует сходимость по вероятности:E|Xn − X|k −−−→ 0, k ∈ Nn→∞=⇒pXn →− X — стремление по вероятности.73Доказательство.1E|Xn − X|kεkВ последнем переходе использовалось неравенство МарковаP(|Xn − X|k > εk ) = P(|Xn − X| > ε) <E|Xn − X|k −−−→ 0n→∞=⇒∀ε > 0P(|Xn − X|k > ε) −−−→ 0.n→∞Утверждение 8.2. Обратное неверно.Доказательство. Построим последовательность случайных величин, стремящуюся к случайной величине ноль по вероятности, но в среднем расходящуюся:n, 0 6 ω 6 1 ,nΩ = [ 0; 1]; Xn (ω) =10,6 1.nZ1/nnk dt = nk−1 > 1, k ∈ N.E|Xn − 0|k =0Стремление построенной последовательности к нулю по вероятности очевидно, аотсутствие сходимости в среднем показано последней формулой.