1625915153-62da7fb2e48a28563c377c8e71d63db2 (843881), страница 12
Текст из файла (страница 12)
В силу монотонности математического ожиданияEgε− (ξn ) 6 EI(ξn < x) 6 Egε+ (ξn ),Egε− (ξ) 6 EI(ξ < x) 6 Egε+ (ξ).Пусть x – точка непрерывности функции Fξ . ТогдаE(gε+ (ξ) − gε− (ξ)) 6 P(x − ξ 6 ξ < x + ε) = Fξ (x + ε) − Fξ (x − ε) = δ(ε) −−→ 0,ε→0откуда, в силу принципа «двух милиционеров» и произвольности ε, имеет место сходимость Fξn (x) → Fξ (x) в точках непрерывности Fξ . Следствие. Если ξn ⇒ ξ, то для любой непрерывной функции g выполненоg(ξn ) ⇒ g(ξ).Теорема.
Пусть ξn ⇒ ξ и существуют математические ожидания всех рассматриваемых случайных величин. Кроме того, пусть выполнено условие равномерной интегрируемости:sup E|ξn | · I(|ξn | > M ) −−−−→ 0.M →∞nТогда Eξn → Eξ при n → ∞.Д ОКАЗАТЕЛЬСТВО .
Рассмотрим сглаженную срезку, которая является непрерывной ограниченной функцией−M, x < −M,fM (x) = x, −M 6 x 6 M,M, x > M.Тогда EfM (ξn ) → EfM (ξ). В то же время,|EfM (ξn ) − Eξn | 6 E|fM (ξn ) − ξn | 6 sup E|ξn | · I(|ξn | > M ) −−−−→ 0.nM →∞Аналогично, |EfM (ξ) − Eξ| −−−−→ 0. M →∞Следствие. Пусть supn |ξn | 6 η и Eη < ∞.
Тогда выполнено условие равномерной интегрируемости. Следовательно, имеет место и теорема Лебега:ZEξn = ξn (ω) P(dω) → Eξ.ΩД ОКАЗАТЕЛЬСТВО . E|ξn |I(|ξn | > M ) 6 EηI(η > N ) → 0 как хвост сходящегосяинтеграла. 57Упражнение. 1) Доказать, что условие равномерной интегрируемости является необходимым для сходимости математических ожиданий неотрицательных случайных величин.2) Привести пример, когда не выполнено условие равномерной интегрируемости и сходимости математических ожиданий нет.Математическое ожидание суммы случайного числа случайных величин.Пусть на некотором вероятностном пространстве задана последовательность {ξn }случайных величин с одинаковыми математическими ожиданиями: Eξi = a ∀i (это, конечно, не означает, что случайные величины распределены одинаково). На этом же вероятностном пространстве задана целочисленная случайная величина ν ∈ Z+ , не зависящая от последовательности {ξn } (т.
е. случайная величина ν не зависит от каждогоконечного набора из {ξn }). Нас интересует математическое ожидание величиныSν =νXξi ,i=1где по определению полагаем Sν = 0 при ν = 0.Теорема (тождество Вальда). Пусть Eν < ∞. Тогда при сделанных предположениях относительно последовательности {ξi } справедливо равенствоESν = aEν.Д ОКАЗАТЕЛЬСТВО . Предположим, что ν 6 N и ξi > 0. Ограничение ξi > 0 несущественно в силу разложения ξi = ξi+ − ξi− , где ξi+ = max{0, ξi }, ξi− = max{0, −ξi }.
Преждевсего, получим представление для распределенияPSν (A) = P(Sν ∈ A).Положим Hi = {ν = i}, i = 0, 1, . . .. Тогда {Hi } – полная группа событий (а так какν 6 N , то в этой группе не более чем N + 1 событий). По формуле полной вероятностиXP(Ã ∩ Hi ),P(Ã) =i>0где Ã = {ω : Sν(ω) (ω) ∈ A}. ТогдаP(Ã) =Xi>0P(Sν ∈ A, ν = i) =XP(Si ∈ A, ν = i) =i>0XP(Sν ∈ A)pi ,i>0где pi = P(ν = i) и последнее равенство справедливо вследствие независимости соответствующих событий под знаком вероятности.58ИмеемZZ XX ZESν = x PSν (dx) = xP(Si ∈ dx)pi =pi x P(Si ∈ dx) =i>0=Xi>0Zpix PSi (dx) =i>0Xpi ESi =i>0Xpi · i · a = ai>0Xipi = aEν.i>0В третьем равенстве знаки интеграла и суммы можно поменять местами, так как суммаконечна.Если же ν не является ограниченной, то введем срезку ν (N ) = νI(ν 6 N ). Тогдаν (N ) 6 N, и значит, ESν (N ) = aEν (N ) .
Если N растет, то Sν (N ) – монотонная последовательность, так как ξi > 0 и ν (N ) −−→ ν также монотонно. Поэтому ESν (N ) → ESν ип.н.Eν (N ) → Eν. Ветвящиеся процессы Гальтона—Ватсона.В момент времени t0 имеется частица-«родитель». Введем набор целочисленных неот(i)(i)рицательных случайных величин {ξk }. Величина ξk интерпретируется как число потомков, которое производит k-я частица из i-го поколения за единицу времени (т.
е. втечение одного «поколения»).(i)Будем предполагать, чтобы набор {ξk , k > 1} при фиксированном i не зависел от(i)двумерного массива {ξk , j 6 i − 1, k > 1}; каждый потомок развивается независимо от(i)родителя, но стохастический алгоритм деления остается тем же самым, т. е. ξk одинако(i)во распределены ∀i, k. При этом частицы одного поколения (т. е. ξk при фиксированномi) могут быть зависимыми произвольным образом.Получившееся во времени «дерево» (или плоский граф) – это ветвящийся процессделения Гальтона– Ватсона (заметим, что частица может никого не производить, а просто исчезнуть в следующем поколении, не оставив потомства).Основной интересующей нас характеристикой является общая численность потомков N -го поколения, которая задается следующей рекуррентной формулой:SN −1SN =XξkN −1 .k=1Нас интересует поведение SN в среднем, когда N неограниченно возрастает.
Отметим,что в приведенном представлении мы имеем дело с суммой случайного числа случайныхвеличин, где по условию задачи ν = SN −1 не зависит от всех величин ξkN −1 в поколенииN − 1, которые одинаково распределены и независимы. Следовательно, по тождеству(0)Вальда, если a = Eξ1SN −1ESN = EXξkN −1 = ESN −1 a = aNk=1(заметим, что зависимость слагаемых предусмотрена в тождестве Вальда). Если a > 1,то происходит эффект взрыва – число потомков растет экспоненциально. При a 6 1 –59критический процесс (происходит вырождение популяции); с вероятностью 1 рано илипоздно произойдет событие SN = 0.Если при t = 0 было M частиц, то в силу линейности среднего мы имеем ESN =M aN .
Так что множитель N на асимптотическое поведение среднего числа потомкомникак не повлияет.Глава 4. ЗАКОНЫ БОЛЬШИХ ЧИСЕЛ.Теорема (закон больших чисел (ЗБЧ) в форме Чебышева). Пусть ξ1 , . . . , ξn – независимые одинаково распределенные случайные величины с конечными дисперсиями. Тогдаn1Xξi −→ Eξ1 .pn i=1Прежде всего докажем вспомогательные утверждения.Лемма (обобщенное неравенство Чебышева). Для любой неотрицательной случайной величины ξ при любом x > 0 справедливо неравенствоP(ξ > x) ≤EξI{ξ>x}Eξ≤.xxД ОКАЗАТЕЛЬСТВО .
Ясно, что ξI{ξ>ε} > εI{ξ>ε} (действительно, если ω ∈ {ξ > ε}, тоξ(ω) > ε, если же ω 6∈ {ξ > ε}, то 0 = 0). В силу монотонности среднего EξI{ξ>ε} >εP(ξ > ε), откуда и следует требуемое. Отметим, что если Eξ < ∞, то P(|ξ| > x) = o(1/x), так какZ∞EξI{ξ>x} =Z∞tI{t>x} dFξ (t) =−∞t dFξ (t)xявляется хвостом сходящегося интеграла.Следствие 1. Пусть f – положительная неубывающая функция.
Тогда для любой случайной величины ξEf (ξ)P(ξ > x) 6.f (x)Д ОКАЗАТЕЛЬСТВО . Ясно, что в силу свойств функции fP(ξ > x) 6 P(f (ξ) > f (x)).Осталось применить неравенство Чебышева для величины ξ 0 = f (ξ) > 0. Следствие 2 (классическое неравенство Чебышева). Для любой случайной величины ξ с конечной дисперсиейP(|ξ − Eξ| > ε) 660Dξ.ε2Д ОКАЗАТЕЛЬСТВО . Введём случайную величину ξ 0 = |ξ − Eξ| и воспользуемсяследствием 1 для f (x) = x2 . Наконец, докажем теорему.nPξi . ИмеемД ОКАЗАТЕЛЬСТВО ЗБЧ.
Обозначим η = n1i=1!n1 XP ξi − Eξ1 > ε = Pni=1!nn1 XX1ξi − Eξi > ε = P(|η − Eη| > ε)nn i=1 i=1nPD ξiDηDξ16 2 = i=1=−−−→ 0.εn 2 ε2nε2 n→∞Здесь сначала применено классическое неравенство Чебышева, а два равенства посленего следуют из однородности второго порядка дисперсии и её аддитивности на классенезависимых случайных величин. Надо сказать, что условия теоремы несколько завышены: для выполнения ЗБЧ достаточно требовать лишь существования математического ожидания.Следующую теорему называют также законом больших чисел в форме Хинчина.Теорема. ЗБЧ имеет место, если в условиях предыдущей теоремы вместо конечности дисперсии слагаемых предполагается лишь, что E|ξ1 | < ∞.Д ОКАЗАТЕЛЬСТВО.
Введем следующие обозначения:(N )ξi (N ) = ξi I{|ξi | 6 N }, ξ˜i (N ) = ξi − ξi .Первая случайная величина – уже использованная ранее срезка случайной величины ξiна уровне N , а вторая – хвост срезки. Очевидно, что ξi = ξi (N ) + ξ˜i (N ). Стало быть,!n1 Xξi − Eξ1 > ε 6 PP ni=1!n1 Xξi (N ) − Eξ1 (N ) > ε/2ni=1!n1 X6P ξ˜i (N ) − Eξ˜1 (N ) > ε/2 .ni=1Поскольку случайная величина ξi (N ) ограничена, то в силу ЗБЧ в форме Чебышевапервая вероятность в правой части этого неравенства при n → ∞ стремиться к нулюпри любом фиксированном уровне срезки N . Вторая же вероятность оценивается с помощью обобщенного неравенства Чебышева для функции f (x) = |x| как n!1 X4ξ˜i (N ) − Eξ˜1 (N ) > ε/2 6 E|ξ˜1 (N )|,P nεi=1и выбором достаточно большого N может быть сделана сколь угодно малой, что и требовалось доказать. 61nPПример.
Рассмотрим схему Бернулли с вероятностью успеха p. Как обычно, Sn =ξi , где ξi – бернуллиевская случайная величина. Cогласно закону больших чисел, ча-i=1стота успеха νn = Sn /n −→ p.pУсиленный закон больших чисел.Теорема (УЗБЧ). Пусть {ξi }∞i=1 – последовательность независимых одинаковораспределенных случайных величин, удовлетворяющих условию Eξ14 < ∞. Тогдаn1Xξi −−→ Eξ1 .п.
н.n i=1Д ОКАЗАТЕЛЬСТВО . Сразу отметим, что в формулировке теоремы вместо конечности четвертого момента достаточно требовать существования математического ожидания, однако в этом случае доказательство значительно усложняется. Отметим, что изсуществования четвертого момента следует существования всех моментов меньшего порядка, в частности, математического ожидания и дисперсии.nPОбозначим Sn =ξi и введем последовательность событийi=1 SnAn = − Eξ1 > ε ,nгде ε – произвольное положительное фиксированное число.PВ силу теоремы Бореля– Кантелли нам достаточно доказать, что рядP(An ) схоn>1дится, так как в этом случае с вероятностью 1 будет наблюдаться лишь конечное числособытий из {An }, и поэтому, начиная с некоторого n(ω), будут наблюдаться соответствующие обратные события.Введем центрированную случайную величину ξi0 = ξi − Eξi , тогдаnS01XSn− Eξ1 = n , так как Eξ1 =Eξi .nnn i=1Воспользовавшись следствием 1 из неравенства Чебышева с f (x) = x4 , получим SnE(Sn0 )4> ε 6.P(An ) = P nn 4 ε4Далее,E(Sn0 )4 =X42Eξi01 ξi02 ξi03 ξi04 = nEξi0 + 3n(n − 1)(Eξi0 )2 6 Cn2 ,i1 ,i2 ,i3 ,i3 6nгде C зависит только от первого, второго и четвертого моментов (например, в случае,когда i1 6= i2 , i1 6= i3 , i1 6= i4 , величины ξi01 и ξi02 ξi03 ξi04 независимы, поэтому Eξi01 (ξi02 ξi03 ξi04 ) =Eξi01 · Eξi02 ξi03 ξi04 = 0, так как Eξi01 = E(ξi − Eξi ) = Eξi − Eξi = 0).62Итак,∞∞X SnCn2CX 1> ε 6P =.4 ε242nnεnn=1n=1n=1∞XПоследний ряд, как известно, сходится.
Упражнение. Доказать УЗБЧ при условии существования момента порядка2 + ε, где ε > 0.Глава 5. УСЛОВНОЕ МАТЕМАТИЧЕСКОЕОЖИДАНИЕ.Напомним, что ранее у нас было введено понятие условной вероятностиP(A|B) =P(A ∩ B), где P(B) > 0.P(B)Пусть A = {ξ ∈ C}, где C ∈ B. В этом случае мы приходим к определению условногораспределения Pξ (C|B) случайной величины ξ при условии, что произошло событие B.Тогда естественно назвать условным математическим ожиданием ξ относительнособытия B величинуZE(ξ|B) =xPξ (dx|B).Далее мы существенно расширим это понятие.Элементы теории гильбертовых пространств.Гильбертово пространство H – линейное пространство, в котором задан бинарный функционал (x, y) – скалярное произведение со следующими свойствами:1.
(x, y) = (y, x);2. (c1 x1 + c2 x2 , y) = c1 (x1 , y) + c2 (x2 , y);3. (x, x) > 0, (x, x) = 0 ⇔ x = 0;при этом H – полное нормированное пространство с евклидовой нормой kxk =Определим операцию проецирования.p(x, x).Определение. Пусть L – замкнутое линейное подпространство H (тогда L – тожеполное в индуцированной топологии). Элемент xb ∈ L – ортопроекция x на подпространство L, если (x − xb, y) = 0 ∀y ∈ L.Известно, что что при сделанных предположениях ортопроекция xb существует и единственна.Упражнение. Доказать, что если ортопроекция xb существует, то она единственна (доказывается от противного).63Приведем эквивалентное определение ортопроекции. Теперь рассмотрим функционал kx − yk, где элемент x ∈ H фиксирован, а y пробегает всевозможные значения из L.Тогда известно, чтоxb = arg min kx − yky∈Lилиmin kx − yk = kx − xbk.y∈L(∗)Этот результат называется в функциональном анализе теоремой о перпендикуляре, смыслкоторой прозрачен: на ортопоекции реализуется расстояние Хаусдорфа (т.
е. минимальное) от элемента x до замкнутого линейного подпространства L. Доказательство в однусторону почти очевидно. В самом деле, для любого y ∈ L с помощью формулы квадратаевклидовой нормы разности двух элементов получаемkx − yk2 = kx − xbk2 + kbx − yk2 + 2(x − xb, xb − y).Поскольку xb − y ∈ L, то на основании тождества ортопроекции скалярное произведениев правой части этого тождества обращается в ноль. Отсюда немедленно следует соотношение (∗), поскольку возведение в квадрат неотрицательной функции – монотонноепреобразование на положительной полуоси, не меняющее множество ее экстремальныхточек.Упражнение.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
