Ульянов (новое издание) (1115355), страница 20
Текст из файла (страница 20)
В силу теорем о непрерывном соответсвии между функциями распределения и характеристическими функциями центральная предельнаятеорема доказана.Замечание. Часто центральную предельную теорему записывают в следующем видеSn − ESn d√−→ N (0, 1).DSnТак как в (5) функция Φ(x) непрерывна, то на самом деле сходимость равномерная и можно поставить вопрос о скорости сходимости.Дадим ответ на этот вопрос сначала для случая разнораспределенных независимых случайных величин, а потом приведем соответствующий результат для случаяодинаково распределенных случайных величин.Теорема 11.4 (центральная предельная теорема для разнораспределенныхслагаемых).
Пусть X1 , X2 , . . . — последовательность независимых случайных величин, для которых существуют EXk = ak , DXk = b2k , ck = E|Xk − ak |3 . ОбозначимSn = X1 + . . . + Xn ,An = ESn = a1 + . . . + an ,Bn2 = DSn = b21 + . . . + b2n ,C n = c1 + . . . + cn ,Sn − A nTn =.BnТогдаsup |FTn (x) − Φ(x)| 6 α0x∈Rгде α0 — абсолютная константа.95Cn,Bn3В случае независимых одинаково распределенных случайных величин ответ навопрос о скорости сходимости дает теорема (неравенство) Берри - Эссеена.Теорема 11.5 (Берри-Эссеен). Пусть X1 , X2 , . .
. — последовательность независимых одинаково распределенных случайных величин с EX13 < ∞. Тогда в обозначениях предыдущей теоремы имеем:sup |FTn (x) − Φ(x)| 6 Cx∈RE|X1 − EX1 |3√,σ3 nгде C - универсальная константа, точное значение которой еще не известно, при1водятся только неравенства: √ 6 C 6 0.7655.2πРассмотрим вопрос применения центральной предельной теоремы.Пример. При измерении некоторой величины a (длины доски в аудитории) мыполучаем приближенное значение X. Сделанная ошибка δ = X − a может бытьпредставлена в виде суммы двух ошибокδ = (X − EX) + (EX − a),первая из которых называется случайной ошибкой, а вторая систематической.
Пустьрезультаты измерений лишены систематической ошибки, т.е EX = a. Так бывает невсегда, но для простоты допустим. Случайная ошибка δ имеет нулевое математическое ожидание Eδ = 0. Положим Dδ = σ 2 . Для уменьшения ошибки производят nнезависимых измерений X1 , . . . , Xn . Они представляют собой независимые и одинаково распределенные случайные величины. В качестве приближенного значения aпринятно брать среднее арифметическое из результатов наблюденийâ =X1 + . . . + Xn.nВ силу центральной предельной теоремы√ε n¯µ¯√ ¶Zσ2¯ X1 + .
. . + Xn − na ¯ ε n1− z2¯¯√√P(|â − a| < ε) = P ¯<∼edz.¯σσ n2π √− ε σnЕсли мы начнем увеличивать число измерений, наш результат√ будет становитьсяε n√Rσ − z21ε ne 2 dz = 0.997 ивсе лучше и лучше. В частности, если взять σ = 3, то √2π − ε√nσследовательноµ¶3σP |â − a| < √≈ 0.997,nчто уже является неплохой точностью.96Лекция 1212.112.1.1Условное математическое ожидание, условноераспределение случайной величиныУсловное математическое ожидание, условное распределение в случае дискретных случайных величинОпределение 12.1.
Условной вероятностью события A при уже произошедшем (при условии) B (обязательно P(B) > 0) называется величинаP(AB)= P(A|B) — это её обозначение.P(B)Замечание. Пространство (Ω,F, P(·|B)) — также вероятностное пространство, накотором P(A|B) как функция от события A есть вероятность.Рассмотрим дискретные случайные величины X и Y такие, чтоX принимает значения a1 , . . . , ak с вероятностями p1 , . . . , pk , аY принимает значения b1 , . . . , bm с вероятностями q1 , .
. . , qm .В качестве события B рассмотрим B = {Y = bi } (bi фиксировано), P (B) = qi > 0 ,тогда можем определить математическое ожидание случайной величины X относительно меры P(·|B) какE(X|B) = E(X|Y = bi ) =kXaj P(X = aj |B)j=1Определение 12.2. Условным математическим ожиданием E(X|Y ) случайной величины X относительно случайной величины Y называется случайнаявеличина, которая принимает значения E(X|Y = bi ) с вероятностями P(Y = bi ),и определяется как отображение следующего вида∀ω ∈ Y −1 (bi ) ∈ Fданное отображение обозначимg(Y (ω)) = E(X|Y = bi ).Так как Y — случайная величина, то отображение g(Y ) также является случайной величиной.Определение 12.3.
Условным распределением случайной величины X относительно случайной величины Y называется случайная величина, которая для∀A ∈ F является борелевской σ-алгеброй на прямой R и для любого ω ∈ Y −1 (bi )принимает значениеP(x ∈ A|y = bi ) = E(Ix∈A |Y = bi )9712.1.2Условное математическое ожидание, условное распределение в случае абсолютно непрерывных случайныхвеличинРассмотрим случай абсолютно непрерывной случайной величины Y , для нее (в силуее абсолютной непрерывности) следует, что P(Y = yi ) = 0, где yi — некотороефиксированное число. Очевидно, что в данном случае мы не можем воспользоватьсярассуждениями для дискретного случая.Рассмотрим частный случай следующего вида — случайный вектор (X, Y ) имеетплотность f (x, y), причем f (x, y) ∈ C.
Предположим, что для произвольного достаточно малого ε > 0 выполненоP(−ε < Y − y0 < ε) > 0(A)Таким образом, если fY (y) — плотность случайной величины Y , тоZ +∞fY (y) =f (x, y)dx,−∞и из формулы (A) следует, что fY (y0 ) > 0.Рассмотрим ∀u ∈ RP(X < u, Y ∈ (y0 − ε, y0 + ε))P(y0 − ε < Y < y0 + ε)R u R y0 +εZ uf (x, y)dxdyf (x, y0−∞ y0 −ε=−−→dxR y0 +εε→0f (y)dy−∞ fY (y0 )y0 −ε YP(X < u|Y ∈ (y0 − ε, y0 + ε)) =df= P(X < u|Y = y0 )Определение 12.4.ZuP(X < u|Y = y0 ) =−∞f (x, y0 )dxfY (y0 )Определение 12.5.
Условной плотностью случайной величины X при условииY = y0 называется величина, равная f (x, y0 )fY (y0 )0, если fY (y0 ) > 0;, если fY (y0 ) = 0.Замечание. Пусть случайная величина Y имеет равномерное распределение на отрезке [0; 1]. ОбозначимNY = {z ∈ R : fY (z) = 0}тогдаZP(Y ∈ NY ) =fY (z)dz = 0.NY98Замечание. Так как f (z, y) и fY (y) — плотности, тоf (z, y0 )> 0,fY (y0 )иZRf (z, y0 )1dz =fY (y) )fY (y0 )Следовательно, условная плотностьZf (z, y0 )dz =RfY (y0 )= 1.fY (y0 )f (z, y0 )есть плотность.fY (y0 )Определение 12.6.
Условным математическим ожиданием случайной величины X при фиксированном значении случайной величины Y называется величина, равная E(X|Y = y0 ) =+∞ R xf (x, y0 ) dx , если f (y ) > 0;Y0−∞ fY (y0 )0, если fY (y0 ) = 0.Определение 12.7. Условным математическим ожиданием случайной величины X относительно случайной величины Y называется случайная величинаg(Y ) :g(Y )(ω) = g(Y (ω)) = E(X|Y (ω)).(B)Утверждение 12.1. Для любой ограниченной борелевской функции h(y)Eh(Y )X = Eh(Y )g(Y )(C)где g(Y ) из формулы (B)Доказательство. Распишем правую часть:Z +∞Z +∞Z +∞xf (x, y0 )h(y)fY (y)dyh(y)g(y)fY (y)dy =Eh(Y )g(Y ) =dxfY ()y0−∞−∞−∞Z +∞ Z +∞=h(y)xf (x, y) dxdy| {z }| {z }−∞−∞ф-ия сл.
в. плотность сл. в.= Eh(Y )X.Можно показать, что равенство (C) однозначно определяет g(Y ), то есть если (C)выполнено для всех ограниченных борелевских функций h(y) при функциях g1 (y)и g2 (y)(где g1 (y) и g2 (y) считаются измеримыми отностиельно BY — борелевскойσ-алгебры на прямой, порожденной случайной величиной Y ), тоg1 (y) = g2 (y) с вероятностью 1.Таким образом формулу (C) можно считать определением условного математического ожидания.Замечание. Функция g1 (y) называется измеримой относительно BY , если{z : g(z) < a} ∈ BY ∀a ∈ R.Замечание. Мы не всегда можем взять в качестве g(Y ) случайную величину X,так как она может не быть измеримой относительно BY .9912.2Свойства условного математического ожиданияПусть X и Y — случайные величины, тогда имеют место свойства:1◦ .
E(cX|Y ) = cE(X|Y );2◦ . E(X + Z|Y ) = E(X|Y ) + E(Z|Y );3◦ . E(X|X) = X (так как E(X|X = al ) = al );4◦ . Если X и Y — независимые случайные величины, тоj=kXj=kP(X = aj , Y = bi ) XP(Y = bi )E(X|Y ) =aj=aj P(X = aj )= EX,P(Y=b)i)P(Y=b)ij=1j=1то есть равно константе.5◦ . EX = E(E(X|Y ))100Лекция 1313.1Введение в математическую статистикуМатематическая статистика — это математическая дисциплина, родственная теории вероятностей. Она базируется на методах теории вероятностей, но решает своизадачи своими методами.Математические модели случайных величин в теории вероятностей основываются на понятии вероятностного пространства (Ω, A, P).
Где Ω — непустое множество,называемое пространством элементраных исходов, A — класс событий из Ω. Какизвестно, чтобы A стал σ - алгеброй надо наложить некоторые требования. P —вероятность, заданная на событиях из A. В теории вероятностей P считается заданной, и задачей теории вероятностей считается разработка методов определениявероятностей более сложных событий.На практике при изучении некоторого эксперимента редко бывает, что P полностью известна. Часто можно лишь утверждать, что P является элементом некоторогокласса P.
Этот класс может включать все вероятности, которые можно задать наA, а может представлять собой более узкое семейство вероятностей. В любом случае P — это совокупность допустимых вероятностей P. Таким образом, мы пришлик понятию вероятносто-статической модели (или просто к статистической модели),понимая под этим набор (Ω, A, P).Пример. Рассмотрим эксперимент, состоящий из n независимых испытаний, в каждом из которых наблюдается 1 в случае успеха и 0 в случае неудачи с вероятностями соответственно p и q = 1 − p. Исход эксперимента можно представить векторомω = (x1 , . .