2002. Теория вероятности и математическая статистика. Лектор - В.Г.Ушаков (1120051), страница 8

Просмтор этого файла доступен только зарегистрированным пользователям. Но у нас супер быстрая регистрация: достаточно только электронной почты!

Текст из файла (страница 8)

1. ξ ~ Bi (n, p).[]nnnnn −kn−kP(ξ = k ) =   ⋅ p k (1 − p ) , ϕξ (t ) = Eeitξ = ∑   ⋅ p k (1 − p ) eitk = peit + (1 − p ) ,k =0  k k n −1ϕ (t ) ′t = n peit + (1 − p ) pieit , ϕ (t ) ′t = npi ⇒ Eξ = np ,[[ϕ (t )]ξ″tξ[]][]= n(n − 1) peit + (1 − p )2n−2[[ξ]+ n peit + (1 − p )2n −12]0[]″pi e , ϕξ (t )2 it22t0= n(n − 1) p 2i 2 + npi 2 ,Eξ = n(n – 1)p + np, Dξ = Eξ – (Eξ) = np – np = np(1 – p).(2.

ξ ~ Bi (n1, p), η ~ Bi (n2, p). Тогда, если ξ и η независимы, ϕξ+η (t) = ϕξ (t)·ϕη (t) =)(n1)(n2)n1 + n2= peit + 1 − p peit + 1 − p = = peit + 1 − p, таким образом, ξ + η ~ Bi (n1 + n2, p).Пусть ξ1, ξ2, …, ξn, … — последовательность случайных величин с характеристическими функциями ϕξi (t ) и функциями распределения Fξi (t ) . Тогда1) если ξ1, ξ2, …, ξn, … сходится по распределению к случайной величине ξ, тоϕξn (t ) n→ ϕξ (t )→∞2) если ϕξn (t ) n→ ϕξ (t )→∞∀t ;∀t и ϕξ (t) непрерывна в точке 0, то ϕξ (t) — характеристи-ческая функция некоторой случайной величины ξ и ξ n n→ ξ по распределению.→∞Пусть ϕξ (t) — характеристическая функция случайной величины ξ. Тогда характеристической функцией случайной величины aξ + b будет служить функцияϕaξ+b (t) = Eeit(aξ+b) = eitbEei(ta)ξ = eitbϕaξ (t).Пример.

ξ ~ N(0,1), ϕξ (t ) = e−t22. Тогда, если η ~ N(a, σ ), то ϕη (t ) = e2ita −σ 2t 22.§12. Центральная предельная теорема1°°. Закон больших чисел в форме Хинчина.Теорема 16 [А. Я. Хинчин]. Пусть ξ1, ξ2, … — последовательность независимых одинаково распределённых случайных величин, у которых существует Eξi = a. Тогда выполняется закон больших чисел, то естьPS n − ES nn→ 0 .→∞nДоказательство. Не ограничивая общности, будем полагать a = 0.

Пусть ϕ (t) — характеристическая функция случайной величины ξ1. Разложим её по формуле Маклорена до двухчленов включительно с остаточным членом в форме Пеано: ϕ (t) = ϕ (0) + ϕ′(0)t + o(t), ϕ (0) == 1, ϕ′(0) = 0 ⇒ ϕ (t) = 1 + o(t), t → 0. ТогдаSnnti Snnti ξjnnn  t   1 ϕ Sn − ESn (t ) = ϕ Sn (t ) = Ee = Ee= ∏ Ee=  ϕ    = 1 + o   n→1 ,→∞ n j =1  n  nnS − ES nследовательно, ξ ≡ 0 и ϕξ (t) ≡ 1.

Таким образом, nn→ 0 по распределению. Так→∞nкак из сходимости по распределению к константе следует сходимость по вероятности,itnPS n − ES nn→ 0 .→∞nТеорема доказана.362°°. Центральная предельная теорема.Теорема 17. Пусть ξ1, ξ2, …, ξn, … — последовательность независимых одинаково распределённых случайных величин, Eξi = a, Dξi = σ 2.

ТогдаS n − ES nn→ ξ , ξ ~ N(0,1)→∞DS nпо распределению, или что то же самое S − ES n1 S − naP n< x  = P n< x  n→→∞2π nσ DS nx∫e−t22dt .−∞Доказательство. Введём последовательность случайных величин ηi =ξi − a. ТогдаσS n − ES n S n − na η1 + $ + ηn=== η . Очевидно, Eη i = 0, Dη i = 1. Характеристическую функDS nnσnцию для случайной величины η разложим в ряд Тейлора в окрестности нуля до трёх членоввключительно с остаточным членом в форме Пеано:ϕ (t ) = Eeitη ⇒ ϕ (t ) = ϕ (0) + ϕ ′(0)t + ϕ ′′(0)следовательно, ϕ (t ) = 1 −( )t2+ o t2 ,2( )t2+ o t 2 при t → 0.

Тогда2nn2t−  t  t2 1 2ϕ Sn − ESn (t ) = ϕ η1+$+ηn (t ) =  ϕ e.+ o   n→  = 1 −→∞2nn   n  DS nn−t22— характеристическая функцияПоскольку предельная функция непрерывна в нуле и eстандартной нормально распределённой случайной величины, соответствующая последоваS − ES nтельность nn→ ξ по распределению.→∞DS nТеорема доказана.§13. Условное математическое ожидание1°°. Определение условного математического ожидания. Расстоянием от точки y домножества A называется по определению проекция точки y на множество A: min ρ (x, y ) .x∈AξAyминимальноерасстояниеНа вероятностном пространстве (Ω, A, P) рассмотрим вероятностное пространство, порождённое случайной величиной ξ: (Ω, Aξ , P), Aξ = {ξ –1(ω), B ∈ B} ⊂ A — минимальнаяσ-алгебра, в которой ξ измерима.

Зафиксируем Aξ. Множество случайных величин разбивается на две части: измеримых в Aξ и неизмеримых в Aξ. Рассмотрим множество случайныхвеличин, измеримых относительно Aξ = A1.37Две случайные величины ξ и η называются эквивалентными, если P(ξ ≠ η) = 0.Расстоянием между ξ и η называется E(ξ – η)2.Напомним определение условной вероятности:P( A | B ) =P ( AB )P (B )= PB (A) , P(B) > 0.Определение 1. Пусть есть случайная величина ξ, Eξ < ∞ ⇔ ∫ ξ (ω )P(dω ) < ∞ . РассмотΩрим интеграл от той же функции относительно меры PB (A) (относительно события B). Условное математическое ожидание случайной величины ξ относительно события B, имеющего ненулевую вероятность определяется как интегралE(ξ | B ) = ∫ ξ (ω )PB (dω ) = ∫ ξ (ω )ΩBP(dω ).P(B )Последнее равенство следует из того, что PB (ω) = 0, если ω ∉ B.

Отсюда следует, чтоP(B )E(ξ | B ) = ∫ ξ (ω )P(dω ) .BЧтобы ввести условное математическое ожидание относительно событий нулевой вероятности необходим другой подход.Рассмотрим счётное разбиение Aˆ = (B1 , B2 ,!) множества Ω:()∞"Bi= Ω , BiBj = ∅ (i ≠ j),i =1P(Bi) > 0 и рассмотрим случайную величину E ξ | Aˆ = E(ξ | Bi ), ω ∈ Bi . A1 — минимальнаяσ-алгебра, порождённая разбиением Aˆ = (B1 , B2 , !) : A1 = σ Aˆ . Если A ∈ σ Â , то( )( )( )∃B jk ∈ Â : A = " B jk . Также если A ∈ σ Â , то для любого A, входящего в минимальнуюkσ-алгебру, порождённую разбиением выполняется∫ E(ξ | Â )P(dω ) = ∫ ξ (ω )P(dω ).AA(E ξ | Â)E(ξ |B4)E(ξ |B2)E(ξ |B1)B1E(ξ |B3)B2B3B4…ωОпределение 2.

Пусть имеется (Ω, A, P), ξ — случайная величина на этом вероятностном пространстве, Eξ < ∞, A1 ⊂ A, A1 — σ-алгебра. Условным математическим ожиданием случайной величины ξ относительно σ-алгебры A1 называется случайная величина, которая удовлетворяет следующим двум условиям:1) E(ξ | A1) измерима относительно A1. (В случае конечного разбиения она будет кусочно-постоянной и, следовательно, измеримой).2) ∀A ∈ A1 выполняется:∫ E(ξ | A )P(dω ) = ∫ ξ (ω )P(dω ) .1AA38Пусть ξ ≥ 0. Обозначим ν (A) = ∫ ξ (ω )P(dω ). Если потребовать A ∈ A1, то ν будет меройAна A1. Из свойств интеграла Лебега следует, что ν абсолютно непрерывна относительно меры P.

В силу теоремы Радона-Никодима существует и почти всюду единственна измеримаяотносительно A1 (по мере µ) функция E(ξ | A1) такая, что ν (A) = ∫ E(ξ | A1 )µ (dω ) .AОпределение 3. Пусть ξ и η — случайные величины, Eξ < ∞. Тогда условным математическим ожиданием случайной величины ξ относительно случайной величины η назовёмE(ξ |η) = E(ξ |σ (η)), σ (η) = (η –1(B), B ∈ B).Определение 4.

Условным математическим ожиданием события A относительно σалгебры A1 назовём P(A| A1) = E(I(A)| A1).2°°. Свойства условного математического ожидания.1. ξ ≥ 0 ⇒ E(ξ | A1) ≥ 0.2. ξ измерима относительно A1 ⇒ E(ξ | A1) = ξ. Это следует из единственности функции в теорема Радона-Никодима (математическое ожидание константы равно константе).3. E(E(ξ | A1)) = E(ξ ).4. Линейность: ∀a, b ∈ R, ∀ случайных величин ξ, η: Eξ < ∞, Eη < ∞ верноE(aξ + bη | A1) = a·E(ξ | A1) + b·E(η | A1).5. Если ξ и η независимы, причём Eξ < ∞, то E(ξ |η) = E(ξ ).6.

Если ξ и η — случайные величины, причём Eξη < ∞ и ξ измерима относительно A1,то E(ξη | A1) = ξ E(η | A1).7. Если ξ и η — случайные величины, причём Eϕ (ξ, η) < ∞ и ξ измерима относительноA1, ϕ(ξ, η) — случайная величина, зависящая от ξ и η. ТогдаE(ϕ (ξ ,η ) A1 ) = E(ϕ (u ,η ) A1 )u =ξ .8. Если A1 ⊂ A2 ⊂ A, ξ — случайная величина, Eξ < ∞, тоE((E(ξ | A1))| A2) = E(ξ | A1) = E((E(ξ | A2))| A1).9.

Если ξ и η — случайные величины, Eξ < ∞, то существует такая измеримая функцияϕ, что E(ξ |η) = ϕ (η).3°°. Вычисление условного математического ожидания. Если E(ξ | A1) принимает неболее счётного числа значений, то оно может быть вычислено по формуле∑ ∫ ξ (ω )P(dω )iBiP(B ).Рассмотрим E(ξ |η), если (ξ, η )— абсолютно непрерывный случайный вектор с совместной плотностью p(u, v) распределения ξ и η. Тогда pξ (u ) =+∞+∞−∞−∞∫ p(u, v )dv , pη (v ) =∫ p(u, v )du .Условной плотностью распределения ξ при условии η = v называется pη (u , v ) =Справедлива формула+∞E(ξ | η ) = ∫ upη (u,η )du =−∞39up (u,η )du .pη()η−∞+∞∫p(u , v ).pη (v )§14.

Цепи Маркова1°°. Цепи Маркова. Рассмотрим последовательность случайных величин ξ0, ξ1, …, ξn, …такую что любая ξk принимает значения 0, 1, 2, …: (ξ k = i ), i = 0, 1, 2, …Определение 1. Последовательность {ξ i} является цепью Маркова, если()) ()∀n, ∀0 ≤ k0 < k1 < $ < k n , ∀i0 ! , in : P ξ k1 = i1 ,!, ξ kn = in > 0влечёт за собой(P ξ kn = in ξ k0 = i0 ,! , ξ kn−1 = in−1 = P ξ kn = in ξ kn−1 = in−1 .Случайная величина ξ n называется состоянием цепи Маркова в момент времени n.Случайная величина ξ 0 называется начальным состоянием цепи Маркова.

0, 1, 2, … n, … —индексы случайных величин — рассматриваются как моменты дискретного времени. Соответственно вероятностьPi ,(nj ,n+1) = P(ξ n+1 = j ξ n = i )называется вероятностью перехода из состояния i в состояние j из n-го момента времени в(n + 1)-ый.Определение 2. Цепь Маркова называется однородной, если вероятности перехода(n ,n+1)Pi , j= Pi , j — не зависят от n.В дальнейшем будем рассматривать только однородные цепи Маркова.

Характеристики

Список файлов лекций