2002. Теория вероятности и математическая статистика. Лектор - В.Г.Ушаков (1120051), страница 9

Просмтор этого файла доступен только зарегистрированным пользователям. Но у нас супер быстрая регистрация: достаточно только электронной почты!

Текст из файла (страница 9)

Тогда, зная распределение ξ0 (то есть начальное состояние цепи), можно найти распределения всех случайных величин ξ i:Pi (0 ) = P(ξ 0 = i ) , Pij = P(ξn+1 = j|ξ n = i).Используя формулу для произвольных n событий A1, …, AnP(A1 $ An ) = P(A1 )⋅ P(A2 A1 )⋅ P(A3 A1 A2 )$P(An A1 $ An−1 )получаем, чтоP ξ 0 = i0 , ξ1 = i1 ,!, ξ n = in  = Pi0(0 )Pi0i1 Pi1i2 $ Pin−1in .A1An A0Пример 1.

Пусть ξ0, ξ1, ξ2, … — последовательность независимых случайных величин,принимающих целые неотрицательные значения. Тогда эта последовательность образуетцепь Маркова. Действительно, используя независимость случайных величин, покажем также,что цепь однородная:Pi (0 ) = P(ξ 0 = i ) = P(ξ k = i ) ∀i, Pij = P(ξ n +1 = j ξ n = i ) = P(ξ n +1 = j ) = Pj(0 ) .Матрица (Pij), вообще говоря бесконечная, называется матрицей вероятностей перехода. В приведенном выше примере все строки этой матрицы одинаковы: P0(0 )(Pij ) =  P0(0 ) %P1(0 ) $P1(0 ) $ .% +Пример 2. Пусть η1, η2, …, ηn, … — последовательность независимых одинаково распределённых случайных величин, принимающих целые неотрицательные значения.

Введёмпоследовательность ξ 0 = 0, ξn = η1 + … + ηn (n ≥ 1), ξ n+1 = ξ n + ηn+1,40зависят только от η1,!,ηn.''''-'''',P(ξ n+1 = in+1 ξ 0 = 0, ξ1 = i1 ,!, ξ n = in ) = Pηn+1 = in+1 − in ξ 0 = 0, ξ1 = i1 ,!, ξ n = in  = P(ηn+1 = in+1 − in ) ,последнее следует из независимости соответствующих событий. Следовательно, {ξ i} образует цепь Маркова иj < i,j ≥ i.0,Pij = P(η1 = j − i ),Если обозначит P(ηi = k) = ak, то матрица вероятностей переходов будет в данном случаеиметь верхний треугольный вид a00(Pij ) =  00%a1a000%a2a1a00%a3a2a1a0%$$$ .$+Обозначим P(ξ n = j ξ 0 = i ) = Pij(n ) — вероятность перехода из состояния i в состояние j заn шагов.Теорема 18 [А. Н.

Колмогоров, С. Чепмен]. Для однородной цепи Маркова верно∞Pij(n+ m ) = ∑ Pik(n )Pkj(m ) (уравнение Колмогорова-Чепмена).k =0Доказательство. Обозначим Bk = (ξn = k), k = 0, 1, 2, … В объединении Bk дают достоверное событие, попарно Bi и Bj (i ≠ j) несовместны. Воспользуемся формулой полной вероятности:∞P(ξ n+m = j ξ 0 = i ) = ∑ P(Bk ξ 0 = i )⋅ P(ξ n+ m = j Bk , ξ 0 = i ) =k =0∞∞k =0k =0= ∑ P(ξ n = k ξ 0 = i )⋅ P(ξ n + m = j ξ n = k ,ξ 0 = i ) = ∑ P(ξ n = k ξ 0 = i )⋅ P(ξ n + m = j ξ n = k ) .Для однородной цепи Маркова вероятность перехода за фиксированное число шагов не зависит от того, начиная с какого момента рассматривать эти переходы, поэтому∞∞k =0k =0∑ P(ξ n = k ξ 0 = i )⋅ P(ξ n+m = j ξ n = k ) = ∑ Pik(n )Pkj(m ) .Теорема доказана.Введём обозначения P = (Pij ), P (n ) = Pij(n ) . Тогда P(n+m) = P(n)·P(m) ⇒ P(n) = Pn,( )∞∞i =0i =0P(ξ n = j ) = ∑ P(ξ 0 = i ) ⋅ P(ξ n = j ξ 0 = i ) = ∑ P(ξ 0 = j )Pij(n ) .()()P (0 ) = P0(0 ) , P1(0 ) ,! , P (n ) = P0(n ) , P1(n ) ,! ⇒ P(n) = P(0)·P(n) = P(0)·Pn.2°°.

Классификация состояний. Рассматривается последовательность случайных величин {ξ n }n≥0 . Будем использовать обозначения P (0 ) = P0(0 ) , P1(0 ) ,! , P = (Pij ), Pij(0 ) = (δ ij ), где(i = j,i ≠ j.1,δ ij = 0,41)Определение 3. Говорят, что состояние j достижимо из состояния i, если ∃ n : Pij(n ) > 0 .Определение 4. Состояния i и j называются сообщающимися, если i достижимо из j и jдостижимо из i. Обозначение: i ↔ j.Утверждение. i ↔ j — отношение эквивалентности.Доказательство. 1) i ↔ i и 2) i ↔ j ⇒ j ↔ i — очевидны.3) i ↔ j, j ↔ k ⇒ i ↔ k. Докажем транзитивность. Докажем, что k достижимо из i (наоборот доказывается аналогично).j достижимо из i: ∃n1 : Pij(n1 ) > 0 ,k достижимо из j: ∃n2 : Pjk(n2 ) > 0∞Согласно уравнению Колмогорова-Чепмена Pik(n1 + n2 ) = ∑ Pij(n1 )Pjk(n2 ) , откуда следует, что, поk =0скольку в сумме будет хотя бы одно положительное слагаемое, вся сумма будет строго положительной.Утверждение доказано.3°°.

Критерий возвратности. Обозначим f ii(n ) = P (ξ n = i , ξ ν ≠ i , i = 1, ! , n − 1 ξ 0 = i )— вероятность первого возвращения в состояние i за n шагов, при этом Pii(n ) — просто вероятность возвращения в состояние i за n шагов.Определение 5. Состояние i называется возвратным, если вероятность возвращения в∞∑ f ( ) = 1.данное состояние за конечное время равна 1:niin =1∞Теорема 19 [Н.

Абель]. {an}n≥0, a(s ) = ∑ an s n и если an — вероятности, то |s| < 1.n =01) Если∞∑anсходится (< ∞), то существует предел при s стремящемся изнутри единич-n =0∞ного круга, монотонно возрастая lim a (s ) = ∑ an .s ↑1n =02) Если an ≥ 0 и существует lim a (s ) = a , тоs↑1∞∑an= a.n =0Примем эту теорему без доказательства.∞∞n =0n=0Лемма. Обозначим pii (s ) = ∑ s n Pii(n ) , f ii (s ) = ∑ s n f ii(n ) . Тогдаpii (s ) =1.1 − f ii (s )nДоказательство. Для любого n ≥ 1, очевидно, Pii(n ) = ∑ f ii(k )Pii(n−k ) , обозначив f ii(k ) = Bk ,k =0что означает, что первое возвращение в состояние i произошло на j-ом шаге. Очевидно,Pii(n ) = B1 ∪ B2 ∪ ! ∪ Bn , Bi ∩ Bj = ∅ (i ≠ j). Положим Pii(0 ) = 1, f ii(0 ) = 0 .

Тогда∞∞nn=0k =1∞∞pii (s ) = ∑ s n Pii(n ) = 1 + ∑ s n ∑ f ii(k )Pii(n − k ) = 1 + ∑∑ s n f ii(k )Pii(n − k ) =n=0∞∞k =1n =kk =1 n = k= 1 + ∑ s k f ii(k ) ∑ s n−k Pii(n−k ) = f ii (s ) pii (s ) ⇒ pii (s ) =Лемма доказана.421.1 − f ii (s )Теорема 20. Состояние i возвратно тогда и только тогда, когда∞∑ P ( ) = +∞ .niin =0Доказательство.

Пусть i возвратно. Тогда∞∑ f ( ) = 1 и в силу теоремы Абеля сущестniin =1вует предел lim f ii (s ) = 1 , а, следовательно, в силу утверждения леммы, и того, что все fii(s) ≤1s↑1lim pii (s ) = +∞ иs↑1∞∑ P ( ) = +∞ . Таким образом, необходимость доказана.n =0niiДокажем достаточность. Пусть ряд∞∑ P( )nn =0iiрасходится. Предположим, что i невозврат-но. Тогда∞∞11∑ f ( ) = α < 1 ⇒ lim f (s ) = α ⇒ ∃ lim p (s ) = 1 − α < ∞ ⇒ ∑ P ( ) = 1 − α < ∞ .niin =0iis↑1iis↑1niin =0Полученное противоречие завершает доказательство.4°°.

Случайные блуждания на прямой и плоскости. Будем рассматривать перемещение частицы вдоль прямой.q=1–pk–1pkk+1В каждый момент (дискретного) времени частица может находиться в любой целочисленнойточке, а при увеличении времени на единицу перемещаться на 1 в положительном направлении с вероятностью p или в отрицательном с вероятностью 1 – p.

ξn — положение частицы вмомент времени n. Очевидно, последовательность ξn является цепью Маркова, так как положение частицы в момент времени n зависит очевидным образом лишь от её положения в момент n – 1. Для данной модели справедливо(k )P000,=  2n  nn  p (1 − p ) , n k = 2n + 1,k = 2 n,так как чтобы вернуться, необходимо сделать n шагов от точки и n шагов обратно. Для того,чтобы определить, возвратность начального состояния, воспользуемся приближением формулы Стирлинга для факториала:n!~ nn+12 −ne2π ,n → ∞.Согласно вышеприведённым формулам1(2 n )P002 n+n2n )!2n ) 2 e − 2 n2 2 n ( p (1 − p ))((nn( p(1 − p )) ~ 2 n+1 −2 n( p(1 − p )) = C=n e2πn(n!)2n4 p (1 − p ))(=CnВ силу того, что 4p(1 – p) ≤ 1, причём равенство достигается только в случае p =43.1, имеем2p≠1an, a < 1 ⇒ состояние невозвратное,⇒ P00(2 n ) ~ C2n1Cp = ⇒ P00(2 n ) ~⇒ состояние возвратное.2nСлучайные блуждания вдоль прямой моделируют множество реальных процессов, среди которых блуждание капитала и разорение игрока.Будем рассматривать случайные блуждания частицы на плоскости: в каждый момент(дискретного) времени частица находится в целочисленной точке, и в следующий момент1времени она может переместиться на 1 влево, вверх, вправо или вниз с вероятностями .414141414В таком случае(k )P00k = 2n + 1,0,2n 2n 2=    1  n  ⋅  4  , k = 2n, Используя полученные результаты:P00(2 n ) ~1,πnоткуда выводим, что начальное состояние возвратно.Определение 6.

Цепь Маркова {ξn} называется неразложимой, если все её состоянияявляются сообщающимися, и разложимой в противном случае.Определение 7. Состояние i цепи Маркова называется периодическим с периодом d, если возвращение с положительной вероятностью в i возможно, но только за число шагов,кратное d > 1, и d есть наибольшее число, обладающее этим свойством.Определение 8. Неразложимая цепь Маркова {ξn} называется периодической с периодом d > 1, если все её состояния являются периодическими с периодом d > 1, и непериодической в противном случае.Определение 9. Неразложимая цепь Маркова называется возвратной, если у неё существует возвратное состояние. В этом случае все её состояния будут возвратными.Теорема 21. Пусть {ξn} — неразложимая, непериодическая возвратная цепь Маркова.Тогда существует пределlim Pii(n ) = lim Pji(n ) =n→∞n→∞1∞∑ nf ( )niin =0равный среднему времени первого возвращения.44=1,Eξ nЧасть II. Математическая статистика§1.

Статистическая структура1°°. Определение статистической структуры. Статистической структурой называется совокупность (Ω, A, P), где Ω — множество элементарных исходов, A — σ-алгебра событий (подмножеств Ω), P — семейство вероятностных мер, определённых на A. Таким образом в рамках одной статистической структуры рассматривается множество вероятностныхпространств, у которых Ω и A общие, а вероятности P — разные. Задачей математическойстатистики является на основе проведения несколько раз эксперимента и, имея информациюо том, как он заканчивался, выбрать какую-либо вероятность из P или сузить P.

Характеристики

Список файлов лекций