Лекции по теории вероятностей (Б.И.Волков, 2006) (1134037), страница 6
Текст из файла (страница 6)
Обозначим через pij вероятность перехода из i-гов j-е состояние за n шагов. Легко предположить (однородность!), что она независит от абсолютного номера шага s.При переходе из состояния i на s-м шаге в состояние j на s + n-м шагесистема на s + m-м шаге может побывать в любом состоянии k, k = 1, . . .
, N .Отсюда следует, что π (n) = π n и π n = π m π n−m (в данном случае это простостепень матрицы).25Конспект лекций по теории вероятностей 2006По формуле полной вероятности имеем(n)pij=NX(m) (n−m)pik pkjили π (n) = π (m) π (n−m) .(12)k=1P¡ PPPµPP¡PPk¡q jP*©3́¡©©µ´¡¡´¡©©´¡©iH´ ¡´ ¡@HH´¡@ HH´¡j´H@¡@¡@R¡@s+mss+nОтметим, что π n тоже стохастическая матрица (Доказать!).Эргодичность.
Рассмотрим абсолютную вероятность pnj =NPk=1(n)ai pij (на-хождения системы в состоянии j на n-м шаге от начала) и предположим, что 15lim pnij = pj .n→∞Тогда lim pnj = limn→∞NPn→∞ k=1вероятностей. Из равенстваследуетNPak pnkj =NPk=1ak pj = pj финальное распределениеk=1pn−1pij = pnj ((12), m = n − 1) при n → ∞iNX(13)pi pij = pj .k=1Это значит, что финальное распределение стационарно (инвариантно) т.е.является единственным решением системы алгебраических уравнений 16 с доNPполнительными условиями pj > 0 иpi = 1.i=1Если при этом pj > 0, j = 1, . . . , N , то говорят, что Марковская цепь (систе(n)ма) эргодична.
В этом случае безусловные (абсолютные) вероятности p j стремятся к pj независимо от начального распределения, а система (13) при указанных условиях имеет единственное решение.Полезна следующая теорема для конечных марковских цепей:Теорема Маркова. Пусть существуют целые ν и j0 , такие, чтоmin pνij0 = δ > 0. Тогда существуют числа pj , j = 1, .
. . , N , такие, чтоilim pnij = pj , j = 1, . . . , N независимо от i.n→∞Доказательство. Обозначим Mjr = max pij r , mrj = min pij r , mrj 6 Mjr .i1516iДалее опустим скобки у верхнего индекса.Левый собственный вектор матрицы π, отвечающий собственному значению, равному 1.26Конспект лекций по теории вероятностей 2006Далее, mr+1= minjiMjr+1Mjr .Pkpik prki > miniPkpik min prki = mrj . Аналогично,k6Таким образом, m1j 6 m2j 6 . . . 6 mrj 6 . . .
6 Mjr 6 . . . 6 Mj2 6 Mj1 .Из монотонности и ограниченности следует, что существуют пределыlim Mjn = Mj и lim mnj = mj , причем mj 6 Mj .n→∞n→∞Теперь фиксируем две строки матрицы π ν с номерами α и β (т.е. рассмотримpναk и pνβk ), k = 1, . . . , N .PPPP.и −=Обозначим + =k: pναk <pνβkk: pναk >pνβkТогдаP+ νPP+ νPpαk + + pναk = 1,(pαk − pνβk ) + + (pαk − pνβk ) = 0,P+PPPpαk − + pβk = 1 − − pαk − + pβk 6 1 − δ.Далее,XXpνβk pnkj =pναk pnkj − minMjν+n − mjν+n = maxα= maxα,β= maxα,βnX+nX+(pναkX(pναk pnkjk−βkpνβk )pnkj−+X−(pναkk=−X−pνβk )pnkjo6o(pναk − pνβk )mnj =nX +oX+(pναk − pνβk )Mjn −= max(pναk − pνβk )mnj =α,βX+= max(pναk − pνβk )(Mjn − nnj ) 66 maxα,β(pναk − pνβk )Mjn +pνβk pnkj )α,β6 (1 − δ)(Mjn − mnj ).Переходя к пределу при n → ∞, получимMj − mj 6 (1 − δ)(Mj − mj ),что возможно лишь при Mj = mj .Следствие.
Если условия теоремы Маркова усилить, потребовав выполнения неравенства min pνij = δ > 0 для всех j, а не только для j0 , то изijpj > mνj > δ > 0, j = 1, . . . , N следует эргодичность.Теорема (без доказательства). Пусть A подмножество состояний эргодической системы, TA время нахождения системы в A, T общее времяфункционирования системы. ТогдаXTA=pi .T →∞ Tω ∈AlimiКонспект лекций по теории вероятностей 200627ЭЛЕМЕНТЫ МАТЕМАТИЧЕСКОЙСТАТИСТИКИРаспределение ортогональных проекций нормального вектора.Л.
9Рассмотрим n-мерное евклидово пространство Rn , x = (x1 , . . . , xn ) ∈ Rn ,nPxk yk . Пусть ξ = (ξ1 , . . . , ξn ) случайный вектор в этом простран(x, y) =k=1стве, причем ξ ∼ N(0, σ 2 I).Напомним, что в общем случае, когда ξ ∼ N(0, Σ),½¾(det Σ−1 )1/21−1pξ (x) =exp − (x, Σ x) .(2π)n/22Если Σ = σ 2 I, где I единичный оператор, то координаты ξ½¾11 2pξi (xi ) = √exp − 2 xi .2σ2πσ 2iнезависимы иОртогональный проектор.Пусть L линейное подпространство R n и L ортогональное дополнениеL в Rn , т. е. множество векторов x ∈ Rn , ортогональных всем векторам из L:⊥L⊥ = {x ∈ Rn , (x, y) = 0, y ∈ L}.Очевидно, L⊥ также линейное пространство Rx ∈ Rn может быть представлен в виде суммыx = x1 + x2 ,n .
Как известно, всякий векторx1 ∈ L, x2 ∈ L⊥ .(14)Разложение(14)единственно.Действительно,равенство⊥0000x = x1 + x2 = x1 + x2 , x1 ∈ L, x2 ∈ L , совместно с (14) влечет(x1 − x01 )2 + (x2 − x02 )2 = 0. Слагаемые в последнем равенстве ортогональны,так как x1 − x01 ∈ L, x2 − x02 ∈ L⊥ , поэтому(x1 − x01 )2 + (x2 − x02 )2 = 0, т. e.
x01 = x1 , x02 = x2 . Следовательно каждомуx ∈ Rn разложением (14) ставится в соответствие единственный вектор x1 ∈ L:(15)x1 = Πx.Π называется оператором ортогонального проецирования на L, или ортогональным проектором на L. Отметим следующие свойства оператора Π.1) Π линейный оператор. Действительно, пустьx = x1 + x2 , y = y1 + y2 , x1 , y1 ∈ L, x2 , y2 ∈ L⊥ .(16)Тогдаαx + βy = (αx1 + βy1 ) + (αx2 + βy2 ), αx1 + βy1 ∈ L, αx2 + βy2 ∈ L⊥ .Следовательно,согласноΠαx + βy = αx1 + βy1 = αΠx + βΠy.определению(15)28Конспект лекций по теории вероятностей 20062) Πсамосопряженный оператор, т.е.
для любых x, y ∈ R n(Πx, y) = (x, Πy). Действительно, воспользовавшись разложением (16), найдем(Πx, y) = (x1 , y) = (x1 , y1 ) = (x, y1 ) = (x, Πy).3) Оператор Π удовлетворяет уравнению Π2 = Π ( идемпотентность ). Действительно, для всякого x ∈ Rn : Πx = x1 = Πx1 = Π(Πx), поскольку для ∈ Lразложение (14) имеет вид x1 = x1 = Πx1 .На самом деле свойства 1) 3) не только необходимы, но и достаточны длятого, чтобы оператор Π был ортогональным проектором. Для доказательствапредположим, согласно свойству 1, что Π линейный оператор. Обозначимчерез L множество решений уравнения Πx = x. через N множество решенийуравнения Πx = 0 . Легко убедиться, что L и N линейные подпространстваRn , причем ортогональные, если Π удовлетворяет условию 2).
В самом деле, если x ∈ L, y ∈ N . то (x, y) = (Π, ) = (, Πy) = (x, 0) = 0. Для всякого вектораx ∈ Rn можно записать тождествоx = Πx + (I − Π)x.(17)Если Π удовлетворяет условию 3), то Π(Πx) = Πx, т. е. Πx ∈ L иΠ(I − Π)x = (Π − Π2 )x = 0, т. е. (I − Π)x ∈ N .Следовательно, Πоператор ортогонального проектирования наL = {x ∈ Rn , Πx = x}. Из разложения (17) следует также, что операторI − Π ортогонально проецирует на N = {x ∈ Rn (I − Π)x = x} = L⊥ .Отметим следующее важное свойство ортогонального проектора. Пусть Πоператор ортогонального проецирования на линейное подпространство L иρ(x, L) = inf{|x − y|| | y ∈ L}(18)расстояние от x до L. Тогдаρ(x, L) = ||x − Πx||.(19)Действительно, пусть y ∈ L.
ТогдаΠx − y ∈ L, x − Πx = (I − Π)x ∈ L⊥и, следовательно,||x − y||2 = ||x − Πx + Πx − y||2 = ||x − Πx||2 + ||Πx − y||2 > ||x − Πx||2 ,причем равенство здесь выполняется лишь в случае Πx = y.Ортогональное преобразование.Обозначим через U оператор ортогонального преобразования (оператор перехода от одного ортонормированного базиса к другому), ẽ i = U ei . Он обладаетсвойствами: U ∗ = U −1 и ||U x|| = ||x|| (||U ∗ x|| = ||x||), det Û = ±1. (Здесь Ûматрица оператора U ).Теорема.
Распределение вектора η = U ξ совпадает с распределением вектора ξ (т.е. ηi ∼ N(0, σ 2 ) и независимы).Конспект лекций по теории вероятностей 200629Доказательство.pη (y) = pξ (U−1¾½11−12y)| det Û | =exp − 2 ||U y|| =(2πσ 2 )n/22σ¾½1||y||2=exp − 2 .(2πσ 2 )n/22σ−1Определение 1. Распределением χ2m или Пирсона (E.S.Person) с m степенями свободы называется распределение сл. величины, равной сумме квадратовmPξk2 независимых сл. величин ξk ∼ N(0, 1).k=1Свойства17 . Плотность:pχ2m (x) =1m2m/2 Γ( m2 )xx 2 −1 e− 2 .Моменты: χ2m = m, χ2m = 2m.Следствие 1. ||Πm ξ||2 = σ 2 χ2m .Доказательство. Пусть Πm x ∈ Lm ⊂ Rn . Рассмотрим новый базис {ẽi },i = 1, .
. . , n, удовлетворяющий условиям ẽi ∈ Lm , i = 1, . . . , m, ẽi ∈ L⊥m,i = m+1, . . . , n и пусть U ортогональный оператор перехода от старого базиmPса {ei } к новому {ẽi }, ẽi = U ei , i = 1, . . . , n. Тогда ||Πm ξ||2 = (ξ, ẽi )2 = σ 2 χ2m ,i=1т.к. по теореме (ξ, ẽi ) ∼ N(0, σ 2 ).Определение 2.
Пусть χ2m и χ2k и независимы. Тогда сл. величина1χ2Fm,k = m1 χ2m контролируется распределением Фишера (R.A.Fischer).k kСвойства. Плотность:kkmk 2 −1 m 2 −1 x 2 −1 (kx + m)−pFm,k (x) =Γ( k2 )Γ( m2 )k+m2Γ(k+m),2x > 0.2m, m > 2 Fk,m = (m−2)2m2 (m−4) (1 + m−2), m > 4.Моменты: Fk,m = m−2kСледствие 2. Пусть Rn = Lk ⊕ Lm ⊕ Ls , k + m + s = n, Πk ортогональный1||Π ξ||2проектор на Lk , Πm ортогональный проектор на L m . Тогда Fk,m = 1k ||Πkm ξ||2 .mДоказательство. Пусть новый базис {ẽi }, i = 1, . .
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
