Цепи Маркова (1121219), страница 75
Текст из файла (страница 75)
Функции правдоподобия, II. Формула Уиттла477где A — это матрица r × r. В силу формул (3.4.4) имеем − F− = A 0 ,0I(3.4.10)Это означает, что условная вероятность Υ (F | B (n, x, y)) равна (F) дляF ∈ B (n, x, y).Д о к а з а т е л ь с т в о формулы (3.4.3). Проведем доказательство с помощью индукции по n. Уравнение (3.4.3) имеет место для n = 1 (в этомслучае обе части уравнения (3.4.3) равны 1).
Предположим, что оно имеетместо для n−1. Обозначим через G(k, m) матрицу, полученную из G = (G ij)путем уменьшения (k, l)-го элемента на 1: G(k, m) = G − E(k, m), где(E(k, m)) ij = k,i j,m . Тогда, очевидно, для F = (fij) выполняется равенствоИнтересный вопрос возникает при вычислении моментов распределения Уиттла. Возьмем I = {1, . . . , s}. Пусть B = (bij) — (s × s)-матрицас собственными числами 1 , . . . , s , которые в данный момент предполагаются различными. Пусть g(x) — произвольный многочлен степени n,и пусть g(B) — соответствующий матричный многочлен.
Известная теоремаСильвестра утверждает, чтоXg( k)B(k),(3.4.11)g(B) =1(fkm >(n−1)0)Nml (F (k,m)).(3.4.7 а)k∈Iгде матрицы B(k) определены какm=1ϕ−(k,l)Поэтому достаточно показать, что выраженияв правой части уравнения (3.4.3) удовлетворяют аналогичному соотношению, а именно1(fkm > 0)kmf k+(ϕ− (k, m)) (m,l) .(3.4.7 б)ПосколькуsPm=1k,m−k),(3.4.12)k ∈ I.Матрица B(k) задает (неортогональную) проекцию ранга 1 на одномерное подпространство, образованное собственным вектором матрицы B,соответствующим k-му собственному значению k ; проецирование выполняется вдоль гиперплоскости, порожденной оставшимися собственнымивекторами. Матрицы B(k) идемпотентны, т.
е.−f− −fkmϕ (m,l) =k,mf k+k,l1(fkm > 0)iϕ−(m,l)= 0.(3.4.8)det F − , сразу получаем уравнение (3.4.8)для случая, когда k 6= l. Значит, нужно только показать, что det F − = 0,если k = l. Для удобства обозначений предположим, что элементы f i+ == f+i положительны при i 6 r и равны нулю при i > r. Тогда F имеетвидA 0F= 0 0 ,(3.4.9)(B(k)) 2 = B(k) и B(k)B(k0) = 0,k 6= k0 ,k, k0 ∈ I.Заметим, что B(1) — это (s × s)-матрица, каждая строка которой являетсяинвариантным вектором , определенным с помощью соотношения = P.Аналог формулы (3.4.11) имеет место и при наличии кратных собственныхзначений, хотя уравнение (3.4.12) будет в этом случае содержать производные полинома g.
Детали мы опускаем.Теорема 3.4.6. Если случайная (s × s)-матрица F имеет распределение Уиттла с параметрами (P, n, x), то математическое ожидание ее ( , )-го элемента задается формулойE (n, x) =n−1Xm=0px(m) p ,m=1iЗдесь и далее (ϕ− (k, m)) (m,l) обозначает (m, l)-кофактор в матрицеF − (k, m). Поскольку все столбцы матриц F − (k, m) и F − , кроме m-гостолбца, одинаковы, кофакторы совпадают: (ϕ − (k, m)) (m,l) = ϕ−(m,l) . Изэтого факта и соотношения (3.4.4) следует, что уравнение (3.4.7 б) эквивалентно уравнениюs hX(−Bm=1fQiIsXi∈I : i6=ki∈I : i6=kϕ−(k,l) =B(k) =Q, , x ∈ I,=sX(n)Nkl (F)ijϕ−(x,y) .ifij !где строки матрицы A− имеют нулевую сумму. Следовательно, det F − == det A− = 0.
(Если k 6= l, то матрица F − может быть невырожденной.)f i+ !(3.4.6 б)(n)Υ (F) = pxyn = 1, 2, 3, . . .(3.4.13)26k6s1−k(p(k)) x.i∈I : i6=k ( i I − P)Q,i6=k ( i − k)n−1Xpk(m) p=m=0= pxn−1X+x,px(m+1) p=m=0Qk=1(3.4.14)Здесь (p(k)) x задает (x, )-й элемент матрицы P(k), определеннойуравнением (3.4.12), при B = P:P(k) =pxkpx(m) p ,(3.4.19)m=0что подтверждает правильность шага индукции.Если все собственные числа k матрицы P различны, то из теоремыСильвестра получаемk = 1, . . . , s.px(m)=sXmk (p(k)) x,m = 0, 1, .
. .(3.4.20)k=1(n − 1, k),n > 2,E (n, x) =иx,, k ∈ I.N (1, x) =k,mk (p(k)) xp=pm=0 k=1(3.4.16)Таким образом, E (n, x) удовлетворяет уравнениямsn−1 XX(3.4.15),+Nk,Располагая собственные числа в порядке следующего убывания по абсолютной величине: 1 = 1 > | 2 | > . . . > | s |, запишем соотношение(3.4.20) в видеx,N (n, x) =Д о к а з а т е л ь с т в о. Пусть N , (n, x) — это случайное число переходов → в случайной матрице F, или, что эквивалентно, в выборке Xс распределением P (· | X0 = x).
Пусть переход x → k, k ∈ I — это первыйпереход в X. Тогда N (n, x) удовлетворяет уравнениямnXnksXX 1 −++nx,E (n + 1, x) = pxE (n, x) = p479Затем, используя уравнение (3.4.18), получим(m)где px — это (x, )-й элемент m-шаговой матрицы перехода Pm .Более того, предположим, что матрица P неприводима и апериодична, имеет различные собственные значения и обозначим их через1 = 1 > | 2 |, . . . , | s |.
Тогда математическое ожидание E (n, x)допускает представление§ 3.4. Функции правдоподобия, II. Формула УиттлаГлава 3. Статистика цепей Маркова с дискретным временем478n+s X1−k=21−nkk(p(k)) x.(3.4.18)m=1m=0,i− E (1, x) , n = 1,i− E (n, x) +,,ipx(n−1−m) p E (m, ) + px(n−m−1) p E (m, ) , n > 2,(3.4.21)Если матрица P неприводима, апериодична и имеет различныесобственные числам 1 , . . .
, s , то ковариация между элементами( , ) и ( , ) матрицы F, соответствующая второму уравнениюПоскольку x, p = x, px , уравнение (3.4.18) выполняется, если подставить в него функции из формулы (3.4.17), т. е. справедливо при n = 1.n−1 hXhpx(m) p .(n, x) = E (n, x)+E (n, x) =n−1X, ; ,,Докажем по индукции, чтоCh(3.4.17)(n, x) = E (1, x)., ; ,x,CE (1, x) = pxиk=1pxk E (n − 1, k), n > 2,x,sX+E (n, x) = pxТеорема 3.4.7.
Если случайная матрица F имеет распределениеУиттла с параметрами (P, n, x), то для любых , , , ∈ I ковариация между элементами ( , ) и ( , ) матрицы F задаетсяформуламиГлава 3. Статистика цепей Маркова с дискретным временем+ x, k, N , (n − 1, k) +(n − 1, k) + N , (n − 1, k)N , (n − 1, k), n > 2.,x,k,(n, x) := E [N,Более того, «смешанный» второй момент(n, x)N+,,,x px,n−1X,,E,(n, x)]x,(n−1−m)pkpx Epx(m+1) p +m=0,+,n−1Xn = 1,(3.4.23)px E,(m, ) + pk,(n, ) +x,px E,(n, ) +x,m=0nXp E(n, ) +(n + 1, x) +(n−1−m)px Ex,px(n−m) p Em=1,(1, s),m=1n−1Xm=1=, ; ,(n + 1, x) = , , ,x px +n−1X(m)pxkpk p +,,+=n = 1,,p E,(m, )(n, ) +,,(m, ) + px(n−m) p E,px(n−m) p E (m, ) + px(n−m) p Ek=1,k ,E=(m, ) =,+sX,,x,, ; ,,,,(n, x) =, (n, x) =+ x, k, N,(n, x)N(n, x)N,,n > 2,откуда будут следовать равенства (3.4.21).Для значений n > 2 снова применим индукцию.
При n = 2 уравнение(3.4.23) проверить легко. Чтобы провести шаг индукции от n к n + 1,запишем(3.4.22)Д о к а з а т е л ь с т в о. Шаг 1. Пусть, как и ранее, N , (n, x) обозначаетчисло переходов из состояния в состояние в последовательности X,и предположим, что первый переход — это x → k. ТогдаNN.(k, )] ,k0i(n, x) =−n−1k0 ),k×−, ; ,+ (p(k)) x (p(k)) ] +n−1k0 ( k(k, ) + px(n−1−k) p E,(n, x) +k−[px(n−1−k) p E,1−E,n−1k, n = 1.k=1((p(k)) x + (p(k)) )] +,h 1 −+(n, x) =n−1X×, ; ,+ (p(k)) x (p(k0))1 − k0x pxШаг 2.
Далее, покажем, что(p(k)) x (p(k0)) x −[(p(k)) x p(k));, (p(k)) (p(k0))x2k(n, x) =+ (n − 1)(1 − 2k)px, Ex,k=1+×n−1k+k=2 k0 =2,k0 6=kx,sX2kn−1−n k+(1 − k) 2k0(n − 1, ) +sXpx E (n − 1, ) +pxk , ; , (n − 1, k), n > 2,,x px,sX1−k++1−nk0((p(k)) x + (p(k)) ) +s X1−nk=2 1 −nk(p(k)) x,−+s X1−k=2 k0 =2s Xk=2×[ki(n, x) =+(p(k)) x +k(p(k)) x, ; ,− −nn hk+1−1−k=2k=2sX+nnk Xs 1−−p pn,s X1−,(n, x) = p, ; ,C481удовлетворяет соотношениям(3.4.21), приведенному выше, допускает представление§ 3.4. Функции правдоподобия, II. Формула Уиттла480(m, ) .Шаг 3.
Наконец, предположим, что матрица P неприводима, апериодична и имеет различные собственные значения. Тогда ковариации482m=1 k=2+ms X1−mk01−k0 =2+mk0k(p(k)) x0p (k )s X1−k0 =21−mk0k0n−1Xmk)=(n−1−m)(1kn−1Xm= 1m= 1(n−1−m)(1kn−1−n1−−−m= 1(1 −n−1Xm= 1nkn−1−n k+=(1 − k) 2m(n−1−m)kmk0 )mk)==k+nk,1−n+0p (k ) .k = 2, .
. . , s,−p pXs+k=2sX+p pp,n−1kk−k0 (k−−n−1k0 )k=21−nkk0,(n, x) ≈ p n+k+−(p(k)) x (p(k))+ (p(k)) x (p(k)) − (p(k)) x (p(k)) x(1 − k) (1 − k0 )(3.4.26)при n → ∞.Пример 3.4.9. Проверьте, что для переходной (2 × 2)-матрицы вида1−ppP=, 0 6 p, q 6 1,q1−q(m),m−1Xk=1k, k = 2, . . . , s, k0 6= k,+ (n − 1)1− kk(p(k))((p(k)) x + (p(k)) ) + ((p(k)) x + (p(k)) )+(1 − k) 2k,k0 =2p12 = p0n−1ksX(p(k)) x+1−−q/ (p + q)q/ (p + q)Найдите выражения для элементов m-шаговой переходной матрицы P m :k = 2, . . . , s,n−1k(p(k))k=2q/ (p + q) p/ (p + q),psXтеорема Сильвестра ведет к спектральному разложениюq (p + q) p/ (p + q)p/ (p + q) −p/ (p + q)+ (1 − p − q),P= /k = 2, . . . , s.
(3.4.24)(1 − p − q) k ,(m)p21 = qm−1Xk=1(m)(1 − p − q) k ,(3.4.27)(m)а также аналогичные формулы для p11 и p22 , m = 1, 2, . . .Решение. Сразу же видно, что qp=,.p+q p+qТогда для матрицы Pm выполняются соотношенияq (p + q) p/ (p + q)p/ (p + q)+ (1 − p − q) mPm = /Пример 3.4.8. Докажите соотношения (3.4.24).Замечание. Из уравнения (3.4.14) следует, чтоE−+pk1−1−,+Легко получить равенства (3.4.21), используя следующие (легко проверяемые) тождества:n−1X,nk1−k=2+ (p(k)) xs X1−p+n(n, x) ≈,(p(k)) x−p≈n×,(p(k)) x, , ,(n−1−m)kk+p p×sn−1 XX1−1−k=2nk+CCs X, ; ,(n, x) = p n483при n → ∞. Аналогично из уравнений (3.4.21) можно вывести, что(n, x) имеют вид§ 3.4.
Функции правдоподобия, II. Формула Уиттла, , ,CГлава 3. Статистика цепей Маркова с дискретным временемq/ (p + q) p/ (p + q)sX(p(k)) xk=21−k(3.4.25)−p/ (p + q)−p/ (p + q) q/ (p + q)Отсюда в дополнение к равенствам (3.4.27) получаем 1 − (1 − p − q) m 1 − (1 − p − q) m (m)(m)p12 = p, и p21 = q.1 − (1 − p − q)1 − (1 − p − q).Глава 3. Статистика цепей Маркова с дискретным временем§ 3.5. Байесовский анализ цепей Маркова: априорные и апостериорные распределения 485Подробное изложение свойств распределения Уиттла можно найтив статье: Billingsley P. Statistical methods in Markov chains // AnnalsMath.
Statist. 1961. V. 32. P. 12–40.независимыми. Это означает, что совместные плотности распределенияprpr0 ( ) и tr (P) нужно рассматривать как заданные на линейно независимыхс.в. (но только если исключить один элемент из вектора и один элементиз каждой строки матрицы P). Напомним, что аналогичный комментарийсопровождал определение мер Лебега в формуле (3.1.13).Как нетрудно видеть из формулы (3.5.1 а, б), плотность распределенияpr() относится к тому же типу, что и совместная плотность распределения0элементов одной строки матрицы P. Поэтому можно сосредоточиться наprизучении плотности распределения pr (P) = tr (P) из формулы (3.5.1 б),опуская индекс «tr».
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
