Цепи Маркова (1121219), страница 72
Текст из файла (страница 72)
Состоятельность оценок. Различные виды сходимости459б) Налагая необходимые условия на матрицу P и ее инвариантноераспределение , сформулируйте свойство состоятельности оценки изформулы (3.3.14) в смысле сходимости по вероятности. Связав эту сходимость с з.б.ч. и используя неравенство Чебышёва или Маркова, докажитесвойство состоятельности.Решение. а) В этом примере Θ = P , где множество P определенов формуле (3.1.7). Будем работать c уравнением (3.3.13), стремясь отыскать решение задачиXnij ln(pij)max l (x, P) = maxP= (pij)P= (pij)16i,j6sk=1pxk−1 xk∂pxk−1 xk =nij (x)i,j1∂1Xpij ∂∂l(x, ) =∂∂при ограниченияхn Xpij = 0,16k6sчасто называемые уравнениями максимального правдоподобия. Здесь символ ∂ /∂ означает частную производную по(соответственно векторградиента для многомерного параметра).Предположим, что уравнение (3.3.12) или (3.3.13) имеет единственноерешение b = b (x) ∈ Θ, и точка b задает локальный максимум функцииL (x, ) или функции l(x, )∂2∂2L(x,)60илиl(x,) b 6 0.22b∂∂==pik = 1 ∀ 1 6 i, j 6 s.Функция Лагранжа имеет видXXnij ln(pij) +i,jiiXj(pij − 1),и ее нужно максимизировать по pij при условии pij > 0 ( 1 , .
. . , s —это множителиPЛагранжа, и их нужно выбрать так, чтобы выполнялосьограничениеpik = 1, 1 6 i 6 s). Чтобы найти точку максимума16k6sлагранжиана, приравняем производную по pij к нулю:nij+piji= 0, следовательно, pij =nij, 1 6 i, j 6 s.iВыполнение указанных ограничений приводит к равенствуВ случае, когда параметр многомерный, вместо ∂ 2 ∂ 2 рассмотримматрицу вторых производных (гессиан). В этом случае указанные матрицы должны быть неположительно определенными. При выполнении этихусловий либо b∗ = b, либо точка максимума b∗ находится на границемножества Θ.Анализ о.м.п. для логарифма правдоподобия l из формулы (3.2.8) непредставляет трудностей и проводится непосредственно.Пример 3.3.6.
а) Пусть (Xm) — ц.м.д.в. с пространством состояний I == {1, . . . , s} и неизвестной матрицей перехода P = (p ij). Покажите, чтоо.м.п. параметра = P для функции правдоподобия l задается нормированным числом переходовXpij > 0,(3.3.13)p∗ijn= P ij16j6sгде nij определено в формуле (3.2.1).1i= P16k6snnikij, т. е. p∗ij = P,(3.3.14),что и требовалось получить.б) Требуемое свойство состоятельности записывается следующим образом:nP ij16k6snij16k6snikи означает, чтоPnik−→ pij nijlim P P− pij > ε → 0 ∀ε > 0.nikn→∞16k6s460Глава 3. Статистика цепей Маркова с дискретным временемPЭто соотношение мы получим, если сможем доказать, что n ij /n −→ i pij∀ 1 6 i, j 6 s, точнее, что для всех ε > 0 выполняется условие n ij(3.3.15 а)lim P − i pij > ε → 0.§ 3.3.
Состоятельность оценок. Различные виды сходимости·,· — символ Кронекера. На самом деле в силу стационарности цепи (X m)с.в. I1 , . . . , In одинаково распределены, хотя и не являются независимыми.Перепишем соотношение (3.3.17) в видеsXnn→∞1...Значит, необходимо иметь единственное инвариантное распределение= ( 1 , .
. . , s), где все компоненты i > 0. Естественно предположить,что матрица P неприводима и апериодична, а в этом случае оба необходимых свойства имеют место и, кроме того,s1...lim Pn → Π, где Π = ... . . . ... .n→∞Jxk−1 ,xkxk−1 pxk−1 xk= 0, где Juv =X0 X1 где X = ...
образует случайную выборку из цепи. Тогда сходимость поXnпредставляет собой (слабый) з.б.ч. ЗапишемP1его в эквивалентной форме [nij (X) − n i pij ] −→ 0, илиn 1P nij (X) −n X 1 Ik > ε 6i pij > ε = Pn16k6n16 2 2En ε(3.3.16 а)Здесь для краткости обозначений полагаемi pij ,(3.3.16 б)причемEE [Ik ] =xk−1 ,xk =1[xk−1 ,i xk ,j−i pij ] xk−1 pxk−1 xk= 0, X16k6n(3.3.17) X16k6n2Ik .(3.3.19)Ik26 Cn(3.3.20)с постоянной C, не зависящей от n. Отсюда будет следовать, чтоC→ 0 при n → ∞ ∀ ε > 0,nε 2т. е. получим условие (3.3.16 а).Итак, необходимо доказать неравенство (3.3.20). Возведем в квадратсумму в скобках из правой части неравенства (3.3.20), группируя отдельно квадраты Ik2 и попарные произведения Ik1 Ik2 .
Используя аддитивностьматематического ожидания, запишем X 2XXEIk =E [Ik2 ] +1(k1 6= k2) E (Ik1 Ik2 ).(3.3.21)16k6nsX(3.3.18)Предположим, что нам удалось доказать неравенствоправая часть неравенства (3.3.19) 6k=1Ik = 1(Xk−1 = i, Xk = j) −i pij .Теперь применим неравенство Маркова: для любой с.в.
Y > 0 и любогоε > 0 выполняется неравенство P (Y > ε) 6 EY 2 /ε2 . Подставляя X(Ik − i pij) ,Y = k=1 X1 n Ik > ε → 0, при n → ∞ ∀ ε > 0.P n−получимs i piju,i v,jxk−1 ,xk =116k6mБолее того, предполагая для простоты, что := min[p ij ] > 0, получим геометрическую (экспоненциальную) скорость сходимости: см. соотношение(3.3.5).ЗапишемnXnij (X) =1(Xk−1 = i, Xk = j),(3.3.15 б) Pвероятности nij (X) n −→46116k6n16k1 ,k2 6nПервая сумма в правой части равенства (3.3.21) равна n E [I 12 ] , потомучто с.в. Ik одинаково распределены.
Во второй сумме слагаемое E [I k1 Ik2 ]зависит только от разности k1 − k2 . Это наводит на мысль суммировать поk = k1 и l = |k1 − k2 |. Тогда вторая сумма перепишется в видеXX2E [Ik Ik+l ]16k6n 0<l6n−kи по абсолютной величине не превзойдетX2n| E [I1 Il ] |.(3.3.23)поскольку множитель E [I1 ] нулевой; см. соотношение (3.3.17).С целью сделать это приблизительное равенство точным запишем общий член E [I1 Il ] в видеX(l−1)Σl =x0 px0 x1 px1 xl−1 pxl−1 xl Jx0 ,x1 Jxl−1 xl ,x0 ,x1 ,xl−1 ,xlгде выражение Juv было определено в формуле (3.3.18). Согласно соотношению (3.3.5) имеемx 0 p x 0 x 1 [ x l− 1=Xx0 px0 x1 Jx0 ,x1x0 ,x1X+x1 ,xl−1 (l− 1)] pxl−1 xl Jx0 ,x1 Jxl−1 ,xl =Xx 0 px 0 x 1x1 ,xl−1 (lТеперь в силу формулы (3.3.17) получаемXXx0 px0 x1 Jx0 ,x1 =x 0 px 0 x 1x0 ,x1x0 ,x1 ,xl−1 ,xl(3.3.25)Здесь и далее(3.3.26)i pij) ∨ ( i pij)] .Подводя итог, получаем, что E [I1 Il ] не превосходит правой частиравенства (3.3.25), откуда следует соотношение (3.3.23).
Тогда для рядаиз формулы (3.3.22) получаем оценкуX1<l<∞| E [I1 Il ] | 6− 1)pxl−1 xl Jx0 ,x1 Jxl−1 ,xl .(3.3.24)E X16k6ni pij = 0.Поэтому в правой части равенства (3.3.24) отлично от 0 только второеслагаемое, а оно в силу соотношения (3.3.5) не превосходит по абсолютной.Ik26nXJx0 ,x1x 0 px 0 x 1 +x0 ,x12A2 s.Этим доказано неравенство (3.3.20) и завершено доказательство соотношения (3.3.15 а). Следовательно, о.м.п. (3.3.14) состоятельна в смыслесходимости по вероятности.Пример 3.3.7.
Налагая необходимые ограничения на ц.м.д.в. (X m), заданную на множестве I = {1, . . . , s}, сформулируйте и докажите, что о.м.п.(3.3.14) состоятельна в смысле сходимости почти наверное.Решение. Свойство состоятельности означает, что n → ∞,п.н.nij−→ pij ,т.
е. к «истинному» значению параметра. Эта сходимость следует из соотношенийX11 Xnij → i pij ,nij →(3.3.27)i pij = i ,nx1 ,j −A2 sЗначит, левая часть неравенства (3.3.21) ограничена выражением16j6sx0 ,i6 A2 s(1 − ) l−1 .x 0 p x 0 x 1 J x 0 x 1 p x l− 1 x l J x l− 1 x lxl−1 pxl−1 xl Jxl−1 ,xl +x0 ,x1 ,xl−1 ,xlx0 ,x1XnP ijxl−1 ,xl+(1 − ) l−1E [I1 Il ] ≈ E [I1 ] E [Il ] = (E [I1 ]) 2 = 0,x0 ,x1 ,xl−1 ,xlвеличине(3.3.22)Необходимо лишь проверить, что ряд (3.3.22) сходится.
Инструментомпослужит оценка (3.3.5).Идея состоит в том, чтобы проверить, что для больших l математическое ожидание произведения близко по значению к произведениюматематических ожиданий:X463A = [(1 −1<l<∞Σl =§ 3.3. Состоятельность оценок. Различные виды сходимостиГлава 3. Статистика цепей Маркова с дискретным временем462n16j6s16j6sгде i — стационарные (инвариантные) вероятности. Существуют различные виды сходимости; мы выберем сходимость почти всюду, т.
е. сходимость с вероятностью 1, по отношению к инвариантному распределениюΠ ц.м.д.в. (Xm) с (неизвестной) матрицей перехода P.Глава 3. Статистика цепей Маркова с дискретным временемИтак, попробуем найти единственное инвариантное распределение == ( 1 , . . . , s) со всеми ненулевыми компонентами i > 0. Естественно,предположим, что матрица P неприводима и апериодична, а тогда указанное распределение существует и, кроме того,slim Pn → Π, где Π = ... .
. . ... .nsjij (n),+Запишемnij (X) =где |nXm=1ij (n) |6 (1 − ) n−1 .(n)(3.3.28)1(Xm−1 = i, Xm = j),где X0 , . . . , Xn — компоненты случайного выборочного вектора X. Сходимость почти наверное nij (X) n → i pij — это по сути (усиленный) з.б.ч., и1первым делом мы запишем его в эквивалентной форме [nij (X) − n i pij ] →n→ 0, илиn1 XIm → 0 почти наверное.nm=1Здесь мы для краткости полагаемпричемE [Im ] =Im = 1(Xm−1 = i, Xm = j) −sXxm−1 ,xm =1[xm−1 ,i xm ,j−i pij ] xm−116 4 4En εi pij ,pxm−1 xm = 0,(3.3.29)(3.3.30) X16k6n4Ik .(3.3.31)(3.3.32)16k6nгде постоянная C не зависящей от n.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
