Дженкинс, Ваттс - Спектральный анализ и его приложения (выпуск 1) (1044211), страница 38
Текст из файла (страница 38)
5.2. Из (5.4.13) 'получаем приближенную выборочную оценку остаточной дисперсии 2 ! а*= Дг — 2яг — ! о(Р„ао .. ат) ° Наконец, используя (П4.!.15), можно написать приближенную доверительную область в матричных обозначениях (а — а) С(а — а) ~ (2 1,Гви д,,(1 — а)з„ где а' =(аь ам ..., а~) и с (О) с „(лт — 1) схх (т — 2) с„(1) с„х(0) с„х(1) с „(т — 1) с „(т — 2)...
с х(0) Общий процесс авторегрессии. Действуя так же, как и выше, уравнения правдоподобия можно приближенно записать в виде с „Я=а,с„„(! — 1)+азс„„(у — 2)+... +о„с (у' — т), (5.4,12) где ! =1, 2, ..., т. Аналогично для остаточной суммы квадратов получаем приближенное выражение .э((р, о, ..., а ) =(Ф вЂ” т) ~схх(0) — а,с (1) — ... ...
— а с„(т)1. (5.4.13) Гл. 5. Введение в аналое временнегх рядов 5.4.2. Выборочные оценки среднего правдоподобия для параметров авторегрессии Так как функция правдоподобия (5.4.2) является с точностью до множителя многомерной нормальной плотностью, то с первого взгляда могло бы показаться, что ее можно адекватно описать с помощью средних значений и ковариаций, как указано в разд. 4.4,1. Однако если выборочные оценки максимального правдоподобия лежат близко к границам области стационарности, то функция правдоподобия обрезается и требуется другой подход. Выборочные оценки среднего правдоподобия для процесса авторегрессии первого порядка.
Для иллюстрации рассмотрим процесс авторегрессии первого порядка с нулевым средним значением Х,=а,Х,, +21. Функцию правдоподобия (5.4.2) можно в этом случае записать в виде (5.4. 14) й(а,|х,) =К1ехр 2ах где гв л хг- 1хе (5.4.15) является выборочной оценкой максимального правдоподобия для се1. Отсюда видно, что при условии, если ог известна, функция правдоподобия является с точностью до постоянного множителя нормальной со средним значением ее1 и дисперсией а Описание функции правдоподобия (5.4.14) с помощью ее среднего значения и дисперсии было бы адекватным при условии, что ОбЛаСтЬ ИЗМЕНЕНИЯ а1 бЫЛа бЫ От — оо дО +оо. ОдНаКО В СИЛУ ТОГО, что модель является стационарной лишь для ~121 ~ (1, при описании с помощью нормальной плотности возникают трудности, когда функция правдоподобия имеет максимум вблизи ~ а1) =1. В таком случае функция правдоподобия резко отсекалась бы в одной из Е.К Оцениванае параметров линейного ороцеееа точек 121=1, ее1 = — 1, так что аппроксимация с помощью нормального распределения была бы несправедливой.
Методы преобразования правдоподобий, обсуждавшиеся в равд. 4.4.5, также неприменимы, так как не существует преобразования, дающего нормальное распределение, если функция правдоподобия заканчивается ненулевым значением. В этом случае наилучший способ состоит в вычислении выборочной оценки среднего правдоподобия в интервале ( — 1, 1), определяемой равенст- вом 1 а1( («1) да1 — 1 а,= 1 л (а1) да1 Подставляя сюда А(м1) из (5.4.14), получаем У((.2) — г (с1) (УХ,,) ' 1' (1.2) г (г.1) (5.4.16) где )(х) и Р(х) — нормальная плотность вероятности и нормальная функция распределения соответственно, м1 — выборочная оценка максимального правдоподобия и 7.,= ~ -'~1-.,), 7.,= ~ -'(- —.,). и — (М вЂ” 1мг 1,1,)=К[1Н вЂ” 21Е-1.
л ',,(„„")* (5 4.17) Случайная величина, соответствующая (5.4.17), имеет с точностью до постоянного множителя 1-распределение с (12' — 2) степенями свободы. Величина вг в (5,4.17) является обычной выбороча ной оценкой о', полученной по остаточной сумме квадратов, г' а именно (5.4.1 8) 1'эг — 2 ~ лье 1=2 1=2 Можно проверить, что и теперь выборочная оценка среднего правдоподобия задается формулой (5.4.16), но при этом о' Если о' неизвестна, то маргинальное правдоподобие для 121 можно получить, интегрируя (5.4.4) с дифференциалом е((ог )/ог, как указывалось в равд. 4.4.6.
Можно проверить, что после такого интегрирования получается следующее маргинальное правдоподобие для а11 239 238 Гл. 6. Введение в анелин временнйя рядов — 2,(хе 2 — р)]'~, (5.4.20) заменяется на з', а 7(х) н г(х) относятся к 1-распределению с ()у' — 2) степенями свободы. Предположим, например, что нз временнбго ряда длины 51= 20 мы получили значения за =1,44, ~.,'ха,, =64, а!=0,9. Тогда маргннальная функция правдоподобия для ссг представляет собой усеченное 1-распределенне, как показано на рнс. 5.16.
Используя (5.4.16), -0,6 -ОД -0,6 0 О,Я 04 0,6 Д6 1,0 ат Р и с. 6.!6. Маргинальная функция правдоподобия для процесса авторегрессии первого порядка. где 1(х) н Е(х) относятся к 1-распределенню с 18 степенями свободы, получаем, что выборочная оценка среднего правдоподобия се!=0,86. Заметим, что операция усреднения правдоподобия отодвинула выборочную оценку максимального правдоподобия а,= = 0,9 от границы стацнонарностн. Для простоты среднее значение р временнбго ряда было положено равным нулю в предыдущих рассуждениях.
Можно допустить н ненулевое среднее значение, подставляя хг — р вместо хг. Интегрнрованне по р, а также по о' дает маргинальное правдоподобие для ест, которое совпадает с (5.4.17), за исключением того, что кг 6А, Оценивиние параметров линейного процесса в (5.4.!7) заменяется на отклоненне от среднего (хт — х), а У вЂ” на й! — 1, т. е. м 21 — гГС вЂ” 22/2 1,1.,! = к [1н — я .
*-; д' (, , — 2у ( ° , — ,) ] 1=2 Выборочные оценки среднего правдоподобия для процесса авторегресснн второго порядка. Рассмотрим процесс второго порядка: хг — р=а1(хг ! — р)+ая(хг 2 р)+лг Функция правдоподобия равна !т л (а1, а2, Р„ох ! хг, Х2) = ! ехр — — У [(х — р) — а, (х — !ь)— 1 1 — ! Интегрируя по р, получаем с точностью до малых сконцевых» по правок и 21 7.(а1, а, о !х,, х )=- ехр — — у [(х — х) — а (х — х)— — а, (х, 2 — х)]2 . (5.4.!9) следующее интегрирование с дифференциалом сг(о' )/о' дает совместное правдоподобие для аь оса.. 7.
(аг, о., ! Х,, Хе) = К ~;~', [(Х, — Х) — а, (Х,, — Х)— 11=2 1- с!ч-зые — 11,(х,, — х)] ~ В случае когда 95%-ная доверительная область лежит полностью в области стацнонарностн, как, например, на рнс. 5.15, функция правдоподобия адекватно описывается своими средними значениямн н коварнацнямн.
Если же выборочные оценки максимального правдоподобия лежат близко к границе стацнонарности, то единственный надежный метод заключается в нанесении линий уровня 241 (5.4.21) !40 130 Е 120 где 00 и! == 1р! (1 — гра) Ги 5. Введение в анализ еревснньсх радов правдоподобия. Вместо оценок максимального правдоподобия в этом случае лучше вычислить выборочные оценки среднего правдоподобия. Впрочем, сначала удобно сделать преобразование С помощью (5.4.20) можно проверить, что в окрестности максимума правдоподобия 421 — О д'21 492 и, следовательно, параметры !р1 и тра ортогональны. Преобразование (5,4.21) переводит треугольную область стационарности в квадратную область !А!1! с 1, !!ра! (!. Теперь можно получить численным методом выборочные оценки среднего правдоподобия, например 1 1 'т1С (21 !22) дв! 422 †! — 1 Ф!— В (т1, 22) и р1 422 — 1 -1 Е (р, р ) = К ~ ~~ [(х, — х) — р, (1 — р,) (х,, — х)— 1 г=з 1 — пи - 2) /2 — р,(х,, — х)1 ) Выборочные оценки среднего правдоподобия для а! и аа можно за- тем получить из срс и !рг с помощью обратного преобразования 5.4.3.
Определение порядка процесса авторегрессии В этом разделе рассматривается задача определения порядка пт процесса авторегрессии. Простой метод основан на том, что если в подбираемой модели (5.4.!) взято недостаточное число членов, то выборочная оценка дисперсии а' будет завышена за счет тех член нов, которые еще не включены в модель. Лишь когда правильное число членов включено в модель, получается правильная оценка и' 54. Оценивание параметров линейного процесса Это наводит на мысль о том, что если выборочную оценку 1 З*(т)=- „2 ~~(рь п1 " и ) остаточной дисперсии построить в зависимости от т, то кривая будет иметь минимум или станет пологой в точке, соответствующей правильной степени процесса.
На рис. 5.17 показан график ва(лт) в зависимости от т для данных о партиях продукта, изображенных 010 0 2 4 б В 10 Р и с. 5.17. Остаточные дисперсии дли моделей ааторегрессии, подобранных к дан- ным о партиях продукта, изображенным на рис. 5.2. на рис. 5.2. Видно, что кривая становится пологой около лт = 2 и 3. Значит, для этих данных подошел бы процесс авторегрессии вто- рого или третьего порядка. Частная корреляционная функция. Один из недостатков метода, основанного на в' (гл), состоит в том, что он не всегда может уверенно указывать, какое требуется значение лт. Например, достаточно ли уменьшение э'(гп) на рис.
5.!7 при переходе от пт= 2 к т = 3, чтобы гарантировать справедливость модели третьего порядка? Более чувствительный критерий получается с помощью определения для каждого значения т выборочной оценки и =а 243 242 иогельиые предкам О,) еы я "О,) 11е "О, "О Гл, 5. Введение в анализ врелгенна(л рядов последнего ноэффициента а в подбираемой модели, а также доверительной области для него, как это делалось в равд.
5.4.1. По причинам, которые будут объяснены в гл. 11, график пы в зависимости от т называется частной корреляционной функцией. Используя результаты равд. 5.4.1, можно выписать следующие приближенные выражения для первых двух значений и г„, (2) — глк (1) я1 — г„„(1), па†! — е~ (1) Для интерпретации значения па мы напомним, что если процесс имеет первый порядок, то теоретические корреляции удовлетворяют уравнению рхх(2) =р' (1) и, следовательно, теоретическое значение па равно нулю. Если процесс имеет второй порядок, то и, измеряет избьсгок корреляции в рхх(2), который можно было бы ожидать сверх корреляции, соответствующей процессу первого порядка.
Другая интерпретация пт получается, если выразить остаточную сумму квадратов через частные корреляции. Таким образом, для процесса первого порядка из (5.4.7) получаем, что остаточная сумма квадратов равна 5 (а,) — (Ж вЂ” 1) слл (О) (1 — те', ) .
Следовательно, множитель (1 — па) показывает, во сколько раз уменьшается сумма квадратов за счет подгонки процесса первого порядка, Аналогично остаточную сумму квадратов (5.4.11) можно записать в виде 3(ао а,) =(717 — 2) слл(0) (1 — 'т1) (1 — аг) . Следовательно, (1 — па) дает дополнительный уменьшающий множитель для суммы квадратов, получающийся за счет увеличения порядка модели до второго.