Ю.Н. Тюрин, А.А. Макаров - Анализ данных на компьютере (1115311), страница 84
Текст из файла (страница 84)
(14.6))r0 = 1,r1 = φ1 + φ2 r1 .(14.13)При таком выборе a1 , a2 формулы (14.10), (14.11) дают явное выраже"ние для rk при любом k = 0, 1, 2, . . . .Корни уравнения (14.9) могут быть и комплексными (комплексно"сопряженными) числами. В этом случае надо дополнительно позаботить"ся о том, чтобы формула (14.10) при всяком k определяла бы действи"тельное значение для автокорреляции rk , k = 0, 1, . .
. . Для этого числаa1 , a2 следует взять тоже комплексными и сопряженными. При такомвыборе выражение (14.10) преобразуется так, что в нем участвуют толь"ко действительные числа и действительные функции переменного k:uk = a · b sin(2πkf + ω).k(14.14)Действительные числа b и f определяются значениями λ1 , λ2 . Рольнеопределенных параметров в (14.14), которые надо подбирать, играютa и ω. Для того, чтобы получить окончательную формулу для rk , их надовыбрать с помощью условия (14.13). Видно, что формула (14.14) зада"ет экспоненциально затухающую синусоиду.
Условие стационарности(14.12) можно выписать в явном виде через значения коэффициентовφ1 и φ2 AR(2) процесса. Для этого надо записать значения λ1 и λ2в виде корней квадратного уравнения (14.9) через φ1 и φ2 . Решениеполучаемых таким образом неравенств приводит к указанным в (14.5)условиям для φ1 и φ2 .Определение. Процесс авторегрессии второго порядка с ненулевым средним µ определяют соотношениемX(t) − µ = φ1 · (X(t − 1) − µ) + φ2 · (X(t − 2) − µ) + εtОценки φ1 и φ2 можно получить из (14.7), заменяя истинные зна"чения r1 , r2 их выборочными оценками r1 , r 2 :φ̂1 =r1 − r1 r2,1 − r21φ̂2 =r2 − r21.1 − r 21Для оценки дисперсии белого шума σ 2 может быть использованаостаточная сумма квадратов S, а именно:n ./2S(µ̂, φ̂1 , φ̂2 ) =(14.15)(xt − µ̂) − φ̂1 (xt−1 − µ̂) − φ̂2 (xt−2 − µ̂)t=3Откуда получаем:1S(µ̂, φ̂1 , φ̂2 )(14.16)n−5где значение знаменателя (n − 5) в (14.16) получено уменьшением ис"ходного числа слагаемых n − 2 в (14.15) на 3, за счет оценки параметровµ, φ1 и φ2 .σ̂ 2 =14.3.
: p E AR(p)Выше для простейших моделей авторегрессии были довольно по"дробно выведены и разобраны их свойства. В этом пункте мы приведембез доказательства сводку основных результатов, касающихся AR(p)процессов.Определение. Случайный процесс X(t) со средним значением µназывается процессом авторегрессии порядка p или кратко AR(p),если для него выполняется соотношение:X(t) − µ = φ1 (X(t − 1) − µ) + φ2 (X(t − 2) − µ) + · · · ++φp (X(t − p) − µ) + εt(14.17)Поведение автокорреляционной функции AR(p) процесса.
Поаналогии с тем, как мы поступали с AR(2) процессом, рассмотримкорреляцию между X(t) и X(t − k). Получаем:rk = φ1 rk−1 + φ2 rk−2 + · · · + φp rk−p ,k > 0.(14.18)Укажем общее решение уравнения (14.18) относительно rk . Онозадается с помощью корней характеристического уравнения:Здесь M X(t) = µ.Оценивание параметров процесса AR(2) по наблюденной траек"тории x1 , x2 , . . . , xn . Учитывая стационарность рассматриваемогопро"цесса, в качестве оценки µ можно взять µ̂ = x, где x = n1 ni=1 xi .431λp = φ1 λp−1 + φ2 λp−2 + · · · + φpПусть λ1 , .
. . , λp — корни этого уравнения, которые мы предполагаемразличными. Так же, как и в случае AR(2) процесса общее решение432системы разностных уравнений (14.18) относительно rk может бытьзаписано в виде:rk = a1 λk1 + a2 λk2 + · · · + ap λkp .Из требования стационарности AR(p) процесса вытекает, что все|λi | < 1.Рассмотрим возможное поведение автокорреляционной функции вслучае несовпадающих корней λi . При этом возможны два случая.легко может быть решена численно. Пусть φ1p , φ2p , . .
. , φpp — реше"ние системы (14.19). Из этого набора чисел нам нужно всего одночисло, а именно φpp . По определению, мы полагаем φpp значениемЧАКФ при k = p.С уравнениями Юла"Уолкера и их решениями для p = 1, 2 мы ужевстречались в п. 14.1 и 14.2. По результатам этих разделов мы можемнайти φkk при k = 1, 2:φ11 = r1 ,ai λkiэкспоненциально1.
Корень λi вещественный. При этом члензатухает с ростом k.2. Пара корней λi , λj — комплексно"сопряженные числа. Как и вслучае AR(2), они вносят в rk слагаемые типа abk sin(2πf k + ω),которые являются экспоненциально затухающими синусоидами.Таким образом, в общем случае автокорреляционная функция ста"ционарного AR процесса является суммой затухающих экспонент и за"тухающих синусоидальных волн.Оценка коэффициентов AR(p) процесса.
Рассмотрим выражение(14.18) для значений k = 1, 2, . . . , p. При этом мы получим системууравнений Юла"Уолкера (аналогичную (14.6) для AR(2) процесса).r1 = φ1 + φ2 r1 + · · · + φp rp−1 ;r = φ r + φ + ··· + φ r ;21 12p p−2(14.19)...rp = φ1 rp−1 + φ2 rp−2 + · · · + φp .Решая эту систему относительно неизвестных значений параметровφ1 , φ2 , . . .
, φp и подставляя вместо неизвестных значений r1 , r2 , . . . , rpих оценки r 1 , r 2 , . . . , r p по наблюденному временному ряду, получаемискомые оценки коэффициентов AR(p) модели.Частная автокорреляционная функция (ЧАКФ). ЧАКФ полезна,когда по наблюденному отрезку временного ряда мы пытаемся подо"брать для его описания подходящую ARMA"модель. Подобно автокорре"ляционной функции, ЧАКФ определяется для каждого натурального k ипредставляет собой бесконечную последовательность. Ее элементы мыобозначим через φkk , k = 1, 2, . . . . Определение ЧАКФ и ее значенийφkk тесно связано с AR(p) моделями.Дадим определение φpp для произвольного p. Систему уравненийЮла"Уолкера (14.19) можно формально рассмотреть как систему урав"нений, связывающих неизвестные φ1 , .
. . , φp со значениями автокорре"ляции r1 , . . . , rp . Эта система — линейная; при заданных r1 , . . . , rp она433φ22 =r2 − r12.1 − r12(14.20)Формальное определение ЧАКФ дано. Посмотрим, каковы еесвойства. Рассмотрим для примера стационарный процесс авторе"грессии первого порядка (14.1). Согласно (14.2), в этом случаеr1 = φ, r2 = φ2 , . . . , причем |φ| < 1.
По определению ЧАКФ, здесьφ11 = φ. Чтобы найти φ22 , надо рассмотреть систему Юла"Уолкера(14.19) при p = 2 и ее решение φ12 , φ22 . С учетом (14.2), получаем,что φ12 , φ22 удовлетворяют условиямφ = φ12 + φ22 · φ,φ2 = φ12 · φ + φ22 .Умножим первое уравнение на φ и вычтем из второго. Получим, чтоφ22 · φ2 = φ22 . Так как |φ| < 1, то это равенство возможно лишь приφ22 = 0. Подобным способом находим, что для AR(1)φkk = 0для всякого k 2.(14.21)Обратно, если выполняется (14.21), то процесс является процессомавторегрессии первого порядка.Свойства.
Приведем без доказательства некоторые свойства част"ной автокорреляционной функции.1. Для любого k |φkk | < 1.2. При k → ∞ имеет место φkk → 0.3. Если рассматриваемый стационарный процесс является AR(p)процессом, то все φkk = 0 при k > p.Оценивание ЧАКФ. Для того, чтобы получить оценки φkk по ре"ализации x1 , .
. . , xn , следует для каждого k решить соответствующуюсистему уравнений Юла"Уолкера (14.19), в которой значения автокорре"ляционной функции заменены их выборочными оценками r1 , . . . , rk . Напрактике в статистических пакетах для вычисления оценок φkk исполь"зуется специальные рекурсивные процедуры (см. [87]), позволяющиебыстро осуществить вычисления оценок. Мы не будем подробнее оста"навливаться на этом вопросе. Последовательность оценок φ̂kk называютвыборочной частной автокорреляционной функцией.43414.4. ƒ*… MA(q)Укажем некоторые статистические свойства оценок φ̂kk при усло"вии, что они построены по реализации AR(p) процесса.
При k > pM φ̂kk ≈ 0,Dφ̂kk ≈ 1/n.(14.21)Указанные аппроксимации справедливы, если k много меньше длиныреализации n. Это свойство оценок позволяет использовать выборочнуючастную автокорреляционную функцию для подбора порядка p моделипроцесса авторегрессии.Подбор порядка p модели AR(p) процесса. Правило предва"рительного выбора порядка модели AR(p) процесса с использованиемвыборочной частной автокорреляционной функции звучит так. В ка"честве предварительного порядка модели AR(p) можно рассматриватьтакое число p, начиная с которого все последующие оценки выборочнойчастной автокорреляционнойфункции отклоняются от нуля не более√чем на ±2/ n. То есть√|φ̂kk | < 2/ n,для всех k > p.Окончательный подбор порядка модели AR(p) процесса связан со ста"тистической значимостью полученных коэффициентов модели и деталь"ным изучением поведения остатков, получаемых вычитанием из исход"ного ряда x1 , .
. . , xn значений подобранной AR(p) модели x̂i . Пустьφ̂1 , . . . , φ̂p — оценки коэффициентов подобранной модели. Для удобствазаписи формул обозначим первые p значений реализации x1 , . . . , xnчерез x̂1 , . . . , x̂p . Тогда подобранное значение AR(p) с номером p + 1можно записать в виде:x̂p+1 = φ̂1 x̂p + φ̂2 x̂p−1 + · · · + φ̂p x̂1(14.22)Подобранное значение с номером p + 2 имеет вид:x̂p+2 = φ̂1 x̂p+1 + φ̂2 x̂p + · · · + φ̂p x̂2Аббревиатура MA в заголовке образована от английского названияэтих процессов: moving average. Данное сокращение стандартно ис"пользуется для этих процессов в литературе и статистических пакетах.Начнем с примера.