Дженкинс, Ваттс - Спектральный анализ и его приложения (выпуск 2) (1044214), страница 40
Текст из файла (страница 40)
Тогда Ч(и) = е еннЧ(0). Спектральную матрицу, соответствующую процессу (11.2.29), можно получить, рассматривая его как линейную систему с матрицей частотных характеристик Н(1)=[а„(!2ть1) + ... +аД Смешанные процессы. Еще более общим является многомерный смешанный процесс авторегрессии — скользящего среднего Х, — !ь = а, (Х,, — )ь) +... + а (Х, — !х) + Ет + [),Ет т +... + Р1Х, ь (1 1.2.30) С помощью модели (11.2.30) можно получать разнообразные матричные ковариационные функции. Поэтому эта модель является мощным средством для описания многомерных временных рядов.
11.3. МНОГОМЕРНЫЙ АНАЛИЗ ВО ВРЕМЕННОЙ ОБЛАСТИ В гл. 9 — 10 мы видели, что анализ взаимных спектров и оценивание частотных характеристик представляют собой распространение обычного корреляционного и регрессионно~о анализов на частотную область. Точно так же многомерный спектральный анализ и оценивание многомерных частотных характеристик представляют собой распространение идей анализа множественных корреляций и многомерного статистического анализа на частотную область. В этом разделе мы дадим обзор основных понятий множественной корреляции и множественного регрессионного анализа.
Предполагается, что читателю полностью известен метод наименьших квадратов, изложенный в Приложении П4.1. 243 242 Многомерный онентральньсй анализ Глава 11 11.3.1. Множественный регрессионный анализ, единственный выходной процесс Модель. Рассмотрим частный случай многомерной динамической модели (11.2.10), когда имеется только один выход, и предположим, что отклик системы на импульс затухает столь быстро, что ее можно эффективно описать с помощью установившихся усилений.
Тогда после соответствующего изменения обозначений равенство (11.2,10) можно записать в виде Х, 1, „„— р„, = й, (Хп — Х,) + й, (Մ— Х,) + ... + й, (Х„- Х,)+ г„ (1 1.3.1) где Хс — шум. Как отмечалось в равд. 4.3.4, из регрессионных пере- менных полезно вычесть их средние значения для того, чтобы при использовании метода наименьших квадратов оценки параметров ОКаэаЛИСЬ НЕКОРРЕЛИРОВаННЫМИ С ОЦЕНКОЙ СРЕДНЕГО УРОВНЯ Рдьь (Х'Х) !2 = Х'х, )2441 —— Хд .„ (1 1.3.2) х„— х, Х22 Хз хп — х, Х2! Х! Х)д Хд х,д — х, хн) хс хнз хз ...
хнд х, 1 й =(йо й„..., й,), (11.3.3) Х = (Х),!.1.1 Хд»1, Хз!»1 Х«1.1, ..., Хндьс — Х, дс). С помощью выборочных оценок ковариаций 1 %'1 с 1 = 7~ (Хсс Х;) (ХС1 — хс), (1 1,3.4) 1-1 уравнения (11.3.2) можно записать в виде С И=с эо дд 41 1' (1 1.3.5) Йд+1 = Хо+1~ где С вЂ” матрица ковариаций входов, а сдьс — вектор взаимных ковариаций между входами и выходом. Нормальные уравнения. Предполагая, что шум Хс белый и что наблюдения производятся в моменты 1 = 1, 2,..., 1)с, получаем, согласно (П4.1.7), следующую систему нормальных уравнений; Пример. При с) = 2 модель (11.3.1) имеет вид Хсз-)зз —- Ь!(Хсс — Х,)+й,(Хм — Хз)+Хс, 1=1,2,, )У, и оценочные уравнения (11.3.5) записываются следующим образом: й)С)1+ 6»С!2 = Ссз й)С21 + йзсю = С22 Йз = хз.
1!.3.2, Множественная корреляция Выражение (П4.1.11) для остаточной суммы квадратов после подгонки линии регрессии имеет вид ~~'.~ г', = х'х — !2' (Х'Х) Ь, (1 1.3.6) или, воспользовавшись (11.3.4) и (11.3.5), его можно переписать в виде (1 1.3.7) Равенство (11.3.6) показывает, что остаточную сумму квадратов можно записать как разность между полной, или выходной, суммой квадратов и некоторой положительной величиной, называемой регрессионной суммой квадратов, Если регрессионную сумму квадратов записать в виде г'+пп -й доли полной суммы квадратов, то (11.3.7) перейдет в ~ г',=Асс„„п,дьп(! — г,' и„,), (1 1.3.8) причем г,' „„называется квадратом множественного коэффициента корреляции выхода хддс и ц входов.
Дисперсию выхода можно записать и по-другому: =г' с + (1 — г' сс,п! „— — гс,,)„„сс,п!«„п+( — !4,,),2 )с„„пс,„п. (11.3.9) Из (11.3.9) мы видим, что дисперсию выхода можно разложить на регрессионную сумму квадратов, представляющую ту часть выхода, которая может быть «учтена», или предсказана, по входам, и обусловленную шумом остаточную сумму квадратов, которую нельзя предсказать по входам. Таким образом, квадрат множественного коэффициента корреляции представляет собой ту долю дисперсии выхода, которую можно учесть, зная входы. Из (11.3.7) и (11.3.8) мы видим, что множественный коэффициент корреляции можно оценить из уравнения гмьи 12 ...
дсы+1) !д+1) — с!д+!). 2 = 'и'с (1 1.3.10) Глана !I 244 245 Инагал(ерни(и гиекгральнми анализ Если подставить сюда )2 из уравнения (11.3.5), то получим другую форму выборочного множественного коэффициента корреляции ~С„„„„п! (421)12" а и „,)(+, (С !' где С(23.1)(ае() — матрица ковариаций всех д + 1 переменных (одного выхода и () входов), а Саа — матрица ковариаций одних входов. Равенство (11.3.11) можно записать также через соответствующие корреляционные матрицы г' =!в (а+О12 ...
а (11.3.12) 77р((мер, При () = 2 равенство (11.3.10) переходит в 312 33 ( 1' ) ~ ) 1 13 + ~ 21' ( Пользуясь выражением (11.3.12), получаем 112 г!3 1 гг3 221 г(3 + г23 2гмг(3'23 231 гзл ! (11.3.14) =! 312 12 2 Выборочная теория множественных коэффициентов корреляции. Для применения выборочного подхода заменим в приведенных выше формулах все выборочные величины на соответствуюшие им случайные величины. Заметим, что этн случайные величины предполагаются гауссовскими, так же как и остаточные ошибки 21 в (!!.3.1).
Тогда равенство (11.3.9) представляет собой разложение т', 1 на !(2„и !(2н а 1. Таким обРазом, если веРна нУлеваЯ гипотеза, согласно которой все параметры й, в модели (11.3.1) равны нулю, то случайная величина, соответствующая выборочной величине 2 , П)2,1 Л' — 1 (1 !.3.! 5) г(а+и 13 ... а будет распределена как га л , а. Доверительные интервалы. В общем случае, когда параметры модели отличны от нуля, совместная доверительная область для них дается неравенством (П4.1.14), которое в новых обозначениях имеет вид (!2 — 12)гС (11 — 12)«»+~а,я 1 4(1 — а)з2, (11.316) где 3' — выборочная оценка остаточной дисперсии.
Например, при д = 2 доверительная область для (йь й2) выглядит следующим образом: 2 (Ь( — й,)' си + (Ь2 — й,)' с22 + 2 (й, — 61) (й2 — 52) ем «» у 62, л 3 (1 — п) 3'. (1 1.3.1 7) Формулы для теоретических величин. Полученные выше формулы были выведены с помошью выборочных функций. При надлежащей интерпретации они применимы также и к теоретическим величинам. Так, например, вместо (11.3.8) мы будем иметь (1 1.3.
18) где р(2 1)12 2 — теоретический множественный коэффициент корреляции. 11.3.3. Частная корреляция Множественный коэффициент корреляции измеряет корреляцию между выходом и наилучшим прогнозом выхода с помощью всех входов. Однако полезно также уметь измерять корреляцию между выходом и одиночным входом. При решении этой задачи мы приходим к понятию частного коэффициента корреляции.
Чтобы проиллюстрировать основную идею, положим д = 2, так что модель (1!.3.!) имеет вид Х(3 Нз = Ь)(Х(1 Х,) + Ь2(Х(, — Х,) + Х(. Если й( и п2 отличны от нуля, то случайная величина Хз, очевидно, будет коррелирована как с Хп так и с Х2. Однако коэффициенты корреляции р„и раь описывающие корреляцию внутри пар (Хь Х,) и (ХЗ,Х,) по отдельности, не полностью характеризуют нужную нам корреляцию, так как сами Х, и Х2 могут быть коррелированы, Если принимать в расчет лишь рм и рм, то могло бы случиться в качестве крайней ситуации, что Хз и Х, порознь сильно коррелированы с Хь в то время как «непосредственная» корреляция между Х, и Х, очень мала. Таким образом, до вычисления корреляции между Х, и Х( необходимо устранить влияние переменной Х2. Этого можно добиться, если взять наименьшую среднеквадратичную регрессию величины Хз на Х2 и величины Х( на Хь После этого частный коэффициент корреляции определяется как коэффициент корреляции между остаточными ошибками этих двух регрессий.
Этим остаточным ошибкам соответствуют случайные величины Е =Х Н1 Ум (Х2 Н2), 1 ' ' т22 Ез=Х,— „,— — "(Х,— На), 722 Глава 1! 247 Мнаеамерный спектральный анализ Сот [Еь Ее[= у,з — ~~~~~~ узз 'и'а г 1Е,~ = у„(1 — Р', ), '(гаг [Е,] = у„(1 — р' ). Рм Р~зз) )знзз = Рм 1 Рзз ~ Рзз Рм ! / (1!.3.19) так что нм = Рзз РмРзз Я =1 — Рз зз ~з' Р~з РззРм Рзпз У(1 — Р'а) (1 — Рзз) ац- — 1 — Р (11.3.20) откуда и получается (11.3.20). р (2) — рз (1) 1 Р (1) <е+оз Р14+ззз1к "14+ зз 14+ П"ЗЗ (1!.3.21) (Д1 3) где урл — ковариация Х, и Х„. Тогда Отсюда корреляция между Ез и Е, равна Эта величина называется частным коэффициентом корреляции между Хз и Х, после учета влияния Хг Соответствующий выборочный частный коэффициент корреляции получается в результате замены теоретических корреляций рц на их выборочные оценки Гц.
Частный коэффициент корреляции Рм1з получается с помощью перестановки индексов в (11.3.20). Отметим, что в частном случае, когда случайные величины Хь Х, и Х, являются тремя последовательными значениями стационарного случайного процесса, мы имеем рзз = р(2), рзг = Рзз = Р(1), где р(й) — автокорреляционная функция, зависящая от запаздывания й. В этом случае (11.3.20) сводится к что совпадает с выражением для частного коэффициента автокорреляции, который мы обсуждали в равд. 5.4.3 и 1!.1.1. В общем случае для д входных переменных частный коэффициент корреляции между выходом Ха+з и любым из входов Хн определяется как обычный коэффициент корреляции между (Хйл.з— — Ха+з) и (Хд — Хн), где Хй„з, Хн — полученные методом наименьших квадратов из всех величин Хь кроме Хм прогнозы случайных величин Х44з, Хн.
Величины, по которым строится прогноз, имеют индексы 1, 2, ..., й — 1, й + 1, ..., з). Это множество индексов мы обозначим К. Можно показать [Ц, что частный коэффициент корреляции записывается в следующем общем виде: где яз — соответствующий элементу рз минор матрицы корреляций К1авзх +зз всех переменных. Пример. Равенство (11.3.20) можно получить из (1!.3.2!) следующим образом: Дисперсионный анализ. Из (! 1.3.14) и (11.3.20), заменив теоретические корреляции на их выборочные аналоги, можно получить равенство (! — гзм) =(! — Г')(! — гз ) (11.3.22) Если мы хотим проверить, насколько значимо величина (!1.3.22) отличается от нуля, следует воспользоваться формулой (11,3.8), которая показывает, что остаточная сумма квадратов после подгонки хз и х, дает долю 1 — г,'„от полной суммы квадратов.
В этом случае равенство (!1.3.22) показывает, что уменьшение суммы квадратов, обусловленное подгонкой хз, пропорционально величине (! — г',), а дальнейшее уменьшение, обусловленное подгонкой хз, пропорционально (1 — г'„„). Заметим, впрочем, что если сначала подгонять хь то (!1.3.22) можно записать и в другом виде: (1=" )=(1-гз)(1-гз ) Таким образом, разложение (11.3.9) можно записать в виде двух таблиц дисперсионного анализа, как показано в табл.
!1.1, Если мы хотим проверить гипотезу, что х, не участвует в прогнозе хз, то надо взять отношение (зу 3) е3! а емз и сравнить его с вероятностной границей, получаемой из рз,н з- распределения. Точно так же, если желательно проверить, что х, не дает вклада в прогноз х„после того как хз уже подогнано, надо взять отношение и сравнить его с вероятностной границей для рз,мрмраспределения. 248 Мнаесднернььй спектральный анализ Глава 11 Таблица 11.! Таблица дисперснонного анализа для множественной регрессии Число степеней свсбедм Сумма кендрлтов Источник Случай, ногда сначала подгоняется х, з) .бал (хлз «з) (гз)г гз!) х.) (хм лз) Подгонка х, Подгонка х, при заданном х, Оста~очная рр — 3 (! г )г) ~ (х)3 х,)) Х (х)3-'3)' Полная Слу чай, когда сначала подгоняется х, гзг Х (х)з хз) ( 3!г зг) Х ( )3 3) Подгонка х, Подгонка х, при заданном хе Остаточная (' гзю) ~~~,(хуз хз)' .бал (х)з хз) М вЂ” 3 У вЂ” 1 Полная Пример.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
