Робинсон - История развития теории спектрального оценивания, страница 14

Уравнение (1) описывает спектральную плотность Ф (ш) в виде дискретного преобразования Фурье ковариационной функции бр(п). Из теории Фурье ИСТОРИЯ РАЗВИТИЯ ТЕОРИИ СПЕКТРАЛЬНОГО ОЦЕНИВАНИИ (з) 1ов Ф(и) дох (4) ой со)в- си, [Ф(со)1 ) = ~~ с[с(л)е )'ел. (13) 1п[ > р. (6) 1 Ф(со) = Ф(л) е-)сел (14) л -р 1 Ф(л)х ". Ф(х) сть )ье )ье сьод )вых ре° ь)вхв е ед- ем- сы- ев- чомл кв, вв- ых го о са, Ю- ые ий се)те ые ых од ас ий гго )н)я, отим лься ую ей.

ый ли. нтый лее ого ваым (ни сой вм, на наметил, что ковариацнонную функцию можно получавь как обратное преобразование Фурье от спектральной плотности: 1 Г" 4(л) — ~ Ф(и) е "с(ь) для всех целых л. (2) 2л~ „ Главным в спектральном анализе по методу максимальной энтропии является предположение о том, что рассматриваемый стационарный процесс представляет собой наиболее случайный, нли наименее предсказуемый, временной ряд, согласующийся с ре)лсльтагамн измерений.

В качестве последних в данном случае выступают известные коэффициенты ввюкорреляцни Ге 4(л) — ~ Ф(са) е)~" Лю ([л[< р). (3) 2в Нв языке теории информации это означает требование максимзльности удельной энтропии временного ряда. Нз работы Шеннона 1948 года следует, что энтропия пропорциональна интегралу ог логарифма саек)ральной плотности Следовательно, искомой спектральной плотностью, характеризующей энтропию, будет таная функция Ф(в), которая соответствует максимуму выражения (4) нри выполнении условия (3). Один из способов решения проблемы решения указанной задачи при фиксированных значениях ф(л) в црв [л[к р основан на использовании множителей Лагранжа.

Но можно воспользоваться и следующим подходом. Как следует из (1), частная производная функции Ф(ы) по ф(л) равна дФ(ю) ар(л) О)пода следует а)ляФ( ) е-'"" де)(л) Ф(ю) Найдвв теперь максимум (4) относительно неизвестных заачений ф(л) при (л[.>р. С этой целью мы приазняем нулю частные производные (4) по ф(л) при >рс д Г Г" аювФ( » — 1оз Ф(со) с(ь) = / дю = О, др(л) ай(п) Подставляя в это выражение равенство (5), получаем [Ф(и)1 'е гы" с(ь) О, [п[>р. (7) Эшм уравнением определяется внд обратной спектрвльзой плотности [Ф(ы)1-' для процесса с максииальной энтропией.

Объясняется это следующим. Прв заданном стационарном процессе с положи)завив определенной спектральной плотностью Ф(ы) обратная спектральная плотность 1 [Ф(ю)1 ' =— Ф(со) также определена положительно. Пусть она представляет собой интегрируемую ограниченную функцию. Тогда ее саму можно рассматривать как обычную спектральную плотность, не имеющую особенностей. Таким образом, обратную спектральную плотность (8) можно связать с ковариационной функцией, которую мы обозначим через ф(л) н для которой справедливы выражения (1) н (2): [Ф(»1 ' = Е Ф(л)е ) " (- ~о)~в), (О) 1 Г" Ф(л) = ~ [Ф(ю)1 'е)ы" с[о) двв всех целых л.

()О) Поскольку мы не вводим нормировку, значение ф(0) для нулевой задержки не обязательно должно равняться единице. Вернемся теперь к процессу с максимальной энтропией. Как мы показали, его обратная спектральная плотность удовлетворяет уравнению (7) при [л[>р. Заменив в (7) л на — л и умножив обе части уравяения на !/2л, получим Г" — [Ф(юН 'е)~" ссь) =О, [л[>А. (11) 2х „ Сравнивая (11) с (1О), мы видим, что для процесса с максимальной энтропией Ф(л) О, [л[ >р (12) Подставляя полученное выражение в (9), находим обратную спектральную плотность процесса с мак- симальной энтропией: Правая часть (13) представляет собой конечный тригонометрический ряд. Таким образом, мы показали, что процесс с максимальной энтропией — это такой процесс„ обратная спектральная плотность которого представляет собой конечный тригонометрический ряд или, что то же самое, спектральная плотность которого есть обратный конечный тригонометрический ряд: Если положить г=ещ, то конечный тригономе) рический ряд (13) можно записать в виде ТИИЭР, т.

70, Па З, сеатябрь И! Это выражение допускает факторизацию по методу фейера ([431, р. 194) в виде -н Ф(и)< "= —,1! +а,г '+. >а г р]х н и х[1+а,г+ +аргр), (!б) где и' — положительная константа, а А(г)=1+а,г + . +ар> р (!6) — передаточная функция минимально-фазового фильтра (т. е. А (г) не имеет нулей на границе или вне круга единичного радиуса). Таким образом процесс с максимальной энтропией определяется функцией о> А(г) А(г ) Этот результат показывает, что процесс с максимальной энтропией представляет собой авторегрессионный (АР) процесс р-го порядка. Используя методы решеток, Сильвиа и Робинсон [831 установили связь между принципом максимальной энтропии и обратной задачей в геофизике. Итакура и Санто !851 предложили две очень важные идеи, которые находят все более широкое применение в технических приложениях спектрального оценивания. Первая из них згключается в применении к спектральному оцениваиию принципа максимального правдоподобия.

Сама по себе эта идея не нова. Однако авторы ввели специальную спектральную метрику, которая все более широко используется в различных практических применениях, в частности в анализе речи. Парзен [85] назвал эту метрику информационной диагрггнцириц Она аналогична информационному числу Кульбака — Лейблера, Он показал также ее связь с понятием взаимной энтропии. Вторая идея заклю.

чается в использовании решетчатой структуры в качестве фильтра — чистонулевого для целей анализа и чистополюсного для целей синтеза. Идея адаптивной решетчатой структуры была впервые предложена Итакурой и Санто в качестве средства адаптивной оценки коэффициентов частичной корреляции (РА](СОК вЂ” термин, введенный указанными авторами). А!акхол [861 показал, что метод Берга фактически представляет собой частный случай анализа с помощью решетчатой структуры. Решетчатые структуры стали играть важную роль еще и потому, что они обеспечивают быструю сходимость и относительно слабую чувствительность к ошибкам округления. ХУ!.

СТАТИСТИЧЕСКАЯ ТЕОРИЯ СНЕИТРАЛЬНОРО ОЦЕНИВАНИИ За время, истекшее с момента появления в 1949 г. основополагающей работы Тычки !341, статистическая теория спектрального оценивания пополнилась .заиогими важными достижениями. Однако подробное их изложение могло бы стать предметом отдельной большой статьи. Поэтому наша единственная задача— познакомить читателя со статистической теорией лишь настолько, насколько это необходимо для понимания и практического применения спектрального оценивания.

Автор испытывает чувство подлинного восхищена>' по отношению к работам Парзена, который начиная г Ре 50-х годов и до настоящего времени непрерыва> пополняет теорию и методику идеями принципиаль р' ной важности [61, 85, 87, 881. Принадлежащая еи! большая серия статей по анализу временных ряда включает знаменитую работу, посвященную прина нению в спектральном анализе метода окна. Большу> роль сыграла также предложенная Парзеном форм!. лировка задачи анализа временнйх рядов на языю гильбертовых пространств с воспроизводящим ядрах' Под руководством Парзена намного больше, чем па( руководством кого-либо другого из специалисток написано диссертаций по вопросам анализа временнш рядов.

Вот уже на протяжении многих лет автор имы(™ счастливую возможность обсуждать с проф. Пар зеном вопросы, связанные с применением временнш рядов в геофизических задачах, и не было случац чтобы Парзен не высказал при этом новых глубокй~ физических идей, касающихся применения статиста ческих методов. Прочитанный Парзеном в 1976 в Гарварде курс лекций стал одним из лучших курсе( У" по анализу временийх рядов и спектрального оценю вания, прочитанных в стенах знаменитых гарвардска! аудиторий.

Книга Гренандера и Розенблатта [65], вышедшц Ра в !957 г., поставила на формальную основу многи ва вошедшие в практику приближения н операции н области анализа данных. Указанные авторы мноп лн сделали для решения вопроса о выборе спектральноп окна и полосы пропускания. Роль, которую в решенаг иа этой проблемы сыграли работы Парзена и Дженкинса ДУ освещена в статье Тычки [5!) (1961). Точное соде]> во жательное изложение достижений теории спектраль ного оценивания в 50-х годах можно найти в рабов Тычки [441.

В области статистической теории спектральная Ра оценивания заслуживает внимания также проблею выравнивания при оценивании когерентности, нс следовавшаяся в 60-х годах Акаикэ и Яманути, Пр> иа стли и Парзепом, Обсуждение этих работ и ссылх! Те> на первоисточники можно найти в монографии Пр> ст! стли 189] — исключительно удачной книге, которо нч вышла в !981 г. и уже успела задать новый тон все ве исследованиям. Ее можно рекомендовать как авто ве ритетное изложение статистической теории спектрал> р ного оценивания, которого мы лишь бегло касаема в этом разделе.

Х"> В диссертации, выполненной в 1938 г. в Стог гольмском университете под руководством проф. Х> ральда Крамера (901, Х. Вольд ввел термины <прз цесс скользящего среднего> и «авторегрессионньб ме цроцссс>. В диссертации Вольд рассчитал мелел! ежегодного изменения урания озера Ванер в Швецих рассматривая его как процесс скользящего усред Р пения текущего уровня осадков за предыдущий год Он рассчитал также авторегрессионную модель де со! лавой активности в Швеции за период с 1843 по 1913 г.