Диссертация (1150844), страница 2
Текст из файла (страница 2)
Методрешает задачу HSLRA в матричном виде:Y⋆ = arg min L,R (Y), L,R (Y) = ‖X − Y‖2L,R ,(4)Y∈ℳ ∩ℋ‖X‖L,R — порождённая скалярным произведением⟨X, Y⟩L,R = tr(LXRYT )(5)матричная норма [18], ℋ = ℋ, — пространство ганкелевых матриц размера×, ℳ ⊂ R× — множество матриц ранга, не превосходящего , L ∈ R× ,R ∈ R× — положительно определённые матрицы весов, а X, Y — матрицы,связаные с задачей (3) соотношениями X = (X) и Y = (Y).Теория метода Кэдзоу тесно связана с теорией так называемых subspacebased методов и метода SSA (Singular Spectrum Analysis, анализ сингулярногоспектра) [19, 20, 21, 8].
Метод можно распространить на случай косоугольнойнормы, отличной от евклидовой [22]. Основные проблемы метода — локальныесвойства предельной точки, полученной методом Кэдзоу, неизвестны; к томуже, в большинстве случаев метод решает задачу (4) с матрицами весов L, R, не8дающими W в постановке (3) (что ведёт к тому, что метод не может обеспечитьОМП даже в случае белого гауссовского шума [23]). Вопрос выбора подходящихматриц L, R, дающих матрицу весов W, близкую к Σ−1 , остаётся открытым.Также, быстрая реализация метода Кэдзоу была создана только для диагональной W.Асимптотические свойства ошибок оценки сигнала с помощью решениязадачи (3) рассматривались в работах [12, 24, 25].
Однако полученные в этихработах утверждения либо не учитывают вид матрицы W, либо сильно ограничивают их множество. В работах [24, 25] исследована матричная постановказадачи (4), но в работе [24] матрицы L, R фиксированы и равны единичным,в работе [25] лишь одна из двух матриц L или R произвольна. Для алгоритмаКэдзоу показана неоптимальность полученных им оценок [12, 26], но нет результата о том, насколько отсутствие оптимальности ухудшает качество полученнойоценки, и можно ли снизить уровень «неоптимальности» путём выбора весовL, R.В этой работе рассматривается и развивается как параметрический, таки непараметрический подход. Предлагаются новый метод локального поиска,базирующийся на одном из стандартных для нелинейной задачи наименьшихквадратов методе Гаусса-Ньютона, и расширение непараметрического методаКэдзоу.
Ключевыми факторами при выборе методов для исследования являлись: возможность построить эффективную по времени реализацию каждого изметодов, возможность использовать метод для недиагональных матриц весов инаходить асимптотические свойства оценок, полученных методами при оценивании сигнала в широком классе сигналов ранга . Более того, необходимостьизучения как непараметрического, так и параметрического подхода объясняется тем, что для решения задачи (3) с использованием методов локальногопоиска требуется начальное приближение, близкое или лежащее в окрестностиглобального минимума.
Такое приближение может быть получено с помощью9непараметрического метода.Все исследуемые в данной работе методы оптимизации являются детерминированными; однако, развитие детерминированных методов способно улучшить и качество методов случайного поиска. В частности, метод Кэдзоу используется на одном из шагов в предложенном в статье [22] методе стохастическойоптимизации.Цели диссертационной работыОсновными целями являются:1. Разработка и эффективная реализация модифицированного численногометода Гаусса-Ньютона решения задачи HSLRA (3), обладающего большей устойчивостью, чем метод Variable projection [17], сравнение методовпо виду итерации, временной сложности и устойчивости.2.
Постановка задачи поиска матриц весов L и R для метода Кэдзоу длясоответствия задач HSLRA в векторном (3) и матричном (4) виде, теоретическое обоснование и разработка эффективных численных методов еёрешения.3. Построение быстрой реализации метода Кэдзоу для случая недиагональных матриц весов L и R.4.
Исследование асимптотических по соотношению сигнал/шум ошибок первого порядка для полученных методами оценок сигнала.Методы исследованияВ работе применяются методы линейной алгебры, теория гладких многообразий, теория численных методов оптимизации и решения систем линейных10алгебраических уравнений (СЛАУ), теория вероятностей, математическая статистика и функциональный анализ. Для реализации алгоритмов использовались языки программирования R и C.Положения, выносимые на защиту:1. Для множества временных рядов ранга найдена гладкая параметризация и вид касательного подпространства, необходимый для построенияметодов локальной оптимизации.2. Разработан метод вычисления базисов рядов конечного ранга, теоретически обоснована его корректность и устойчивость, создана устойчиваяреализация.3. На основе предложенной параметризации и алгоритма вычисления базисов разработан и эффективно реализован модифицированный методГаусса-Ньютона.
Доказано, что алгоритм превосходит метод Variable projection [17] по скорости в случае ленточной матрицы весов W и по точности на полиномиальных сигналах.4. Сформулирована задача поиска весов L, R для метода Кэдзоу, теоретически обоснована её постановка, построен и реализован алгоритм решенияс помощью метода квадратичного программирования.5. Построена быстрая реализация метода Кэдзоу в случае недиагональныхматриц весов L и R.6. Найдены виды асимптотических ошибок первого порядка для оценок сигнала с помощью проекции на множество и с помощью линеаризованного алгоритма Кэдзоу, получен результат про соотношение с границейРао-Крамера.11Научная новизнаВсе результаты, выносимые на защиту, являются новыми.Теоретическая и практическая значимостьРезультаты, полученные в данной работе, позволяют улучшить точностьрешения задачи HSLRA и расширить область применения методов к случаюнедиагональной матрицы весов W.
Полученные теоретические результаты могут послужить основой для дальнейшего исследования в области структурной аппроксимации. С помощью численных экспериментов было показано, чтореализованные алгоритмы могут успешно применяться для решения задачиHSLRA.Апробация работыОсновные результаты обсуждались на семинарах кафедры статистического моделирования математико-механического факультета СПбГУ, семинаре кафедры статистики в School of Mathematics, Cardiff University (Великобритания,июнь 2017) и докладывались на международной конференции: «Идентификация систем и задачи управления» SICPRO’15 (Москва, 26–29 января 2015 г.).Часть результатов диссертации была получена в ходе работ по гранту РФФИ(проект РФФИ 16-04-00821).ПубликацииПо теме диссертационной работы опубликована работа [27] в научном издании, включенном в Перечень рецензируемых научных изданий, рекомендуемыхВАК.
Работа [28] опубликована в научном издании, входящем в базы цитирования Web of Science и Scopus. Работа [27], в которой построена формулировка12задачи поиска весов для задачи HSLRA, доказаны теоремы 1 и 2 об эквивалентных формулировках задач квадратичного программирования, построен алгоритм быстрого поиска весов, полностью выполнена соискателем. В работах[29, 28, 30] постановка задачи, структура работы и введение принадлежат научному руководителю, основной текст написан совместно, а основные результатыполучены соискателем.
В частности, в работе [28] соискателю принадлежат основные теоретические результаты, в том числе теорема 1 о сходимости методаКэдзоу по подпоследовательностям, а также численное моделирование оценкисигнала с помощью метода Кэдзоу. В [30] теоремы 2.1, 2.3 и 2.4 о параметризации множества рядов конечного ранга и вида его касательного подпространства,а также алгоритм 5.5 модифицированного метода Гаусса-Ньютона принадлежатсоискателю.Основное содержаниеДиссертация состоит из введения, пяти глав, заключения и библиографии.Общий объём диссертации составляет 151 страницу. В тексте содержится 4 таблицы и 21 рисунок.
Библиография работы состоит из 67 наименований.В первой главе приведён обзор существующих методов и свойств решения задачи аппроксимации (3) временного ряда рядом конечного ранга. Выписаны известные свойства множества рядов ранга . Приведён известный методлокальной оптимизации Гаусса-Ньютона, принцип Variable projection, а такжеприменение принципа Variable projection к решению задачи (3). Описан непараметрический метод Кэдзоу для решения задачи (4) и его свойства.
Выписанметод Active set решения задачи квадратичного программирования, использующийся в задаче поиска весов для метода Кэдзоу.Вторая глава посвящена свойствам задачи (3). Построена параметризация множества , необходимая для построения методов локальной оптими13зации. Получен параметрический вид касательного подпространства в точке,лежащей в . Доказано, что всё множество не является гладким многообразием. Найдены условия локального минимума решения задачи аппроксимации временного ряда рядом конечного ранга (3). Найден вид ошибок первогопорядка по соотношению сигнал/шум при оценивании сигнала проекцией намножество , указана связь с границей Рао-Крамера.Третья глава посвящена алгоритмам решения задачи (3). Приведён видшага метода Гаусса-Ньютона для решения задачи (3) с помощью известногометода Variable projection (VPGN) в обозначениях работы в форме, удобнойдля реализации и сравнения.