Диссертация (1150844), страница 16
Текст из файла (страница 16)
Рассмотрим оценку сигнала ̃︀S = PS0 (S0 +), полученную линеаризованным алгоритмом Кэдзоу в модели X = S0 +, PS0 определенав (4.30). Тогда имеет место следующая слабая сходимость распределений:̃︀S ⇒→+∞ S0 + Π(20 ),W(L,R) .(4.33)Доказательство.
Достаточно показать, что для любой липшицевой с параметром (| () − ( )| ≤ ‖ − ‖W для любых , ) и ограниченной (| ()| ≤ для любого ) измеримой функции , заданной на R , интегралы1 (, ) = E(| (PS0 (S0 + )) − (S0 + Π(20 ),W(L,R) )|)(4.34)111равномерно по ограничены последовательностью, стремящейся к 0 при → 0[41, §7].Зафиксируем > 0, и выберем столь большой шар радиуса , чтоP(‖‖W ≥ ) < .Согласно следствию 4.7.1, выберем такое большое , что‖(PS0 − Π(20 ),W(L,R) )Z‖W ≤‖Z‖Wдля любого Z ∈ R .
Тогда:Z⃒⃒⃒ (PS (S0 + Y)) − (S0 + Π(2 ),W(L,R) Y)⃒ dΞ(Y) ≤ .00‖Y‖W <При этом,Z⃒⃒⃒ (PS (S0 + Y)) − (S0 + Π(2 ),W(L,R) Y)⃒ dΞ(Y) < 2.00‖Y‖W ≥Таким образом, в (4.34) получаем 1 (, ) < + 2, где правую часть неравенства можно сделать сколь угодно малой выбором .Замечание 4.7.4. Если Ξ — распределение с нулевым математическим ожиданием и ковариационной матрицей Σ, то распределение случайного вектораS0 + Π(20 ),W(L,R) имеет математическое ожидание S0 и ковариационнуюматрицу Π(20 ),W(L,R) ΣΠT.(2 ),W(L,R)0Лемма 4.7.2 позволяет приближённо оценивать распределение оценки, полученной алгоритмом Кэдзоу при малом шуме с распределением Ξ.4.7.2. Вид ошибки первого порядка оценки -й итерации алгоритмаКэдзоуПредположим, что мы наблюдаем случайный ряд X = S + длины ,где S ∈ , имеет распределение Ξ. Вместе с оценкой сигнала линеаризованным алгоритмом Кэдзоу ̃︀S () = PS0 (S0 + ) рассмотрим оценку ̂︀S () сигнала,112полученную с помощью -й итерации алгоритма Кэдзоу, где ̂︀S определена в(4.27).
Нас интересует следующий вопрос: есть ли сходимость разложений первого порядка по оценки ̃︀S () к оценке ̂︀S () при → 0? Иначе говоря, есть лисходимость распределений оценки по алгоритму Кэдзоу к оценке по линеаризованному алгоритму Кэдзоу при → 0 (то есть при соотношении сигнал/шум,стремящемуся к бесконечности)?Для начала докажем следующее обобщение замечания 4.7.1. Под обозначением Πℋ̂︀ мы имеем в виду оператор проектирования в R , под Πℋ̂︀ — соответствующую этому оператору матрицу.Лемма 4.7.3. Пусть S0 ∈ — ряд длины , зафиксировано целое ≥ 1.
Тогда вокруг точки 0 = (S0 ) = ( )(S0 ) существует открытое множество ⊂ R такое, что сужение оператора (Πℋ̂︀ Πℳ̂︁ ) на нём — гладкое (т.е.бесконечно дифференцируемое), и можно для любого сколь угодно малого > 0выбрать шар ℬ = { : ‖ ‖ < } такого радиуса , что для любого ∈ ℬ :‖(Πℋ̂︀ Πℳ̂︀ Π̂︀ (0 ) ) (0 + )‖ ≤ ‖‖.̂︁ ) (0 + ) − (Πℋ(4.35)Доказательство.
Согласно замечанию 4.7.1, существует такое открытое мно̃︀ ̂︁ : → ℳ̂︁ оператора Π ̂︁ одножество , содержащее 0 , что сужение Πℳℳзначно определено, бесконечно дифференцируемо, при этом в точке 0 матрица̃︀ ̂︁ равна Π ̂︀ .градиент Π (0 )ℳОператор Πℋ̂︀ , очевидно, непрерывный и бесконечно дифференцируемый.̃︀ ̂︁ : → R — непрерывна и бесконечноТогда композиция операторов Πℋ̂︀ Πℳдифференцируема.
Для того чтобы корректно определить сужение оператора(Πℋ̂︀ Πℳ̂︁ ) в открытой окрестности точки 0 , сделаем следующее: положим 1 =, а для ≥ 2: ⊂ , — следующий полный открытый прообраз множества:̂︀ ̂︀ Π̃︀ ̂︁ )−1 (−1 ). Заметим, что все содержат 0 , так как Π ̂︀ Π̃︀ ̂︁ (0 ) = = (Πℋ ℳℋ ℳ0 .113В итоге получаем, что сужение (Πℋ̂︀ Πℳ— бесконечно диф̂︁ ) : → Rференцируемый оператор в точке 0 , при этом, пользуясь правилом вычисленияматрицы-градиента композиции операторов, получаем, что градиент (Πℋ̂︀ Πℳ̂︁ )в точке 0 равен (Πℋ̂︀ Π̂︀ (0 ) ) ; следовательно, в окрестности точки имеетсяследующее представление:(Πℋ̂︀ Πℳ̂︀ Π̂︀ (0 ) ) () + o→0 (‖‖),̂︁ ) (0 + ) = 0 + (Πℋиз чего следует (4.35).Теперь рассмотрим случайный вектор = ( )() c распределением .Введём случайную матрицу порядка ×(+1), построенную на основе оценокоценок сигнала, полученных методом Кэдзоу с 0, 1, .
. . , итерациями:̂︀ ) = [̂︀0 () : . . . : ̂︀ ()],E(,где ̂︀ () = (̂︀S ()) = (Πℋ̂︀ Πℳ̂︁ ) (0 + ), = 0, . . . , .Для корректности будем считать, что если проекция Πℳ̂︁ неоднозначна,то выбирается наименьшая в лексикографическом порядке точка.Также мы введём матрицу следующего вида:̂︁M()= [(Πℋ̂︀ Π̂︀ (0 ) )0 : .
. . : (Πℋ̂︀ Π̂︀ (0 ) ) ],̃︀ ), полученных линеаризочерез которую можем записать матрицу оценок E(,ванным методом Кэдзоу:̃︀ ) = [̃︀0 () : . . . : ̃︀ ()] = [0 : . . . : 0 ] + M(),̂︁E(,где ̃︀ () = (̃︀S ()), = 0, . . . , . Рассмотрим следующее представление:̂︀ ) = [0 : . .
. : 0 ] + M()̂︁̂︀ ),E(,+ K(,̂︀ ) — случайная матрица размера × ( + 1).где K(,Справедлива следующая теорема:(4.36)114Теорема 4.7.1. Пусть S0 ∈ и управляется ОЛРФ(0 ), — случайныйвектор. Определим случайный вектор = ( )(), имеющий распределение. Тогда имеет место следующая слабая сходимость распределений:1 ̂︀K(, ) ⇒→0 0,+1 ,̂︀ ) определено в (4.36).где K(,Доказательство. Пусть произвольная функция : R×(+1) → R измерима,липшицева с параметром (для любых X, Y: | (X) − (Y)| ≤ max0≤≤ ‖ − ‖, где X = [0 : .
. . : ], Y = [0 : . . . : ]) и ограничена (для любой X: (X) ≤ ).Достаточно показать [41, §7], что для любой интегралыẐ︀ )/) − (0,+1 )|) =̂︀ )) − (0,+1 )|d( )1 (, ) = E(| (K(,| (K(,R(4.37)равномерно по ограничены последовательностью, стремящейся к 0 при → 0,где̂︀̂︁̂︀ ) = E(, ) − [0 : . . .
: 0 ] − M() .K(,Зафиксируем 2 > 0, и выберем столь большой шар радиуса , чтоZP(‖‖ ≥ ) =1d( ) < 2 .‖ ‖≥По лемме 4.7.3 можно выбрать такие 1 , . . . , что выполняется (4.35) для = 1, . . . , и = 2 / . Возьмём = min(1 , . . . ), = . Тогда:Ẑ︀ )) − (0,+1 )|d( ) ≤ 2 .| (K(,‖ ‖<При этом,Ẑ︀ )) − (0,+1 )|d() < 22 .| (K(,‖ ‖≥115Таким образом, в (4.37) получаем 1 ( ) < 2 + 22 , где правую часть неравенства можно сделать сколь угодно малой выбором .Применим к результату теоремы 4.7.1 операторы −1 и −1 .
Введём следующие случайные матрицы размера × ( + 1). Пусть̂︀ ) = [̂︀S(,S0 () : . . . : ̂︀S ()]состоит из оценок сигнала методом Кэдзоу определённых в (4.27), для X =S0 + , с помощью 0, 1, . . . , итераций. Затем введём матрицу, состоящую изоценок сигнала с помощью линеаризованного метода Кэдзоу следующего вида:̃︀ ) = [̃︀S(,S0 () : . . . : ̃︀S ()],где ̃︀S () = PS0 (S0 + ), PS0 определена в (4.30).
Заметим, что выполняется̂︀ ) = [S0 : . . . : S0 ] + M(), где M() = [P0 : . . . : P ].равенство S(,(S0 )(S0 )Рассмотрим представление:̃︀ ) = [S0 : . . . : S0 ] + M() + K(, ),S(,(4.38)где K(, ) — случайная матрица размера × ( + 1).Мы получим следующее следствие.Следствие 4.7.2.
Пусть S0 ∈ — ряд длины , управляемый ОЛРФ(0 ), — случайный вектор с распределением Ξ.Тогда имеет место слабая сходимость распределений:11 ̃︀̂︀ )) ⇒→0 0,+1 ,K(, ) = (S(,) − S(,где K(, ) определено в (4.38).Следствие 4.7.2 позволяет приближённо оценивать распределение оценоксигнала, полученных с помощью алгоритма Кэдзоу, при малом шуме (то естьпри малом ) на 1, 2, . .
. , -й итерации при помощи распределения оценки M()за счёт сходимости оценок ̂︀S () и ̃︀S () при малых .116Глава 5Результаты численных экспериментов поустойчивости и применимостимодифицированного метода Гаусса-Ньютона иметода Кэдзоу5.1. Исследование устойчивости алгоритмов5.1.1. Точность вычисления базисовВ разделе 3.2.1 упоминалось, что в алгоритмах 3.2.1 и 3.2.2 есть два этапа,наиболее чувствительных к точности вычислений: получение матриц A (A2 )̂︀ из L и L̂︀ 2 соответственс помощью вычисления полиномов и матриц U и Uно с помощью их ортогонализации.
Теоретический анализ матриц L , L2 и̂︀ 2 представляется крайне трудным. Поэтому был проведён следуютем более Lщий численный эксперимент, показывающий порядок вырожденности матрици полученную в результате ошибку при проектировании на пространства ()и (2 ) при различных и использовании алгоритма 3.2.1 для вычисленияZ() и алгоритма 3.2.2 для вычисления Z(2 ).В качестве ОЛРФ() была взята ОЛРФ с = (1, −3, 3, −1)T , соответствующий ей характеристический многочлен имеет вид () = ( − 1)3 .
Таким образом, эта ОЛРФ управляет последовательностями, представляющимииз себя полином степени не более 2 согласно теореме 1.1.1, степень сигнального корня = 3 (см. теорему 3.2.1). ОЛРФ(2 ) соответствует характеристический многочлен 2 () = ( − 1)6 , поэтому подпространство рядов, управляемых ОЛРФ(2 ), состоит из полиномиальных последовательностей степени не117более 5 согласно теореме 1.1.1. Были взяты на логарифмической сетке от = 30 до = 50000.
Для оценки точности вычисления базиса использовалась норма разницы между рядом, управляемым ОЛРФ, и его проекцией Δ =̃︀‖X −ΠZ(),IX ‖, Z()— базис, вычисленный численным методом на компью̃︀тере (процессор Intel Core i5-5250U, архитектура x86_64 ). В качестве рядовбрались X = (1 21 , . .
. , 1 2 )T для алгоритма 3.2.1 и X = (1 51 , . . . , 1 5 )Tдля алгоритма 3.2.2, где образуют равномерную решётку на отрезке [−1; 1];положительные множители 1 и 2 выбраны так, чтобы ‖X ‖ = 1. Шаг 1 алгоритма 3.2.1 сводится к использованию алгоритма 3.2.5. В свою очередь, алгоритм оптимизации, используемый в шаге 5 алгоритма 3.2.5 — метод золотогосечения на пяти равномерных промежутках в [−/ ; / ].