Уидроу, Стирнз - Адаптивная обработка сигналов, страница 10

(3.45) Подставляя (3,45) в (3.44), получаем о го=4. Если, как и раньше, У=% — %", то можно записать (3.34) в обозначениях смещенной системы координат оо и и,: ~ =[о и,)[ )["о]-;.4. (3.46) Кривые, соответствующие некоторым постоянным значениям приведены на рис, 3.2 в двух системах координат. Аналогично соотношению (3.22) в данном примере собственные значения матрицы к находятся из уравнения Ло — 4Л+3=0, Ло=1; Л =3. (3.47) Кроме того, по выражениям, аналогичным (3.21) и (3.22), из (3.1) с точностью до произвольных констант определяются собственные векторы [1 1] [Чоо~ 11. [Чоо| [ — 1~ [Чоо~ 11. [Чм ~ [оо~ зо б) каков вид кривой, если имеется только олин весовой коэффициенту 2) Приведите подробный вывол равенства (3.3!), начиная с определения гр(диеита.

3) Запишите характеристическое уравнение длн матрицы И в виде полинома, если: 1о Рнц Зкй Эллипсы, соответствующие по (3.4) некоторым постоянным значениям СКО со смещенной системой координат оа, о, и главными осями о'е и о'ь Собственные векторы ь)е и (1, имеют положительное направление по осям о'е н ой Они совпадают с собственными векторами из предыдущего примера, поэтому нормированная матрица собственных векторов такая же, как в (3.25), т. е. (3.50) Наряду с главными осями на рнс.

3.2 представлены эти собственные векторы. Отметим, что векторы (ла и Яь являющиеся в (3.50) столбцами матрицы О, представляют собой единичные векторы, имеющие положительное направление по осям и', и о'ь Как показано в упражнении 15 в конце данной главы, для адаптивного линейного сумматора с одним входом и двумя весовыми коэффициентами матрица О всегда имеет такой вид. Отметим, что„как видно из рис.

3.2, собственные значения характеризуют крутизну поверхности, образованной графиком функции ошибки, по главным осям. Например, при 2!о=5 и 2Хо=2 поверхность имеет бблыцую крутизну в направлении оси и'ь чем в направлении оси и'о. Упражнения 1. а) Докажите, что для системы с двумя весовыма коэффициентами равенство (3 30) описывает эллипс; Га Ь с) а) Н=! ); 6) )(= Ьаб ! Ь и!' с Ь а 4. Найдите собственные значеаия матрицы =Л б. Найдите собственное значение матрицы '=~! 31 6.

Запишите характеристические уравнения матрицы (( в виде полинома, если ~а ь! (аЬс1 а) к=~ н б) )(= Ьое (Ь с)! се! 7. Какая из четырех корреляционных матриц входного сигнала, приведенных в упражнениях 3 и 6, соответствует адаптивным линейным сумматорам с одним входому Какая из матриц соответствует адаптивным линейным сумматорам с многими входамиу 6. Найдите собственные значения матрицы "=(! 31 9.

Найдите собственные значения матрицы -1 31 10. Найдите собственные значения матрицы [ Йь=( 6 ~]. 11. Найдите собственные значения матрицы И= 243 К Найдите нормированные собственаыс векторы: а) в упражнении 4; б) в упражнении б; з) в упражнении 6; г) в упражнении 9; а) в упражнении 1О; е] в упражнении 11. 13. Покажите, что собственные векторы являются взаимно ортогональными: а) в упражнении 12а; б) в упражнении 12в; в) в упражнении 12е. 14.

Рассмотрите адаптивный линейный сумматор (рнс. 2.4) с двумя весоныии коэффициентами (т. е. Е=1). Сигналы х и )( имеют следующие характеристики; Е [х о) ] =-2, Е[хт)о] =3, Е [хо) х)о] =1, Е[хоо)(о] =б, Е[х ог(о] =4, Е[)( о] =Зб. Найдите: выражение для СКО, оптимальный вектор весовых коэффициентов %о, минимальное значение СКО, собственнь)е значения и собственные нектары, Начертнте график, аналогичный графику на рнс. 3.2. !5.

Покаж)пе, что для любого адаптивного линейного сумматора с одним входом и двучя вссовымп коэффициентами собственные векторы задаются равенством (3,50). Ответы к некоторым упраяснениям 1. а) Воспользуйтесь следующим утверждением: общая нвадратичная форма Ахо+Вху+Суо+11х-(-Еу+Е=О описывает эллипс, если В' — 4АС<0. 3. а) Лз — йаЛ+а' — Ь'=0; б) Ло — За),'-)-(За' — 2Ь' — с')Л вЂ” а'+2Ь'(а — с)+ас'=О. 4. Ло=1; Л) =-5, 5. Ло=-2; Л) =4, б.

а) Лз — (а+с)Л-1-ас — Ь'=0; б) Лз+(а+)1+()Ло+(уз+со+ее — аа — а[ — г([)Л+ —, а)11+2Ьсе — ос' — и[ — с'а = О. 7. Для одного входа: 3 а), б); кроме того 6 а), если а=с; 6 б), если а= =г(=)] Ь=-е. Для многих входов; 6 а), б); кроме того, соответствует 3 а), 5). 8. Ло=1,382; Л) 3,6!8. 10. Ло = 2,1716, Л) = 4; Лз = 7,8284 !2. а) совпадает с равенством (3.50); б) совпадает с равенством (3.50); в) 4)от [085! 0526].

4))т [0526 0851] Глава 4 ПОИСК РАБОЧЕЙ ФУНКЦИИ Как было показано выше, для адаптивного линейного сумматора функция СКО является квадратичной, если входные сигналы и требуемый отклик стационарны в статистическом смысле. Во многих представляющих интерес случаях параметры этой квадратичной функции неизвестны и нет ее аналитического описания, Однако, усредняя квадрат сигнала ошибки за некоторый период времени, можно измерить или оценить положение точек на квадратичной поверхности.

Задача состоит в том, чтобы разработать аналитические методы или алгоритмы, позволяющие осу)цествлять поиск параметров рабочей функции и находить оптимальный вектор весовых коэффициентов только по данным из- 48 мерения или оценки, В большинстве практических методов поиск параметров не проводится, а оптимальное или близкое к нему решение находится введением контрольных Расстроек. Методы поиска параметров рабочей функции Эта глава посвящена разработке алгоритмов для двух широко известных методов поиска параметров раоочей функции: Ньютона и наискорейшего с)пуска. Для определения направления, на котором расположен минимум функции, используются градиентные оценки, Поэтому нх называют методами спуска. В дальнейшем будет показано, что эти методы можно применять, в частности, к квадратичной рабочей функции, а также к рабочим функциям других видов.

Метод Ньютона является фундаменталыгым с точки зрения математического описания, хотя зачастую его трудно применить на практике. Это — метод градиентного поиска, при котором на каждом шаге процесса поиска или на каждом цикле итерации, определение которого будет дано ниже, изменяются все ком:)оненты вектора весовых коэффициентов Г1ри условии, что функция является квадрати нюй, эти изменения всегда имеют направление на минимум рабочей функции.

Метод наискорейшего спуска прост в применении и имеет большое значение для решения широкого круга прикладных задач. Это — метод градиентного поиска, при котором также на каждом шаге или цикле итерации изменяются все компоненты вектора весовых коэффициентов. Однако в этом случае все изменения осуществляются в направлении отрицательного градиента рабочей функции. Таким образом, они не обязательно имеют направление на минимум, поскольку, как отмечено в гл, 3 (см., на- пример, рис, 3,1 нли 3.2), отрицательный градиент направлен к минимуму только тогда, когда его начало расположено на однои из главных осей В последующих главах рассматриваются дополнительные ме. тоды поиска параметров рабочей функции и разрабатываются основанные на них алгоритмы.

Один из них представляет собой градиентный метод поиска, в котором на каждом шаге в процессе поиска используется очень грубая оценка. Другой метод не ис. пользует градиенты и находит особое применение в задачах, в которых рабочая функция пе является квадратичной (эти задачи также будут рассмотрены).

Методы называются соответственно методом наименьших квадратов и случайного поиска. Основные принципы методов градиентного поиска Для введения основных понятий методов градиентного поиска, в том числе понятия рекурсивного алгоритма и сходимости, Рассмотрим сначала простейший случай, когда имеется только один весовой коэффициент. Для этого случая, имеющего ограни- Рпс. 4.1. Иллюстрация процесса градиентно~о поиска для рабочей функции одной переменной кое ченное практическое значение, все методы градиентного поиска сводятся к одному.

График рабочей функции одного весового коэффициента (одной переменной), которая является параболой, показан па рис. 4.1. Как и в формуле (3.41), эта функция е =»,.+Х(ги — гож)т (4 !) Отметим, что для случая одной переменной сооствсннос значение г» равно г,о. Первая производная — ' =-.. 2Х. (го —. гвж), (4.2) гйо Вторая производная (4.

3) является постоянной для всей кривой. Задача состоит в том, чтобы найти такой весовой коэффициент гож, при котором миннмизируется значение СКО. Полагая рабочую функцию неизвестной, начнем с произвольного зиа ~ения ;ее и измерим наклон кривой в этой точке. Далее выберем новое значение шь равное начальному значению рдо, плюс приращение, пропорциональное наклону с обратным знаком'. Затем при измерении наклона кривой в точке ш, точно так же получается еще одно новое значение юз.

Этот процесс повторяется до тех пор, пока не будет достигнуто оптимальное значение ю'". Значение, полученное измерением наклона кривой рабочей функции в расположенных с дискретными интервалами точках гло, ггь из,...,называется градиентной опепкой.