Уидроу, Стирнз - Адаптивная обработка сигналов (1044225), страница 21
Текст из файла (страница 21)
(6.28) Чтобы воспользоваться результатами гл. 5, необходимо привести (6.28) к системе координат главных осей (см. формулы (3.38), (5.40) и т. д. для аналогичных преобразований): соч [М,] =-соч [11 ' [д]д] = Е Щ '[д]д (Я ' [д]д)~] =- = О ' Е [й(д ]д]д ] О = Я ' соч [[д(д] 11 - 4$епе Л. (6.29) Теперь с учетом выражения (5.52) для ковариационной матрицы вектора весовых коэффнцисгпов, записанного в системе координат главных осей, получаем соч [Чд] = —" (Л вЂ” рЛ'! ' сод [[д!д] = !гйе„„(Л -- РЛ'1 ' Л.
(6.30) В практических случаях элементы матрицы рЛ обычно много меньше 1, поэтому, пренебрегая ч.!еном рЛ', упрощаем выражение (6.30): со! [Чд] = ц$„пе Л ' Л = и$„,ы!. (6.31) Таким образом, переходя к исходной системе координат, получаем приближенную установившуюся составляютцую шума вектора весовых коэффициентов: соч [Чд] =- О сод [Чд] О ' = [дф,еы 010 ' = р$ ь, 1.
(6.32) В [6] можно найти дальнейшее исследование ковариацнонной матрицы соч [Чд], проведенное при меньших ограниченяях (для 104 нестационарных сигналов), чем при выводе формулы (6.32). В примере на рис. 6.3 параметр !д равен 0,1 и 0,05, а Ц ы — примеоно 0,4, Следовательно, диагональные элементы соч [Чд] равны 0,04 и 0,02 для верхней и нижней кривых соответственно Эти значения соответствуют среднеквадратическпм отклонениям весовых коэффипиентов 0,2 и 0,14. Относительное среднее значение ОКО (6.34) е=е Полагая, что перехо,!ный процесс, связанный с адаптацией, закончен и, следовательно, квадрат ошибки близок к минимальному значению, можно считать, что Е[о"„д] в (6.34) является элементом соч [Ч'д] в (6.31).
Тогда, подставляя (6.31) в (6.34), получаем приближенное равенство ь среднее значение С КΠ— Реем!е Х ! ]деев!н !г [К] (6 85) О=О Отсюда можно вычислить введенное выше относительное среднее значение ошибки среднее Она~ение ГКО =)д 1г [К] сии (6.36) Для примера, приведенного на рис. 6.3, значения параметра равны 0,1 и 005, а след матрицы К в соответствии с (6.16) равен 1,02, поэтому [О,! для верхней кривой, ]0,05 для нижней кривой, Из (6.36) видно, что М прямо пропорционально параметру 0, т.
е, связано со скоростью адаптации. Для более отчетливого представления этой взаимосвязи напомним, что постоянная времени п-й составляющей обучающей кривой (токо)н =- 1(4 рХ' (6.38) (6.37) !05 Напомним, что в соответствии с (5.96) относительное среднее значение СКО адаптивного процесса определяется отношением среднего значения СКО к ее минимальному значению и поэтому характеризует степень приближения хода адаптивного процесса к винеровскому, т, е его адаптивные свойства. Среднее значение СКО показано на рис.
5.3, и в соответствии с (5.60) среднее значение СКО = Е [Ч, 'ЛЧд]. (6,33) Если векгор Чд имеет Т.+1 элементов, а матрица Л является диагональной, то (6.33) можно выразить в виде суммы: среднее значение С КО = л. ) Е [ педе]. Отсюда следует, что ь+! (г [и[ =' Х ти = Х 1/()лско) = — (1/токо)ср. н=е 4р =е 4р Подставляя это выражение в (6.36), имеем (1/аско)ср (6.40) 4 В частном случае, когда собственные значения равны между собой, выражение (6.40) упрощается; М вЂ” (/. + 1)/4тско (6.41) Экспериментальные исследования показывают, что это выражение является хорошим приближением для соотношения между относительным средним значением СКО, постоянной времени обучающей кривой и числом весовых коэффициентов даже то1.да, когда собственные значения не равны между собой. Подобное соотношение полезно при разработке адаптивных систем в случаях, когда неизвестны собственные значения.
Поскольку след матрицы )с равен общей мощности входных сигналов, просуммированных с весовыми коэффипиентами, и обычно его значение известно, для выбора значения параметра )л, при котором М принимает требуемое значение, можно воспользоваться формулой (6.36). Общее выражение для постоянной времени обучаюпьей кривой при равных собственных значениях можно получить, приравняв формулы (6.36) и (6.41): т к ж (Г -1- 1)/4)ь 1т [Щ.
(6.42) Это выражение является также хорошим приближением во многих случаях, когда собственные значения матрицы ц не равны. Поскольку переходные процессы, связанные с адаптацией, заканчиваются или устанавливаются за период, примерно равный четырем постоянным времени, из (6.41) можно сделать следующий вывод: при ровных собственныт значениях относительное среднее значение СКО равно числу весовых козе/лф~щиентов, делен.- ному на время установления. Удовлетворительной работы системы во многих случаях можно достичь с относ!Пельным среднием значением СКО, равным 10е/о, при времени адаптации, равном десятикратнох!у интервалу времени задержки сигнала в адаптивном трансверсальном фильтре Сравнение характеристик Ранее отмечалось, что алгоритм наименьших квадратов отличается от рассмотренных в гл 4 и 5 алгоритмов прежде всего способом оценки градиента хтл на каждом временном шаге.
В действительности в этом алгоритме используется дополнительная априорная информация — что рабочая функция является квадра- 106 Таблица 6! ! Метод нкискореашего спуска Метод наименьших квадратов Параметры р !т й = 1.+1 = — (1/т 4 СКО св Относнтельное среднее значение ОКО М 1/491 п 1/4р) и !/4рдп И (Ь 4- !)/2ндп тичной, Алгоритм наименьших квадратов имеет преимущество пеРед рассмотренными ранее алгоритмами, в которых используется Разпостный метод оценки градиента ~уз.
Преимушества метода наименьших кнадратов перед рассмотРенным в гл. 4 и 5 методом наискорейшего спуска хорошо видны из сравнения приведенных в табл. 6.1 выражений для относительного среднего значения СКО и постоянной времени. В табл. 6.1 даны полученные соотношения (5,16), (5.86)— (5.88), (5.99), (5.106), (6.20) и (6.40).
Очевидно, что в обоих случаях относительное среднее значение СКО уменьшается при медленной адаптации, т. е. при увеличении постоянной времени. Однако для метода наименьших квадратов при фиксированном рнс 6 6 Завнсячость пос тониной времени адзптацпп от числа весовых козффн цнентов для метолон панс корейшего спуска и наименьших квадратов зоп 400 ЬОО ь" ь' 1О Отпоснтельпое приращение Р Козффнцнепт, характерпзуюп!.ш относительную точность оцепкл параметра, М,еш Постоянная времени и-й составляющей: число нтерацпй тоно члсчо отсчетов данных Тс~ о и а ! к и о Б о с 1О и ы )ь (Ь+ 1) яш!и ск (ь + !)к 6Р ( /~ око)ср 1 Т 6'йср/~хп1п М+Р значении постоянной времени оно растет в зависимости от числа весовых коэффициентов линейно, а не по квадратичному закону. В этом случае, как правило, можно реализовать более быструю адаптацию.
На рис. 6.6 показана еще одна сравнительная характеристика обоих алгоритмов, которая представляет собой зависимость постоянной времени адаптации Токо от числа весовых коэффициентов. Для сравнения относительное среднее значение СКО для метода наименьших квадратов принято 10о1,.
Для метода наискорейшего спуска значение коэффицпенча Л! также принято 10о1о, а относительное приращение Р ныбрано в соответствии с (5.109). Кроме того, предполагаются раиными собственные значения магрицы К. Из табл. 6.1 получаем следующие выражения для кривых на рис. 6.6: (ь + 1)' для метода наискорейшего спуска Токо — — — — — — 50(~+ 1)з; 8МР (6,43) 1+1 для метода наименьших квадратов Токо= =2,5(1;+ 1). 4М Из рис. 6.6 видно, что метод наименьших квадратов обладает меньшим временем адаптации, особенно при больцюм числе несовых коэффициентов. В гл. 5 найдена постоянная времени адаптации при использовании метода наискорейшего спуска в адаптивном фильтре с десятью весовыми коэффициентами М„еж=10оо при оптимизированном значении Р. Эта постоянная определяется соотношением (5.110) н равна 5000 отсчетов данных. При аналогичных расчетах для метода наименьших квадратов получаем, что постоянная времени адаптации составляет лишь 25 отсчетов данных.
Это значение намного лучше получаемого при адаптации с измерительным каналом, вводимым для исключения приращений вектора весовых коэффициентов, когда постоянная равна 625 отсчетам данных (5.111). Поскольку переходные процессы, связанные с адаптацией, обычно заканчиваются в течение времени, приблизительно равного четырем постоянным, время установления составляет примерно 100 периодов или итераций. В 151 показано, что если собственные значения матрицы К равны или почти равны между собой, то эффективность метода наименьших квадратов достигает теоретического предела для адаптивных алгоритмов. Однако если собственные значения не равны между собой, то относительное среднее значение СКО определяется самой быстрой состанляющей процесса адаптации, а время установления ограничивается самой медленной.
Для обеспечения эффективности при таких условиях разработаны алгоритмы, аналогичные методу наименьших квадратов, но основанные на методе Ньютона, а не на методе наискорейшего спуска. В 108 них оценка градиента на каждой нтераг1ни умножается слева нз обратпукз матрицу К: %„,.=%ь Л- РЙ-'~уь (6.44) илн %г ы — %ь+ 29 и — ' ее Хь. (6,45) Это приводил к тому, что все составляющие адаптивного процесса имеют в основном одинаковую постоянную времени, Основанные на этом принципе алгорит»ы рассмотрены в гл.8. Потенциально они эффективнее, чем метод наименьших квадратов, но их, как правило, сложнее реализоваты Предпринягы также попытки разработать более аффективные, чем метод наименьших квадрагов, алгоРитмы за счет использования переменной постоянной времени, влияющей на значения параметра ц.