Хайкин С. - Нейронные сети (778923), страница 177
Текст из файла (страница 177)
(14. 78) Алгоритм коррекции ошибок (14.77) аппроксимирует идеальное условие (14.78) в смысле минимальной среднеквадратической ошибки (1.МБ еггог). В результате такого процесса обучения линейный ассоциатор формирует конкретный набор собственных векторов (определяемый векторами обучения) с собственными значениями, равными единице. Для кластеризации сигналов радара модель ВЯВ использует линейный ассоциатор, обучаемый методом коррекции ошибок для построения матрицы весов Ж и осуществления следующего вычисления 156): х(п + 1) = ~р(7х(п) + ~3%х(п) + бх(0)), (14.79) что слегка отличается от версии алгоритма ВВВ, представленного формулами (14.63) и (14.64). Это отличие заметно в двух аспектах. ° Константа уменьшения (десау) введена в первом слагаемом, 7х(п), для указания на некоторое уменьшение текущего состояния.
Предполагая, что 7 — положительная константа, меньшая единицы, ошибки в конечном счете можно свести к нулю. ° Третье слагаемое Ьх(0) введено для сохранения влияния вектора начального состояния х(0), что ограничивает возможные состояния модели ВБВ. 14.11. Компьютерное моделирование 2 891 Повторение итераций модели В8В приводит к доминированию действия собственных векторов матрицы тт' с наибольшими положительными собственными значениями. Таким образом, векторы х,, хз,...,хк обучаются линейным ассоциатором.
Способность к кластеризации в модели ВБВ появилась в основном за счет ассоциации связанных с сигналом собственных векторов с большими собственными значениями, которая усиливается за счет положительной обратной связи. Таким образом, после некоторого количества итераций эти состояния модели начинают доминировать. С другой стороны, связанные с шумом собственные векторы обычно ассоциируются с малыми собственными значениями. Таким образом, их влияние на состояние модели В8В существенно уменьшается.
Все это поддерживает отношение сигнал!шум на достаточно высокой отметке. В разрезе задачи радарного наблюдения детальное описание излучателей, работающих в окрестности, заранее не известно. В доли секунды для обработки обычно поступактг сотни тысяч импульсов радара, поэтому недостатка в данных в этой задаче нет. Вся сложность состоит в том, как придать этим данным смысл.
Модель В8В может помочь в этой задаче, обучая микроволновую структуру среды радара с помощью встроенного свойства кластеризации. Кластеры формируются в окрестности точечных аттракторов, представляющих конкретные излучатели (источники си~на. ла). Таким образом, модель В8В может идентифицировать получаемые импульсы каь произведенные конкретным излучателем. 14.11. Компьютерное моделирование 2 На рис. 14.23 показаны результаты моделирования модели ВЯВ, состоящей из двух нейронов. Матрица% размерности 2 х 2 определена следующим образом; О, 035 — О, 005 [ ~ — 0,005 0,035~ ' Она симметрична, положительно определена и удовлетворяет условию (! 4.75), Четыре части рисунка 14.23 соответствуют четырем различным начальным состояниям х(0): а) х(0) = [0,1,0,2[т; б) х(0) = [ — 0 2 0 3[т.
в) х(0) = [ — О, 8, — О, 4] т; г) х(0) = [О 6 0 1[т Области, показанные на этом рисунке заштрихованными, являются четырьмя бассейнами аттракции, характеризующими эту модель. На этом рисунке ясно видно, что начальное состояние модели лежит в конкретном бассейне аттракции, что определяет направление движения матрицы весов %(л) при увеличении количества итераций и, 892 Глава 14. Нейродинамика (-1, +1) (е1, +1) (+1, +!) (-1, ь)) 1+1, -!) (-1, -1) (-1, -1) (+1, -!) а) б) (+1, +1) (-1, +1) (-1, +!) (ь1, е)) (+1, -!) (-1, -1) 1-1, -1) (+1, -1) в) г) Рис. 14.23.
Траектории при компьютерном моделировании модели 888. Результаты, показанные в четырех частях рисунка, соответствуют различным начальным состояниям до тех пор, пока состояние сети х(п) не достигнет фиксированного точечного аттрактора (т.е. одного нз углов квадрата размера два на два), принадлежащего данному бассейну аттракцни. Особый интерес для нас представляет траектория, показанная на рис.
14.23,:: начальное состояние х(0) находится в первом квадранте, а траектория заканчивается в углу четвертого (точка (41, -1)), так как именно в бассейне этого аттракгора точки находилось начальное состояние. 14.12. Странные аттракторы и хаос 893 14.12. Странные аттракторы и хаос Вплоть до этого места наша дискуссия о нейродинамике фокусировала внимание читателя только на одном типе поведения динамических систем, характеризую1цемся наличием фиксированных точечных аттракторов.
В этом разделе мы рассмотрим еще один класс аттракторов, называемых странными (ыгапяе), которые характеризуют нелинейные динамические системы с порядком выше второго. Странные аттракторы имеют в высшей мере сложное поведение. Особенно интересным делает изучение странных аттракторов и хаоса тот факт, что рассматриваемая система является детерминированной (т.е. руководствуется фиксированными правилами) и в то же время при наличии только нескольких степеней свободы ведет себя настолько сложным образом, что внешне кажется, что это поведение носит чисто случайный характер. И в самом деле, случайность является фундаментальной характеристикой таких систем в том смысле, что статистика второго порядка хаотических временных рядов говорит именно об этом. Однако, в отличие от истинно случайных явлений, случайность, существующая в хаотических системах, не исчезает за счет сбора большего количества информации! В принципе будущее поведение хаотических систем полностью определяется их прошлым, однако на практике любая неопределенность в выборе начальных состояний, какими бы малыми они ни были, ведет к ее экспоненциальному росту с течением времени.
Следовательно, несмотря на то, что динамика хаотических систем прогнозируема на короткий период времени, ее невозможно предсказать на длительный срок. Таким образом, хаотические временные ряды парадоксальны в том смысле, что их генерация осуществляется детерминированной динамической системой, но они имеют внешний вид случайных.
Именно на этом свойстве явления хаоса Лоренц акцентировал внимание, открыв аттракторы, названные его именем [674]. В нелинейной динамической системе, когда орбиты аттракторов в окрестности начальных состояний стремятся отдалиться с течением времени, говорится о наличии странных аттракторов (зтгапяе апгас1ог), а сама система называется хаотической (сйаобс). Другими словами, именно фундаментальное свойство чувствительности к начальным состояниям (зепгйбте дерепбепсе оп (п1йа! сопсййоп) делает эти аттракторы странными. Чувствительность в контексте нашей задачи означает следующее: если две идентичные системы начинают свое движение из сле~ка отличающихся начальных состояний (а именно х и х + в, кде в — очень малая величина), то их динамические состояния в пространстве состояний будут расходиться друг от друга, при этом расстояние между ними будет увеличиться в среднем экспоненциально.
894 Глава 14. Нейродинамика Инвариантные характеристики хаотической динамики В качестве классификаторов хаотических процессов выступают два основных свойства — фрактальные измерения и экспоненты Ляпунова. Фрактальные измерения (Ггасга1 дппепз1оп) характеризуются геометрической структурой странных аттракторов. Термин "фрактальность" был введен в (702]. В отличие от целочисленных измерений (которые используются для двухмерных поверхностей и трехмерных объектов) фрактальные не принимают целых значений. Как и экспоненты Ляпунова, они описывают перемещение орбит аттракторов при эволюции динамики.
Эти две инвариантные характеристики хаотической динамики будут подробно описаны ниже. Термин "инвариантность" подчеркивает тот факт, что как экспоненты Ляпунова, так и фрактальные измерения любого хаотического процесса остаются неизменными при гладких нелинейных изменениях его системы координат [2]. Фрактальные измерения Рассмотрим странный аттракгор, динамика которого в д-мерном пространстве состо- яний описывается следующим образом: х(л + 1) = Г(х(п)), п = О, 1, 2,..., (14.80) что является дискретной версией выражения (14.2).
Этот факт можно увидеть, приняв 1 = пЫ, где Ы вЂ” период дискретизации. Предполагая достаточную малость величины Ь1, можно записать: д 1 — х(1) = — [х(пь(+ Ь1) — х(пь()). й Таким образом, сформулировать дискретную версию выражения (14.2) можно следующим образом: 1 — (х(пьтг+ Ы) — х(пзбг)] = р(х(п,(зт)) для малых Ь1. Ы Принимая для упрощения выкладок Ь1 = 1 и переставляя слагаемые, получим выражение х(п + 1) = х(п) + Е(х(п)), которое можно привести к форме (14.80) простым переопределением вектор- функции Е( ). 14.12, Странные аттракторы н хаос 895 Возвращаясь к выражению (14.80), предположим, что была построена малая сфера радиуса т вокруг некоторой точки у, лежашей на орбите аттрактора или вблизи нее. Тогда естественное распределение (пап1га! ййпЪш)оп) точек аттрактора можно определить следующим образом: сч р(у) = 1пп — ~~~ б(у — х(п)), (14.81) п=1 У= У(у)р(у) (у (14. 82) Рассматриваемая функция 1(у) дает меру того„как количество точек в малой сфере изменяется при устремлении радиуса т сферы к нулю.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
