Хайкин С. - Нейронные сети (778923), страница 178
Текст из файла (страница 178)
Вспоминая, что объем, ограниченный д-мерной сферой, пропорционален т~, можно составить представление об измерении атграктора как о поведении плотности точек на аттракторе на малых расстояниях в пространстве состояний. Евклидово расстояние между центром у сферы и точкой х(п) на шаге дискретизации п равно ))у — х(п)!). Исходя из этого, точка х(п) лежит внутри сферы радиуса т, если 'Оу — х(п) ( ! ( т, или, эквивалентно: т — Цу — х(п)О ) О. Таким образом, функцию г"(х) в описываемой здесь ситуации можно записать в общем виде: Х з †! 1 у(х) = ~1 0(т — 8у — х()с) 8) /с=1,/стп (14.
83) где Ь( ) — д-мерная дельта-функция; М вЂ” количество точек данных. Обратите внимание на изменения, связанные с использованием числа Х. Естественное распределение р(у) выступает в роли странного атграктора, который аналогичен функции плотности вероятности для случайной переменной. Следовательно, можно определить инвариант 2 по отношению к функции !(у), при условии, что эволюция динамики описывается следующим многомерным интегралом: 896 Глава 14.
Нейродинамика где г) — целое число; 6( ) — функция хэвисайда (неау[8[г[е), определяемая следую- щим образом: ао)= ( Подставляя выражения (14.81) и (14.83) в (14.82), получим новую функцию С(д, т), которая зависит от д и т следующим образом: ос )г Ю '5' ' )'1 С(д, т) = / ~ ~~г 6(т — ~)у — х(й)(!)) ~ — ~г б(у — х(п)) г[у. а=1,атп п=т Используя свойство сортировки дельта-функции Г ас д(у)б(у — х(п))г[у = д(х(п)) для некоторой функции д( ) и изменяя порядок суммирования, можно переопределить функцию С(д, т) в следующем виде: С(д, т) = — ~~) ~~г 9(т — ~)х(п) — х(Й) )!) . (14.84) ж ~)д-1 л=т а=1,lсфп Зта функция С(д, т) называется функцией корреляции (сотте!а[[оп бзпс[юп) и является мерой вероятности того, что две точки, х(п) и х(к), на аттракторе находятся на расстоянии т.
Количество точек данных )тг' в определении (14.84) должно быть достаточно большим. Сама эта функция корреляции С(д, т) является инвариантом аттрактора. Тем не менее на практике общепринято фокусировать внимание на поведении С(д, т) при малых т. Предельный случай описывается следующим выражением: С(д, т) т[о (14.85) где предполагается существование Р„называемого фрактальным измерением (Тгас[а! гйтепяоп) аттрактора. Взяв логарифм от обеих частей уравнения (14.85), можно т Идея функции корреляции С[8, т) [см.
И4.84)) была известна в статистике с [880]. Однако для карактеристики ложного атгракгора она использовалась только в [375]. Изначально использование функции корреляпии С[я,г) рассматривалось в контексте размерности корреляции О = 2. 14.12. Странные аттракторы и хаос 897 формально определить Р, следующим образом: 1об С(д, т) Р, = 1пп о (д — 1) 1об т (14.86) Однако, так как обычно приходится иметь дело с конечным количеством точек данных, радиус т должен быть достаточно малым, чтобы достаточно точек поместилось внутри сферы. Для наперед заданного д фрактальное измерение Р, можно определить как наклон той части функции С(д, т), которая в логарифме 1од т линейна.
При д = 2 определение фрактального измерения Р предполагает наличие простой формы, удобной для вычислений. Полученное измерение Рз называется измерением корреляции (сопе!абоп д1шепз1оп) аттрактора (375). Измерение корреляции отражает сложность рассматриваемой динамической системы и ограничивает степени свободы, необходимые для описания системы. Экспоненты Ляпунова Х(х(0), а) = 1цп — 1об ~ ) . 1 /!~у(п)8 1 п з,'8у(0)()) (14. 87) Любой д-мерный хаотический процесс имеет в целом д экспонент Ляпунова, которые могут быть положительными, отрицательными и равняться нулю.
Положительные экспоненты Ляпунова учитывают неустойчивость орбиты в пространстве состояний. Другими словами, положительные экспоненты Ляпунова отвечают за чувствительность хаотического процесса к начальным состояниям. С другой стороны, отрицательные экспоненты Ляпунова управляют снижением нестационарности орбиты (десау отпала(еп1з 1п огЬй). Нулевая экспонента Ляпунова отмечает тот факт, что Экспоненты Ляпунова являются статистическими величинами, которые описывают неопределенность будущих состояний атграктора. Более конкретно, они оценивают экспоненциальное расстояние, на которое соседние траектории отдалены друг от друга при движении к аттрактору. Пусть х(0) — начальное состояние, а (х(п), п =О, 1, 2,...
) — соответствующая орбита. Рассмотрим точку на бесконечно малом удалении от начального состояния х(0) в направлении вектора у(0), тангенциального к орбите. Тогда эволюция вектора тангенса определяет эволюцию бесконечно малого смещения возмущенной орбиты (у(п), п = 0,1,2,...) от невозмущенной (х(п), п = О, 1, 2,...). В частности, отношение у(п)/Оу(п) О определяет бесконечно малое смещение орбиты от точки х(п), а отношение Оу(п) О/'Оу(0) Π— множитель, иа который бесконечно малое смещение растет (если Оу(п)О > Оу(0))0 или уменьшается (если йу(и) О > Цу(0) О).
Для любого начального состояния х(0) и начального смещения ао = у(0)/Оу(0) О экспонента Ляпунова (Ьуарппоч ехропепг) определяется следующим образом: 898 Глава 14. Нейродинамика динамику хаоса можно описать системой нелинейных дифференциальных уравнений. Это значит, что хаотический процесс является потоком (1)озч). Объем в Ы-мерном пРостРанстве состоЯний ведет себЯ как ехР(А(Хз + Хз+...
~-Х4)), где Р— количество шагов времени в будущем. Отсюда следует, что, для того, чтобы процесс был диссипативным (о)зз)ра1)че), сумма экспонент Ляпунова должна быть отрицательной. Это необходимое условие того, чтобы объем в пространстве состояний уменьшался со временем, что является условием физической реализуемости. Измерение Ляпунова Для заданного спектра Ляпунова Х„ Хз, ..., 14 в 1539] было введено понятие изме- рения Ляпунова (Ьуарппоч йтепз)оп) для странного атграктора: 2' ,3., Рь = К+ *=' (14.88) где К вЂ” целое число, удовлетворяющее двум условиям: кчз 2„>Ои ~ Х;(О. При нормальных условиях измерение Ляпунова Рь имеет приблизительно тот же размер, что и измерение корреляции Рз.
Это важное свойство любого хаотического процесса. Это значит, что несмотря иа то, что измерения корреляции и Ляпунова определяются совершенно различными способами, их значения для странного аттрактора обычно достаточно близки друг к другу. Определение хаотического процесса В этом разделе обсуждался хаотический процесс, однако ие давалось его формальное определение. В свете того, что известно об экспонентах Ляпунова, можно принять следующее определение. Хаотический процесс — это процесс, генерируемый нелинейной динамической системой, в которой хотя бы одна экспонента Ляпунова положительна.
Это необходимое условие для чувствительности к начальным состояниям, что является основным признаком странного атграктора. Самая большая экспонента Ляпунова также определяет горизонт прогнозирования хаотического процесса. В частности, кратковременная прогиозируемость хаотического процесса приблизительно равна величине, обратной к максимальной экспоненте Ляпунова 12).
14.13. Динамическое восстановление 999 14.13. Динамическое восстановление Динамическое восстановление можно определить как отображение, которое воспроизводит модель неизвестной динамической системы размерности т. Интерес представляет динамическое моделирование временных рядов, генерируемых системой, о которой известно, что оиа хаотична. Другими словами, для заданного временного ргща (у(п))'~ г необходимо построить некоторую модель, которая вобрала бы в себя рассматриваемую динамику, ответственную за генерацию наблюдения р(п). Как уже говорилось в предыдущем разделе, ]тг — зто размерность множества примеров.
Основной целью динамического восстановления является придание физического смысла таким временным рядам без необходимости математических знаний о рассматриваемой динамике. Обычно рассматриваемая система чересчур сложна, чтобы ее можно было охарактеризовать математическими терминами. Нам доступна только информация, содержащаяся во временных рядах, полученных из измерений одного из наблюдений системы.
Фундаментальным результатом теории динамического восстановлеиияз является геометрическая теорема, называемая, согласно (1040], теоремой вложения с задержкой (г[е]ау-етЬегЫ[п8 1Ьеогет). Такеис рассматривал ситуацию, в которой отсутствует шум, фокусируя внимание иа координатных отображениях с задержкой (е[е]ау соогЙпаге тара) или моделях прогнозирования, которые конструируются из временных рядов, представляющих собой наблюдения динамической системы. В частности, Такеис показал, что если динамическая система и наблюдения носят общий характер, то координатное отображение с задержкой из г[-мерного гладкого компактного миожества в Яздъг является диффеоморфизмом (тй[ТеошогрЬ[йш) этого многообразия, где г[ — размерность пространства состояний данной динамической системы.
(Диффеоморфизм рассматривается в следующей главе.) Для интерпретации теоремы Такеиса в терминах обработки сигнала вначале рассмотрим неизвестную динамическую систему, эволюция которой в дискретном времени описывается нелинейным разпостиым уравнением: х(п + 1) = Р(х(п)), (14.89) где х(п) — г[-мерный вектор состояний системы в момент времени и; Е( ) — неко- Я Построение динамики, использующее независимые июрдинаты из временных рядов, впервые бьшо про. ведено в [809]. Однако в втой работе не солержалюсь никаких доказательств и вместо вложений с задержюй по времени испсльювались "производные" вложения. В 1981 юду такенс опубликовал математически глубокую работу, посвященную вложениям с задержкой по времени, которые применялись к штршгторам, подобным поверхностям или гору.
В том же году была опубликована работа, посвященная тому же вопросу [703]. Нема- тематикам будет сложно читать работу такеиса, и еше сложнее работу Мане. Идея юординатиого отображения с задержкой (йе1ау соопйпаю шарр[пя] была обогащена [935). Подход, предпринятый в атой работе, объединяет и расширяет результаты предшественников [1040], [! 135].
900 Глава 14. Нейродинамика торая вектор-функция. Здесь предполагается, что период дискретизации нормирован на единицу. Пусть временной ряд (у(п) ), наблюдаемый на выходе системы, определяется в терминах вектора состояний х(п) следующим образом: у(п) = д(х(п) + и(п), (14.90) где д( ) — скалярная функция; о(п) — алдитивный шум. Здесь аддитивный шум добавлен для того, чтобы учесть несовершенство и неточность методов измерения наблюдения д(п). Уравнения (14.89) и (14.90) описывают поведение динамической системы в пространстве состояний. Согласно теореме Такенса, геометрическая структура динамики этой системы, зависящей от многих переменных, может быть восстановлена (ип1о10) на основе наблюдений у(п) с нулевым шумом (о(п) =О) в Р-мерном пространстве, построенном на основе нового вектора ул(п) = (д(п), д(п — т),..., д(п — (Р— 1)т))~, (14.91) где т — некоторое положительное целое, называемое нормированной задержкой вложения (поила!1хеб ешЬедйп8 де!ау). Это значит, что для заданного наблюдаемого значения у(п) в дискретный момент времени и, которое относится к одному компоненту неизвестной динамической системы, динамическое восстановление возможно с использованием Р-мерного вектора ул(п) (Р > 2Н+ 1), где г( — размерность пространства состояний данной системы.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
