Хайкин С. - Нейронные сети (778923), страница 25
Текст из файла (страница 25)
Если этот процесс является нелинейным, нейронная сеть является мошным средством решения задачи прогнозирования, так как нелинейная обработка сигнала предполагается самой архитектурой нейронной сети. Единственное исключение составляет выходной слой нейронов: если динамический диапазон временного ряда (х(л)) не известен, в выходном слое целесообразно использовать линейные обрабатывающие элементы. Формирование диаграммы направленности Формирование диаграммы направленности является пространственным (зрайа1) случаем фильтрации и используется для разделения пространственных признаков полезного сигнала и шумов. Для формирования диаграммы направленности используется специальное устройство.
Задачу формирования диаграммы направленности целесообразно решать с использованием нейронных сетей, созданных на основе знаний о строении слухового аппарата человека !151] и решении задач эхо-локации в корковых слоях системы слуха летучей мыши !994), !1026). Система эхо-локации летучей мыши отфильтровывает влияние окружающей среды. Мышь испускает короткие ультразвуковые сигналы с ча- 2.10. Задачи обучения 121 и (и) 2( ) (и) лл ошибки е(п) ии(п) Рис. 2.16. Блочная диаграмма обобщенной системы подавления боковых лепестков стотной модуляцией, а затем улавливает отраженные сигналы с помощью слухового аппарата (пары ушей), фокусируя внимание на потенциальной добыче (насекомых).
Уши летучей мыши выполняют некоторый вид пространственной фильтрации (а точнее, ингперферомегприн), результаты которой используются слуховой системой для извлечения сигнала, содержащего интересующий ггласс обьекгпов (анен(юла! зе(есйийу). Построение диаграммы направленности, как правило, выполняется в системах радаров, где задача сводится к отслеживанию траектории цели в условиях помех и интерференции (т.е.
наложения сигналов друг на друга). Эта задача усложняется двумя следующими факторами. ° Полезный сигнал формируется в неизвестном направлении. ° Не существует априорной информации о наложении сигналов в результате интерференции. Одним из способов решения проблем такого рода является подавление боковых лепестков. Блочная диаграмма устройства, позволяющего решать такую задачу, показана на рис. 2.16.
Эта система состоит из следующих компонентов (386), (434), [1083). ° Массив ангпенных элементное (апау оГап(еппа е!ешеп(з), который снимает сигналы в дискретных точках пространства. ° Линейный сумматор (1!пеаг сошЬ!пег), определяемый множеством фиксированных весов (тсД ™ т, на выходе которого формируется желаемый отклик. Работа этого линейного сумматора подобна пространственному фильтру, характеризуемому диаграммой излучения (т.е. графиком амплитуды выходного сигнала антенны в зависимости от угла поступающего сигнала в полярных координатах).
Главный лепе- 122 Глава 2. Процессы обучения сток этой диаграммы излучения определяет направление, для которого обобщенная система подавления боковых лепестков выдает неискаженный отклик. Выход этого линейного сумматора, обозначенный а(п), как раз и обеспечивает желаемый отклик обобщенной системы подавления боковых лепестюв. ° Матрица блокировки сигнала (з1йпа1-ЫосЫпд шаптх) С„функцией которой является блокировка влияния сторонних сигналов, которые просачиваются через боковые лепестки диаграммы излучения пространственного фильтра, представляющего линейный сумматор.
° Нейронная сеть с настраиваемыми параметрами, предназначенная для адаптации к статистическим вариациям сторонних сигналов. Настройка свободных параметров нейронной сети выполняется с помощью алгоритма обучения на основе юррекции ошибки, определяемой как разность между выходом линейного сумматора г((п) и фактическим выходным сигналом у(п) нейронной сети.
Таким образом, обобщенная система подавления боковых лепестков ОБЬС (депегайгед зЫе!оЬе сапсейег) работает под управлением линейного сумматора, выполняющего роль учителя. Как и при обычном обучении с учителем, линейный сумматор находится вне контура обратной связи нейронной сети.
Обобщенная система подавления боковых лепестков, для обучения которой используется нейронная сеть, называется нейросетевой системой подавления боковых лепестков (пепгоЬеагпГоппег). Этот класс обучаемых машин получил общее название нейрокомпьютеров, предназначенных для настройки внимания 1447). Разнообразие представленных здесь шести задач обучения еще раз свидетельствует в пользу универсальности нейронных сетей как систем обработки информации. В фундаментальном смысле все этн задачи являются проблемами обучения построению отображений на основе примеров (иногда зашумленных). При отсутствии априорных знаний все эти задачи являются нлохо обусловленными (!П роаед), т.е. их возможные решения определяются неоднозначно. Одним из способов обеспечения хорошей обусловленности (и'ей розе) решений является применение теории регуляризацин, которая описывается в главе 5.
2.11. Память Обсуждение задач обучения, особенно задачи ассоциативной памяти, заставляет задуматься о самой намяти (шешогу). В контексте нейробиологии под памятью понимается относительно продолжительная во времени модификация структуры нейронов, вызванная взаимодействием организма с внешней средой [1051) (например, отключением синаптических входов от щупалец дендритов или переключением с одного щупальца на другое, см.
рис. 1.2, стр. 40). Без такой деформации память не существует. Чтобы память была полезной, она должна быть доступной для нервной 2.11. Память 123 системы. Только тогда она может влиять на будущее поведение организма. Однако для зтого в памяти предварительно должны быть накоплены определенные модели поведения. Это накопление осуществляется с помощью проиесса обучения (1еапп(пя ргосезз). Память и обучение тесно взаимосвязаны. При изучении некоторого образа он сохраняется в структуре мозга, откуда может быть впоследствии извлечен в случае необходимости. Формально память можно разделить на кратковременную и долговременную, в зависимости от сроков возможного хранения информации 166].
Кратковременная память является отображением текущего состояния окружающей среды. Каждое "новое" состояние среды, отличное от образа, содержащегося в кратковременной памяти, приводит к обновлению данных в памяти. С другой стороны, в долговременной памяти хранятся знания, предназначенные для продолжительного (или даже постоянного) использования. В зтом разделе рассматриваются вопросы ассоциативной памяти, которая характеризуется следующими особенностями. ° Эта память является распределенной. ° Стимулы (ключи) и отклики (хранимые образы) ассоциативной памяти представляют собой векторы данных.
° Информация запоминается с помощью формирования пространственных образов нейросетевой активности на большом количестве нейронов. ° Информация, содержащаяся в стимуле, определяет не толью место ее запоминания, но и адрес для ее извлечения. ° Несмотря на то что нейроны не являются надежными вычислительными элементами и работают в условиях шума, память обладает высокой устойчивостью к помехам и искажению данных. ° Между отдельными образами, хранимыми в памяти, могут существовать внутренние взаимосвязи. (В противном случае размер памяти должен быть невероятно велик, чтобы вместить все отдельные изолированные образы.) Отсюда и проистекает вероятносп ошибок при извлечении информации из памяти. В распределенной памяти (д(зп1Ьпгед шепюгу) главный интерес представляет одновременное или почти параллельное функционирование множества различных нейронов при обработке внутренних или внешних стимулов. Нейр]янная активность формирует в памяти пространственные образы, содержащие информацию о стимулах.
Таким образом, память выполняет распределенное отображение образов в пространстве входных сигналов в другие образы выходного пространства. Неюторые важные свойства отображения распределенной памяти можно проиллюстрировать на примере идеализированной нейросети, состоящей из двух слоев нейронов. На рис. 2.17, а показана сеть, которую можно рассматривать как модельный компонент нервной системы (пюде1 сошропеп1 оГ пегиопз аузГегп) [210], 1953]. Все нейроны входного слоя соединены со всеми нейронами выходного. В реальных системах синаптические связи между 124 Глава 2. Процессы обучения Входной Синаптические Выходной слой нейронов соединения слой нейронов а) Компонент модели ассоциативной памяти нервной системы хы Ун хзз ) хз Вхолной слой узлов источника Выходной слой нейронов б) Модель ассоциативной памяти с искусственными нейронами Рыс.
2.17. Модели ассоциативной памяти нейронами являются сложными и избыточными. В модели, показанной на рис. 2.17, а, для представления общего результата от всех синаптических контактов между дендритами нейронов входного слоя и ответвлениями аксонов нейронов выходного слоя использовались идеальные соединения. Уровень активности нейрона входного слоя может оказывать влияние на степень активности любого нейрона выходного слоя. Анапогичная ситуация для искусственной нейронной сети показана на рнс.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
