Секция 4 - Нейросетевые технологии (1250001), страница 21

Просмтор этого файла доступен только зарегистрированным пользователям. Но у нас супер быстрая регистрация: достаточно только электронной почты!

Текст из файла (страница 21)

Использование среды разработки MATLAB.Для исследования и дальнейшей разработки механизма искусственных ансамблевых нейронных сетей для распознавания скрытых образовиспользуются симуляционные возможности среды разработки matlab, каквозможный подход к созданию имитационной модели сети. Планируетсясоздать в среде модель сети спайк-нейронов и проверить ее работоспособность на модельных примерах. В данном случае уместным является использование модуля цифровой обработки сигнала для моделирования чистого шума и экспериментального структурного сигнала (чтобы заранеебыли известны все свойства, паттерны и скрытые зависимости в его частях). Данный опыт состоит в следующем. Так как на чистом сигнале система приходит в состояние равновесия — никакие образы распознаны немогут быть (их там просто нет).

Но когда системе подается на рецепторыструктурный сигнал — система выходит из своего устойчивого состояния,так как в таком сигнале уже есть спайки, то есть присутствуют флуктуации, значимо отличающиеся по силе воздействия от тех, которые представлены в шуме. Таким образом, в сети начинают происходить изменениявесов некоторых нейронов - увеличиваются значения тех весов, нейроныкоторых возбудились в ответ на пришедший спайк на сенсорах, и, соответственно, уменьшаются веса остальных нейронов. Одновременно с этимпроцессом модифицируется значение стабильности каждого конкретногонейрона.

Следует заметить, что в разных нейронах все эти действия происходят независимо от других нейронов, но «внутри» отдельного нейронавсе процессы модификации сильно связаны, и главным связующим звеномявляется один из самых важных параметров нейрона — асимметрия вознаграждения. Название связано с тем, что если нейрон отвечает генерациейнового импульса в ответ на входной спайк — это значит, он обучается (илиуже обучился) распознавать данный образ в сигнале и получает некотороевознаграждение — увеличиваются его веса (примечание: конечно же неправильно говорить, что именно нейрон один научился распознавать паттерн, так как паттерн распознается группой нейронов, а сам этот нейронможет входить сразу в несколько ансамблей). А если же нейрон пассивноотреагировал на данную структуру в сигнале — его вес будет уменьшен на1344Секция 4. Нейро-сетевые технологиинекоторую величину (тем самым, «культивируя» в нем реакцию на этуструктуру). Но важно то, что увеличение значения веса происходит набольшую величину, с чем и связано название параметра.Далее, если после достаточно долгого периода времени (достаточнодлинной истории) происходит стабилизация некоторого высокого уровнястабильности нейронов (скажем, максимальной стабильности) по сравнению с начальным уровнем, то, значит, нейроны обучены распознавать такой сигнал.

То есть стабильность нейрона — это не только величина, контролирующая обучения каждого нейрона, но и показатель эффективностиработы всей сети в целом.Если на данном искусственном сигнале сеть будет работать (а, какпоказывают предварительные опыты, — она распознает структуру сигнала), то это становится поводом для подачи ей на вход любого плохо структурированного сигнала (например, речи), и проведения дальнейших опытов и разработок по модификации структуры сети.Кроме того, планируется распараллелить данный алгоритм (то естьпрограмму на matlab) и попробовать запустить его на суперкомпьютере,так как в самом начале уже было сказано, что его реализация в electronichardware (в виде чипа) должна иметь значительные преимущества в способах представления и обработки информации.Таким образом, запуск системы на высокопроизводительном кластере, где эмерджентное формирование ансамблей сети физически представляется группами процессоров - является одной из очень важных и первостепенных задач исследования.1.2.3.4.Литература.Maas W.

Networks of Spiking Neurons: The Third Generation of NeuralNetworks Model.— ECCC TR 96-031, 1996.Шульговский В. В. Физиология высшей нервной деятельности с основами нейробиологии.— М.: Академия, 2002 г.Иванов А. Развитие структуры искусственных нейронных сетей на основе свойств биологических нейронов.— 2003.Kiselev M. V. Statistical Approach to Unsupervised Recognition of Spatiotemporal Patterns by Spiking Neurons.— IEEE, 2003.1345.

Характеристики

Список файлов лекций