rpd000005972 (010400 (01.03.02).Б1 Информатика), страница 3

Недостатки алгоритма обратного распространения ошибки, основанного на оптимизационной схеме наискорейшего спуска. Возможные пути устранения этих недостатков

1.1.3. Альтернативные варианты алгоритма обратного распространения ошибки, основанные на оптимизационных схемах, отличных от наискорейшего спуска(АЗ: 2, СРС: 1)

Форма организации: Практическое занятие

Описание: Альтернативные варианты алгоритма обратного распространения ошибки, основанные на оптимизационных схемах, отличных от наискорейшего спуска: метод сопряженных градиентов, метод Ньютона.

Квазиньютоновские алгоритмы — метод Гаусса-Ньютона, метод Левенберга-Марквардта. Модификация стандартного алгоритма обратного распространения ошибки применительно к использованию квазиньютоновских оптимизационных схем

1.1.4. Глобальная и локальная рецептивность сетей.(АЗ: 2, СРС: 1)

Форма организации: Практическое занятие

Описание: Класс локально-рецептивных сетей. Метод потенциальных функций, задачи классификации и аппроксимации функций. Функции с радиальным базисом (RBF-функции), RBF-нейрон, RBF-сеть. Сопоставление свойств RBF-функций и сигмойдальных функций

1.1.5. Метрические классификаторы(АЗ: 2, СРС: 1)

Форма организации: Практическое занятие

Описание: Метод ближайших соседей, метод потенциальных

функций, метод радиальных базисных функций

1.1.6. Сети радиальных базисных функций (RBF-сети).(АЗ: 2, СРС: 1)

Форма организации: Практическое занятие

Описание: Варианты стратегий обучения: случайный выбор фиксированных центров, выбор центров на основе самоорганизации, выбор центров с учителем. Вероятностная нейронная сеть (PNN-сеть) и общерегрессионная сеть (GRNN-сеть), их соотношение с RBF-сетью

1.1.7. Нейросети и составное представление функций. (АЗ: 2, СРС: 1)

Форма организации: Практическое занятие

Описание: Соотношение НС-представлений и моделей традиционной вычислительной математики. Сходства и различия нейросетевых и традиционных моделей.

Пределы возможностей нейросетевого подхода. Составное представление функций — точный и приближенный варианты. Теорема Колмогорова. Теоремы Веиерштрасса и Вейерштрасса-Стоуна-Горбаня

1.1.8. Нейросетевые модели с обратными связями. (АЗ: 2, СРС: 1)

Форма организации: Практическое занятие

Описание: Рекуррентные сети их особенности, достоинства и недостатки, сопоставление их с сетями прямого распространения.

Понятие устойчивости динамической системы, аттракторы, области притяжения.

Сети Хопфилда: общая структура, принципы работы, свойства. Матрица связей сети Хопфилда. Функция энергии сети, ее роль в процессе функционирования сети. Сеть Хопфилда как ассоциативная память. Синхронная и асинхронная динамика сети. Обучение сети Хопфилда. Разобучение сети Хопфилда.

Модель NARX. Алгоритм работы NARX. Последовательная и последовательно-параллельная схема обучения сети NARX. Сеть NARX в задачах моделирования и управления.

Динамические сети классов LDDN, FTDNN и DTDNN и их соотношение с моделью NARX

1.1.9. Нейросетевые модели с соревновательным обучением.(АЗ: 2, СРС: 1)

Форма организации: Практическое занятие

Описание: Мера сходства объектов, кластеризация объектов. Понятие соревновательного (конкурентного) обучения, подходы к его реализации. Сеть Хемминга, ее структура, принципы работы.

Самоорганизующаяся карта Кохонена (SOM), ее структура, принципы работы. Области соседства в решетке нейронов сети. Латеральные связи в слое нейронов SOM. Одномерные, двумерные и трехмерные карты.

Обучающееся векторное квантование (LVQ). Понятие векторного квантования, кодирующие векторы, мозаика Вороного, опорные векторы

1. Лабораторные работы

1.1.1. Персептроны. Процедура обучения Розенблатта (АЗ: 4, СРС: 4)

Форма организации: Лабораторная работа

Описание: Цель работы: Исследовать свойства персептрона Розенблатта, изучить его применение для решения задачи распознавания образов.

Содержание работы:

1. Для первой обучающей выборки построить и обучить сеть, которая будет правильно относить точки к двум классам. Отобразить дискриминантную линию и проверить качество обучения.

2. Изменить обучающее множество так, чтобы классы стали линейно неразделимыми. Проверить возможности обучения по правилу Розенблатта.

3. Для второй обучающей выборки построить и обучить сеть, которая будет правильно относить точки к четырем классам. Отобразить дискриминантную линию и проверить качество обучения.

1.1.2. Линейная нейронная сеть. Правило обучения Уидроу-Хоффа (АЗ: 4, СРС: 4)

Форма организации: Лабораторная работа

Описание: Цель работы: Исследовать свойства линейной нейронной сети и алгоритмов ее обучения, изучить применение сети в задачах классификации, аппроксимации и фильтрации.

Содержание работы:

1. Использовать линейную нейронную сеть для классификации точек по двум классам. Значения весовых коэффициентов и смещений нейронной сети, рассчитанные по методу наименьших квадратов, сравнить со значениями, полученными при обучении по правилу Уидроу-Хоффа. Отобразить изменение среднеквадратичной ошибки сети при обучении и результаты распознавания.

2. Использовать линейную нейронную сеть с задержками для аппроксимации функции. Произвести адаптацию сети и отобразить ошибку обучения.

3. Использовать линейную нейронную сеть с задержками в качестве адаптивного фильтра для подавления помех. Отобразить ошибку обучения.

1.1.3. Многослойные сети. Алгоритм обратного распространения ошибки(АЗ: 4, СРС: 4)

Форма организации: Лабораторная работа

Описание: Цель работы: Исследовать свойства многослойной нейронной сети прямого распространения и алгоритмов ее обучения, изучить применение данной сети в задачах классификации и аппроксимации функции.

Содержание работы:

1. Использовать многослойную нейронную сеть для классификации точек в случае, когда классы не являются линейно разделимыми. Проверить качество обучения.

2. Использовать многослойную нейронную сеть для аппроксимации функции. Произвести обучение с помощью одного из методов первого порядка. Отобразить ошибку обучения.

3. Использовать многослойную нейронную сеть для аппроксимации функции. Произвести обучение с помощью одного из методов второго порядка. Отобразить ошибку обучения.

1.1.4. Сети с радиальными базисными элементами(АЗ: 4, СРС: 4)

Форма организации: Лабораторная работа

Описание: Цель работы: Исследовать свойства различных видов сетей с радиальными базисными элементами, алгоритмов их обучения, а также применение сетей в задачах классификации и аппроксимации функции.

Содержание работы:

1. Использовать вероятностную нейронную сеть для классификации точек в случае, когда классы не являются линейно разделимыми. Проверить качество обучения.

2. Использовать сеть с радиальными базисными элементами (RBF) для аппроксимации функции. Отобразить ошибку обучения.

3. Использовать обобщенно-регрессионную нейронную сеть для аппроксимации функции. Отобразить ошибку обучения.

1.1.5. Динамические сети (АЗ: 4, СРС: 4)

Форма организации: Лабораторная работа

Описание: Цель работы: Исследовать свойства различных динамических нейронных сетей, алгоритмов их обучения, а также применение таких сетей в задачах прогнозирования значений и аппроксимации функции, а также в задачах идентификации динамических систем.

Содержание работы:

1. Использовать сеть прямого распространения с запаздыванием для предсказания значений функции. Отобразить ошибку обучения и проверить качество прогнозирования.

2. Использовать сеть прямого распространения с распределенным запаздыванием для распознавания динамических образов. Отобразить ошибку обучения и проверить качество распознавания.

3. Использовать нелинейную авторегрессионную сеть (NARX) для идентификации нелинейной динамической системы. Отобразить ошибку и проверить качество обучения

1.1.6. Сети с обратными связями (АЗ: 4, СРС: 4)

Форма организации: Лабораторная работа

Описание: Цель работы: Исследовать свойства сетей Хопфилда и Элмана, алгоритмов их обучения, а также применение сетей в задачах распознавания статических и динамических образов.

Содержание работы:

1. Использовать сеть Хопфилда для распознавания статических образов. Проверить качество распознавания.

2. Использовать сеть Элмана для распознавания динамических образов. Отобразить ошибку обучения и проверить качество распознавания.

1.1.7. Сети Кохонена (АЗ: 4, СРС: 4)

Форма организации: Лабораторная работа

Описание: Цель работы: Исследовать свойства самоорганизующихся сетей, таких как слой Кохонена и карта Кохонена, алгоритмов их обучения, а также применение таких сетей в задачах кластеризации.

Содержание работы:

1. Использовать слой Кохонена для разбиения множества точек на группы. Проверить качество разбиения.

2. Использовать карту Кохонена для кластеризации данных.

1.1.8. Сеть LVQ (АЗ: 4, СРС: 4)

Форма организации: Лабораторная работа

Описание: Цель работы: Исследовать свойства сети LVQ, алгоритмов ее обучения, а также применение данной сети в задачах классификации.

Содержание работы: Использовать сеть LVQ для классификации точек плоскости в случае, когда классы не являются линейно разделимыми. Проверить качество обучения.

1. Типовые задания

Приложение 3
к рабочей программе дисциплины
«Нейроинформатика »

Прикрепленные файлы

Версия: AAAAAAQvT08 Код: 000005972