Прогнозирование

Цель – разработать и исследовать ИНС обратного распространения, предназначенную для прогнозирования временных серий, а также для анализа качества генератора случайных чисел.

Задание

1. Повторить соответствующий теоретический материал (гл. 1: п. 1.5; гл. 2: п. 2.1 – 2.3 и гл. 3).

2. Создать и обучить ИНС, предназначенную для анализа временных серий заданной размерности и отражающую структуру данных серий.

3. Осуществить прогноз значений будущих элементов временных серий.

Исследуемые временные серии

Объектом исследования являются временные серии, полученные с помощью генератора случайных чисел, формирующего равномерно распределенные числовые значения.

За основу рекомендуется взять сто элементов (чисел) временной серии, значения которых лежат в диапазоне от «0» до «99». Данную временную серию следует получить с помощью генерации случайных чисел любого программного продукта для математического моделирования (MathCAD, Matlab или др.), среды программирования на языке высокого уровня (Delphi, C Builder или др.) или же взять из табл.6.5.

Выясним, есть ли какая-либо закономерность в появлении элементов данных временных серий и тем самым определим качество генератора случайных чисел, который по идее должен обладать свойством некоррелированности значений числовых последовательностей.

Определение начальной структуры нейронной сети

Чтобы синтезировать оптимальную структуру, необходимо подготовить и обучить несколько ИНС и проверить качество выполнения требуемых операций. Ниже приведем основные этапы синтеза такой структуры.

Аналогично предыдущим случаям, воспользуйтесь ИНС типа «многослойный персептрон».

1. Количество входов ИНС должно соответствовать ширине «окна скольжения» (п.1.5) – количеству элементов временных серий (в нашем случае – N).

Таблица 6.5. Числа в диапазоне от «0» до «100», полученные с использованием генератора случайных чисел Турбо-паскаль

1. Число нейронов во внутренних (скрытых) слоях и число таких слоев зависит от сложности задачи анализа или прогнозирования временных серий.

2. Выходной слой ИНС следует составить из одного нейрона, значение которого будет соответствовать прогнозируемому элементу временных серий.

Обучение нейронной сети

Для обучения ИНС подготовьте блок обучающих выборок следующим образом.

Выберите кадр (временное окно) из N+1 числа элементов, идущих от конца к началу временной серии, где первые N элементов – формируют вектор входного слоя, а последний (N+1)-й – элемент выходного слоя ИНС. Следующую обучающую выборку получаем, «передвигаясь» временным окном на один элемент вправо и т.д.

Таким образом, анализируя временную серию, состоящую, например, из 100 элементов, можно подготовить 100–N–1 обучающих пар.

Оптимизация структуры нейронной сети

Чтобы оценить качество прогнозирования, получите в соответствии с разделом «Исследуемые временные серии» еще 3 элемента, следующих за 100 элементами временной серии, которые уже использовались при обучении. Далее, запустите ИНС, предъявив ей 3 новых вектора, и сравните результаты работы ИНС с числами, синтезированными генератором.

Разницу между значениями, синтезированными генератором, и результатами работы нейронной сети используйте как качественный показатель ИНС. Уменьшите эту разницу, модифицируя структуру ИНС.

Замечания

Подход, используемый в данной лабораторной работе для проверки качества генератора случайных чисел, наверное, не самый популярный и эффективный. Между тем, разрабатываемая в лабораторной работе ИНС является аналогичной ИНС, применяемым в интеллектуальных системах прогнозирования различного назначения, например, в системах прогноза знаков изменения биржевых индексов, системах прогноза цен, системах расчета оптимального использования ресурсов ит.д. (п.1.5).

ЗАКЛЮЧЕНИЕ

В ближайшие десятилетия следует ожидать дальнейший технологический рост в области проектирования нейронных сетей и нейрокомпьютеров, и связанный с этим ростом, рост интереса к ним со стороны специалистов. Развивается как фундаментальная наука, где искусственные нейронные сети являются объектом исследований, так и прикладная наука о технологиях применения нейронных сетей при решении разнообразных задач во многих прикладных отраслях. За последние годы уже открыто немало новых возможностей нейронных сетей, а работы в области нейротехнологий зачастую становятся важным вкладом в промышленность и науку, имеют большое экономическое значение.

В учебном пособии весьма подробно рассматриваются теоретические вопросы: основные направления применения ИНС, основные понятия ИНС, принципы построения и методы обучения ИНС «Многослойный персептрон» и ИНС Кохонена. Теоретический материал соответствует современному состоянию теории ИНС, а содержание – государственному образовательному стандарту высшего профессионального образования по дисциплине «Нейронные вычислительные сети».

Учебное пособие включает лабораторный практикум, который обеспечивает методическую помощь студентам при моделировании ИНС типа «Многослойный персептрон» в среде нейросимулятора TRAJAN или ей подобной. Практикум включает 5 лабораторных работ, задания которых дифференцированы и предусматривают индивидуальные варианты.

Рекомендуется студентам и аспирантам, обучающимся по направлению «Информатика и вычислительная техника».

ВОПРОСЫ ДЛЯ САМОПРОВЕРКИ

1. В каких случаях применение искусственных нейронных сетей актуально?

2. Назовите типовые задачи и основные области применения искусственных нейронных сетей.

3. Какие задачи решают аксоны, дендриды и синапсы?

4. Определите искусственный нейрон и его основные свойства.

5. Какую задачу решает активационная функция в искусственном нейроне?

6. Назовите виды активационных функций.

7. Дайте определение многослойного персептрона.

8. К какому типу алгоритмов обучения относится алгоритм обратного распространения, и в чем отличительные черты этого алгоритма.

9. Перечислите требования, предъявляемые к обучающим выборкам и их подготовке.

10. В чем заключается задача классификации?

11. Приведите примеры образов и процессов, которые способны классифицировать искусственные нейронные сети.

12. Сформулируйте этапы решения задачи прогнозирования с использованием искусственных нейронных сетей.

13. Что означает термин «глубина прогнозирования»?

14. В чем различие методов прогнозирования с учетом «сезонной» составляющей и без учета.

15. От каких факторов зависит достоверность и точность прогноза с использованием искусственных нейронных сетей?

16. Для решения каких задач применяются самоорганизующиеся карты Кохонена?

17. Каков смысл параметров, передаваемых функции обучения Кохонена?

18. Что представляет собой слой Кохонена?

19. Что означают термин «эвклидово расстоянение»?

20. Какие задачи можно решить с помощью нейросимуляторов?

ЛИТЕРАТУРА

1. Галушкин А.И. Некоторые исторические аспекты развития элемент­ной базы вычислительных систем с массовым параллелизмом (80- и 90-ые гг) // Нейрокомпьютер, № 1, 2000. с. 68-82.

2. Горбань А., Россиев Д. Нейронные сети на персональном компью­тере. Новосибирск: Наука, 1996. 276 с.

3. Кирсанов Э.Ю. Цифровые нейрокомпьютеры: Архитектура и схемо­техника / Казань: Казанский Госуниверситет, 1995. 131 с.

4. Круг П.Г. Нейронные сети и нейрокомпьютеры: учебное пособие. М.: Изд-во МЭИ, 2002. 176 с.

5. Круг П.Г. Сигнальные процессоры и нейрокомпьютеры. М.: Изд-во МЭИ, 2002. 256 с.

6. Минский М., Пейперт С. Персептроны. М.: Мир, 1971.

7. Нейросетевые и нейрокомпьютерные технологии: Метод. указания / Алексеев А.В., Круг П.Г., Петров О.М. М.: МГАПИ, 1999. 20 с.

8. Уоссермен Ф. Нейрокомпьютерная техника. М.: Мир, 1992.

9. Хехт-Нильсен Р. Нейрокомпьютинг: история, состояние, перспек­тивы // Открытые системы. № 4. 1998.

10. Нейрокомпьютеры: архитектура и схемотехника / Шахнов В.А., Власов А.И., Кузнецов А.С., Поляков Ю.А. М.: Изд-во Машин-ние, 2000. 64 с.

11. Alekseev A., Krug P., Shahidur R. The Neural Networks. Teaching Edition. Moscow. Publishing House of MPEI, 2000. 64 p.

12. http://www.informatik.uni-stutgart.de/ipvr/bv/projekte/snns

13. http://www.trajan-software.co.uk

14. http://www.basegroup.ru/tasks/forecast.htm

ПРИЛОЖЕНИЯ

Таблица П.1. Программные продукты моделирования нейронных сетей

Таблица П2. Варианты заданий к лабораторной работе №2

Таблица П3. Варианты заданий к лабораторной работе №3

Таблица П4. Варианты заданий к лабораторной работе №5

P.G.Krug.