IskusstvennyeNeironnyeSeti.TeoriyaIPraktika (В. В. Круглов, В. В. Борисов - Искуственные нейронные сети), страница 10

Применение нейронной сети

Сеть обучена

Расчет ошибки г-

Ошибка мала

Расчет ошибки

Подстройка весов Д нейронной сети у

Ошибка велика

Рис 1 8 Процесс обучения нейронной сети

43

достигает нуля или приемлемо малого уровня, обучение останавливают, и сеть готова к распознаванию.

Важно отметить, что вся информация, которую сеть приобретает о задаче, содержится в наборе примеров. Поэтому качество обучения сети зависит от количества примеров в обучающей выборке, а также от того, насколько полно эти примеры описывают задачу. Считается, что для полноценной тренировки требуется хотя бы несколько десятков (а лучше сотен) примеров.

1.6.3. Применение обученной нейронной сети

Важнейшая особенность человеческого мозга состоит в том, что, однажды обучившись определенному процессу, он может верно действовать и в тех ситуациях, которым он не обучался. Так же и обученная нейронная сеть может с большой вероятностью правильно реагировать на новые, не предъявленные ей ранее данные. Например, можно нарисовать букву другим почерком, а затем предложить нейронной сети классифицировать новое изображение Веса обученной сети хранят достаточно много информации о сходстве и различиях букв, поэтому можно рассчитывать на правильный ответ и для нового варианта изображения

Отметим, что задачи классификации (типа распознавания букв) очень плохо алгоритмизируются. Если в случае распознавания букв верный ответ очевиден заранее, то в более сложных практических задачах обученная нейронная сеть выступает как эксперт, обладающий большим опытом и способный дать ответ на трудный вопрос. Примером такой задачи служит медицинская диагностика, где сеть может учитывать большое количество числовых параметров (энцефалограмма, давление, вес). Конечно, «мнение» сети в этом случае нельзя считать окончательным.

Классификация предприятий по степени их перспективности - это уже привычный способ использования нейронных сетей в практике западных компаний. При этом сеть также использует множество экономических показателей, сложным образом связанных между собой.

Нейросетевой подход особенно эффективен в задачах экспертной оценки по той причине, что он сочетает в себе способность компьютера к обработке чисел и способность мозга к обобщению и распознаванию. Говорят, что у хорошего врача способность к распознаванию в своей области столь велика, что он может провести приблизительную диагностику уже по внешнему виду пациента. Можно согласиться также, что опытный трейдер чувствует направление движения рынка по виду графика. Однако в первом

44

случае все факторы наглядны, т. е. характеристики пациента мгновенно воспринимаются мозгом как «бледное лицо», «блеск в глазах». Во втором же случае учитывается только один фактор - курс за определенный период времени. Нейронная сеть позволяет обрабатывать огромное количество факторов (до нескольких тысяч), независимо от их наглядности. Это универсальный «хороший врач», который может поставить свой диагноз в любой области.

Помимо задач классификации, нейронные сети широко используются для поиска зависимостей в данных и кластеризации. Кластеризация - это разбиение набора примеров на несколько компактных областей (кластеров), причем число кластеров заранее неизвестно. Кластеризация позволяет представить неоднородные данные в более наглядном виде и использовать далее для исследования каждого кластера различные методы. Например, нейронная сеть на основе методики использования МГУА (метода группового учета аргументов) позволяет по обучающей выборке построить зависимость одного параметра от других в виде полинома. Такая сеть может не только мгновенно выучить таблицу умножения, но и найти сложные скрытые зависимости в данных (например, финансовых), которые не обнаруживаются стандартными статистическими методами, быстро выявить фальсифицированные страховые случаи или недобросовестные предприятия.

Особенно важны для практики, в частности, для финансовых приложений, задачи прогнозирования, поэтому поясним способы применения нейронных сетей в этой области более подробно

Рассмотрим задачу прогнозирования курса акций на день вперед. Пусть имеется база данных, содержащая значения курса за последние 300 дней. Построим прогноз завтрашней цены на основе курсов за последние несколько дней. Понятно, что прогнозирующая нейронная сеть должна иметь всего один выход и столько входов, сколько предыдущих значений мы хотим использовать для прогноза, например, четыре последних значения. Составить обучающий пример очень просто, входными значениями будут курсы за четыре последних дня, а желаемым выходом - известный курс в следующий за ними день.

Если нейронная сеть совместима с какой-либо системой обработки электронных таблиц (например, excel), то подготовка обучающей выборки состоит из следующих операций:

• занести значения курса акций последовательно в столбец таблицы;

• скопировать значения котировок в 4 соседних столбца,

45

Входы

Выход

ооо

Рис. 1.9. Подготовка данных для нейронной сети в excel

• сдвинуть второй столбец на 1 ячейку вверх, третий столбец-на 2 и т. д. (рис.1.9).

Смысл этой подготовки состоит в том, что каждая строка таблицы теперь представляет собой обучающий пример, где первые четыре числа - входные значения сети, а пятое число - желаемое значение выхода. Исключение составляют последние четыре строки, где данных недостаточно. Поэтому эти строки не учитываются при обучении. Заметим, что в четвертой снизу строке заданы все четыре входных значения, но неизвестно значение выхода. Именно при применении к этой строке обученной сети и можно получить прогноз на следующий день.

Как видно из этого примера, объем обучающей выборки зависит от выбранного количества входов. Если сделать 299 входов, то такая сеть потенциально могла бы строить лучший прогноз, чем сеть с 4 входами, однако в этом случае имеется всего один обучающий пример, и обучение бессмысленно. Это следует учитывать при выборе числа входов, выбирая разумный компромисс между глубиной предсказания (число входов) и качеством обучения (объем обучающей выборки).

Укажем в заключение, что ряд практических примеров использования нейронных сетей приведен в третьей части книги.

46

Глава 2

ОСНОВНЫЕ КОНЦЕПЦИИ НЕЙРОННЫХ СЕТЕЙ

Кроме рассмотренных выше многослойных нейронных сетей, обучаемых по алгоритму обратного распространения ошибки, известно много разновидностей специфических нейронных сетей, реализующих различные свойства биологических систем и, прежде всего, свойства ассоциативной памяти.

2.1. Ассоциативная память нейронных сетей

В биологических системах, обладающих памятью, изменение нервной активности системы под влиянием внешних раздражителей зависит от воздействия предшествующих событий и от информации, хранящейся в памяти. Процесс запоминания связан с образованием следа (узора, энграммы) в мозговых структурах. Поток нервных импульсов, несущих информацию о запоминаемом объекте, проходит через нейронные сети, возбуждая на своем пути нервные клетки, из которых формируется нейронный след. Проторенный нервный путь обладает меньшим сопротивлением по отношению к другим возможным путям. Повышение производительности возникшего нейронного следа возможно вследствие свойства нейронов достаточно быстро адаптироваться к повторно проходящим нервным импульсам. Механизмы памяти обеспечивают длительное сохранение увеличенной проводимости нейронов, вовлеченных в образованный узор.

Следы памяти, хранящие образы объектов, отражены в сложных параллельно-последовательных нейронных сетях, обладающих большой избыточностью. В организованных случайным образом нейронных сетях следы памяти распределяются по пространству мозга также случайно.

Ситуация еще больше усложняется тем, что одни и те же нейроны участвуют в хранении образов различных запоминаемых

47

объектов. Это значит, что след, возникающий при запоминании одного объекта информации, может иметь общие звенья нейронной сети со следами от других объектов. Поэтому нельзя определенно указать, в каком участке мозга будет находиться след конкретного объекта информации - образа.

В этом случае механизм доступа к информации базируется не на указании места хранения информации в логико-запоминающей среде, а на анализе свойств самой искомой информации.

В биологических системах обработки данных таким механизмом является механизм ассоциаций. Впервые термин «ассоциация» был введен Дж. Локком в 1698 г. и определен как «связь, возникающая при определенных условиях между двумя или более психическими образованиями - ощущениями, актами, восприятиями, идеями».