Круглов В.В., Борисов В.В. - Искусственные нейронные сети (ИНС) Теория и практика (778918), страница 28
Текст из файла (страница 28)
д.) и вообще, для решения любой задачи классификации или прогноза, которая решается при наличии выборки данных и для решения которой ранее использовались традиционные математические методы (регрессионный анализ, непараметрическая статистика), однако не была достигнута требуемая точность прогноза. 6.2.2. Главное меню Меню программы содержит следующие пункты, относящиеся к нейронным сетям и работе с ними (рис. 5.7): Файл — базовые операции с файлами, включая стандартные опции: создать, открыть, сохранить, сохранить как, выход. Рис 5.7 Интерфейс программы НеыоРго Нейросеть — операции с нейронными сетями.
Операция выполняется над активной в данный момент в нейропроекте нейронной сетью (рис. 5.8) и включает в себя следующие опции. ° Обучение — обучение нейронной сети; ° Тестирование — тестирование нейронной сети; ° Сокращение числа входных сигналов — удаление наименее значимых входных сигналов; ° Сокращение числа синапсов — удаление наименее значимых синапсов сети, 171 ° Сокращение числа неоднородных входов — удаление наименее значимых неоднородных входов нейронов сети, ° Равномерное упрощение сети — сокращение числа при ходящих на нейроны сети сигналов до заданного пользователем, ° Бинаризация синапсов сети — приведение значений ве сов синапсов и неоднородных входов нейронов к значениям — 1 и 1, ° Вербализация — генерация вербального описания нейронной сети, ° Значимость входов — подсчет и отображение значимости входных сигналов нейронной сети, ° Возмущение весов синапсов — добавление случайных поправок к весам синапсов сети Рис 5 8 Операции пункта Нейросеть главного меню Настройка — операции по настройке нейронной сети Настройки действуют в пределах нейропроекта, сохраняются в файле нейропроекта и восстанавливаются при его чтении программой (рис 5 9 и рис 5 10) Опции данного пункта меню ° Метод оптимизации — выбор метода оптимизации для обучения сети Из трех реализованных в настоящее время в программе методов (градиентный спуск, модифицированный партанметод (РагТап) и метод сопряженных градиентов) при создании нейропроекта автоматически предлагается РагТап (см прил 3) ° Норма накопления значимости — выбор нормы накопления градиента при подсчете показателей значимости, иначе говоря, показатель совокупной ошибки сети При создании нейропроекта автоматически выбирается норма в виде суммы модулей 172 Рис 5 9 Опции пункта Настройка главного меню Максимум модуля Рис 5 10 Опции пункта Настройка главного меню 6.2.3.
Создание нейропроекта работа с нейронными сетями возможна только е рамках некоторого нейропроекта Для того, чтобы создать нейропроект, необходимо выбрать пункт меню Файл/Создать или нажать кнопку Создать на панели После создания нейропроекга в него можно вставлять нейронные сети и работать с ними Созданный нейропроект может быть сохранен при помощи команд меню Файл/Сохранить, Файл/Сохранить как, или нажатием кнопки Сохранить(рис 5 11) Рис 5 Кт Окно сохранения нейропроекта В дальнейшем возможна работа с сохраненными файлами нейропроекта Для этого необходимо выбрать пункт меню 173 Файл/Открыть или нажать кнопку Открыть и далее выбрать в диалоговом окне имя нужного нейропроекта (рис 5 12) Рис 5 12 Окно открытии нейропроекта Большинство операций с нейронными сетями требуют присутствия подключенного к нейропроекту файла данных Для подключения файла данных ипи его замены необходимо открыть файл данных в окне нейропроекта или выбрать имя необходимого файла данных Открытый файл данных отображается в собственном окне, где предоставляется возможность его редактирования При закрытии окна файла данных подключение к нейропроекту завершается При подключенном файле данных можно проводить опера- ции создания новых нейронных сетей, их обучения, тестирования и упрощения 5.2.4.
Создание нейронной сети Для создания новой нейронной сети необходимо нажать кнопку Новая сеть в окне нейропроекта и заполнить Диалог создания нейронной сети Диалог создания нейронной сети предназначен для задания спецификаций для создаваемой нейронной сети Элементы диалога(рис 513) 174 Ехссы и вьаоеы ! Структура сати~ Использования поля ! С Поле е используется сетью С Псла является входным для сати С Поле является выходным ел я сати аяапозон изменения значений поля от ! 660 по 1992 13 Число еьаовныхполеи 1 13 Чнсловыхоаоа сети 1 число входных полей число вхопов сети Рис 5 13 Окно создания нейронной сети Входы и выходы — окно для определения использования нейронной сетью имеющихся в файле данных полей Поля в файле данных — список полей в файле данных Использование поля — использование текущего поля нейронной сетью ° поле не числовое и недоступно сети — поле не является числовым и не может обрабатываться нейронной сетью, ° поле не используется сетью — данное числовое поле не используется сетью, ° поле является входным для сети — значения данного поля подаются на входы сети, ° поле является выходным для сети — нейронная сеть обучается прогнозировать значения этого поля Диапазон изменения значений поля — минимальное и максимальное значение поля в файле данных Оценивание поля — способ оценивания выходного поля при обучении сети ° МНК вЂ” используется оценка МНК, ° МНК с люфтом — используется оценка МНК вида н=сл т' 175 где )((!Ь! — 1)', если !Ь! > 1, ! О, если !о! < 1, у, и у,' — соответственно, выход по обучающей выборке и выход нейронной, с — параметр алгоритма (люфт) Люфт может изменяться от 0 до границ диапазона изменения значений этого поля По умолчанию люфт определяется в 10% от диапазона, при этом сеть должна обучиться предсказывать значения данного поля с точностью з10% от диапазона изменения значений Чем меньше величина люфта, тем более точно должна сеть предсказывать известные значения Параметры, автоматически определяемые программой ° Число входных полей — число полей в файле данных, используемых сетью в качестве входных ° Число входов сети — число входных сигналов сети ° Число выходных полей — число полей в файле данных, используемых сетью в качестве выходных ° Число выходов сети — число выходных сигналов сети ° Структура сети — окно для задания структуры нейронной сети (рис 5 14) Характеризуется следующими параметрами зяаеынеыытаы СтРуетуРаеетн Иняеетн Нентетят Сееаате Отненнтя Рис 5 14 Окно Структура сети 176 ° Число слоев нейронов — число слоев нейронов в сети Изменяется от 1 до 10 Дополнительно после последнего слоя нейронов создается слой выходных сумматоров с числом сумматоров, равным числу выходных сигналов сети По умолчанию предлагается 3 слоя нейронов Для каждого слоя нейронов возможно задание ниже рассмотренных характеристик ° Число нейронов — число нейронов в слое Изменяется от 1 до 100 По умолчанию предлагается 10 нейронов в слое ° Нелинейность — вид функции активации нейронов данного слоя На данный момент реализована только сигмоидная нелинейность вида /(А)=А/(с+ (А0, где с- характеристика нейрона ° Характеристика — значение не обучаемой константы с, используемой нелинейным преобразователем Может изменяться в диапазоне от 0,0001 до 1 для описанной выше сигмоидной нелинейности По умолчанию предлагается значение характеристики, равное 0,1 Чем больше значение характеристики, тем лучше интерполяционные и экстраполяционные способности обученной сети но, как правило, это требует более длительного обучения За последним слоем нейронов строится слой выходных сумматоров по числу выходных сигналов сети ° Монотонность — создание сети монотонной структуры ° Имя сети — имя нейронной сети в списке нейропроекта Опции Создать/Изменение и Отменить позволяют соответственно создать нейронную сеть или внести изменения в ее параметры, или же отменить зти действия После создания нейронной сети она появляется в списке сетей нейропроекта и становится активной Созданную нейронную сеть можно далее обучать, тестировать, упрощать и сохранять на диске вместе с нейропроектом $.2.5.
Обучение нейронной сети Для обучения активной в данный момент нейронной сети необходимо выбрать пункт меню Нейросеть/Обучение Если подключенный к нейропроекту файл данных не содержит необходимых полей (это возможно, когда сеть создается по одному файлу данных, а дальнейшее ее обучение, тестирование или упрощение — по данным из другого файла), то выдается сообщение о несовместимости нейронной сети и файла данных Если же в файле данных имеются все необходимые поля и он не пустой, то запускается процесс обучения сети При этом на экран выводится Окно обучения и упрощения сети, где имеется возможность наблюдать процесс обучения и при необходимости самостоятельно за- 177 вершить обучение нажатием кнопки Завершить, заменяющейся в случае удачного обучения кнопкой Готово (рис. 5.15).
Рис 5 15 Окно обучения нейронной сети Обучение прекращается при достижении нулевого значения средней оценки на задачнике, в случае невозможности дальнейшего улучшения оценки либо при аварийных ситуациях (нулевой или бесконечный шаг в направлении оптимизации) Окно обучения и упрощения сети отображает следующие характеристики (рис 5 16). Рис 515 Окно упрощения нейронной сети 178 ° Число проходов задачника — общее число просмотров обучающего множества ° Число цикпов обучения — общее число шагов обучения (шагов градиентного спуска, Рагтап-шагов или шагов метода сопряженных градиентов) ° Действие — текущее действие.
° Градиент — вычисление градиента функции оценки. ° (псгеаве — увеличение шага в направлении оптимизации. ° Оесгеаве — уменьшение шага в направлении оптимизации ° Лего втер — нулевой шаг в направлении оптимизации, прекращает процесс обучения ипи контрастирования сети ° Еего г/Ыг/е — нулевой делитель при параболической аппроксимации, прекращает процесс обучения или контрастирования сети ° Шаг — величина шага в направлении оптимизации ° Средняя оценка — средняя оценка на обучающем множестве ° Отконтрастировано входов — число отконтрастированных входных сигналов сети.
Здесь и далее информация выводится в виде Х(У из 2), где Х вЂ” число отконтрастироеанных входных сигналов (синапсов, нейронов) на текущем этапе упрощения, У вЂ” общее число отконтрастированных входных сигналов (синапсов, нейронов) у сети, 2 — число имеющихся у сети входных сигналов (синапсов, нейронов) ° Отконтрастировано синапсов — число отконтрастированных синапсов и неоднородных входов нейронов сети. ° Бинаризовано синапсов — число бинаризованных синапсов и неоднородных входов нейронов сети ° Откоитрастировано нейронов — число отконтрастированных в сети нейронов.