neironne_seti_i_neirokompjuter (1085713), страница 16
Текст из файла (страница 16)
Формирование представительской выборкиВажнейший этап моделирования – формирование репрезентативнойпредставительской выборки нейронной сети для решения конкретнойзадачи. Сложность этой проблемы обусловлена возможной взаимнойзависимостью (корреляцией) между входами нейронной сети. Программныйпродукт TRAJAN реализует ряд алгоритмов решения этой проблемы,включая форвардный и пошаговый выбор, генетические алгоритмы и ряддругих.3.2.3. Многоуровневые персептроныTRAJAN поддерживает многоуровневые персептроны, обучающиесяпо методу обратного распространения (гл. 2).
Также могут бытьиспользованы алгоритм быстрого распространения и Delta-Bar-Deltaалгоритм.3.2.4. Карты КохоненаTRAJAN позволяет моделировать нейронные сети, реализованные ввиде самоорганизующихся карт Кохонена (2.5). При этом процессмоделированиясопровождается визуализацией графического окнанаилучших частот и окна с топологией карты, что позволяет в реальномвремени моделирования локализовать и пометить кластеры.3.2.5.
Гибридные нейронные сетиTRAJAN позволяет моделировать также гибридные нейронные сети,построенные с использованием комбинации двух или нескольких парадигм.3.2.6. Бейесовские сетиTRAJAN поддерживает современные достижения в области теорииБайесовских вероятностных и регрессионных нейронных сетей.
Данныепарадигмы подразумевают почти мгновенное обучение сети, что неоценимопри модельном экспериментировании.3.2.7. Линейные моделиБольшинство специалистов сравнивают результаты нелинейныхмоделей с результатами, получаемыми при использовании линейной модели90PDF created with pdfFactory trial version www.pdffactory.comнейронов. Линейные модели зачастую способны эффективно достигать целиза меньшее время при использовании того же программного обеспечения.3.2.8. Интерфейс пользователяУдобный пользовательский интерфейс программного продуктапозволяет обеспечивать простой доступ к большим объемам информации.Представительские выборки и структура нейронной сети сохраняютсяв файлах с единым именем и различными расширениями, что обеспечиваетлегкость группировки исходных данных для моделирования.Обновляющиеся в реальном времени графики и гистограммыпозволяют наблюдать за обучением и исполнением нейронной сети,оперативно реагировать на ход моделирования.
При решении задачклассификацииилиаппроксимацииавтоматическивычисляютсяразнообразные статистические параметры и характеристики.Специализированные топологические карты и кластерные диаграммыприменяются при изучении и анализе результатов моделирования.Фактически вся символьная и числовая информация доступна вэлектронных таблицах (Datasheets), т.е.
может быть мгновенноимпортирована и экспортирована через буфер обмена Windows. Графическаяинформация также может быть экспортирована, например, для составленияотчета о модельных экспериментах.3.2.9. ОграниченияTRAJAN поддерживает нейронные сети «глубиной» 128 слоев, хотя, вподавляющем большинстве случаев, требуемое количество слоевсущественно меньше.В TRAJAN первый слой является всегда слоем входа. Он используетсятолько, чтобы вводить величины в нейронную сеть, так как нейронывходного слоя не подразумевают никакой обработки. Последний слойявляется выходным, и результаты выполнения нейронов этого слоя являютсяи выходом нейронной сети в целом.3.3. Описание основных этапов работы в среде TRAJAN3.3.1.
Создание нейронной сетиНовая нейронная сеть создается в TRAJAN с помощью окна NetworkCreating (Создание сети), которое доступно из меню File/New/Network илипо нажатию соответствующей кнопки на панели инструментов [1, 18].Для создания новой нейронной сети после появления на экране окнаNetwork Creating следует:§ выбрать тип сети;§ определить число слоев и их размерности.91PDF created with pdfFactory trial version www.pdffactory.com3.3.2. Выбор типа сетиTRAJAN предлагает несколько видов нейронных сетей длямоделирования. Нейронная сеть типа Многоуровневый персептрон выбранав данном окне по умолчанию.3.3.3.
Определение числа слоев и их размерностиПри задании количества слоев нейронной сети следует учитывать, чтоTRAJAN может поддерживать нейронные сети вплоть до 128 слоев по 128нейронов в каждом, при этом первый из них всегда является входным ииспользуется только для получения сетью исходных данных, а последнийслой является выходным, и выходы его нейронов являются выходами всейсети в целом.Задать количество нейронов в каждом слое позволяет матрица,представленная в окне Network Creating. Она выглядит как небольшаяэлектронная таблица. Количество нейронов в каждом слое нейронной сетиопределяется с помощью первой ячейки этой матрицы, при этом любые слоис нулевым количеством нейронов будут проигнорированы.После того, как задано количество нейронов в каждом слое, TRAJANсамостоятельно определит количество слоев в сети путем выбора изматрицы всех слоев, у которых количество нейронов отлично от нуля.Примечание. Можно заметить, что матрица содержит строку длязадания ширины каждого слоя.
Данная функция редко используется вTRAJAN и необходима только для нейронных сетей, использующих картыКохонена (п. 2.5).3.3.4. Подготовка нейронной сети к обучениюОдной из ключевых характеристик нейронных сетей является ихспособность обучаться решать поставленные перед ними задачи сиспользованием представительских выборок. То есть вместо того, чтобывыставлять нейронам их веса вручную (что в принципе конечно возможно),создается некоторый набор представительских выборок, определяющихрешениепоставленнойзадачи,дляобученияпредварительноподготовленной структуры нейронной сети (п. 3.3.3). При этом используетсяодин из алгоритмов обучения нейронных сетей, наиболее популярным изкоторых является алгоритм Обратного распространения.Обучающий алгоритм во время своей работы подбирает веса нейроновв нейронной сети, исходя из информации, содержащейся впредставительской выборке.В TRAJAN набор представительских выборок (обучающих пар)создается с помощью окна Pattern Set Creating, которое доступно из пунктаменю File/New/Pattem.92PDF created with pdfFactory trial version www.pdffactory.comПосле выбора этой команды меню на экране появляется диалоговоеокно, в котором необходимо задать количество входов и выходовформируемых обучающих пар.Примечание.
Для целей обучения количество входов и выходовобучающих пар должно совпадать с количеством нейронов, содержащихся вовходных и выходных слоях нейронной сети, созданной в п. 3.3.3.После этого TRAJAN запустит редактор вводимых обучающих пар, вкотором отобразит матрицу обучающих пар. Каждая обучающая парапредставлена в матрице своей строкой, которая содержит значение входныхи соответствующих им выходных сигналов нейронной сети.После создания нейронной сети и набора обучающих пар для ееобучения исходные данные моделирования сохраняются в файле. Длясохранения нейронной сети необходимо воспользоваться пунктом менюFile/Save/Network. После выбора команды TRAJAN запрашивает имя файла,в котором будет сохранена моделируемая нейронная сеть.Для сохранения набора обучающих пар необходимо воспользоватьсяпунктом меню File/Save/Pattern.
После выбора данной команды TRAJANзапрашивает имя файла, в котором будут сохранены введенныепредставительские выборки (обучающие пары).3.3.5. Редактирование сети и представительских выборокСредства редактирования нейронных сетей (меню: Edit/Network, окно:Network Editor) позволяют модифицировать следующие параметрыопределенной ранее сети:§ функцию ошибки нейронной сети;§ изменить активационную функцию нейронов;§ изменить значения весов связей;§ удалить и добавить слои;§ удалить и добавить нейроны в текущем слое.Электронная таблица (матрица) представительских выборок позволяетизменять любые имеющиеся обучающие пары, а также их удалять идобавлять новые.3.3.6. Обучение нейронной сетиВнастоящеевремяпрограммнымпродуктомTRAJANподдерживаются наиболее распространенные алгоритмы обучениянейронных сетей.Рассмотрим процедуру обучения в TRAJAN по алгоритму обратногораспространения.Алгоритм обратного распространения работает, подготавливаянейронную сеть, используя доступные ему данные, которые хранятся в93PDF created with pdfFactory trial version www.pdffactory.comнаборе представительских выборок и которые были подготовлены дляобучения сети.
На каждой итерации (в терминах нейронных сетей – эпохе),весь составленный набор обучающих пар предоставляется сети. Выходы,получаемые сетью, сравниваются с желаемыми результатами. Ошибканейронной сети вычисляется как разность между желаемыми ифактическими результатами и используется для регулирования весовнейронов в сети.Перед началом обучения нейронной сети выполняются следующиедействия:1. Используя меню Statistics/Training Graph, открывается окноTraining error Graph;2. Используя меню Train/Backprop, открывается окно BackPropagation;3. Данные окна располагаются так, чтобы они не перекрывали другдруга;4. Запускается алгоритм обучения нажатием кнопки Train в окне BackPropagation.
При этом зависимость среднеквадратической ошибки от числаитераций будет показана на графике, расположенном в окне;5. Увеличивается максимальное число итераций и алгоритмзапускается (с помощью кнопки Train) до тех пор, покасреднеквадратическая ошибка не примет приемлемого малого значения.Вначале моделирования при использовании небольшого числаитераций среднеквадратическая ошибка уменьшается, но ненамного.Данный факт обусловлен тем, что задача «исключающего «ИЛИ» длянейронной сети, как не парадоксально, гораздо сложнее в решении, чеммногие более сложные задачи.Окно Training Error Graph отображает общую ошибку обучениянейронной сети, однако, иногда бывает полезно пронаблюдать за работойнейронной сети при использовании отдельно взятой обучающей пары, спомощью окна Pattern Error.3.3.7.
Запуск нейронной сетиПосле обучения нейронной сети, она готова к запуску. Запуститьнейронную сеть на выполнение можно несколькими способами.Запуск с текущим набором представительских выборокНейронная сеть может быть запущена с предъявлением либо полногонабора представительских выборок, использованных ранее при обучениинейронной сети, либо с предъявлением одиночных выборок.
При этомнеобходимо воспользоваться пунктом меню Run/Single Pattern, чтобыполучить информацию о работе нейронной сети при предъявлении однойотдельно взятой представительской выборки или целого наборапредставительских выборок.94PDF created with pdfFactory trial version www.pdffactory.comЗапуск индивидуальной представительской выборки, не входящей внабор обучающих парЧасто бывает необходимо проверить работу нейронной сети напредставительской выборке, которая не входила в набор обучающих пар,использованных ранее при обучении, при решении следующих задач:1.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
