Боровиков В.П. - Нейронные сети (778916), страница 27
Текст из файла (страница 27)
разность между желаемым и реальным выходом, используется для корректировки весов сети так, чтобы умсньшить эту ошибку. 3. Алгоритм должен находить компромисс между различными наблюдениями и менять веса таким образом, чтобы уменьшить суммарную ошибку на всем обучающем множестве; поскольку алгоритм обрабатывает наблюдения по одному, общая ошибка на отдельных шагах не обязательно будет убывать.
В пакете о Т Хеига! Хелюгкз отслеживается общая ошибка сети — на графике, а также ее ошибки на отдельных наблюдениях — на гистограмме. Реко- 127 неаронные сета. ЗтАт!вт!СА не«га! негвожв мсндуется следить за ходом обучения сети, как минимум, по графику общей ошибки. Чтобы обучить сеть в задаче «исключающего или», следя при этом за работой алгоритма, необходимо действовать так, как описано далее. Обучение методом обратноео распространения 1.
Откройте файл сохраненной сети с помощью вкладки Сети/Ансамбли стартовой панели инструментов Нейронные сети. 2. Проделайте дсйствия„описанные в разделе Создание сети, начиная с 1-го по 7-й пункт, 3. Установив нсобходимыс параметры в диалоговом окне Конструктор сетей, нажмите ОК. 4. Нажатие кнопки ОК в окне Конструктор сетей выводит диалоги для обучения в соответствии с типом сети. Для многослойного псрссптрона в задаче классификации будет показан слсдующий диалог (рис. 5.6).
'ия зсмк~~ Н як в.М ! Ряс. 5.6 Для применения на двух последовательных этапах обучения многослойных перссптронов достушгы шесть видов алгоритмов. Выберите для псрвого этапа Обратное распространение. В нашем примере нам нс понадобится второй этап обучения, поэтому слсдует убрать флажок напротив. Опция Интерактивное обучение (отображать график) включена по умолчанию на вкладке Интерактивный. После установления всех необходимых параметров и нажатия кнопки ОК появится диалог, отображаюший график обучения и/или значение ошибки для заданной выборки.
Этот график обновляется в режиме реального врсмсни. Вы можстс прсрвать обучение в любой момент (закончив обучение и сохранив нейронную сеть или отменив обучение), а также увеличить период обучения на несколько эпох. Кроме этого, вы можете определить заголовок графика, вставить легенду и метки линий на график результатов. 128 Гпввв 5. Первые шаве в ЗТАТ18Т!СА Не«ге! Неюогкв В нижнем правом углу диалога отображается строка состояний и время работы.
Также отображается процент занятости центрального процессора. Не удивляйтесь, если поначалу ошибка не будет сущсствснно умсньшаться. Хотя задача «исключающего или» выглядит совсем простой, многослойному перссптрону решить ее намного сложнее, чем многие реальные задачи, которые кажутся очень сложными. При тех параметрах по умолчанию, которые предложила нам программа о Т денга! ФегиоМз; может потребоваться порядка тысячи итераций, прежде чем ошибка станет близка к нулю. Оппчымызацыя обученыя Режим работы алгоритма обратного распространения зависит от ряда параметров.
Большинство из них собрано в диалоговом окнс Многослойный персептрон — обучение на вкладкс Обратное распроетранениеlОбрраспр.11). Для многих практичсских задач хорошим начальным приближением будут значения, принимаемые по умолчанию, но при необходимости их можно изменить. В случае жс с задачей «исключающего или» эти настройки оказываются весьма неудачными.
Опишем кратко наиболее важныс параметры н выберем их значения для задачи «исключающего или». ° Эпохи. Задает число эпох обучения. Значение по умолчанию 100 вполне приемлемо. ° Скорость обучения. При увеличении скорости обучения алгоритм работает быстрсс, но в некоторых задачах это может привести к неустойчивости (особенно если данные зашумлены).
Для задачи «исключающсго или» подходит относительно высокая скорость обучения, например 0,9. ° Момент. Этот параметр улучшает (ускоряет) обучение в ситуациях, когда ошибка мало меняется, а также придает алгоритму дополнительную устойчивость. Значение этого параметра всегда должно лежать в интервале 10; 1) (т.с. > 0 и < 1). Часто рекомендуется использовать высокую скорость обучения в сочетании с небольшим коэффициентом инерции и наоборот. Однако, в задаче «исключающего или» оба параметра нужно взять большими, например 0,9.
° Перемешивать наблюдения. При использовании этой функции порядок, в котором наблюдения подаются на вход сети, меняется в каждой новой эпохе. Это добавляет в обучение некоторый шум, так что ошибка может испытывать небольшис колебания. Однако при этом меньше вероятность того, что алгоритм «застрянет», и общие показатели его работы обычно улучшаются.
129 Нейронные сети. ЗТАТ!ЗТ!СА Меиге! Иеовогхв При таких настройках параметров пакет БТ»'еига! Ме>н>гэг/г» решает задачу «исключающего нли» примерно за 200 итераций. Залгечание. В пакете ЯТ »еига! >че»воггх имеется воз»гаэкпосп>ь л>еп»ть скорость обучения и/или коэффициент инерции от эпохи к эпохе, пас>нече>тг> сдвигая их от начальных значении, эадттых в полях в левон часп>и диалогового окна Обратное распространение/Обрраспр.П), к их конечным э>иче>тлм, заданным в правов части окна. Например, моэкпо ул>епьшать скорость па ходу обучения. МЕри задании начальных значении конечные значения по умолчанию устанавливаются такими э>се. Выпопнение повгпорных проеонов Если вы хотите сравнить результаты работы алгоритма в разных вариантах, воспользуйтесь кнопкой Дополпипгельпо окна Обучение.
В рсзультате веса сети вновь будут установлены случайным образом для начала следующего сеанса обучения. Если теперь после кнопки Дополпиетльно нажать кнопку Обучить, на графике начнет рисоваться новая линия. Ошибки дпя опздепьных набпюдений В окне График обучсния выводится суммарная ошибка сети. Но иногда бывает полезно проследить за тем, как алгоритм обучения воспринимает отдельные наблюдения. В пакете БТ Уеига! Ме> ног»в это делается в окне Предсказанные. В приведенной таблице результатов можно сравнивать Предсказанные и Наблюдаемые значения зависимой псременной. Опция Иптерактивпг>е обучение позволяет следить за тем, как ошибки меняются в процессе обучения. Данную опцию необходимо активизировать перед запуском алгоритма обучения.
Сделав это, вы сможете наблюдать, как алгоритм пытается искать компромисс между обучающими и мешающими наблюдениями. ЗАПУСК НЕЙРОННОЙ СЕТИ Послс того, как сеть обучена, се можно запустить на исполнение. В пакете БТ 1Чаига! '>»е>шок/сх это можно сделать в нескольких вариантах: на текущем наборе данных — в целом или на отдельных наблюдениях; ° на друголг наборе данных — в цслом или на отдсльных наблюдениях (такой набор данных уже может не содсржать выходных значений и предназначаться исключительно для тестирования); 130 Глава В. Первые шввв в ВТАТ!ЗТ!СА Нввгв! Нвтожв па одном конкретном наблюдении, для которого значения переменных введены пользователем, а не взяты из какого-то файла данных; ° из другого приложсния с помощью интерфсйса прикладного програм- мирования БХХ АР1.
° запуская предварительно сгсцерированнъщ код на каком-либо языке программирования (в генераторе кода поддерживаются следующие языки программирования: С)С++, БТАТ1БТ1СА Ч(апа! Ваяс (БЧВ), Ргсйсйче Моде! Маг1гпр (РММЬ)). Запуск сети на текущем наборе 9анных При запуске сети на текущем наборе данных возможны два варианта: либо обрабатывать отдельные наблюдения, либо все множество целиком. Во втором варианте подсчитываются суммарные статистики — они будут подробно описаны в последующих разделах. Обработка набпюяений по о9ному Для обработки отдельных наблюдений из набора данных необходимо в окне Результаты перейти на вкладку Дополнительно.
Затем выбираем Наблюдение пользоаателя. Итак, мы попадаем в окно Прогноз для наблюдения пользоаателя (рис, 5.7). Рис. 5Л В поле Входное наблюдение задастся номер наблюдения, подлежащего обработке. Чтобы обработать текущее наблюдение, нажмите кнопку ПРогнать текущее, а для обработки какого-либо другого наблюдения вве- 131 Нейронные сепи. ВТАТ!ЗТ!СА Ненга! Неьвогкв дите соответствующий номер в поле Входное наблюдение и нажмите клавишу ВВОД. Чтобы просмотреть результаты прогонов нажмите кнопку Предсказанные.
Совепг. Самыи простои сяособ работы с зпгим окнам такой: просчитать ггервыи тестовый пример, парков кнопку Прогнать текущее, а затем, иазгсимая верхтого сгпрелку иа кнопке микропрокрутки, которая располозгсена справа от поля Входное наблюдение, последовательно обрабатывать другие наблюдения. Значения входных переменных для текущего наблюдения отображаются в таблице, расположенной в окне. Помимо фактического выходного значения, которое выдает сеть, можно вывести также целевое значение. Если для обучения сети использовался этот же набор данных, то фактическое значение должно быть близко к целевому.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
