Боровиков В.П. - Нейронные сети (778916), страница 35
Текст из файла (страница 35)
Среди них — ПопуляцияРори1айоп и Поколения — Сепега11опв, Скорость мутаций — Ми!а!1оп Аа!е и Скорость скреи1ивания — Сгоззоыет Ва1е. Если вы не знакомы с генетическими алгоритмами, то не стоит менять два последних параметра (рекомендуется взять значения по умолчанию), Параметры Популяция — Рори!айоп 166 Гпава 6 Пвпьнвсшне возможноств несрвнньж сете0 Ряс. 6.14 и Локоления — Сепегагюпя определяют, как много усилий алгоритм затрачивает на поиск.
Схема работы генетического алгоритма такова. Берется случайный набор, популяция, битовых строк (в нашем случае отдельный бит, соответствующий каждому входу, показывает, учитывать или нет соответствующую входную переменную) и оценивается степень их пригодности (т.с. качество получаемых рсшений). Затем плохие строки исключаются из рассмотрения, а из оставшихся порождаются новые строки с помощью искусственных генетических операций мутации и скрещивания. Таким образом, возникает новая популяция, и весь процесс повторяется, порождая все новыс поколения, а в конце его отбирается наилучший экземпляр. Параметр Популяция — Рори!акоп задает обьем популяции индивидуумов, а параметр поколения — бепегайопв определяет, сколько раз будет повторсн цикл отбора — порождения — оценки. Произведение этих двух чисел равно общему числу операций оценивания, которые алгоритм должен будет выполнить, и каждое оценивание включает построение РХХ- или ИХХ-сети и ее тестирование на контрольном множестве.
При построении РХХ- или ОКХХ-сети необходимо выбрать коэффициент сглаживания (БтоогйшЯ иа вкладке Дополггительно. В общем случае следует самостоятельно провести ряд экспериментов со всей совокупностью входных переменных, строя РХХ- или ОКХХ-сети с различными коэффициентами сглаживания, и выбрать подходящее значение. К счастью, РХХ- и ОШАХ-сети не слишком чувствительны к точному выбору коэффициента сглаживания, и в нашем случае вполне подойдет значение по умолчанию. Как уже говорилось, иногда бывает полезно уменьшить число входов даже ценой некоторой потери точности, поскольку это улучшает способности сети к обобщению и уменьшает размер сети и время счета.
Можно создать дополнительный стимул к исключению лишних переменных, назначив штраф за элемент (вкладкаДополнительно). Это число будет умножаться на количество элементов, и результат будет прибавляться к уровню ошибки при оценке качсства сети. Таким образом, будут штрафоваться большие по размеру сети. 167 Неароииые сев«. ЗТАТ18Т!СА Места! ней«отав Обычно значения этого параметра (если он используется) берутся в интервале 0,01 — 0,001. В нашей задаче дополнительные переменные не несут никакой информации и действительно будут ухудшать качество сети, поэтому нет необходимости специально задавать еше и штраф за элемент. Нажмитс кнопку ОК или Итоги. При выполнении генетического алгоритма с параметрами по умолчанию он проделает 10000 оцениваний (популяция объемом 100 на 100 поколений).
Однако в нашей задаче имеется всего семь кандидатов во входные переменные (четыре настоящих и три добавленные), поэтому число всевозможных комбинаций равно всего 128 (2'). Программа БТ Хеига! ттегйтогкэ сама обнаружит это обстоятельство и вместо описанных действий выполнит оценивание полным перебором вариантов (соответствующая информация будет выдана в строке сообщений). По окончании работы алгоритма откроется окно с таблицей, в которой будет указано, какие переменныс были признаны полезными, а какие нет (соответственно «Да» нли «Нет») (рис. б.
15). Если вы все сделали правильно, алгоритм отберет настоящие псрсмениые задачи и отбросит вновь добавленные. Ис«е «юааю ее е е «ее«ке «еаа~ йа О«юбка БЕРНАЕИ~ОЕРААТИО РЕТАНЕИ РЕТАЬЧО йек«Тай й«ЮТ«а йюнаа Ряс. 6.15 Чтобы иметь возможность использовать выбранные переменные в проводимых анализах автоматически, на вкладке Конец анализа нужно выбрать Запустить Мастер решений для выбранных переменных или Запустить Конструктор сетей для выбранных переменных Теперь сделаем параметр Штраф за элемент — УптГ Репатту равным 0 01 и снова нажмем кнопку ОК.
На этот раз мы побуждаем алгоритм уменьшать число входов, даже ценой некоторого увеличения ошибки. Конкретный результат будет зависеть от того, какие наблюдения были взяты в обучающее и контрольное множества. Скорее всего, однако, окажется, что переменные РЕТАЕЕЕХи РЕТА1КЧРТН будут отобраны, а переменные БЕРАЕЕЕ1т' и БЕРА1ЛИ0 — отвергнуты.
Экспериментируя с различными значениями штрафа за элемент, вы сможете приблизительно упорядочить входные переменные по степени важности. ВРЕМЕННЫЕ РЯСЫ Обсуждение Во всех рассмотренных нами до сих пор задачах классификации или регрессии исходныс данные представляли собой набор наблюдений, каждое из которых содержало значения нескольких переменных, а цель состояла в том, 168 Гпаеа б. Папьнеашпе воэможности нейронных сетей чтобы предсказать значение одной или нескольких выходных переменных по значениям входных переменных. При этом молчаливо предполагалось, что наблюдения независимы друг от друга (В1зпор, 1995). Существуют и задачи иного типа — задачи анализа временных рядов, где значения переменных измеряются в различные моменты времени и где присутствуют (или, по меньшей мере, ожидаются) зависимости между последовательными значениями одной и той же переменной.
В таком случае целью может быть прогноз значения некоторой переменной в определенный момент времени по ее значениям и/или значениям других переменных в предшествующие моменты времени. Чаще всего наблюдается значение одной числовой переменной, а цель заключается в том, чтобы спрогнозировать ее следующее значение по нескольким предыдущим.
Для решения таких задач часто применяются модели АРПСС (АК1МА). На самом деле такая задача является частным случаем задачи регрессии, и после соответствующего предварительного преобразования данных может быть решена нейронной сетью любого типа, предназначенного для задач регрессии. Мы рассмотрим здесь пример задачи анализа временного ряда, в котором будет использоваться файл данных Бег/ее я.з/а, входящий в комплект поставки. Следует, однако, отметить, что возможности пакета БТ денга/ №1и ох/ся не ограничиваются прогнозированием временных рядов одной числовой переменной: можно строить прогноз для нескольких выходных переменных, причем не только числовых, но и номинальных. Кроме того, система ЯТ №ига/ №~и ог/сз позволяет строить прогноз как на один шаг вперед (такой вид прогнозов требуется чаще всего), так и на несколько шагов.
Решение задачи прогнозирования временного ряда с помощью многоспойного персеппзрона Загрузите файл данных Бег/ея я.з/а. Вы сразу же заметите, что данные содержат значения всего одной переменной. Для нейронной сети эта переменная будет служить одновременно входной и выходной (разумеется, в разные моменты времени). Определим нашу переменную одновременно как входную и выходную. Для этого запускаем нейронные сети, выбираем тип задачи: Временные ряды.
Далее щелкаем на кнопку Переменные и указываем переменную Бег/ез С в качестве входной и выходной непрерывной переменной. Теперь создадим новую сеть с |юмощью илсгру мента Копструктор сетей (вкладка Быстрый или Дополнительно). В задаче прогноза временного ряда есть должна знать, сколько копий одной переменной она должна взять и как далеко вперед она должна прогнозировать значение выходной переменной.
В этой задаче зададим параметр Временное окно равным 12 (данные пред- 169 неаронные сева ЗтАт!Зт!сА неога! ка!чойа ставляют собой сжсмесячные наблюдения с присутствующей в них сезонной составляющей, поэтому такой выбор разумен), а параметр Прогноз вперед (количество !нагов) — равным 1. Выберем (если зто еще не сделано) в качестве типа сети Многослойный персептрон и положим число слоев равным трем (т.е. число скрытых слоев равным 1). Зададим число элементов на скрытом слое равным 8. После этого нужно нажать кнопку ОК. Таким образом, переходим на окно Многослойный персептрон — обучение.
При создании сети программа БТ Уеига! л!егжогкз автоматически присвоит первым 12 наблюдениям из файла исходных данных тип Неучи тываемое и не позволит вам в дальнейшем его изменить. При обучении и последующей работе сети в задаче анализа временного ряда каждый подаваемый ей на вход блок данных содержит данные, относящиеся к нескольким наблюдениям. Весь такой блок приписывается тому наблюдению, которос содержит значсние выходной переменной. Поэтому в нашем примере первые 12 наблюдений на самом деле не игнорируются — просто они являются входами первого блока данных временного ряда, и этот блок соответствует наблюдению номер 13. Таким образом, программа БТ денга! Нег!еогКз незаметно от пользователя сгроит преобразованный набор данных, в котором число наблюдений на 12 меньше, но данные в каждое наблюдение берутся из 13 последовательных строк исходного файла.
Нажав кнопку Выборки, задайте 66 обучающих и 66 контрольных наблюдений и выберите Случайное задание выборок. При анализе временного ряда порядок наблюдений существенен (они упорядочены во времени). Разумеется, в таких задачах по-прежнему используются обучающее и контрольное множества, и, как обычно, они должны быть перемешаны. Поскольку каждое наблюдение исходного набора данных участвует в 13 временных блоках, это приведет к тому, что одна и та же информация будет использоваться и в обучающем, и в контрольном множестве.
Однако избежать такого пересечения весьма трудно. Для этого надо так разбить данные на обучающее и контрольное множества, чтобы наблюдения в каждом из них шли подряд, а друг от друга эти два множества были отделены промежутком из неучитьваемых наблюдений, но тогда возникает опасность искажения результата, поскольку эти множества будут соответствовать разным временным периодам. Обучите сеть методом сопряженных градиентов или Левенберга-Маркара (вкладка Быстрый). Полученная ошибка должна быть в интервале 0,025— 0,035 (эти установки целевых ошибок можно сделать на вкладке Окончание анализа).
Проекция временного ряяа С помощью обученной сети можно выполнить так называемую проекцию временного рада (Т!те Бег!ез Рго!ее!(оп). При этом сначала сеть отработает 170 Гпаеа О. Папьнейшие еоамсжнсста нейронных сетей на первых 12 входных значениях. В результате будет получен прогноз следующего значения. Затем зто спрогнозированное значение вместе с предыдущими 11-ю входными значениями снова подается на вход сети„и та опять выдает прогноз очередного значения. Такую проекцию можно повторять произвольное число раз, хотя очевидно, чем дальше, тем хуже будет качество прогноза.
Этот прием можно применять только в том случае (и в нашем примере зто так), когда значение параметра Прогноз вперед (колггчесягео шагов) равно единице и входные переменные являются одновременно выходными (рис. 6.16). В диалоговом окне Результапгы следует выбрать вкладкуДополггительно, затем Проекция временггого ряда (рис. 6.17). гоо 600 500 те аОо й зао 200 гоо Ркс.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
