1626434812-e667f6b6e7e69d3a0798830a58e9075b (844135), страница 48
Текст из файла (страница 48)
Создание файлов исходных данных (примеров) в Вга1пМа1сег. 2. Поиск базовых параметров сети (числа скрытых слоев и нейронов) с использованием ОТО. 3. Обучение сети (вычисление весовой матрицы) в Вга1пМа1сег. 4. Улучшение обученной сети с использованием ОТО, Причем этапы 3-й и 4-й могут повторяться многократно. Рассмотрим генетические алгоритмы, применяемые бТО на 2-м и 4-и этапах, Вычисление базовых параметров бТО проводит в определенных пределах. Пользователь задает, сколько скрытых слоев должна иметь сеть (один или два), и указывает диапазон количества нейронов для каждого слоя.
Например, для Глава 8. Генегпические алгоритмы первого скрытого слоя число нейронов может быть от 25 до ЗО. а для второго— от 9 до 12. Таким образом, применительно к базовым характеристикам бТО осуществляет только поиск числа нейронов в скрытых слоях в заданных пользователем пределах «рис. 8.18). Оценка качества особей производится на основе качества обученной сети с выбранными СТО параметрами. Каждая оцениваемая сеть обучается Вга1п Ма1сег за фиксированное число итераций, указываемое пользователем «рис.
8.17). Затем вычисляется отличие результатов выполнения примеров сетью от эталонных. Основными функциями здесь являются среднее или среднеквадратичное отклонение «всего четыре функции). Пользователь также может задавать, какую из этих функций использовать. Файлы описания нейросети и обучаюшнх примеров Количество итераций обучения нейросети пакетом Вга1пма1гег Файл для записи результата Рас. 8.!?. Указание иеходиыгг доппьи для рабоигы ОТО.
Работа ОТО на этом этапе представляет алгоритм тотального поиска, а не генетический алгоритм, как таковой. Конструируются сети со всеми возможными комбинациями характеристик, из которых затем пользователь на основе файла отчета выбирает подходящую сеть. Непосредственно генетический алгоритм работает на 4-м этапе дпя вычисления весовой матрицы сети. Предварительно на этапе 3 пользователь, обучив с помощью Вга1пМа1сег несколько сетей, выбираетдве лучшие, которые составляют исходную популяцию алгоритма.
Таким образом, размер популяции равен двум. Базы данных. Интеллектуальная обработка информации Диапазон изменения количества нейронов в первом скрытом слое Диапазон изменения количества нейронов во втором скрытом слое Рис, 8. 18. Установка пределов ггоггска базовых характерисгггик сегпи. В качестве базовых характеристик пользователь может задавать следующие величины (рис, 8.19 - 8.21): ° Количество итераций ВгагпМаЕег, используемое для обучения новой особи (сети) с целью оценки ее качества. ° Количество формируемых поколений.
° Количество лучших сетей, сохраняемых на диске для дальнейшего ис- пользования. ° Процент нейронов, участвующих в процессе мутации. ° Процент нейронов, участвующих в процессе скрещивания. ° Возможность мутации нейронов, участвовавших в процесса скрещивания. ° Функция оценки качества сети (среднее или среднеквадратичное откло- нение от эталона и т.д.). Как видно, для оценки качества сетей, также как и на втором этапе, используется ее обучение средствами ВгагпМаКег.
ОТО вследствие особенностей нейронных сетей имеет сложный оператор скрещивания. Кроме того, заметим, что из двух родительских сетей ОТО формирует только одну дочернюю. В новую популяцию переходят две сети из трех, как минимум одна из которых является родительской. Нейронная сеть представляется на хромосоме двумя уровнями.
Хромосома состоит из нейронов — генов. В свою очередь, каждый нейрон представляется набором значений своих входных весов. Глава 8. Генетические алгоритмы оличество итераций обучения йросети пакетом ВгашМа1сег Критерий останова: количество сформированных поколений ичество сохраняемых в файле ших" нейросетей после работы ОТО Рис. 8.19. Базовые параметры работы бТО.
Процент нейронов, подверженных мутации ориям Подвержены ли нейроны, полученные Процент нейронов, переходящих в результате скрещивания, потомку непосредственно последующей мутации Рас. 8.20 Базовые параметры работы ОТО. Оператор скрещивания, учитывая такое построение, работает следующим образом. На первом этапе в дочернюю сеть переходит некоторое количество нейронов от первого родителя. Это количество нейронов задает пользователь, указывая процент нейронов для скрещивания (см. выше). Например, сеть содержит 50 нейронов. Процент скрещивания 40%. Это значит„что скрещиванию подвергаются 40% нейронов, а 60% (30 нейронов) переходят в дочернюю сеть непосредственно без изменений и мутации от первого родителя.
Конкретные нейроны выбираются случайно по равномерному закону. Базы данных. Интеллектуальная обработка информации Рис. КЛ. Базовые параметры рабопгы СТО, Способ оценки качества полученной нейросети. На втором этапе оставшиеся нейроны подвергаются скрещиванию.
В нашем случае это 20 остальных нейронов. Скрещивание нейронов также происходит по сложному алгоритму. Перед началом работы пользователь указывает три различные группы скрещивания (рис. 8.22): непосредственное скрешнвание, скрешивание по равномерному закону и скрешивание по нормальному закону. Для нормального закона еше указывается дисперсия. Общий процент нейронов, подверженных скрешиванию Процент нейронов, переходящих от второго родителя Процент нейронов, скрешиваемых по равномерному закону Процент нейронов, скрещнваемых по нормальному закону с указанной дисперсией Рис. 8.22. Группы скреьциваеиых нейронов. Например, пусть 60% нейронов скрещиваются непосредственно и по 20% по нормальному и равномерному законам.
Выбор конкретных нейронов в каж- Гтава 8. Генетические алгорииаиы дую группу происходит случайно по равномерному закону. Это означает, что 60% (12 нейронов из 20) выбранных для скрещивания нейронов перейдут дочерней сети без изменений непосредственно от второго родителя. А по 4 нейрона перейдут дочерней сети только после того, как их веса подвергнутся изменениям на основе весов соответствующих родительских нейронов. Получение значения веса при скрещивании двух нейронов осуществляется следующим образом. На основе закона распределения (равномерного или нормального) вычислястся значение случайной величины х. Далее вычисляется модуль разницы соответствующих весов родительских нейронов.
Эта разница умножается на случайную величину х и суммируется с весом первого родительского нейрона. Результат и будет весом нейрона-потомка: ю„=ж, +х* ~в, -ю~ (8.5) Такое преобразование осуществляется для всех весов родительских нейронов. В результате получается набор значений всех входных весов, то есть новый нейрон.
В целом процесс скрещивания нейронных сетей показан на рис, 3.23. Первая родительская нейросеть ООООО Дочерняя нейросеть Рис. 8.23. Скрещивание и мутация нейросетей, реализованные в ьтТО. Базы данных. Интеллектуальная обрабоюика информации 252 Затем применяется оператор мутации. В зависимости от установок пользователя (см. выше) мутация может применяться к нейронам, полученным в результате скрещивания, или к нейронам первой родительской нейросети. На рис.
3.16 рассмотрен второй случай, Конкретные нейроны для мутации выбираются по равномерному закону. Задавая параметры работы алгоритма, пользователь также разделяет "мутирующие" нейроны на три группы 1рис, 8.24): не подвергающиеся изменению, мутирующие по равномерному и нормальному закону. Для законов распределения задается математическое ожидание. Мутация заключается в изменении всех весов нейрона путем добавления к ним значения случайной величины с соответствующим законом распределения.
Обгций процент нсйроиов, подвсржсиных мутации малъиому закону о равномерному закону Мвтожидаиис нормального закона Матожиланис рввномсриого закона Процент нейронов, нс полвсргвюшихся мутации Рис. 8.24. Разбиение 'мутирующит" нейронов на группы. Пусть в нашем примере процент мутации равен 20 и мутируют нейроны, полученные в результате скрещивания.
Тогда для мутации будет выбрано 4 нейрона (20% от 20). Пусть пользователь указал, что 50% нейронов не изменяются и по 25% мутируют по равномерному и нормальному законам. Значит, 2 нейрона перейдут дочерней сети без изменений. А к каждому из весов двух оставшихся нейронов будут прибавлены значения случайных величин, вычисляемых отдельно для каждого веса по равномерному (для одного нейрона) и нормальному (для другого) законам. Конкретные нейроны в различные группы выбираются, как обычно, по равномерному закону. Полученная в результате этих сложных манипуляций новая сеть обучается Вга1пМаКег, после чего оценивается ее качество, Затем из популяции отсекается худшая сеть, и начинается следующая итерация ОТО.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
