Диссертация (Методы и алгоритмы интеллектуализации принятия решений в условиях неопределенности на базе аппарата нейронных сетей и эволюционного моделирования), страница 6

Описанный процессэквивалентен расчету выходов для соответствующей декодированной ИНС, вкоторой функция активации нейрона имеет вид: () = (∑=1 () + ∑=+1 ( − 1)) ,(1.8)где – функция активации нейрона; – количество входов нейрона; – количество прямых связей. Количество рекуррентных связей вычисляетсякак − .Процесс модификации генотипов, закодированных по схеме CGE, состоитиз двух этапов:1. Исследованиепространстватопологий[118].Наданномэтапеприменяются операторы структурной мутации для добавления и удаленияджамперов, а также добавления новой подсети.

Данные три вида мутацииравновероятны. Количество нейронов , которые должны подвергнутьсямутации, вычисляется по формуле = ,(1.9)где ∈ [0, 1] – вероятность структурной мутации, определяемая случайнымобразом; – общее количество нейронов.2. Настройка параметров при фиксированной топологии: использованиеэволюционной стратегии для настройки весовых коэффициентов. Для методаразработана модификация EANT2, отличающаяся использованием стратегииCMA-ES (Covariance Matrix Adaptation Evolution Strategy, эволюционная стратегия29адаптации на базе матрицы ковариации) для оптимизации параметров и решенияпроблемы преждевременной сходимости.К достоинствам метода EANT относятся компактность представлениягенотипа, отсутствие этапа декодирования и, как следствие, высокая скоростьработы. Следует отметить, что данный метод целесообразно использовать всистемах с ограничением по времени на решение задач.

Недостатком методаEANT является отсутствие операторов кроссинговера и структурной мутации дляудаления нейронов, и, как следствие, ограничение пространства генетическогопоиска.1.3.4 Метод оптимизации нейронной сетиDXNN (Deus Ex Neural Network, оптимизация нейронной сети) –меметичный метод для раздельной модификации топологии и весовыхкоэффициентов ИНС [114]. Метод был предложен в 2011 году Джином Шер вЦентральном Университете Флориды, США.

В зависимости от реализации методDXNN поддерживает прямой и косвенный способ кодирования хромосом. Дляэволюции топологии в методе предусмотрен этап глобального поиска, в то времякак на этапе локального поиска оптимизируются только синаптические веса.Метод DXNN состоит из девяти шагов [115]:1. Создание начальной популяции из генотипов ИНС с минимальнымколичеством нейронов.2.

Циклическое выполнение шагов 3-9 до достижения критерия остановки(достижение максимального числа эпох или желаемого значения функцииприспособленности, ограничение по времени):3. Преобразование генотипов, составляющих популяцию, в фенотипы.4. Для каждого фенотипа выполнение следующих действий до тех пор, показначение приспособленности перестанет возрастать K раз подряд: оценкаприспособленности; локальная оптимизация весовых коэффициентов.305. Декодирование фенотипов в генотипы с оптимизированными весами исоотнесенными им значениями приспособленности.6.

Ранжирование особей по значению приспособленности; при равныхприспособленностях приоритет отдается ИНС с меньшим количеством нейронов.7. Удаление 50% особей с наименьшей приспособленностью.8. Расчет для каждой из оставшихся ИНС количества потомков N, котороепропорционально приспособленности i-ой ИНС , сопоставленной с общейприспособленностью популяции avg , средним размером ИНС avg и размеромданной ИНС по формуле = avgavg .Генерирование популяции потомков путем копирования родителя иприменения к копии T раз подряд операторов мутации. T – число, выбираемоеслучайным образом на отрезке: ∈ [1, √ ], где – количество нейронов вродительской ИНС.

В методе DXNN реализовано четыре вида мутации:добавление нейрона; разбиение связи между двумя нейронами с последующимдобавлением нового нейрона; добавление выходной связи к выбранномуслучайным образом нейрону; добавление входной связи к выбранному случайнымобразом нейрону.Реализованная в методе DXNN меметичность [44] обладает рядомдостоинств. Последовательная модификация топологии и весов позволяетопределить, показывает ли данная особь низкую приспособленность из-занеудачно сформированной топологии или неправильно подобранных весов.Также в большинстве нейроэволюционных методов операторы, изменяющиезначения весов, применяются случайным образом ко всем нейронам нейросети.При этом вероятность оптимизации новых или требующих донастройки нейроновчрезвычайно низка.

Меметичные методы, в частности DXNN, напротив,оптимизируют весовые коэффициенты недавно измененных или добавленныхнейронов, не затрагивая при этом оптимизированную на предыдущих итерацияхструктуру. В то же время, методу DXNN присущи недостатки: эволюция идет по31пути усложнения топологии ИНС и наращивания количества нейронов, так как вметоде не реализованы такие операторы мутации как удаление связи илиудаление нейрона; из всех параметров нейронов метод оптимизирует только веса.Всвязисэтимвремяформированияоптимальногорешениярастетэкспоненциально при линейном увеличении сложности задачи.1.3.5 Метод динамической нейроэволюции с ограничениямиICONE(InteractivelyConstrainedNeuro-Evolution,динамическаянейроэволюция с ограничениями) – метод, использующий прямое кодирование сограничениями на пространство решений для формирования ИНС требуемойтопологии [105, 106].

Метод разработан Кристианом Ремписом и ФрэнкомПаземаном в 2012 году в Университете Оснабрюк, Германия. Метод ICONE нетребует преобразований фенотипа в генотип:геномы представляют собойполноценные ИНС, состоящие из простых элементов: нейронов, синапсов, группнейронов и нейромодулей. Каждый из таких элементов имеет ряд параметров,предназначенных для оптимизации, таких как порог, функция активации, весовойкоэффициент.

Помимо настраиваемых параметров каждому элементу соотнесенсписок свойств, предназначенных для настройки процесса эволюции для даннойособи. Он имеет вид словаря в формате ключ-значение, содержащего флаги иметки. В процессе эволюции нейроны и связи могут быть добавлены или удаленыиз ИНС. Исключения составляют интерфейсные нейроны, к которым привязанасоответствующая метка (вход/выход).Согласно ГА, применяющемуся в методе ICON, каждая эпоха t эволюциисостоит из шести этапов:1. Вычисление приспособленности каждой особи i из популяции.2. Отбор N особей , ∈ [1, ] для кроссинговера.3. Кроссинговер особей и добавление N потомков ′ в популяцию.324. Применение с некоторой вероятностью PMT оператора мутации MT.5. Вычисление приспособленности каждой особи из множества ′ .6.

Отбор особей и составление из них повой популяции для следующейэпохи t+1.Достоинством метода ICON является механизм ограничения пространствапоиска: при помощи списка параметров могут быть описаны ограничения наопределенные виды синаптических связей и некоторые значения параметров ИНСили сформированы специфичные правила, указанные конечным пользователем.Процесс эволюции, реализованный в методе ICON, является интерактивным, тоесть требует вмешательства эксперта.

Это свойство можно отнести как кдостоинствам, так и к недостаткам в зависимости от специфики задачи. Так,вмешательство эксперта выполнимо при решении далеко не всех практическихзадач, а успех эволюции при этом во многом зависит от опыта эксперта. Следуетотметить недостаток метода: эволюция может быть направлена только по путиструктурного усложнения особей.1.3.6 Метод адаптивной симбиотической нейроэволюцииSANE (Symbiotic Adaptive Neuro-Evolution, адаптивная симбиотическаянейроэволюция) – метод кооперативной коэволюции для генерированиянейросетей прямого распространения с единственным скрытым слоем, решающихзадачи управления в динамической среде [94, 95].

Метод был разработан ДэвидомМориарти и Ристо Микклайненом в 1997 году в Университете Техаса, Остин. Вметоде реализован ГА, оперирующий бинарными хромосомами с использованиеммутации и рекомбинирования [62]. В отличие от модели конкурирующейкоэволюции,кооперативнаякоэволюцияосновываетсянадекомпозициирешаемой задачи оптимизации (множества параметров и целевой функции), чтоупрощает решение задач, обладающих высокой вычислительной и структурной33сложностью. Каждая особь популяции представляет собой только часть решениязадачи, полное решение формируется из множества таких особей.Вотличиеотбольшинстваметодов,оперирующихпопуляцияминейросетей, каждая из которых является неделимой единицей эволюции, данныйметод работает с популяциями нейронов [119].

Целью создания отдельногонейрона является установление связей с другими нейронами популяции дляформированиякорректнофункционирующейнейросети.Специализациинейронов внутри популяции могут быть схожими или различаться.Метод SANE единовременно оперирует двумя популяциями: популяциейнейронов, содержащих информацию о синаптических связях с другиминейронами, и популяцией шаблонов нейросетей [124], определяющих наборынейронов, из которых строятся различные конфигурации.

Эволюция в популяциинейронов предназначена для поиска жизнеспособных элементов ИНС, в то времякак эволюция шаблонов нейросетей направлена на формирование эффективныхкомбинаций из имеющихся элементов.Особи популяции нейронов закодированы в виде бинарных хромосом [120],содержащих связи нейронов. Каждая хромосома состоит из 8-битного полязаголовкасвязии16-битногополядляхранениядробноговесовогокоэффициента.

Нейроны скрытого слоя соединяются с входным и выходнымслоями ИНС посредством связей c по следующему правилу: , > 127= {, , ≤ 127(1.10)где – десятичное значение поля заголовка связи; – количество нейронов ввыходном слое; – количество нейронов во входном слое.Особи в популяции шаблонов представлены хромосомами, каждая изкоторых содержит массив размера указателей на соответствующие нейроны. Наначальном этапе массивы случайным образом заполняются указателями нанейроны.

На последующих этапах субпопуляции нейронов выбираются всоответствии со значениями указателей в массивах.34Метод SANE состоит из восьми основных шагов:1.Инициализация начальными значениями приспособленности каждогонейрона в популяции нейронов и каждого шаблона в популяции шаблонов.2.Выбор нейронов в соответствии с указателями из массива шаблона.3.Создание ИНС, состоящей из выбранных нейронов.4.Оценивание эффективности решения задачи с помощью данной ИНС.5.Соотнесение значения приспособленности ИНС данному шаблону.6.Повторение шагов 2-4 для каждой особи в популяции шаблонов.7.Сохранение для каждого нейрона значения приспособленности пятинаиболее эффективных ИНС, структурным элементом которых он являлся.8.Применение операторов кроссинговера и мутации внутри популяцийнейронов и шаблонов. При этом нейроны ранжируются в зависимости отзначений их приспособленности.