Моделирование свойств химических соединений с использованием искусственных нейронных сетей и фрагментных дескрипторов (1097754), страница 49
Текст из файла (страница 49)
Принципиально важным моментомздесь является то, что все «рецепторы» внутри «глаза» обладают одинаковымизначениями весов связей и порогов активации, т.е. они представляют собой копии одного «рецептора». Каждый из «рецепторов» обрабатывает сигналы «сенсоров», поступающие с небольшого «рецептивного поля», под которым подразумевается часть «сенсорного поля», охватывающая лишь несколько атомов исвязей. Внутри «глаза» каждый «рецептор» может быть однозначно идентифицирован упорядоченным вектором (v1, v2, …, vi, …, vn), где n – число атомов врецептивном поле, vi – порядковый номер соответствующего атома в молекуле.Такой вектор назовем идентификатором рецептора.
В общем случае число«рецепторов» внутри «глаза» должно быть равно числу способов построениятаких векторов N!/(N – n)!, где N – число неводородных атомов в химическомсоединении, n – число атомов внутри «рецептивного поля» (такие «рецепторы»назовем n-атомными). Например, в общем случае трехатомная молекула можетбыть «воспринята» при помощи трех одноатомных «рецепторов» с идентификаторами (1), (2), (3), шести двухатомных «рецепторов» с идентификаторами(1,2), (2,1), (1,3), (3,1), (2,3), (3,2) и шести трехатомных «рецепторов» с идентификаторами (1,2,3), (1,3,2), (2,1,3), (3,1,2) и (3,2,1). Целиком нейронное устройство со всеми «рецепторами», необходимыми для «восприятия» данной молекулы, образует его конфигурацию для нее.
Конфигурация с одним «рецепто279ром» внутри каждого «глаза», содержащая только взаимно независимые подгоночные параметры (веса связей и пороги активации нейронов), называется минимальной. Минимальная конфигурация может не соответствовать какой-либоконкретной молекуле – ее можно рассматривать как шаблон, с помощью которого можно образовать конфигурацию для любой конкретной молекулы путемразмножения рецепторов внутри глаз. Следует отметить, что понятие минимальной конфигурации играет ключевую роль при эмуляции работы данногонейронного устройства на компьютере, поскольку только минимальная конфигурация сети с относительно малым и фиксированным числом нейронов и синапсов может быть размещена в компьютерной памяти и эффективно обработана. При обучении нейронного устройства как только какой-либо настроечныйпараметр (вес связи либо порог активации) внутри рецептора принимает новоезначение, соответствующие параметры во всех других рецепторах внутри этогоже «глаза» принимают то же самое значение.
Благодаря этому, обучение всегонейронного устройства может быть представлено как минимизация функцииошибки в пространстве подстроечных параметров, относящихся к минимальнойконфигурации. Таким образом, минимальной конфигурации достаточно дляхранения всех подстроечных параметров нейронного устройства и для его воспроизведения в любой из необходимых конфигураций.На практике для больших n это число может быть существенно сокращено путем введения фильтров, представляющих собой дополнительного условияна использование «рецепторов» (например, требование наличия внутри рецепторного поля определенной подструктуры).
Например, наложение требованияналичия внутри «рецептивного поля» определенных подструктур хотя может иувеличить число «глаз» (в соответствии с количеством таких подструктур), нозначительно уменьшает число «рецепторов» внутри каждого из них.Обработанные сигналы со всех «рецепторов» внутри «глаза» накапливаются в «коллекторах», которые определяются как нейроны, суммирующие и,возможно, трансформирующие сигналы, получаемые со всех «рецепторов»внутри «глаза». Таким образом, в поле зрения «глаза» попадает либо все «сенсорное поле», либо, в случае простейшего «глаза», воспринимающего сигналы280только с атомных сенсоров, - диагональ «сенсорного поля». При произвольнойперенумерации атомов, при которой атом i получает номер P(i), «рецептор» (v1,v2, …, vi, …, vn) получает новый идентификатор (P(v1), P(v2), …, P(vi), …, P(vn)).Если в глазе присутствуют «рецепторы» со всеми возможными идентификаторами, которые могут быть получены таким образом, то результатом подобнойперенумерации станет лишь перестановка «рецепторов» внутри «глаза».
Поскольку при суммировании в «коллекторах» сигналов, сформированных «рецепторами», при перестановке слагаемых сумма не меняется, то полная идентичность строения и характеристик всех «рецепторов» внутри «глаза» обеспечивает инвариантность формируемых «коллекторами» сигналов относительноперенумерации атомов в химической структуре.Каждый «рецептор» внутри нейронного устройства представляет собоймногослойную нейронную сеть с обратным распространением ошибки при обучении (т.н. многослойный персептрон), состоящую из одного скрытого и одного выходного слоя.
Число скрытых нейронов (т.е. принадлежащих этому скрытому слою) неограниченно, тогда как число выходных нейронов равно числу«коллекторов» внутри «глаза». Каждый скрытый нейрон принимает сигналы отсенсоров, расположенных в соответствующем «рецептивном поле», обрабатывает их и передает результат на каждый из выходных нейронов. Каждый выходной нейрон, в свою очередь, тоже обрабатывает свои входные сигналы и передает результат на соответствующий «коллектор».«Мозг» также является многослойной нейронной сетью с обратным распространением сигнала при обучении (многослойным персептроном), содержащий один выходной и, возможно, один скрытый слой нейронов.
Сигналы,формируемые «коллекторами», поступают на скрытый слой «мозга», оттуда наслой выходных нейронов, каждый из которых формирует сигнал, соответствующий прогнозируемому свойству химического соединения. Распространениесигналов внутри сети и динамика ее обучения описываются точно такими жематематическими выражениями, как и в случае обычной многослойной нейронной сети с обратным распространением ошибки при обучении [42].281Таким образом, можно выделить 4 этапа обработки структурной информации в рассматриваемом нейронном устройстве: 1) формирование в «сенсорном поле» сигналов, соответствующих характеристикам атомов и связей; 2) обработка в каждом из «рецепторов» сигналов, собранных со своего «рецептивного поля»; 3) формирование в «коллекторах» сигналов, инвариантных к перенумерации атомов в молекуле; 4) окончательная обработка инвариантных сигналов в «мозгу» (см. Рис. 63).
Заметим, что для корректной работы сети последний этап не является обязательным.Следует отметить, что воплощенная в нейронном устройстве идея «рецептивных полей», собранная с которых первичная информация подвергаетсядальнейшей обработке в последующих слоях нейронов, в результате чего формируются сигналы, инвариантные к возможным трансформациям входных сигналов, составляют основу парадигмы неокогнитрона [492-495], разработанногов соответствии с нейрофизиологическими данными о том, как визуальная информация обрабатывается в зрительной коре головного мозга [496-498].Рис.
64. Конфигурация нейронного устройства для молекулы этана2827.4.3. Примеры разных конфигураций нейронного устройстваРассмотрим в качестве примера нейронное устройство, состоящее из«мозга» и двух «глаз» (которые мы обозначим как E1 и E2). Возьмем простейшее «сенсорное поле», содержащее только атомные сенсоры, каждый из которых формирует сигнал, равный числу атомов водорода, присоединенных к соответствующему атому (обозначим этот тип сенсора NH). Пусть каждый из«рецепторов» внутри «глаза» E1 получает сигнал только с одного атомногосенсора.
Таким образом, «глаз» E1 «смотрит» на неводородные атомы в молекуле. Пусть также каждый из «рецепторов» внутри «глаза» E2 принимает сигналы от двух атомных «рецепторов», соответствующих атомам, образующиххимическую связь между собой. Таким образом, глаз E2 «смотрит» на связимежду неводородными атомами внутри молекулы. Пусть также каждый «рецептор» внутри обоих глаз содержит два скрытых и один выходной нейрон.
Всоответствии с числом выходных нейронов, каждый глаз также содержит поодному «коллектору», чей выходной сигнал передается на «мозг».На Рис. 64 представлена конфигурация описанного выше нейронногоустройства для молекулы этана. В этом случае, инвариантность предсказываемых нейронным устройством свойств химических соединений относительноперенумерации атомов обеспечивается следующими ограничениями, налагаемыми на значения весов связей ω' и порогов активации θ': ω ′4,6 = ω ′4,7 ; ω ′6,10 = ω ′7,12 ;ω ′6,11 = ω ′7,13 ; ω 5′,8 = ω 5′,9 ; ω 8′ ,14 = ω ′9,16 ; ω 8′ ,15 = ω ′9,17 ; ω 10′ ,18 = ω12′ ,19 ; ω 11′ ,18 = ω13′ ,19 ; ω 14′ ,18 = ω16′ ,19 ;ω 14′ ; θ11′ = θ12′ = θ13′ ; θ14′ = θ16′ ;′ ,19 = ω 16′ ,18 ; ω 15′ ,18 = ω 17′ ,19 ; ω 15′ ,19 = ω 17′ ,18 ; θ ′6 = θ ′7 ; θ8′ = θ ′9 ; θ10θ15′ = θ17′.283Рис. 65.
Конфигурация нейронного устройства для молекулы пропанаВ качестве еще одного примера, на Рис. 65 представлена конфигурацияэтого же нейронного устройства уже в применении к молекуле пропана. В этомслучае, инвариантность предсказываемых нейронным устройством свойств химических соединений относительно перенумерации атомов обеспечиваетсяследующими ограничениями, налагаемыми на значения весов связей ω'' и пороговактивацииθ'':ω 13′′ ,27 = ω15′′ ,28 = ω17′′ ,29 ;ω ′′4,6 = ω ′′4,7 = ω ′′4,8 ;ω ′′6,13 = ω ′′7,15 = ω 8′′,17 ;ω 14′′ ,27 = ω 16′′ ,28 = ω18′′ ,29 ;ω ′′6,14 = ω ′′7,16 = ω 8′′,18 ;ω 5′′,9 = ω 5′′,10 = ω 5′′,11 = ω 5′′,12 ;ω ′′9,19 = ω 10′′ ,21 = ω 11′′ ,23 = ω 12′′ ,25 ;ω ′′9,20 = ω 10′′ ,22 = ω 11′′ ,24 = ω 12′′ ,26 ;ω 19′′ ,27 = ω ′′21,28 = ω ′′23,28 = ω ′′25,29 ;ω 19′′ ,28 = ω ′′21,27 = ω ′′23,29 = ω ′′25,28 ;ω ′′20,27 = ω ′′22,28 = ω ′′24,28 = ω ′′26,29 ;ω ′′20,28 = ω ′′22,27 = ω ′′24,29 = ω ′′26,28 ;θ ′′6 = θ ′′7 = θ8′′ ;θ ′′9 = θ10′′ = θ11′′ = θ12′′ ;θ13′′ = θ15′′ = θ17′′ ;θ14′′ ;′′ = θ16′′ = θ18θ19′′ = θ ′′21 = θ ′′23 = θ ′′25 ;θ ′′20 = θ ′′22 = θ ′′24 = θ ′′26 .Обе эти конфигурации могут быть получены путем размножения «рецепторов» из представленной на Рис.
66 минимальной конфигурации.284Рис. 66. Минимальная конфигурация нейронного устройства7.4.4. Применение нейронного устройства в исследованиях «структурасвойство» для органических соединенийТемпература кипения алканов. Для первого вычислительного эксперимента с программным эмулятором нейронного устройства было выбрано прогнозирование температуры кипения алканов при нормальных условиях, поскольку по этой теме известно большое число публикаций, что дает возможность осуществить объективное сравнение с результатами, достигнутыми другими авторами (искусственные нейронные сети применялись для прогнозирования температуры кипения алканов в публикациях [198, 406, 421, 465, 491,499-503]). Выборка, состоящая из 74 алканов C2-C9 (данные были взяты из статьи [409]), была случайным образом разбита на две части – обучающую (67 соединений) и контрольную (7 соединений) выборку.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
