Моделирование свойств химических соединений с использованием искусственных нейронных сетей и фрагментных дескрипторов (1097754), страница 35
Текст из файла (страница 35)
Для обеих выборок былирассчитаны молекулярные дескрипторы. Для построения нейросетевой моделииспользовалась искусственная нейронная сеть с обратным распространениемошибок, содержащая ni входных, no выходных, nh скрытых и 2 псевдонейронасмещения (bias). Каждый входной нейрон соответствовал одному из рассчитанных молекулярных дескрипторов, каждый выходной – прогнозируемому свойству, а число скрытых нейронов бралось таким, чтобы максимально уменьшить«переучивание» при сохранении точности прогноза.
Обучение велось при помощи алгоритма «обобщенного дельта-правила», скорость обучения была взятаη = 0.8, момент μ = 0.9, а критерием завершения обучения являлось уменьшениеизменения шкалированной суммарной среднеквадратичной ошибки для обучающей выборки после очередной эпохи ниже порогового значения 0.0001. Качество работы искусственной нейронной сети определялось по среднеквадратичной ошибке прогнозирования значений свойства на обучающей выборке st,по коэффициенту корреляции между прогнозируемыми и экспериментальнымизначения свойства на обучающей выборке R и среднеквадратичной ошибкепрогноза на контрольной выборке sv. При проведении данного исследованиябыла использована первая версия разработанной нами программы-эмулятораискусственных нейронных сетей NASA (см.
раздел 8.1).Дляпроведениясравнениянейросетевыхмоделейслинейно-регрессионными, те же самые выборки при тех же наборах рассчитанных молекулярных дескрипторов и тех же разбивках выборок на обучающие и контрольные были обработаны на программном комплексе «ЭММА» (см. раздел 8.1),предназначенном для проведения QSPR/QSAR-исследований при помощи пошаговой процедуры множественного линейно-регрессионного анализа количественных зависимостей между свойствами химических соединений и описы199вающими химические структуры молекулярными дескрипторами.
В процессепроведения исследований из множества регрессионных моделей отбираласьодна, дающая наилучший прогноз на обучающей и контрольной выборках, идля нее вычислялись среднеквадратичная ошибка прогноза на обучающей выборке si, коэффициент корреляции между прогнозируемыми и экспериментальными значениями свойства на обучающей выборке R и среднеквадратичнаяошибка прогноза на контрольной выборке sv.Результаты компьютерных экспериментов приведены в Табл. 9.
В компьютерных экспериментах 1-6 прогнозировалось по одному свойству (один выходной нейрон), тогда как в компьютерных экспериментах 7 и 8 одновременнопрогнозировались шесть различных свойств (шесть выходных нейронов).Табл. 9. Результаты нейросетевого и линейно-регрессионного моделированияфизико-химических свойств углеводородов (обозначения см. в тексте)№12345677ВыборкаМДСвойствоNtNvТемпература кипенияалканов, 1атм., oC-- // -Температура плавления алканов, oC-- // -Октановоечисло алканов, алкенов, циклоалканов-- // -Молярныйобъем алканов,см3/мольМолярнаярефракция15918ТИ1598116981138Архитектуранейроннойсетиni n nСтатистическиепоказатели нейросетевых моделейstСтатистическиепоказатели линейно-регрессионныхмоделейRsvstRsv12 2 1 4.080.9992.339.440.99610.9ФДТИ18 2 1 4.7412 2 1 16.20.9990.9762.1813.823.029.40.9790.92422.528.5915ФДТИ18 2 1 16.012 2 1 10.90.9770.84116.812.132.913.20.9020.76131.817.013863156ФДТИ34 2 1 5.9712 5 6 0.840.9540.9994.370.8910.60.450.8581.00010.40.64636ТИ12 5 6 0.151.0000.180.041.0000.09ho2007777888888алканов,см3/мольТеплотаиспаренияалканов,кДж/мольКритическая температура алканов, оСКритическое давление алканов, атм.Поверхностное натяжениеалканов,дин/смМолярныйобъем алканов,,3см /мольМолярнаярефракцияалканов,см3/мольТеплотаиспаренияалканов,кДж/мольКритическая температураалканов, оСКритическое давление алканов, атм.Поверхностное натяжениеалканов,дин/см636ТИ12 5 6 0.440.9940.510.270.9990.21636ТИ12 5 6 3.800.9943.945.250.9962.82636ТИ12 5 6 0.460.9840.390.680.9880.39636ТИ12 5 6 0.180.9960.280.280.9900.29636ФД14 6 6 0.880.9991.100.621.0000.42636ФД14 6 6 0.200.9990.180.041.0000.09636ФД14 6 6 0.440.9960.560.181.0000.07636ФД14 6 6 3.370.9953.587.520.9934.96636ФД14 6 6 0.440.9860.230.790.9860.40636ФД14 6 6 0.170.9960.170.310.9890.23Из сравнительного анализа данных в таблице можно сделать следующиевыводы.1) Для углеводородов температура кипения, плавления, октановое число,критическая температура и поверхностное натяжение прогнозируются сущест201венно лучше при использовании искусственных нейронных сетей по сравнениюс линейным регрессионном анализом, что свидетельствует о нелинейном характере зависимости этих свойств от рассматриваемых дескрипторов.2) При прогнозировании молярного объема, молярной рефракции и теплоты испарения акланов предпочтительно использовать линейный регрессионный анализ по сравнению с искусственными нейронными сетями, что свидетельствует о практически строгой линейной зависимости этих свойств от рассматриваемых дескрипторов.3) В большинстве случаев (для 7 свойств из 9) использование фрагментных дескрипторов приводит к построению моделей с лучшей прогнозирующейспособностью по сравнению с применением топологических индексов.4) Сочетание искусственных нейронных сетей с фрагментными дескрипторами чаще всего приводит к построению моделей с наилучшей прогнозирующей способностью.Именно этот последний вывод (в то время совершенно неожиданный ипротиворечащий бытовавшим тогда убеждениям о преимуществах использования топологических индексов и аппарата множественной линейной регрессии)и послужил отправным толчком для проведения большой серии разноплановыхисследований, которые и легли в основу данной диссертационной работы.Сейчас, оценивая рассмотренную выше работу, можно сказать, что она вомногих отношениях явилась пионерной.1) Она явилась одной из первых работ, в которых аппарат искусственныхнейронных сетей был применен для прогнозирования физико-химическихсвойств органических соединений, и однозначно первой работой, где это былосделано систематически.
В настоящее время аппарат нейросетей является неоспоримым лидером в прогнозировании многочисленных свойств органическихсоединений.2) В ней впервые применено сочетание аппарата искусственных нейронных сетей и фрагментных дескрипторов для прогнозирования свойств органических соединений. К настоящему времени это сочетание продемонстрировало202свое преимущество в прогнозировании многочисленных свойств органическихсоединений.3) В ней впервые было успешно применено многозадачное обучение, позволяющее одновременно осуществлять прогноз нескольких свойств в рамкаходной модели.
Следует заметить, что вообще в теории машинного обученияпервые работы по многозадачному обучению, предвосхитившие появление ныне популярного целого направления в вычислительной математике, были опубликованы в том же 1993 г., т.е. не раньше данной работы. В настоящее времямногозадачное обучение является одним из перспективных направления развития работ по прогнозированию свойств органических соединений (см. подраздел 7.4.2).6.2. Прогнозирование физико-химических свойств органических соединений сиспользованием фрагментных дескрипторов и нейросетевых моделейВ разделе 5.2 мы привели ряд примеров прогнозирования физикохимических свойств органических соединений с использованием фрагментныхдескрипторов и стандартного аппарата пошаговой множественной линейнойрегрессии. В задачу следующего этапа рассмотренных там исследований входило установление того, приводит ли замена линейно-регрессионного анализана нейросетевой при том же наборе дескрипторов и разбивке базы данных к повышению прогнозирующей способности полученных моделей.
Для построениянейросетевой модели была использована трехслойная однонаправленная нейронная сеть, реализованная в рамках программы NASAWIN (см. раздел 8.2).Число нейронов входного слоя соответствовало числу дескрипторов, о внутренний слой было помещено 2 нейрона, а выходной слой состоял из одногонейрона, соответствующего прогнозируемому свойству. В качестве алгоритмаобучения было взято обобщенное “дельта-правило” (см. пункт 1.2.4.4), параметр скорости обучения 0.25, значение параметра “момента” обучения 0.9.Процесс обучения был остановлен по достижению наименьшей ошибки прогноза на контрольной выборке.
Трехвыборочный подход не был применен, по203скольку явление «переучивания» было выражено очень слабо либо вообще ненаблюдалось. В Табл. 10 приведено сравнение точности прогноза для построенных линейно-регрессионных моделей.Табл. 10. Точность прогноза для линейно-регрессионных и нейросетевыхмоделейСвойствоПодразделМагнитная восприимчивость. ×10-6единицЭнтальпия парообразования,ккал/мольЭнтальпия сублимации, ккал/мольТемпература вспышки, oC5.2.3MAEпред илиMAEпред илиRMSEпред* для RMSEпред* длялинейнонейросетевойрегрессионноймоделимодели7.026.255.2.41.571.775.2.55.2.62.1615.8*1.6614.6*Как видно из Табл.
10, для трех из четырех свойств (т.е. для магнитнойвосприимчивости, энтальпии сублимации и температуры вспышки) применениенейронных сетей приводит к уменьшению ошибок прогноза. Что же касаетсяэнтальпии парообразования, то можно предположить, что более высокая прогнозирующая способность линейно-регрессионной модели обусловлена строгим аддитивным характером этого свойства. Таким образом, в большинствеслучаем применение нейронных сетей вместо аппарата множественной линейной регрессии приводит к повышению прогнозирующей способности количественных моделей «структура-свойство».6.3. Моделирование физических свойств органических жидкостей в рамкахпроцедуры трехвыборочного скользящего контроля2046.3.1.
Общая методология моделированияДля демонстрации эффективности использования фрагментных дескрипторов в сочетании с аппаратом искусственных нейронных сетей при прогнозировании физических свойств самых разнообразных органических соединенийбыло проведено как линейно-регрессионное, так и нейросетевое моделированиевязкости, плотности (для жидких веществ), давления насыщенных паров и температуры кипения на основе единой методики, которую можно назвать процедурой трехвыборочного скользящего контроля. Его разработка явилась дальнейшим развитием трехвыборочного подхода (см.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
