1626434812-e667f6b6e7e69d3a0798830a58e9075b (844135), страница 35
Текст из файла (страница 35)
Если очередной поступивший входной вектор Х попадает в поле влияния нейрона иной области, нежели область, которой принадлежит вектор Х, то формируется нейрон, соответствующий поступившему вектору. При пересечении полей влияния нейронов разных областей предпринимается попытка уменьшения значений порогов этих нейронов вплоть до некоторого наперед заданного значения Кгшп с целью исключения пересечения областей влияния, Возможно, что даже при достижении порогов аппп поля влияния оудут пересекаться. В этом случае решение о принадлежности входного вектора, попадающего в пересечение полей влияния, будет приниматься на основе условных вероятностей. Корректировка покрытия областей полями влияния нейронов позволяет за несколько проходов, использующих множество Х обучающих векторов. произвести формирование нейронной сети, решающей задачу. Базы данных. Интеллектуатьная обработка информации В ряде работ показано, что многослойные персептронные сети, используемые для решения задач распознавания и классификации, реализуют оптимальные, по Байесу.
дискриминантные функции в том случае, если обучающее множество является асимптотически большим, т.е.. стремится к полному покрытию признакового пространства ~441. В общем случае при решении задач распознавания многоуровневые персептронные нейросети могут формировать, вследствие неполноты обучающего множества, непредсказуемые значения на выходах при предъявлении векторов, "непохожих" на примеры, использованные при обучении. В 1990 г. ЯресЫ ~421 показал„что непараметрический байесовский классификатор, основанный на методе парзеновских.окоп оценки функции плотности распределения классифицируемых векторов, может быть реализован вероятностной нейронной сетью.
Вероятностные сети имеют ряд преимушеств перед многими другими нейросетевыми парадигмами: во-первых, для них существует полное математическое обоснование; во-вторых, эти сети обучаются значительно быстрее сетей обратного распространения при не худшем качестве распознавания. 7.2.б. Замечания по поводу формирования нейронной сети Вообще говоря, можно ставить задачу синтеза требуемой нейронной сети. В этом случае должна быть сформирована система уравнений, левая часть которой строится на базе графа сети и функций активации и состояния нейронов.
Основные трудности связаны с формированием правой части. Если известна структура области решения. то правая часть может быть как-то параметрически описана через известную структуру этой области. После решения сформированной системы будут вычислены необходимые веса ребер нейронной сети, решающей требуемую задачу. Однако, как правило, структура области решения заранее не известна.
Максимум, что известно, — отдельные точки области решения, которые можно использовать как примеры при обучении сети. Если известна структура области решения, то могут быть применены алгоритмы, базирующиеся на правилах типа "если А, то делай Б". В отличие от этих программ нейронная сеть может экстраполировать результат. Еще преимушество перед программами, базирующимися на правилах, состоит в том, что учет новых фактов заключается в переобучении сети с их участием, а ие в переделывании правил программы и ее переписывании. Кроме того, настройка нейронной сети на большем числе примеров не увеличивает время ее работы, а введение новых дополнительных правил замедляет работу программы.
Вообще говоря, чем более изучена проблема, тем выше вероятность применения для ее решения алгоритмов, основанных на формулах и правилах. Однако при Глава 7. Нейросетевые системы ограниченном количестве экспериментальных данных нейронные сети являются аппаратом, позволяющим максимально использовать имеющуюся информацию. Характерный пример 138] использования нейронных сетей дают системы оптического считывания и распознавания символов (ОСЕ).
Среди 10 лучших систем есть как основанные на нейросетевом подходе, так и системы, использующие программы, основанные на правилах. 7.3. Нейросетевые пакеты Вообще говоря, выше приведены самые общие понятия о нейросетевых парадигмах, включающих тип используемых нейронов, граф межнейронных соединений, алгоритм обучения или конструирования сети. Сегодняшнее состояние теории нейросетевых вычислений не дает ответа на вопрос о выборе оптимальной нейросетевой парадигмы для решения конкретной прикладной задачи. Публикуются перечни успешно решенных задач с применением тех или иных парадигм. Опыт применения накапливается и развивается в программных средствах, реализующих широкий набор нейросетевых парадигм.
При решении практических задач необходимость самостоятельно разрабатывать программные средства поддержки нейровычислений возникает довольно редко. Большинство функций, необходимых для создания, обучения и использования нейросетей, реализовано в коммерческих и распространяемых бесплатно пакетах программ. В них воплощены практически все известные алгоритмы обучения и топологии нейросетей. Общее число фирм, разрабатывающих эти средства, превышает 150. Несмотря на сложность заложенных в нейропакетах методов, использовать их довольно просто. Они позволяют сконструировать, обучить, протестировать и использовать в работе нейронную сеть на основе понимания нескольких базисных теоретических положений.
Первые подобные программные продукты появились на Западе в середине 80-х годов. Одним из лидеров этого рынка почти сразу стал нейросетевой пакет Вга1пМаЕег американской фирмы СаНоппа Бс|епббс Бойъчаге. В 1990 году он получил приз "Лучший программный продукт года" журнала РС Маулпе, а впоследствии стал самым продаваемым в США нейропакетом. Первоначально Вга1пМа1ег был разработан фирмой 1.ога1 Брасе Бузить по заказу 1ЧАБА и 3ойпаоп Брасе Сенат.
Затем он был адаптирован для коммерческих приложений. Сегодня он используется промышленными и финансовыми фирмами, спецслужбами и Министерством обороны США для решения задач прогнозирования, оптимизации и моделирования ситуаций. По оценкам производителя, во всем мире пакет применяют более 20 тысяч компаний. Пакет Вга1пМаКег, как и другие программы, использующие нейронные сети, до последнего времени был запрешен к экспорту в Россию.
Базы данных. Интеллектуальная обработка информаиии Вга1пМа!сег состоит из двух компонентов: нейросетевого ядра, которое обучает и тестирует нейронные сети, обеспечивает их работу, и среды для создания нейросетей, анализа и подготовки исходных данных. Вга1пМаЕег позволяет использовать только одну нейропарадигму — "персептрон обратного распространения" (многослойная сеть прямого распространения с алгоритмом обучения методом обратного распространения ошибки), однако этого оказывается достаточно для большинства приложений распознавания образов и прогнозирования.
Требования, которые Вга!пМа1ег предъявляет к программно-аппаратным средствам, довольно скромны: 1ВМ РС класса 38б и выше, МЯ %1пдоюз версии 3.! или выше, 2 Мб на жестком диске и 4 Мб оперативной памяти. Среди других средств, нашедших свое место на рынке нейросистем, можно выделить пакет 0%1. фирмы Нурег! орс. Он представляет собой библиотеку, содержащую большинство известных нейросетевых алгоритмов на языках С и С++.
Используя этот продукт, можно разрабатыва1ь собственные аналитические системы любого размера и назначения. Еще один популярный пакет, использующий нейросетевые технологии, — "ТЬе А1 Тп!оду" 1'*Трилогия искусственного интеллекта") американской фирмы Юагс! Буз1епзз бгоцр. "ТЬе А1 Тп!оку" — это набор из трех самостоятельных приложений: ИецгоЯ~еП 11, 1Чецго%1пдоюз и бепеНцп1ег. НецгоБЬеП 11 представляет собой средство создания, обучения и тестирования нейросетевых приложений, ИеигоМпс1ова — это нейросетевая библиотека в исходных текстах, а бепеНцп1ег — система оптимизации нейросетей на основе генетических алгоритмов.
В совокупности они образуют весьма мощный "конструктор", позволяющий строить аналитические комплексы любой сложности. ИеигоЯЬеП адаптирован для бизнес-приложений. Он используется в более чем !50 крупнейших банках США: Вап!с оГ Атепса„СЬазе МапЬайап и других. В 1996 году сразу три известные организации — Институт стандартов США, корпорация "Рц Ропг" и ФБР США— признали его лучшим для решения своих задач.
В системе "ТЬе А1 Тп!оиру" присутствуют возможности обработки текстовых данных, задания правил в явном виде, работы с финансовыми индикаторами, обработки циклических событий, а также создания независимых приложений. Важная особенность пакета — наличие русскоязычной версии. Пакет "ТЬе А! Тп!оду" функционирует на 1ВМ РС под управлением %!пс!оиа версии 3.1 или выше. Пакеты, упомянутые выше, уже довольно давно на рынке и поэтому наиболее известны.
Так, пакет Вга!пМаКег — один из пионеров программных средств для моделирования искусственных нейронных сетей, а ИеыгоБЬе!! стал первым русскоязычньж "коробочным" продуктом. Сегодня нейрокомпьютерный сегмент рынка программного обеспечения бурно развивается, и появление новых пакетов — естественный процесс. Большинство фирм, работающих на рынке аналитических программ, уже заявили о подготовке или выпуске систем на основе нейронных сетей. Глава 7.
Нейросетевые системы Современные продукты во многом лучше своих старших собратьев — улучшен интерфейс пользователя, появились дополнительные нейропарадигмы, в пакетах реализованы возможности взаимодействия с другими приложениями посредством механизмов ОЕЕ, АспчеХ и др. Плата за эти возможности — это необходимость использовать более мощный, чем ранее, компьютер, рост требований к объему оперативной и дисковой памяти. Кроме того, более новый пакет совсем не гарантирует более качественного решения прикладной задачи пользователя.