Боровиков В.П. - Нейронные сети

БТАТБТ1СА Хеика1 Хейюйю Методология и технологии соВременного анализа данных Под редакцией В. П. Борооикооа 2 е издание, переработанное и дополненное Москва Горячая линия - Телеком 2008 УДК 004.8.032.26 ББК 32.973 Н45 Изложены нейросетевые методы анализа данных, основанные на использовании пакета БТА Т18Т1СА Мтга1 1тепеагхт (фирма производитель Я!а!Бой), полностью алаптировашюго для русского пользователя. Даны основы теории нейронных сетей; большое внимание уделено решению практических задач, всесторонне рассмотрена методология и технология проведения исследований с помощью пакета 87АТБТ1СА ггеига1 Л1е!»агйз — мощного инструмента анализа и прогнозирования данных, имеющего широкис применения в бизнесе, промышленности, управлении, финансах Книга содержит множество примеров анализа данных, практические рекам«идалии по проведению анализа, прогнозирования, классификации, распознавания образов, упраьления производственными процессами с помощью нейропныя сетей.

Для широкого круга читателей, занимающихся исслеловшзиями в банковской сфере, промышленности, экономике, бизнесе, геологоразведке, управлении, транспорте и других областях. ББК 32.973 Адрес издательства а Ин!нернен! ннчг глгнвоок ли е-та!1 гаайан 1!1Ст!и!и-не! ги Справочное издание Нейронные сети ЯТЛТ1Я'ПСА Хеига1 (ь(е(тчог1ш! Методология и технологии современного анализа данных Корректор В.

Н. Минин Полготовка оригинал-макета Е. В. Кормзкова Обложка художника В. Г. Ситникова Подтнаис В ПЕЧатЬ 250507 Фориат70»!Ооис УСН Нэд я 525 Иэд №80!5 ООО «Научно«ест»сексе излеюньстю «горячая линня-Телеком» Отпечатаю н типо!рафе» тн »,-2!югы Заказ )Хя Ос 5 ГЛ ! !в Г!СА )чепга! Хепног(!з (Яч)ч), 2008 !О В. П Боровиков, 2008 45 Оформление издательства «Горячая линия — Телеком»,2008 18ВХ 978-5-9912-0015-8 Н45 Нейронные сети. эТАТ10Т1СА Неига! 1(1епеогЬ: Методология н технологии современного анализа данных / Под редакцией В.

П. Боровнкова. — 2-е нзд., перераб. и доп. — Мл Горячая линия — Телеком, 2008. - 392 с., нл. 18 В(н( 978-5-9912-0015 8, Прецчсповае ко второму азоан> о Второе издание получившей известность книги существенно дополнено и переработано. Написаны новые главы, посвященные введению в анализ данных, теорию вероятностей, теорию нейронных сетей. Материал, содержащийся в этих главах, позволяет углубленно понимать методологию применения нейронных сетей. В настоящее время нейронные сети интенсивно используются в банках, промышленности, маркетинге, экономике, медицине и других областях, где требуется прогнозирование и углубленное понимание данных. Общепризнанно, что нейронные сети являются естественным дополнением классических методов анализа и применяются там, где стандартные процедуры не дают нужного эффекта.

ЯТАТ1ЯТ1СА №ига! Мегвог!гв являются единственным в мире программным продуктом для проведения нейроссгевых исследований, полностью переведенным на русский язык. Эго означает, что весь интерфейс (десятки диалоговых окон и сценариев исследования) н справочная система ЗТАТ1БТ1СА А!еиг.а! Фелюг!гк переведены на русский язык и доступны пользователю в единой среде. Мы включили в книгу дополнительную главу по классическим методам анализа, что позволяет читателю сравнить различные подходы. Отдельная глава книги посвящена методам добычи данных (1)а!а Мииия)— современным технологиям анализа данных, обьединяющим классические и нейросетевые модели.

В работе над книгой приняли участие сотрудники Б~а1бой Кцзз|а: В.С. Растунков, А.К. Петров, В.А. Панов. Всем им мы выражаем искреннюю благодарность. Наша особенная признатсяьность Людмиле Екатовой за сложную н кропотливую работу по подготовке рукописи к печати. Научный директор ЬЯИБо$1 Яика!а В.П. Ьоровиков Ввецение Приапашение в нейронные сети За последние несколько лет ингерсс к нейронным сетям существенно возрос: они применяются в финансах, бизнесе, медицине, промышленности, технике, геологоразведке и других областях.

Нсйронныс сети используются везде, где требуется решать задачи прогнозирования, классификации или управления, поскольку онн применимы практически в любой сзпуацни, когда имеется связь между переменными-предикторами (входныкш переменными) и прогнозируемыми переменными (выходными переменными), даже если эта связь имеет сложную природу и се трудно выразить в обычных терминах корреляций или различий между группами. Методы нейронных сетей могут использоваться независимо или служить прекрасным дополнением к традиционным методам анализа данных. Большинство статистических методов связано с построением моделей, основанных на тех илп иных прсдположсниях н тсоретичсских выводах (например, в предположении, что искомая зависимость является линейной или псременныс имеют нормальное распределение). Нейросетевой подход свободен от модельных ограничсний, он одинаково годи гся для линейных н сложных нсчизюйшых зависимостей и особенно эффективен в разведочном анализе данных, когда нсобходимо выяснить, имеются ли вообще зависимости между псрсмсиными.

Сила нейронных сетей заключается в их способности самообуч;пъся. Процедура обучения состоит в настройкс синаптичсскнх вссов с целью минимизации функции потсрь. В данной книге для построения нейронных сетей используется пакет о ТХПо ТСА Феиги! ззегзгогйх, имеющий удобный интерфейс и позволяющий проводить исслсдования в диалоговом режиме. Все диалоговые окна и подсказки, включая электронную справочную систему, полностью переведены на русский язык и доступны пользоватслям.

Нейропиые сети ЯТАТзйТ1СА — тпо едппсзпаепиый а мире прогрплзмиый продукт для иейросетеаых псследоапиий, полиостьт переаедеппый пп русский язык. Существенным преимуществом пакета о ТАГБТ!СА ззеига! Неги огкл является то, что он естественным образом встроен в мощный арсенал аналити- введение ческих средств программы ЗТЖ1ЗТ1СА. Именно сочетание классических и нейросетевых методов дает нужный эффект. Настоящая книга состоит из одиннадцати глав. В первой главе мы описываем основные понятия анализа данных, во второй даем введение в теорию вероятностей, Третья глава содержит теоретическое введение в нейронные сети. Заметим, тсория вероятностей является основанием нейронных сетей.

Эта глава необходима для углубленного понимания методов и принципов работы нейронных сетей. В ней мы описываем знаменитую формулу Байеса и правило оптимальной байесовской классификации. Четвертая глава содержит общий обзор нейронных сетей, реализованных в э ТлТ1э Т1СА Меига! Уе(1еог1и, знакомит читателя с интсрфейсом программы, опциями, помогает усвоить основные направления анализа, В пятоВ главе читатель учится делать псрвые шаги в ЗТАТ1ЗТ1СА Уеига! Фелюг!гз. В шесгой главе описываются дальнейшие возможности нейронных сетей.

Подробно рассматриваются сети на основе радиально базисных функций, описываются многослойные персептроны, самоорганнзующиеся карты, вероятностныс и обобщенно-вероятностные модели. Рассказывается, как построить сеть с помощью Мастера решений, — удобного средства проведения нейросетевого анализа для начинающих пользователей; дается представление о генетических алгоритмах понижения размерности. В седьмой главе представлены практические советы по решению задач с помощью нейронных сетей. В восьмой главе содержатся решеши конкретных задач (саяе иис1!ек).

Эта глава особа шо интересна широкому кругу читатслей, так как показывает технологию нейронных сетей в действии. Примеры охватывают широкий круг приложений: от геологии и промышленности до финансов; рассматриваются задачи классификации, распознавания образов, прогнозирования, управлсния производственными процессами. В девятой главе читатель найдет краткое руководство по использованию нейросетевого пакета ЯТАТ1КТ1СА Книга! Иегвог1ск Десятая глава посвящена методам статистики, альтернативным нейронным сетям.

Здесь описываются методы дискриминантного анализа, факторного анализа и логистической регрессии. Очевидно, пользователь должен иметь возможность сравнить методы и выбрать наиболее адекватные. В ошпшадцатой главе мы кратко описьваем современные технологии добычи данных, в которых методы нсйронных сетей сочетаются с классическими методами анализа. Приведем типичные примеры применения нейронных сетей. В промышленности актуальной является задача управления производственными процессами (производственной установкой). Например, в газовой отрасли про- Нейронные сети ЗТАТгЗТ!СА Неига! Йегтгогне мышленности вы можете настроить нейронную сеть и автоматически изменять параметры, чтобы контролировать качество продукта на выходе.

Аналогичные з щачи возникают при переработке нефти. Можно контролировать качество бензина на основе спектральных характеристик, измеряя спектр, относить произведенкый продукт к определенному классу. Так как зависимости носят нелинейный характер, то нейронные сети являются подходящим инструментом для проведения классификации. В финансовой сфере актуальной задачей является потребительское кредитование.

За последние годы потребительское кредитование интенсивно развивалось и стало одним из наиболее растущих секторов банковского бизнеса. Число финансовых учреждений, предоставляющих товары и услуги в кредит, растет день за днем. Риск этих учреждений зависит от того, насколько хорошо они могут отличать «хороших» претендентов на получение кредита от «плохих». Анализируя кредитную историю заемщика, можно предсказать способ его действий и принять решение о выдаче займа или отказе в кредите.

Интересной задачей является различение электронной подписи, распознавания голоса, разнообразные задачи, связанные с геологоразведкой. Для решения этих задач могут применяться нейронные сети. Далее мы представим цепочку диалоговых окон в пакете Нейронные сети КТАТБТ1СА и покажем, как организован диалог с пользователем системы.

Обратим внимание на удобный интерфейс и наличие инструментов Мастера решений н Конслгрукпгора сетей, позволяющих пользователям конструировать собственные сети и выбирать наилучшие. Итак, прежде всего, запустим пакет КТАПКТ1СА !г!еига! 1тгегн ог!гк. Шаг 1.

Начинаем со стартовой панели (рис. 1). Ряс. 1. Стартовая ваяеаь неяроаггых сетей Введение В данной панели можно выбрать различныс виды анализа, которые необходимо выполнить: регрессию, классификацию, прогнозирование временных рядов, кластерный анализ. Выберите, например, временные ряды, если хотите построить прогноз. Далее следует выбрать инструмент решения в разделе Онструмеппь Для начинающих пользоватслей рекомендуется выбрать Мастер решений, для опытного пользователя использовать Конструктор сетей.

Мы выберем Маппер решений. Шаг 2. Нажав кнопку Данные, откройте файл данных. Если файл уже открыт, зту кнопку нажимать не слсдует. При нажатии кнопки Дополнительно появляется окно, где доступны дополнительные инструменты, в частности процедуры понижения размерности, генератор кода и др. (рис. 2). е Ф э с е мзде е~ Рас.

2. Стартовая яаявль Нейронпые сети БТАТ1ЯТ1СА Шаг 3. Из открытого файла выберем переменные для анализа. Переменные могут быть непрерывными и категориальными; кроме того, наблюдения могут принадлежать разным выборкам (рис. 3). Ряс. 3. Окко выбора первмеааых Нейронные сети ЗТАТГЗТ!СА ггеига! НеГигогне Шаг 4. Зададим длительность анализа, указав число испытываемых сетей нли время решения (рис.