Боровиков В.П. - Нейронные сети (778916), страница 58
Текст из файла (страница 58)
Заметьте, переменная Яиссехз принимает два значения: 1— Юиссеиз, Π— Га!!иге. Укажите соответствующие коды в разделе Коды для зависимой переменной, Нажмите далее кнопку ОК и перейдите к следующему диалоговому окну (рнс. 10. 39), Верхняя часть окна является информационной. В модели имеются два параметра, которые слсдуст оценить по значениям независимой и зависимой переменных. В программе используется метод максимального правдоподобия.
Для нахождения точки максимума функции правдоподобия могут использоваться разные численные методы, представленные в разделе Метод оцениванил. В нижней части окна можно выбрать метод оценивания параметров (квази- ньютоновский, симплекс, Розенброка и др.), а также задать число итераций, критерий сходимости, начальныс значения и величину шага, Методы оценивания являются итерационными — они начинают работу с набора предварительных оценок, которые в дальнейшем последовательно уточняются. 323 Нейронные сото, ЗТАТ!ЗТ!СА Несла! Не1еогКв Ряс.
10.39. Выбор метода оцеяываияя При первой итерации размер шага определяет, как сильно будут меняться парамстры. Наконец, критерий сходимости определяет, когда итсрациош~ый процесс можно прекратить. Процесс итераций можно остановить, когда изменение функции потерь на каждом шаге становится меньше определенной всличины. Модуль Нелинейное оценивание имеет определенные по умолчанию значения для всех этих параметров.
Эти значения подходят в большинстве случасв. Заметим, самой неприятной проблемой при минимизации функции без ограничений являются локальные минимумы. Например, при небольшом смещении значения парамсгра в любом направлении функция потерь почти нс изменяется. Однако, если мы передвинем параметр в совершенно другую область, значение функции потерь может сущсственно уменьшиться. Можно представлять себе такие локальныс минимумы, как нсбольшис впадины на поверхности функции потерь. В большинствс приложений локальные минимумы приводят к неправдоподобно большим или неправдоподобно малым значениям параметров с очень большими стандартными ошибками.
В таких случаях следует использовать другие начальные данные и повторить поиск минимума еще раз. Отметим также, что Симплекс-метод, предлагаемый программой, нечувствителен к таким ситуациям, поэтому он может быть использован для отыскания подходящих начальных значений для сложных функций. В данном примере выберем Метод оценивания — Квазиныютоновский. Установим также опцию Асимптотические стандартные ошибки. Нам нужно оценить всего два параметры: ЬΠ— свободный член и Ь1 — коэффициент при независимой переменной. Начальные значения для всех параметров примем равными 0,1.
324 Гпава 10. Кпассоческое мееояы, еоыоернаесеные нейронным сетям Рас. 10.40. Окно результатов Нажмитс на кнопку ОК, чтобы запустить процедуру вычисления. После проведения вычислений на зкрпне оятбризипься диалоговое окно просмотри резульнватов. здесь собрана вся информация, касающаяся посвпроепной модели и результатов оцепивипия. Посмотрите на верхнюю часть окна (рис. 10.40), где дается краткое описание результатов, приводится значение функции потерь, статистики хи-квадрат, число степеней свободы, уровень значимости р. Ключевым является р-уровень, который показывает значимость модели. Если р-уровень менее 5%, то модель значима. Значимость модели оценивается с помощью критерия хи-квадрат. В данном случае р-уровень гипотезы оказался ниже 5% — значение статистики хи-квпдрат для разницы между построенной моделью и моделью, содержащсй лишь свободный член, значимо.
Поэтому можно заключить, что стаж работы значимо влияет на успехи программиста в выполнении работы. Выберем опцию Параметры и стандартные ошибки. Рассмотрим таблицу, в которой содержатся данные об оценках регрессионных коэффициентов (рис. 10.41). Рис.
10.41. Опенки максимального правдоподобия 325 Нейронные репа. ЗТАТ!ЗТ!СА Ноша! Неспето В таблицс результатов оба параметра имеют уровень значимости р = 0,05. В принципе, оценки параметров могут быть проинтерпрстированы, как и в случае стандартной линейной регрессионной модели, т.е. в терминах свободного члена ЬО и коэффициента при независимой переменной. На вкладке Быстрый выберите опцию Наблюдаемые, предсказинные и зпиченип оспшткое (рис. 10.42). Оценим качество построенной модели. На вкладке Дополнительно нажмите на кнопку Классификация.
На экране появится таблица с результатами классификации (рис. 10.43). Рлс. 10.42. Модель прсдсказаныл Рлс. 10.43. Результаты класслфлкланл Оценить качество построенной модели можно, если оценить параметр Отношение несоглисил. Выведем на экран таблицу с числом наблюдений, которые были правильно и неправильно классифицированы с помощью построенной модели. Все наблюдения с предсказанными значениями (вероятностью) меньшс или равными 0,5 классифицируются как неудача — ЕиНиге, остальные, с предсказывасмыми значениями больше 0,5, классифицируются как успех — Бисселль Опюшснис несогласия вычисляется как отношение произведения чисел правильно раскласснфицированных наблюдений к произведению чисел неправильно расклассифицированпых.
326 Гпава 11. Псаына данных в ЗТАТ!ЗТ!СА Отношение несогласия больше 1 показываст, что построенная классификация лучше, чсм, сели бы мы просто наудачу провели классификацию (например, подбрасывали монету, чтобы оценить кандидата). Применим модель к новым данным. Пусть мы хотим оценить вероятность успеха двух новых кандидатов, которые имеют стаж работы в 10 и 20 месяцев соответственно. Исходя из оценок параметров имеем: !оя!Г = — 3,05+0,161Т, где Т вЂ” опыт работы кандидата. Для первого кандидата имеем Т = 10, следовательно: !оя!!1= — 3,05+0,161 10 =-144.
Для второго кандидата имеем Т = 20, следовательно: !оя!!1= — 3,05+ 0,161 20 = 0,15. Используя 11юрмулу для лопгстичсского преобразования, получаем значение вероятности успеха: р = ехр (!оя(!) I [1+ ехр(!оя!Г)1. Следовательно, для первого кандидата вероятность успеха р = 0,19, для второго кандидата — р = 0,53.
Отличие от нейронных сетей состоит в том, что мы имеем ясную, интсрпретирусмую модель. фАКТОРНЫЙ АНАПИЗ В ЗТАТ18Т!СА Главными целями факторного анализа являются: ° сокращение числа переменных и пони>кение размерности задачи; ° оггределенгге сгггрукпгуры взаимосвязей между переменными, т.е. классггфикацгггг перемегнгых. Намгг описываются принципы факторного анализа и способы его применения для достижения этих двух целей. Факпзорныц анализ как мепзод редукции данных Предположим, вы хотите измерить удовлетворенность людей жизнью, для чего составляетс вопросник с различными пунктами.
Срсди других вопросов задаете слсдуюшие; удовлетворены ли люди своим хобби (пункт 1) и 327 Неаронные сети. ЗТАТ)ЗТ!СА йеига! йешогне как интенсивно они им занимаются (пункт 2). Результаты преобразуются так, что средние ответы (например, для удовлетворенности) соответствуют значению 100. На рис. 10.44 показана диаграмма рассеяния двух переменных. Здесь каждый опрошенный представлен точкой. Как видите, две переменные (ответы на два разных пункта) коррелированы между собой. Из высокой коррелированности двух этих переменных можно сделать вьшод об избыточности двух пунктов опросника. Рве.
Ш44. Диаграмма рассеевав двух перемеввых Если определить новую переменную на основе линии регрессии, изображенной на этой диаграмме, то такая переменная будет включать в себя наиболее существенные черты обеих переменных. Итак, фактически, сокращено число переменных и заменены две переменные одной. Отметим, что новый фактор в действительности является линейной комбинацией двух исходных переменных. Анаппз апавных компонент в ЗТАТ18Т!СА Пример, описанный выше, в котором две коррелированные переменные объединены в один фактор, показывает главную идею факторного анализа или, более точно, анализа главных компонент.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
