Ким_ Мьюллер и др - Факторный_ дискриминантный и кластерный анализы (1185345), страница 31
Текст из файла (страница 31)
Остающиеся шаги проводятся таким же образом до тех пор, пока не будут включены все переменные. На шаге 6 СИТА1Р имеет настолько малое значение статистики г-включения, что порой лучше отказаться от ее анализа. К тому же на шаге 6 значение статистики г-удаления для АЫТ1б)Е()Т, падает до величины 0,996. Некоторые исследователи могут прийти к заключению, что удаление АНТ1НЕ1)Т оправдано, так как это значение действительно слишком мало. Тогда переходим к шагу 7, на нотором будет рассматриваться включение С()ТА1Р и АМТ1ЫЕ11Т. Как только обнаруживается, что ни одна из этих переменных не имеет достаточно высокого значения статистики Р-включения, процесс отбора будет остановлен и в дальнейшем дискриминантном анализе и классификации будут использоваться другие четыре переменные.
Этот пример специально построен так, чтобы в конечном итоге были употреблены все переменные, поскольку реальное исследование Бардес также включало все шесть переменных. В действительности у нее были причины применять все переменные, поэтому она совсем не пользовалась процедурой последовательного отбора. Если кто-то собирастся работать со всеми переменными, то вряд ли применение последовательного анализа принесет ему пользу. Разумно использовать эту методику для определения переменных, которые надо исключить из-за малого вклада в процесс различения. На оонове данных табл. 13 можно даже утверждать, что отбор переменных должен быть оставлен на шаге 2, поскольку ни одно из значений Р-статистики не является значимым на шаге 3, Поэтому после шага 2 можно перейти к классификации.
Если классифицировать только по двум переменным (СБТАЫАМ и АИТ1ИЕ()Т), ошибок будет столько же или меньше, чем при классификации по всем шести переменным. Это дает ~нам право 129 отбросить остальные четыре. В некоторых случаях использовааие ббльшего числа переменных приводит к ухудшению классификации. Цель последовательного отбора — найти более экономичное подмножество, которое обладало бы такими же (если не лучшими) дискриминантными возможностями, что и полное множество. Кроме рассмотрения вопроса о возможности применения последовательного отбора, исследователь сталкивается с такими практическими проблемами, как влияние нарушений предположений, лежащих в основе дискриминантного анализа, и последствия пропуска да|иных. Заключительный раздел посвящен этим неприятным, но важным проблемам.
'ч!. ЗАКЛЮЧИТЕЛЬНЫЕ ЗАМЕЧАНИЯ НАРУШЕНИЕ ПРЕДПОЛОЖЕНИЙ Мы уже немного говорили о проблемах, возникающих, когда давленые не удовлетворяют математическим предположениям дискриминантного анализа. Труднее всего удовлетворить требованиям о нормальности многомерного распределения дискриминантных переменных и равенстве ковариационных матриц классов. Некоторые исследователи (см., в частности, (.асйепЬгцсй, 1975) показали, что днскриминантный анализ является достаточно устойчивым методом, допускающим некоторые отклонения от этих предположений. Кроме того, не все выводы дискриминантного анализа требуют их выполнения.
Предположение о нормальности многомерного распределения важно для проверки значимости, где сопоставляются статистики, вычисленные по выборочным данным, с теоретическим вероятностным распределением для этой статистики. Можно вычислить теоретическое распределение, сделав некоторые удобные математические предположения (например, такие, как требование, чтобы генеральная совокупность имела многомерное нормальное распределение). Если интересующая нас генеральная совокупность не удовлетворяет этому требованию, истинное выборочное распределение статистики будет отличаться от распределения, полученного теоретически.
Различия между этими двумя распределениями могут быть очень малыми или очень большими в зависимости от степени нарушения предположений. Лахенбрук (1975) показал, что дискриминантный анализ не очень чувствителен к небольшим нарушениям предположения о нормальности. Это приводит лишь к некоторым потерям в эффективности и точности, Предположение о нормальности играет важную роль в классификации, основанной на использовании вероятности принадлежности к классу, Эти вероятности вычисляются исходя из распределения хи-квадрат, что оправдано лишь, когда дискриминантные переменные имеют многомерное нормальное распределение. Если зто предположение не выполняется, вычисленные вероятности будут неточными.
Может оказаться, ~например, что вероятности 130 для некоторых групп будут преувеличены, в то время как вероятности для других групп — недооценены. Следовательно, эта процедура не будет оптимальной в смысле уменьшения числа неправильных классификаций. Если ковариацнонные матрицы классов не равны, мы стараемся уста~повить искажения дискрнми~нантных функций и уравнений классификации. Один источник ошибок связан с вычислением ввутригрупповой коварнационной матрицы (или других, имеющих отношение к матрице («').
Внутригрупповая ковариацион~ная матрица служит оценкой общей ковариационной матрицы классов для генеральной совокупности, образованной выборками из нескольких классов. Если матрицы для всей генеральной совокупности не равны, матрицу )«' все еще можно вычислить, но она уже не будет способствовать упрощению различных формул. Следовательно, канонические дискриминантные функции не дадут макси. мального разделения классов н вероятности принадлежности к классам будут искажены. Хотя, кажется, нет никаких процедур улучшения свойств канонических дискриминантных функций в некоторых цитированных выше работах предлагается использовать ковариацнонные матрицы отдельных классов для вычисления вероятности принадлежности к классу (так называемая «квадратичная дискриминация»). Дискримииантный анализ может быть проведен и когда предположения о нормальности многомерного распределения и раве~нстве ковариационных матриц классов не выполняются.
Задача при этом состоит в интерпретации результатов. Что они означают? И какое количество ошибок считается допустимым? В некоторых учебниках предлагаются возможные процедуры, но они приводят лишь к минимальным улучшениям, поскольку исходные отклонения не были большими. Конечно, нам трудно узнать, сколько ошибок было сделано в связи с конкретными нарушениями предположений. Однако здесь могут оказаться полезными некоторые статистики, не зависящие от этих предположений. Прн определении значимости и минимального числа канонических днскрнминантных функций мы не полагаемся на Л-статистику Уилкса илн связанный с ней тест значимости, основанный на хи-квадрат распределении.
Вместо этого мы можем рассмотреть каноническую корреляцию и относительное процентное содержание, как было показано в равд. 11. Если любая из данных величин окажется небольшой, функция будет для нас малоинтересной, даже если она — статистически значима.
Тесты значимости представляют наибольший интерес в случае малых выборок. Таким образом, имея с ними дело, мы должны с ббльшнм вниманием отнестись к удовлетворению предположений. Однако в случае больших ныборок мы может обойтись без тестов значимости или использовать нх «консервативно», когда наши данные нарушают предположения. При классификации точность предсказания наиболее важна для объектов, расположенных вблизи границы. Если некоторый 131 объект с вероятностью 0,90 принадлежит к классу 1 и только с вероятностью 0,10 — к классу 2, то нам иечего беспокоиться о небольших неточностях, возникающих из-за нарушения предположений.
Хотя определенная вероятность принадлежности к классу может быть неверной, наше решение приписать объект к классу 1 будет правильным, если ошибка в вычислении вероятностей не будет большой. С другой стороны, если объект имеет вероятности 0,51 для класса 1 и 0,49 для класса 2, мы должны быть очень осторожны, принимая решение. Здесь небольшая ошибка из-за нарушения предположений может привести к неправильной классификации. Если исследователя интересует математическая модель, с помощью которой можно точно предсказывать принадлежность к классу или которая служит разумным описанием реального мира, то лучше всего воспользоваться процентом правильных классификаций.
Если этот процент высок, то нарушение предположений не нанесет большого вреда. Однако, если процент правильных классификаций низок, мы не можем сказать, является ли причиной этого нарушение предположений или использование плохих дискриминантных переменных. ДРУГИЕ ПРОБЛЕМЫ Несколько других проблем, которые выходят за рамки этой работы, могут доставить много неприятностей пользователю днскриминантного анализа. К ним относятся: большое количество отсутствующих данных, сильно коррелнрованные переменные, переменная с нулевым стандартным отклонением внутри одного или нескольких классов, большие различия в размерах классов и выбросы, Хотя здесь эти проблемы не обсуждаются, читатель должен сознавать, что такие «патология» могут оказать отрицательное влияние на точность и интерпретацию результатов дискримииантного анализа.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
