И.С. Енюков, С.Б. Королёва - Факторный дискриминантный и кластерный анализ (1119914), страница 31
Текст из файла (страница 31)
Переменная должна пройти проверку толерантности и Р-включения, прежде чем она будет рассмотрена в соответствии с критерием отбора. Статистика Р-удаления Статистика Р-удаления также является частной Р-статистикой с числом степеней свободы, равным (д — 1) и (а — р' — я). Однако она оценивает значимость ухудшения различения после удаления переменной нз списка уже отобранных переменных. Эта процедура проводится в начале каждого шага, чтобы проверить, имеется лн какая-нибудь переменная, уже не вносящая достаточно большого вклада в различение, поскольку отобранные позже переменные дублируют ее вклад.
На заключительном шаге статистика Р-удаления может быть использована для ра|нжирования днскриминантных возможностей отобранных переменных. Переменная с наибольшим значением статистики Р-удаления дает наибольший вклад в различение, достигнутое благодаря другим переменным. Переменная, имеющая вторую по величине статистику Р-удаления, является второй по значимости и т. д. Это ранжирование не обязательно совпадает с тем, которое можно было бы получить с помощью одномерной Р-статистики, потому что она измеряет полную дискриминанъную способность переменной без учета дублирования ее другими переменными.
ПРИМЕР ИСПОЛЬЗОВАНИЯ ПРОПЕДУРЫ ПОСЛЕДОВАТЕЛЬНОГО ОТБОРА Для того чтобы понять, как процедура последовательного отбора работает на практике, применим эту методику к данным Бардес о голосовании в сенате. Когда квадрат расстояния Махаланобиса используется в качестве критерия отбора, мы получаем результаты, приведенные в табл.
13. На первом шаге толерантность всегда равна 1,О, потому что перемененные еще не были отобраны. По той же причине здесь статистика Р-включения соответствует одномерной Р-статистике. В четвертом столбце даны значения В', среди которых мы находим наибольшее. Это значение, равное 0,492, получено для переменной СТ)ТАЗ!АМ при сравнении групп 1 и 4. Заметьте, что самая тесная пара (пара самых близких классов) для перемен~ной С()ТА$1АХ не является таковой ни для какой другой переменной (для четырех групп должны быть рассмотрены шесть пар). Наш выбор статистики квадрата расстояния в качестве критерия отбора основан на предположении, что мы хотим уделить больше Таблица 13 Статистики включения югя последователького отбора тоиерапт- ность Статистика г.акаюеепая Кааарат рассеивая Группы Переыеакые Шаг 1 С1!ТА!В КЕБТй1СТ СВТА81АХ М1ХЕВ АХТ1У1!60 АХТ1ХЕ!7Т Шаг 2 СВТА1В КЕБТЙ1СТ М1ХЕВ АХТ1УУ60 АХТ1 Х Е11Т Шаг 3 С!!ТА!В ЕЕЗТЯ1СТ М1ХЕВ АХТ171!60 Шаг 4 С!!ТА!В М1ХЕВ АХТ1У1760 Шаг 5 С!!ТА!В М1ХЕВ Шаг 6 С!!ТА!В 1, 000 1,000 1,000 1,000 !, 000 1,000 0,018 0,004 0,4йит О, 038 0,019 0,194 2,955 0,943 !1,915 2,628 4,168 Зи4 1 ИЗ 1и4 Зи4 2 из Зи4 0,521 0.684 0,305 0,851 О,ЗоЗ 0,748 3,4!8 7,98! 2,898 8,502 О, 820 0,495 3,0!4 3,370 3,801' 1 и 4 1 и 4 !и4 Зи4 1и4 0,507 0,446 0,282 0,546 4,590 5,405т 5, 094 4,730 0,700 1,228 1,496 1,376 1и4 1и4 1и4 1 и 4 0,486 0,282 0,488 0,701 1,378 1,887 5,823 6„743 7,519' 1и4 1и4 1и4 1,234 1,236 0,407 0,282 7,523 8,186т !и4 1и4 0,330 9,043' 0,672 1 и 4 ' Обозначает перемеииую, отобраииую иа атом шаге в соответствии с квадратом расстояиия Махалаиобиса между двумя самыми близкими группами.
внимания влиянию рассматриваемой переменной на разделение ближайших групп. Смысл использования здесь этого критерия состоит лишь в том, чтобы проиллюстрировать работу последовательного отбора. В этом примере переменная С11ТАЯАтч является очевидным выбором, поскольку для нее значения и квадрата расстояния, и статистики Р-включения, намного больше, чем для любой другой перемен~ной. Стоит отметить, однако, что на этом шаге квадрат расстояния для переменной АХТ1ХЕ11Т более чем в 10 раз превосходит соответствующее значение для СУТА!Р, в то время как значения статистики Р-включения для них почти равны.
На втором шаге процедуры снова вычисляются все необходи- мые статистики с учетом отобранной переменной С[ЗТАЫАИ. Теперь толерантность почти наверное станет меньше единицы, поскольку она равна единице минус квадрат корреляции между С(1ТАЫАМ и другой переменной. Статистика г"-включения равна частной Р-статистике, отвечающей увеличению дискрими~нантных возможностей за счет использования соответствующей переменной после того, как переменная С1)ТАЫАб) реализовала все свои возможности. А квадрат расстояния равен наименьшей из величин, полученных для всех шести пар групп с помощью С11ТАЫАМ и данной переменной. Здесь у АХТ1НЕ11Т наибольшее нз данных наименьших значений.
На шаге 3 процесс повторяется. Поскольку в качестве критерия выбора («включения») мы используем квадраты расстояний, следующей «включается» переменная КЕЗТИСТ. Однако если в качестве критерия отбора мы применяем Л-статистику Уилиса, косвенно измеряемую статистикой Р-включения, то мы выбрали бы М1ХЕР. Расхождение вызвано тем, что каждый критерий придает особое значение собственному аспекту процесса различения. Остающиеся шаги проводятся таким же образом до тех пор, пока не будут включены все переменные.
На шаге 6 СИТА1Р имеет настолько малое значение статистики г-включения, что порой лучше отказаться от ее анализа. К тому же на шаге 6 значение статистики г-удаления для АЫТ1б)Е()Т, падает до величины 0,996. Некоторые исследователи могут прийти к заключению, что удаление АНТ1НЕ1)Т оправдано, так как это значение действительно слишком мало. Тогда переходим к шагу 7, на нотором будет рассматриваться включение С()ТА1Р и АМТ1ЫЕ11Т. Как только обнаруживается, что ни одна из этих переменных не имеет достаточно высокого значения статистики Р-включения, процесс отбора будет остановлен и в дальнейшем дискриминантном анализе и классификации будут использоваться другие четыре переменные. Этот пример специально построен так, чтобы в конечном итоге были употреблены все переменные, поскольку реальное исследование Бардес также включало все шесть переменных.
В действительности у нее были причины применять все переменные, поэтому она совсем не пользовалась процедурой последовательного отбора. Если кто-то собирастся работать со всеми переменными, то вряд ли применение последовательного анализа принесет ему пользу. Разумно использовать эту методику для определения переменных, которые надо исключить из-за малого вклада в процесс различения. На оонове данных табл. 13 можно даже утверждать, что отбор переменных должен быть оставлен на шаге 2, поскольку ни одно из значений Р-статистики не является значимым на шаге 3, Поэтому после шага 2 можно перейти к классификации.
Если классифицировать только по двум переменным (СБТАЫАМ и АИТ1ИЕ()Т), ошибок будет столько же или меньше, чем при классификации по всем шести переменным. Это дает ~нам право 129 отбросить остальные четыре. В некоторых случаях использовааие ббльшего числа переменных приводит к ухудшению классификации. Цель последовательного отбора — найти более экономичное подмножество, которое обладало бы такими же (если не лучшими) дискриминантными возможностями, что и полное множество. Кроме рассмотрения вопроса о возможности применения последовательного отбора, исследователь сталкивается с такими практическими проблемами, как влияние нарушений предположений, лежащих в основе дискриминантного анализа, и последствия пропуска да|иных. Заключительный раздел посвящен этим неприятным, но важным проблемам.
'ч!. ЗАКЛЮЧИТЕЛЬНЫЕ ЗАМЕЧАНИЯ НАРУШЕНИЕ ПРЕДПОЛОЖЕНИЙ Мы уже немного говорили о проблемах, возникающих, когда давленые не удовлетворяют математическим предположениям дискриминантного анализа. Труднее всего удовлетворить требованиям о нормальности многомерного распределения дискриминантных переменных и равенстве ковариационных матриц классов.
Некоторые исследователи (см., в частности, (.асйепЬгцсй, 1975) показали, что днскриминантный анализ является достаточно устойчивым методом, допускающим некоторые отклонения от этих предположений. Кроме того, не все выводы дискриминантного анализа требуют их выполнения. Предположение о нормальности многомерного распределения важно для проверки значимости, где сопоставляются статистики, вычисленные по выборочным данным, с теоретическим вероятностным распределением для этой статистики.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
