И.С. Енюков, С.Б. Королёва - Факторный дискриминантный и кластерный анализ (1119914), страница 32
Текст из файла (страница 32)
Можно вычислить теоретическое распределение, сделав некоторые удобные математические предположения (например, такие, как требование, чтобы генеральная совокупность имела многомерное нормальное распределение). Если интересующая нас генеральная совокупность не удовлетворяет этому требованию, истинное выборочное распределение статистики будет отличаться от распределения, полученного теоретически. Различия между этими двумя распределениями могут быть очень малыми или очень большими в зависимости от степени нарушения предположений. Лахенбрук (1975) показал, что дискриминантный анализ не очень чувствителен к небольшим нарушениям предположения о нормальности.
Это приводит лишь к некоторым потерям в эффективности и точности, Предположение о нормальности играет важную роль в классификации, основанной на использовании вероятности принадлежности к классу, Эти вероятности вычисляются исходя из распределения хи-квадрат, что оправдано лишь, когда дискриминантные переменные имеют многомерное нормальное распределение. Если зто предположение не выполняется, вычисленные вероятности будут неточными. Может оказаться, ~например, что вероятности 130 для некоторых групп будут преувеличены, в то время как вероятности для других групп — недооценены.
Следовательно, эта процедура не будет оптимальной в смысле уменьшения числа неправильных классификаций. Если ковариацнонные матрицы классов не равны, мы стараемся уста~повить искажения дискрнми~нантных функций и уравнений классификации. Один источник ошибок связан с вычислением ввутригрупповой коварнационной матрицы (или других, имеющих отношение к матрице («'). Внутригрупповая ковариацион~ная матрица служит оценкой общей ковариационной матрицы классов для генеральной совокупности, образованной выборками из нескольких классов.
Если матрицы для всей генеральной совокупности не равны, матрицу )«' все еще можно вычислить, но она уже не будет способствовать упрощению различных формул. Следовательно, канонические дискриминантные функции не дадут макси. мального разделения классов н вероятности принадлежности к классам будут искажены. Хотя, кажется, нет никаких процедур улучшения свойств канонических дискриминантных функций в некоторых цитированных выше работах предлагается использовать ковариацнонные матрицы отдельных классов для вычисления вероятности принадлежности к классу (так называемая «квадратичная дискриминация»).
Дискримииантный анализ может быть проведен и когда предположения о нормальности многомерного распределения и раве~нстве ковариационных матриц классов не выполняются. Задача при этом состоит в интерпретации результатов. Что они означают? И какое количество ошибок считается допустимым? В некоторых учебниках предлагаются возможные процедуры, но они приводят лишь к минимальным улучшениям, поскольку исходные отклонения не были большими. Конечно, нам трудно узнать, сколько ошибок было сделано в связи с конкретными нарушениями предположений. Однако здесь могут оказаться полезными некоторые статистики, не зависящие от этих предположений. Прн определении значимости и минимального числа канонических днскрнминантных функций мы не полагаемся на Л-статистику Уилкса илн связанный с ней тест значимости, основанный на хи-квадрат распределении.
Вместо этого мы можем рассмотреть каноническую корреляцию и относительное процентное содержание, как было показано в равд. 11. Если любая из данных величин окажется небольшой, функция будет для нас малоинтересной, даже если она — статистически значима. Тесты значимости представляют наибольший интерес в случае малых выборок. Таким образом, имея с ними дело, мы должны с ббльшнм вниманием отнестись к удовлетворению предположений.
Однако в случае больших ныборок мы может обойтись без тестов значимости или использовать нх «консервативно», когда наши данные нарушают предположения. При классификации точность предсказания наиболее важна для объектов, расположенных вблизи границы. Если некоторый 131 объект с вероятностью 0,90 принадлежит к классу 1 и только с вероятностью 0,10 — к классу 2, то нам иечего беспокоиться о небольших неточностях, возникающих из-за нарушения предположений. Хотя определенная вероятность принадлежности к классу может быть неверной, наше решение приписать объект к классу 1 будет правильным, если ошибка в вычислении вероятностей не будет большой.
С другой стороны, если объект имеет вероятности 0,51 для класса 1 и 0,49 для класса 2, мы должны быть очень осторожны, принимая решение. Здесь небольшая ошибка из-за нарушения предположений может привести к неправильной классификации. Если исследователя интересует математическая модель, с помощью которой можно точно предсказывать принадлежность к классу или которая служит разумным описанием реального мира, то лучше всего воспользоваться процентом правильных классификаций. Если этот процент высок, то нарушение предположений не нанесет большого вреда.
Однако, если процент правильных классификаций низок, мы не можем сказать, является ли причиной этого нарушение предположений или использование плохих дискриминантных переменных. ДРУГИЕ ПРОБЛЕМЫ Несколько других проблем, которые выходят за рамки этой работы, могут доставить много неприятностей пользователю днскриминантного анализа.
К ним относятся: большое количество отсутствующих данных, сильно коррелнрованные переменные, переменная с нулевым стандартным отклонением внутри одного или нескольких классов, большие различия в размерах классов и выбросы, Хотя здесь эти проблемы не обсуждаются, читатель должен сознавать, что такие «патология» могут оказать отрицательное влияние на точность и интерпретацию результатов дискримииантного анализа. ЗАКЛЮЧЕНИЕ Хотя в этом разделе внимание сфокусировано на некоторых проблемах и трудностях, возникающих при использовании дяскриминантного анализа, не следует их бояться. В практических исследованиях мы часто сталкиваемся с данными, которые не согласуются с предположениями, лежащими в основе статистических методов.
Зная требования, предъявляемые моделью, можно определить, когда оии были нарушены, когда следует применить корректирующие меры и когда методика не соответствует целям данного исследования. Эта работа была задумана как введение в дискриминантный анализ я включает ряд статистических процедур, предназначенных, во-первых, для изучения многомерных различий между двумя и более классами (что мы назвали «интерпретацией») и, во- 132 вторых, для использования нескольких переменных для предсказания принадлежности объекта к некоторому классу («классификация»). Математическая модель обычно предполагает, что переменные измеряются по интервальной шкале н имеют многомерное нормальное распределение.
Мы ограничились обсуждением линейного дискриминантного анализа, который обычно требует равенства ковариационных матриц классов. Имея ато в виду, исследователь может широко использовать подпрограммы дискримннантного анализа в стандартных пакетах компьютерных программ, таких, как БРВБ, ВМ() и ЬАЬ.
Читатель, желающий больше узнать обо всех особенностях дискримннантного анализа, может обратитьси к работам, приведенным в списке литературы. ПРИМЕЧАНИЯ 1. В работах (3(ечепз, 1946; 1951) даны определения четырех шхал измерений, принятых в статистике: наименований, порядковая, интервальная и отношений. Для интервальных измерений характерно то, что истинная разность последовательных единиц шкалы равна разности двух любых последовательных целых единиц этой шкалы.
Вообше говоря, измерения по интервальной шкале соответствуют непрерывному случаю, но зто ограничение совершенно не обизательно. В дискриминантном анализе требуется вычисление средних вариаций и ковариаций, поэтому измерения должны производитьсн на интер- валином уровне. Дальнейшие сведения о шкалак измерений можно найти в работах (В!а!ос)г, 1979; 1ч1е, 1975] н в любом вводном статистическом курсе. 2. Коварнация двух переменных является мерой их совместного изменения. Коварнация аналогична коэффициенту корреляции, но без приведения к ставдарткзованному виду прн различных масштабах в измеряемых переменных. Соответственно ковариация может принимать любые значения и не ограничена константамн — 1 снизу и + 1 сверху.
Часто коварнацин представляются в аиде матриц. Каждой переменной в матрице соответствует одна строка и одын столбец. На пересечении данной строки н данного столбца находится ковариацпя двух переменных. На главной диагонали находятся вариации. Если данные разделены на группы, мож. но вычислить ковариацнонпую матрицу для каждой группы в отдельности, используя наблюденяя, принадлежащие только данной группе. Для того чтобы две ковариационные матрицы были равны, должны быть равны все соответствуюшие нм элементы. Понятна вариации и ковариации даются во всех вводных статистических курсах, например (В!а!оси, 1979).
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
