Ким_ Мьюллер и др - Факторный_ дискриминантный и кластерный анализы (1185345), страница 25
Текст из файла (страница 25)
Так обычно делают потому, что величина собственного значения связана с днскриминирующими возможностями этой функции: чем больше собственное значение, тем лучше различение, Располагая нх в порядке убывания, мы знаем, что первая функция обладает наи- Табанца 9 большимн возможностями: Собственные значения, вторая функция обеспечивает соотаетствуюацне фуннцнн, максимальное различение пос- в меры значнмостн отиоситеаеиое ироцеитное соаержа- вне Каиоии- ческаа «орр'иа.
цна Кеиечиаи анскрииниантаи Отикции Соестаениае ана- чеиие О, 952 0,782 0,225 85,54 13,93 0,47 9,65976 1,57922 0,05357 105 ле первой функции; третья дает наилучшее дополнительное различение после первой и второй н т. д. Все функции не обязательно дают идеальное различение, но мы, по крайней мере, знаем их порядок значимости. Относительное процентное содержание Фактические числа, представляющие собственные значения, ни о чем нам не говорят.
Их нельзя интерпретировать непосредственно. Если имеется более одной функции, желательно уметь сравнивать их дискримннантные возможности. Так, например, число 9,65976 для собственного значения, соответствующего первой функции, больше собственного значения, соответствующего второй, более чем в шесть раз. В случае когда первое собственное значение в 180 раз превосходит третье, то это доказывает, что третья функция обладает очень незначительными возможностями.
Чтобы облегчить такое сравнение, мы припишем собственным значениям относительное процентное содержание. Для этого сначала суммируем все собственные значения, чтобы установить размер общих возможностей различения. Затем разделим каждое собственное значение иа общую сумму.
Так, в приведенной системе уравнений первая функция содержит 85,549о общих дискриминантных возможностей. Третья функция в этом примере иллюстрирует тот случай, когда она оказывается настолько мало значимой, что, по-видимому, ею можно пренебречь. К сожалению, нет правила, которое помогло бы определить, как велико должно быть относительное процентное содержание, чтобы функция представляла для исследователя интерес. Поэтому при дальнейшем рассмотрении может оказаться, что и функция 2 не удовлетворяет нас.
Даже функция 1 иногда ие имеет реальной значимости (согласно критерию, который рассматривается ниже), хотя она наиболее мощная". Относительное процентное содержание только показывает что функция настолько слабее по сравнению с другими, что вряд ли она добавит что-либо к определению различий между группами. Каноническая корреляция Другой способ оценки реальной полезности дискриминантной функции можно получить, рассматривая коэффициент канонической корреляции, который является мерой связи (степени зависимости между группами н дискриминантной функцией).
Нулевое значение говорит об отсутствии связи, а большие числа (всегда положительные) означают большую степень зависимости (максимальное значение равно 1,О). Каноническая корреляция (обозначаем ее гч) связана с собственным значением следующей форм лой: где 1 — номер соответствующей дискриминантной функции. Понятие канонической корреляции взято из так называемого канонического корреляционного анализа (см. 1 ечте, 1977).
Ка- ионическая корреляция используется при изучении связей между двумя различными множествами переменных, измеренных по интервальной шкале. Анализ заключается в формировании д пар линейных комбинаций, где д — число переменных в меньшем множестве. Линейные комбинации в каждой паре (по одной из каждого множества) подбираются так, чтобы получить максимальную корреляцию между ними.
Первая пара имеет самую высокую степень зависимости; вторая пара — следующую по величине степень зависимости при условии, что ее составляющие не коррелируют с первой парой и т. д. Канонический коэффициент корреляции, конечно, является мерой зависимости и идентичен смешанному моменту корреляции Пирсона между двумя линейными комбинациями в паре. С помощью простого математического «фокуса» мы можем превратить дискримннаитный анализ (по крайней мере, обсуж.
даемую часть его) в канонический корреляционный анализ. Очевидно, дискриминантные переменные образуют одно нз «множеств». Тогда, если мы представим классы с помощью (л — 1) дихотомических переменных (известных так же, как «бинарные переменные» или «фиктивные переменные»), то получим другое «множество». Из них мы образуем д пар линейных комбинаций.
В этом случае канонические коэффициенты корреляции можно интерпретировать в соответствии с приведенным выше определением как меру зависимости двух множеств переменных, найденную с помощью линейных комбинаций. Такой подход дает повод некоторым статистикам называть каноническую дискриминаитную функцию «канонической переменной»'«.
Другая интерпретация канонического коэффициента корреляции заимствована из дисперсионного анализа (1чегзеп и Хогро1Ь„ 1976„30 — 32), где он известен под именами «эта» (и) и «корреляционное отношение». Здесь классы рассматриваются как независимые переменные, которые влияют на величину дискриминантной функции, являющейся зависимой переменной. Коэффициент ц измеряет степень различия средних значений дискрнминантной функции для разных групп.
Можно облегчить интуитив. ное понимание коэффициента «1, если возвести его в квадрат. Коэффициент »1» (т. е. каноническая корреляция в квадрате) является долей дисперсии дискриминантной функции, которая объясняется разбиением на классы. Независимо от того„ какой подход выбран, каноническая корреляция помогает получить представление о реальной полезнос. ти дискриминантной функции. Большая величина коэффициента, как например, у функции 1 в табл.
9, указывает на сильную зависимость между классами и первой дискримннантной функцией. С другой стороны, коэффициент для функции 3 имеет довольно малую величину, которая говорит о слабой связи, что и предсказывалось относительным процентным содержанием этой функции". ~от Анализируя данные табл. 9, не следует делать поспешного заключения о том, что первая дискрнминантная функция будет всегда иметь большую каноническую корреляцию. Даже если функция 1 всегда «наиболее» значимая по сравнению с другимн (судя по.величнне ее относительного процентного содержания), у нее может быть лишь слабая связь с классами (нзмеренная величиной канонической корреляции). По этой причине каноническая корреляция для нас более полезна, потому что она показывает насколько удачно выбрана дискрнминантная функция.
Если классы не очень хорошо различаются по исследуемым переменным, то все корреляции будут иметь малые значения, поскольку нельзя найти различия там, где их нет. Оценивая н относительное процентное содержание, н канонические корреляции, можно довольно точно узнать, как много днскриминантных функций имеют реальный смысл, и какую пользу они принесут при определении различий между группами. Измерение остаточной дискриминации с помощью Л.статистики Уилкса До сих пор нас интересовало, сколько дискриминантных функций надо брать с точки зрения математических ограничений н нх действительной значимости.
В наших рассуждениях не учитывались выборочные свойства данных. Они равно справедливы как для генеральных данных (данных о генеральной совокупности)", так и для различных видов отбора (выборок). Когда мы анализируем генеральные да~нные, то ответы на вопросы о числе функций и их значимости даются с помощью относительного процентного содержания и канонической корреляции. В пределах ошибок измерения эти статистики полностью описывают различия между группами н дискриминантными функциями. Когда же данные берутся из выборки (в противоположность данным, представляющим всю генеральную совокупность), то возникают дополнительные вопросы.
Какова вероятность того, что данные о выборке покажут значительную степень различия, тогда как в генеральной совокупности различий между группами нет? Это вопрос статистической значимости, возникающей только в том случае, когда мы имеем дело с выборками'э.
Действительно, ответить на вопрос о статистической значимости можно, если выборочный процесс имеет вероятностную основу. Для многих статистик тесты значимости применимы лишь к простым случайным выборкам ввиду сложности получения тестов для других видов выборок. Таким образом, мы будем рассматривать лишь простые случайные выборки. Прн использовании каких-либо других процедур отбора, лучше всего к интерпретации тестов подходить консервативно н уделять больше внимания реальной значимости результатов, Чаще всего статистическая значимость дискримпнантных функций проверяется косвенным путем.
Вместо проверки самой функции рассматривается остаточная дискриминантная способность системы до определения этой функции. Под «остаточной дискримина~нтной способностью» мы понимаем способность переменных различать классы, если исключить информацию, полученную с помощью ранее вычисленных функций. Если остаточная дискриминация очень мала, то нет смысла продолжать вычисление очередных функций, даже если математически это возможно. Чтобы лучше усвоить это понятие, рассмотрим «Л-статистику Уилкса», используемую для измерения дискриминации (так называемую (7- статистику).
Л-статистика Унлкса — зто мера различий между классами по нескольким переменным (дискриминантным переменным). Хотя существует несколько способов ее вычисления, мы воспользуемся следующей формулой: ! Л= П,„, (10) 1 +к~ где й — число уже вычисленных функций, а символ П означает, что для получения окончательного результата ~необходимо перемножить все члены. Проиллюстрнруем применение символа П. Сначала вычислим величину Л-статистикн Уилкса, для данных о голосовании в сенате до вычисления всех дискрнмннантных функций.
Предположим, что й=0. Из табл. 9 мы получаем: 1 9,65916 ~ 1+ Д922 ' ~.ООИ51 ). ' ). = (0,09381) (0,38771) (0,94915) =0,03452. Поскольку Л является «обратной» мерой, этот результат означает, что шесть используемых переменных чрезвычайно эффективно участвуют в различении классов.
Величины Л, близкие к нулю, говорят о высоком различении (т. е. центроиды классов хорошо разделены и сильно отличаются друг от друга по отношению к степени разброса внутри классон). Увеличение Л до ее максимального значения, равного 1, приводит к постепенному ухудшению различения, так как центронды групп совпадают (нет групповых различий).
Очевидно, что позиции четырех групп сенаторов сильно различаются по выбранным переменным, так что имеет смысл найти дискриминантную функцию. После получения первой (и самой значимой) функции становится доступным большое количество информации, необходимой для различения групп. Теперь попытаемся ответить на вопрос; достаточен ли уровень остаточной дискриминантной способности для определения второй фу~нкцнн7 Из табл. 10 видно, что Л-статистика Уилкса равна 0,3680 (для 1=1), т. е. все еще мала. Вычисление второй функции уменьшает количество оставшейся информации, и величина Л становится равной 0,9492 (для й=2). Это значение (довольно высокое) говорит о том, что оставшуюся информацию о различиях классов уже не стоит искать.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
