И.С. Енюков, С.Б. Королёва - Факторный дискриминантный и кластерный анализ (1119914), страница 26
Текст из файла (страница 26)
Из них мы образуем д пар линейных комбинаций. В этом случае канонические коэффициенты корреляции можно интерпретировать в соответствии с приведенным выше определением как меру зависимости двух множеств переменных, найденную с помощью линейных комбинаций. Такой подход дает повод некоторым статистикам называть каноническую дискриминаитную функцию «канонической переменной»'«. Другая интерпретация канонического коэффициента корреляции заимствована из дисперсионного анализа (1чегзеп и Хогро1Ь„ 1976„30 — 32), где он известен под именами «эта» (и) и «корреляционное отношение».
Здесь классы рассматриваются как независимые переменные, которые влияют на величину дискриминантной функции, являющейся зависимой переменной. Коэффициент ц измеряет степень различия средних значений дискрнминантной функции для разных групп. Можно облегчить интуитив. ное понимание коэффициента «1, если возвести его в квадрат.
Коэффициент »1» (т. е. каноническая корреляция в квадрате) является долей дисперсии дискриминантной функции, которая объясняется разбиением на классы. Независимо от того„ какой подход выбран, каноническая корреляция помогает получить представление о реальной полезнос. ти дискриминантной функции.
Большая величина коэффициента, как например, у функции 1 в табл. 9, указывает на сильную зависимость между классами и первой дискримннантной функцией. С другой стороны, коэффициент для функции 3 имеет довольно малую величину, которая говорит о слабой связи, что и предсказывалось относительным процентным содержанием этой функции". ~от Анализируя данные табл. 9, не следует делать поспешного заключения о том, что первая дискрнминантная функция будет всегда иметь большую каноническую корреляцию. Даже если функция 1 всегда «наиболее» значимая по сравнению с другимн (судя по.величнне ее относительного процентного содержания), у нее может быть лишь слабая связь с классами (нзмеренная величиной канонической корреляции).
По этой причине каноническая корреляция для нас более полезна, потому что она показывает насколько удачно выбрана дискрнминантная функция. Если классы не очень хорошо различаются по исследуемым переменным, то все корреляции будут иметь малые значения, поскольку нельзя найти различия там, где их нет. Оценивая н относительное процентное содержание, н канонические корреляции, можно довольно точно узнать, как много днскриминантных функций имеют реальный смысл, и какую пользу они принесут при определении различий между группами.
Измерение остаточной дискриминации с помощью Л.статистики Уилкса До сих пор нас интересовало, сколько дискриминантных функций надо брать с точки зрения математических ограничений н нх действительной значимости. В наших рассуждениях не учитывались выборочные свойства данных. Они равно справедливы как для генеральных данных (данных о генеральной совокупности)", так и для различных видов отбора (выборок). Когда мы анализируем генеральные да~нные, то ответы на вопросы о числе функций и их значимости даются с помощью относительного процентного содержания и канонической корреляции.
В пределах ошибок измерения эти статистики полностью описывают различия между группами н дискриминантными функциями. Когда же данные берутся из выборки (в противоположность данным, представляющим всю генеральную совокупность), то возникают дополнительные вопросы. Какова вероятность того, что данные о выборке покажут значительную степень различия, тогда как в генеральной совокупности различий между группами нет? Это вопрос статистической значимости, возникающей только в том случае, когда мы имеем дело с выборками'э. Действительно, ответить на вопрос о статистической значимости можно, если выборочный процесс имеет вероятностную основу.
Для многих статистик тесты значимости применимы лишь к простым случайным выборкам ввиду сложности получения тестов для других видов выборок. Таким образом, мы будем рассматривать лишь простые случайные выборки. Прн использовании каких-либо других процедур отбора, лучше всего к интерпретации тестов подходить консервативно н уделять больше внимания реальной значимости результатов, Чаще всего статистическая значимость дискримпнантных функций проверяется косвенным путем. Вместо проверки самой функции рассматривается остаточная дискриминантная способность системы до определения этой функции.
Под «остаточной дискримина~нтной способностью» мы понимаем способность переменных различать классы, если исключить информацию, полученную с помощью ранее вычисленных функций. Если остаточная дискриминация очень мала, то нет смысла продолжать вычисление очередных функций, даже если математически это возможно. Чтобы лучше усвоить это понятие, рассмотрим «Л-статистику Уилкса», используемую для измерения дискриминации (так называемую (7- статистику). Л-статистика Унлкса — зто мера различий между классами по нескольким переменным (дискриминантным переменным). Хотя существует несколько способов ее вычисления, мы воспользуемся следующей формулой: ! Л= П,„, (10) 1 +к~ где й — число уже вычисленных функций, а символ П означает, что для получения окончательного результата ~необходимо перемножить все члены.
Проиллюстрнруем применение символа П. Сначала вычислим величину Л-статистикн Уилкса, для данных о голосовании в сенате до вычисления всех дискрнмннантных функций. Предположим, что й=0. Из табл. 9 мы получаем: 1 9,65916 ~ 1+ Д922 ' ~.ООИ51 ). ' ). = (0,09381) (0,38771) (0,94915) =0,03452. Поскольку Л является «обратной» мерой, этот результат означает, что шесть используемых переменных чрезвычайно эффективно участвуют в различении классов. Величины Л, близкие к нулю, говорят о высоком различении (т. е. центроиды классов хорошо разделены и сильно отличаются друг от друга по отношению к степени разброса внутри классон).
Увеличение Л до ее максимального значения, равного 1, приводит к постепенному ухудшению различения, так как центронды групп совпадают (нет групповых различий). Очевидно, что позиции четырех групп сенаторов сильно различаются по выбранным переменным, так что имеет смысл найти дискриминантную функцию.
После получения первой (и самой значимой) функции становится доступным большое количество информации, необходимой для различения групп. Теперь попытаемся ответить на вопрос; достаточен ли уровень остаточной дискриминантной способности для определения второй фу~нкцнн7 Из табл.
10 видно, что Л-статистика Уилкса равна 0,3680 (для 1=1), т. е. все еще мала. Вычисление второй функции уменьшает количество оставшейся информации, и величина Л становится равной 0,9492 (для й=2). Это значение (довольно высокое) говорит о том, что оставшуюся информацию о различиях классов уже не стоит искать.
Мы пришли к такому же выводу, когда рассматри- Табанпа 1О Остаточпап дпскрпмкваптпап способность и проаерка апачамостп вали относительное процентное содержание и канонические корреляции. Итак, остающиеся дискриминантные функции (в нашем случае только одна) либо не являются значимыми, либо онн статистически недостоверны. Проверка значимости с помощью Л-статнстикн Уилкса Мы рассматривалн Л-статистику Уилкса как еще одну меру зависимости, но то, что она принимает значения, обратные привычным, и оценивает остаточную днскриминантную способность, делает ее менее полезной, чем относительное процентное содержание н каноническая корреляция. Однако Л-статистика может быть превращена в тест значимости. Таким образом, мы будем использовать ее скорее как вспомогательную статистику, а не как искомый конечный продукт. На основе Л-статистики Уилкса можно получить тест значимости, аппроксимируя распределение некоторой функции от нее либо распределением хи-квадрат (дт), либо Р-распределеннемте.
В дальнейшем можно пользоваться стандартными таблицами для этих распределений, чтобы определить уровень значимости, анекоторые компьютерные программы позволяют распечатать его точные значения. Если воспользоваться формулой и+а'1 Х =- ~'-( —,) -1~ 1.Л,, (Н) то полученное распределение н будет хи-квадрат распределением с (р — А)(д — л — 1) степенямн свободы. В табл.
1О приведены значения статистики хи-квадрат для данных примера о голосовании". Как мы и предвидели, между позициями групп есть значимые различия еще до вычисления какой- либо нз дискриминантных функций (й=0). Уровень значимости 0,001 показывает, что если в действительности между центроидами нет различий, то такое нлн большее значение статистики хиквадрат мы получим только в одной из тысячи выборок (имеются в виду независимые, простые случайные выборки). Отбрасывая это невероятное событие, мы можем уверенно считать, что результаты получены нз генеральной совокупности с различиями между 11О группами.