Айвазян С.А., Бухшгабер В.М., Енюков И.С., Мешалкин Л.Д. - Прикладная статистика (1027378), страница 60
Текст из файла (страница 60)
Чем больше среди групп 6, кластеров, тем более успешным можно считать разбиение. Еще болееполезным является понятие «сгущение». Группа объектов 6, называется сгущением, если максимальный квадрат расстояния объектов из 6, до центра группы меньше гР = 5!а, т. е. й', мь — — шах сР (Х„Хт) ( Тг('. х,с=-а,.
В [110[ эти понятия введены в случае, когда используются не расстояния между объектами, а некоторые меры близости между ними. Агломеративиые иерархические процедуры классификации устроены так„что группировки, получаемые при разрезании дерева на любом уровне, будут кластерами в смысле, определенном выше. Для других процедур, например типа Й-средних, это не гарантируется, поэтому получение кластеров при их применении можно рассматривать как достаточно важное указание на хорошее качество разделения. 12.1,3, Визуальные средства оценки степени разнесенности и компактности выделенных групп объектов.
313 Полезным средством, позволяющим быстро оценить успешность разделения, компактность классов, наличие в них выбросов и т. д., являются одно-, двумерные отображения множества точек, с указанием их групповой принадлежности, ввиде гистограмм и диаграмм рассеивания на некоторые подходящим образом выбранные направления. В качестве таких отображений обычно используют отображения на оси главных компонент и факторные оси (количественные признаки, см. гл.13): нелинейное отображение (количественные переменные, см. гл. !3); метрическое и неметрическое шкалирование (обрабатывается матрица расстояний или удаленностей, см. гл. 16); оси, получаемые в анализе соответствий (неколичественные переменные и переменные смешанной природы, см.
з 17.2). В случае количественных, а также оцифрованных (5 17.3) переменных эффективным будет отображение на канонические дискримииаитные направления (подробнее о них см. гл. 19), которые определяются как собственные векторы обобщенной задачи иа собственные числа и векторы вида (5 — Х%) =- О, где $ — полная ковариационная матрица; % — матрица внутригруппового разброса. Для получения проекций используются векторы, соответствукхцие наиболып им собственным значениям. Заметим, что имеется не более чем ш(п (р, й — 1) ненулевых собственных чисм.
Отсюда следует, что если имеется й = 3 класса и р ) 2, то отображение на плоскость двух первых канонических направлении содержит полную информацию о различиях между классами, и их образы необходимо не должны иметь пересечения (если в процедурах классификации использовалась какая-то разновидность евклидовой метрики). При я ) 3, вообще говоря, отображение на плоскость, определяемую первыми двумя каноническими направлениями, может содержать пересекающиеся классы, их отсутствие возможно только при определенном расположении центров тяжести классов (на некоторой плоскости, на прямой или на плоской кривой в р-мерном пространстве; см., например, рис. 12.1). Но тогда можно использовать и больше канонических векторов и исследовать отображения, например, на 1-е и 3-е или 2-е и 3-е направления и т.
д. Отображение, определяемое парой канонических направлений, иа котором любой указанный класс будет отделен от других, должно существовать Из сказанного, в частности, можно сделать следующий вывод. Если на плоскости, определяемой первыми двумя ка- 314 4.ОЗВ зо ив тв -г,л 2,4 О,О4 -2.3 3,6 4,272 глв1 тв о,о -2,003 -З.а з,а 4,2 -ьв г,з в,г Рис. 12.1. Отображение реэультатон классификации иа плоскость двух первых канонических направлений а)и 3; 6) й=в 316 ионическими направлениями, разделены все группы и к) ) 3, то это означает определенную закономерность в расположении центров классов и, следовательно, уверенность в том, что это деление несет в себе некоторую смысловую нагрузку, возрастает.
Отображения можно использовать для нескольких целей. Во-первых„для получения перечисленной в начале параграфа информации. Во-вторых, для получения информации о структуре, которую образуют сами кластеры, например, об их возможной пространственной упорядоченности, имеющей в то же время содержательный смысл, как это видно из примера 12.1 (рис.
12.1). Такую информацию трудно получить другими способами. В-третьих, для интерпретации. Поскольку в большинстве случаев (за исключением нелинейного отображения и шкалирования) отображения определяются векторами, коэффициенты эгих векторов можно использовать для интерпретации таким же способом, как н нагрузки в факторном анализе. П р и м е р 12.1. Применим процедуру классификации (разделения смесей) к реальным данным '. Матрица этих данных содержит значения 31 показателя социально-экономического развития для 85 несоциалистических стран (данные относятся к началу 70-х годов).
Из этих переменных нами было использовано 29. Приведем в сокращенном виде результаты рабтты программы при разбиении на три класса 1-Й КЛАСС (ГРУППА) НОМЕРА ОБЪЕКТОВ 59 60 21 51 82 30 74 81 9 ... КОЛИЧЕСТВО ОБЪЕКТОВ В КЛАССЕ = 31 2-Й КЛАСС (ГРУППА) НОМЕРА ОБЪЕКТОВ 64 84 11 58 42 37 47 44 39 ... КОЛИЧЕСТВО ОБЪЕКТОВ В КЛАССЕ = 27 3-Й КЛАСС (ГРУППА) НОМЕРА ОБЪЕКТОВ 4 78 36 73 52 1 50 20 6 77 КОЛИЧЕСТВО ОБЪЕКТОВ В КЛАССЕ = 27 СУММА РАССТОЯНИЙ ДО ОБЩЕГО ЦЕНТРА 5 = 40 649 СРЕДНЕЕ РАССТОЯНИЕ ДО ОБЩЕГО ЦЕНТРА 5/У = = 4.782 ДОЛЯ РАЗБРОСА, ОБЪЯСНЕННАЯ КЛАССИФИКАЦИЕЙ, Т .= 0.270.
БИСЕРИАЛБНЫЙ КОЭФФИЦИЕНТ КОРРЕЛЯЦИИ Яь = 0404 т Типологии несоциалкстических стран — Мг Наука, 1976— 272 с. 316 Часть результатов, полезных для анализа удачности разбиения, суммируется в табл. 12.1. Таблица 12.1 Максималаное расотоанне да центра ( б~, мак) Среднее ресстоавие до центре (-,в) Объект, наиболее уданеннма от центра Номер труппа Эталоинма объект 54 57 76 2,769 3343 4,369 4,37 14,43 7,975 12 64 40 В третьем столбце приведены номера эталонных объектов, наиболее близких к центрам групп, в пятом — номера объектов, на которых достигаются максимальные расстояния. Согласно определению, приведенному в и. 12.1.2, все три выделенные группы являются кластерами, а первая будет также сгущением Значения критериев Т и В также достаточно велики. Однако визуальный анализ рис. 12.!а (проекции на канонические направления) показывает, что разделение групп 1 и 2 (символы А и В соответственно) нельзя признать выраженным. Скорее можно считать, что существует непрерывный переход от группы А к группе В.
На рисунке хорошо выделен один объект из 2-й группы (обведен кружком), на котором реализуется максимальное расстояние. Группа 3 (символ С) хорошо отделена от первых двух групп. Применим тот же алгоритм к тем же данным, но положим в=4, т. е. проводим разделение на 4 группы. Результаты классификации теперь будут такими: Т = 0,356, йб —— =- 0.450. Другие величины приведены в табл. 12.2. Таблица 12.2 н ер труппа вв П так Обьем труним 17 29 19 20 4,605 5,084 5,933 9,208 317 Снова все выделенные группы — кластеры, а одна из них — сгущение.
Значения Ф и и", „,„уменьшились. Визуальная картина разделения (см. рис. 12. !б) также указывает на лучшее качество разделения между группами и отсутствие далеко отстоящих объектов. На рисунке ясно прослеживается подковообразная структура, образованная проекциями объектов. Следует отметить, что на рис. 12.1 а и б символы, соответствующие одному и тому же объекту, могут не совпадать. Так, большинство объектов из группы 2 примера 12.1а (символ В на рис. 12.!а) перешли в группу 4 (символ Р на рис. ! 2.16). Соотнесение объектов из выделенных групп (я = 4) с исходными данными показывает, в частности, что в группу 17 вошли в основном высокоразвитые страны (США, европейские страны, Япония) и, напротив, в группу А — развивающиеся страны с низкими показателями социально-экономического развития.
Таким образом, расположение кластеров, упорядоченное вдоль указанной подковообразной кривой, соответствует их некоторому содержательному упорядочению, что, по-видимому, повышает доверие к результату классификации. ! 2.2. Связь между показателями качества прогноза переменных, метрикой и некоторыми критериями качества классификации в кластер-анализе 12,2.!.
Случай, когда переменные измерены в количественной шкале. Рассмотрим задачу кластер-анализа (классификации) в формулировке, обобщающей постановку задачи отыскания главных компонент. Будем искать номинальную категоризованную переменную (фактор) г, имеющую Й категорий, такую, чтобы критерий вида (12.7) К» = ~ и; р» (хг!1, г) =~. шах, 1=- ! » где р' (хщ, г) — корреляционное отношение (см., например, [7,12)) между х(О и г; и! — весовой коэффициент, 0(п; ( 1.
Иными словами, нужно получить такую классификацию объектов, которая наилучшим образом, в смысле критерия(12.7), объясняла бы наблюдающийся разброс переменных хщ (! =- 1, р). Вес же и; определяет степень важности, которую придаем чобъяснению» переменной хто посредством фактора г. Такого рода группировки объектов 3!8 О, если (Ф1 2.гл.!= 1Я»Д»=ля если »=1; л» вЂ” число элементов в 1-м классе((ьй категории фактора г). Коэффициент корреляционного отношения центрированного признака х<0! и номинальной категоризованной переменной г можно записать в виде р»(х!'>, г) = — ~~~~ л»( х! !) /з!», (12.8) л /=! где 4 — оценка дисперсии признака хн>; хго — среднее значение признака х!О для объектов, попавших в )ьй класс (т. е. с /-й категорией фактора г); и! — количество объектов в (тм классе. 3 а м е ч а н и е.
Следует помнить, что, строго говоря, в формулах (12.7) и (12.8) имеем дело с оценкой коэффициента р' (х!'>, г) по выборке объема л, поэтому над ними следовало бы поставить символ . Однако поскольку это не приводит к путанице, в данном параграфе опускаем этот символ н слово «оценка» применительно к упомянутым величинам.
Далее имеем (легко проверяется непосредственным вычислением) ( лз1 = Х!. Хп =1Хк з" л,х, =Х;.г, и! ° где Х!'. — л-компонентный вектор, 1-я строка матрицы Х. Откуда Ф р'(х!'>, а) = ')', — ~:т Х,. Х,'. ~.т((Х,, 1». и! (12.9) в (110) предлагается называть объясняющими (фактор г «объясняет» переменные хо!). Далее будем полагать, что матрица данных Х центрирована.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
