Айвазян С.А., Бухшгабер В.М., Енюков И.С., Мешалкин Л.Д. - Прикладная статистика (1027378), страница 88
Текст из файла (страница 88)
Вектор х<»> будет и-компонентным вектором, а вектор С» является и<-компонентнь>м. Так же как и в п. 17.1.3, й-и вектор (набор) меток для строк пропорционален вектору, компоненты которого равны проекциям нормированных профилеи строк на Й-й собственный вектор матрицы Т„, т. е это вектор й-х главных компонент для профилей строк (в метрике ><') Аналогичное утверждение имеет место и для векторов меток для сто.<бцов <категории). Таким образом, имеем !< наборов (г<м, С») числовых меток для объектов и категорни Иными словами, можно сказать, что использование МАС для обработки матрицы данных с переменными, измеренными в неколичественной шкале, приводит в результате к квантификп«ии <илн оцифровке) матрицы данных.
Далее полученные наборы меток можно испо.>ьзовать для обработки данных как измеренных в количественных шкалах. Рассмотрим сначала, какими свойствами обладают наборы числовых меток, получаемые в МАС. 1. Существуют тривиальные наборы меток х<»>, С, соответствующие л>акснмальному собственному числу Х, =- 1. Все компоненты этих наборов равны!. Причина появления наборов обсуждалась в и. 17.1.4. 2. Наборы меток для объектов а<», ..., х«+> можно рассматривать как новые количественные переменные (факторы).
Этн переменные центрнрованы (~г)л =-0) с дисперсией <= > Х (г)>~) =)»> н попарно некоррелнрованы ( 2; г1лг(~> = О, Ю <=> если й „-й !). 3. Используя уравнения (17.!1), можно показать, что метки для объектов и категорий удовлетворяют следующим уравнениям перехода: а<»> = — — УС»; < < У~» С» = — 0-' У' г<»>. УР» Следовательно, координата <-го объекта для й-го набора (т. е.
значение а-го фактора для <-го объекта) пропорцио- калана среднему арифметическому значению меток катего- рии, реализуюц<икся для этого объекта (всего реализуется р категорий, по одной для каждой переменной) Р й 1 г«п =- — у" С" О "кнь (17. 22) где С,', (< =- 1, 1„) — компоненты вектора С„, соответствующие переменной х<м. Лналогично координата (метка) <ъй категории <<-й переменной для <<-го набора пропорциональна с множителем (1<'(< р„) среднему значению фактора г<ю для объектов, имеющих значением для й-и переменной 1'-ю категорию, т.
е. эта метка пропорциональна соответствующему условному среднему значению фактора г<М. Из свойства 3 следует, что можно одновременно отображать объекты и категории в одной и той же системе координат для визуального анализа, так как метки, соответствующие объектам и категориям, измерены в одинаковых шкалах. Пусть, например, следует провести визуальный анализ данных для первых двух факторов. Тогда для <'-го объекта имеем координаты г« ~, г; ', а для отображения категорий <0 (М следУет взЯчь кооРдинаты ((<(<,с;<.
Р Р,сег) ((иЯ категоРиЯ «-й переменной). 17.2.4. Матрица Берта. Матрица В = У'Т, которая появляется в МЛС, впервые была получена в работе (2001 и носит название матрицы Берта <Виг1). Это симметричная матрица, состоит из рз блоков. Имеется р диагональных блоков- матриц. диагональный блок <<' '<', соответствует 1-й переменной (< = — 1, р) и представляет собой диагональную матрицу размера (г к 1,, так как две категории одной переменной не могут появляться одновременно. Лиагональная матрица 0 имеет те же самые диагональные элементы, что и матрица В.
Внедиагональный блок т<' У, (< чь <) представляет собой частотную таблицу сопряженности (хи и <',-й переменных. 17.2.5. Подход, основанный на максимизации статистического критерия. Здесь рассматривается подход конструирования количественных факторов <переменных), которые наилучшим образом объясняют (аппроксимируют) матрицу т' в смысле некоторого статистического критерия.
Одновременно с получением значений (метод для объектов) факторов при данном подходе получаются и метки для категорий пере- менных. Получаемые метки, а также возникающие здесь метрики совпадают с метками и метриками, определяемыми на основе подхода, рассмотренного в и. 17.2.2, 17.2.3. Пусть теперь следует присвоить числовые метки и = -= (о„„., и„)' и объектам. Потребуем, чтобы для набора меток ч выполнялись условия центрирования и нормировки л л (17,23) г=! !.= ! Присвоить каждому объекту Х, некоторое числовое значение о! — это и значит ввести некоторый новый признак (фактор) и.
Введем теперь величину (статистический критерий), определяющую качество набора меток и Я = ~ Йиэ! !' — — ! где К ! — квадрат коэффициента множественной корреляции между фактором и и бинарными переменными у~~ Ф =-1, ..., Ц,т.е. К"„,! =- — и ' !'! (у; у!) ! у! ч. 1 !! Построенный иэ условия максимума !)х фактор и можно рассматривать как аналог первой !.лавиои компоненты, максимизирующей сумму квадратов коэффициентов корреляции (см. гл. !3).
Так как бинарные переменные линейно независимы, то !ай, г= ~; !'(!' у'„), Ф=- 1 ~Р— ~ 11')х!=-.ти, (17.26) где 1 — вектор размерности и с единичными компонентами; я матРица Р -= ~'. Рт, матРица Р! — т! (У!'У~)-! 'т! ' — ! т. е. И,; есть просто сумма квадратов корреляций бинарных переменных ую соответствующих переменной х!!!, с и. Будем теперь искать фактор из условия максимума Критерия (17.21). Зто приводит, с учетом условий нормировки (17.23), к следующей задаче иа обобщенные собственные зна- чения = (рсз) (с, й =- 1, и); элементы матрицы Р; вычисляются следующим образом: (1 (пс, если хрч =- х(с' == з; 5 с а (О, если хрч чь х(с!.
с сс (17.27) )с~<-'; ! с(ср !'Сгц(с! ° (7(с+(! 1У ! Т )гн+(!. ° ( н , 1~ (7(с + ( ! (! (с! . (с! (с'(с ! с! Гу((+ с! ) (с! сс Сс где (. - номер итерации;ст — номер фактора; Х» — текущая оценка собственного числа. 4В! где з номер категории признака; Е сс — номера объектов: л -- число объектов, соответствующих з-и категории признака хщ. СУммаРнаЯ матРица Р =. (Рсс,) есть матРица свЯ- зей (близостей) л(ежду объектами Хс и Л';, измеряемых скалярными с(ронзиедениями профилей строк в метрике )(-. Каждая нз величин рс„= 1';.0 — (Кс представляет собой сумму весов ! 'с!', значений признаков х((! (1 =- 1, р), которые совпадают для объектов с' н сс. Ле( ко проверить, что матрица Р = рТс (17.!9). Ее собственные векторы совпадают с собственными вс с торами матрицы Т,, и, следовательно, решением максимизационной задачи .
(17.24) будут факторы г('с, ..., г(( ы определенные в и. ! 7.2.3. 17.2.6. Некоторые вопросы вычислительной реализации и интерпретации в множественном анализе соответствий Итерационная вычислительная процедура. Факторы (г"'. Сс,.) можно получить, основываясь на решении проблемы собственных чисел и векторов для з(атрн(т Т,, Т,. Естестиенно, следует выбирать матрицу с минимальной размерностью, а сонряженные наборы !шток для о(тьектов и категорий получать с цомощьк! уравнений нерс..ода (!7 21).
Этот (сод. од пригоден, когда какая-либо нз матриц Т, нли Т,, номе(с(ается в оперативной памяти ЭВМ. В этом случае можно использовать н методы сингулярного разложенпя матриц. прцменяя нх к матрнцеФ (!7.18).!1рц задачах большей размерности л(ожно использовать итерационную проц(дуру, основываясь непосредственно на уравнениях (17.21). Так, используя уравнения (17.20), получим следуюшую н ро ц еду р у': Векторы У~п' на каждой итерации необходимо нормировать и центрировать в соответствии с условиями (17.23), а вектор ухало нормировать. Через определенное число итераций необходимо ортогонализировать текущие векторы )га~о (или У~~о) к ранее найденным векторам у„..., )гд, (У,, ..., У„1) и тривиальным факторам.
Основной прием, делающий эту процедуру достаточно эффективной даже при больших размерностях гп, п, связан с использованием специфической бинарной формы матрицы Т. Действительно, умножение 1-й строки матрицы на вектор Сяш =- 0-04 У~~~ на самом деле требует использования только р операций сложения (поскольку только р элементов этой строки равно 1, а остальные равны О), Таким образом, умножение матрицы У на вектор С,'о требует всего п х р сложений (так же как и умножение т" на )гя~'). Операция ш сложения намного экономнее по времени выполнения, чем операция умножения, и этих операций нужно всего пхр на каждой итерации, что и обеспечивает приемлемую эффективность вычислительной процедуры даже при больших размерностях п и р.
При этом матрица Х может считываться поблочно из внешней памяти, Итерационная процедура тем более пригодна, что обычно требуется небольшое количество факторов д ~( гп. Существуют способы повышения эффективности итерационной процедуры, например одновременная итерация сразу нескольких векторов, и др. (см. (263)). Собственные числа Х,, ..., Хя, полученные в результате итеративного процесса (1?.28), будут связаны с собственными числами 14 матриц Т„Т, соотношением ) „=- р)хю а векторы (/ю (гь — совпадать с собственными векторами этих матриц. Используя соотношения (1?.20), отсюда нетрудно перейти и к факторам х~'>, С,, Некоторые вопросы интерпретации.
Как и при анализе главных компонент, перед исследователем, использующим МАС, возникает ряд вопросов, среди которых основными являются следующие: сколько факторов использовать и как их интерпретировать. Решение первого из них наталкивается на трудности, которых нет в анализе главных компонент, где наиболее принятый способ отбора числа значимых факторов связан с использованием доли следа ковариационной (корреляционной) матрицы, объясненной первыми д факторами (см. гл.
!3). В МАС этот подход использовать обычно нельзя. Действительно, след матрицы Ьр (Т„) = Зр (Т„)==- 4бз = гп(р. Исключая вклад собственного числа )»» = 1, соответствующего тривиальному фактору, имеем, что сумма ненулевых собственных чисел ~+ ~я~ в»=гп/р — 1. »=! С другой стороны, величина (»» < 1 (й = 1, !'"). Поэтому доля следа, объясненная первыми д факторами, равная Р» ~ )р)(гп — р), (и/р — 1) (17.28) Интерпретация факторов.
Подход к интерпретации выделенных факторов гхп, ..., п~»> (г~">, ..., з<»>) основан на анализе множественных коэффициентов корреляции Р,рь г 2 между факторами оо> (! =- 1, д) и исходными переменными (наборами бинарных переменных у',). Аналогично интерпретации факторов в анализе главных компонент эти величины играют роль нагрузок переменных на факторы (см гл. 13). Из тех же соображений полезными для интерпретации являются коэффициенты корреляции между фактором может быть очень невелика, если общее число градаций пг значительно.