И.С. Енюков, С.Б. Королёва - Факторный дискриминантный и кластерный анализ, страница 5

Несколько иной критерий заключается в нахождении факторных нагрузок, прн которых общие факторы и наблюдаемые переменные находятся в канонической корреляции, т. е. коэффициент корреляции между ними максимален. Третий критерий, основанный на тех же принципах, сводится к определению факторных нагрузок, при которых детерминант матрицы остаточных корреляций максимален.

Все эти критерии достаточно сложны для практического применения, но существуют различные итерационные схемы для получения на их основе решений, существенно отличающихся друг от друга с точки зрения вычислительной эффективности. В настоящее время метод, предложенный Йореско (Логезйод, 1967), считается одним из лучших. В принципе все варианты метода максимального правдоподобия сводятся к решению характеристического уравнения, которое может быть представлено в виде де1 (гчт — Лг') =О, (10) где г(у определяется соотношением 1гт= У-т((т — !гв) У-т»е (11) = и-ч,и-' (12) причем УА — оценка дисперсии характерных параметров. Разница между уравнениями (4) и (10) в том, что в последнем используется редуцированная корреляционная матрица ЙА вместо корреляционной матрицы )г. В отличие от метода наименьших квадратов в вычисляемую на каждом шаге оценку общностей с большим весом входят корреляции с переменными, имеющими меньшую характерность.

Заметим, что выражение ()т — УА) в (11) то же самое, что (с! в (9), т. е. вся разница только в весовых множителях. В методе максимального правдоподобия характерность играет роль дисперсии «квази-ошибкив: больший вес имеют переменные с максимальной общностью (т. е. с минимальной Таблица 4 Двухфанториое решение методом нансимального правдоподобии для иаддиагоиальимх влементов табл. 1 После вращения критервв прямым истоком облямин Ло вращении Общность Перемеинав рг — 0,027 — О, 009 О, 046 0,547 0,833 0,468 0,817 0,754 0,602 0,027 — 0,113 0,202 — 0,300 — 0,265 — О, 176 0,362 0,605 0,248 О, 648 0,562 0,389 0,314 0,621 0„367 0,747 0,701 0 ч99 0,428 0,505 0,534 х Х, х< Хв Сумма ивадрв- тов' 1,215 1,652 0,749 2,132 21 ' В решении, полученном до косоугольного вращения, суммы квадратов — вто собственные числа, которые после деления на число перемеивых ш дают долю дисперсии, объясняемую соответствующими факторами.

В решении, получаеиом после вращения, суммы квадратов можно представить клк «нелосредствеиныв» вклад каждого фактора. Общие вклад (включая корреляции между феиторами) в решении до вращения по-прежнему ра. вен сумме собственных величин. характерностью). Это соответствует основному принципу статистического оценнвания, по которому менее точные наблюдения учитываются с меньшим весом.

Мы упомянули о том, что с помощью оптимальных алгоритмов можно точно оценить переменные генеральной совокупности для модельных данных в отсутствии ошибок. Хорошие программные реализации таких алгоритмов позволяют практически использовать эти потенциальные возможности. В табл. 4 представлены результаты применения метода максимального правдоподобия к выборочным корреляциям, являющимся наддиагональнымн элементами табл. 1. Как мы и ожидали, гипотеза адекватности для полученного решения подтверждается. Формула для вычисления статистики Х' показывает, что ее значение определяется объемом выборки„в то время как число степеней свободы от выборки не зависит: Уь=1У(1п)С~ — !п!И)+1г(!сС-')) — п, (13) где 1п — натуральный логарифм; 1г — след матрицы; й! — объем выборки; и — число переменных, Р— матрица коварнацнй; С= =Рг"'+ б', Р— матрица факторных нагрузок; У' — характерности.

(Это же соотношение используется для проверки адекватности решения методом наименьших квадратов, отличие только в оценках Г и 1!.) Важно отметить, что при фиксированной корреляционной матрице„ величина Уь пропорциональна объему выборки й!. Соответствующее число степеней свободы равно: 4д=1/2((и-й)2- (и+й)), (14) где Й вЂ” число гипотетических факторов, а и — число переменных. Как видно, 4ь не зависит от объема выборки й!.

Существенное преимущество метода максимального правдоподобия состент в том, что для большой выборки он позволяет получить критерий значимости. Если критерий уз показывает значимое отклонение наблюдений от й-факторной модели, то в рассмотрение вводится модель с (я+1) факторами. В разведочном анализе вычисления, как правило, начинают с одного фактора, а заканчивают„когда отклонение наблюдений от модели становится статистически незначимо, Хотя эти последовательные проверки гипотез находятся в зависимости друг от друга, на практике это несущественно (1.ач!еу, Махче!1, 1971). Если при оценивании числа факторов положиться на один только критерий значимости, то возникает опасность получить факторов больше, чем нужно. Там, где модель всего лишь приближена к реальности, неизбежные невязки обусловливают появление дополнительных значимых факторов. В равд.

1Ч мы вернемся к вопросам, связанным с определением числа факторов. Альфа-факторный анализ Предполагается, что н в методе наименьших квадратов н в методе максимального правдоподобия существует генеральная совокупность объектов», на которую распространяются результаты статистического анализа выборки. В альфа-факторном анализе используемые переменные считаются выборкой из некоторой совокупности переменных, о которой можно судить на основании наблюдаемой совокупности объектов. Таким образом, в альфафакторном анализе выводы носят психометрический, а не статистический характер. Кайзер и Кэффри (Ка(зег, СаЛгетч, 1965) утверждают, что этот метод основан на выделении таких факторов, которые имеют максимальные корреляции с соответствующими факторами генеральной совокупности переменных.

С другой стороны, характерные факторы при данном подходе можно рассматривать как ошибки, обусловленные психометрической выборкой переменных. Следовательно, оценки общностей в этом контексте имеют смысл «надежностей». На первом шаге образуется «подправленная» корреляционная матрица вида )сз=П '()с — У')О ' (16) где Уи и Н' — диагональные матрицы характерностей и общностей соответственно. (О-' — диагональная матрица, элементами которой являются обратные величины к квадратным корням нз общностей.) Тогда характеристическое уравнение, связанное с этой «подправленной» матрицей, представляется следующим образом: бе1 ()тз — ХУ) = О. (! 6) Сопоставим уравнения (16) и (10), а также уравнения (15) и (11). В методе максимального правдоподобия матрица нормируется с помощью характерностей, а в альфа-факторном анализе — дисперсий общностей. Другими словами, в первом случае больший вес имеют переменные с большей общностью„а во втором,— наоборот, с меньшей.

Как правило, в обоих случаях решение осложняется тем, что значения общностей пересчитываются в процессе итераций. В альфа-факторном анализе число выделяемых факторов определяется с помощью критерия, заключающегося в том, что соответствующие собственные величины должны быть больше 1. Этот критерий эквивалентен критерию выделения факторов с помощью коэффициента обобщенности а (квадрат коэффициента корреляции данного фактора с соответствующими факторами, взятыми из генеральной совокупности.— Примеч. пср.).

Выделяются факторы, для которых коэффициент а положителен. Разумеется, при этом подходе не используются обычные критерии значимости„так как совокупность объектов предполагается известной. * Альфа-факторный анализ был разработан для упорядочения данных в области психологии. В частности, объектом исследования в ием являются индивидуумы.

Примеч. ред. 23 Результаты применения альфа-факторного анализа к матрице 'коэффициентов 1корреляции, представленных наддиагональными элементами табл. 1, сведены в табл. 5. Здесь же даются результаты анализа образов, к обсуждению которого мы приступаем. АНАЛИЗ ОБРАЗОВ В анализе образов определение общей и характерной части переменной отличается от принятого в классическом факторном анализе. Под общей частью переменной подразумевается та ее составляющая, которая выражается через линейную комбинацию других переменных. Эта доля переменной называется яобраз-переменной».

Вторая составляющая переменной, независимая от остальных, называется сантиобразоггг. Причем считается, что мы имеем дело с генеральными совокупностями переменных и объектов; все вопросы, связанные с выборкой, не рассматриваются. В анализе образов предполагается, что потенциальное множество переменных бесконечно. Для сравнения обратимся к двухфакторной модели на рис. 1. Шесть переменных, рассматриваемых там, образуют некоторую совокупность.