Ким_ Мьюллер и др - Факторный_ дискриминантный и кластерный анализы (Ким_ Мьюллер и др - Факторный_ дискриминантный и кластерный анализы.djvu), страница 5

В отличие от метода наименьших квадратов в вычисляемую на каждом шаге оценку общностей с большим весом входят корреляции с переменными, имеющими меньшую характерность. Заметим, что выражение ()т — УА) в (11) то же самое, что (с! в (9), т. е. вся разница только в весовых множителях. В методе максимального правдоподобия характерность играет роль дисперсии «квази-ошибкив: больший вес имеют переменные с максимальной общностью (т. е. с минимальной Таблица 4 Двухфанториое решение методом нансимального правдоподобии для иаддиагоиальимх влементов табл. 1 После вращения критервв прямым истоком облямин Ло вращении Общность Перемеинав рг — 0,027 — О, 009 О, 046 0,547 0,833 0,468 0,817 0,754 0,602 0,027 — 0,113 0,202 — 0,300 — 0,265 — О, 176 0,362 0,605 0,248 О, 648 0,562 0,389 0,314 0,621 0„367 0,747 0,701 0 ч99 0,428 0,505 0,534 х Х, х< Хв Сумма ивадрв- тов' 1,215 1,652 0,749 2,132 21 ' В решении, полученном до косоугольного вращения, суммы квадратов — вто собственные числа, которые после деления на число перемеивых ш дают долю дисперсии, объясняемую соответствующими факторами.

В решении, получаеиом после вращения, суммы квадратов можно представить клк «нелосредствеиныв» вклад каждого фактора. Общие вклад (включая корреляции между феиторами) в решении до вращения по-прежнему ра. вен сумме собственных величин. характерностью). Это соответствует основному принципу статистического оценнвания, по которому менее точные наблюдения учитываются с меньшим весом. Мы упомянули о том, что с помощью оптимальных алгоритмов можно точно оценить переменные генеральной совокупности для модельных данных в отсутствии ошибок.

Хорошие программные реализации таких алгоритмов позволяют практически использовать эти потенциальные возможности. В табл. 4 представлены результаты применения метода максимального правдоподобия к выборочным корреляциям, являющимся наддиагональнымн элементами табл. 1.

Как мы и ожидали, гипотеза адекватности для полученного решения подтверждается. Формула для вычисления статистики Х' показывает, что ее значение определяется объемом выборки„в то время как число степеней свободы от выборки не зависит: Уь=1У(1п)С~ — !п!И)+1г(!сС-')) — п, (13) где 1п — натуральный логарифм; 1г — след матрицы; й! — объем выборки; и — число переменных, Р— матрица коварнацнй; С= =Рг"'+ б', Р— матрица факторных нагрузок; У' — характерности.

(Это же соотношение используется для проверки адекватности решения методом наименьших квадратов, отличие только в оценках Г и 1!.) Важно отметить, что при фиксированной корреляционной матрице„ величина Уь пропорциональна объему выборки й!. Соответствующее число степеней свободы равно: 4д=1/2((и-й)2- (и+й)), (14) где Й вЂ” число гипотетических факторов, а и — число переменных.

Как видно, 4ь не зависит от объема выборки й!. Существенное преимущество метода максимального правдоподобия состент в том, что для большой выборки он позволяет получить критерий значимости. Если критерий уз показывает значимое отклонение наблюдений от й-факторной модели, то в рассмотрение вводится модель с (я+1) факторами. В разведочном анализе вычисления, как правило, начинают с одного фактора, а заканчивают„когда отклонение наблюдений от модели становится статистически незначимо, Хотя эти последовательные проверки гипотез находятся в зависимости друг от друга, на практике это несущественно (1.ач!еу, Махче!1, 1971).

Если при оценивании числа факторов положиться на один только критерий значимости, то возникает опасность получить факторов больше, чем нужно. Там, где модель всего лишь приближена к реальности, неизбежные невязки обусловливают появление дополнительных значимых факторов. В равд. 1Ч мы вернемся к вопросам, связанным с определением числа факторов. Альфа-факторный анализ Предполагается, что н в методе наименьших квадратов н в методе максимального правдоподобия существует генеральная совокупность объектов», на которую распространяются результаты статистического анализа выборки.

В альфа-факторном анализе используемые переменные считаются выборкой из некоторой совокупности переменных, о которой можно судить на основании наблюдаемой совокупности объектов. Таким образом, в альфафакторном анализе выводы носят психометрический, а не статистический характер. Кайзер и Кэффри (Ка(зег, СаЛгетч, 1965) утверждают, что этот метод основан на выделении таких факторов, которые имеют максимальные корреляции с соответствующими факторами генеральной совокупности переменных.

С другой стороны, характерные факторы при данном подходе можно рассматривать как ошибки, обусловленные психометрической выборкой переменных. Следовательно, оценки общностей в этом контексте имеют смысл «надежностей». На первом шаге образуется «подправленная» корреляционная матрица вида )сз=П '()с — У')О ' (16) где Уи и Н' — диагональные матрицы характерностей и общностей соответственно. (О-' — диагональная матрица, элементами которой являются обратные величины к квадратным корням нз общностей.) Тогда характеристическое уравнение, связанное с этой «подправленной» матрицей, представляется следующим образом: бе1 ()тз — ХУ) = О. (! 6) Сопоставим уравнения (16) и (10), а также уравнения (15) и (11). В методе максимального правдоподобия матрица нормируется с помощью характерностей, а в альфа-факторном анализе — дисперсий общностей.

Другими словами, в первом случае больший вес имеют переменные с большей общностью„а во втором,— наоборот, с меньшей. Как правило, в обоих случаях решение осложняется тем, что значения общностей пересчитываются в процессе итераций. В альфа-факторном анализе число выделяемых факторов определяется с помощью критерия, заключающегося в том, что соответствующие собственные величины должны быть больше 1. Этот критерий эквивалентен критерию выделения факторов с помощью коэффициента обобщенности а (квадрат коэффициента корреляции данного фактора с соответствующими факторами, взятыми из генеральной совокупности.— Примеч. пср.). Выделяются факторы, для которых коэффициент а положителен.

Разумеется, при этом подходе не используются обычные критерии значимости„так как совокупность объектов предполагается известной. * Альфа-факторный анализ был разработан для упорядочения данных в области психологии. В частности, объектом исследования в ием являются индивидуумы. Примеч. ред. 23 Результаты применения альфа-факторного анализа к матрице 'коэффициентов 1корреляции, представленных наддиагональными элементами табл.

1, сведены в табл. 5. Здесь же даются результаты анализа образов, к обсуждению которого мы приступаем. АНАЛИЗ ОБРАЗОВ В анализе образов определение общей и характерной части переменной отличается от принятого в классическом факторном анализе. Под общей частью переменной подразумевается та ее составляющая, которая выражается через линейную комбинацию других переменных. Эта доля переменной называется яобраз-переменной». Вторая составляющая переменной, независимая от остальных, называется сантиобразоггг.

Причем считается, что мы имеем дело с генеральными совокупностями переменных и объектов; все вопросы, связанные с выборкой, не рассматриваются. В анализе образов предполагается, что потенциальное множество переменных бесконечно. Для сравнения обратимся к двухфакторной модели на рис. 1. Шесть переменных, рассматриваемых там, образуют некоторую совокупность.

Но в анализе образов эти переменные считаются выбранными из бесконечного множества переменных, удовлетворяющих двухфакторной модели. Если бы у нас была возможность наблюдать все переменные этого пространства, средний квадрат образа был бы равен оба(- ности переменной, определяемой в факторном анализе, а средний квадрат антиобраза — характерности. (Подразумевается, что мы имеем дело с нормированными переменными.) Другими словами, квадрат множественного коэффициента корреляции между одной переменной и остальными переменными совокупности равен общности данной переменной.

Образы и антиобразы, определяемые для некоторого набора наблюдаемых переменных, называются соответственно частными образами и частными антиобразами. Хотя частные образы являются только приближением к полным образам, они (частные образы) полностью задаются наблюдаемыми переменными В этом смысле анализ образов в корне отличается от классического факторного анализа, в котором общая часть переменной является линейной комбинацией гипотетических факторов и не может быть явной функцией наблюдаемых переменных. Методика анализа образов предполагает введение матрицы ковариаций частных образов: гг (1г чг) р- г(11 чг ) (17) где )с — корреляционная матрица, а Яг †диагональн матрица, элементами которой являются доли дисперсии каждой переменной, не объясняемые другими параметрами (т.

е. доли дисперсии антиобразов). Получение матрицы (17) сводится, во-первых, к замене диагональных элементов матрицы Я на квадраты мио- жественных коэффициентов корреляции каждой переменной с совокупностью всех остальных переменных, и, во-вторых, к пре. образованию недиагональных элементов для получения матрицы Грама. Характеристическое уравнение для этой матрицы имеет вид 4)е1 (144 — Л1) =О. 118) Число выделяемых факторов определяется количеством собственных чисел, больших 1, но не для матрицы 1тз, а для матрицы 5-'Ю-4. Обычно число выделяемых таким методом факторов велико — приблизительно половина числа исходных параметров. Кайзер предлагает после соответствующих вращений отбрасывать незначимые и неинтерпретируемые факторы. В табл.

5 даны сравнительные результаты применения анализа образов и альфафакторного анализа. Таблица б Факториые нагрузки, вычисленные с помощью альфа-факториого анализа н анализа образов, для модельной корреляционной матрицы, приведенной в табл. М ' Общности, полученные с помощью альфа-фактарното анализа, весьма блвзки к нстмннмм общностям; анализ образов дает менее точнме оценки. 1!!.

МЕТОДЫ ВРАЩЕНИЯ Как уже отмечалось, на первом этапе анализа определяется минимальное число факторов, адекватно воспроизводящих наблюдаемые корреляции, а также значения общностей каждой переменной. Следующий шаг состоит в нахождении легко интерпретируемых факторов с помощью процедуры вращения, При этом число факторов и значения общностей переменных фиксируются. Применение методов, рассмотренных в предыдущем разделе, приводит к набору ортогональных факторов, упорядоченных в порядке убывания их значимости.

Эти два ограничения являются в некотором смысле, искусственными. Они принимаются, чтобы обеспечить единственность решения. В результате этих огра- ничений, во-первых, факторная сложность переменных, скорее всего, будет больше единицы, независимо от вида истинной факторной структуры, т. е. переменные будут иметь нагрузки более чем на один фактор; во-вторых, все факторы, за исключением первого, являются биполярными, другими словами, некоторые переменные должны иметь положительную нагрузку на этот фактор, а некоторые— отрицательную. существуют три различных подхода к проблеме вращения. Первый подход в графическийе.