Айвазян С.А., Бухшгабер В.М., Енюков И.С., Мешалкин Л.Д. - Прикладная статистика (1027378), страница 89
Текст из файла (страница 89)
Одна из возможностей эвристической оценки числа факторов состоит в сравнении собственных чисел с их средним значением — отбираются только факторы с собственными числами, больщими среднего значения. Чтобы получить оценку среднего значения, оценим число положительных собственных чисел !». Она получается на основе следующих соображений, поскольку для каждой из матриц т'», составляющих матрицу т', сумма ее столбцов равна вектору с единичными компонентами, ранг матрицы Т не более чем гав к ( т) < пз — р+ 1. (17.29) (Более точно гап1с (У) ( гп!и (и, т — р +1), но поскольку обычно п ) гп — р + 1, можно использовать (17.29).) Поэтому для числа 1+ положительных собственных чисел для нетривиальных факторов верно неравенство 1+ ~ и — р.
Отсюда в качестве оценки среднеи величины ненулевого собственного числа получаем р> ' = 1/р. зр (т,) — ! м — я и бинарными переменными )категориями). Указанные величины, полезные для интерпретации факторов, получаются следующим образом: квадрат коэффициента множественной корреляции между фактором опо и бинарными переменными у',, ..., ф «« «««(») ~ 7 им у=! квадрат коэффициента корреляции между фактором ем~ и бинарной переменной г*!'о<»!, у') = —" и;ы ! 7.3.
Алгоритмы оцифровки неколичественных переменных Общие принципы. Пусть имеется матрица данных Х из п р-мерных объектов, у которых все или часть признаков из. мерены в какой-либо неколичсственной шкале ††ш порядка, номинальнои и т.д. Рассмотрим подход, позволяющий распространить на данные такого вида методы многомерного статистического анализа: анализа главных компонент, регрессионного, дискрнминантного, кластер-анализа и т. д. Суть подхода заключается в опифровке неколичественных переменных, т.
е. в присвоении категориям неколичественных переменных «разумных», в рачках решаемой задачи, числовых меток. Этот же подход пригоден и для преобразования количественных переменных, которые предварительно подвергаются квантованию, н для анализа переменных смешаннои природы. метод приписывания меток для случая только неколичественных переменных приведена!!О, гл. !21. Здесьформулируются критерии, подходящие для оцифровки с дальнейшим использованием преобразованнои матрицы в различных видах анализа, а метод из)!О, гл.
!2! обобщается на случай данных смешанной природы. Критерии, на основе которых производится присвоение числовых меток, зависят от используемого метода статистического анализа. Однако все они представляют собой некоторыс функционалы матрицы ковариаций !корреляций) а пространстве оцифрованных признаков. Это связано прежде всего с тем, что матрица ковариаций (корреляцнй) является основным объектом, который используется методами статистического анализа. И ь Х =' — х с() =0; 'ь' с(х>з=1, г (!) ',~„, г (П <=- 1 ~= ! (!7.30) где г (!) — номер градации прпзнака х для 1-го объекта.
Пусть теперь 1.< = л</и — частота (-й градации признака х у объектов из Х. Тогда условия (17.30) можно эквивалентным образом записать в виде ! х 1 У пкс(к) ° =!. л лн г= ! <х г= ! (17.30') Выполнение условий (17.30), (17.30') гарантирует, в частности, от появления тривиальных наборов меток, когда числовые метки, присваиваемые градациям признака х, одинаковы.
Оцифровка для сокращения размерностей, статистического исследования зависимостей, кластер-анализа. В этом случае категориям неколичесгвениых признаков приписываются числовые метки, удовлетворяющие условиям (17.30) и максимизирующие величину 9'=Х рб (17.31) <с) где !', 1 == 1, йч р — число признаков; ры — коэффициенты корреляции между )-м и )см признаками после кодировки. Пусть теперь множество переменных х<'>, ..., хпч разбито на две группы — группу Х<'> из <1 переменных, подлежащих кодировке (оцифровке), и группу Х<') из р — <) переменных, для которых сохраняется исходная шкала (или исходные значения меток). В частности, в группе Х<'> могут быть переменные, измеренные и в количественной шкале.
Зля определенности будем считать, что признаки пронумерованы так, что в Х<') входят признаки х('>,., х<т>, а вХ('> — при- 465 Введем теперь некоторые очевидные требования, которым должны удовлетворять наборы числовых меток, получаемые в результате работы процедуры оцифровки. Пусть х — некоторый неколичественный признак из матрицы данных Х, имеющий 1, градаций (категорий) значений. Пусть каждой из 1„градаций присвоена числовая метка с) (1= (к) := 1, 1„). Поскольку корреляции между признаком х и. другими признаками не зависят от преобразования сдвига и масштабирования меток, потребуем выполнения условий центрированности и нормировки знаки х<>'< '>, ..., хы>.
Критерий <7 может быть представлен в виде суммы трех слагаемых: <7 =- 9<+<;><, з + <~з, где <,>> — сумма квадратов коэффициентов корреляции переменных из Х<'>; 9<л — сумма квадратов коэффициентов корреляции между переменными из Х<'> и Х<Ч; <',>э — сумма квадратов коэффициентов корреляции между переменными из Х<'>. Величина слагаемого Я не зависит от кодировки, поэтому определение оптимальных меток будем проводить исходя из условия максимума критерия <',>' = <;» + И,з. Приведем теперь формулы для вычисления оценок коэффициентов корреляции, входящих в состав сумм <,>1 и Я),э.
Пусть признаки х<П Е Х<'> их<» Е Х<'> и пусть(, — числокатегорий признака х«>. Тогда, если выполнены условия нормировки (17.3<у), получаем, что р<>=-С,'Р(1, 1)Сн где С< — вектор числовых меток для категорий признака х<'>, Г (<, 1) — нормированная таблица сопряженности размера 1<Х 1> между признаками х<'> и к«>, т. е. Г (<', 1) = ! = — М (<, 1) (см. п. 17.1.1).
Пусть теперь признак х<н с Х<», а хц> Е Х<з> н пусть предварительно признак х<» нормирован и центрирован. н> Тогда ры —— - С<Р,С,, где Р« =- 11ац (р„..., р<,), »ь — частота появления й-й градации признака х<'> (й = 1, 1<); (ь, )' == (сы, ..., с<,г), а сь — среднее значение признака >я<> ° -<о -<н -«> х<» на множестве объектов с й-й категорией признака х«> (й = 1, 1<). Для каждого признака х<'> Е Х<'> введем симметричную неотрнцательно определенную матрицу А>, такую, чтобы удовлетворялось равенство д<",>/дС> — — А< С<. Непосредственным дифференцированием получаем, что А,= ~ь', М(<', 1)СтС,'М(), 1)+ /м< <хех<» я + ~ Р,С~!'(С>!') Рь г-а.<- > <хех<х» Вычислительная процедура.
Числовые метки, максимизирующие величину критерия <;>,, находятся в результате итерационного процесса, аналогичного описанному в 111, гл. 121. П р и м е р 17.4. 1661 Рассмотрим применение метода оцифровки по критерию (!7.31) к данным табл. 17.2, представляюгцей результаты наблюдения за 12 посетителями кафе 1пример условный). Переменные имеют следующий смысл. х('> — сумма, затраченная посетителем, ден. ед.; х('> — время, проведенное посетителем в кафе, мин.; х(а), х(4>, х(а> — соответственно закуска, блюдо и напиток, выбранные посетителем. Таблица 172 Переменные х('> и х(а> — количественные, а х(а>, х(а>, х(а>— номинальные категоризованные, переменная х('> имеет три, а х(~> и х('> — по четыре градации.
Возможно использование переменных, которые не будут подвергаться оцифровке, но их вклад в критерий П7,31) будет учитываться, В данном примере это количественные переменные х('>, х('>. Ниже приводятся результаты применения оцифровки процедуры. МАТРИЦА КОРРЕЛЯЦИЙ ДО ПРЕОБРАЗОВАНИЯ СУММА КВАДРАТОВ КОЭФФИЦИЕНТОВ КОРРЕЛЯЦИИ 2.0191 МАТРИЦА КОРРЕЛЯЦИЙ ПОСЛЕ ПРЕОБРАЗОВАНИЯ 467 х(>) х('> 1,0000 х(г> 0.8514 х(з> О 3846 х((> — 0,1694 х(з) 0.7244 х(>) х(>> 0.8514 0,3846 1.0000 0.4474 0.4474 1.0000 0.0067 0.3441 0.8847 0.4228 х('> — О. 1694 0.0067 0.3441 1.0000 — О, 1940 х('> 0.7244 0.8847 О.
4228 — 0.1940 1.0000 х(-> О. 8514 !.Оооо — О. 5685 — 0.7319 — 0.9719 х('> х('> !.0000 х('> О. 8514 х(з> О 4969 х" > — О. 7737 х(з> — 0,8451 х(з> — 0.4969 — О. 5685 1. 0000 0.6288 0.6276 х(4) х('> — 0.7737 — 0.8451 — О.?319 — 0.9? 19 0.6288 0.6276 1,0000.- 0.8200 0.8200 — 1.0000 СУММА КВАДРАТОВ КОЭФФИЦИЕНТОВ КОРРЕЛЯ- ЦИИ 4.8241 ТАБЛИЦА НАЙДЕННЫХ МЕТОК х(3) 1 0.8880 2 — О.
4589 3 — О. 0274 4 0.0000 х(() х(э> — О. 5079 0,6! 63 0.6095 0.5304 — 0.4869 0.5086 0,3784 — 0.2891 )э(С) = чР а>(т((С) — т(С))'(о'(С), (17.32) (=! где (х) — вероятность появления объектов из !сто класса; й — число классов; ов (С) усредненная дисперсия. Введем в рассмотрение таблипу сопряженности Г, столбцы которой соответствуют категориям классификационной Из сравнения матриц корреляций до и после оцифровки следует, что после оцифровки значения некоторых коэффициентов корреляции значительно возросли по абсолютной величине. Так, величина р, до оцифровки была 0 0067, а после оцифровки стала равнон — 0 7319.
Оцифровка для линейного днскрнминантного анализа. Для задач классификации оцифровка пеколичественных признаков производится по критерию, предложенному в 168!. Этот критерий построен па том, что основной информацией, которую используя)т лннеиные дискрнминантные функции для классификации. являются различия средних значений признаков в разных классах, измеренные в единицах дисперсии (см. (л. !).
Другие компоненты информации о различиях между распределениями классов используются линейной дисьриминантной функцией в меньшей степени. Исходя их этого в качестве набора числовых меток для категорий некоторого признака х примем числа, максимизирующне сумму оценок квадратов расстояний Маталанобиса от общего центра тяжести по признаку х (и (С)) до центров классов по этому же признаку (л(> (С), ! = 1, '., й): переменной, а строки — категориям признака к. Элемент /и (!=1, ..., !,; /=-1... л) является, таким образом, вероятностью появления г-и категории переменной к в /-м классе. (В реальной ситуации мы обычно имеем дело с обучающими выборками, и поэтому вместо частот известны лишь их оценки /!з — частоты категории ! в классе /.) Теперь величины т (С), т; (С), о' (С), входящие в (! 7.32), можно представить в следующем виде: != ! тт(С) = ~ с! /!///./=--(!('С); т(С)=- ~я~ /.;т! = Ъ' /;. с;; у= ! != ! 1„ !.х оз = ~ч', (с,— т!(С))'/и//,; = ~Ч с!*/гт//.т — т,'(С); Ф оз(С) = ~ч' /.!о! = ч ', с! /г, — ~~ /.!т!В(С).
!== ! у= ! Вводя матрицы мы можем записать з = ~'„а т,'=-С' Г0~ ' ГС; т(С)= О!С; ! гх з' = ~ /!. с,' = С' О! С. г=! В новых обозначениях критерий (17.32) можно записать в виде (17,33) (з (С) = (р* — т" (С))/(У вЂ” рз). Очевидно, задача поиска максимума Р (С) инвариантна относительно преобразований сдвига и масштаба координат 469 С, а потому может быть сведена к задаче иа условный экстремум р' (С) =~- гп ах (17.34) с при условиях т (С) = О, зз = 1, что приводит в результате к обобщенной задаче на собственные числа (17.35) (ГОТ' Г' — Х0~) С= О.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
