Айвазян С.А., Бухшгабер В.М., Енюков И.С., Мешалкин Л.Д. - Прикладная статистика (1027378), страница 19
Текст из файла (страница 19)
Когда существование феномена установлено, проводится теоретическое исследование, чтобы на простейших математических моделях как в обычной асимптотике, так и в асимптотике растущей размерности Колмогорова — Деева понять его действующие механизмы и дать их асимптотическое количественное описание. На этой стадии обычно не удается получить ни оценок скорости достижения асимптотических утверждений в изучаемых крайне идеализированных моде.шх, ни границ их применимости.
Поэтому необходимо повторное применение метода статистического моделирования, но на этот раз уже с учетом качественного и количественного понимания, достигнутого на простейших моделях. Окончательная проверка полученных рекомендаций проводится на реальных данных. Состояниетеоретических исследований в различных задачах статистической классификации описывается в последующих параграфах настоящей ~лавы. Однако, прежде чем переходить к ним, необходимо отметить, что главноенеизвестное любой статистической модели — это состояние природы. Поэтому для конкретных областей применения классификации, с точки зрения прикладной статистики„задачей номер один является накопление примеров эффективного применения конкретных моделей, методов, упрощающих предположений.
2.3. Подстановочные алгоритмы в асимптотике растущей размерности Как уже сказано в п. 2д.!, подстановочным (р!нд4п) алгоритмом называют метод построения правила классификации, при котором неизвестные в отношении правдоподобия параметры распределений 6 заменяют их оценками максималь- 93 ного правдоподобия 6. При минимальных требованиях к плотности распределений подстановочные алгоритмы в традиционной асимптотике асимптотически подобны н у(с) состоятельны. Как следует из формулы (2.13), положение в случае асимптотики растущей размерности сложнее. Здесь уже многое зависит от того, как оцениваются параметры и насколько эффективно используются упрощающие предположения. 2.3.1. Модель Фишера в асимптотике (2.9).
Базовое предположение (2.9) дополним условием, что Ур (Ма М1) Х 1 (Мр Мт) Р 1 ( оо (2.14) т. е. что расстояние Махаланобиса между распределениями стремится к конечному пределу. Рассмотрим сначала случай, когда Х известно (см. п. 1.1.2). Согласно (1.12) подстановочное правило классификации имеет вид: й(Х)=(Х вЂ” (Х +Ха)72)' 2 '(Х вЂ” Х,) с, (2.15) где и, =(М, — (Х,+Хд72)' Х- (Х вЂ” Хт), (2.17) пт = 0 (Х' Е т (Х вЂ” Х ) $ Н„И"„) = (Ха— — х,) 2-'(х,— х1). 12.18) Аналогично Р(Н11Нм Ф ) =Ф((с — ар)/о), где аз = (Ма — (Х,+ Хз)/2)' Х-' (Ха — Хт), (2.18') (2.19) В предположениях (2.9), (2.14) с ростом объема обучающей выборки а„а„Ф сближаются со своими математическими ожиданиями и стремятся соответственно к пределам а,-р — У/2+( — )и+ Дз)/2, (2.20) где Х„Х, — обычные выбопочные средние для обучающих выборок из первой и второй совокупностей. Предположим для определенности, что Х извлечено из первой совокупности, и найдем условную вероятность ошибки классификации по правилу(2.15) при фиксированной обучающей выборке Р (Нз ( Н» Фт„) = 1 — Ф ((с — а,)/и), (2.16) Таблица 22 1,52 1,зо 1,14 1,06 1,03 1,01 1,00 18,85 5,78 2,45 1,44 1,20 1,!0 1,04 1!3,!4 !6,59 4,!2 1,77 1,30 1,16 1,06 1,49 1,3! 1.!7 1,07 1,04 1,02 1,0! 1,52 1,30 1,06 1,03 1,02 1,01 3,35 2,!О 1 б! 1,19 1,09 1,Об 1,02 а — -- О,бр л =р а.=.2р а — -5р а -!Ор а-:-20р а-:= 50р 2.3.2.
Распределения с независимыми блоками. Эти распределения введены в п.1.1.5. Они служат простейшей мо- аа-а.,)/2+( — Х,+ Х,)/2, (2.2!) оа — +- /+ ) ! + ).. (2.22) Из (2.20) — (2.22) видно, что асимптотическое значение сгмипимаксной ошибки классификации достигаегся при равных асимптотических ошибках первого и второго рода, т. е. при с- (Ха — Хт)~2, и са -~- Ф ( — У/2 ),/ 1- Х~ + )"а ) . (2.23) В проведенном выше рассуждении сразу от условной ошибки классификации перешли к асимптотической ошибке, не вычисляя в качестве промежуточного этапа ожидаемую ошибку классификации. Общая модель с матрицей Х, оцениваемой по выборочным данным, была изучена А.
Д. Деевым !55!. В предположении, что Х~ '+ ).:' ) 1, он показал, что для подсгановочного правила минимаксная ошибка классификации сг — ~Ф ( — 2 (1 — Х, Х,/(Х, +Хе)) !гз(2 1,7+ Х, + Ц ) (2 24) Как видно из сравнения формул (2.23) и (2.24), цена (в терминах и), которую приходится платить за р (р -1- !)!2 неизвестных параметров общей ковариационной матрицы, достаточно высока. Как уже сказано в п.
2.2.1, формулы Деева дают хорошую аппроксимацию даже при умеренных объемах обучающих выборок В этом можно убедиться непосредственно, сравнив данные табл. 2.! и 2.2. В табл. 2.2 приведены аснмптотические значения х,„= ЕР„,1Р для линейной дискриминантной функции, полученные по формуле (2.23), когда матрица известна, и (2.24) — в общем случае прн н,=на=05, делью негауссовских распределений.
Добавим к базовым предположениям (2.9) предположения, что размерность векторов Х<» и с><» в блоках ограничена р>, п>)(с(оо; (2.25) что значения соответствующих параметров в классифицируемых распределениях сближаются друг с другом: ~ 0~и> — 9<>п ~ ( с)'к'и, (2.26) н что суммарное расстояние между распределениями стремится к конечному пределу т,()-,7(с( оо, (2.27) где Ут = .о (9<'> — 9<'>) 1>, (0>)(0<,'> — 8<'>) и суммирова<,* ние проводится по всем 1, з, принадлежащим 1-му блоку; д>п((Х, 6) д>п((Х, 9) 111„,(6)/~ = ~! ) <„° <„~(Х, 6) р(<(Х)11 — информационная матрица Фишера 112, 9 8.2 — 8.31.
При выполнении условий (2.9), (2.25) — (2.27) и некоторых дополнительных условий регулярности в 11091 показано, что для подстановочного алгоритма справедлива формула (2.23). Более того, если в)-м блоке имеютсЯ тт Различающих и (т неизвестных, но общих обоим распределениям параметров, причем 1> ( с ( оо, и одна и та же оценка общих параметров подставляется в обе плотности, то (2.23) также имеет место.
Другими словами, О (р) общих параметров не ухудшают асимптотические свойства подстановочного алгоритма. Можно надеяться, что и в задаче фишера в случае, когда л зависит только от ср параметров и при оценке этот факт учитывается, (2.23) также будет справедлива. Эту гипотезу удалось доказать в случае древообразных распределений. 2.3.3. Модель Фищера в случае древообразных распределений. Если при древообразных (ДСЗ) распределениях с известной структурой зависимостей оценку Х проводить не по общей схеме, а с учетом структуры зависимостей, как указано в (12, п.
4.2.31, то согласно 177, 781 асимптотическая минимаксная ошибка модернизировашюго классификатора будет не(2.24), а (2.23), т. е. существенно меньше, Более того, известно, что при минимальных дополнительных предположениях древообразная структура зависимостей восстанавливается в асимптотике Колмогорова — Деева с точностью до несущественных связей с вероятностью 1 [12, и.
4.3 3 и 4,3.41, 2.3.4. Оцифровка градаций качественных переменных. Если в исследовании встречаются качественные переменные„ то для применения к ним общих линейных моделей дискриминантного анализа их градациям часто приписывают численные значения-метки и далее работают с этими оцифрованными переменными как с обычными числами.
При этом используются две стратегии: первая (универсальная) состоит в том, что каждая градация качественной переменной выделяется в новую двоичную переменную, принимающую два значения: О, если градация не осуществилась, и 1, если осуществилась (11, п. 10.2.4); вторая стратегия применяется тогда, когда качественные градации можно рассмат- !1 /2 !3 Рис.
2.2. Граиицы кваитоваиии и плотиости распределеиий в задаче об оцифровке качествеииых переиеииых ривать как результат квантования некоторой непрерывной случайной величины (ее математическая техника описана ниже). Наша ближайшая цель — сравнить на простейшей математической модели эффективность этих подходов в асимптотике растущей размерности. Математическая модель: рассматриваются два класса с независимыми переменными в каждом из классов. Пусть ры (дпн) — вероятность того, что ~'-я переменная в первом классе (соответственно во втором) принимает свое 1се значение, 1 = 1, ..., (е; < с < оо, и ры (дм) — оценки этих вероятностей по частотам на основании обучающих выборок.
Предположим, что существует такая известная функция б (г) с непрерывной первой производной; такие числа Л;— расстояния между функциями 6 для первого и второго классов; границы квантования с(м!, 1 = 1, ..., р; 1 = О, 1, ..., й!— — с = !(!в< и!х« ... д!а!=ос, такие, что Р ! = 6 (с(!! + йчУ2) — ~ (г(м-х+ А~!2)' дм = б (е(м — А~/2) — б (4(м х — А;/2). Это наглядно показано на рис. 2.2. 4 заказ !'а 29! Пусть далее выполняются следующие асимптотические (в асимптотике растущей размерности) предположения: л/~ с,(оо; (2,30) р, й, аи пз со; р1а/ — '/ Хд, р)пз «Хз,' Х(й/ — !)1л/ — «Хз, Е(й/ — 1)/лг-«Х,; (2.31) рц- дц~' с,~О; (2.32) Ац= рц — д//=б///т(п (пц пт), О'с. с < ~ Ь ') ( с4 ( оо (2.33) У„= ~ ~~~~ Мд(О,5(рц+дц))- Л . -оо, (2.34) / / Подготовительные вычисления по второй схеме гц = = (рц + дц у2, гсц — — 2/„, Ьц — — б (/тц) — 6 ()тц,), /</ ац = (/цlгц, Л~ = Х ац (рц — дц) /Х/ц а'ц.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
