Лекция 4. Байесовский классиф_ линейн дискримин Фишера_ логистическая регрессия_ К-ближ соседей_ ROC-кривые (2014 Лекции (Сенько)), страница 3
Описание файла
Файл "Лекция 4. Байесовский классиф_ линейн дискримин Фишера_ логистическая регрессия_ К-ближ соседей_ ROC-кривые" внутри архива находится в папке "2014 Лекции (Сенько)". PDF-файл из архива "2014 Лекции (Сенько)", который расположен в категории "". Всё это находится в предмете "(ммо) методы машинного обучения" из 10 семестр (2 семестр магистратуры), которые можно найти в файловом архиве МГУ им. Ломоносова. Не смотря на прямую связь этого архива с МГУ им. Ломоносова, его также можно найти и в других разделах. .
Просмотр PDF-файла онлайн
Текст 3 страницы из PDF
. . γ1 (sm )γ2 (s1 ) . . . γ2 (sm )является матрицей оценок за классы K1 и K2 объектов из Set . Пустьγ(s1 ) = γ1 (s1) − γ2 (s1 ), . . . , γ(sm ) = γ1 (sm ) − γ2 (sm ).Предположим, что величины [γ(s1 ), . . . , γ(sm )] принимают r значенийΓ1 , . . . , Γr . Рассмотрим r пороговых решающих правил[C(Γ1 ), . . . , C(Γr )] Для каждого из правил C(Γi ) обозначим черезνc1 (Γi ) долю K1 среди объектов обучающей выборки,удовлетворяющих условию γ(s∗ ) ≥ Γi , а через νc2 (Γi ) обозначим долюK2 среди объектов обучающей выборки, удовлетворяющих условиюγ(s∗ ) < Γi .Сенько Олег Валентинович ()МОТП, лекция 429 / 35Распознавание при заданной точности распознавания некоторыхклассов.
ROC анализ.Отобразим результаты расчётов{[νc1 (Γ1 ), νc2 (Γ1 )] . . . , [νc1 (Γr ), νc2 (Γr )]}как точки на в декартовой системе координат. Соединив точкиотрезками прямых, получим ломаную линию (I), соединяющую точки(1,0) и (0,1). Данная линия графически отображает аппроксимацию пообучающей выборке взаимозависимости между pc1 (δ, s) и pc2 (δ, s) привсевозможных значениях δ . Соответствующий пример представлен нарисунке 2.Сенько Олег Валентинович ()МОТП, лекция 430 / 35Распознавание при заданной точности распознавания некоторыхклассов.
ROC анализ.Рис.2Взаимозависимость между νc1 и νc2 наиболее полно оцениваетэффективность распознающего оператора R. Отметим, что νc1постепенно убывает по мере роста νc2 . .Сенько Олег Валентинович ()МОТП, лекция 431 / 35Распознавание при заданной точности распознавания некоторыхклассов.
ROC анализ.Однако сохранение высокого значения νc1 при высоких значениях νc2соответствует существованию решающего правила, при которомточность распознавания обоих классов высока. Таким образомэффективному распознающему оператору соответствует близостьлинии I к прямой, связывающей точки (0,1) и (1,1). То есть наиболеевысокой эффективности соответствует максимально большая площадьпод линией I.
Отсутствию распознающей способности соответствуетблизость к прямой II, связывающей точки (0, 1) и (1,0).На рисунке 3сравниваются линии, характеризующие эффективность распознающихоператоров, принадлежащих к трём методам распознавания, прирешении задачи распознавания двух видов аутизма попсихометрическим показателям .Сенько Олег Валентинович ()МОТП, лекция 432 / 35Распознавание при заданной точности распознавания некоторыхклассов. ROC анализ.Рис.3- линейный дискриминант Фишера;- метод опорных вектор;- статистически взвешенные синдромы.Сенько Олег Валентинович ()МОТП, лекция 433 / 35ROC анализ.Методы распознавания используются при решении многих задачидентификации объектов, представляющих важность дляпользователя.
Эффективность идентификации для таких задач удобноописывать в терминах: «Чувствительность» - доля правильнораспознанных объектов целевого класса «Ложная тревога» - доляобъектов ошибочно отнесённых в целевой класс. Пример кривой,связывающей параметры «Чувствительность» и «Ложная тревога»представлен на рисунке 4. Анализ, основанный на построении ианализе линий, связывающих параметры «Чувствительность» и«Ложная тревога» принято называть анализом Receiver OperatingCharacteristic или ROC-анализом. Линии, связывающих параметры«Чувствительность» и «Ложная тревога» принято называтьROC-кривыми.Сенько Олег Валентинович ()МОТП, лекция 434 / 35ROC анализ.Рис.4.
Пример ROC кривойСенько Олег Валентинович ()МОТП, лекция 435 / 35.