Фукунага - Введение в статистическую теорию распознования образов (1033985), страница 10
Текст из файла (страница 10)
— 2 915 — 0,622 3,2!4 5,$16 2 232 2,425 2,191 1,784 1,030 1,803 2,081 3,806 4,736 5,684 4.058 4.523 6,117 1,821 1,109 1,289 2,311 1,273 1.328 2,525 1,321 1.501 4,432 2.481 2,179 2,134 2,325 4,099 1.029 1.151 1,274 1,080 1.И 7 2,019 1,872 ГЛ, 2, СЛУЧАЙНЫЕ ВЕКТОРЫ И ИХ СВОЙСТВА $. Вид распределения — нормал>*ное распрвделение. 2. Размерность пространства — 8. 3. Число классов —. 4. 4. Число объектов одного класса — 200 (если не оговорено особо, то генерируется 200 объектов одного класса в соответствии с распре»еле>т»ем, имеющим перечисленные ниже параметры). 5. Параметры распределения ЗАДАНИЕ НА СОСТАВЛЕНИЕ ПРОГРАММ Составьте следу>ощие программы: 2.$. Генерирование 200 об>ъектов в соответствии с нормальным распределением с заданными параметрами.
Исходные даннь>е. 'стандартные данные > = 1. 2.2. Вычисление вектора математического ожидании, ковариационной, автокоррелнционной н коррелнционной матриц. Исходные даннйе: 200 объектов, полученных ио программе 2.1. 2.3. Вычисление расстояния между Х и М; по формуле (2.54). Вычисление значений плотности веронтности и функции распределения вероятностеи В точке Х. Исходные данные: стандартные данные > = 1. 24. Вычисление собственных значений н собственных векторов ао>окоррелнционной и ковариацнонной матриц.
Исходные данные: стандартные данные > = 1. 2.5. Получение некоррелированных стандартных данных (декоррелирувзщее преобразование) > = 1. 2.6. 11роведенне одновременяой диагонализзции по стандартным данным 1=1,2. 2А. Пусть х> и к — независимые случайные величины, причем величи на к, равномерно распределена в интервале ме>кду 1 и 3, а величина хз— между 2 и 4. Определено три собь>тин: А = (1 < к, <2, 2 =. кз < 4), В = (1 < к, < 3, 2 < кз -" 3), С = ((к> — 2)' + (х — 3)' =" 1). Вычислите следующие величннь>'. а) Е'г(( — А)С), б) Р(2,3(С), е) Е(к,/В), г) ср (>о), д) Рг(хз ( к,).
2.2. В телеграфном канале свнзн знаки передаются с вероятностью 0,4, а паузы — с вероятностью 0,6. Вследствие атмосферных возмущений знаки с веронтпостью- О,(>О! приних>аютсн в виде пауз, а паузы с вероятностьЮ до 0,002 — в виде знаков. Вычислите веронтность того, что при передаче конкретного символа возникла ошибка. 2.3. Вычислите вектор з>атсз>атического оз>гиданин, коварнацнонную, автокоррелнцнониую и коррелнционную матрпць> следующих данных: = [2 $]т Х, = [3 2]' Хз — — [2 3]т Х = [! 2]т 24. Докажите следу>ощие равенства: 2.5. Пусть к>, ..., к,00 — сто взаимно независимых случайных величин, одинаково распределенных по нормальному закону со средним т! = 4 и дисперсией и = 2.
Определите плотность веронтности вьпюрочного среднего к (х> + х2 + ° ° ° + к>00)($0т>. 2.6. Найдите математическое озкидание н дисперсию случайной величиззь>, заданной выражением з= ~~х,, где х; — взаимно независимые, одинако1=> >во распределенные случайные величинь> и и — случайная величина (в та>ком случае в называют случайной суммой).
56 р. (х) = — (а./л)(а~ + хг). Глава Я ПРОВЕРКА ГИПОТЕЗ 5 3.1. Проверка простых гипотез (оз, Р (шт! Х) ~ Р (озг/Х) — ~- Х е= ~ ~ш., гл. з. случлпнын внктогы и их своиствл 2.7. Пусть случайные величины х~ являются независимыми, распределенными по закону Коши, с плотностью вероятности Найдите плотность вероятности выражения х, + хг +...
+ х„, У к а з а н и е: используйте характеристические функции. 2.8. Сл учайные величины х; независимы и равномерно распределепги в интервале ((), Т). Вычислите и вычертите график плотности вероятности выражения х, + хг+ хг и проанализируйте результат с точки зрения центральной предельной теоремы. 2.Ч. Укажите процедуру для преобразования двух симметрических маг1иц ()~ и (~г в две диагональные матрицы (1+Л)/2 и (1 — Л)/2. 2.10. Пусть ~ — матрица, определяемая выражением () = а,ЛХ,ЛХ ~~ + т + агЛХгМ з, где М, и ЛХг — векторы, а а, и аг — константы. а) Докажите, что ранг матрицы (~ равен 2. б) Вычислите собственные значения матрицы ~, используя результат п.
а). в) Вычислите определитель матрицы (~, используя результат и. а). 2.11. Смесь двух распределений с помощью линейного преобразования нормируется следующим образом: (~е1) (~1+ 1 $) + ( г)( г+ г'Х') ~ т Р (в,) Мт + Р (вг) ЛХг => О. а) Вычислите (Р(о,) Х~ + Р(вг) Хг) — '. б) Вычислите (Мг — ЛХ~) '~Р((о~)Х, + Р(о~г)Хг] '(ЛХг — М~).
в) Вычислите (Р(ы,)Х~+Р(о~г)~г~. Цель распознавания образов состоит в том, чтобы определить, к какому классу принадлежит данный объект. В процессе наблюдения или измерения получают множество чисел, которые составляют вектор наблюдений. Этот вектор служит входом рошающего правила, с помощью которого оп может быть отнесен к одному из заданных классов. Предположим, что вектор наблюдений представляет собой случайный вектор с условной плотностью вероятности, зависящей от принадлежности этого вектора к определенному классу. Если условная плотность вероятности известна для каькдого класса, то задача распознавания образов становится задачей статистической проверки гипотез. В этом параграфе мы рассмотрим задачу проверки гипотез ю для случая двух альтериатив. Такая задача возникает, когда множество классов, к которым может принадлежать данный объект, состоит лишь из двух классов оз~ и озг.
Условные плотности вероятности и априорные вероятности предполагаются известными. 3.1А. Байесовское решающее правило, минимизирующее ошибку решения. Пусть Х вЂ” вектор наблюдений и задача заключается в том, чтобы определить его принадлежность классу оз~ или озг.
Решающее правило, основанное непосредственно на вероятностях, можно записать следующим образом: Апостериорные вероятности Р(а<~Х) можно вычислить с помощью теоремы Байеса по априорным вероятностями Р(оз~) и ус- 58 $3.!. пРОВеРкл пРОстых гипотез ГЛ. 3. ПРОВЕРКЛ ГИПОТЕЗ (3.2) (3.3) или р ( Х,'г), ) » Р (!)2) р(Х/го ) ~ Р(го,) Рга д! Р!ь, ) е, = ) р(1,~,) р!, о (3,8) е2 ( р1~'~~-"~~' (3 0) Р(ь,ИР(с,) (!о ! Я1П ' — ).Хе=) (т~!2) !О)г (3.10) ловным плотностям р(Х/о,), т. е. Р(е),./Х) = р (Х) Так как в обе части неравенства (3.1) входит о)гна и та же плотность вероятности р(Х), то решающее правило (3.1) можно записать в виде (О! р (Хгю,) Р (о,)» р (Х/ю2) Р (ко2) )- Х ~ 2 Величину 1(Х) называют отношением правдоггодобия. Это отношение является основной величиной, используемой в теории проверки гипотез.
Величину Р(ю2)/Р(ю!) называют пороговым значением отношения правдоподобия для данного решающего правила. Иногда вместо отношения правдоподобия 1(Х) удобно использовать величину — 1П1(Х). В этом случае решающееп авило (3.4) примет вид р — 1п1(Х) = 1" р(~М) + 1" р(Х/!»2) 1п(~ (®Ф (о)г)) Х ~ 4 ° (3 5) (И2 Направление неравенства изменилось, потому что использов»- лось отрицательное значение логарифма. Уравнения (3.4), нли (3.5), называют байесовским критериелг, минилгизирующим ошибку решения. Обычно решагощее правило (3.5) пли любое другое решающее правило пе обеспечивает безошибочной классификации. Поэтому длп того, чтобы оценить качество решагощего правила, необходимо вычислить вероятность огиибки, т. е.
вероятность того, тпо объект ошибочно относится и данному классу. Определим области Г! и Г2 так, что Х~ Г), если Р(а)/Х) > Р(о2/Х), и Х~ Г2, если Р(о)/Х) ( Р(г»2/Х). Тогда, если Х~ Г<, то объект Х будем относить к классу !о. Вероятность ошибки решения можно вычислить следугощим образом: е = Рг (оитбка) = Рг (ошибка/а!')Р(а)!) + + Рг (ошибка/а2) Р (о2). (3.6) Если объект принадлежит классу о), то ошибочное решение имеет место, когда Х ~г- =Г2. Аналогично, если объект принадлежит классу а2, то ошибочное решение имеет место, когда Х ~ Г!.
Таким образом, вероятность ошибки Р ~ ~ Г2 !)!) Р(»),) + Рг(Х е= Г ~О) ) ( ) Р(...) 1р(Х'"',) АХ+ Р(. 2) 1р(Х/.,) аХ = гз г, = Р (ю,) е + Р (о).,) е,. (3.7) Следует различать два типа ошибок: один появляются кап результат неправильной г;лассификации объектов класса о), а другие возникают пз-за неправильной классификации объектов класса о2. Общая ошибка определяется как взвешенная сумма этих ошибок. Как будет показано в следугощем параграфе, вычисление вероятности ошибочного решения сводится по существу к интегрированию плотности распределения вероятностей в и-мерном пространстве.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
