Боровиков В.П. - Нейронные сети (778916), страница 9
Текст из файла (страница 9)
Каждый из студентов выбирает плащ наугад. Какова вероятность того, что хотя бы один из плащей попадет к своему прежнему владельцу? Эта вероятность, конечно, зависит от числа студентов. Для удобства переименуем все плащи в некотором порядке числами 1, ..., и. Соответствующими номерами снабдим и студентов, поэтому в наших обозначениях Я-й плащ принадлежит Я-му студенту. Обозначим событие А, состоящее в том, что Я-й студент взял именно свой плащ. Тогда событие А — «хотя бы один плащ попадает к своему прежнему владельцу» — является объединением событий А„..., А„: А = ДА».
Каждый элементарный исход «случайного разбора» плащей можно описать перестановкой чисел г„1„..., ю'„, где юя означает номер плаща, выбранного (Я вЂ” !)-м студентом. Подсчитаем вероятность пересечения событий А„, Ая ..., Ая . Указанное событие наступает, когда числа 1я, 1я,..., 1 принимают фиксированные значения: 1я = Я„1 = Я„..., гя = Я, а осгалъиые номера могут быть расположены в любом порядке. Поэтому имеем: ( я," я ) (я! — т)! я, и, " ° н = э где Ф(Ая ... А ) = (и — т)! — число всех возможных перестановок из и — т; Ф = и ! — число всех возможных перестановок из и; т — число фиксированных номеровюи, =Я„...,1я =Я„,. Различных событий вида А,, Ая ..., Ая насчитывается всего С» и.
! т!(и-т!) Именно столько различных групп Я„А„..., Я„, можно образовать из совокупности чисел 1, 2, ..., и. В силу этого получим: ;! Р(А,А,,...Ая )=С„" 1" и вероятность объединения событий по формуле (2.8) есть ! ~АЯ Р1 ~2 ~3 ря ' "~~и 1 + и 1 1 1 1 2! 3! 4! и! 52 Гпава 2.
нввовнив в теорию ввроавносювй Искомая вероятность Р(А) совпадает с частичной суммой ряда в разложении функции 1 — е" при х = -1: 1 1 1 1 1-е =1- — + — — — —... 1 — ~... 2! 3! 4! и) Таким образом для больших и Р(А)=1-е ', где е = 2,78... — константа Эйлера.
Усповные вероятности и формула Байеса 1. Реальные события связаны (зависнмы) между собой, теория вероятностей дает гибкий язык, позволяющий описать эту зависимость. Классическая математика не обладает таким языком и именно зто дает силу теории вероятностей.
Простейшим примером связи событий А и В может служить следующее: наступление предшествует наступлению события А или наступление В исключает возможность осуществления А. В теории вероятностей зависимость события А от события В описывается условной вероятностью Р(А!В) события А при условии В: (2.9) Р(А!В) = Р(В) В числителе этой формулы стоит вероятность пересечения событий А н В событий, в знаменателе вероятность события В.
Конечно, мы предполагаем, что вероятность события В является положительной (событие наступает с положительной вероятностью). Условная вероятность — ключевое понятие теории вероятностей. Величина Р(А!В) может рассматриваться как вероятность осуществления А при условии наступления В. Если события А и В независимы, то условная вероятность события А прн условии В равна безусловной вероятности события А. Упражпепне. Сделайте паузу н потратьте некоторое время на осмысление условной вероятности. Формула условной вероятности связывает события между собой. Так как в реальном мире события связаны друг с другом, то условная вероятность играет важную роль.
Теория вероятностей дает гибкий язык для описания мира случайностей. Поясним условную вероятность на примерах. 53 Нейронные сети. ЯТАТ18Т!СА Неига! Меаггогне Рассмотрим опыт с конечным числом равновероятных элементарных исходов ш Пусть У вЂ” число всех элементарных исходов, Ф(В) — число тех из них, которые приводят к наступлению события В, а Ф(АВ) — число тех элементарных исходов, которые приводят к осуществлению и события А, и события В.
В этом случае вероятности событий В и АВ суть Р(В) = ( и Р(АВ) = У гт' так что условная вероятность Р(А ~В) выражается следующей формулой: Р(А~В) = ~(АВ), Ф(В) (2.10) Р Ф(А) Ф равенство (2.10) определяет вероятность события А в новых условиях, которые возникают при наступлении события В, Условные вероятности обладают всеми свойствами обычных вероятностей 0 < Р(А ~В) < 1. Если наступление события В исключает возможность осуществления А(АВ =Я), то Р(А)В) = О. Если событие В ведет к обязательному осуществлению события А(В с А), то Р(А~В) =1.
Если событие А есть объединение непересекщощихся событий л„л„...(л =ил,) г Р(А ~В) = ~' Р(Асс ~В). 54 где Дг(В) — число всех элементарных исходов гс, возможных при условии наступления события В; У(АВ) — число тех из них, которые приводят к осуществлению события А. В соответствии с общей формулой Гпввв 2. Введение в теорпю вероне~носе~во Действительно, если АВ = Я, т.е. события А и В являются непересекшощимися, то Р(АВ)=0, откуда и Р(А~В)=0; сели В ~А, то АВ =В и Р(АВ) = Р(В), что равносильно равенству Р(л)В) = 1; если событие А есть объединение непересекающихся событий А„А„..., то произведение АВ является объединением непересекающихся событий А,В, А,В, ... и, согласно обшей формуле (2.1), Р(ЛВ)=У Р(ЛлВ), откуда и вытекает указанный выше закон сложения условных вероятностей. При нахождении вероятности того или иного события А бывает удобным сначала считать осуществившимся подходящее событие В и определить условную вероятность Р(А ~ В) как вероятность А в новых условиях.
Если имеется некоторая полная система несовместных событий В = „„..., таких, что хотя бы одно из них обязательно осуществится, то вероятность Р(А) события А выражается через условные вероятности Р(А ~ В) при помощи следующей формулы: Р(Л)= С, Р(Л!В„)Р(Вл). л Эта формула называется формулой полной вероятности, Всроятность называется полной, потому что система множеств В полная (какое-то одно из этих событий обязательно осуществится). Эту формулу легко доказать с помощью правил сложения вероятностей. Действительно, объединение событий В = „„... по условию является достоверным собьггисм: Дв„=а.
л Следовательно, А =АЦВ„Р(А)= ~ Р(АВ„)=У' ( л)Р(Вл). н л л Р(В ) В качестве следствия приходим к формуле Р(в (А) = Р(А~В )Р(В')I ~~.Р(А ~вл)Р(вл ). л Это и есть знаменитая формула Байеса. Вероятности Р(в, ) называются анриорными вероятностями, т.е. вероятностями до проведения опыта. Вероятности Р(В, ~А) называются апостериорными вероятностями события В, т.е. вероятностями после проведения опыта — наступления А. 55 Неарснные свпа. ЗТАТ!ЗТ!СА Неига! Не!асгхс Понятие условной вероятности и формула Байеса являются ключевыми в теории всроятностей, именно на использовании этих формул основаны многие нетривиальные результаты. Мы осознаем эти формулы на нескольких примерах, а потом применим к построению оптимального байссовского классификатора, играющего важную роль в теории нейронных сетей.
Рассмотрим вначале следующие занимательные задачи на использование формулы полной вероятности и формулы Байсса. Задача 1. Представим путника, идущего из некоторого пункта О и на разветвлении дорог выбирающего наугад один из возмокщых путей. Схема изображена на рис. 2. 2, где указан также некоторый пункт А и ведущие в пего пути. Какова вероятносп того, что пугник попадет в конечный пункт? Рис. 2,2. Дороги пугпика Как вы видно из рисунка, путь обязательно проходит через один из промежуточных пунктов В В В В4 Обозначим через Вс событие, состоящее в том, что при своем движении он попадет в пункт В„.
События „„„В4 образуют полную систему. Очевидно, зти события равновероятны, так как по условию путник выбирает один из путей совершенно наугад. Таким образом, Р(В„) = 1/4. При условии, что путник попадет в В„он может прийти в А, лишь выбрав одно из трех равновероятных направлений движения из пункта В„ так что условная вероятность прийти в А при условии В, равна 1/3. Если обозначить через А событие, состоящее в том, что странник приходит в пункт А, то, как было сказано, Р(А~В, ) = 1/3. Аналогично: Р(А~В,) =1/2, Р(А~В,) =1, Р(А~В4) = 2/5. По формуле полной вероятности получим: Р( и)=Р(А~В,)Р(В,)+РОВ )Р(В,)+Р(А1В,)Р(В,)+ +Р(А1В )Р(В,)= — ~ — + — +1+ — ~= —. 1/ 1 1 21 б1 41,3 2 5~ 120 Глава 2.
Введение в теорию веронтностеа Вы видите, что вероятность чуть больше 0,5. Эту задачу лсгко обобщить на посститслсй супермаркета или на просмотр страниц Интсрнст-сайта и т.д. Задача 2. Пусть имеется лве монеты: правильная — с вероятностью выпадения герба равной вероятности выпадения решки, имеющей значение 0,5, н неправильная — с вероятностью выпадения герба равной 0,1. Вы производите опыт: берете наугад одну монету и подбрасываете сс. У вас выпадаст герб.
Спрашивается: какова вероятность того, что монета нсправильная? Прежде чсм решить задачу, осмыслим сс. Очевидно, выпадение герба отклоняет вас от предположения, что монета неправильная, при имсющейся информации большс шансов за то, что монета правильная. Для того чтобы обосновать решение, нам нужно вычислить апостсриорпую всроятность события — выбрана нсправилъная монста при условии, что выпал горб. Обозначим эту вероятность через Р(НП)Г).
Формально имеем: Р(НП~Г) = Р(НП)Р(Г!НП)/ Р(НП)Р(Г)НП)+Р(П)Р(Г)П)), где Р(НП) — вероятность того, что выбрана неправильная монета; Р(П) — псроятность того, что выбрана правильная монета. Буквой П вЂ” обозначена правильная монета, НП вЂ” неправильная монета, à — герб. По условию задачи мы можем выбрать правильную и неправильную монету равновероятно, следовательно Р(НП) = Р(П) = 0,5. Далее, вероятность выпадения герба при условии, что монета нсправильная, равняется Р(Г)НП) =0,1. Вероятность выпадения герба при условии, что монста правильная, Р(Г)П) =0,5.
Поэтому по формуле Байсса имеем: Р(НП(Г) = О 5. О 1/ (О 5 О 1+0 5 О 5) = О 05/ (О 05+ 0 25) = О 15. Далсс вычисляем: Р(П)Г) =1-Р(НП)Г) =0,85. Итак, до опыта (до броска монсгы) вероятности равны. После опыта вы можете с всроятность 0,85 утверждать, что держите в руках правильную монсту.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
