_учебник_ Теория вероятности. Н.И. Чернова. 2007 (_учебник_ Теория вероятности. Н.И. Чернова. 2007.pdf), страница 8
Описание файла
PDF-файл из архива "_учебник_ Теория вероятности. Н.И. Чернова. 2007.pdf", который расположен в категории "". Всё это находится в предмете "(ммо) методы машинного обучения" из 10 семестр (2 семестр магистратуры), которые можно найти в файловом архиве МГУ им. Ломоносова. Не смотря на прямую связь этого архива с МГУ им. Ломоносова, его также можно найти и в других разделах. .
Просмотр PDF-файла онлайн
Текст 8 страницы из PDF
Пусть данаполная группа событий H1 , H2 , . . . Тогда вероятность любого событияA может быть вычислена по формуле∞XP(A) =P(Hi ) P(A | Hi ).i=1Д о к а з а т е л ь с т в о. Заметим, что ∞∞SSA=A∩Ω=A∩Hi =(A ∩ Hi ),i=1i=1и события A ∩ H1 , A ∩ H2 , . . . попарно несовместны. Поэтому ∞ X∞∞XSP(A) = P(A ∩ Hi ) =P(A ∩ Hi ) =P(Hi ) P(A | Hi ).i=1i=1i=1Во втором равенстве мы использовали σ -аддитивность вероятностной меры (а что это ?), а в третьем — теорему 9 умножения вероятностей.§ 4. Формула Байеса7Т е о р е м а 12 (ф о р м у л а Б а й е с а). Пусть H1 , H2 , . . .
— полнаягруппа событий, и A — некоторое событие, вероятность которого положительна. Тогда условная вероятность того, что имело место событие Hk , если в результате эксперимента наблюдалось событие A,может быть вычислена по формулеP(Hk ) P(A | Hk )P(Hk | A) = P∞.P(Hi ) P(A | Hi )i=1Д о к а з а т е л ь с т в о. По определению условной вероятности,P(Hk | A) =P(Hk ∩ A)P(Hk ) P(A | Hk ).= P∞P(A)P(Hi ) P(A | Hi )i=1П р и м е р 33. Вернёмся к примеру 32. Изделие выбирается наудачу из всей произведённой продукции. Рассмотрим три гипотезы: Hi == {изделие изготовлено i -м заводом}, i = 1, 2, 3. Вероятности этих событий даны: P(H1 ) = 0,25, P(H2 ) = 0,35, P(H3 ) = 0,4.Пусть A = {изделие оказалось бракованным}. Даны также условныевероятности P (A | H1 ) = 0,05, P (A | H2 ) = 0,03, P (A | H3 ) = 0,04.7Thomas Bayes (1702—17.04.1761, England).42ГЛАВА III.
УСЛОВНАЯ ВЕРОЯТНОСТЬ И НЕЗАВИСИМОСТЬУбедитесь, что полученные нами в примере 32 вероятности совпадают с вероятностями, вычисленными по формуле полной вероятности и поформуле Байеса.Вероятности P(Hi ), вычисленные заранее, до проведения эксперимента, называют априорными вероятностями (a’priori — «до опыта»). Условные вероятности P(Hi | A) называют апостериорными вероятностями(a’posteriori — «после опыта»). Формула Байеса позволяет переоценить заранее известные вероятности после того, как получено знание о результатеэксперимента.
Эта формула находит многочисленные применения в экономике, статистике, социологии и т. п.П р и м е р 34. Два стрелка подбрасывают монетку и выбирают, кто изних будет стрелять по мишени (одной пулей). Первый стрелок попадаетпо мишени с вероятностью 1, второй стрелок — с вероятностью 10−5 .Можно сделать два предположения об эксперименте: H1 — стреляет1-й стрелок (выпал герб) и H2 — стреляет 2-й стрелок (выпала решка).1Априорные вероятности этих гипотез одинаковы: P(H1 ) = P(H2 ) = .2Как изменятся вероятности гипотез после проведения опыта? Рассмотрим событие A — пуля попала в мишень.
Известно, чтоP(A | H1 ) = 1,P(A | H2 ) = 10−5 .Вероятность пуле попасть в мишень равнаP(A) =11· 1 + · 10−5 .22Предположим, что событие A произошло. Тогда по формуле БайесаP(H1 | A) = 12P(H2 | A) = 121·112=≈ 0,999 99,11 + 10−5· 1 + · 10−521· 10−510−52=≈ 0,000 01.−511+10−5· 1 + · 102Попадание пули в мишень сделало выпадение герба в 105 раз более вероятным, чем выпадение решки.Г Л А В А IVСХЕМА БЕРНУЛЛИНа дне глубокого сосуда лежат спокойно n шаров.Поочерёдно их оттуда таскают двое дураков.Сие занятье им приятно: они таскают t минут,И, вынув шар, его обратно в сосуд немедленно кладут.Ввиду условия такого, сколь вероятность велика,Что первый был глупей второго, когда шаров он вынул k?В.
П. Скитович§ 1. Распределение числа успехов в n испытанияхО п р е д е л е н и е 16. Схемой Бернулли называется последовательность независимых в совокупности испытаний, в каждом из которых возможны лишь два исхода — «успех» и «неудача», при этом успех в одномиспытании происходит с вероятностью p ∈ (0, 1), а неудача — с вероятностью q = 1 − p.Под независимостью в совокупности испытаний понимается независимость в совокупности любых событий, относящихся к разным испытаниям. В испытаниях схемы Бернулли, когда с одним испытанием можносвязать только два взаимоисключающих события, независимость в совокупности испытаний означает, что при любом n независимы в совокупности события A1 = { успех в первом испытании }, .
. . , An = { успех в n -миспытании }. Эти события принадлежат одному и тому же пространствуэлементарных исходов, полученному декартовым произведением бесконечного числа двухэлементных множеств {у, н} :Ω = {(a1 , a2 , . . . ) | ai ∈ {у, н}}.Здесь буквами «у» и «н» обозначены успешный и неудачный результатыиспытаний соответственно.Обозначим через νn число успехов, случившихся в n испытаниях схемы Бернулли.
Эта величина может принимать целые значения от нуля44ГЛАВА IV. СХЕМА БЕРНУЛЛИдо n в зависимости от результата n испытаний. Например, если все nиспытаний завершились неудачей, то величина νn равна нулю.Т е о р е м а 13 (ф о р м у л а Б е р н у л л и). При любом k = 0, 1, . . . , nимеет место равенство:P(νn = k) = Cnk pk q n−k .Д о к а з а т е л ь с т в о. Событие A = {νn = k} означает, что в n испытаниях схемы Бернулли произошло ровно k успехов. Рассмотрим один изблагоприятствующих событию A элементарных исходов:(у, у, . .
. , у, н, н, . . . , н),|{z} |{z}kn−kкогда первые k испытаний завершились успехом, остальные неудачей. Поскольку испытания независимы, вероятность такого элементарного исходаравна pk q n−k . Другие благоприятствующие событию A элементарные исходы отличаются лишь расположением k успехов на n местах. Есть ровно Cnk способов расположить k успехов на n местах. Поэтому событие Aсостоит из Cnk элементарных исходов, вероятность каждого из которыхтакже равна pk q n−k .О п р е д е л е н и е 17.
Набор чисел Cnk pk q n−k , k = 0, 1, . . . , n называется биномиальным распределением вероятностей.§ 2. Номер первого успешного испытанияРассмотрим схему Бернулли с вероятностью успеха p в одном испытании. Введём величину τ со значениями 1, 2, 3, . . . , равную номеру первого успешного испытания .Т е о р е м а 14. Вероятность того, что первый успех произойдётв испытании с номером k ∈ N = {1, 2, 3, . . .}, равна P(τ = k) = p q k−1 .Д о к а з а т е л ь с т в о. Вероятность первым k − 1 испытаниям завершиться неудачей, а последнему — успехом, равнаP(τ = k) = P(н, . .
. , н, у) = p q k−1 .О п р е д е л е н и е 18. Набор чисел {p q k−1 , k = 1, 2, 3, . . . } называется геометрическим распределением вероятностей.Геометрическое распределение вероятностей обладает интересным свойством, которое можно назвать свойством «нестарения».§ 3. Независимые испытания с несколькими исходами45Т е о р е м а 15.
Пусть P(τ = k) = p q k−1 для любого k ∈ N. Тогда длялюбых неотрицательных целых n и k имеет место равенство:P(τ > n + k | τ > n) = P(τ > k).Если, например, считать величину τ временем безотказной работы (измеряемым целым числом часов) некоторого устройства, то данному равенству можно придать следующее звучание: вероятность работающемуустройству проработать ещё сколько-то часов не зависит от того момента, когда мы начали отсчёт времени, или от того, сколько уже работает устройство. Общепринятое название этого свойства — свойствоотсутствия последействия.Д о к а з а т е л ь с т в о. По определению условной вероятности,P(τ > n + k | τ > n) =P(τ > n + k, τ > n)P(τ > n + k)=.P(τ > n)P(τ > n)(7)Последнее равенство следует из того, что событие {τ > n + k} влечётсобытие {τ > n}, поэтому пересечение этих событий есть {τ > n + k}.Найдём для целого m > 0 вероятность P(τ > m) : событие {τ > m} означает в точности, что в схеме Бернулли первые m испытаний завершилисьнеудачами, т.
е. его вероятность равна q m . Возвращаясь к (7), получимP(τ > n + k | τ > n) =P(τ > n + k)q n+k= n = q k = P(τ > k).P(τ > n)qТеорема 15 доказана.§ 3. Независимые испытания с несколькими исходамиРассмотрим схему независимых испытаний уже не с двумя, а с бо́льшимколичеством возможных результатов в каждом испытании.П р и м е р 35. Игральная кость подбрасывается 15 раз. Найти вероятность того, что выпадет ровно десять троек и три единицы.Здесь каждое испытание имеет три, а не два исхода: выпадение тройки,выпадение единицы, выпадение любой другой грани. Поэтому воспользоваться формулой для числа успехов в схеме Бернулли не удаcтся.Попробуем вывести подходящую формулу. Пусть в одном испытаниивозможны m исходов: 1, 2, .
. . , m, и i -й исход в одном испытании случается с вероятностью pi , где p1 + . . . + pm = 1.Обозначим через P (n1 , . . . , nm ) вероятность того, что в n независимых испытаниях первый исход случится n1 раз, второй исход — n2 раз, ит. д., наконец, m -й исход — nm раз.46ГЛАВА IV. СХЕМА БЕРНУЛЛИТ е о р е м а 16. Для любого n и любых неотрицательных целых чиселn1 , . . . , nm , сумма которых равна n, верна формулаP (n1 , .
. . , nm ) =n!pn1 1 · . . . · pnmm .n 1 ! . . . nm !Д о к а з а т е л ь с т в о. Рассмотрим один элементарный исход, благоприятствующий выпадению n1 единиц, n2 двоек и т. д.:(1, . . . , 1, 2, . . . , 2, . . . , m, . . . , m).| {z }| {z } | {z }n1n2nmЭто результат n экспериментов, когда все нужные исходы появилисьв некотором заранее заданном порядке. Вероятность такого результатаравна произведению вероятностей pn1 1 ·. . .·pnmm . Остальные благоприятныеисходы отличаются лишь расположением чисел 1, 2, . .
. , m на n местах.Число таких исходов равно числу способов расположить на n местах n1единиц, n2 двоек, и т. д. Это число равноnnnnm23Cn 1 · Cn−n· Cn−n· . . . · Cn−n=11 −n21 −...−nm−1n!.n 1 ! . . . nm !Теперь мы можем вернуться к примеру 35 и выписать ответ: вероятность получить десять троек, три единицы и ещё два других очка равна 10 3 21415!1··,P (10, 3, 2) =·10! 3! 2!666так как вероятности выпадения тройки и единицы равны по 1 / 6, а вероятность третьего исхода (выпала любая другая грань) равна 4 / 6.§ 4. Теорема Пуассона8 для схемы БернуллиПредположим, нам нужна вероятность получить не менее семи успеховв тысяче испытаний схемы Бернулли с вероятностью успеха 0,003.
Вероятность этого события равна любому из следующих выражений, вычислитькоторые довольно сложно:1X000k=7C1k 000k1 000−k(0,003) (0,997)=1−6XC1k 000 (0,003)k (0,997)1 000−k .k=0Сформулируем теорему о приближённом вычислении вероятностииметь k успехов в большом числе испытаний Бернулли с маленькой вероятностью успеха p. Термин «большое число» должен означать n → ∞.Если при этом p остаётся неизменной, то вероятность получить любое8Siméon Denis Poisson (21.06.1781—25.04.1840, France).47§ 4. Теорема Пуассона для схемы Бернуллизаданное число успехов уменьшается до нуля. Необходимо чтобы вероятность успеха p = pn уменьшалась одновременно с ростом числа испытаний.
Но от испытания к испытанию вероятность успеха меняться неможет (см. определение схемы Бернулли). Поэтому нам придётся рассмотреть так называемую «схему серий»: если испытание одно, то вероятностьуспеха в нём равна p1 , если испытаний два, то вероятность успеха в каждом равна p2 и т. д. Вероятность успеха меняется не внутри одной сериииспытаний, а от серии к серии, когда меняется общее число испытаний.Т е о р е м а 17 (т е о р е м а П у а с с о н а). Пусть n → ∞ и pn → 0так, что npn → λ > 0. Тогда для любого k > 0 вероятность получитьk успехов в n испытаниях схемы Бернулли с вероятностью успеха pnстремится к величине λk e−λ / k! :P(νn = k) = Cnk pkn (1 − pn )n−k →λkk!e−λ .Д о к а з а т е л ь с т в о. Положим λn = npn .
По условию λn → λ > 0.Подставим pn = λn /n в формулу Бернулли:Cnk pkn (1 − pn )n−kkk λnCn knλn n−k1−nkn(n−1) . . . (n−k+1) λnλn n=1−kk!n|{zn }{z}|↓↓−e λ1==λn −kλk −λ1−−→e .k!|{zn }↓1(8)В соотношении (8) мы воспользовались тем, что λkn → λk и замечательным пределом (1 − λn /n)n → e−λ .n koλ−λО п р е д е л е н и е 19. Набор чиселe , k = 0, 1, 2, . . . называk!ется распределением Пуассона с параметром λ > 0.По теореме 17 можно приближённо посчитать вероятность получить неменее семи успехов в тысяче испытаний схемы Бернулли с вероятностьюуспеха 0,003, с вычисления которой мы начали.
Поскольку n = 1 000 «велико», а pn = 0,003 «мало», то, взяв λ = npn = 3, можно записатьприближённое равенство1−6Xk=0C1k 000k1 000−k(0,003) (0,997)≈1−6X3kk=0k!e−3 ≈ 0,034.(9)48ГЛАВА IV. СХЕМА БЕРНУЛЛИОсталось решить, а достаточно ли n = 103 велико, а pn = 0,003 мало,чтобы заменить точную вероятность на её приближённое значение. Дляэтого нужно уметь оценивать разницу между этими вероятностями.Следующую очень полезную теорему мы, исключительно из экономиивремени, доказывать не станем.Т е о р е м а 18 (уточнённая теорема Пуассона). Пусть A — произвольное множество целых неотрицательных чисел, νn — число успеховв n испытаниях схемы Бернулли с вероятностью успеха p, λ = np,Cправедливо неравенство XX λkX λkk kn−k2−λ −λ P(ν ∈ A)−Cp(1−p)−=een n 6 min(p, np ).k!k!k∈Ak∈Ak∈AТаким образом, теорема 18 предоставляет нам возможность самим решать, достаточно ли n велико, а p мало, руководствуясь полученной величиной погрешности.