А.С. Холево - Курс лекций по теории вероятностей (1120061), страница 2
Текст из файла (страница 2)
21.2. Строгое определение вероятности. Аксиоматика Колмогорова1.2.1. Основные определенияТеория вероятностиТеория множествДостоверное, невозможное событиеΩ, ∅A1 влечет A2A1 ⊂ A2nSA1 ∪ A2 ,AiA1 или(и) A2A1 ∩ A2 ,A1 и A2Выполняется A2 , но не A1Aii=1A1 ∩ A2 = ∅A1 и A2 несовместныне Ai=1nTA = {совокупность ω, не входящих в A}A2 \ A1 = A2 ∩ A1Определение. Пусть Ω — некоторое множество. Тогда назовем класс A ∈ 2Ω подмножеств Ω алгеброймножеств, если:1. Ω ∈ A ;52. A1 , A2 ∈ A =⇒ A1 ∪ A2 ∈ A и A1 ∩ A2 ∈ A ;3. A ∈ A =⇒ A ∈ A .Свойства алгебры множеств таковы:1. ∅ ∈ A ;2.
A1 , . . . , An ∈ A =⇒nSi=1Ai ∈ A ,nTi=1Ai ∈ A .Определение. Алгебра A называется σ-алгеброй, если выполнено условие:2′ . A1 , A2 , . . . ∈ A =⇒∞Si=1Ai ∈ A ,∞Ti=1Ai ∈ A .1.2.2. Вероятностное пространство и аксиомы КолмогороваОпределение. Вероятностное пространство — это тройка (Ω, A , P ), где Ω — пространство элементарных событий; элементы Ω называются элементарными событиями; A — σ-алгебра подмножеств Ω, элементыA называются событиями; P — числовая функция, определенная на A (P : A → R). Для A ∈ A , P (A) —вещественное число, которое называется вероятностью события A.Следующие свойства вероятности P на (Ω, A , P ) называются аксиомами Колмогорова.1.
P (A) > 0, ∀ A ∈ A ;2. P (Ω) = 1;3. Если A и B несовместные события (A ∩ B = ∅), то P (A ∪ B) = P (A) + P (B);4. Если B1 ⊃ B2 ⊃ . . . ⊃ Bn ⊃ . . . — убывающая последовательность событий, причемlim P (Bn ) = 0.n→∞∞TBi = ∅, тоi=1Пример 2.1. Дискретное пространство элементарных событий. Ω = ω1 , . .
. , ωn , . . . , A = 2Ω — класс всех∞PPподмножеств в Ω. Пусть дана последовательность p1 , . . . , pn , . . . , pn > 0,pn = 1. Тогда P (A) =pi .n=1i : ωi ∈AЗадача 1.5. Доказать, что это действительно вероятностное пространство. Это некоторое обобщениена счетные множества.Следствия аксиом Колмогорова:а. P (A) = 1 − P (A).Это следует из того, что A ∩ A = ∅, A ∪ A = Ω , откуда 1 = P (Ω) = P (A ∪ A) = P (A) + P (A).В частности P (∅) = 0.б. Монотонность: Если A1 ⊂ A2 , то P (A1 ) 6 P (A2 ).A2 = A1 ∪(A2 \A1 ) =⇒ P (A2 ) = P (A1 )+P (A2 \A1 ) > P (A1 ), так как A1 ∩(A2 \A1 ) = ∅, P (A2 \A1 ) > 0.
Отсюда, в частности, имеем P ∈ 0, 1 , так как ∅ ⊆ A ⊆ Ω.в. P (A1 ∪ A2 ) = P (A1 ) + P (A2 ) − P (A1 ∩ A2 ).Докажем это: A1 = (A1 ∩ A2 ) ∪ (A1 \ A2 ); по аксиоме 3 (A1 ∩ A2 ) ∩ (A1 \ A2 ) = ∅ имеемP (A1 ) = P (A1 ∩ A2 ) + P (A1 \ A2 ).(3)Добавим к обеим частям P (A2 ), и получим, чтоP (A1 ) + P (A2 ) = P (A1 ∩ A2 ) + P (A1 \ A2 ) + P (A2 ) = P (A1 ∩ A2 ) + P (A1 ∪ A2 ).(4)P (A1 ∪ A2 ) = P (A1 ) + P (A2 ) − P (A1 ∩ A2 ).(5)Откуда,Задача 1.6. Есть 2 кости. Какова вероятность того, что хотя бы на одной будет > 5 очков.Решение. Всего 6 × 6 = 36 элементарных событий, вероятность элементарного события равнаA1 = {на 1– ой кости > 5} , A2 = {на 2– ой кости > 5}, тогдаP (A1 ∪ A2 ) = P (A1 ) + P (A2 ) − P (A1 ∩ A2 ) =612 1245+−= .36 36 369136 .Пустьг. Конечная аддитивность: A1 , .
. . , An — попарно несовместные события, то есть (Ai ∩ Aj = ∅, i 6= j).nn PSТогда PAi =P (Ai ). Доказывается по индукции.i=1i=13∗ . σ-аддитивность: Пусть A1 , . . . , An , . . . — попарно несовместные события. Тогда справедливо равенство:P∞[n=1Это мы докажем ниже.∞ XAn =P (An ).n=11.2.3. Теорема равносильности систем аксиомТеорема 1.1. Система аксиом 1–4 (Аксиомы Колмогорова) равносильна системе аксиом 1, 2, 3∗ .∞S3, 4 ⇒ 3∗ Пусть A1 , .
. . , An — попарно несовместные события. Обозначим Bn =Ai — остаток ряда.i=n+1Тогда∞Si=1Ai = A1 ∪ . . . ∪ An ∪ Bn . Используя конечную аддитивность, получаемP(∞[(6)Ai ) = P (A1 ) + . . . + P (An ) + P (Bn ).i=1Ясно, что B1 ⊃ B2 ⊃ . . . ⊃ Bn ⊃ .
. . и∞Tn=1Bn = ∅ — это следует из того, что ω ∈∞Tn=1Bn ⇔ ω ∈ Bn для ∀ n ∈ N;значит ∃ i0 : ω ∈ Ai0 , но тогда ∀ n > i0 выполняется ω ∈/ Bn , так как события Ai попарно несовместны. Тогда∞∞SPиз 4 имеем P (Bn ) → 0 =⇒ P ( Ai ) =P (Ai ).i=1i=13∗ ⇒ 3 — очевидно.3∗ ⇒ 4 Рассмотрим B1 ⊃ . . . ⊃ Bn ⊃ . . .
иместны и Bn =∞S∞Tn=1Bn = ∅. Пусть An = Bn \ Bn+1 . Легко видеть, что An несов-Ak . Используя счетную аддитивность, получаемk=nP (B1 ) = P (∞[Ak ) =k=1∞XP (Ak ),P (Bn ) = P (k=1Значит, P (Bn ) — остаток сходящегося ряда∞Pk=1∞[Ak ) =k=n∞XP (Ak ).(7)k=nP (Ak ), и, следовательно, P (Bn ) → 0.
1.3. Условные вероятности. Формула полной вероятности. Формула Байеса1.3.1. Условная вероятностьПример 3.1. Пусть A — множество курящих, B — множество больных. Если эти множества пересекаются,то вводится понятие относительной частоты νn (B|A) = n(B∩A)n(A) . Если n ≫ 1, тоn(A) ∼ P (A) · n,n(B ∩ A) ∼ P (B ∩ A) · n =⇒ νn ∼P (B ∩ A).P (A)Определение. Пусть (Ω, A , P ) — вероятностное пространство.
Пусть A ∈ A и P (A) > 0. Тогда условнойP (B ∩ A)вероятностью B ∈ A при условии A называют P (B|A) :=.P (A)Замечание. Если B ⊂ A,то P (B|A) =P (B)P (A) .Если B ∩ A = ∅, то P (B|A) = 0.Пример 3.2. Распад радиоактивного атома. Пусть мы знаем, что:1. Вероятность того, что атом не распадется до t0 + t, при условии, что он не распался до t0 , зависит только от t и не зависит от t0 .2. Эта вероятность стремится к 1 при t → 0.7Найти закон распада.Решение.
A(t) := {Атом не распался до момента времени t}. Нам известно, что:1. p(t) = P (A(t + t0 )|A(t0 ));2. lim p(t) = 1.t→0A(t0 + t) ⊂ A(t0 ), поэтомуp(t + s) =P (A(t0 + t + s)) P (A(t0 + t))P (A(t0 + t + s))=·= p(s) · p(t) =⇒ p(t + s) = p(s) · p(t).P (A(t0 ))P (A(t0 + t))P (A(t0 ))(8)С учётом условия 2 получаем экспоненциальный закон распада. Определение. Семейство Ai {Ai ∈ A | i = 1, 2, . . . , n} называется разбиением Ω, если1.3.2. Формула полной вероятностиnFAi = Ω.i=1Теорема 1.2 (Формула полной вероятности). Пусть {Ai } — разбиение Ω, P (Ai ) > 0, B ∈ A . ТогдаP (B) =nXi=1P (B|Ai ) · P (Ai ).(9)B = B ∩ A1 ∪ . . . ∪ B ∩ An .
Так как {Ai } — разбиение Ω, то все (B ∩ Ai ) несовместны, поэтомуnnPPP (B) =P (B ∩ Ai ) =P (B|Ai ) · P (Ai ). Тут мы использовали формулу условной вероятности. i=1i=11.3.3. Формула БайесаТеорема 1.3 (Формула Байеса). Пусть {Ai } — разбиение Ω, P (Ai ) > 0, B ∈ A , P (B) > 0. Тогда выполняется:P (B|Ai ) · P (Ai )P (Ai |B) = P.(10)nP (B|Ak ) · P (Ak )k=1ИмеемP (Ai |B) =P (Ai ∩ B).P (B)(11)Применим формулу полной вероятности для P (B), а P (Ai ∩B) запишем как P (B|Ai )·P (Ai ). Тогда наша условнаявероятность запишется в виде:P (B|Ai ) · P (Ai )P (Ai |B) = P.(12)nP (B|Ak ) · P (Ak )k=1Пример 3.3.
Партия состоит из N1 + N2 + N3 изделий, выпускаемых соответственно 1-м, 2-м и 3-м заводами.Каждому заводу соответствует процент брака P1 , P2 , P3 . Наугад выбранное изделие оказывается бракованным.Найти вероятность pj того, что оно было выпущено j-м заводом.Решение. Пусть B = {Изделие бракованное}, Aj = {Изделие выпущено j-м заводом}. Тогдаpj = P (Aj |B) =Nj · Pj.N1 · P1 + N2 · P2 + N3 · P3(13)1.4. Независимость.
Схема БернуллиОпределение. События A, B ∈ A называются независимыми, если P (A ∩ B) = P (A) · P (B).Замечание. Названо так, потому что если A и B независимы и P (A) > 0, тогда P (B|A) = P (B), то есть Aне влияет на B.Замечание. Если A и B независимы, то A и B; A и B; A и B — тоже независимы.8Пример 4.1. Из колоды в 36 карт вытягивается 1 карта. A — вытянули пику; B — вытянули даму. Проверимзависимость A и B.11, P (A∩B) = 36, P (A) = 14 , P (B) =Решение. P (элементарного события) = 36откуда следует, что события A и B независимы. Случай нескольких событий A1 , .
. . , An :Определение. Попарно независимы: если Ai , Aj ( ∀ i, j; i 6= j) независимы.19=⇒ P (A∩B) = P (A)·P (B),Определение. Независимы в совокупности: ∀ Ai1 , . . . , Aik имеем P (Ai1 ∩ . . . ∩ Aik ) = P (Ai1 ) · . . . · P (Aik ).Задача 1.7. Покажем, что из попарной независимости не следует независимость в совокупности.Решение.
Пусть монета бросается 2 раза. Рассмотрим события A={в первый раз выпал орёл}, B={во второй раз выпал орёл}, C={орёл выпал ровно 1 раз}. Тогда P (A) = P (B) = P (C) = 12 , P (A ∩ C) = P (A ∩ B) == P (B ∩ C) = 14 , значит события A, B, C попарно независимы, но P (A ∩ B ∩ C) = 0, следовательно они не независимы в совокупности. Определение. Схема Бернулли: последовательность n одинаковых испытаний, в каждом из которых с вероятностью p происходит успех, а с вероятностью (1 − p) — неудача.Пример 4.2.
Пусть в мишень производится n независимых выстрелов. Какова вероятность попадания в мишень хотя бы 1 раз?Решение. Вероятность попадания в мишень будет P = 1 − (1 − p)n , так как (1 − p)n — вероятность промахаво всех выстрелах. Вероятностное пространство схемы Бернулли:«Успех»=1, «неудача»=0 =⇒ элементарное событие ω = (ω1 , . . . , ωn ), где ωi ∈ {0, 1}. Ω = {ω}, |Ω| = 2n ,mn−mA = 2Ω (то, где m — количество успехов в ω.P есть A — множество всех подмножеств Ω). P (ω) = p (1 − p)P (A) =P (ω). Обозначим событие Am ={в ω ровно m успехов}, тогда P (Am ) = Cnm pm (1 − p)n−m .
Это будетω∈Aбиномиальное распределение. Проверим корректность такого определения вероятности:nXm=0P (Am ) =nXm=0!Cnm pm (1 − p)n−m = (p + (1 − p))n = 1.(14)Переход «!» следует из формулы бинома Ньютона.1.5. Простейшие предельные теоремы1.5.1. Теорема БернуллиТеорема 1.4 (Бернулли (теор. аналог устойчивости частот)). Для любого ε > 0 существует пределmnolim P Am : − p < ε = 1,n→∞nгде n — число испытаний в схеме Бернулли, m — число успехов, p — вероятность успеха. Очевидно, чтоmmnonoP Am : − p < ε = 1 − P Am : − p > ε .nnТогда2n nmnoX! Xm − np1 XP Am : − p > ε =P (Am ) 6P (Am ) = 2 2(m − np)2 P (Am ).nεnεnm=0m=0m: |mn −p|>εm − p|m − np|nНеравенство «!» обосновано тем, что=> 1.εnεnnnnXXXX(m − np)2 P (Am ) =m2 P (Am ) −(2mnp)P (Am ) +n2 p2 P (Am ).m=0Рассмотримm=0nXm=0xm P (Am ) =nXm=0m=0!9(16)m=0Cnm xm pm (1 − p)n−m = (xp + 1 − p)n .Переход «!» следует из формулы бинома Ньютона.(15)(17)Продифференцируем по x и подставим x = 1:nXmCnm pm (1m=0n−m− p)= np ⇔nXmP (Am ) = np.(18)m(m − 1)P (Am ) = n(n − 1)p2 .(19)m=0Продифференцируем еще раз и снова подставим x = 1:nXm=0m(m − 1)Cnm pm (1 − p)n−m = n(n − 1)p2 ⇔nXm=0В итоге получаемnX(m − np)2 P (Am ) =m=0значит P m : mn −p > ε 6nXm=01ε 2 n2nlim P m :n→∞m2 P (Am ) −nPnX(2mnp)P (Am ) +m=0nXn2 p2 P (Am ) =m=022 2(20)2 2= n(n − 1)p + np − 2n p + n p = np(1 − p),p(1 − p)→ 0 при n → ∞, следовательноε2 n!mno1 − P m : − p > ε= 1.n(m − np)2 P (Am ) =m=0mo − p < ε = limn→∞n(21)Принцип малых вероятностей: событие малой вероятности следует рассматривать как невозможное приединичном испытании.1.5.2.