Очень краткая теория

Опр: Класс наз. -алгеброй, если 1. A влечет \A. 2. A_i, i=1,2,… влечет A_i, A_i.

Опр: Тройку (,,P), где - пр-во элементарных событий, - -алгебра подмножеств , называемых событиями, P – числовая функция, определенная на событиях и называемая вероятностью, будем называть вероятностным пространством, если выполнены след. аксиомы:

1^o. P(A)0 для всех A. 2^o. P()=1. 3^o. Если A_iA_j=, то P(A_n)= P(A_n).

Свойства вероятности:

1). Если AB, то P(B\A)=P(B)-P(A).

Т.к. B=A+(B\A) и A(B\A)=, то по аксиоме 3^o P(B)=P(A)+P(B\A).

2). Если AB, то P(A)P(B). Следует из 1)

3). Для A 0P(A)1. Следует из 2), т.к. A.

4). P(\A)=1-P(A). Следует из аксиомы 3^o, т.к. A+A=, AA=.

5).P()=0. Следует из 4) и аксиомы 2^o.

6). Конечная аддитивность: если A_iA_j=, ij, то P(₁ⁿA_k)= ₁ ⁿP(A_k) Следует из аксиомы 3^o, док-ся по индукции.

7). Для событий A₁,…,A_n P(A_k) P(A_k).

Представим _k=1ⁿA_k в виде суммы попарно несовместных событий B_k=A_k\(A₁…A_k-1): _k=1ⁿA_k= _k=1ⁿB_k. По св-ву аддитивности 6) имеем P(A_k)=P(B_k), откуда 7) т.к. P(B_k)P(A_k).

8). Для событий A и B P(AB)=P(A)+P(B)-P(AB). Следует из AB=A+(B\AB), аксиомы 3^o, и св-ва 1).

Опр: Пусть P(B)>0. Условной вероятностью P(A|B) события A при условии, что произошло событие B, наз. отношение P(A|B)=P(AB)/P(B).

Теорема умножения: P(AB)=P(B)P_B(A).

Опр: События A и B наз. независимыми, если P(AB)=P(A)P(B).

Опр: Систему событий A₁,…,A_n будем называть разбиением, если они попарно несовместны и A₁+…+A_n=.

Теор (Формула полной вероятности): Если A₁,…,A_n – разбиение и все P(A_k)>0, то для события B имеет место формула P(B)=P(A_k)P(B|A_k).

Док-во: B=B=BA₁+…+BA_n – сумма попарно несовместных событий, поэтому P(B)=P(BA_k). Далее по т. умножения.

Теор (Формулы Байеса): Если справедлива ф. полной вер-ти и P(B)>0, то P(A_k|B)=^P(Ak)P(B|Ak)/_P(Ai)P(B|Ai)^.

Док-во: По т. умножения P(A_kB)=P(A_k)P(B|A_k)=P(B)P(A_k|B). Откуда выразить P(A_k|B) и далее по ф. полной вероятности.

Опр: Испытание – некоторое вероятностное пространство.

Пусть даны n испытаний, т.е. даны вероятностные пр-ва (₁,₁,P₁),…, (_n,_n,P_n). Если эти вероятностные пр-ва есть модели некоторых причинно независимых испытаний, то -алгебры ₁,…,_n должны быть независимыми. Но для того чтобы иметь возможность говорить о теоретико-вероятностной независимости, мы должны рассматривать _i как -подалгебры -алгебры одного общего вероятностного пр-ва (,,P). Пусть (_i,_i,P_i) – конечное вероятностное пр-во, _i={_i}, _i состоит из всех подмножеств _i, а вероятность P_i(A)=p_i(_i) задается с помощью вероятностей элементарных событий p_i(_i), _ii. Построим прямое произведение вероятностных пространств (,,P), полагая =₁…_n, точки которого есть векторы =(₁,…,_n) с компонентами _ii, i=1,…,n, - алгебра всех подмножеств , p()=p₁()…p_n(), P(A)=p().

Построенная так вероятность P наз. прямым произведением вероятностей P_i и обозначается P=P₁…P_n. =₁…_n есть прямое произведение алгебр.

Частный случай независимых испытаний, с двумя исходами в каждом из испытаний, строится след. образом. Пусть вероятностные пр-ва таковы, что _i={0,1}, _i={,{0},{1},_i}, p(0)=p, p(1)=q, p+q=1. Тогда в прямом произведении (,,P) имеем ={}, =(₁,…,_n), _i=0,1, p()=pⁱq^1-i. Построенная схема независимых испытаний наз. схемой Бернулли. Обычно она трактуется след. образом. Пусть некоторый исход A, который наз. успехом, может произойти при каждом испытании с одной и той же вероятностью p; \A (неуспех) с q=1-p. В элементарном событии =(₁,…,_n) имеем _i=1, если при i-м испытании произошел успех, и _i=0 в противоположном случае. Обозначим B_k={:₁+…+_n=k} событие, состоящее в том, что при n независимых испытаниях в схеме Бернулли произошло ровно k успехов.

P(B_k)=C_n^kp^kq^n-k, k=0,1,…,n. – биномиальное распределение.

Опр: Случайной величиной наз. действительная функция =(), такая что x {: ()<x}.

Введем вероятностное пр-во.

1. (,,P), - минимальная -алгебра. Такое вер-ное пр-во наз. порожденным сл. величиной .

2. (R,,P) – новое вер. пр-во, где A, P(A)=P(^-1(A))=P(B). Такое вер. пр-во наз. индуцированным вер. пр-вом.

Опр: Функция F(x)=P(x) действительной переменной x, -<x<, наз. функцией распределения случайной величины .

Функция распределения F(x) обладает след. свойствами:

1. Если x1x2, то F(x1)F(x2). (F(x) не убывает) 2. F(-)=0. F(+)=1.

3. lim_xx0-0F(x)=F(x0). (F(x) непрерывна слева)

Закон распределения сл.в. наз. дискретным, если конечное или счетное мн-во чисел x₁,…,x_n,… таких что P(=x_n)=p_n>0, n=1,2,… p_n=1. Дискретный закон распределения полностью определяется указанием значений x_n, n=1,2,… и вероятностей p_n, с которыми эти значения принимает сл.в. Случайная величина, имеющая дискретный закон распределния, тоже наз. дискретной.

Закон распределения наз. абсолютно непрерывным, если неотрицательная функция p(x) такая, что при любом x F(x)=P(x)=_-∫^xp(u)du. При этом p(x) наз. плотностью распределения.

Непрерывные функции распределения, не имеющие плотностей, наз. сингулярными.

Плотность распределения обладает следующими свойствами:

1. p(x)0, -<x<. 2. _-∫p(x)dx=1. 3. F’(x)=p(x) в точках непрерывности p(x).

Теорема Лебега о разложении функции распределения. Пусть - сл. вел. с функцией распределения F(x), тогда ! F_ac(x), F_s(x), F_d(x) соответственно абс. непр., сингулярная и дискретная ф. распр. и числа p₁,p₂,p₃, p_i0, p₁+p₂+p₃=1 такие, что F(x)=p₁F_ac(x)+p₂F_s(x)+p₃F_d(x). (единств-ть тогда, когда соотв. слагаемое действительно входит в сумму).

Док-во: F(x): 1) хотя бы одна точка разрыва 2) непрерывна

1) x₁<x₂<…<x_n – точки разрыва и пусть _i= F(x_i+0)-F(x_i). Введем функцию F^{^}_d(x)={0, xx₁; ₁, x₁<xx₂; ₁+₂, x₂<xx₃… Функция F^{^}_d(x) обладает след. св-вами: 1) неубывает, 2) непрерывна слева, 3) lim_x-F^{^}_d(x)=0, 4) lim_x+F^{^}_d(x)=_i-1i1.

а) _i-1i=1 p₃=1, p₁=p₂=0 т. доказана

б) _i-1i=<1 F_d(x)=¹/F^{^}_d(x). Рассм. F^{^}_c=F-F^{^}_d(x) – непр., неуб. функция. lim_x-F^{^}_с(x)=0, lim_x+F^{^}_c(x)=1-, F_c(x)=^{F^c(x)}/_1- - непр. ф-ция распр-ния. F(x)=F^{^}_c(x)+F^{^}_d(x)=F_d(x)+(1-)F_c(x). Из построения понятно,что такое построение единственно.

в) Fc(x) – ф-ция распр-ния порождает меру _c(dx) и рассм. меру Лебега. Тогда в силу т. Лебега о разложении мер ! _ac и _s соотв-но абс. непр. и сингулярная относ. меры Лебега и такие, что _c(B)=_s(B)+_ac(B) B - борел. мн-во

F_c(x)=_s((-,x))+_ac((-,x))=F^{^}_s(x)+F^{^}_ac(x) (непр., неуб., lim_x-=0). lim_x+F^{^}_s(x)=_s(),lim_x+F^{^}_ac(x)=_ac()

1=_c()=_s()+_ac() (_s()=,_ac()=1-, 01) =0 p₂=0 F_ac(x)=F_c(x) =1 p₁=0 F_s(x)=F_c(x)

0<<1 F_s(x)=¹/F^{^}_s(x) F_ac(x)=¹/_1-F^{^}_ac(x). F_c(x)=F_s(x)+(1-)F_ac(x). Положим p₁=(1-)(1-), p₂=(1-), p₃=.

Совокупности случайных величин. Пусть на вероятностном пр-ве (,,P) заданы сл. величины ₁=₁(),…,_n=_n(), . Каждому эти величины ставят в соответствие n-мерный вектор. Совместной функцией распределения величин ₁,…,_n наз. вероятность F(x)=F_1…n(x₁,…,x_n)=P(₁<x₁,…,_n<x_n), рассматриваемая как функция точки x=(x₁,…,x_n) n-мерного евклидова пр-ва Rⁿ.

Случайные величины ₁,…,_n наз. независимыми, если независимы порожденные ими -алгебры ₁,…,_n.

Сходимость почти наверное. Мы будем говорить, что посл-ть ₁,₂,… сходится почти наверное (п.н.) к сл. веричине , и писать _n^п.н., если P{lim_nn=}=1.

Сходимость по вероятности. Мы говорим, что _n сходится по вероятности к (и обозн. _n^P), если для >0

P{|_n-|>}0, n.

Слабая сходимость.

Теор. 1: Если _n^P, то функция распределения Fn(x) слабо сходится к функции распределения F(x).

Док-во: Обозн. событие {|_n-|}=A_n. Т.к. при A_n -_n+, то при x мы имеем {_nx}{x+}A _n,

{x-}{_nx} A _n, P{x-}-P(A _n)P{nx}P{x+}+P(A _n),

P{x-}lim_nP{_nx}lim_nP{_nx}P{x+}. Если x – точка непр-ти F(x), то lim_nF_n(n)=F(x).

Сходимость в среднем. Мы будем говорить, что посл-ть _n сходится в среднем порядка r>0, если E|_n-|^r0, n.

Если r=2, то сходимость наз. сходимостью в среднем квадратическом.

_n^п.н. _n^P _n^r _n^P

Неравенство Маркова. P{||}^E||k/_k для всякого k0, >0.

Док-во: Если A={||}, то ||^k ||^kI_A ^kI_A E||^{k k}EI_A = ^kP(A).

Полагая k=2 и заменяя на -E, получаем неравенство Чебышева: P{|-E|}^D/₂.

Для каждого n определим дискретные сл. в. ₁,…,_n, независимые в совокупности и принимающие значения 1 или 0 с вероятностью p и q=1-p соответственно. Положим S_n=₁+…+_n. Часто в этом случае говорят об n независимых испытаниях с постоянной вероятностью p успешного испытания. Тогда S_n – число успешных испытаний из n испытаний.

Закон больших чисел в форме Чебышева: Для >0 P{|^Sn/_n-p|}0 при n.

Док-во: нер-во Чебышева P{|^Sn/_n-p|}^D(Sn/n)/₂=^pq/_n20.

Пусть не вероятностном пр-ве (,,P) определена посл-ть событий A_n. С каждой такой посл-тью можно связать события A={:A_n для бесконечно многих n}, A={:A_n для всех, кроме конечного числа n}, которые наз. соответственно верхним и нижним пределами посл-ти {A_n}. A=lim_nsupA_n, A=lim_nsupA_n.

A=_n=1mnA_m, A=_n=1mnA_m.

Лемма Бореля – Кантелли.

Если _n=1P(A_n)<, (1) то P(A)=0. Если A₁,A₂,… независимы и _n=1P(A_n)=, (2) то P(A)=1.