Ю.В. Прохоров, Л.С. Пономаренко - Лекции по теории вероятностей и математической статистике (1115359), страница 14
Текст из файла (страница 14)
Случайные величины X1 , . . . , Xn называются независимыми ( взаимно независимыми ), если для любых полуинтервалов 41 = [a1 , b1 ), 42 = [a2 , b2 ), . . . 4n = [an , bn ) выполняется равенствоP{ω : X1 (ω) ∈ 41 , X2 (ω) ∈ 42 , . . . , Xn (ω) ∈ 4n } =(9.21)= P{ω : X1 (ω) ∈ 41 } P{ω : X2 (ω) ∈ 42 } · · · P{ω : Xn (ω) ∈ 4n }.90Определение независимости можно сформулировать и в терминахфункций распределений, а для случайных величин с абсолютно непрерывными распределениями — в терминах плотностей.Определение 9.19. Случайные величины X1 , .
. . , Xn называются независимыми, если совместная функция распределения этих величин вовсех точках равна произведению частных функций распределения, т.е.F (x1 , . . . , xn ) = F1 (x1 )F2 (x2 ) · · · Fn (xn ),гдеF (x1 , . . . , xn ) = P{ω : X1 (ω) < x1 , . . . , Xn (ω) < xn },Fi (xi ) = P{ω : Xi (ω) < xi }.Задача 9.12. Докажите эквивалентность этих определений независимости случайных величин.Пусть совместное распределение случайных величин X и Y абсолютно непрерывно, т.е. существует такая неотрицательная функция p(x, y),что для ∀B ∈ B2ZZp(x, y)dx dy.P{(X, Y ) ∈ B} =BФункция p(x, y) называется совместной плотностью распределения, сфункцией распределения F (x, y) ∀x, y она связана соотношениемZx ZyF (x, y) =p(u, v)du dv.−∞−∞Задача 9.13.
Докажите, что абсолютно непрерывные случайные величины X и Y независимы ⇐⇒ почти всюду по мере Лебегаp(x, y) = pX (x)pY (y),где pX (x), pY (y)— частные плотности распределений.Для независимых случайных величин сохраняются все утвержденияглав 4 – 5, доказанные в предположении, что X и Y принимают конечное число значений. В частности, борелевские функции от независимыхслучайных величин также являются независимыми случайными величинами.919.6Мультипликативное свойство математического ожиданияТеорема 9.9. Пусть X и Y – независимые случайные величины, длякоторых существуют математические ожидания. Тогда существуетE(X · Y ) иE XY = E X E Y.Доказательство. При доказательстве этого свойства продемонстрируемприем перехода от элементарных случайных величин к произвольным.1).
Пусть X и Y — элементарные случайные величины:XXX(ω) =xk IAk (ω), Y (ω) =yl IBl (ω),klпричем в этих представлениях xi 6= xj , yi 6= yj , если i 6= j,Ak = {ω : X(ω) = xk }, Bl = {ω : Y (ω) = yl }.TОбозначим Ckl = Ak Bl . Тогда случайная величина X(ω)Y (ω) постоянна на Ckl иXxk yl ICkl .X(ω)Y (ω) =k,lПо свойству математического ожидания, сформулированному в лемме9.6Xxk yl P(Ckl ),(9.22)E X(ω)Y (ω) =k,lесли ряд (9.22) сходится абсолютно. Покажем это. По условию теоремысуществуютXXxk P(Ak ), E Y (ω) =yl P(Bl ).(9.23)E X(ω) =klАбсолютно сходящиеся ряды можно перемножать и менять произвольным образом порядки суммирования, при этом будем получать такжеабсолютно сходящиеся ряды. ПоэтомуXXXxk P(Ak )yl P(Bl ) =xk yl P(Ak ) P(Bl ) =EX EY =k=lXxk yl P(Akk,l\Bl ) =k,lXk,l92xk yl P(Ckl ).Сравнивая последнее выражение с (9.23), видим, что математическоеожидание произведения случайных величин существует иE(XY ) = E X E Y, что доказывает утверждение теоремы для элементарных случайных величин.2).
Пусть теперь X(ω) и Y (ω) — произвольные случайные величины, имеющие математические ожидания. Рассмотрим последовательности элементарных случайных величинXkI{ k 6X(ω)< k+1 } (ω), E X(ω) = lim E Xn∗Xn∗ (ω) =nnn→∞nkYn∗ (ω) =X lI ll+1 (ω),n { n 6Y (ω)< n }l∗E Y (ω) = lim E Yn .n→∞По построению Xn∗ (ω) ⇒ X(ω) Yn∗ (ω) ⇒ Y (ω) и для ∀ω110 6 X(ω) − Xn∗ (ω) 6 , 0 6 Y (ω) − Yn∗ (ω) 6 ,nnоткуда следует, что|Xn∗ (ω)| 6 |X(ω)| + 1,|Yn∗ (ω)| 6 |Y (ω)| + 1.Из конечности математических ожиданий для X(ω) и Y (ω) получаем,что для ∀n существуют E Xn∗ (ω), E Yn∗ (ω) .
Поскольку элементарные случайные величины Xn∗ (ω), Yn∗ (ω) являются независимыми, то в силу доказанного выше имеем∗∗∗∗E(Xn (ω)Yn (ω)) = E Xn (ω) E Yn (ω).Осталось только перейти к пределу при n → ∞. Выпишем несколькопростых соотношений:XY − Xn∗ Yn∗ = (X − Xn∗ )Y + Xn∗ (Y − Yn∗ ),1|XY − Xn∗ Yn∗ | 6 |X − Xn∗ | · |Y | + |Xn∗ | · |Y − Yn∗ | 6 (|X| + |Y | + 1).nНо тогда1| E(XY ) − E(Xn∗ Yn∗ )| 6 E |XY − Xn∗ Yn∗ | 6 E(|X| + |Y | + 1) → 0nпри n → ∞, значит,∗∗∗ ∗E(XY ) = lim E(Xn Yn ) = lim E Xn · lim E Yn = E X · E Y.n→∞n→∞n→∞Замечание. В других учебниках (см.[10],[8]) схема построения может быть несколько иной: сначала определяется математическое ожидание простых случайных величин, затем для неотрицательных, затем ужеобщий случай.93Глава 10Усиленный закон большихчисел10.1Лемма Бореля – КантеллиПусть (Ω, A, P) – некоторое вероятностное пространство иA1 , A2 .
. . ∈ A – последовательность случайных событий,X1 (ω), X2 (ω), X3 (ω), . . . – последовательность случайных величин, определенных на этом вероятностном пространстве.Определение 10.1. События A1 , A2 . . . независимы, если ∀m ∈ N, (m >2) для любых наборов натуральных чисел j1 < j2 < . .
. < jm независимысобытия Aj1 , Aj2 , . . . , Ajm .Определение 10.2. Случайные величины X1 (ω), X2 (ω), X3 (ω), . . . называются независимыми, если для ∀m ∈ N, (m > 2) для любых наборовнатуральных чисел j1 < j2 < . . . < jm независимы случайные величиныXj1 (ω), Xj2 (ω), . . . , Xjm (ω).Заметим, что независимость последовательности случайных событийэквивалентна независимости последовательности IA1 (ω), IA2 (ω), IA3 (ω), ...– индикаторов этих событий.Введем следующие события:C = {ω :∞XIAk (ω) < ∞}k=1– происходит лишь конечное число событий Ak ,D = {ω :∞XIAk (ω) = ∞}k=194– одновременно происходит бесконечно много событий Ak .Задача 10.1. Покажите, что∞ \∞[C=Al ,∞ [∞\D=k=1 l=kAl ,C = D.(10.1)k=1 l=kЛемма 10.1. ( Бореля – Кантелли )1.
Если последовательность событий A1 , A2 . . . такова, что ряд∞PP(An ) <n=1∞ – сходится, то P(D) = 0,P(C) = 1.2. Если для последовательности независимых событий A1 , A2 . . . ряд∞PP(An ) = ∞ – расходится, то P(D) = 1, P(C) = 0.n=1Доказательство. 1). Оценим вероятность события D сверху, для этоговоспользуемся представлением (10.1):(∞ )∞X[(10.2)6(D)6AP(Al ),PPll=kl=k— это неравенство выполняется для любого k. Из сходимости ряда∞PP(An )n=1следует, что правую часть неравенства (10.2) можно сделать сколь - угодно малой, выбрав должным образом k. Следовательно,P(D) = 0,P(C) = 1 − P(D) = 1.2). Воспользовавшись представлением (10.1) для события C, получаем:(∞ )∞X\Al .P(C) 6Pk=1l=kПокажем, что каждое слагаемое в этой сумме равно 0.
Действительно,в силу независимости событий Al и справедливости почти очевидногонеравенства: 1 − z 6 e−z , имеем(k+m ) k+m(∞ )k+mP P(Al)\\Y−l=kAl 6 PAl =(1 − P(Al )) 6 e.Pl=kl=kПоскольку рядчим∞Pn=1l=kP(An ) = ∞ – расходится, то, устремив m → ∞, полу(∞ )\Al = 0Pl=kдля всех k и, следовательно, P(C) = 0.9510.2Сходимость с вероятностью 1Лемма Бореля – Кантелли является удобным инструментом для установления сходимости последовательностей случайных величин с вероятностью 1.1Определение 10.3.
Последовательность случайных величинX1 (ω), X2 (ω), X3 (ω), . . . сходится к 0 с вероятностью 1, еслиP{ω : lim Xn (ω) = 0} = 1.n→∞(10.3)Равенство (10.3) означает, что сходимость к 0 имеет место для всехэлементарных исходов, за исключением, быть может, точек, общая вероятность которых равна 0. Поэтому условие (10.3) можно переписатьиначе:P{ω : Xn (ω) 9 0} = 0.(10.4)Сходимость с вероятностью 1 называют также сходимостью почти всюдуили сходимостью почти наверное и обозначаютп.в.п.н.Xn (ω) −→ 0 или Xn (ω) −→ 0.Задача 10.2.
Докажите, что для независимых случайных величин X1 , X2 . . .п.н.Xn (ω) −→ 0 ⇔ ∀ε > 0∞XP{ω : |Xn (ω)| > ε} < ∞.(10.5)nОпределение 10.4. Последовательность случайных величинX1 (ω), X2 (ω), X3 (ω), . . . сходится к случайной величине X(ω) с вероятноп.н.п.н.стью 1 ( Xn (ω) −→ X(ω)), если Xn (ω) − X(ω) −→ 0.Приведем без доказательства несколько утверждений о сходимостипочти наверное. Желающие могут посмотреть доказательство, например, в учебнике А.Н.Ширяева или провести его самостоятельно.Теорема 10.1.п.н.Xn (ω) −→ 0 ⇔ lim P{ω : sup |Xk (ω)| > ε} = 0.n→∞k>n1О различных видах сходимости для последовательностей случайных величини соотношениях между ними можно прочитать в учебнике А.Н.Ширяева "Вероятность", глава 2, §10.96Теорема 10.2.
Последовательность случайных величинX1 (ω), X2 (ω), X3 (ω), . . . сходится с вероятностью 1 (фундаментальна свероятностью 1 ) ⇔ ∀ε > 0P{ sup |Xk (ω) − Xl (ω)| > ε} → 0k,l>nпри n → ∞.10.3Усиленный закон больших чиселТеорема 10.3. ( А. Н. Колмогоров ) Пусть X1 (ω), X2 (ω), X3 (ω), . . . –последовательность независимых случайных величин, для которых существуют математические ожидания и дисперсии, причем∞ 2Pσk< ∞. ТогдаE Xk = mk , D Xk = σk2 , и сходится рядk2k=1X1 (ω) + X2 (ω) + .
. . + Xn (ω) m1 + m2 + . . . + mn−→0 =1P ω:nn(10.6)Мы будем говорить, что для последовательности случайных величинвыполняется усиленный закон больших чисел, если выполняется(10.6), другими словами, еслиX1 (ω) + X2 (ω) + . . . + Xn (ω) m1 + m2 + . . . + mn п.н.−−→ 0.nn(10.7)Доказательство. Рассмотрим случайные величины Xk0 (ω) = Xk0 (ω)−mk .Для них E Xk0 = 0, D Xk0 = σk2 , а выполнение утверждения теоремы(10.6) или (10.7) означает одновременное выполнение усиленного законабольших чисел и для новых случайных величин. Поэтому в дальнейшемпри доказательстве теоремы будем считать, что mk = 0.Обозначим Sn = X1 + . . . + Xn и перепишем Sn в следующем виде,учитывая, что всегда найдется такое m, что 2m 6 n < 2m+1 :Sn = X1 + (X2 + X3 ) + (X4 + X5 + X6 + X7 ) + . . .
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
