Лекции по ТВиМС, страница 10

Математическое ожидание произведения независимыхслучайных величин равно произведению их математических ожиданий:n⎡ n⎤mY = M ⎢ ∏ X i ⎥ = ∏ m i .(11.11)⎣ i =1⎦ i =1Доказательство. Пусть n = 2. Для независимых случайных величинK ij = 0, ∀ i , j , тогда формула (11.10) примет вид mY = M [ X 1 X 2 ]= m1m2 .Используя метод математической индукции, легко доказать, что (11.11)справедлива для любого n.Теорема о дисперсии произведения случайных величин.

Дисперсияпроизведения независимых случайных величин равнаnn⎡ n⎤2D Y = D ⎢ ∏ X i ⎥ = ∏ ( D i + m i ) − ∏ m i2 .(11.12)i =1i =1⎣ i =1⎦Доказательство. По определению дисперсия равна22nn⎡⎛ n⎡ n⎤⎞ ⎤ ⎛ ⎡ n⎤⎞⎡ n⎤ nD ⎢∏ X i ⎥ = M ⎢⎜ ∏ X i ⎟ ⎥ − ⎜ M ⎢∏ X i ⎥ ⎟ = M ⎢∏ X i2 ⎥ − ∏ mi2 = ∏ ( Di + mi2 ) − ∏ mi2 .i =1i =1⎣ i =1 ⎦⎣ i =1⎦ i =1⎢⎣⎝ i =1 ⎠ ⎥⎦ ⎝ ⎣ i =1 ⎦ ⎠Следствие. Дисперсия произведения независимых центрированныхслучайных величин равна произведению дисперсий этих величин:n⎡ n⎤DY = D ⎢ ∏ X i ⎥ = ∏ D i .(11.12)i =1⎣ i =1⎦ЛЕКЦИЯ 12Закон больших чиселПусть проводится некоторый опыт, в котором нас интересует значениеслучайной величины Х. При однократном проведении опыта нельзя заранеесказать, какое значение примет величина Х. Но при n-кратном (n > 100...1000)повторении «среднее» (среднее арифметическое) значение величины Х теряетслучайный характер и становится близким к некоторой константе.Закон больших чисел – совокупность теорем, определяющих условиястремления средних арифметических значений случайных величин к некоторойконстанте при проведении большого числа опытов.Неравенство Чебышева.

Для любой случайной величины X сматематическим ожиданием mX и дисперсией DX выполняют следующеенеравенство:p( X − mXD≥ ε ) ≤εX2,(12.1)где ε > 0.Доказательство. Рассмотрим вероятность p( X ≥ ε ) :p( X ≥ ε ) =∫εx≥≤1ε2x2 ε 2x21f ( x) dx = ∫ 2 ⋅ 2 f ( x ) dx ≤ ∫ 2 f ( x ) dx = 2ε xεεx ≥εx ≥ε+∞∫x2f ( x ) dx =−∞M[X 2]ε2Таким образом,величинуp( X − mX∫ε x2f ( x) dx ≤x≥.p( X ≥ ε ) ≤M [X 2]ε2. Заменив нецентрированнуюoX = X − mX ,XнацентрированнуюM [( X − m X ) 2 ] D X≥ ε) ≤= 2 .2εполучимεПример. Определим вероятность, что случайная величина примет значениеза пределами интервала 3σX.

Полагаем в неравенстве Чебышева ε = 3σ X , имеем:D1p ( X − m X ≥ 3σ X ) ≤ X2 = .9σ X9Неравенство Чебышева дает только верхнюю границу вероятности данногоотклонения. Значение вероятности быть выше этой границы (1/9) не может нипри каком законе распределения. Таким образом, правило 3σX выполняется свероятностью не меньшей, чем 8/9.Сходимость по вероятности. Последовательность случайных величин Xnсходится по вероятности к величине a, Xpn→ a , если при увеличении nn→ ∞вероятность того, что Xn и a будут сколь угодно близки, неограниченноприближается к единице:p( X n − a < ε ) > 1 − δ ,где ε, δ – произвольно сколь угодно малые положительные числа.Одна из наиболее важных форм закона больших чисел – теоремаЧебышева, она устанавливает связь между средним арифметическимнаблюдаемых значений случайной величины и ее математическим ожиданием.Теорема Чебышева.

Пусть произведены n одинаковых независимыхопытов, в каждом из которых случайная величина X приняла значения X1,X2, …, Xn. При достаточно большом числе независимых опытов среднееарифметическое значений случайной величины X сходится по вероятности к еематематическому ожиданию:p1 nmX .(12.2)∑ X i n→→∞n i =11 nДоказательство. Рассмотрим величину Y =∑ X i .

Определимn i=1числовые характеристики Y (см. (11.5), (11.7)):1 n1 n1mY = M [ ∑ X i] =M [X i] =nm X = m X ;∑n i =1n i =1n1 n1 n1DX.DY = D[ ∑ X i ] = 2 ∑ D[ X i ] = 2 nD X =n i =1n i =1nnЗапишем неравенство Чебышева для величины Y:1 nDDp ( Y − m Y ≥ ε ) = p ( ∑ X i − m X ≥ ε ) ≤ 2Y = 2Y .εε nn i =1Как бы ни было мало число ε, можно взять n таким большим, чтобывыполнялось неравенствоp(1n1p(nn∑Xi =1i− mX ≥ ε ) < δ .i− m X < ε ) > 1 − δ , т.е. Y сходится по вероятности к mX.n∑Xi =1DX< δ , где δ – сколь угодно малое число. Тогдаε 2nПереходякпротивоположномусобытиюТеорема Бернулли. Пусть произведены n одинаковых независимыхопытов, в каждом из которых возможно событие А с вероятностью р. Тогдачастота появления события А в n опытах сходится по вероятности квероятности появления А в одном опыте:pp*(A) →n→ ∞p(A) ,(12.3)m– частота события А в n опытах;nm – число опытов в которых произошло событие А;n – число проведенных опытов.Пусть случайная величина X – индикатор события А:⎧1 , AX = ⎨,⎩0 , Aтогда Xi – индикатор события А в i-м опыте.Числовые характеристики индикатора X случайного события (см.

(6.1)):m X = p, D X = qp ,где p* ( A ) =где q = 1 – p – вероятность осуществления ⎯А.Применим теорему Чебышева:p1 nm*m X = p = p ( A) .∑ X i = n = p ( A ) n→→∞n i =1Центральная предельная теоремаДанная теорема определяет условия, при которых возникает случайнаявеличина с нормальным законом распределения. Различные формыцентральной предельной теоремы различаются между собой условиями,накладываемыми на распределения образующих сумму случайных слагаемыхX1, X2, …, Xn.

Чем жестче эти условия, тем легче доказывается теорема; чемони шире, тем труднее доказательство. Здесь мы докажем одну из самыхпростых форм этой теоремы, а именно, центральную предельную теорему дляодинаково распределенных слагаемых.Теорема. Если X1, X2, …, Xn – независимые случайные величины,имеющие одно и то же распределение с математическим ожиданием m идисперсией σ 2 , то при неограниченном увеличении n (n →∞) законnраспределенияихсуммыY = ∑ X i неограниченноi =1приближаетсякнормальному закону с параметрами:mY = n ⋅ m, σ Y = σ n .(12.4)Доказательство. Проведем доказательство для случая непрерывныеслучайных величин (для дискретных оно будет аналогичным).

Применим дляэтого аппарат характеристических функций. Случайные величины X1, X2, …, Xnимеют одну и ту же плотность f(х), а значит, одну и ту же характеристическуюфункцию υ X (t ) . Не нарушая общности, можно перенести начало отсчета всехслучайных величин X1, X2, …, Xn в их общее математическое ожидание m; эторавносильно их центрированию и, значит, тому, что m = 0. Согласно свойству(7.16)характеристическаяфункциясуммыравнапроизведениюхарактеристических функций слагаемых:nυ Y (t ) = [υ X (t ) ] .(12.5)Разложим функцию υ X (t ) в окрестности точки t = 0 в ряд Маклорена с тремячленами:υX (t ) = υX (0) +υ′X (0)t + [υ′′X (0) / 2 + α (t )]t 2 ,(12.6)где производные берутся по t; α (t ) → 0 при t → 0.Используя свойство (7.15) характеристических функций определимзначенияυX (0) = υX(0) (0) = α0 ( x)i0 = 1 ,υ′X (0) = υX(1) (0) = α1 ( x)i1 = m ⋅ i = 0 ,υ′′X (0) = υX(2) (0) = α2 ( x)i2 = σ 2 ⋅ i2 = −σ 2 .Подставив их в (12.5), получимυX (t ) = 1− [σ 2 / 2 − α (t )]t 2 .(12.7)Перейдем от Y к линейно связанной с ней «нормированной» случайнойY.

Эта величина удобна тем, что ее дисперсия не зависит отвеличине Z =σ nn и равна единице при любом. Если мы докажем, что случайная величина Zимеет нормальное распределение, это будет означать, что и случайная величинаY, линейно связанная с Z, распределена нормально.Вместо того чтобы доказывать, что закон распределения случайнойвеличины Z при увеличении n приближается к нормальному, докажем, что еехарактеристическаяфункция,однозначноопределяющаяплотность,−t22приближается к характеристической функции нормального закона e с темиже, что у Z, параметрами mZ = 0; σZ = 1 (см. (7.17)).Найдем характеристическую функцию случайной величины Z.

Изсвойства (7.14) характеристической функции имеем:tυZ (t ) = υY ().(12.8)σ nПодставив (12.5) и (12.7) в (12.8), получим:n⎤⎪⎧ ⎡σ 2⎪⎫υZ (t ) = ⎨1 − ⎢ − α (t / σ n )⎥ t 2 /(nσ 2 )⎬ .⎪⎩ ⎣ 2⎪⎭⎦(12.9)Прологарифмируем это выражение:⎧⎪ ⎡σ 2⎫⎪⎤lnυZ (t ) = n ln ⎨1 − ⎢ − α (t / σ n )⎥ t 2 /(nσ 2 )⎬ .⎪⎩ ⎣ 2⎦⎭⎪⎡σ 2⎤ 22Введем обозначение ⎢ − α (t / σ n ) ⎥ t /( nσ ) = ε , тогда ln υZ (t ) = n ln(1 − ε ) .⎣ 2⎦Будем неограниченно увеличивать n; при этом величина ε будет стремиться кнулю.

Разложим ln (1 − ε ) в ряд по степеням ε и ограничимся одним членомразложения(остальныеln (1 − ε ) ≈ − εприn→∞станутпренебрежимомалыми):.Тогда⎧ t2lim ln υ Z ( t ) = lim n ⋅ ( − ε ) = lim ⎨ −+ α (t / σn→ ∞n→ ∞n→ ∞⎩ 2t2t222=−+ lim α ( t / σ n ) t / σ = − .2 n→ ∞2Откуда ln i→m∞ υZ(t ) = e−t22⎫n )t 2 / σ 2 ⎬ =⎭, а это есть не что иное, как характеристическаяфункция случайной величины, распределенной по нормальному закону спараметрами m = 0, σ = 1.Более общую форму центральной предельной теоремы мы приведем бездоказательства.Теорема. Если X1, X2, …, Xn – независимые случайные величины,имеющие примерно одинаковые дисперсии Di ≈ D для ∀ i , то принеограниченном увеличении n (n → ∞) закон распределения их суммыnY = ∑ X i неограниченно приближается к нормальному закону с параметрами:i =1nmY = ∑ mi , σ Y =i =1n∑Di =1i.(12.10)Требование Di ≈ D, ∀i означает, что ни одно из слагаемых не носитдоминирующего характера (влияние всех Хi на сумму Y приблизительноодинаково).Таким образом, нормальное распределение возникает тогда, когдасуммируется много независимых (или слабо зависимых) случайных величин,сравнимых по порядку своего влияния на рассеивание суммы.