Ю.В. Прохоров, Л.С. Пономаренко - Лекции по теории вероятностей и математической статистике (1115359), страница 6
Текст из файла (страница 6)
. . · XN ) = E X1 · . . . · E XN .31Глава 5Суммирование независимыхслучайных величинНачиная с 1712 г., когда Я. Бернулли открыл закон больших чисел, напротяжении двух с половиной столетий основные теоремы теории вероятностей касались поведения сумм независимых случайных величин,играющих весьма важную роль как в теории вероятностей и математической статистике, так и в их приложениях. Около 50 лет назад вышлакнига Б. В. Гнеденко и А.
Н. Колмогорова "Предельные распределениядля сумм независимых случайных величин", в которую были включеныкак результаты предшественников, так и результаты авторов, внесшихзначительный вклад в развитие теории и методов суммирования случайных величин. Появление этой книги вызвало новый интерес к данномувопросу и послужило толчком в развитии методов исследования распределений сумм случайных величин.Находить точные распределения сумм большого числа случайных величин, как правило, весьма сложно даже для простых распределений.Так на первой лекции мы искали точное распределение суммы очков, выпавших на 6 костях, которая представляет собой сумму X1 +X2 +.
. .+X6всего лишь шести слагаемых. Точные расчеты оказались весьма непростыми, хотя распределения самих Xi несложные: каждая из этих случайных величин принимает значения 1, 2, . . . , 6 с равными вероятностями:P{Xi = k} = 1/6.Всюду в дальнейшем для суммы случайных величин X1 , . . . , XN будем использовать обозначениеSN = X1 + · · · + XN .Нам понадобится некоторый аналитический аппарат, связанный с математическими ожиданиями случайных величин.325.1Производящая функция целочисленнойслучайной величиныПусть случайная величина X принимает целые неотрицательные значения: 0, 1, 2, . .
. , m с вероятностями p0 , p1 , . . . , pm . Рассмотрим функциюдействительной переменной zG(z, X) = E(z X ) =mXz k · pk .(5.1)k=1Эта функция называется производящей функцией случайной величиныX.Замечание. Часть слагаемых в сумме (5.1) может равняться 0, если соответствующая вероятность pk = 0. Производящая функция можетбыть определена и для целочисленных случайных величин, принимающих бесконечное число значений:G(z, X) =∞Xz k pk ,k=1но тогда степенной ряд может сходиться не при всех z.
Однако при |z| ≤ 1∞Pтакие ряды сходятся, причем равномерно, так какpk = 1.k=1Если случайные величины X1 , . . . , XN езависимы, то для производящей функции выполняется свойство мультипликативности:G(z, SN ) =NYG(z, Xk ).k=1По производящей функции распределение случайной величины восстанавливается однозначно, поскольку вероятности pk есть не что иное,как коэффициенты разложения в ряд Тейлора для этой функции в окрестности 0:p0 = G(0, X),p1 = G0 (0, X), . .
. pk =G(k) (0, X).k!Пример 5.1. Пусть производящая функция случайной величины X равнаG(z, X) = (1 − p + pz)2 .Найти распределение X.33Очевидно, чтоG(z, X) = (1 − p)2 + 2p(1 − p)z + p2 z 2 .Поскольку вероятности pk = P{X = k} — это коэффициенты при z k , тополучаемp0 = (1 − p)2 , p1 = 2p(1 − p), p2 = p2 .Таким образом случайная величина X, имеющая заданную производящую функцию распределения принимает значения 0, 1, 2 с вычисленными выше вероятностями.Задача 5.1. Найдите производящую функцию случайной величины X,принимающей значения 0, 1, .
. . , n с вероятностямиpk = Cnk pk (1 − p)n−k .Такое распределение вероятностей называют биномиальным с параметрами n ∈ N и 0 < p < 1. В этом случае будем писать X ∼ B(n, p).Задача 5.2. Найдите производящую функцию случайной величины X,k −λ, где λ >принимающей значения 0, 1, 2, . . . с вероятностями pk = λ ·ek!0 – некоторый параметр. Это распределение называют распределениемПуассона с параметром λ и обозначают X ∼ Π(λ).Задача 5.3.
Используя свойство мультипликативности производящихфункций, покажите, что сумма независимых случайных величин X1 иX2 , имеющих распределение Пуассона с параметрами λ1 и λ2 соответственно , также распределена по закону Пуассона,но с параметром λ1 + λ2 .Задача 5.4. Пусть X ≥ 0 – целочисленная случайная величина и известна ее производящая функция G(z, X). Найдите E X, D X.5.2Производящая функция моментовРассмотрим случайную величину X, распределение которой задаетсятаблицейx 1 , x 2 , . . . , xm(5.2)p 1 , p 2 , . . . , pm ,в которой указаны все различные между собой значения случайной величины и соответствующие им вероятности.34Производящей функцией моментов случайной величины X называется функция действительной переменной h, определенная следующимобразом:mXhXg(h, X) = E e =ehxk pk .k=1Замечание.
Поясним происхождение названия этой функции. Рассмотрим разложение в ряд Тейлора по степеням h функции ehX :ehX = 1 +hn X nhX h2 X 2++ ... ++ ....1!2!n!если формально взять математические ожидания от обеих частей этогоравенства, то получимhXEe = 1 +EXE X2 2E Xn nh+h + ... +h + ....1!2!n!Таким образом по функции g(h, X), разложив ее в ряд Тейлора, можнонайти mn = E X n , называемые моментами случайной величины X.Задача 5.5. Пусть X1 , . .
. , XN — независимые случайные величины,Sn = X1 + X2 + · · · + XN— сумма независимых случайных величин. Докажите свойство мультипликативности для производящей функции моментов:g(h, SN ) = g(h, X1 ) · g(h, X2 ) · . . . · g(h, XN ).Сформулируем следующее свойство показательных функций.Лемма 5.1. Пусть −∞ < α1 < α2 < α3 < . . .
∞ — произвольные действительные числа. Если для всех −∞ < h < ∞ выполняетсяλ1 eα1 h + λ2 eα2 h + . . . + λm eαm h = 0,то λ1 = λ2 = · · · = λm = 0.Доказательство. Доказательство проведем для случая m = 3. Итак,пустьλ1 eα1 h + λ2 eα2 h + λ3 eα3 h = 0(5.3)для всех h. Продифференцируем (5.3) дважды по h :α1 λ1 eα1 h + α2 λ2 eα2 h + α3 λ3 eα3 h = 0,α12 λ1 eα1 h + α22 λ2 eα2 h + α32 λ3 eα3 h = 0.35(5.4)Подставляя h = 0 в (5.3),(5.4) получим систему линейных уравненийотносительно переменных λ1 , λ2 , λ3 :λ1 +λ2 +λ3 = 0,α1 λ1 + α2 λ2 + α3 λ3 = 0,α12 λ1 + α22 λ2 + α32 λ3 = 0.Определитель системы1 1 1α1 α2 α3 2α1 α22 α32 — это определитель Вандермонда.
Из курса линейной алгебры известно,что при α1 < α2 < α3 этот определитель не равен 0, и значит, однороднаясистема линейных уравнений имеет единственное решениеλ1 = λ2 = λ3 = 0.Замечание. Свойство показательных функций, сформулированное влемме, в математическом анализе называется линейной независимостьюэтих функций.Задача 5.6. Используя это свойство показательных функций, докажите, что если производящие функции моментов двух случайных величинX и Y совпадают при всех h, то эти случайные величины имеют одинаковые распределения, т.е. принимают одинаковые значения с равнымивероятностями.Таким образом, производящая функция моментов случайной величины однозначно определяет распределение.
Более того, соответствиемежду производящими функциями моментов ( а также производящими функциями целочисленных случайных величин) и распределениямислучайных величин оказывается непрерывным в том смысле, что еслираспределения близки между собой, то близки и производящие функции, и обратно.5.3Свойства числовых характеристик распределений сумм независимых случайныхвеличинИз свойств математического ожидания следует, чтоE SN = E X1 + E X2 + . . . + E XN .36Существуют ли другие числовые характеристики, которые для независимых случайных величин обладали столь же простым свойством?Ответ на этот вопрос положителен и одной из таких характеристикявляется дисперсия.Определение 5.1. Дисперсией случайной величины X называется число2D X = E(X − E X) .Эта числовая характеристика распределения случайной величины является мерой разброса (рассеивания ) значений случайной величины отее среднего значения E X.
Если распределение задано таблицей (5.2), тоDX =mX(xk − E X)2 pk .k=1Иногда дисперсию удобно вычислять по - другому, используя тот факт,что222D X = E X − (E X) = m2 − (m1 ) ,где m1 , m2 — обозначения для моментов первого и второго порядков.Для момента первого порядка (математического ожидания) мы такжебудем использовать обозначение m = m1 .Действительно, используя простые преобразования и свойства математического ожидания, имеем222D X = E(X − E X) = E X − 2X E X + (E X) == E X 2 − 2 E X · E X + (E X)2 = E X 2 − (E X)2 .Перечислим свойства дисперсии.1.
Для любой случайной величины D X ≥ 0. Отсюда в частностиследует неравенство Коши-Буняковского:22E X ≥ (E X) .2. Дисперсия не изменяется при добавлении к случайной величинепроизвольной константы c : D(X + c) = D X.3. D(cX) = c2 D X – при умножении случайной величины на константу c ее дисперсия изменяется в c2 раз.4.
Если X1 , . . . , XN – независимые случайные величины, тоD SN = D X1 + . . . + D XN .37(5.5)Доказательство. Доказательство этого свойства сначала проведем длядвух случайных величин X1 и X2 . Введем новые случайные величиныY1 = X1 − E X1 ,Y2 = X2 − E X2 ,тогда E Y1 = E Y2 = 0. Применяя свойства математического ожидания,получим22D(X1 + X2 ) = E(X1 + X2 − (E X1 + E X2 )) = E(Y1 + Y2 ) =22E(Y1 ) + 2 E(Y1 Y2 ) + E(Y2 ) = D X1 + D X2 + 2 E Y1 · E Y2 = D X1 + D X2 .Далее по индукции можно получить, что утверждение верно для произвольного числа случайных величин N.Можно рассматривать и другие числовые характеристики распределений, обладающих свойством, подобным свойству (5.5) дисперсий.
Ихможно получать следующим образом. Рассмотрим производящую функцию моментовNYhSNhXe=EE e k,k=1ее логарифм равенhSNln(E e)=NXln(E ehXj ),j=1а любые производные логарифмов будут складываться.Задача 5.7. Проверить, чтоdln(E ehX )|h=0 = E X,dhd2ln(E ehX )|h=0 = D X,2dhd3ln(E ehX )|h=0 = E(X − E X)3 .dh3Замечание. Коэффициенты в разложении функции ln(E ehX ) приh /k! называют семиинвариантами случайной величины X. Обычно семиинвариант k – ого порядка обозначают κk . Так κ1 = E X, κ2 =E(X − E X)2 , κ3 = E(X − E X)3 .k38Задача 5.8.
Выразите через моменты семиинварианты четвертого и пятого порядков.Задача 5.9. Докажите следующее свойство семиинвариантов для независимых случайных величин:κk (SN ) = κk (X1 ) + . . . + κk (XN ).Числовые характеристики E(X − E X)k называются центральнымимоментами порядка k.Задача 5.10. Выразите центральные моменты до пятого порядка включительно через моменты и через семиинварианты.Задача 5.11.
Paccмотрим функцию f (c) = E(X − c)2 . При каком значении c функция f (c) достигает минимального значения?39Глава 6Неравенства Чебышева.Отклонения сумм независимыхслучайных величин6.1Схемы Бернулли и ПуассонаПусть A1 , . . . , AN — независимые случайные события. Обозначимpk = P(Ak ),qk = P(Ak ) = 1 − pk .Рассмотрим случайную величину µN (ω) – число наступивших событийсреди A1 , . . . , AN , если осуществился элементарный исход ω.
Другимисловами, µN (ω) – это число событий Ak , которым одновременно принадлежит исход ω. Эту случайную величину удобно выразить через индикаторы случайных событий, а именноµN (ω) = I1 (ω) + . . . + IN (ω),Ik (ω) = IAk (ω).Из независимости событий следует независимость их индикаторов, поэтому, учитывая свойства математического ожидания и дисперсии длянезависимых случайных величин, получимE µN = E I1 + . . .
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
