Ульянов (новое издание) (1115355), страница 17
Текст из файла (страница 17)
Тем самым, утверждение оправдано.8.3Производящие функцииОпределение 8.2. Производящей функцией неотрицательной целочисленнойслучайной величины x называется функция ϕx (z) = Ez x ; |z| 6 1; z ∈ C.8.3.1Свойства производящих функций1◦ . Указанное выше мат. ожидание всегда существует, поскольку по неравенствутреугольника (ну, или свойству интегралов)|Ez x | 6 E|z|x 6 1, потому что |z| 6 1.Значит, для неотрицательной целочисленной случайной величины производящаяфункция всегда существует.Замечание.
В открытом круге |z| < 1 (речь идет о комплексной плоскости) ϕx (z)является равномерно сходящимся рядом. Каждое слагаемое можно дифференцировать бесконечное количество раз. При этом те, кто помнят неравенство КошиАдамара, заметят, что ряд из производных любого порядка в этом круге равномерносходится, а значит, производящую функцию можно дифференцировать и производная равна ряду из производных того же порядка слагаемых.
А вообще, это — степенной ряд. Этот факт неявно используется при доказательстве следующего утверждения.2◦ . Пусть ϕx (z) — производящая функция случайной величины x, тогда(k)ϕx (0), k ∈ Z, k > 0 — известна функция распределения x.k!То есть, по производящей функции однозначно восстанавливается распределение случайной величины.P(x = k) =74Доказательство. По определению распишем математическое ожидание случайной величины для дискретного распределения:Ez x = P(x = 0) + z P(x = 1) + z 2 P(x = 2) + . . . = ϕx (z).Дальше действуем по индукции либо так: положим z = 0 и обнаружим факт P(x =0) = ϕx (0), затем возьмем от производящей функции производную, уже там положимz = 0 и обнаружим, что P(x = 0) = ϕ0x (0). Далее, взяв n-тую производную и положив(k)в ней z = 0, получим P(x = k) = ϕx (0)/k!.
Возможно, стоит заметить, что в данномслучае 00 следует считать единицей.Из последнего факта следует, что между производящими функциями и распределениями целочисленных неотрицательных случайных величин есть взаимнооднозначное соответствие.3◦ . Пусть две случайных величины x и y независимы и имеют производящие функции ϕx (z) и ϕy (z).
Тогдаϕx+y (z) = ϕx (z) · ϕy (z).Это означает, что производящая суммы независимых случайных величинравна произведению производящих.Доказательство. Доказательство маленькое и симпатичное. Независимость x иy используется в помеченном звездочкой переходе:∗ϕx+y (z) = Ez x+y = Ez x z y = Ez x Ez y = ϕx (z)ϕy (z).Последнее утверждение - важнейшее свойство производящих функций. По индукции легко доказывается аналогичный факт для суммы n независимых случайныхвеличин. Задача о выяснении распределения суммы целочисленных неотрицательных случайных величин в отдельных случаях сильно упрощается.Пример.
Отыщем производящую функцию для случайной величины x, распределенной по биномиальному закону с параметрами n и p:Будем действовать по определению:xϕx (z) = Ez =nXkz P(x = k) =k=0=nXnXCnk z k pk (1 − p)(n−k)k=0Cnk (pz)k (1 − p)(n−k) = (pz + 1 − p)n .k=0Бинома Ньютона для решения этой задачи вполне достаточно.Пример. Пусть x1 , . . . , xn — независимые случайные величины, имеющие распределение Пуассона с параметрами λ1 , . .
. , λn соответственно. Требуется выяснить, какраспределена их сумма.Найдем производящую функцию случайной величины xi :ϕxi (z) = Ez xi =∞Xk=0∞z k λkiX (λi z)ke−λi= e−λi= eλi (z−1) .k!k!k=075Производящую функцию суммы x1 +. . .+xn найдем как произведение производящихфункций слагаемых:ϕx1 +...+xn (z) = e(λ1 +...+λn )(z−1) .Здесь в глаза бросается тот факт, что производящая функция суммы по виду сильнонапоминает производящую функцию одиночной случайной величины.
Очевидно, чтомы получили производящую случайной величины, распределенной по закону Пуассона с параметром λ1 + . . . + λn . Теперь, пользуясь фактом взаимно-однозначногосоответствия между производящими функциями и распределениями целочисленныхнеотрицательных случайных величин, заключаем, что сумма независимых пуассоновских случайных величин есть пуассоновская случайная величина с параметром,равным сумме параметров распределений слагаемых.Замечание. Случаи, когда по виду производящей функции суммы можно «угадать» ее распределение, не исчерпываются случаем суммы независимых пуассоновских случайных величин. Такое встретится для некоторых других дискретных распределений.76Лекция 99.1Характеристические функцииАппарат характеристических функций является одним из основных средств аналитического аппарата теории вероятностей.
Наиболее ярко это будет продемонстрировано через 2 лекции при доказательстве некоторых предельных теорем. На этойлекции мы изложим основные свойства и теоремы, связанные с характеристическими функциями.Наряду с действительными случайными величинами теория характеристическихфункций требует привлечения комплекснозначных случайных величин.Многие из определений и свойств, относящихся к действительным случайнымвеличинам переносятся на случай комплекснозначных случайных величин.Введем теперь определение характеристической функции.Определение 9.1. Характеристической функцией случайной величины X называется функция ϕX (t) = EeitX , t ∈ R, i - мнимая единица.Замечание.
Исходя из определения математического ожидания и интеграла Лебегахарактеристическую функцию случайной величины X можно переписать в такомвиде:Z∞ϕX (t) =eitx dF (x),−∞где F (x) — функция распределения X.Если случайная величина X имеет плотность f (x), то ее характеристическаяфункция имеет видZ∞ϕX (t) =eitx f (x) dx.−∞В этом случае характеристическая функция является преобразованием Фурьедля функции плотности f (x).Если случайная величина X дискретна, тогда ее характеристическая функцияимеет вид∞Xeitxk P(X = xk ).ϕX (t) =i=1Пример. Вычислим характеристическую функцию пуассоновской случайной величины X с параметром λ (X ∼ Π(λ)).itXϕX (t) = Ee=∞Xitne P (x = n) =i=1= e−λ∞Xi=1∞Xi=1it neitne−λ λnn!(λe )itit= e−λ eλe = eλ(e −1) .n!77itИтак, функция ϕX (t) = eλ(e −1) является характеристической функцией пуассоновской случайной величины X с параметром λ.Пример.
Вычислим характеристическую функцию стандартной нормальной случайной величины X (X ∼ N (0, 1)). Учитывая тот факт, что1√2πZ∞x2sin tx e− 2 dx = 0,−∞мы можем переписать характеристическую функцию в следующем виде1ϕX (t) = √2πZ∞eitx e2− x2−∞1dx = √2πZ∞x2cos tx e− 2 dx−∞Продифференцируем характеристическую функцию по t0Z∞Z∞x2x211−0ϕX (t) = √cos tx e 2 dx = √x sin tx e− 2 dx2π2π−∞1=√2πZ∞−∞−∞tx21sin tx de− 2 = −t √2πZ∞x2cos tx e− 2 dx.−∞Получили дифференциальное уравнениеϕ0X (t) = −tϕX (t),Решением которого является функцияt2ϕX (t) = ce− 2 .Вычисляя значение характеристической функции в нуле найдем, что c = 1.
Итакхарактеристической функцией стандартной нормальной случайной величины X явt2ляется функция ϕX (t) = e− 2 .Сформулируем без доказательства одно свойство математического ожидания итеорему Лебега о мажорируемой сходимости, которые нам потребуются в дальнейшем при доказательстве свойств характеристических функций и теорем с ними связанных.Теорема 9.1 (свойство математического ожидания). Пусть случайные величины таковы, что |X| ≤ Y (п.н) и EY < ∞.
Тогда существует E|X| и E|X| < EY .Теорема 9.2 (теорема Лебега о мажорируемой сходимости). Пусть случайп. н.ные величины таковы, что |Xn | ≤ Y , EY < ∞ и Xn −−→ X. Тогда E|X| < ∞иEXn → EX,n→∞иE|Xn − X| → 0,78n → ∞.9.1.1Свойства характеристических функций1◦ . ϕX (0) = 1Доказательство. Свойство проверяется тривиальноZ∞Z∞e0 dF (x) =ϕX (0) =−∞dF (x) = 1.−∞2◦ . |ϕX (t)| ≤ 1Доказательство. Очевидно имеем оценки¯¯ ∞¯ Z∞¯ZZ∞¯¯itxitx|e |dF (x) =dF (x) = 1.|ϕX (t)| = ¯¯ e dF (x)¯¯ 6¯¯−∞−∞−∞3◦ .
ϕX (t) равномерно непрерывна на RДоказательство. Свойство следует из оценцки|ϕ(t + h) − ϕ(t)| = |Eeitx (eihx − 1)| ≤ E|eihx − 1|и теоремы Лебега о мажорируемой сходимости, согласно которой E|eihx − 1| → 0 приh → 0.4◦ . ϕX (−t) = ϕX (t)Доказательство. Свойство следует из цепочки равенствϕX (−t) = Eei(−t)x = Ee−itx = Eeitx .5◦ . ϕaX+b (t) = eitb ϕX (at)Доказательство. Проводя тривиальные выкладки, убеждаемся в справедливостисвойства:ϕaX+b (t) = Eeit(ax+b) = Eeitax eitb = eitb ϕX (at).6◦ .
Если для некоторого n ≥ 1 E|X|n < ∞, то при всех r ≤ n существуют производные ϕ(n) (t) иZ(n)ϕ (t) = (ix)r eitx dF (x),(1)Rϕ(r) (0).EX =irr79(2)Доказательство. Если E|X|n < ∞, то E|X|r < ∞ для всех r < n. Рассмотримотношени嶵 ihXϕ(t + h) − ϕ(t)e−1itX= Ee.hhПоскольку¯ ihx¯¯e − 1¯¯¯¯ h ¯ ≤ |x|и E|X| < ∞, то по теореме Лебега о мажорируемой сходимости имеемµitXlim Eeh→0eihX − 1h¶µ= E lim eitXh→0eihX − 1h¶Z∞= iE(X eitXx eitx dF (x).)=i−∞Поэтому существует производная ϕ0 (t) иZ∞ϕ0 (t) = iE(X eitX ) = ix eitx dF (x).−∞Существование ϕ(r) (t), 1 ≤ r ≤ n и справедливость формулы (1) доказывается поиндукции.
Формула (2) следует непосредественно из (1).7◦ . ϕX (t) является неотрицательно определенной функциейДоказательство. Неотрицательная определенность функции f (t) означает, чтодля ∀n, ∀t1 , . . . , tn ∈ R и ∀z1 , . . . , zn ∈ C выполненоnXzk zl f (tk − tl ) ≥ 0.k,l=1Покажем, что характеристическая функция ϕX (t) является неотрицательно определенной.nXzk zl ϕX (tk − tl ) =k,l=1=nXk,l=1nXzk zl Eei(tk −tl )x=nXk,l=1nXEzk eitk x zl eitl x = Ek,l=1=EEzk zl eitk x e−itl xnXzk eitk x zl eitl xk,l=1wk wl = Ek,l=1nXwkk=1nXl=1wl = EnXk=1wknXwk ≥ 0.k=1Где мы сделали замену wk = zk eitk x , wl = zl eitl x .Сформулируем свойство, которое является ключевым при доказательстве предельных теорем для сумм независимых случайных величин методом характеристических функций.808◦ .
Пусть X1 , ..., Xn — независимые случайные величины, тогдаϕX1 +...+Xn (t) =nYϕXk (t).k=1Замечание. Обратное, вообще говоря, неверно!Перейдем к доказательсву свойства.Доказательство. Ранее было доказано, что если X1 , . . . , Xn - независимые случайные величины, и существуют EXk , где k = 1, n, то существует EX1 . . . Xn иEX1 . .
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
