korolev_matematicheskie_osnovy_teorii_ri ska (811435), страница 7
Текст из файла (страница 7)
(1.3.2)), мы получаем неравенствоP(|X| ≥ tβν1/ν ) ≤1.tν(1.3.11)Наконец, для g(x) = etx , t > 0, M = eta мы имеемP(X ≥ a) ≤EetX.eta(1.3.12)1.4. Производящие и характеристические функции35Мы также будем в дальнейшем использовать неравенство Ляпунова: если X – неотрицательная случайная величина с EX α < ∞ длянекоторого α ≥ 1, тоEX ≤ (EX α )1/α .(1.3.13)В частности, если случайная величина X необязательно неотрицательна и EX 2 < ∞, то√E|X − EX| ≤ DX.(1.3.14)Неравенства Ляпунова (1.3.13) и (1.3.14) можно рассматривать какчастные случаи неравенства Иенсена: пусть g(x) – выпуклая функцияи X – случайная величина такая, что E|X| < ∞.
ТогдаEg(X) ≥ g(EX).Из неравенства Иенсена и соотношений (1.3.8) и (1.3.14), в частности,вытекает, что√|EX − medX| ≤ DX.Если случайная величина X имеет конечный момент αk порядка k,1/k1/k1/m1/mто βm≤ βk и νm≤ νk для любого положительного m ≤ k. Отсюдавытекает, что βm βl ≤ βm+l и νm νl ≤ νm+l для любых l и m.1.4Производящие и характеристическиефункцииПри изучении целочисленных неотрицательных случайных величиноказывается полезными производящие функции, которые определяются следующим образом.Пусть X – целочисленная неотрицательная случайная величина сраспределением вероятностейP(X = k) = pk , k = 0, 1, 2, .
. .Производящей функцией случайной величины X (или последовательности {pk , k = 0, 1, . . .}) называется рядψX (s) ≡ ψ(s) = EsX =∞Xsk pk , |s| ≤ 1.(1.4.1)k=0Поскольку любой степенной pяд однозначно опpеделяется своими коэффициентами, то связь между pаспpеделениями и соответствующими361. Основные понятия теории вероятностейпpоизводящими функциями взаимно однозначна. Вырожденное распределение (1.2.3), биномиальное распределение (1.2.4) и распределение Пуассона (1.2.5) имеют соответственно производящие функцииψ(s) = sa ,ψ(s) = (1 − p + ps)n ,ψ(s) = e−λ(1−s) .(1.4.2)Производящая функция аналитична внутри единичного круга |s| <1. Распределение вероятностей восстанавливается по производящейфункции с помощью соотношенияpk =1 (k)ψ (0), k = 0, 1, .
. .k!(1.4.3)Факториальные моменты случайной величины XEX [m] ≡ EX(X − 1) . . . (X − m + 1)(1.4.4)вычисляются по формулеEX [m] = ψ (m) (1), m ≥ 1.(1.4.5)В частности, математическое ожидание и дисперсия случайной величины X определяются по формуламEX = ψ (1) (1), DX = ψ (2) (1) + ψ (1) (1) − (ψ (1) (1))2 .(1.4.6)При вычислении факториальных моментов можно также использоватьследующее представление производящей функцииψ(s + 1) =∞Xs m Dm , D m =m=01EX [m] .m!(1.4.7)Вырожденное распределение (1.2.3) имеет математическое ожидание идисперсию видаEX = a, DX = 0,(1.4.8)для биномиального распределения (1.2.4) соответственно имеемEX = np, DX = np(1 − p),µ3 = np(1 − 3p + 2p2 ),(1.4.9)µ4 = 3n2 (p − p2 )2 + n(p − 7p2 + 12p3 − 6p4 ),а для распределение Пуассона (1.2.5) формулы (1.4.6) приобретают видEX = DX = µ3 = λ,µ4 = λ + 3λ2 .(1.4.10)1.4. Производящие и характеристические функции37Для случайных величин X, принимающих произвольные значения,аналогами производящих функций являются так называемые характеристические функции, которые определяются следующим образом.Пусть случайная величина X имеет функцию распределения F (x),тогда характеристической функцией называется комплекснозначнаяфункция вида+∞ZfX (t) ≡ f (t) = EeitXeitx dF (x) ==(1.4.11)−∞+∞Z+∞Zcos(tx)dF (x) + i=sin(tx)dF (x).−∞−∞В частности, если у случайной величины X существует плотностьp(x) = F 0 (x), то ее характеристическая функция является преобразованием Фурье плотности p(x):+∞Zeitx p(x)dx.f (t) =(1.4.12)−∞Для дискретной случайной величины X, принимающей значения xk свероятностями pk , характеристическая функция f (t) представима рядомXf (t) =eitxk pk .(1.4.13)kНесложно видеть, что если X имеет ноpмальное pаспpеделение с паpаметpами (µ, σ 2 ), то¾½t2 σ 2f (t) = exp itµ −.2Характеристические функции определены при всех действительных tдля любых случайных величин.
Приведём основные свойства характеристических функций.1◦ . Справедливы соотношенияf (0) = 1, |f (t)| ≤ 1, t ∈ IR.2◦ . Характеристическая функция равномерно непрерывна на всей действительной оси.3◦ . Положительная определённость характеристических функций: прикаждом n ∈ IN для любых комплексных чисел z1 , . . . , zn и любых вещественных чисел t1 , . . . , tnnXl,mf (tl − tm )zl z m ≥ 0.381. Основные понятия теории вероятностей4◦ . Эрмитовость:f (−t) = f (t)(черта сверху означает комплексное сопряжение).5◦ . Если Y = aX + b, где a и b – действительные числа, тоfY (t) = eibt fX (at).Теорема 1.4.1. Для любого действительного y пределT1 Zlimf (t)e−ity dtT →∞ 2T−Tсуществует и равен скачку функции распределения F (x) в точке x =y.
Таким образом, если F (x) непрерывна в точке y то этот пределравен нулю.Согласно Теореме 1.2.3, каждую функцию распределения F (x) можно представить в виде суммы суммы трёх компонент. Используя этотфакт, получаем соответствующее представление для характеристических функцийf (t) = a1 f1 (t) + a2 f2 (t) + a3 f3 (t),(1.4.14)где каждое fj (t) – характеристическая функция соответствующей компоненты разложения F (x). Рассмотрим теперь в отдельности поведениекаждого из этих трёх слагаемых.1.
Так как F1 (x) абсолютно непрерывна, то+∞Zeitx F10 (x)dxf1 (t) =−∞и, следовательно по теореме Римана–Лебегаf1 (t) → 0 при |t| → ∞.(1.4.15)Отсюда следует, чтоT1 Zlim|f1 (t)|2 dt = 0.T →∞ 2T−TЕсли для всех x существует абсолютно интегрируемая n-я производ(n)ная F1 (x), то интегрирорванием по частям несложно показать, что1.4. Производящие и характеристические функции39поведение характеристической функции f1 (t) на бесконечности описывается соотношениемf1 (t) = O(1) при t → ∞.|t|n−1(1.4.16)2. Если через xk и pk , k = 1, 2, . . . обозначить соответственно точки разрыва и величины скачков функции распределения F (x) в этихточках, тоa2 f2 (t) =∞Xpk eitxk .k=1Это выражение представляет собой сумму абсолютно сходящегося тригонометрического ряда иlim sup |f2 (t)| = 1.(1.4.17)T∞1 Z1 Xlim|f2 (t)|2 dt = 2p2 .T →∞ 2Ta2 k=1 k(1.4.18)|t|→∞Далее мы имеем−T3.
Характеристическая функция f3 (t) является характеристическойфункцией непрерывной функции распределения F3 (x), имеющей производную, почти всюду равную нулю. При этом f3 (t) может не стремитьсяк нулю при |t| → ∞.Таким образом, справедлива следующаяТеорема 1.4.2. Если в представлении функции распределенияF (x) в виде суммы трех компонент (см. Теорему 1.2.3), a1 > 0, тоlim sup |f (t)| < 1.|t|→∞Отсюда следует, что для |t| ≥ ² > 0|f (t)| < q² < 1,при любом сколь угодно малом ² > 0.
Если a1 = 1, тоlim f (t) = 0.|t|→∞Если a2 = 1, тоlim sup |f (t)| = 1.|t|→∞401. Основные понятия теории вероятностейДля любой характеристической функции f (t) справедливо равенствоT∞X1 Zlim|f (t)|2 dt =p2k ,T →∞ 2Tk=1−Tгде pk – величины скачков функции распределения F (x) в её точкахразрыва xk , k = 1, 2, . . .Для решётчатого распределенияpn = P(X = b + nh), n = 0, ±1, ±2, . . .характеристическая функция f (t) представима в виде ряда Фурьеf (t) = eitb+∞Xeitnh pn ,(1.4.19)n=−∞так что |f (2π/h)| = 1.
Обратно, если при некотором t0 6= 0 справедливо равенство |f (t0 )| = 1, то соответствующее распределение являетсярешётчатым.Максимальный шаг распределения равен h тогда и только тогда,когда модуль характеристической функции меньше единицы при 0 <|t| < 2π/h и равен единице при t = 2π/h.Отсюда следует, что если f (t) есть характеристическая функциярешётчатого распределения с максимальным шагом h, то для любого² > 0 существует 0 < q² < 1 такое, что|f (t)| ≤ q² < 1, при ² ≤ |t| ≤2π− ².hСлучайная величина X и её распределение называются симмметричными, если функции распределения случайных величин X и −Xсовпадают, то есть, еслиdX = −X.Если X – симметричная случайная величина и f (t) её характеристическая функция, то вследствие эрмитовости характеристических функций выполнено соотношениеf (t) = EeitX = Ee−itX = f (−t) = f (t).Таким образом, характеристическая функция симметричной случайной величины всегда действительна.1.4.
Производящие и характеристические функции41Если у случайной величины X существует момент αk = EX k некоторого целого порядка k ≥ 1, то характеристическая функция этой случайной величины дифференцируема k раз и, кроме того, справедливосоотношение(k)fX (0) = ik αk = ik EX k .(1.4.20)Используя формулу Тейлора, можно показать, что если случайная величина X с характеристической функцией fX (t) имеет момент αk =EX k некоторого целого порядка k ≥ 1, то справедливо разложениеfX (t) = 1 +kXαjj=1j!(it)j + o(|t|k ), t → 0.(1.4.21)Для достаточно малых значений t главная ветвь log fX (t), которая стремится к нулю вместе с t, представима в видеlog fX (t) =kXκjj=1j!(it)j + o(|t|k ), t → 0.(1.4.22)при этом коэффициенты {κj (X) ≡ κj , j = 1, 2, . .
.} называются кумулянтами или семиинвариантами случайной величины X. Семиинварианты определяются также по формулеκj =1 (j)l (0), где l(t) = log fX (t).ij(1.4.23)Для нормального распределения с произвольными параметрами семиинварианты всех порядков, начиная с третьего, равны нулю. Для распределения Пуассона с параметром λ семиинварианты всех порядковравны λ.Из формального тождестваµlog 1 +∞Xαjj=1j!¶j(it)=∞Xκjj=1j!(it)jможно получить следующую формулу, связывающую семиинвариантκs произвольного порядка s с моментами α1 , .
. . , αsκs = s!X(−1)m1 +...+ms −1 (m1 + . . . + ms − 1)!sY1αi mi) .i=1 mi ! i!((1.4.24)Здесь суммирование производится по всем целым неотрицательным решениям уравненияm1 + 2m2 + . . . + sms = s.421. Основные понятия теории вероятностейОтсюда несложно получить следующие формулыκ1 = EX = α1 , κ2 = DX = µ2 ,(1.4.25)κ3 = µ3 , κ4 = µ4 − 3µ22 , κ5 = µ5 − 10µ2 µ3 ,κ6 = µ6 − 15µ2 µ4 − 10µ23 + 30µ32 ,κ7 = µ7 − 21µ2 µ5 − 35µ3 µ4 + 210µ22 µ3 ,κ8 = µ8 − 28µ2 µ6 − 56µ3 µ5 − 35µ24 + 420µ22 µ4 + 560µ2 µ23 − 630µ42 .Можно показать, что для семиинвариантов справедливы неравенства|κn | ≤ nn βn , n = 1, 2, .
. .(1.4.26)Согласно определению (1.4.11), характеристическая функция однозначно определяет функцию распределения FX (x) и, значит, распределение случайной величины X.Сформулируем теоремы, показывающие, что и обратно, функция распределения F (x) однозначно определяется характеристическойфункцией f (t).Теорема 1.4.3.
Если функция распределения F (x) непрерывна вточках x1 и x2 , тоTZ −itx11e− e−itx2F (x2 ) − F (x1 ) =limf (t)dt.2π T →∞it−TИз этого утвеpждения легко следует теорема единственности:Теорема 1.4.4. Две функции распределения, которым соответствует одна и та же характеристическая функция, тождественносовпадают.В случае, если случайная величина X имеет плотность, справедливаследующая формула обращения.Теорема 1.4.5.
ЕслиZ∞|f (t)|dt < ∞,−∞то соответствующая функция распределения F (x) имеет всюдунепрерывную производную p(x) = F 0 (x) и, кроме того для любого x∞1 Z −itxp(x) =e f (t)dt.2π−∞1.4. Производящие и характеристические функции43Приведём также формулу обращения для решётчатого распределения.Теорема 1.4.6. Пусть случайная величина X имеет решётчатоераспределение:pk = P(X = b + kh), k = 0, ±1, ±2, . . .Тогдаhpk =2πZe−it(b+kh) f (t)dt,|t|<π/hгде f (t) – характеристическая функция случайной величины X.Пусть fX (t) = EeitX и fY (t) = EeitY – характеристические функциинезависимых случайных величин X и Y с функциями распределенияFX (x) = P(X < x), FY (x) = P(Y < x).