korolev_matematicheskie_osnovy_teorii_ri ska (811435), страница 6
Текст из файла (страница 6)
. . , Xn < xn ) и Fk (x) = P(Xk < x).Для любой последовательности функций распределения F1 (x),F2 (x), . . . существует вероятностное пространство (Ω, U, P) и определённая на нем последовательность независимых случайных величинX1 , X2 , . . .
такая, что для любого n функция распределения случайнойвеличины Xn есть Fn (x).Рассмотрим некоторые специальные распределения, которые мы часто будем использовать в дальнейшем.Вырожденное распределение. Случайная величина X имеет распределение, вырожденное в точке a ∈ IR, еслиP(X = a) = 1.В этом случае(FX (x) =0, x ≤ a,1, x > a.(1.2.3)261. Основные понятия теории вероятностейБиномиальное распределение. Случайная величина X имеет биномиальное распределение с параметрами (n, p) (0 < p < 1, n ≥ 1), еслиP(X = k) = Cnk pk (1 − p)n−k , k = 0, 1, . .
. , n.(1.2.4)Биномиально распределенная случайная величина описывает числоуспехов в n испытаниях Бернулли (независимых испытаний с двумяисходами – “успехом” и “неудачей”), в которых вероятность успеха вотдельном испытании равна p (и, соответственно, вероятность неудачив отдельном испытании равна 1 − p).Распределение Пуассона. Случайная величина X имеет распределение Пуассона с параметром λ > 0, еслиk−λ λP(X = k) = ek!, k = 0, 1, . . .(1.2.5)Распределение Пуассона является хорошей аппроксимацией для биномиального распределения при большом n и малом p.
Более подробнооб этом см. раздел 1.7.Отрицательное биномиальное распределение (распределение Паскаля). Случайная величина X имеет отрицательное биномиальное распределение с параметрами n и p (n > 0, 0 < p < 1), еслиkP(X = k) = Cn+k−1pn (1 − p)k , k = 0, 1, . . .n(для нецелых n величина Cn+k−1определяется какkCn+k−1=Γ(n + k),k! · Γ(n)где Γ(r) – эйлерова гамма-функция,Z∞e−y y r−1 dy,Γ(r) =r > 0).0Если n – целое, то случайная величина с отрицательным биномиальным распределением описывает число испытаний Бернулли, проведенных до достижения ровно n успехов.Геометрическое распределение является частным случаем отрицательного биномиального распределения с n = 1.Равномерное распределение на интервале [a, b] определяется плотностью 1 , a ≤ x ≤ b,p(x) = b − a0,x∈/ [a, b].1.2.
Случайные величины27Нормальное (гауссово) распределение. Случайная величина X имеетнормальное распределение с параметрами (µ, σ 2 ), µ ∈ IR, σ 2 ≥ 0, еслиее плотность имеет вид()1(x − µ)2p(x) = √ exp −.2σ 2σ 2π(1.2.6)Нормальное распределение с параметрами (0, 1) называется стандартным. Везде в дальнейшем стандартная нормальная функция распределения и ее плотность будут обозначаться соответственно Φ(x) и ϕ(x).Таким образом,12ϕ(x) = √ e−x /2 ,2πZxΦ(x) =ϕ(t)dt.(1.2.7)−∞Легко видеть, что если случайная величина X имеет нормальное распределение с параметрами (µ, σ 2 ), тоµ¶x−µP(X < x) = Φ.σГамма-распределение. Случайная величина X имеет гаммараспределение с параметром формы α > 0 и параметром масштабаλ > 0, если ее плотность имеет видα λ e−λx xα−1 ,p(x) = Γ(α)0,x ≥ 0,x < 0.Здесь Γ(α) – эйлерова гамма-функция.
Гамма-распределение являетсянепрерывным аналогом отрицательного биномиального распределения.Экспоненциальное (показательное) распределение является специальным случаем гамма-распределения с α = 1. Экспоненциальное распределение является непрерывным аналогом геометрического распределения.Распределение Парето. Случайная величина X имеет распределение Парето, если ее плотность имеет видα (ax − b) ,p(x) = (cx − d)β0,x ≥ h,x<hс некоторыми b ∈ IR, d ∈ IR, a ≥ 0, c > 0, α ≥ 0, β > 0, γ ≥ 0, h > c/d.281.
Основные понятия теории вероятностейРаспределение Коши с параметром положения (сдвига) a ∈ IR ипараметром масштаба λ > 0 определяется плотностьюp(x) =λ1· 2,π λ + (x − a)2x ∈ IR.Распределение Лапласа (двойное показательное распределение).Случайная величина X имеет распределение Лапласа с параметромположения (сдвига) a ∈ IR и параметром масштаба λ > 0, если ее плотность имеет видλp(x) = e−λ|x−a| , x ∈ IR.21.3Моменты случайных величин.Основные неравенства.Для случайных величин X(ω), заданных на вероятностном пространстве (Ω, U, P), понятие интеграла Лебега вводится по стандартной схеме, детальное изложение которой приведено, например, в книге (Ширяев, 1989).
Вкратце напомним основные шаги построения интегралаЛебега.Пусть сначала X(ω) – дискретная неотрицательная случайная величина, принимающая конечное число значений x1 , . . . , xn . Такая случайная величина называетсяпростой. Для простой случайной величиныRинтеграл Лебега Ω XdP по определению полагается равнымZXdP =nXxj P({ω : X(ω) = xj }).j=1ΩДля произвольной неотрицательной случайной величины X(ω) существует монотонно неубывающая последовательность простых случайных величин Xn (ω), сходящаяся поточечно к X(ω). Чтобы в этомубедиться, достаточно положить2nXn (ω) =2Xi−1i=12n1{ω: i−1 ≤X(ω)< i } (ω).2n2nИнтегал Лебега произвольной неотрицательной случайной величиныX(ω) определяется как предел последовательности интегралов Лебегапростых случайных величин, сходящихся поточечно к X(ω):nZXdP = limn→∞Ω22Xi − 1 ³ni=12nPω:i−1i o´≤X(ω)<.2n2n1.3. Моменты случайных величинЭтот предел может быть либо конечным, либо бесконечным.
В последнем случае говорят, что интеграл расходится.Наконец, для произвольной случайной величины X(ω) введем случайные величиныX + (ω) = max{X(ω), 0},X − (ω) = − min{X(ω), 0}.Очевидно, что случайные величины X + (ω) и X − (ω) неотрицательны,причемX(ω) = X + (ω) − X − (ω).С помощью этих величин интеграл Лебега произвольной случайнойвеличины X(ω) определяется какZZZ+XdP =ΩX − dP.X dP −Ω+Ω−Так как |X(ω)| = X (ω) + X (ω), то интегралконечен тогда и только тогда, когдаRΩXdP существует иZ|X|dP < ∞.ΩДоговоримсясчитать,что, если ровно один из интеграловI+ =RRR+−= Ω X − dP расходится, то интеграл Ω XdP существуΩ X dP и Iет и равен +∞, если расходится I + , и −∞, если расходится I − .
Еслижерасходятся оба интеграла I + и I − , то будем говорить, что интегралRΩ XdP не существует.Математическим ожиданием EX случайной величины X по определению называется ее интеграл Лебега:ZEX =XdP.ΩБолее того, EX существует тогда и только тогда, когда существуетE|X|.Справедливо равенство+∞ZEX =xdFX (x),−∞в правой части которого стоит интеграл Стильтьеса. Если случайнаявеличина X абсолютно непрерывна и имеет плотность p(x), то+∞ZEX =xp(x)dx.−∞29301. Основные понятия теории вероятностейЕсли X – дискретная случайная величина с распределением{(xi , pi )}i≥1 , тоXEX =xi pi .i≥1Пусть h(x) – борелевская функция, то есть вещественная функция,определенная на IR так, что для любого c ∈ IR множество {x : h(x) < c}является борелевским.
Тогда+∞ZEh(X) =h(x)dF (x).−∞Пусть X и Y – две случайные величины, α и β – числа. ТогдаE(αX + βY ) = αEX + βEY,если любые два из участвующих в этом равенстве математических ожиданий существуют.Если случайные величины X и Y независимы, тоEXY = EX · EY.Математические ожидания случайных величин X s и |X|s называются соответственно моментом и абсолютным моментом порядка sслучайной величины X (или соответственно s-м моментом и абсолютным моментом случайной величины X):+∞Zsxs dF (x),(1.3.1)|x|s dF (x).(1.3.2)αs = EX =−∞+∞Zsβs = E|X| =−∞Если FX (x) – функция распределения случайной величины X, тоZ∞EX =Z0(1 − FX (x))dx +FX (x)dx.(1.3.3)−∞0Более того, если P(X ≥ 0) = 1, тоZ∞sxs−1 (1 − FX (x))dxαs = EX = |s|0(1.3.4)1.3.
Моменты случайных величин31для любого действительного s 6= 0.Центральный момент µs и абсолютный центральный момент νsпорядка s > 0 случайной величины X определяются соответственноравенствами+∞Zs(x − α1 )s dF (x),µs = E(X − EX) =(1.3.5)−∞+∞Zs|x − α1 |s dF (x).νs = E|X − EX| =(1.3.6)−∞Особую роль играет второй центральный момент µ2 , который называется дисперсией случайной величины X и обозначается DX:DX = E(X − EX)2 = EX 2 − (EX)2 .Заметим, что, если конечно математическое ожидание EX, то DX всегда существует, но√может принимать значение +∞.Величина σ = DX называется среднеквадратическим уклонениемслучайной величины X.Отметим важное свойство дисперсии: DX = 0 тогда и только тогда,когда P(X = EX) = 1, то есть тогда, когда случайная величина Xпостоянна с вероятностью единица. Если дисперсия конечна, тоD(aX + b) = a2 DX, a, b ∈ IR.В частности, какой бы ни была случайная величина X, стандартизованная случайная величинаX − EXX∗ = √DX(1.3.7)всегда имеет нулевое математическое ожидание и единичную дисперсию.Если случайная величина X имеет нормальное распределение с параметрами (µ, σ 2 ), тоEX = µ,DX = σ 2 .Пусть X и Y – две случайные величины с конечными вторыми моментами.
Величинаcov(X, Y ) = E(X − EX)(Y − EY ) = EXY − EXEY321. Основные понятия теории вероятностейназывается ковариацией случайных величин X и Y . Величинаcov(X, Y )ρ(X, Y ) = √DXDXназывается коэффициентом корреляции случайных величин X и Y . Коэффициент корреляции характеризует тесноту линейной зависимостислучайных величин X и Y , обладая следующими свойствами:• |ρ(X, Y )| ≤ 1;• если случайные величины X и Y независимы, то ρ(X, Y ) = 0;• если |ρ(X, Y )| = 1, то существуют числа a и b такие, что P(X =aY + b) = 1; при этом sign a = sign ρ(X, Y ).Пусть X и Y – две случайные величины с конечными вторыми моментами.
Если при этом cov(X, Y ) = 0, то случайные величины X иY называются некоррелированными. Если случайные величины X и Yнезависимы, то они некоррелированы.Справедлива формулаD(X ± Y ) = DX + DY ± 2cov(X, Y ).В частности, если случайные величины X и Y независимы, тоD(X ± Y ) = DX + DY.Распределение PX случайной величины X называется унимодальным, если существует значение x = a такое, что при x < a функцияраспределения FX (x) выпукла, а при x > a – вогнута. При этом числоa называется модой распределения. Если случайная величина X абсолютно непрерывна, то модами ее распределения называются точкимаксимума ее плотности pX (x).Если X – дискретная случайная величина и pk = P(X = xk ), тозначения xi , для которыхP(X = xi ) = max pk ,kназываются модами ее распределения.Пусть X – случайная величина и q ∈ [0, 1] – некоторое число.
Квантилью порядка q случайной величины X (или q-квантилью случайнойвеличины X) называется число `X (q), удовлетворяющее неравенствам(P(X ≤ `X (q)) ≥ q,P(X ≥ `X (q)) ≥ 1 − q.1.3. Моменты случайных величин33Если функция распределения FX (x) случайной величины X непрерывна, тоFX (`X (q)) = q.Медианой medX случайной величины X называется ее квантиль порядка 21 . Для абсолютно непрерывной случайной величины X медианаудовлетворяет соотношениюmedZ XZ∞pX (x)dx =−∞medX1pX (x)dx = .2Математическое ожидание характеризует центр распределения случайной величины X в том смысле, чтоE(X − x)2 ≥ E(X − EX)2 = DXдля любого x ∈ IR. При этом дисперсия характеризует разброс распределения случайной величины X вокруг ее центра.Медиана характеризует центр распределения случайной величиныX в том смысле, чтоE|X − x| ≥ E|X − medX|(1.3.8)для любого x ∈ IR.Помимо дисперсии (и, соответственно, среднеквадратического уклонения), разброс распределения случайной величины X вокруг ее центра может характеризовать интервартильный размах, определяемыйкак разность между квантилями порядков 34 и 14 .Если случайная величина X имеет конечные моменты до третьеговключительно, то величинаκ3 = E³ X − EX ´3√DX=E(X − EX)3(DX)3/2=µ3σ3называется коэффициентом асимметрии ее распределения.
Если κ3 <0, то левый хвост распределения тяжелее правого. Если же κ3 > 0, тонаоборот, правый хвост тяжелее.Если случайная величина X имеет конечные моменты до четвертоговключительно, то величинаκ4 = E³ X − EX ´4√DX=E(X − EX)4µ4= 42σ(DX)341. Основные понятия теории вероятностейназывается коэффициентом эксцесса или коэффициентом островершинности ее распределения. Если X имеет плотность p(x) и κ4 > 3,то p(x) имеет более острую вершину (и, соответственно, более тяжелые хвосты), нежели стандартная нормальная плотность ϕ(x). Еслиже κ4 < 3, то вершина плотности p(x) более плоская, а хвосты болеелегкие, нежели у ϕ(x).Теорема 1.3.2. Пусть g(x) – неотрицательная борелевская функция такая, что g(x) ≥ M > 0 для всех x из некоторого борелевскогомножества B. Тогда для любой случайной величины X справедливонеравенствоEg(X).P(X ∈ B) ≤MДоказательство этой теоремы немедленно вытекает из соотношений+∞ZEg(X) =Zg(x)dF (x) ≥ M−∞dF (x) = M PX (B).BВ частности, если X – неотрицательная случайная величина, то,для любого положительного t полагая g(x) = min{t, x}, мы получаемнеравенство Маркова:P(X ≥ t) ≤E min{t, X}EX≤.tt(1.3.9)Полагая в теореме 1.2.3 g(x) = (x − EX)2 , мы получаем неравенствоЧебышева: для любого положительного tP(|X − EX| ≥ t) ≤DX.t2(1.3.10)Далее, если для некоторого ν > 0 мы положим g(x) = |x|ν , M =tν βν , t > 0, где βν – абсолютный момент случайной величины |X| порядка ν (см.