Лекции по терверу - Горяйнов (1188226), страница 9
Текст из файла (страница 9)
длялюбых t1 , . . . , tn из R и z1 , . . . , zn из C, n = 1, 2, . . ., выполнялось условиеnXk,l=1h(tk − tl )zk z l > 0.Доказательство. Необходимость условия следует из простых преобразований.XXhξ (tk − tl )zk z l = E zk z l ei(tk −tl )ξ k,lk,l= EXkitk ξzk e!Xl2Xitk ξ = Ezk e > 0.zleitl ξ!kДоказательство достаточности условия теоремы выходит за рамки данногокурса.Приведем теперь характеристические функции некоторых часто встречающихся в приложениях распределений.42В. В.
ГОРЯЙНОВ♣ Вырожденное распределение P(ξ = a) = 1.Непосредственно из определения характеристической функции получаем ее видhξ (t) = Eeitξ = eiat .♣ Равномерное на отрезке распределение с плотностьюfξ (x) =11[a,b] (x).b−aЕе характеристическая функция также получается непосредственно изопределения. В случае t 6= 0 имеемZb1hξ (t) =b−aeitxax=beitb − eitaeitx =.dx =it(b − a) x=ait(b − a)При t = 0 имеем hξ (0) = 1.♣ Экспоненциальное распределение зависит от параметра λ > 0 и определяется плотностьюfξ (x)λe−λx 1[0,∞) (x).Здесь снова воспользуемся определением характеристической функцииhξ (t) = λZ∞eitx −λxe0x=∞λe(it−λ)x λdx ==.it − λ x=0λ − it♣ Нормальное распределение, определяемое плотностьюfξ (x) =221√ e−(x−a) /2σσ 2πс двумя параметрами a ∈ R и σ > 0, имеет важное значение как в теории,так и в приложениях.Для вычисления характеристической функции нормального распределения вначале рассмотрим случай, когда a = 0 и σ = 1.
В этом случаеговорят, что случайная величина ξ имеет стандартное нормальное распределение. При этом1hξ (t) = √2πZ∞eitx e−x2/2dx−∞ ∞ZZ∞221 = √cos tx · e−x /2 dx + isin tx · e−x /2 dx2π−∞1= √2πZ∞−∞cos tx · e−x−∞2/2dx,43ЛЕКЦИИ ПО ТВпоскольку интеграл в мнимой части берется по симметричному промежутку от нечетной функции. Замечая, что выполнены условия дифференцирования несобственного интеграла, зависящего от параметра, получаемh0ξ (t)1= −√2πt= −√2πZ∞−∞Z∞−∞x sin tx · e−x2 /2cos tx · e−x2/21dx = √2πZ∞−∞sin tx · de−x2/2dx = −thξ (t).Таким образом, характеристическая функция стандартного нормального распределения является решением дифференциального уравненияh0ξ (t) = −thξ (t).Это вместе с условием hξ (0) = 1 приводит к ее видуhξ (t) = e−t2/2.Пусть теперь σ > 0 и a ∈ R.
Случайная величина η = σξ +a будет иметь,в силу свойства 3◦ , характеристическую функциюhη (t) = eiat e−σ2 2t /2.С другой стороны,x−a1Fη (x) = P(σξ + a 6 x) = P(ξ 6) = √σ2πт. е.fη (x) =(x−a)/σZ2e−u/2du,−∞(x−a)21√ e− 2σ2σ 2πи η имеет нормальное распределение с параметрами a, σ 2 .Зная вид характеристической функции, легко вычислить математическое ожидание и дисперсию случайной величины с использованием свойства 5◦ . В частности, если ξ имеет стандартное нормальное распределение, то из равенствh0ξ (t) = −thξ (t),h00ξ (t) = −hξ (t) − th0ξ (t)следует, что h0ξ (0) = 0, h00ξ (0) = −1. Отсюда получаемEξ = 0,Dξ = Eξ 2 = 1.Для произвольного нормального распределения, когда η = σξ + a, получаемEη = a,Dη = σ 2 .Таким образом, параметры нормального распределения имеют вероятностный смысл.44В.
В. ГОРЯЙНОВ♣ Целочисленная случайная величина с производящей функцией gξ (x) имеет характеристическую функцию hξ (t) = gξ (eit ). Это следует непосредственно из определений характеристической и производящей функций.Важным моментом в применении характеристических функций является то,что они вполне определяют распределение случайной величины. Приведем дварезультата, известные как формулы обращения. Напомним вначале, что распределение случайной величины ξ представляет собой вероятностную меру Pξ ,определенную на σ-алгебре борелевских множеств, т.
е. на измеримом пространстве (R, B). Эта мера связана с функцией распределения Fξ равенствамиFξ (x) = Pξ ((−∞, x]),Pξ ((a, b]) = Fξ (b) − Fξ (a).Теорема 9.2. Для любых a < b выполняется соотношение1limR→∞ 2πZRe−iat − e−ibt1hξ (t)dt = [Pξ ([a, b)) + Pξ ((a, b])]it2−R=1[Fξ (b − 0) − Fξ (a − 0) + Fξ (b) − Fξ (a)] .2Теорема 9.3. Пусть характеристическая функция hξ абсолютно интегрируема, т.
е.Z∞|hξ (t)|dt < ∞.−∞Тогда ξ имеет абсолютно непрерывное распределение, а ее плотность определяется по формулеZ∞1e−ixt hξ (t)dt.fξ (x) =2π−∞Из формулы обращения следует, что между множеством функций распределения F и множеством характеристических функций h имеет место взаимно-однозначное соответствие. Это соответствие является даже непрерывным относительно соответствующих сходимостей.Определение 9.1. Будем говорить, что последовательность функций распределения Fn , n = 1, 2, .
. ., слабо сходится к функции распределения F иписать Fn ⇒ F , если Fn (x) → F (x) при n → ∞ в каждой точке непрерывностифункции F .Теорема 9.4. Пусть F1 , F2 , . . . — функции распределения, а h1 , h2 , . . . — соответствующие им характеристические функции. Тогда имеют место следующие утверждения:(i) Если Fn ⇒ F и h — характеристическая функция, соответствующаяфункции распределения F , то hn (t) → h(t) при n → ∞ для всех t ∈ R;(ii) Если hn (t) → h(t) при n → ∞ для всех t ∈ R и функция h непрерывна вточке t = 0, то h является характеристической функцией некоторойфункции распределения F и Fn ⇒ F .45ЛЕКЦИИ ПО ТВВажную роль в приложениях играют результаты, утверждающие нормальность распределения сумм независимых случайных величин.
Обычно их объединяют в одну группу с названием центральной предельной теоремы. Мырассмотрим один из вариантов центральной предельной теоремы.Теорема 9.5. Пусть ξ1 , ξ2 , . . . — последовательность независимых одинаково распределенных случайных величин с конечными Eξ = a и Dξ = σ 2 . Тогдадля Sn = ξ1 + .
. . + ξn выполняется следующее предельное соотношениеlim Pn→∞Sn − na√6xσ n1= √2πZx2e−u/2du−∞для всех x ∈ R√Доказательство. Обозначим ζn = (Sn − na)/σ n, n = 1, 2, . . .. Тогдаутверждение теоремы эквивалентно тому, что Fζn ⇒ Φ, где Φ — функция Лапласа, т. е. функция распределения случайной величины η, имеющей стандартное нормальное распределение. В силу теоремы сходимости это эквивалентноусловию hζn (t) → hη (t) при n → ∞ для всех t ∈ R.Рассмотрим случайные величины ξˆn = (ξn − a)/σ, n = 1, 2, . . ..
Очевидно,что Eξˆn = 0 и Dξˆn = Eξˆn2 = 1. При этомξˆ1ξˆnζn = √ + . . . + √ .nnПустьh(t) = hξ̂n (t) = Eeitξ̂n .Поскольку h(0) = 1, h0 (0) = iEξˆn = 0, h00 (0) = −Eξˆn2 = −1, то1h(t) = 1 − t2 + o(t2 ).2Но тогдаhζn (t) = 2 n nntt1 t2hξ̂n /√n (t)= h √+o.= 1−2nnnПри фиксированном t ∈ R имеем t2 /n → 0 при n → ∞ иlim hζn (t) = lim en→∞Замечая, что hη (t) = e−tn→∞2/2n ln(1 −t2t2+ o( ))22nn = e−t /2 ., приходим к утверждению теоремы.Следствие 9.1 (теорема Муавра— Лапласа). Пусть Sn — число успехов в схеме Бернулли из n независимых испытаний с вероятностью p, 0 <p < 1, успеха в отдельном испытании.
Тогда для −∞ < a < b < ∞ выполняется предельное соотношениеSn − np6 b = Φ(b) − Φ(a),lim P a 6 √n→∞npqгде q = 1 − p.46В. В. ГОРЯЙНОВДоказательство. Заметим, что Sn можно представить как сумму независимых случайных величин ξk , которые являются индикаторами успеха в k-омиспытании: P(ξk = 1) = p, P(ξk = 0) = q, k = 1, 2, . . .. Тогда Eξk = p, Dξk = pq.Применение центральной предельной теоремы дает требуемый результат.§ 10.
Виды сходимости последовательностей случайных величинВ этом параграфе рассматриваются основные виды сходимости последовательностей случайных величин и устанавливается взаимосвязь между ними.Определение 10.1. Будем говорить, что последовательность случайныхвеличин ξ1 , ξ2 , . . . сходится по вероятности к случайной величине ξ, и писатьPξn → ξ, если для всякого ε > 0 выполняется предельное соотношениеlim P(|ξn − ξ| > ε) = 0.n→∞Именно этот вид сходимости имеет место в законе больших чисел Чебышёва.Заметим, что из сходимости по вероятности последовательности случайных величин мы ничего не можем сказать о том, как ведет себя последовательностьв отдельных экспериментах.
В этом отношении более содержательную информацию дает следующий вид сходимости.Определение 10.2. Будем говорить, что последовательность случайныхвеличин ξ1 , ξ2 , . . . сходится к случайной величине ξ с вероятностью 1 или почтип.н.наверное, и писать ξn → ξ, еслиP({ω :lim ξn (ω) = ξ(ω)}) = 1.n→∞Следующий вид сходимости требует от случайных величин существованиясредних порядка p.Определение 10.3.
Будем говорить, что последовательность случайныхвеличин ξ1 , ξ2 , . . . сходится к случайной величине ξ в среднем порядка p, p > 0,Lpи писать ξn → ξ, если E|ξn − ξ|p → 0 при n → ∞.При p = 2 эта сходимость называется также в среднем квадратичном.Определение 10.4.
Будем говорить, что последовательность случайныхвеличин ξ1 , ξ2 , . . . сходится к случайной величине ξ по распределению, и писатьdξn → ξ, если Fξn ⇒ Fξ .Теорема 10.1. Пусть ξ1 , ξ2 , . . . — последовательность случайных величин.Тогда имеют место следующие утверждения:п.н.P(i) Если ξn → ξ, то ξn → ξ;LpPPd(ii) Если ξn → ξ, то ξn → ξ;(iii) Если ξn → ξ, то ξn → ξ.Доказательство. (i) Для ε > 0 введем в рассмотрение последовательностьсобытийAεn = {ω : |ξn (ω) − ξ(ω)| > ε},47ЛЕКЦИИ ПО ТВPn = 1, 2, . . .. Заметим, что условие ξn → ξ эквивалентно тому, что для любогоε > 0 должно выполняться предельное соотношение P(Aεn ) → 0 при n → ∞.Также для каждого ε > 0 и n = 1, 2, .
. . рассмотримBnε = ω : sup |ξn (ω) − ξ(ω)| > ε .k>nОчевидно, что Aεn ⊂ Bnε и {Bnε }∞n=1 является монотонно убывающей последоεвательностью. Пусть B ε = ∩∞n=1 Bn — предел этой последовательности. В силусвойства непрерывности вероятностной меры P(Bnε ) → P(B ε ) при n → ∞. Сдругой стороны, если ω ∈ B ε , то ξn (ω) 6→ ξ(ω). Это означает, чтоB ε ⊂ {ω : ξn (ω) 6→ ξ(ω)}.п.н.Однако, из условия ξn → ξ следуетP({ω : ξn (ω) 6→ ξ(ω)}) = 0.Но тогдаlim P(Bnε ) = P(B ε ) = 0.n→∞Из неравенств0 6 P(Aεn ) 6 P(Bnε )Pследует, что и P(Aεn ) → 0 при n → ∞, т. е. ξn → ξ.Lp(ii) Допустим теперь,что ξn → ξ, т. е. E|ξn − ξ|p → 0 при n → ∞.
Фиксируемпроизвольно ε > 0. Используя неравенство (8.1) Маркова, получаемP(|ξn − ξ| > ε) = P(|ξn − ξ|p > εp ) 6E|ξn − ξ|p→ 0εpPпри n → ∞, т. е. ξn → ξ.P(iii) Пусть ξn → ξ, т. е. P(Aεn ) → 0 при n → ∞ для всех ε > 0. ОбозначимFn = Fξn и F = Fξ . Доказательство Fn ⇒ F будет следовать из того, что длявсех ε > 0 выполняются неравенстваF (x − ε) 6 lim Fn (x) 6 lim Fn (x) 6 F (x + ε),n→∞n→∞x ∈ R.(10.1)Эти неравенства, в свою очередь, сразу же следуют из включений{ξ 6 x − ε} ⊂ {ξn 6 x} ∪ Aεn ,{ξn 6 x} ⊂ {ξ 6 x + ε} ∪ Aεnи того, что P(Aεn ) → 0 при n → ∞. В точках непрерывности функции Fпредельный переход в неравенствах (10.1) при ε → 0 даетF (x) 6 lim Fn (x) 6 lim Fn (x) 6 F (x),n→∞n→∞что означает Fn (x) → F (x) при n → ∞ и теорема доказана.48В.