1625915153-62da7fb2e48a28563c377c8e71d63db2 (843881), страница 11
Текст из файла (страница 11)
Обозначим ξi0 = ξi − Eξi . По определению дисперсиии свойствам математического ожидания имеем:DnXi=1ξi = EnXξi −nXi=1=!2Eξi=Ei=1nXi=1E(ξi0 )2 + 2nX!2ξi0=Ei=1XE(ξi0 ξj0 ) =50!X(ξi0 )2 + 2i=1nXi=116i<j6nnXDξi + 2ξi0 ξj0=16i<j6nX16i<j6nCov(ξi , ξj ). Тем самым, свойство 3 – это следствие мультипликативности математического ожидания. Понятно, что и для конечного числа независимых случайных величин ξ1 , .
. . , ξnDnXξi =i=1nXDξi .i=1Отметим, что Cov(ξi , ξi ) = Dξi и Cov(ξi , ξj ) = Cov(ξj , ξi ).Отметим полезное во многих случаях представление для дисперсии:Dξ = E(ξ − Eξ)2 = Eξ 2 − 2E(ξ · Eξ) + E(Eξ)2 = Eξ 2 − (Eξ)2 .Примеры.(1, p,1. Бернуллиевская случайная величина ξ =0, 1 − p.Очевидно, что Eξ k = p ∀k ∈ N и Dξ = Eξ 2 − (Eξ)2 = p(1 − p).2. Случайная величина ξ с биномиальным распределением: ξ ∈ {0, . . .
, n}, pk = P(ξ =nP= k) = Cnk pk (1 − p)n−k . Так как ξ =ξi , где ξi – независимые бернуллевские величины,i=1то Eξ = np и Dξ = np(1 − p).Упражнение. Посчитать математическое ожидания и дисперсию биномиального распределения по определению.3. Пуассоновская случайная величина ξ принимает целые неотрицательные знаkчения с вероятностями pk = λk! e−λ . Вычислим ее математическое ожидание:∞∞∞XXXλk −λλkλk−λ−λk e =eEξ ==e λ= e−λ λeλ = λ.k!(k − 1)!k!k=0k=0k=1Вычислим дисперсию.
Для этого посчитаем второй момент:Eξ 2 = e−λ∞Xk=0k2∞∞XXλk−1λk−1λk−1= e−λk= e−λ(k + 1 − 1)=k!(k−1)!(k−1)!k=1k=1−λ=e∞Xλk−1λk−1−λ+λ=λ+e(k − 1)= λ + λ2 .(k − 1)(k−1)!(k−1)!k=2k=1∞XИтак, Dξ = λ + λ2 − λ2 = λ.Упражнение. Доказать, что у пуассоновского распределения третий центральный момент тоже равен λ.Упражнение. Доказать, что у пуассоновского распределения любой центральный момент нечетного порядка неотрицателен.4. Равномерное распределение на отрезке [a, b] с плотностью 1 , x ∈ [a, b],pξ (x) = b − a0,иначе.51Математическое ожидание:ZbEξ =xb+a1dx =.b−a2aУпражнение.
Вычислить дисперсию равномерного распределения.1225. Распределение Гаусса с плотностью pξ (x) = √ e−(x−α) /2σ , σ > 0, α ∈ R.σ 2πМатематическое ожидание:ZZ1122−(x−α)2 /2σ 2Eξ = x √ edx = (x − α) √ e−(x−α) /2σ dx + α · 1 = α.σ 2πσ 2πRRЗаметим, что у распределения Гаусса существуют все моменты.Упражнение. Доказать, что Dξ = σ 2 и E(ξ − α)2n = (2n − 1)!!σ 2n для любогонатурального n.√Величину σ = Dξ называют стандартным отклонением.1.π(1 + x2 )У этого распределения математического ожидания не существует, так какZ|x|pξ (x) dx = ∞.6. Распределение Коши с плотностью pξ (x) =R(αe−αx , x > 07. Показательное распределение с плотностью pξ (x) =0, иначе.Математическое ожидание:Z∞Eξ =αxe−αx dx =1.α0Упражнение.
Вычислить дисперсию показательного распределения.Моментные неравенства.Сначала приведем одно неравенство, которое непосредственно вытекает pиз опредеEξ 2 (поления дисперсии. Так как 0 6 D|ξ| = Eξ 2 − (E|ξ|)2 , то |Eξ| 6 E|ξ| 6этому из конечности второго момента следует существование математического ожидания). Рассмотрим некоторые частные случаи приведенного неравенства, иногда называемого неравенством Шварца или Коши–Буняковского (частный случай).
Например,52для дискретнойслучайной величины ξ, принимающей значения {ai }ni=1 с вероятностямиPn{pi }i=1 , pi = 1, неравенство Шварца принимает вид vnnX uX utap6a2i pi .i ii=1i=1В частности, если pi = 1/n, i = 1, . . . , n, то получим известное арифметическое неравенство n vn1 X u1X 2 utai 6a.nn i=1 ii=1Аналогично для любой абсолютно непрерывно распределенной случайной величиныξ с плотностью pξ имеет место неравенство vZ uZ2 tpξ (t) dt 6 u t t pξ (t) dt.RRТеперь сформулируем и докажем классическое неравенство Коши–Буняковского.Теорема Пусть случайные величины ξ и η заданы на одном вероятностномпространстве и Eξ 2 + Eη 2 < ∞. Тогда для второго смешанного момента справедливо неравенствоp|Eξη| 6 Eξ 2 Eη 2 .Причем равенство достигается тогда и только тогда, когда η = cξ, где c =const.Д ОКАЗАТЕЛЬСТВО .
Рассмотрим квадратный трехчленP2 (x) = E(xξ + η)2 = x2 Eξ 2 + 2xEξη + Eη 2 .Очевидно, что P2 (x) > 0. Значит, дискриминант неположителен: (Eξη)2 − Eξ 2 · Eη 2 6 0.Разберем случай равенства. Легко проверить, что если η = cξ с некоторой константой c, то равенство имеет место. Обратно, из равенства нулю упомянутого выше дискриминанта следует существование такого x0 , что 0 = P2 (x0 ) = E(x0 ξ + η)2 . Тогда для почтивсех ω верно равенство η(ω) = −x0 ξ(ω). З а м е ч а н и е. Поскольку в приведенной теореме можно вместо случайных величинξ и η рассмотреть |ξ| и |η|, то на самом деле неравенство Коши–Буняковского можнозаписать в несколько более сильной форме:|Eξη| 6 E|ξη| 6pEξ 2 Eη 2 .Теорема (неравенство Гёльдера). Пусть ξ и η – произвольные случайные величины, а p и q – сопряженные положительные числа: 1/p+1/q = 1.
Тогда справедливонеравенствоE|ξη| 6 (E|ξ|p )1/p · (E|η|q )1/q ,53если моменты в правой части существуют.Заметим, что при p = q = 2 мы получаем неравенство Коши—Буняковского.Д ОКАЗАТЕЛЬСТВО . Прежде всего покажем, что для любых x > 0, y > 0 и любыхсопряженных p и q верно неравенство11xy 6 xp + y q .pqВ самом деле, без ограничения общности можно считать, что x > 0 и y > 0. Тогда в силувогнутости функции log x получаемlog(xy) =1111log(xp ) + log(xq ) ≤ log( xp + y q ),pqpqоткуда в силу монотонности функции log x и следует нужное неравенство.|η||ξ|, y = kηkДалее, обозначим kξkp = (E|ξ|p )1/p , kηkq = (E|η|q )1/q .
Положим x = kξkpqи применим к этим величинам только что доказанное арифметическое неравенство. Кобеим частям полученного неравенства применим оператор математического ожидания.Учитывая его монотонность, окончательно получаемE|ξη|6 1.kξkp kηkqВ частности, если η = 1, то для любого p > 1 имеет место неравенство E|ξ| 6(E|ξ|p )1/p . Применяя последнее неравенство для случайной величины |ξ|m , m > 0, сp = m/(m − ε), где m − ε > 0, получим, что если E|ξ|m < ∞, то и E|ξ|m−ε < ∞.Теорема (неравенство Йенсена). Пусть f – выпуклая (вниз) функция. Тогдасправедливо неравенствоEf (ξ) > f (Eξ),если выписанные моменты существуют.Д ОКАЗАТЕЛЬСТВО . Проведем через точку (x0 , f (x0 )) опорную прямую («выше» этойпрямой расположен график функции; если функция гладкая, то опорная прямая – этообычная касательная). Пусть A – угловой коэффициент проведенной прямой.
Тогда всилу выпуклости функции f имеем f (x) − f (x0 ) > A(x − x0 ).Положим x = ξ и x0 = Eξ. Тогда, применив оператор математического ожидания кобеим частям неравенства, получим:Ef (ξ) − f (Eξ) > A(Eξ − Eξ) = 0.Упражнение. Доказать, что если функция f вогнута (выпукла вверх), тоEf (ξ) 6 f (Eξ).Следующее неравенство известно в функциональном анализе как неравенство треугольника для Lp -нормы.54Теорема (неравенство Минковского). Для любого p > 1 имеет место неравенствоkξ1 + ξ2 kp 6 kξ1 kp + kξ2 kp ,если выписанные моменты существуют.Д ОКАЗАТЕЛЬСТВО . Ясно, что нам достаточно рассмотреть случай p > 1. В силунеравенства треугольника для модуля имеемkξ1 + ξ2 kpp 6 E|ξ1 + ξ2 |p−1 |ξ1 | + E|ξ1 + ξ2 |p−1 |ξ2 |.Теперь применяя к каждому из двух слагаемых правой части этого неравенства неравенство Гёльдера для сопряженных чисел p/(p − 1) и p, получаемkξ1 + ξ2 kpp 6 kξ1 + ξ2 kp−1(kξ1 kp + kξ2 kp ) .pПереход к пределу под знаком математического ожидания. Эквивалентное определение слабой сходимости.Теорема (критерий слабой сходимости).
Пусть {ξn } – последовательность случайных величин. Тогда ξn ⇒ ξ в том и только в том случае, если для любой непрерывной ограниченной функции f (f ∈ CB) имеет местоEf (ξn ) → Ef (ξ).Д ОКАЗАТЕЛЬСТВО . Напомним, что ξn ⇒ ξ ↔ Fξn (t) → Fξ (t) для всех точек непрерывности функции F.(→) (Теорема Хелли). Пусть f ∈ CB. Приблизим эту функцию ступенчатыми.
Зафиксируем число m и определим измельчающееся разбиение {xk } отрезка [−M, M ] (например, можно положить xk = 2M k/m). ОбозначимXf (д) (x) =f (xk )I{xk 6x<xk+1 } .kПредположим, что |ξn | 6 M . Тогда сумма в только что приведенном представленииf (д) (x) конечная. В силу равномерной непрерывности функции f на компакте [−M, M ]мы имеем|f (x) − f (д) (x)| 6 δ(m) ∀x ∈ [−M, M ] , где δ(m) =supt,s,|t−s|61/m|f (t) − f (s)| −−−→ 0.m→∞Сначала докажем наше утверждение для ступенчатых функций. ИмеемXXEf (д) (ξn ) =f (xk )P(xk 6 ξn < xk+1 ) =f (xk )(Fξn (xk+1 ) − Fξn (xk )),kEf(д)(ξ) =kXf (xk )P(xk 6 ξ < xk+1 ) =kXk55f (xk )(Fξ (xk+1 ) − Fξ (xk )).Так как любая монотонная функция имеет не более чем счетное число точек разрыв (афункция распределения монотонна), то без ограничения общности можно считать, чтоxk – точки непрерывности функции F . Тогда для всех kFξn (xk ) −−−→ Fξ (xk ),n→∞откуда Ef (д) (ξn ) → Ef (д) (ξ), и для ступенчатых функций теорема доказана.Для произвольной функции f ∈ CB имеем˜ n.Ef (ξn ) = Ef (д) (ξn ) + E(f (ξn ) − f (д) (ξn )) = Ef (д) (ξn ) + ∆n , Ef (ξ) = Ef (д) (ξ) + ∆В силу неравенства треугольника˜ n | 6 E|f (ξ) − f (д) (ξ)| 6 δm .|∆n | 6 E|f (ξn ) − f (д) (ξn )| 6 δm , |∆Так что выбором m указанные погрешности могут быть сколь угодно малыми.
А так какдля дискретных функций мы уже доказали наше утверждение, то и Ef (ξn ) → Ef (ξ).Избавимся от ограничения |ξn | 6 M. Заметим, что если {Hi } – полная группа событий, то справедливо разложение единицы в видеX1=I(Hi ),iтогда Ef (ξn ) = Ef (ξn )I(|ξn | 6 M )+Ef (ξn )I(|ξn | > M ). Обозначим ∆n = Ef (ξn )I(|ξn | >M ). В силу ограниченности f для любого наперед заданного ε > 0 можно выбрать Mтак, что|∆n | 6 sup |f (t)|P(|ξn | > M ) = sup |f (t)|(P(ξn > M ) + P(ξn < −M ))tt6 sup |f (t)|(1 − Fξn (M ) + Fξn (−M )) 6 2ε sup |f | + o(1)ttпри n → ∞, так как 1 − Fξn (M ) → 1 − Fξ (M ) 6 ε, Fξn (−M ) → Fξ (−M ) 6 ε.Поэтому мы можем записатьEf (ξn ) = Ef (ξn I(|ξn | 6 M )) + ∆n (M ),где выбором Далее, ε величина верхнего предела lim supn→∞ ∆n (M ) может быть сделанасколь угодно малой.Далее,имеемEf (ξn I(|ξn | 6 M )) = Ef (ξn(M ) ) − Ef (ξn I(|ξn | 6 M ))I(|ξn | > M ),Ef (ξn I(|ξn | 6 M ))I(|ξn | > M ) 6 sup |f (t)|P(|ξn | > M ).tАналогичное неравенство справедливо и для Ef (ξ).(M )Упражнение.
Доказать, что если ξn ⇒ ξ, то и ξn ⇒ ξ (M ) .56(M )Так как Ef (ξn ) → Ef (ξ (M ) ), то из вышеприведенных оценок следует, что Ef (ξn ) →Ef (ξ).(←) Пусть ∀f ∈ CB выполнено Ef (ξn ) → Ef (ξ). Заметим, что Fξn (x) = EI(ξn < x).Введем две ограниченные и непрерывные функции gε+ и gε− – «спрямленные» индикаторы множества {t : t < x} с помощью линейных функции на отрезках [x, x + ε] и [x − ε, x]соответственно.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
