А.Н. Соболевский - Конкретная теория вероятностей (1119908), страница 5
Текст из файла (страница 5)
Последовательно дифференцируя по is равенство ϕ(s) = eη(s) в окрестности нуля,где характеристический показатель однозначно определен, можно получить выражения длямоментов через кумулянты:ϕ0 = eη η 0 :00η0 2µ1 = κ1 ;η 00ϕ = e (η ) +e η :µ2 = κ12 +κ2 ;ϕ000 = eη (η 0 )3 +3eη η 0 η 00 +eη η 000 :µ3 = κ13 +3κ1 κ2 +κ3 ;ϕIV = eη (η 0 )4 +6eη (η 0 )2 η 00 +3eη (η 00 )2 +4eη η 0 η 000 +eη η IV :µ4 = κ14 +6κ12 κ2 +3κ22 +4κ1 κ3 +κ4и т. д. Обратные формулы имеют видκ1 = µ1 ;κ2 = µ2 − µ21 ;κ3 = µ3 − 3µ1 µ2 +κ4 = µ4 − 4µ1 µ3 +[= µ̊2 = DX]2µ31 ;12µ21 µ2[= µ̊3 ]−3µ22−6µ41 .[= µ̊4 − 3µ̊22 ]Несмотря на то, что кумулянты второго и более высоких порядков задаются нелинейными выражениями, при сложении независимых случайных величин они ведут себя аддитивно, как исам характеристический показатель.
Этим замечательным свойством и обусловлена особая ролькумулянтов в аналитическом аппарате теории вероятностей. Ранее мы уже проверили его длядисперсии, которая по существу является квадратичным кумулянтом (ее совпадение со вторымцентральным моментом — случайность).3.15. Вероятности и характеристические функции безразмерны. Если случайная величина X размерна, то ее стандартное отклонение σX имеет такую же размерность, а функция плотности вероятности pX и аргумент s ее характеристической функции — обратнуюразмерность.3.16. «Обезразмеренные» кумулянты 3 и 4 порядков называют асимметрией (англ.skewness) S = κ3 /σ 3 и эксцессом (англ.
kurtosis) K = κ4 /σ 4 . Величину F = K + 3 = µ̊4 /σ 4называют пологостью (англ. flatness).Построенная теория легко обобщается на случайные векторы.3.17. Случайному вектору X соответствует характеристическая функцияZ PϕX (s) = Eei(s·X) = ei i si Xi dFX (x).3.18. ∂ k ϕX /∂(isi1 ) . . . ∂(isik )= EXi1 . . . Xik (ср. п. 3.2).s=03.19. Закон преобразования характеристической функции при аффинном преобразовании случайного вектора (ср. п.
3.10):ϕAX+b (s) = Eei(s·(AX+b)) = ei(s·b) ϕX (AT s).Заметим, что матрица в аргументе характеристической функции транспонирована.3.20. Сложение независимых случайных векторов соответствует умножению их характеристических функций, свертке плотностей вероятности и сложению характеристическихпоказателей (ср. п. 3.12).3.21. Кумулянты случайного вектора первых двух порядков — это его математическоеожидание µ и матрица ковариации Γ:∂ ln ϕX (s) ∂ ϕX (s) =,µ :=∂(is) s=0∂(is) s=0∂ 2 ln ϕX (s) Γij :== E(Xi Xj ) − EXi EXj = E(Xi − EXi )(Xj − EXj ).∂si ∂sj s=0Особенно важными в приложениях являются определяемые ниже гауссовы случайные величиныи случайные векторы.3.22. Случайная величина, для которой функция плотности вероятности и характеристическая функция имеют вид1 21p(x) = √ e− 2 x ,2π1 2ϕ(s) = e− 2 s ,называется распределенной нормально.
Произвольное аффинное преобразование нормальной случайной величины называется гауссовой случайной величиной. Функция плотности вероятности и характеристическая функция общей гауссовой случайной величины сматематическим ожиданием µ и стандартным отклонением σ имеют вид (упражнение У4.1)p(y) = √12πσ 212e− 2σ2 (y−µ) ,ϕ(s) = eiµs−σ22s2.3.23. Кумулянты κk гауссовой случайной величины при k > 3 равны 0; в частности, онаобладает нулевым эксцессом.3.24. Теорема Марцинкевича (без доказательства). Не существует случайных величин, характеристические показатели которых были бы полиномами выше второго порядка.В статистике оценка эксцесса используется как критерий того, насколько хорошо некотораяслучайная величина может быть моделирована гауссовым распределением.
Распределение вероятности с положительным эксцессом (т. е. пологостью, превышающей 3) характеризуется болееострым пиком и более тяжелыми «хвостами», чем нормальное, а с отрицательным эксцессом —более пологим пиком и легкими «хвостами».3.25. Случайный вектор называется гауссовым, если его проекция на любое направление является гауссовой случайной величиной.3.26.
Образ гауссова случайного вектора под действием любого линейного преобразования остается гауссовым.3.27. Если X — гауссов случайныйвектор с матрицей ковариации Γ и мат. ожиданиемPi(s·m)− 21Γij si sji,jEX = m, то ϕX (s) = e(упражнение У4.9).3.28. Матрица ковариации n-мерного гауссова случайного вектора X может быть сингулярна (det Γ = 0), если X с вероятностью 1 принимает значения в некотором подпространстве размерности, меньшей n.
В этом случае гауссов случайный вектор называетсявырожденным.3.29. Если det Γ > 0, то функция плотности вероятности n-мерного гауссова случайноговектора X из п. 3.27 имеет видP11p(x) = pe− 2 i,j Γ̂ij (xi −mi )(xj −mj ) ,(2π)n det Γгде Γ̂ — матрица, обратная к Γ (упражнение У4.9).4. Закон больших чисел и слабая сходимость распределений вероятностиС этой лекции начинается новая глава курса, посвященная асимптотическим теоремам теориивероятностей. При изучении асимптотических теорем мы будем пользоваться следующей вероятностной моделью.4.1. Фиксируем некоторое распределение вероятности и рассмотрим набор из n независимых одинаково распределенных по этому закону случайных величин X1 , X2 , . .
. , Xn .4.2. Иногда бывает удобно пользоваться языком математической статистики, на котором фиксированное распределение вероятности называют генеральной совокупностью,а набор n независимых одинаково распределенных случайных величин X1 , . . . , Xn — выборкой объема n из генеральной совокупности.4.3. Закон больших чисел — это асимптотическая теорема о поведении среднеговыборки1X n = (X1 + X2 + · · · + Xn ).nЕсли объем выборки n однозначно определен контекстом или не важен, будем сокращатьэто обозначение до X .4.4. Для вывода закона больших числе в форме Чебышёва (п. 4.6) предположим, чтоEXi = µ, DXi = σ 2 для всех Xi .
ТогдаEX n =1nµ = µ,nDX n =1σ22nσ=−−−−→ 0.n2n n→∞В отличие от математического ожидания EX = µ, среднее выборки X само является случайнойвеличиной. Однако в силу результатов предыдущего пункта можно ожидать, что при больших nслучайная величина X «стремится» к неслучайной величине µ. Чтобы придать этому точныйсмысл, воспользуемся следующей стандартной леммой.4.5. Неравенство Бьенэме–Чебышёва. Если EY = µ, DY = σ 2 , а ξ — произвольныйположительный параметр, то1P(|Y − µ| > ξσ) 6 2 .ξJ Оценим дисперсию случайной величины Y :ZZZ222σ = (y − µ) dFY (y) =(y − µ) dFY (y) +(y − µ)2 dFY (y) >|y−µ|6ξσ|y−µ|>ξσZZ22 2>(y − µ) dFY (y) > ξ σdFY (y) = ξ 2 σ 2 P(|Y − µ| > ξσ).|y−µ|>ξσ|y−µ|>ξσ2 2После деления на σ ξ получаем требуемое неравенство. I4.6. Закон больших чисел в форме Чебышёва. Если X1 , .
. . , Xn — выборка случайных величин с математическим ожиданием µ и дисперсией σ 2 (п. 4.4), тоP(|X n − µ| > ε) 6σ2−−−−→ 0.nε2 n→∞pJ Это следует из неравенства Бьенэме–Чебышёва при ε > 0 и ξ = ε/ σ 2 /n. IЗакон больших чисел можно установить и без предположения о конечности стандартного отклонения (это будет сделано в п. 4.20), но следующий пример показывает, что чрезмерный разбросзначений случайных слагаемых слишком велик, усреднение выборки не приводит к возникновениюв пределе детерминированной величины.4.7. Контрпример. Пусть случайные величины X1 , . . .
, Xn распределены по Коши (см.п. 3.3), а значит не имеют ни математического ожидания, ни тем более дисперсии. Тогда s s n= ϕϕX n (s) = ϕ n1 (X1 +···+Xn ) (s) = ϕX1 +···+Xn= e−n|s/n| = e−|s| = ϕX (s),nnт. е. среднее выборки распределено так же, как и любое из случайных слагаемых.Таким образом, операция усреднения почему-то оказывается не в состоянии сократить разбросслучайных слагаемых.
В следующей лекции мы включим это неожиданное явление в общую теорию, а еще через лекцию выясним его причину.Итак, закон больших чисел утверждает, что сумма большого числа аналогичных малых слагаемых, если подходящая мера разброса каждого слагаемого обратно пропорциональна их числу, стремится к некоторой детерминированной величине. В статистической физике в подобных ситуацияхговорят, что имеет место «самоусреднение» (self-averaging).
Различные обобщения закона большихчисел, возникающие в теории вероятностей, сохраняют две основных особенности: детерминированность результата и характер происходящего перемасштабирования, обратно пропорциональногочислу слагаемых («скейлинг закона больших чисел»).Сравнение с упр. У1.7 показывает, что для выполнения закона больших чисел существенна малость не просто ожидаемого вклада каждого слагаемого в сумму, но именно той или иной мерыразброса его значений — например, стандартного отклонения.
А именно, с помощью «прореживания» (упр. У1.12) можно обеспечить малость вклада каждого слагаемого, обратно пропорциональную их числу, но при этом не изменять масштаб разброса значений слагаемых. Тогда вместодетерминированного предела возникает другой тип предельного распределения (ср. упр.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
