Лекции по теории вероятностей (Б.И.Волков, 2006) (1120107), страница 5
Текст из файла (страница 5)
Следующиесвойства сформулированы в виде теорем.Теорема 1. fσξ+µ (t) = eiµt eiξσt .Теорема 2. Пусть ξi , i = 1, 2, . . . независимы в совокупности. Тогдаfξ1 +ξ2 +···+ξn (t) = fξ1 (t)fξ2 (t) . . . fξn (t).Теорема 3. Пусть существует момент k-го порядка. Тогда существует k-я(k)производная характеристической функции fξ (t), она равномерно непрерывнана −∞, ∞ и имеет место равенство(k)fξ (0) = ik ξ k .(5)Первое и третье свойства очевидны, второе доказывается цепочкой равенств(неравенств):(k)|fξ (t+ h) −(k)fξ (t)|6ZA−Ak|x| |eixh− 1|p(x)dx + 2Z|x|>A|x|k p(x)dx.(6)20Конспект лекций по теории вероятностей 2006Выберем A > 0 так, чтобы второе слагаемое было менее ε/2 (следствие сходимости |ξ|k ). Заметим, что|eixh − 1| = |Zxheiα dα| 6 |xh| 6 A|h|.0(k)(k)ε, мы получаем |fξ (t + h) − fξ (t)| 6 ε независимоВыбрав теперь |h| 62A |ξ|kот t.Теорема 4. Без доказательства.Если х.ф.
fξ (t) абсолютно интегрируема на R1 , то сл. величина ξ непрерывна,а ее плотность вероятности равна1p(x) =2πZ∞e−ixt fξ (t)dt(7)−∞и равномерно непрерывна на R1 .(По существу это теорема об обратном Фурье-преобразовании.)Теорема 5. Теорема непрерывности для характеристических функций.Без доказательстваПусть последовательность {fξn (t)} х.ф. случайных величин сходится приn → ∞ к х.ф. fξ (t) случайной величины ξ равномерно по t в каждом конечноминтервале |t| 6 T .
Тогда при n → ∞lim Fξn (x) = Fξ (x)n→∞(8)в точках непрерывности Fξ (x), а если последняя непрерывна, то равномерно поx ∈ R1 .(Определение). Если lim Fξn (x) = Fξ (x), то говорят, что последоваn→∞тельность сл. величин ξn сходится к случайной величине ξ по распределению,dξn −→ ξ.n→∞Следствие. Если у двух сл. величин совпадают х.ф., то совпадают и законыраспределения (фукции распределения).Центральная предельная теорема (ЦПТ).Пусть {ξn } последовательность одинаково распределенных, независимыхв совокупности сл.
величин, ξn = µ, ξn = σ 2 . Тогдаηn =т.е., P {ηn < x} ≈ Φ(x) =nPi=1√12π(ξi − µ)d√−→ η ∼ N(0, 1),n→∞σ nRx−∞2exp(− s2 )ds.(9)Конспект лекций по теории вероятностей 200621Доказательство.Пусть ϕ(t) х.ф. сл. величины ξ i − µ. Тогдаµ ¶¸n¶¸n ·· µ1tt2 00t0√== ϕ(0) + √ ϕ (0) + 2 ϕ (0) + ofηn (t) = ϕ2σ nnσ nσ nt2= 1+0−+o2n·µ ¶¸nt21−→ e− 2n→∞nх.ф. нормального распределения. Далее воспользуемся теоремой непрерывности для характеристических функций.Следствие. Теорема Муавра-Лапласа. Рассмотрим схему Бернулли, гдеm число успехов и n → ∞ при фиксирванных 0 < p < 1 и 0 < p < 1. Тогдасправедливо½¾m − npP a6 √< b ≈ Φ(b) − Φ(a).npqЦентральные предельные теоремы для неодинаково распределенных случайных величин.
Обзор, без доказательств.Пусть сл. величины {ξk } независимы, существуют моменты 1 и 2 порядка ξk = µk иξk = σk2Теорема А.М.Ляпунова. Пусть для некоторого δ > 0 существуют c2+δ= |ξk − µk |2+δ .knn2+δPPC2σk2 . Если Bn2+δ −→ 0 (условие Ляпунова), тоc2+δОбозначим Cn2+δ =k , Bn =nk=1k=1n→∞P {ηn < x} −→ Φ(x).n→∞Замечание 1. Условие Ляпунова не является необходимым, однако его практически легчепроверять и доказывать теорему, особенно при13 δ = 1.Замечание 2.
Еще более слабым является условие Линдеберга, которым можно заменитьусловие Ляпунова: для всякого τ > 0n1 XBn2Zk=1|x−µ |>τ Bnk(x − µk )2 dFk (x) −→ 0,n→∞но и оно не является необходимым, т.е. существуют распределения, которые ему не удовлетворяют, но сходимость к нормальному закону имеет место. Однако, если добавить требование пренебрежимой (асимптотической) малости величин ζk = ξk −Bn ξk ,max P {|ζk | > ε} −→ 0,16k6nn→∞то условие Линдеберга становится необходимым.13См. доказательство в учебнике Пытьева, Шишмарева, стр. 128.22Конспект лекций по теории вероятностей 2006ц. 8Перечислим виды сходимости случайных величин.с.к.1.
Среднеквадратичная lim |ξn − ξ|2 = 0 или ξn −→ ξ или l.i.m. ξn = ξ.n→∞n→∞n→∞2. С вероятностью 1, почти наверное, по модулю P (modP )п.н.P {ω : lim {ξn (ω) = ξ(ω)} = 1 или ξn −→ ξ.n→∞14:n→∞P3. По вероятности ∀ε > 0: lim P {|ξ − ξn | > ε} = 0 или ξn −→ ξ.n→∞4. По распределению ( слабая ) Fс.к.ξn −→ ξn→∞п.н.ξn −→ ξξn (x)n→∞d→ Fξ (x) или ξn −→ ξ.Отношения между видами сходимости.@@@@¡¡¡¡Pdn→∞n→∞n→∞ξn −→ ξ =⇒ ξn −→ ξ.n→∞Других отношений без дополнительных условий не существует.Напомним, что речь всюду идет о случайных величинах ξn (ω), зависящих отэлементарного исхода ω ∈ Ω.
При каждом элементарном исходе мы получаемчисловую последовательность, назваемую выборочной.Если последовательность {ξn } сходится в с.к., по вероятности или по распределению, то может так случиться, что соответствующие выборочные последовательности не будут сходиться ни при каком ω ∈ Ω.PОднако, если ξn → ξ, то существует подпоследовательность {ξnk } последовательности {ξn }, сходящаяся к ξ с вероятностью единица.Связь между сходимостью по вероятности и с вероятностью единица.
Покажем, что из сходимости с вероятностью единица следует сходимость по вероятности. Действительно, пустьAk = {|ξk − ξ| > ε}, ε > 0. Сходимость с вероятностью единица эквивалентна равен∞ STSSству P (Ak ) = 0, т.е. lim P (Ak ) = 0. Но P (Ak ) > P (An ), следовательно,n→∞n=1 k>nk>nk>nlim P (An ) = 0.n→∞PdОднако, если ξ = const с вероятностью единица, то ξn → ξ ⇔ ξn → ξ и, в частности,Pdξn − ξ → 0 ⇔ ξ n − ξ → 0ddПоэтому ξn → ξ, ξn − ξ → 0 разные сходимости.Если последовательность {ξn } с.к. сходится к ξ "достаточно быстро", так что∞∞PPс.к.|ξk − ξ|2 < ∞, то она сходится к ξ и почти наверное: ξn → ξ,|ξk − ξ|2 < ∞ ⇒k=1ξnп.н.→ ξ.Pс.к.Кроме того, ξn → ξ ⇔ ξn → ξ иk=1ξn2 →ξ 2 (Лоэв).14Заметим, что множество A тех ω ∈ Ω, для которых существует lim ξn действительно являn→∞∞∞ STTется событием, так как его можно представить в виде A ={ω : |ξm1 −ξm2 | < k1 }.k=1 n=1 m1 ,m2 >nA множество ω, удовлетворяющее условиям: для ∀k = 1, 2, .
. . ∃n > 1, такое, что∀m1 , m2 > n : |ξm1 (ω) − ξm2 (ω)| < k1 .В каждой точке ω ∈ A последовательность {ξn } фундаментальна и, следовательно, сходится. Измеримость A следует из его представления, а в случае сходимости {ξn } почти наверноеP (A) = 1.Конспект лекций по теории вероятностей 200623Для доказательства того, что из сходимости по вероятности следует сходимость по распределению, уточним еще понятие "слабой"сходимости: последовательность случайных величин {ξn } сходится к случайной величине ξ, если для любой ограниченной непрерывной функцииf (x) lim f (ξn ) = f (ξ).n→∞Выберем в качестве f (x) непрерывную функцию gε (t), которая равна 1 при t 6 x, 0 приt > x + ε и линейна при x ∈ (x, x + ε).Из двух неравенствRxR∞R∞Fn (x) =gε dFn (x) 6gε dFn (x) иgε dF (x) 6 F (x + ε) следует, что−∞−∞−∞lim sup Fn (x) 6 F (x + ε).n→∞Аналогично можно получить lim inf Fn (x) > F (x − ε).n→∞Объединяя последние два неравенства, получимF (x − ε) 6 lim inf Fn (x) 6 lim sup Fn (x) 6 F (x + ε),n→∞n→∞откуда в силу произвольности ε следует Fn (x) → F (x), n → ∞ в точках непрерывности x.PНаконец, из ξn −→ ξ следует, чтоn→∞limn→∞f (ξn ) =f (ξ).(10)Действительно, пусть |f (x)| 6 c, ε > 0 и N таково, что P (|ξ| > N ) 6 ε/4c.
Выберем δтаким, чтобы для всех |x| 6 N и |x − y| 6 δ было выполнено неравенство |f (x) − f (y)| 6 ε/4c.Тогда|f (ξn ) − f (ξ)| = (|f (ξn ) − f (ξ)|; |ξn − ξ| 6 δ, |ξ| 6 N )++ |f (ξn ) − f (ξ)| = (|f (ξn ) − f (ξ)|; |ξn − ξ| 6 δ, |ξ| > N )+ |f (ξn ) − f (ξ)| = (|f (ξn ) − f (ξ)|; |ξn − ξ| > δ) 66 ε/2 + ε/2 + 2cP (|ξn − ξ| > δ).Для достаточно больших n последнее слагаемое может быть сделано менее ε, что в силупроизвольности ε доказывает (10).Закон больших чисел может пониматься и в смысле сходимости почти наверное ("Усиленный ЗБЧ").
Различные его варианты изложены в изящных теоремах, однако он мало интересен с прикладной точки зрения.В ЦПТ мы показали сходимость ηn лишь по распределению. К сожалению,никакая другая сходимость не имеет места: последовательность η n не сходится ни к какой сл. величине по вероятности, а следовательно и с вероятностьюPединица и в среднем квадратичном. Можно показать, что сходимость η n → η, ас.к.п.н.следовательно, и сходимости ηn → η и ηn → η не имеют места.24Конспект лекций по теории вероятностей 2006Цепи Маркова.Рассмотрим последовательность испытаний, где элементарным событием является цепочка ωi1 ωi2 ...ωin .
Согласно теореме умножения вероятностей,P (ωi1 ωi2 ...ωin ) = P (ωin | ωi1 ...ωin−1 )...p(ωi1 ). Пусть последовательные испытания "минимально"зависимы: P (ωis | ωi1 ...ωis−1 ) = P (ωis | ωis−1 ) и не зависит отs, то есть P (ωj | ωi ) = pij . Пусть известно начальное распределение вероятностей P (ωi ) = ai . Тогда(11)P (ωi1 ωi2 ...ωin ) = ai1 pi1 i2 ...pin−1 in .Определение. Пусть задано вероятностное пространство с конечным набором элементарных событий {ωi }, i = 1, ..., N . Конечной однородной цепью Марnnкова называется вероятностное пространство, в котором Ωn =× Ω, Fn =× F, авероятность Pn (ωi1 ωi2 ...ωin ) определяется формулой (11).Для вычисления (11), в частности, должны быть заданы переходные вероятности pij или переходная матрицаp11 p12 .
. . p1N p21 p22 . . . p2N π=. . . . . . . . . . . . . . . . . . . . pN 1 pN 2 . . . p N NPЭто так наз. стохастическая матрица ( pi j = 1). Отсюда следует корректjность задания (11) сумма по всем индексам равна 1. (Проверить!) Марковскую цепь можно интерпретировать как модель системы с N состояниями и вероятностями перехода pij из i-го в j-е состояние.Примеры: случайное дискретное блуждание по прямой.Частный случай независимые испытания (p ij = pj ).Замечание. Для практики удобен следующий критерий Марковости .Обозначим буквами П, Н и Б события: прошлое, настоящее и будущее.Тогда P (ПБ|Н) = P (П|Н)P (Б|Н) при фиксированном настоящем прошлоеи будущее независимы.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
