А.В. Булинский - Курс лекций по теории вероятностей (1120059), страница 5
Текст из файла (страница 5)
. . =∞X!!!=P (ξ1 = x1 , . . . , ξk−1 = xk−1 , ξk < xk ) =k=1!!=∞Xk=1∞ XxkP(ξ1 = x1 ) · . . . · P (ξk−1 = xk−1 ) · P (ξk < xk ) == x = P [0, x] ,2kk=1что и означает равномерную распределённость. Переход «!» обусловлен тем, что рассматриваемые события непересекаются, а равенство «!!» — независимостью величин ξk . Теперь построим не одну равномерно распределённую величину, а сразу много. Для этого запишем нашивеличины ξk в виде таблицы, заполняя её по диагоналям:ξ1ξ3ξ6ξ10ξ2 ξ4 ξ7 .
. .ξ5 ξ8 . . .ξ9 . . ....(23)Перенумеруем ξk индексами по строкам и столбцам, получим величины ξij . Получатся последовательности{ξij }∞j=1 (при фиксированном i) независимых случайных величин, так как они являются подпоследовательностями в последовательности независимых величин {ξk }. Рассмотрим теперь величиныηn :=∞Xξnk (ω)k=12k.(24)По только что доказанной лемме они имеют равномерное распределение на [0, 1]. Остаётся показать их независимость.
Рассмотрим конечные суммыθnm :=mXξnk (ω)k=12k→ ηn , m → ∞.(25)Они будут независимыми как (борелевские) функции от непересекающихся наборов случайных величин. Довестидоказательство до конца, сославшись на непрерывность вероятности в нуле и равномерную распределённостьвеличин ηn , мы предоставляем читателю.152.5.2. Построение произвольной последовательности вероятностных мерОпределение. Закон распределения случайной величины ξ : Ω → R естьLaw(ξ) = Pξ (B) := P ξ −1 (B) .(26)Теперь определим нечто вроде «обратной функции» для функций распределения.Определение.
Пусть x ∈ (0, 1). ПоложимF −1 (y) := inf {x : F (x) > y} ,(27)то есть из всевозможных прообразов берём их нижнюю грань.Лемма 2.16. Для ∀ z ∈ R имеет место равенство множествx ∈ (0, 1) : F −1 (x) 6 z = {x ∈ (0, 1) : x 6 F (z)} .(28) Если x 6 F (z), то по определениюF −1 (x) 6 z. Таким образом, включение «⊇» установлено.Наоборот,−1−1если F (x) 6 z, то F F (x) 6 F (z), так как F неубывает. Покажем, что x 6 F F −1 (x) для ∀ x ∈ (0, 1).Пусть F −1 (x) = a. Рассмотрим последовательность yn ց a.
Тогда F (yn ) > a всилу неубывания F . Функция Fнепрерывна справа, поэтому F (yn ) → F (a). Переход к пределу даёт F F −1 (a) > a. Следствие 2.6. Пусть ν имеет равномерноераспределение на [0, 1], а F — функция распределения некоторой меры Q на B(R). Тогда Law F −1 (ν) = Q. ! Действительно, P F −1 (ν) 6 z = P ω : ν(ω) 6 F (z) = F (z), так как распределение равномерно. Равенство «!» обусловлено леммой. Таким образом, имея равномерно распределённую величину ξ, можно построить случайную величину с произвольной функцией распределения.А вот теперь настало время прояснить, зачем всё это нам потребовалось.Теорема 2.17. Пусть задана последовательность {Qn } вероятностных мер на B(R), т.
е. последовательность {Fn } их функций распределения. Тогда на некотором вероятностном пространстве существуют независимые случайные величины ξn c функциями распределения Fn , т. е. Law(ξn ) = Qn . Построим последовательность независимых случайных величин {νn }, равномерно распределённых на[0, 1]. Положим ξn := Fn−1 (νn ). Величины ξn будут независимыми как борелевские функции от независимыхвеличин. По следствию из леммы их законы распределения суть в точности Qn . 3. Математическое ожидание3.1. Интеграл Лебега по вероятностной мере3.1.1.
Определение интеграла ЛебегаКак обычно, мы рассматриваем вероятностное пространство (Ω, F , P).Определение. Случайная величина ξ : Ω → R называется простой, если она представима в видеξ(ω) =nX(1)ai IAi (ω),i=1где A1 , . . . , An — разбиение Ω.Математическое ожидание определяется в три этапа: сначала для простых случайных величин, потом дляпроизвольных неотрицательных, и только потом для любых.
Приступим. . .Определение. Интегралом Лебега по вероятностной мере P (математическим ожиданием) простой случайной величины ξ называется числоnXEξ :=ak P(Ak ).(2)i=1Задача 3.1. Показать, что значение Eξ не зависит от разбиения, т. е.ξ=nXi=1ai IAi =mXj=1bj IBj ⇒ Eξ =16nXi=1ai P(Ai ) =mXj=1bj P(Bj ).(3)Решение. Достаточно перейти к более мелкому разбиению, т.
е. к попарным пересечениям всех Ai и Bj . Очевидно, что для простых случайных величин верны свойства:1◦ E(cξ) = cEξ;2◦ E(ξ ± η) = Eξ ± Eη;3◦ ξ 6 η ⇒ Eξ 6 Eη (в частности, ξ > 0 ⇒ Eξ > 0).Теперь определим математическое ожидание произвольной неотрицательной величины.Определение. Пусть ξ > 0. ПоложимEξ := sup {Eη : η 6 ξ} ,(4)где η — простые случайные величины.Замечание.
Для неотрицательных случайных величин математическое ожидание определено всегда, однакооно может принимать бесконечные значения.Наконец, определим Eξ для произвольной величины ξ. Для этого введём следующие обозначения:ξ + := max {ξ, 0} ,ξ − := − min {ξ, 0} .Определение. Пусть ξ — действительная случайная величина. ПоложимEξ := E ξ + − E ξ − .(5)(6)При этом говорят, что математическое ожидание существует, если хотя бы одно из значений E (ξ + ) и E (ξ − )конечно, причём C + ∞ := +∞, а C − ∞ := −∞. В противном случае Eξ не определено.В дальнейшем будем говорить, что математическое ожидание существует, если интегралы от положительнойи отрицательной части конечны.Интеграл Лебега обозначается так:ZZEξ = ξ dP = ξ(ω) P(dω).(7)ΩΩЕсли ξ интегрируема по Лебегу, пишут ξ ∈ L1 .Обозначение «E» происходит от французского «espérance mathématique».
Иногда используется буква «M»,происходящая от английского «mean value» (среднее значение), что лучше отражает смысл данного понятия.Замечание. Интеграл Лебега относится к числу абсолютных интегралов, т. е. f ∈ L1 ⇔ |f | ∈ L1 .3.1.2. Свойства математического ожиданияДалее будем рассматривать случайную величину ξ : Ω → R.Следующее утверждение, несмотря на свою очевидность, чрезвычайно важно и будет многократно применяться ниже.Лемма 3.1 (об аппроксимации). Пусть ξ > 0.
Тогда существует последовательность простых случайных величин {ξn } такая, что ξn ր ξ. Построим «ступенчатые» функции, уменьшая высоту ступенек со скоростью 2−n и наращивая высоту«лестницы» со скоростью n. Там, где наша функция оказывается между ступеньками, берем нижнюю границу,а выше уровня n «срезаем» функцию. Более формально, положим(k2−n , k2n 6 ξ(ω) < (k + 1)2−n ;(8)ξn :=где k = 0, 2n − 1.n,ξ(ω) > n,Это — искомая последовательность.
Сходимость к ξ и неубывание последовательности очевидны. Лемма 3.2. Пусть 0 6 ξn ր ξ, где ξn — простые случайные величины. Тогда Eξn → Eξ. Положим a := lim Eξn и покажем, что a = Eξ. По определению математического ожидания Eξn 6 Eξ,а значит, и a 6 Eξ. Докажем обратное неравенство, т. е. что a > Eη для любой простой величины 0 6 η 6 ξ.Пусть η принимает значения a1 , . . . , ak на множествах A1 , . . . , Ak соответственно. Фиксируем ε ∈ (0, 1). Введёмслучайные величиныηn := (1 − ε)η · I{(1−ε)η6ξn } .(9)Рассмотрим множества Ain := Ai ∩ {(1 − ε)η 6 ξn }. Очевидно, что Ain ր Ai при n → ∞. Значит, P(Ain ) → P(Ai )при n → ∞. ТогдаkkXXEηn = (1 − ε)ai P(Ain ) → (1 − ε)ai P(Ai ) = (1 − ε)Eη.(10)i=1i=117Значит, (1 − ε)Eη 6 a, а так как ε произвольно, то Eη 6 a.
Теорема 3.3. Множество интегрируемых функций L1 есть векторное пространство, а E — линейныйп.н.оператор на L1 . Если ξ > 0, то и Eξ > 0. Если 0 6 η 6 ξ и ξ ∈ L1 , то и η ∈ L1 . Если ξ = η, то Eξ = Eη. Докажем первое утверждение теоремы. Если ξ и η — простые случайные величины, то αξ +βη — простаяслучайная величина, и E(αξ+βη) = αEξ+βEη для любых α, β ∈ R.
Если ξ, η > 0, то построим последовательности0 6 ξn ր ξ и 0 6 ηn ր η. Тогда E(ξn + ηn ) = Eξn + Eηn , а по предыдущей лемме E(ξn + ηn ) ր E(ξ + η) иEξn + Eηn ր Eξ + Eη. Далее, если C > 0, то Cξn ր Cξ, поэтому E(Cξ) = CEξ.Покажем теперь, что если ξ, η > 0, тоE(ξ − η) = Eξ − Eη.(11)По определению, E(ξ − η) = E(ξ − η)+ − E(ξ − η)− . Так как (ξ − η)+ + η = ξ + (ξ − η)− , и каждое слагаемое справаи слева неотрицательно, то E(ξ − η)+ + Eη = Eξ + E(ξ − η)− , а это равносильно (11). Представляя каждое изслагаемых в виде разности двух неотрицательных, получаемE(ξ + η) = E (ξ + + η + ) − (ξ − + η − ) = (Eξ + + Eη + ) − (Eξ − + Eη − ) = Eξ + Eη.(12)Таким образом, первое утверждение доказано для любых ξ, η ∈ L1 .Второе и третье утверждение теоремы очевидны. Докажем четвёртое утверждение.
Как видно из доказательства первой части, можно рассматривать лишь случай ξ, η > 0. Пусть событие A := {ξ = η}. Построим0 6 ξn ր ξ и 0 6 ηn ր η. Тогда Eηn ր Eη. Имеем(13)Eηn = E(ηn IA ) + E(ηn IA ).Возьмём ηn из леммы об аппроксимации. Так как P(A) = 0, то Eηn = E(ηn IA ) = E(ξn IA ) → E(ξIA ) = Eξ. Как известно, интеграл от произведения функций в общем случае не равен произведению интегралов. А вотесли случайные величины независимы, то оказывается, что это всегда верно.
Настало время это доказать.Теорема 3.4. Пусть ξ, η ∈ L1 — независимые случайные величины. Тогда (ξ · η) ∈ L1 и E(ξ · η) = Eξ · Eη. Очевидно, что ξ + , η + и ξ − , η − — также независимые величины (это борелевские функции от независимыхвеличин). Покажем, что E(ξ + ·η + ) = E(ξ + )·E(η + ). Снова построим величины 0 6 ξn ր ξ и 0 6 ηn ր η. Величиныξn и ηn будут независимыми. Имеемξn =kXi=1(n)ai IA(n) ,ηn =imX(n)bj IB (n) .(14)jj=1(n)(n) (n) (n) Пользуясь тем, что P Ai · Bj= P Ai· P Bj , перемножим ряды, и получим, что E(ξn ηn ) = Eξn Eηn .Остаётся перейти к пределу при n → ∞. 3.1.3. Теоремы о предельном переходе под знаком интеграла ЛебегаСледующая теорема является обобщением уже полученных результатов.Теорема 3.5 (о монотонной сходимости).
Пусть 0 6 ξn ր ξ. Тогда Eξn ր Eξ. Построим простые величины ηnk ր ξn при k → ∞.6η11 6 η12 6 . . . 6 η1k 6 . . . ր ξ1......6ηk1 6 ηk2 6 . . . 6 ηkk 6 . . . ր ξkПоложимζk := max ηij = max ηnk .16i,j6k16i6k(15)Это будет возрастающая последовательность простых случайных величин. Пусть ζk ր ζ. Имеем0 6 ηnk 6 ζk 6 ξk 6 ξ.Устремим k → ∞, получим ξn 6 ζ 6 ξ. Теперь устремим n → ∞, получим ξ 6 ζ 6 ξ, откуда ζ = ξ.18(16)В силу неравенства (16) Eηnk 6 Eζk 6 Eξk . В пределе при k → ∞ получаем Eξn 6 Eζ 6 lim Eξk .
Переходя кпределу при n → ∞, получаем lim Eξn 6 Eζ 6 lim Eξk . Но ζ = ξ, поэтому lim Eξn = Eξ. ∞∞PPСледствие 3.1. Пусть ξn > 0. Тогда Eξn =Eξn .n=1n=1Нужно рассмотреть (неубывающую) последовательность частичных сумм и применить теорему. ∞∞∞∞PPPPСледствие 3.2. ПустьE|ξn | сходится. Тогдаξn сходится почти наверное и Eξn =Eξn .n=1n=1n=1n=1 В самом деле, если бы функциональный ряд расходится на множестве положительной меры, то расходится и ряд из модулей.
Но тогда расходится и ряд из интегралов от модулей. Противоречие. Задача 3.2. Доказать более общую теорему: пусть η 6 ξn ր ξ, где Eη > −∞. Тогда Eξn ր Eξ.Лемма 3.6 (Фату). Пусть η 6 ξn , и Eη > −∞. Тогда E lim inf ξn 6 lim inf Eξn . Имеемξ := lim inf ξn = lim inf ξk .n k>n| {z }(17)ηnТогда ηn ր ξ, и η 6 ηn 6 ξn . Из этого неравенства и теоремы о монотонной сходимости (точнее, из задачи 3.2)следует, что Eξ = lim Eηn 6 lim inf Eξn . Теорема 3.7 (Лебега о мажорируемой сходимости).