Ю.Н. Тюрин - Лекции по математической статистике (1124591), страница 9
Текст из файла (страница 9)
(Для удобства обозначения I(D) предпочтительнеездесь, чем ID = ID (Ω).) Можно считать, что числа Ty1 , y2 , . . . различны иSчто совокупность множеств Dj , j =1, 2, . . . в (1) образует разбиение пространства Ω: Dj Di = ∅, если j 6= i; Dj = Ω. Когда случайная величинаjY простая, то порожденная ею σ-алгебра AY порождается разбиением D1 , D2 , .
. .. (Здесь Dj , j = 1, 2, . . . — этомножества уровня функции Y = Y (Ω), Dj = {Ω : Y (Ω) = yj }.)Далее мы будем рассматривать σ-алгебры, порожденные конечными (или счетными) разбиениями.Пусть G — такая σ-алгебра. Порождающее ее разбиение обозначим, как и выше, через D1 , D2 , . . .Пусть X — простая случайная величина.
Тогда для E(X|G) можно дать элементарное определение.Начнем с определения условной вероятности.Положим по определению для всякого A ∈ AXP (A|G) = P (A|G)(Ω) =P (A|Dj )I(Dj ).(2)jЯсно, что P (A|G) есть измеримая относительно G случайная величина.Главное свойство условной вероятности (2):EP (A|G) = P (A).(3)Доказательство очевидно :EP (A|G) =XP (A|Dj )EI(Dj ) =jXP (A|Dj )P (Dj ) = P (A).jПустьX=Xxi I(Ai ).i30(4)По аналогии с EX =Pxi P (Ai ), определим E(X|G) формулой:iE(X|G) =Xixi P (Ai |G).(5)Отметим, что так определенное E(X|G) — измеримая относительно G случайная величина и чтоEE(X|G) = EX.(6)Доказательство (6) очевидно:EE(X|G) =Xixi EP (Ai |G) =Xxi P (Ai ).iПокажем, что определение (5) совпадает с общим определением математического ожидания из пункта 3.2.Для этого достаточно проверить, что для любого B ∈ G:ZZE(X|G) dP = X dP.(7)BBТак как B ∈ G, то B можно представить в виде объединения некоторой совокупности множеств Dj :XB=Dj ,j∈Kгде K — некоторое множество индексов.Далее заметим, чтоZE(X|G) dP =BZXZE(X|G) dP,j∈KDjX dP =XZX dP.j∈KDBjПоэтому (7) достаточно доказать для множеств Dj , j = 1, 2, .
. .Итак, положив B = Dk , преобразуем левую часть (7), используя (5) и (2):ZX ZX XE(X|G) dP =xi P (Ai |G) dP =xiP (Ai |Dj )EI(Dk )I(Dj )iDk=iDkXixi P (Ai |Dk )P (Dk ) =jXxi P (Ai Dk ).iПреобразование правой части (7) дает тот же результат:ZXXXX dP = EI(Dk )[xi I(Ai )] =xi EI(Ai Dk ) =xi P (Ai Dk ),iDkiiчто и требовалось.Усреднением набора чисел x1 , . .
. , xn с неотрицательными весами p1 , . . . , pn ,nPpi = 1 называют числоi=1nPxi pi .i=1(С вероятностной точки зрения, усреднение — это математическое ожидание случайной величины, принимающейзначения x1 , . . . , xn с вероятностями p1 , . . . , pn .)Покажем, что значения, которые принимает случайная величина E(X|G), суть усреднения значений X.Действительно,"#XX XX XE(X|G) =xi P (Ai |G) =xiP (Ai |Dj )I(Dj ) =xi P (Ai |Dj ) I(Dj ).iijjiНа множестве Dj случайная величина E(X|G) принимает значениеXyj =xi P (Ai |Dj ).Отметим, что P (Ai |Dj ) > 0 и чтоPiiP (Ai |Dj ) = 1, ибо A1 , A2 , . .
. — это разбиение всего пространства. Такимобразом, yj — это усреднение набора x1 , . . . , xn значений, принимаемых X, с весами pi = P (Ai |Dj ).313.5. Вынесение множителя, постоянного при данном условииСледующее свойство условных математических ожиданий — возможность вынести за знак математическогоожидания случайный множитель, постоянный при данном условии:п.н.E[ϕ(Y )X|Y ] = ϕ(Y )E(X|Y )(1)Предпочтительнее сформулировать это свойство в более общем виде:Если Y измерима относительно G, топ.н.E(XY |G) = Y E(X|G)(2)при условии, что эти математические ожидания существуют.Доказательство этого равенства начнем с простых случайных величин.3.5.1.
Доказательство для случая простых случайных величинПусть Y — простая случайная величина, измеримая относительно σ-алгебры G. Тогда верно (2).Доказательство.PПо предположению Y = yi I(Bi ), причем Bi ∈ B, i = 1, 2, . . . ТеперьiE(XY |G) =Xyi E(I(Bi )X|G).iЧтобы получить (2), достаточно показать, чтоE(I(B)X|G) = I(B)E(X|G),если B ∈ B.Поскольку I(B)E(X|G) измерима относительно G, для этого достаточно показать, что для любого A ∈ GZZI(B)E(X|G) dP = I(B)X dP(3)AAПреобразуя левую часть, докажем, тем самым, (3):ZZZZI(B)E(X|G) dP =E(X|G) dP =X dP = I(B)X dP,AA∩BA∩BAчто и требовалось.
3.5.2. Общий случайПусть Y измерима относительно G, E|X| < ∞, E|Y | < ∞, E|XY | < ∞. Тогда верно (2).Доказательство. Основывается на пункте 3.5.1 и обобщенной теореме Лебега о мажорированной сходимости,которая будет дана позже.Выбираем последовательность простых случайных величин Yn так, чтобы Yn ↑ Y п.н. при n → ∞.
В такомслучаеп.н.E(XYn |G) = Yn E(X|G)в силу 3.5.1.По упомянутой теоремеКроме того,Это и доказывает (2). Следствие:п.н.E(XYn |G) −→ E(XY |G)п.н.Yn E(X|G) −→ Y E(X|G)п.н.E[ϕ(Y )X|Y ] = ϕ(Y )E(X|Y ).Лемма (обобщенная теорема Лебега о мажорируемой сходимости).32п.нПусть |αn | 6 η, Eη < ∞ и αn → α при n → ∞.Тогда(a)п.н.E(αn |G) −→ E(α|G)(b) п.н.E(|αn − α| G) −→ 0Сравним с (обычной) теоремой Лебега (о мажорированной сходимости):п.нПусть |ξn | 6 η, Eη < ∞ и ξn → ξ при n → ∞.Тогда(a)п.н.Eξn −→ Eξ (Eξ существует)(b)п.н.E(|ξn − ξ|) −→ 0Доказательство.Положимξn := sup |αm − α|.m:m>nЯсно, что ξn > |αn − α|.п.нТак как αn → α, то ξn ↓ 0 п.н.Теперь |E(αn |G) − E(α|G)| = |E (αn − α) G | 6 E(|αn − α| G) 6 E(ξn |G).Докажем, что(∗)п.н.E(ξn |G) −→ 0.Из этого вытекает утверждение леммы.Заметим, что0 6 E(ξn+1 |G) 6 E(ξn |G) п.н.Поэтому существует предел (почти наверное):h := lim E(ξn |G) > 0n→∞Далее,06Zh dP 6ΩZE(ξn |G) dP =ΩZξn dP = Eξn −→ 0.ΩПоследнее заключение есть следствие цитированной теоремы Лебега, ибоПолучили, чтоRп.н.0 6 ξn 6 2β, Eβ < ∞, ξn −→ 0.h dP = 0.ΩТ.к.
h > 0, то h = 0 п.н. Следовательно:Это и доказывает лемму. п.н.E(ξn |G) −→ 03.6. σ-аддитивность условной вероятностиПусть A =ТогдаPiAi , причем AiTAj = ∅, если i 6= j.п.н. XP (A|G) =P (Ai |G).iДля доказательства достаточно положить в предыдущей лемме αn =αn ↑ α при n → ∞.
Прочие условия леммы тоже соблюдены.33nPi=1I(Ai ), α = I(A) и заметить, что3.7. Условная дисперсияПо аналогии с определением дисперсии DX = E(X − EX)2 , введем условную дисперсию X относительно G,положив, по определению,D(X|G) = E{[X − E(X|G)]2 |G}.Покажите, чтоDX = ED(X|G) + DE(X|G).(при условии, что DX существует).3.8. Наилучший квадратичный прогноз(Формулируется в виде задачи.)Пусть случайные величины ξ и η заданы на одном вероятностном пространстве. Надо найти для η наилучшийпрогноз по наблюдаемой случайной величине ξ. Иначе говоря, надо найти такую функцию f (ξ), что для любойфункции g(ξ):E(η − f (ξ))2 6 E(η − g(ξ))2 .Ответ:f (ξ) = E(η|ξ).3.9.
Пример вычисления условного математического ожиданияРассмотрим пример одновременно типичный и вычислительно несложный. Пусть вероятностная тройка(Ω, A, P ) такова:• Ω = {Ω : Ω = (x, y), 0 6 x 6 1, 0 6 y 6 1};• A — σ-алгебра борелевских множеств Ω;• P — мера Лебега на Ω.Рассмотрим две случайные величины ξ = ξ(Ω) и η = η(Ω):ξ = ξ(x, y) = x, η = η(x, y) = x + y.Вычислим E(ξ|η).Отметим, что Aξ (σ-алгебра подмножеств Ω, порожденная случайной величиной ξ) - это совокупность цилиндрических множеств из Ω вида B × [0, 1], где B - произвольное борелевское множество из [0,1].Сигма-алгебра Aη устроена схожим образом. Ее составляют (пересеченные с Ω) прямые произведения борелевских множеств, лежащих на прямой x = y, и прямой {(x, y) : x + y = 0}.
(См. чертеж)Хорошо видно, что ξ не измерима относительно Aη , и обратно.По определению, E(ξ|η) - такая измеримая относительно Aη функция f (x, y) от Ω = (x, y), для которойZZZZf (x, y) dP =x dP(1)(x,y)∈A(x,y)∈Aдля любого A ∈ Aη .Так как f (x, y) измерима относительно Aη , она должна зависеть от (x, y) через посредство η = x + y. Этоозначает, что в качестве f (x, y) здесь следует взять, пока произвольную, функцию g(x + y), где g(·) - измеримаяфункция одного переменного.В (1) достаточно рассматривать только множества A видаA = {(x, y) : x + y 6 z, (x, y) ∈ Ω},где z - произвольно.При таком выборе f (x, y) и A условие (1) примет вид:ZZZZg(x + y) dP =xdxdyx+y6zx+y6z(x,y)∈Ω(x,y)∈ΩВ интегралах (2) следует сделать замену переменных (x, y) → (u, v), положив u = x + y.34(2)Выбор второй переменной не очень важен, положим, например, v = x − y.После этой замены двойные интегралы в (2) представим в виде повторных.Для простоты возьмем z ∈ [0, 1].
(Случай z ∈ [1, 2] легко сводится к рассматриваемому.) Получим уравнениедля g(·)ZzZuZz Zu1 1u+vg(u) dv du =dv du.2220Отсюда−uZzug(u) du =00−uZz1 2u du,20илиg(z) =z.2Таким образом, здесьE(ξ|η) = η/2,илиx+y.2Заметим, что при вычислении E(X|X + Y ), если X и Y независимы и одинаково распределены (как в рассмотренном выше примере), можно обойтись практически без вычислений, если вспомнить некоторые из перечисленных выше свойств условных математических ожиданий.Во-первых, в силу симметрии,E(X|X + Y ) = E(Y |X + Y ).E(x|x + y) =ЗатемX + Y = E(X + Y |X + Y ) = E(X|X + Y ) + E(Y |X + Y ).ОтсюдаE(X|X + Y ) =1(X + Y ).24. Линейная гауссовская модельВ абстрактной форме - это статистическая модель о (векторном) наблюдении X, X ∈ Rn , X - вектор-столбец,X = (X1 , .
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
