А.Н. Ширяев - Вероятность-1 (1115330), страница 48
Текст из файла (страница 48)
Теорема 4. Всегда существуют регулярная функция распределения и регулярное условное распределение случайной величины с относительно о-алгебры У С У. Доказательство. Для каждого рационального ге В положим р,(ы) = =Р((< г)У)(ы), где Р(С < г)У)(ю) = Е(/!е<,! !У)(ы) — какой-нибудь вариант условной вероятности событня (С <г) относительно У. Пусть (г;)— множество всех рациональных чисел на В. Если г; < г;, то в силу свойства В* Р(с < г ! У) < Р(с < г! ) У) (п н ) н, значит, если Ац = (ю: Ро (ы) < <го(ш)), А =Ц Ау, то Р(А) =О. Иначе говоря, множество тех ы, где у функций распределений р,(ш), гЕ(г;), нарушается монотонность, имеет меру нуль.
Пусть теперь В;=(ин !ип Ра+цн(сл) ~Ро(ы)), В= Ц Вь Ясно, что л со ;=! I!с<о+Он! ) I!с<а!, п- со. поэтому, согласно утверждению а) теоремы 2, Рь+~~„(сл) -+ Р„(ю) (п. н.) н, значит, множество В, где нарушается непрерывность справа (по рациональным числам), также имеет меру нуль, Р(В) =О. Далее, пусть С=(ик йгп г"„(ы) Ф !)Щан йш г"„(ы) ~0). Тогда, пол со л — со скольку (с < п) Т й, п — со, а (с < п) ( е!, и - -со, то Р(с) = О. Положим теперь )ип Г,(ы), ыфА!!В!.!С, р(ац х) = 6(х), м Е А 0 В 0 С, где 0(х) — произвольная функция распределения на В, н покажем, что функция Р(ьц х) удовлетворяет определению 8.
Пусть ыуА !!В! !С. Тогда ясно, что р(ю; к) является неубываюшей функцией от х. Если к <х'<г, то Г(иц х) < р(иц х') <р(ец г) = =Р,(ю)) Р(иц х), когда г(х. Поэтому Р(иц х) непрерывна справа. Аналогично )ип р(иц х) = ), (ип р(иц х) =О. Поскольку для ыеАс!В!.!С р(ьц х) = 6(х), то для каждого ы е й р(ьд х) является функцией распределения на В, т. е. выполнено условие а) в определении 6. Согласно конструкции, Р(С <с)У)(ы)=р,(ю)о В(ац г). Если г)х, то р(ич г) 1 р(ьл х) яля всех ш е й в силу установленной непрерывности справа. Ио нз утверждения а) теоремы 2 Р(Е<г)У)(ю)-+Р(С <х )У)(ю) (п.
н.). 284 ГЛ Н. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ Поэтому Е(ш; х) = Р(Е < х ]У)(ы) (п. н.), что и доказывает свойство Ъ) опре- деления 8. Обратимся теперь к доказательству существования регулярного услов- ного распределения Е относительно У. Пусть Е(ик х) — построенная выше функция. Положим Що; В)=~ Е(гг; йх), в где интеграл понимается как интеграл Лебега — Стилтьеса, из свойств ко- торого (см. п.
8 $ 6) вытекает, что 1',)(ш; В) является мерой по В для каждого фиксированного ы е П. Для установления того, что 1;1(ьк В) есть вариантусловной вероятности Р(беВ]У)(ы), воспользуемся принципом подходящих множеств. Пусть У в совокупность множеств В из М(В), для которых 1'„1(м; В) = =Р(ЕЕВ]У)(ю) (п. н.). Поскольку Е(иц х) =Р(Е<х]У)(ю) (п. н.), то в систему У входят множества В вида В=(-оо, х], хай. Значит, в У входят также все интервалы вида (а, Ь] и алгебра лФ, состоящая из конечных сумм непересекающихся множеств вида (а, Ь]. Тогда из свойства непрерывности меры 1г(м; В) (ы — фиксировано) и утверждения Ъ) теоремы 2 следует, что У является монотонным классом, и поскольку Ф СУС М(В), то из теоремы 1 9 2 М(В) = о(~Ф) С о.(У) = и(У) = У С М(В), откуда У = М(В).
С) С помощью несложных топологических рассмотрений утверждение те- оремы 4 о существовании регулярного условного распределения можно распространить на случайные элементы со значениями в так называемых борелевских пространствах. Дадим соответствующее Определение 9. Измеримое пространство (Е, в-") называется боре- левским пространством, если оно борелевски эквивалентно некоторому борелевскому подмножеству числовой прямой, т.
е. существует взаимно однозначное отображение 1ь = р(е): (Е, У) — (В, М(В)) такое, что: )) 1э(Е) ья (р(е): е Е Е) есть некоторое множество из М(В); 2) 1с — в-измеримо (1о '(А) Ев, А Е л(Е)Г1М(В)); 3) У ' — МЯ)/В-измеРимо (Р(В) Е1о(Е)Г1М()(), В ЕЮ), Теорема 5. Пусть Х =Х(ш) — случайный элемент со значениями в борелевском пространстве (Е, ег). Тогда существует регулярное условное распределение Х относительно о-алгебры У С.йг.
Доказательство. Пусть р= р(е) — функция из определения 9. В си- лу 2) из этого определения ~р(Х(ы)) является случайной величиной. Поэто- му по теореме 4 определено условное распределение О(ьл А) случайной величины ~р(Х(м)) относительно У, А Е Р(Е) П М(В). й7. УСЛОВНЫЕ ВЕРОЯТНОСТИ И ОЖИДАНИЯ 285 Введем функцию е(м; В) = ч (~; у(В)), В Е У. В силу 3) определения 9 Р(В) е у(Е) П М(Й) и, следовательно, 0(ьд В) определено. Понятно, что при каждом ь Ф(м; В) является мерой по В Е еГ. Зафиксируем теперь В Е У. Б силу взаимной однозначности отображения р = р(е) фьд В) = Що; ср(В)) = Р(у(Х) Е ср(В) /У)(м) = Р(Х Е В /У)(со) (п.
н.). Таким образом, фи; В) является регулярным условным распределением Х относительно У. О Следствие. Пусть Х =Х(ы) — случайный элемент со значениями в полном сепарабельном метрическом пространстве (Е, в). 7огда существует регулярное условное распределение Х относительно У, В частности, такое распределение существует в случае пространств ()7", Я()7")), (В, ВУ(Я )). Доказательство следует из теоремы 5 н известного результата из топологии о том, что такие пространства являются борелевскими.
8. Развитая выше теория условных математических ожиданий позволяет дать обобщение теоремы Байеса, находящей применения в статистике. Напомним, что если У=(АИ ..., А,) — некоторое разбиение пространства й с Р(А ) > О, то теорема Байеса (9) $3 гл.! утверждает, что для всякого В с Р(В) > О Р А )В) Р(АВР(В!А) (25) Р(А )Р(В!Аг) /=! ь Поэтому, если й= 2 аул,. -дискретная случайная величина, то, согласно 1=! формуле (10) из $8 гл.
1, й(а;) Р(А;), Р(В)А;) Е(у(д) ) В) = ' Р(А ) Р(В /А~) /=! (26) или й(а) Р(В ~в=а) Ра(йа) Е[д(У))В] = г) Р(В)В=а) Ре(йа) (27) где Рв(А) = Р(У Е А ). Основываясь на приведенном в этом параграфе определении Е(й(й) ~В), нетрудно установить, что формула (27) остается справедливой для любого 286 ГЛ.
!!. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ 0(В) =) д(В(ю)) Р(йш), В ЕУ. в (28) Тогда в силу (4) Е[у(В) ]У](ю) = — (ю). а'0 (29) Наряду с о-алгеброй У рассмотрим о-алгебру Ув. Тогда, согласно (5), Р(В) = ~ Р(В [Ув) д Р, (30) илн, по формуле замены переменных под знаком интеграла Лебега, Р(В) = ~ Р(В [В=а) Рв(йа). Поскольку 0(В) = Е[а(В)/в] = Е[а(В) Е(/в [Ув)], то 0(В)= ) а(а) Р(В[В=а) Рв(йа).
(32) Предположим теперь, что условные вероятности Р(В ] В = а) являются регулярными н допускают представление Р(В]В=а)=~ р(м; а)А(дю), (33) в где р= р(ю; а) — неотрицательная измеримая по паре переменных функция, а Л вЂ” некоторая о-конечная мера на ((), У). Пусть Е]д(В)] < со. Покажем, что (Р-п.
н.) д(а) р(ач а) Рв(йа) Е[а(В)]У]йв) = р(вл а) Рв(йа) (34) (обобщенная теорема Байеса). Лля доказательства (34) нам понадобится следующая лемма. события В с Р(В) > О, случайных величин В=В(м) н функций д = д(а) с Е]д(В)[( оо. Рассмотрим теперь аналог формулы (27) для условных математических ожиданий Е[д(В)]У] относительно некоторой а-алгебры У, УС.У. Пусть й7. УСЛОВНЫЕ ВЕРОЯТНОСТИ И ОЖИДАНИЯ 287 Лемма. Пусть (й, Уг) — некоторое измеримое пространство. а) Пусть р и Л вЂ” о-конечные меры, р« Л и 7 = 7(ы) — У-измеримая функция. Тогда 1 ~др=(з фдЛ (35) ди ди др — — — — (Л-л. и.) дЛ ди'дЛ (36) ии с(и l др — — — — (р-л.
и ). ди дЛ/ дЛ (37) Доказательство. а) Поскольку р(А) = $ ( — — л) ДЛ, А е У', то (35) очевидным образом выполнено для всякой простой функции ~=~„Дул, Общий случай следует из представления 7 = 7+ — )' и теоремы о монотонной сходимости (ср. с доказательством (39) в $6). ди Ь) Из утверждения а) с 7 = — находим с(и и(А) = ~ ( — ) с(р = ~ ( — ) ( Я) дЛ.
л А Тогда и « Л и, значит, и(А) = ) — дЛ, „дЛ откуда в силу произвольности множества А и свойства 1 (з 6) следует (36). Свойство (37) вытекает из (36) и того замечания, что р1~; „— и=0)= 1 ~~дЛ=О (м: Я=О) (на множестве (ы: — = О) правую часть в (37) можно определить проди ' дЛ извольно, например, положить равной нулю). Сз (в том смысле, что если существует один из интегралов, то существует и второй, и они совладают). Ь) Если и — мера со знаком и р, Л вЂ” о-конечные меры, и « р, р«Л, то 288 ГЛ. и. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ Для доказательства (34) заметим, что в силу теоремы Фубини и предположения (ЗЗ) д(а)р(еч а) Рв(г(а) Л(А4, рйв; а) Рв(г(а) Л(ды).
(38) (39) Тогда в силу леммы ИС) ИО/е'Л вЂ” — — (Р-п. н.), ЫР ~(Р/ИЛ что с учетом (38), (39) и (29) дает формулу (34). Замечание. Формула (34) остается справедливой, если вместо случайной величины д рассмотреть случайный элемент со значениями в некотором измеримом пространстве (Е, а.) (с заменой интеграла по Я интегралом по Е). Остановимся на некоторых частных случаях формулы (34). Пусть о-алгебра Вт порождается случайной величиной С, йт = гг(~). Предположим, что Р(с еА[й=а) =$ д(х; а) Л(дх), Аемв(м), (40) А где д = д(х; а) — некоторая неотрицательная измеримая по паре перемен- ных функция, а Л вЂ” некоторая о-конечная мера на ()г, .йв()т)).
Тогда из формулы замены переменных под знаком интеграла Лебега и (34) находим, что я(а) в(х; а) Рв(г(а) Е[а(В) [с =х[ = Е(х1 а) Рв(г(в) (41) ~ д(вп) Р(б=х [а=си) Р(в=си) Е[Ы(в)[С=хг) ~ РЫ= [В= ЙРР= А ' (42) (Ср. с (26).) Пусть, в частности, (д, С) — пара дискретных случайных величин, д= 2 а;/д, С =',> , 'х;/в,. Тогда, выбирая в качестве Л считающую меру (Л((х )) = 1, 1 = 1, 2, ... ), из (40) получим $7. УСЛОВНЫЕ ВЕРОЯТНОСТИ И ОЖИЛЛНИЯ 289 Пусть теперь (У, 4) — пара абсолютно непрерывных величин с плотноью гес(а, х).