А.Н. Ширяев - Вероятность-1 (1115330), страница 49
Текст из файла (страница 49)
Тогда в силУ (19) пРедставление (40) выполнено с о(х; а) = г е(х[а) и мерой Лебега Л. Поэтому У(а) )41е(х [а) )в(а) аа Е[д(У) [с =х] = (43) /4(е(х [а) (е(а) йи Е(4„— [У) Е(с [У) = (Р-и. н.). Е( — [У) Формула (44) справедлива и для всякой случайной величины С, для которой условное математическое ожидание Е(с [У) определено. Доказательство. Прежде всего, заметим, что Р-мера (а также и Р-мера) события (ы: Е~ — „]У~ =01 равна нулю. Действительно, если ~дР~ множество А ЕУ, то ~ Е( ~ У) дР = Т~ „— с(Р = ) он = Р(А), А гдР ] и, значит, множество А =1ы: Е~ — „]У1=0). имеет (э-меру нуль. ЬР~ ) ) Пусть 4'>О. По определению условного математического ожидания, к(ь [У) — это есть такая У-измеримая случайная величина, что для всякого А ЕУ Е[7 Е(ь«[У)] =Е[)лс]' (45) 10 — 9727 9.
Приведем еще одну версию обобщенной теоремы Байеса (см. (34)), формулировка которой (даваемая ниже) особенно удобна в вопросах, связанных с заменой вероятностных мер. Теорема 6. Пусть Р и Р— две вероятностные меры на измеримом пространстве (й,,йг), мера Р абсолютно непрерывна по мере Р дР (обозначение: Р«Р) и — — производная Радона — Иикодима меры и'Р Р по мере Р.
Пусть У вЂ” под-о-алгебра У (У С.йг) и Е(. [У) и Е( [У)— условные математические ожидания относительно У по мерам Р и Р соответственно. Пусть б — неотрицательная (л«-измеримая) случайная величина. Тогда имеет место следующая «формула пересчета в условных математических ожиданиях»: 290 ГЛ. Н. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ Поэтому для доказательства формулы (44) надо лишь убедиться в том, что (У-нзмеримая) случайная величина, стоящая в правой части (44), удовлетворяет следующему равенству: (46) Пользуясь свойствами условных математических ожиданий н форму- лой (39) нз $6, находим: йР = Е [/л Е (6 — ] У) ~ = Е [)АС вЂ” 1 = Е ((д С 1, что н доказывает формулу (45) для неотрицательных величин Е. Переход к общему случаю аналогичен доказательству утверждения (39) в $6 для произвольных интегрируемых случайных величин Е.
0 1О. Приведенная выше обобщенная теорема Вайеса (формулы (34), (41) н (43)), являющаяся одним нз основных средств при «байесовском подходе» в математической статистике, дает ответ на вопрос о том, как перераспределяется наше знание о распределении случайной величины д в зависимости от результатов наблюдений над статистически с ней связанной случайной величиной Е. Ниже будет рассматриваться еще одно применение понятия условного математического ожидания в задачах оценнвання неизвестного параметра д по результатам наблюдений. (Подчеркнем, что, в отличие от рассмотренного выше случая, где У вЂ” случайная величина, сейчас д будет просто некоторым параметром из а рг!ог! данного параметрического множества е» (ср.
с $7 гл.!). В сущности, речь будет идти об одном важном понятии в математической статистике — понятии достаточной под-о-алгебры (говорят также: о.-подалгебры). Пусть (П, лг) — некоторое измеримое пространство, на котором задано семейство й» = (Ре, д Е Щ вероятностных мер Ре, зависящих от параметра у, принадлежащего параметрическому множеству еэ. Часто говорят (ср. с $7 гл.
!), что набор е. =(П, лг, Я) задает вероятностно-ста- $7. УСЛОВНЫЕ ВЕРОЯТНОСТИ И ОЖИДАНИЯ 29! тистическую модель (нли вероятностно-статистический эксперимент). Для пояснения приводимого ниже определения 10 предположим, что у нас имеется некотороая .У'-измеримая функция (статнстика) от исходов ы и У=а(Т(~4) — а-алгебра, порожденная этой функцией Т = Т(ы). Ясно, что ус,У' н, вообще говоря, в Уг могут входить события, н не принадлежащие У (т. е, уг «богаче», нежели У). Но вполне может оказаться, что с точки зрения определения того, какой «действует» параметр д, никакой больше «информацнн», кроме знания Т = Т(ы), н не надо иметь.
В этом смысле статистику Т естественно было бы назвать достаточной. Замечание 1. В случае Т(ы) = ы, т. е. когда известными становятся сами исходы (а не функции от ннх), можно выделить следующие два крайних случая. Один — когда все веРоЯтности Рв совпадают пРн всех У Е 6. ПонЯтно, что в этом случае никакой исходы нам информации о значениях параметра у не даст. Другой случай — это когда носители всех мер Рв, дел, «сндят» на разных подмножествах Х (т.
е. для любых двух параметров У~ н У2 меры Рв, н Рв, являются сингулярными: существуют два множества (носителя) йв, н йв, такие, что Рв,(й ~йв,) =О, Рв,(й~йв,) =О н йв, Пйв, =И). В этом случае по полученному исходу ы значение у восстанавливается «однозначно». Оба этн случая мало интересны. Интерес же представляют случаи, когда, скажем, все меры Рв являются эквивалентными (н тогда нх носители не различаются). Будем сейчас трактовать а-алгебру У = а(Т(»7)) и, более общим образом, любую под-а-алгебру У С Х как «ннформацню», получаемую в результате эксперимента, исходами которого являются ы Е й.
Имея такую информацию У, естественно поинтересоваться (как н в спучае формулы Байеса), во что перейдут вероятности Рв, т. е. каковы соответствующие условные вероятности Рв( 1У)(ы). Прн этом (по аналогии с первым случаем нз замечания) понятно, что если все этн вероятности при всех ы не зависят от у, то обращение ко всякой «большей информации» УЭУ ничего нового о параметре 0 (по сравнению с тем, что можно получить, основываясь на «ннформацнн» У) не даст. В этом смысле, «ннформацню» У можно назвать исчерпывающей нлн, как обычно принято говорить, достаточной.
Следующее определение формализует эти рассуждения. Определение 1О. Пусть (й, Я, Я) — вероятностно-статистическая модель, 2Р =(Рв, 0 Е Щ н У есть под-а-алгебРа Уг (У С.вг). ГовоРЯт, что под-а-алгебра У является достаточной для семейства уз, если суще- 292 ГЛ.
П. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ ствуют версии условных вероятностей Ре(.ГУ)(ш), ОЕ9, шЕП, которые не зависят от значений О, т. е. существует такая функция Р(А; ш), А Е з, шей, что для всех А Ейг н О66 Ре(А ~У)(ш) = Р(А; ш) (Рв-п. н.), (4?) те, Р(А; ш) есть версия Ре(А~У)(ш) при всех ОЕЭ. Если У=о(Т(ш)), то статистика Т=Т(ш) называется достаточной статистикой для семейства,У. Замечание 2. Интерес к отысканию в статистических исследованиях достаточных статистик обусловлен стремлением находить такие функции Т = Т(ш) от исходов ш, которые редуцируют данные с сохранением информации (о значениях параметра О). Например, представим себе, что ш = (хн хз, ..., х„), где х; е й и и очень велико.
Тогда построение «хороших» оценок параметра О (как, скажем, в $7 гл. 1) может оказаться весьма трудной задачей по причине высокой размерности имеющихся данных хн хз, ..., х„. Однако вполне может случиться (н это мы наблюдали в $7 гл. !), что для построения «хорошнх» оценок вполне достаточно знания не индивидуальных значений хн хз, ..., х„, а лишь значения суммарной статистики Т(ш) =х1+хз+...+х„. Понятно, что такая статистика действительно приводит к существенной редукции данных (н вычислительной работы), будучи в то же самое время достаточной для построения «хорошнх» оценок параметра О.
Приводимая ниже факторизационная теорема дает условия, обеспечивающие достаточность о-алгебры У для семейства .У. Теорема 7. Пусть уз=(Ре, ОЕ٠— доминируемое семейство, т.е. существует такая о-конечная мера Л на (й, зг), что меры Ре абсолютно непрерывны относительно Л (Ре ~ Л) при всех ОЕ 9. Пусть д (ш) = — (ш) — производная Радона — Никодима меры 1л1 арв в ЫЛ Ре относительно меры Л. Для того чтобы под-и-алгебра У была достаточной для семейства 9", необходимо и достаточно, чтобы функции дем1(ш) допускали факторизацию: нашлись такие неотрицательные функции уе (ш) и Ь(ш), что уе (ш) — У-измеримы, Ь(ш) — У-измерима и (л1 .
<л> для всех Оею де1л1(ш) = уе1 1(ш) й(ш) (Л-и. н.). (48) Если в качестве меры Л может быть взята мера Р~, где Оь— некоторый параметр из 6, то для достаточности о-алгебры У необходимо и достаточно, чтобы сама производная д (ш) =— 1е,1 аре в =ар была У-измеримой. $7. УСЛОВНЫЕ ВЕРОЯТНОСТИ И ОЖИДАНИЯ 293 Доказательство. Достаточность.
По предположению доминирующая мера Л является а-конечной. Это означает, что найдутся такие ,дг-измеримые непересекающиеся множества йы й > 1, что () = ~ йь и лл! 0(Л(йл) ~ оп, й > 1. Образуем меру Эта мера конечна, Л(()) ( оо, и Л(й) >О. Без ограничения общности ее можно считать вероятностной, Л(()) =!. Тогда из формулы (44) пересчета условных математических ожиданий находим, что для всякой У'-измеримой ограниченной случайной величины Х =Х(ы) Ев(Х !У) = (Ра-п. н.). (49) Согласно формуле (48), <л> аЬ аЬ аЛ <л>ИЛ р> ИЛ кв === '==Йв ==К ПЛ аЛ тсЛ ЙЛ ' йЛ' Поэтому формула (49) принимает такой вид: Бв(Х1У)= дЛ (Рв п н) (50) (51) Но да — У-измеримы и .<л> ЕЛ(Х =~У) Ев(Х (У) =, (Рв-п.
н.). Ел~А=~У) (52) Правая часть здесь не зависит от д, и, следовательно, имеет место свойство (47). Тем самым, согласно определению 1О, и-алгебра У является достаточной. Необходимость будет доказываться лишь при дополнительном предположении, что семейство,дз = (Ра, д Е Щ не только домин ируется некоторой а-конечной мерой Л, но также существует некоторое дь из е> такое, что все меры Ра «Р!и, т. е.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
