А.Н. Ширяев - Вероятность-1 (1115330), страница 50
Текст из файла (страница 50)
при любом д Е е7 мера Ра абсолютно непрерывна 294 ГЛ. и. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ относительно меры Рв,. (В общем случае доказательство становится более сложным; см. теорему 34.6 в [106[.) Итак, пусть У вЂ” достаточная а-алгебра, т. е, выполнено свойство (47). Покажем, что в предположении Рв «Рв„() е со, производная дв (во) 31 е о(рв, является У-измеримой функцией при каждом д Е со. Пусть А е,е .
Тогда для любого й е 9, пользуясь свойствами условных математических ожиданий, находим, что (с дв (ео) о(~ е Л о(Рв, ) Рв(А) = Ее!л = Е«Ее((л[У) =ЕвЕв(Ь[У) =Ев.[Кв' Ево((л[У)[= =Ев.Ее.(Кв'Ев.((л[У)[У) = Ее.([Ев.(Ыв '[У)[ [Ево((л[У)1) = = Еео Ево(lл Ев,(йв о) [У) [У) = Ее, )л Ее,(дв о) [У) = $ Ев,( йв ') [У) ((Рв,. Следовательно, вариантом производной д ' = — является У-изме- (в,) "Рв в — лрв римая функция Ее,(йв~) [У). Тем самым, в том случае, когда Л = Ров, из достаточности а-алгебры У вытекает факторизационное свойство (48) с дв(в') = де( ') и а ьч 1. В общем же случае (опять же при дополнительном предположении Рв«Рв„де9) находим, что (х) о(Рв о(рв ((Рв, (в,) отрв, й' = = ' =Ы йЛ НРе,' йЛ е йЛ ' Обозначая д =д .
(в,) (в,) йрв, о(л ' получаем требуемое факторизационное представление (48). С) Замечание 3. Полезно подчеркнуть, что для всякого семейства,У= =(Рв, д Е со) заведомо существует (и без всяких предположений типа доминируемости) достаточная а-алгебра. В качестве таковой можно взять самую «богатую» а-алгебру вг. ,((ействительно, в этом случае Ев(Х[,яг) =Х (Рв-п. н.) для всякой интегрируемой случайной величины Х и, следовательно, свойство (47) будет выполнено. Понятно, что такая достаточная ог-алгебра не представляет большого интереса, поскольку в этом случае не происходит никакой «редукции данных>.
Реальный интерес представляет отыскание минимальной достаточной а-алгебры У)„, т. е. а-алгебры, являющейся пересечением всех йу. условныв ввроятности и ожидлния достаточных под-а-алгебр (ср. с доказательством леммы 1 в в 2, из которого следует, что минимальная а-алгебра существует). Но, к сожалению, явные построения таких а-алгебр, как правило, довольно-таки непросты (см., впрочем, Я 13 — 15 гл. 2 в [107]).
Замечание 4. Предположим, что 9'=(Рв, В ей) — доминируемое семейство (Рв ~ Л, ВЕ су, Л есть а-конечная мера) и плотность д = — (ы) Ва дрв в дЛ представляется для всех В Е 9 в виде двц !(ш) = 6в! !(Т(щ)) й(щ) (Л-п. н.), (53) где Т = Т(щ) — некоторая функция (случайный элемент; см. $5), принимающая значения в множестве Е (с выделенной на нем а-алгеброй вг) и являющаяся,У/е-измеримой. Функции 6в !(1), (ЕЕ, и Ь(ы), мей, предполагаются неотрицательными и вг- и Вг-измеримыми соответственно. Из сопоставления (48) и (53) видим, что а-алгебра гВ= а(Т(щ)) является достаточной, а сама функция Т = Т(ы) является достаточной статистикой (в смысле определения 10).
Заметим, что в доминируемых случаях обычно именно выполнение факторизационного представления (53) принимают как определение достаточности статистики Т = Т(щ), входящей в (53). Пример 5 (экспоненциальное семейство). Предположим, что П= )г", .Вг =М()г") и мера Рв образована следующим образом: если ы = (хи ..., х„), то Рв(г(ы) = Рв(дх| )." Рв(дх„), (54) где мера Рв(г(х), х е й, имеет следующую структуру: Рв(дх) = а(В) ев!внизу(х) л(г(х). (55) Здесь з =з(х) — некоторая М-измеримая функция и а(В), )3(В), у(х), Л(дх) имеют очевидный смысл. (Семейство мер Рв, Веб, является простейшим примером так называемых экспоненциальных семейств.) Из (54) и (55) находим, что В(г(~ ~) ап(В)ед!в!йм1!+:;+выл!т(х!) у(хд) дх~ ...Ых„.
(56) Сопоставляя (56) с (53), видим, что статистика Т(щ) =з(х1) + ... +з(х„), ы = (хн ..., х„), является (в рассматриваемом случае экспоненциального семейства) достаточной статистикой. Если для щ = (хи ..., х„) обозначить Х| (ю) = хн ..., Х„(ы) = х„, то можно сказать, что структура мер Рв (образованных по принципу прямого произведения мер) такова, что относительно них Хн ..., Х„является последовательностью независимых одинаково распределенных случайных величин. 296 ГЛ.
Н. МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ Таким образом, статистика Т(ю) =з(Х1(ы)) + ... + з(Х„(1п)) будет достаточной статистикой, построенной по последовательности Х1(ы), ..., Х„(ы). (В задаче 20 предлагается установить, является ли эта статистика минимальной достаточной статистикой.) Пример 6.
Пусть П=)7",,Р=мв(1гп), параметр д)0 и для ы= = (х1, ..., х,) плотность (по мере Лебега А) йрв Ь ", если 0<х;<д,1=1, „,, п, в( ) "А ~0 в других случаях. Если Т(1п) = гпах хп 1<1ьп Ь(ы) = 1, если все х; > О, 1= 1, ..., и, 0 в других случаях, 1А1 )д ", если 0<с<у, в (1)=~ (О в других случаях, то находим, что д~ ( )=6~~(7( ))Ь( ). (57) Тем самым, статистика Т(ю) = шах х; является достаточной. 1К!кп 11. Предположим, что 9 есть некоторое подмножество на числовой прямой и е = (П,.э, дв =(Рв, де Щ) — вероятностно-статистическая модель.
Рассматриваемый сейчас вопрос состоит в построении «хороц1их» оценок параметра д. Под оценкой будем понимать любую случайную величину д = д(ы) (ср. с $7 в гл.1). Приводимая ниже теорема показывает, как понятие достаточной 1г-алгебры позволяет улучи1ить «качество» оценки, измеряемое ее среднеквадратическим отклонением от истинного значения параметра д. Более точно, будем говорить, что оценка д параметра д является несмещенной, если Ев!д! < оо и Ев д = д для всех д Е 9 (ср. со свойством (2) в ф 7 гл. 1). Теорема 8 (Рао и Блэкуэлл).
Пусть У является достаточной о-алгеброй для семейства У' и 1) = д(ы) — некоторая оценка. а) Если д является несмещенной оценкой, то оценка Т = Ев(д! У) (58) также будет несмещенной. $7. УСЛОВНЫЕ ВЕРОЯТНОСТИ И ОЖИДАНИЯ Ь) Оценка Т «лучике» оценки д в том смысле, что Ев(Т вЂ” д)г<Ев(д — д)г дай. (59) Доказательство. Свойство а) следует из того, что ЕвТ = ЕвЕв(д]У) = Евд = д. Для доказательства же Ь) надо лишь заметить, что, согласно неравен- ству Иенсена (см.
задачу 5, в которой надо взять у(х) = (х — д)г), (Ев(д]У) — д)г < Ев](д-д)г]У] беря в обеих частях математическое ожидание Ев( ), приходим к тре- буемому неравенству (59). С) 12. Задачи. !. Пусть с и и — независимые одинаково распределенные случайные величины и Ес определено. Показать, что Е((]~+и)=Е(г)](+П)= — ~ (п.н). 2. Пусть ~ь сг, ...
— независимые одинаково распределенные случай- ные величины с Е]Я < оо. Показать, что Е(41 ]5«, 5«+О ".) = — (и. н.), 5« где 5„= (~ +... + с„. 3. Предположим, что случайные элементы (Х, У) таковы, что существу- ет регулярное распределение Р„(В) = Р(У е В ] Х = х). Показать, что если Е]д(Х, У)]<со, то Р„-п.н.
Е[д(Х, У)]Х =х] = ~ д(х, у)Р„(г(у). 4. Пусть с — случайная величина с функцией распределения РЕ(х). Показать, что ь ') х йре(х) Ева «< Ь) = Р,(Ь) Р,(,) (предполагается, что Ре(Ь) — Ре(а) > 0). б, Пусть д = д(х) — выпуклая книзу борелевская функция Е]к(О] < оо. Показать, что для условных математических ожиданий справедливо (и. н.) неравенство Иенсена д(ЕК]У)) < Е(д(о]У). ' 6. Показать, что случайная величина С и а-алгебра У независимы (т. е. лля любого ВеУ случайные величины С и 7в(ьв) независимы) тогда и 298 ГЛ. и, МАТЕМАТИЧЕСКИЕ ОСНОВАНИЯ ТЕОРИИ ВЕРОЯТНОСТЕЙ только тогда, когда Е(д(О 1йт) = Ед(о для каждой борелевской функции д(х) такой, что Е(д(О! < со. 7.
Пусть 4 — неотрицательная случайная величина и йт — ст-алгебра, Ус.йг. Показать, что Е(с )У) < оо (п. н.) тогда и только тогда, когда мера О, определенная на множествах А еУ равенством 0(А) = ) ЕЫР, является а-конечной. 8. Показать, что условные вероятности Р(А !В) «непрерывны» в том смысле, что если йт А„=А, йгп В„=В, Р(В„) >О, Р!В) >О, то йп Р(А„!В„)=Р(А!В). 9. Пусть П=(0, 1), дг=дд((0, 1)) и Р— мера Лебега. Пусть Х(ш) и У(ы) — две независимые случайные величины, равномерно распределенные на (О, 1). Рассмотрим третью величину Х(ы) = )Х(ы) — У(ы)! — расстояние между «точками» Х(ы) и У(ш). )Аоказать, что распределение гх(х) имеет плотность /х(г) и /х(х) =2(1 — г), 0 <а < 1. (Отсюда, конечно, следует, что ЕХ =1/3.) 10.
На окружности радиуса !г (((х, у): хз+уз<)гз)) «случайным образом» выбираются две точки А~ и Аз, т. е. этн точки выбираются независимым образом с вероятностями для них (в полярных координатах, А;=(рь д;), 1=1, 2) Р(РТЕЫг, д;Едд)= 2, 1=1, 2. лдз Доказать, что расстояние р между точками А ~ и Аз имеет плотность распределения /р(г) и Р,( ) — '(2 ( — ) — -ф-(и) ) где 0 < г < 2!1.