Б.А. Севастьянов - Курс теории вероятностей и математической статистики (1115332), страница 31
Текст из файла (страница 31)
Подставляя вместо 1 случайпу)о величину т =1(Д, мы получаем, что условное математическое ожидание есть случайная величина д) (т). Вычислим математическое ожидание ат д)(т): Мд)(т)= х д)(1)Р(т=Г)= ) д)(1) х Р(х)= п(х) р(х) = ~ д(х) р(х). х: ) )х)=) х Таким образом, мы показали, что (10) Мй (К) = М [М (ц (~) ) ) (Ц) = 1) ), т. е. прн вычислении математического ожидания от дЯ) сначала можно вычислить условное математическое ожидание дД) при условии 1($) = 1,а затем осреднить зта условное математическое ожидание по вероят- НОСТЯМ УСЛОВИЙ. Формула (10) сохраняет смысл и в том случае, когда й имеет не дискретное распределение, а, например, имеет платность р(х)= р(х), ..., х„).
Пусть плотность р(х) непрерывна в точке х. Тогда при Ь)-).0, 1=1, ..., и, Р(х) (а) <х,+Ь), 1'=1, ..., и)= =Р(х)Л) ° °, й„+о(Л) ... Ь„). Гл. !а опенки пАРАмвттов Вычислим условпу!о вероятность Р(х! <5! <х!+Л!...., х <$ <х„+А 1х; < < 5! <х;+а„!=и+ 1,..., П) =- ра ! (х!, ..., х )а! ... Ь„-!Го(А! ... Л ) Переходя к пределу по !1! -э.
О, получаем Р(х! < К! < х! + !х!,..., х„,< 3 <х,„+ А 1х! < 1 < В! < х! + !х!, ! = и! + 1, ..., Л) — э р! (х,...,х) где р! т„(х,„+!, ...,х„)= = ~ ... ~ щ! „. т„(х! °, х„, х +„..., х„)Нх! ... а!х Ш Ю Предел левой части (11) естественно назвать условнои плотностью $!, ..., $,„при заданных ~ л!, ..., $„: Рл!" л 1в л!" е (х! .
> хи1хл+!, ° ° ° хх) = р ! (х,...,х,„,х „,....х„) Р$,х+! „. ! (Хте!. "., Хл) Математическое ожидание Мк(ь ° °" ь)= =~ ... ~д(х„..., х„)Р;,„,е (х„..„х„)г1х, ... Г(х„ можно вычислять по 4)ормуле (10), вы Гислив сначала условное математическое ожидание М(д($!, ", Ы!6 +!=-Х,л~!, ", 1.=хл) = =~". ~а(хо" ..)Х Х рл! ... т 1! „... ! (х„..., х ~ х +„..., х„) Г(х!... ах,„= °" ... ~ и(х!...
„х„) рл ! (хс .. „х ) лх! ... лх ... ~ р „(х, ..., х ) дх ... Кх $5В УСЛОВНЫЕ ЗАКОНЫ РАСПРЕДЕЛЮ!ИЯ 2!9 и Осредпяя его затем пО р, ! (х г!, ..., х„): ;~+! ° .. г„т+! М (М (а й!, ..., 5„) Я,„, !, ..., ~Л = =1 1 .. (;,' " '-.)'.. ° ° ".1 ° "1 "°....;.„, . -- ° сг(хн ..„Х„)р„, . (х„,.„х„~х„,„.. ха) ~(х! !!Хт ~ ... ~ я (х„..
„х„) р (хо ..., х„) г(х! ... дх„= =)У(У(;о ... 1„). (1~) Формулу (12) можно вывести и в более обгцсм случае. Пусть имеются д!н!нреренппруеу!ые функции г! = 1,(х), !з =- !В(х), ..., Г„, = г'„,(х). Предположим, что к ниА! можно подоб!рать функции (у! = —.у, (х), 1= 1, ..., и — ги, такис, что преобразование С, аадавяемое функциями !! =(!(х) ! = 1 ° ° ° ги Ус=-Уг(х) 1=-1, ..., и — ги, (! 3) взаимно однозначно в соотвстству!Ощей области Тогда плотности р,(х) и р, (С у), где г!=(,((), т! =у.(в), (у ° ° у„), будут свя. аны равенством р! (Х) = р„„(1, у) ', Х ), (!4) где У вЂ” якоопап преобразования С. Пусть имеется функция у(ь~!, ..., с„).
Вычислим условное математическое ожидание у'Д!, ..., С„) при условии т=б Обозначим хк((,у) =- хы !г= 1, ..., и, х(бу) = (х!(1, у), ... ..., х„((, у) ) функции, задаюьцие обратное преобразование С вЂ” '. Тогда М(д(Б) !т=-!) =- = ~ ... ~ р(х(С у)) р„,!у(()г(д, ... Г(у„„= г )у!»(!, у)1 Рч»(у, г)ня,, !Гу„ ... !)Р„,,!У, !)НУ!" !У„„ гл. и. оценки плиамвтеов 220 и М[йй(аВ)1 Н= = ~ "° ~ 1й (у(")1 =() р (() й(1 " 1(в = $ ° .. $ д(х(Е, у)) р„,(у, () сЦ ... й(,„сну, ... йу„ = $ .
° ° $ и (хи ..., х„) р, „(хо ... х„) йх, ... йх =-Ч Р) (19) (здесь мы воспользовались равенством (!4)). $60. Достаточные статистики Понятие достаточной статистики играет важную роль в теории оценок. Оп едел ение 1. Пусть ~ — — '(,'ь ..., 5,) — вектор ная случайная величина, распределение которой р(х;9) зависит от параметра 9, и ((х) = (61(х), ..., ( (х))— векторная функция (набор гп статистик) от х = (хь ...
..., х„). Мы будем называть г(х) достаточной статистикой, если условное распределенно $ = ($ь ..., 5,) при условии 1(~) = 1 не зависит от параметра 9. Мы будем далее иметь в виду два случая, разобранных в 9 59: либо р;(х; О) †дискретн распределение вероятностей, либо р;(х; 9) — и-мерная плотность и су. ществует взаимно одйозна шое преобразование С: х =- =(хь ..., х„) в (1,у) =(Гь ..., (, уь ..., у„), за. даваемое формулами (13). Как мы увидим ниже, оценки„зависящие только от достаточных статистик, обладают преимуществами ьо сравнению с другими оценками. Во-первых, они используют не всю информацию, содержащуюся в выборке (1), а лишь ту ее часть, которая существенна для оценки параметра.
Во-вторых, каждой несмещенной оценке 0 с конечной дисперсией соответствует другая несмещенная оценка В, зависящая от достаточнойфтатистики, с О9 =О9.- """ ' 'й '' йУб ~'" Прежде всего докажем критерий факторизации, позволяющий легко находить достаточные статистики. % и!. 'достлточн! !а стхтист!»ки Т е о р е и а 2, Если распределение р(х; 8) предстар (х; 8) = а (» (х); 8)»» (х) „ то»(х) есть доститочиая статистика. Д о к а з а т е л ь с т в о.
Рассмотрим сначала дискрет- ное распределение. Согласно формуле (8) условная ве- роятность =". = х при условии» (г) = » равна »!а(х !») = —, " ' у(х; О! (17) у(х; О) : ! !х>-С Если выполнено (16), то из (!7) получаем и(»: СО Ь(х! А (х) и!»; О) ~ Ь(х) ~ »!(х) х; хч ! и!-! т, е. »(х) — достаточная статистика.
Если, наоборот, условная Вероятность»>а(х!»)=- »7(х!») пс зависит от па" ра метра 8, то из теоремы умногкепи я верея! постой имеем р (х; 8) =- р (х !») р! (»; 8), где р»(»; 8) — распределение», т. е, имеет место пред ставление (16). Если р(х; 8) — плотность, то будем предполагать„что имеется преобразование (13) и плотности рт(х; 8) и р, ч(», у; 8) связаны соотноп»синем (!4). Тогда услов- ная плотность т! прн условии т = », равная рч! х(у !») ах ч(»! -.
»па !»! уе-т) "~ уча( ! ".* гл у! ° ул-т) "у!" "»»1-т в силу (14) и (16), прсдставима в виде Рч»,(3 1!») = л(»; О) д! (», у))»-!( (», у)! ... ~ у(»;О) й(х(»,у))» ! (х(», у)) !»у, ... г»!»„-», »2 (х (», у!) Х (х (», у)! ... ~ а (х (», у8»-' (х !», у!) и!», „. иу,,„ гл. !к оцвнки плекметнов и, следовательно, не зависит от О.
Так как М (а(О! т =1) = ~ ° ° - ~ а( (1, у)) р„!,(у !1) йу, ° ° с(у„,„ ис зависит от О, то взяв д(х)=1 для хе= В и д(х) =О для хан В, где Вен Я" — борелевское множество из Я", получаем, что РВА В !т=1) не зависит ото при любом В ~ Я"., т, е. ! — достаточная статистика. Пусть, наоборот р„!,(у !1) не зависит от О. Тогда нз р„, (у, 1; 0) = р„1, Ь ! 1) р, (1; О) и (14) имеем р,(х; 6) =р„„,(у! 1) р,(1; 6)!Х!, т.
е. плотность ре(х; 0) прсдставнма в виде (!6),Тее6.- Второе из указанных выше свойств достаточных ста- тистик вытекает из след ю ей тео емы. Те ем а 3. ео ема олмого ова — Блек злл Пусть 1 — даст лная статистика семейства распреде- лений р(х; 0), а 6 (х) — несмещенная оценка параметра 0 с конечной дисперсией, построенная по выборке (1). Тогда условное математическое оскидание 6 ири с!ликси- рованном 1 О = М(О !1) будет несмещенной оценкой О с дисперсией (лб ~ ~00. До к аз атс льет во. Из свойства (!5) имеем Мб=М(М(о !1)) =Мв=в, т.
е. опенка 0 нссмсн!ена (О действительно является оценкой, так как пс зависит от О, поскольку 1 — доста- точная статистика). Вычислим 1лб: об= м(о — о)з= м(в — б+ !) — о)- '=- = Н (6 — 0)2+ М (Π— 0)' + 2М (Π— О) (Π— 0) (18) Так как и (б — б)(о - о) = М (М (б — о) (о — он 1) = =- Ы ((б — 0) М ((Π— 0)! 1)), 5 6!. 3ФФективность оце!!ОК а М((0 — 0)!1)=0, то из (18) получасы 110: ПО.
Тееп рема доказа1!а 1Тр и мер 1. Пусть выборка (1) взята нз схемы Бернулли (х; = 1, если в г-м испытании был успех, х; = 0 в противоположном случас). Параметром в этом случае служит вероятность р. Всроятность появлего!я выборки (1) равна Ц хх 3-хь х, 1- ...
+хд (1 )!! — х!- ." -х!! й=! откуда по крцтери!о факторизации следует, что число успехов х, + ... + х„ ест! достаточная статистика. П р и и е р 2. Пусть (1) — независимая выборка нз нормального распределения с параметр!ахп! (я, о).Тогда оо критерию фа!сгорцзацнп !! р(х; а, а) = —,„-ехр — —,, ~ (х! — а)2 (2а) "и а' ( 2ьы! ! ! !! !! 1 12п) ~'в" ( 2г ~ .-' ! — ! !=1 ! !! т с ~ х,. н У х' — достато:пп!е статистики. ! ! % 61. Зффсктивность оценок Еа!г мы внделп в 11 60, нссмещенныс оценки О параметра 0 с меньшей дисперсией нрсдпочтитсльней остальных оценок.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
