Полезная книга (543702), страница 28
Текст из файла (страница 28)
с(хл= = — ))!)у(ь!, ... з,). (12) Формулу (12) можно вывести и в более общем случае. Пусть имеются диф<реренцпруемые функции 1! = !!(х), 6 = (а(х), ..., г,» = Л„(х). Предположим, что к нина можно подобрать функции у; =. у; (х), 1 = 1, ..., и — и, такие, !то преобразование С, задаваемое функциями (!=(!(х), ! =1, ..., т, у! — — у,(х), 1=1, ..., и — т, (13) взаимно однозначно в соответствующей области. Тогда плотности рч(х) и р, „((, у), где т,.=!!5), т) =у)(ч), т=(т» ° ° т )* т)=.(т)» .
- Ч вЂ” ) (=-»(( ° . ! ) у= =(у! ° ° ° у, и), будут связаны равенством р~ (х) = р„„(1, уК Х 3, (14) где 7 — якобинц преобразования С.Пусть имеется функ- ция уД!, ..., $л). Вычислим условное математическое ожидание у(с!, ..., сл) прн условии т=й Обозначим х!,(1,у) =- хы й = 1, ..., и, х((,у) = (х!(1, у), ...
..., хл((,у)) функции, задающие обратное преобразо- вание С-'. Тогда М (л (з) ) т =- !) =- =~ ... ~у('((, !)), ~ и( (1, я)) рч,(у, !) й!!! . лр„,л ~ р!, ! (у !) ду! '"' лк» вЂ” !л гл, пс оценки пАиамвтуав % бО. 'Даетлтаалпыа СТАтнетлЛКИ 22! м[м(аВ)1 )1= =5 "1 (у()!.=).,«),. '.= = $ ...
$ д(х(1, у)) р„,(У, 1) й1! ... й1и, ду, ... йу„ = $ ... $ д (хп ., „х ) р ~хп ... х ) ох,... йх„= =Му(й) (16) (здесь мы воспользовались равенством (14)). 5 ОО. Достаточные статистики Понятие достаточной статистики играет важпуло раль в теории оценок. Оп еделение 1,Пусть ~=Я!, ..., в„,) — вектор ная случайная велич~яа, распределение которой р(х;О) зависит от параметра 8, и 1(х)=((л(х), „1 (х))— векторная функция (набор гп статистик) от х (хь ... ..., х„). Мы будем называть 1(х) достаточной статист!х- ной, если условное распределение $ = (яа, .
„ $,) при условии 1($) = 1 пе зависит от параметра О, Мы будем далее иметь в виду два случая, разобранных в $ 59: либо р;(х; О) †дискретн распределение вероятностей, либо рл(х; 8) — и-мерная плотность и су. ществует взаимно однозначное преобразование С: х = =(хл, ..., х„) в (1,у)=(ть ..., 1, уь ..., у„), за даваемое формулами (13).
Как мы увидим ниже, оценки, зависящие только ат достаточных статистик, обладают преимуществами по сравнению с другими оценками. Во-первых, они используют не всю инфармацию, содержащуюся в выборке (1), а лишь ту ее часть, которая существенна для опенки параметра. Во-вторык, каждой несмещенной оценке О с конечной дисперсией соответствует другая несмещенная оценка О, зависящая от достаточнойфтатистики, с Ой~Ой.-сп-4~ ' 'У"' йУ' ~" Прежде всего докажем критерий факторизации, по- зволяющий легко находить достаточные статистики.
(17) Иа.ч(л! -. * ааи у! " уи-т) ''' $ лах, я ( аа '''' ии у!' * уи-иа?а!у! ' а!уаа-аи в силу (14) и (16), прсдставнма в виде р„„(у !!) = яп; П)Ь!х!б и))т а!х(б УИ ... ~ у (л; 0) Ь (х (й у)) 7 (х (й у!) а!у! ... а!У„-аи Ь !х !д и)) Х ' (х (б и)) ... ~ А!х(л, у))т-! !х(л,у)) Ууа ... Уу, „ Теорем а 2.
Если распределение р (х; 8) предстар (х; О) = й(1 (х)' О) й(х)„ то 1(х) есть достаточная статистика. Дока зател ьст во. Рассмотриау! сначала дллсллрст- пое распределение. Согласно формуле (О) условная ве- роятность ив = х прн условии 1('-)= 1 равна рл(.х1!) = », О) ла (х; в) ха ! ах!-! Если выл!алаш!о (16), та нз (!7) получаем уа (л; в! у (х! у (х) у(па Е Х х; а ах!==а ха а ах!-! т.
е. х(х) — достаточная статистика. Если, наоборот, хусловпая вероятность ри(х(!)= р(х)!) нс зависит ат па- раметра О,то из теоремы умножения всраял настей пмеслл р(х; О) =-р(х !!) ра(1; О), где рл(1; 8) — распределение т, т. е. имеет место пред ставление (16). Если р(х; 8) — плотность, то бул!.и предполагать,чта имеется преобразование (13) и плотности рл(х: О) н р, ч(1„у; 8) связаны соотношением (14).
То~да услов- ная плотность и при условии т = 1, равная рч„(у !1) = гл. и оценки плглмвтеов з «««, зеевктивность оцгпюк н, следовательно, не зависит от О. Так как М(а(БНт=()= ~ - )у(х(1, Н))р„„Ь!1)ду," «ру„,„ ие зависит от О, то взяв д(х)=1 для х~ В и у(х)=О для х~ В, где Вен М" — борелсвское множество из 1«", получаем, что РЯБ В ~т=!) не зависит ото при любом В еи Я"р т. е.
1 — достаточная статистика. Пусть, наоборот р„«,(у ~1) не зависит от О. Тогда из р„,Ь, В 0)=рч„Ь!1)р,(1; 6) и (14) имеем ри(х; 8) =рч«т(1«) 1) р,(1; ОН Х!, т. е. плотность ре(х; 8) прсдставима в анде (16). Теорема Локаддив. Второе из указанных выше свойств достаточных стп- тис Пус р р лений р(х; 0), и О (х) — несмеи(синая оценка паралетри 0 с конечной дисперсией, построенная по выборке (1). Тогда услоеное л«ател«атир«ес!«ое ожидание О при уриксироеанном 1 О= М(0 ~1) будет несл«еи«енной оценкой 0 с дисперсией ьрО к: 1)О. Док аз атсльство. Из свойства (!5) имеем МО =- М (М (О 1 Р)) = МО = О, т. е. оценка О нссмс«цена (О действительно является оценкой, так как пс зависит ог О, госкольку Р— достаточная сгатистика).
Вычислим 06: () 6 = М (6 — О)' = М (Π— О + й — 6)! =- = М (Π— О)Р + М (Π— 8)' + 2М (Π— 8) (Π— 8) (18) Так как М (Π— 0) (Π— О) = М 1М (Π— 8) (Π— ОН «1 = = М НΠ— 8) М ((Π— 0) ~ 1)1, а М((8 — 8Н1)=О, то из (18) получаем 00--»л)0. Тееррема докаддщ„ '«рр р ~. ««у ' р р (1! . «.*.
' и * р,р. нуллн (х; = 1, если в «-м испытании был успех, х; = 0 в противоположном случае). Параметром в этом случае служит вероятность р. Вероятность появления выборки (1) равна р Р(х; р)= П р~л«1 'л= р й ь "' ' (1 — р)" «р= ! откуда по крнтершо факторизации следует, что число успехов х! + ... + х„ есть достаточная статистика. П р и и е р 2. Пусть 11) — независимая выборка яз нормального распределения с иарамстрамн (а, о).
Тогда по критсрио факторпзацкп е р(х„а, и) = — „-ехр — —,, ~ (х! — а)е (2а)ы- ««РР ~ 2и и и 1 « . †. 1 «=1 т. с- ~ х! и У х';.' — достаточные статистики. «-! р ! О 61. Эффективность оценок Ка!«мы видели в 6 60, нссмещснныс опенки О параметра .О с меньшей дисперсией предпочтительней остал!- пых оценок. Естественно поставить вопрос о нахождении оценок с наименьшей дисперсией. Не!«отой«рий! подход к решению этого вопроса дает' неравенство Рвов Р(рал«ера. Пусть р(х; 8) =- р(х„..., х„; О) — плотность, граапсящая от параметра О, а О = «р(х) =«р(х«, ..., х,) —- о*.«епка параметра О по выборке хь ..., х„, пе обязательно несмещенная. Обознарр«ил«йр(0)=-МО=~ ..
° ~ Чр(х)Х р, р(х; О) дх. Предположим, что выполнены некоторые условия регулярности, прп которых интегралы ~ р (х; О) «1х = — 1, ~ «р (х) р (х.„о) й«х == г«(0) Г11 !л О!1гики плРхмвтРОв % х!. э«>Факт!та!!Ость ОцРНОк г'д!ои г«» ! В этом случае информация Фишера г«»((!)= М( ао зависит От а лшнзйисе У (О) =!1?1(0), (26) где Х (0)=- ~ ' " ' ' ) р(х; 6)с(х — информация Фи«' И (Оа г«(х; О) '«> ((.
еб пера Одного пибл!одення х«„а (22) превращается в нс«гавенство следугощ го вида: г (0) ' (27) Формула (26) следует из И «« ! -1 3 а и с ч а п н с 5. Если оценка б нес.!ещеииая, то 2(0) = — — О, н в исравепстьзх (22) и (27) «и!слнтсль раиса («'(О) =--=. 1. В условиях теор«чгы 4 неравенства (22) н (27) дают Оценку снизу дисперсии оценок О. Ниоткуда пе следует, 1то эта оценка достигаетси, однако во многих важных случаях, как мы увидим пнже, опа является нихпге(! границей дисперсии 0 хотя бы в асимптотнческом смысле !Ррн а — ~- с~ Пример 3. Пусть хь ..., х„— независимая выборка нз по«рл!ал«и!ого распрсделеип!я с параметрами (,, )г (а, О), а — известии. !а!х как 1ОКр(х; а).=-— — 0)ы!Л х — а М(л — а) — 1оп -,/2!и а, " = —,.—, то ?„(а) == !г ва а' а! а«1 — — Для оценки г)=х имеем !за= — „= —,а, т. с.
ел н этом случае в (2?) достигается равенство. Ниже мы всегда будем предполагать, что выпал. пены условия теоремы ч. О и р е д е л О н и с 2. Назовем эффективность!о оценки О отношение е(6) = —. !а (0В' 00 ° Х (О) Оценка О с эффективностью е(О)=1 называется эффективной. Зтя определения обычно применяют к несмещенным оценкам. Оценка Х в примере ! эффективна. Если неравенство в (22) или (27) для некоторой оиеикн превращается в равенство, то эффективность оценки Π— это отногиенис минимально возможной дисперсии к дисперсии данной опенки: пип 09, е(О) = — "' 00 Эф«(!с1«тивпость всегда удовлетворяет неравенствам О ~ = е,'О) "1.
Конечио, при и!!рущс«инн услоинй теоремы4 неравенства (22) и (27) могут ис выполняться и могуг существовать «сверхэффсктнпные» оценки О с диспср. сией ОО убывающей прн и = ОО быстчее, чем О ! — ! . ли/' Пр н и ер 1. Пусть х,, ..., х — независимая выбор ка нз распределения с плотностью ,— (х-О! 0 х О х В этом случае нарушается условие (19) и оценка 0 = = пип х„ обладает «свсрхзффективиостщо>, так как ! «К>ма' МО=О+ — „, ПО= — „,. Важным попятиел! в теории статистических оценок является также асимитотическая эффективность. Будем предполагать выполненными условия теоремы 1.
О и р е д с л е н и е 3. Асихглтотичее!со!1 эффективностью е,(6,) оцеги!н 6„=6„(х„..., х„), построенной по независимой выборке х„..., х„, назовем предел е„(0) = 1(пг !«.» ° а?! (О! 00» если оп существует. Оценка О, называется асах!тоти«ее Ох эффективной, если е>(0„) = 1. гл. и, оценки плэлмвтров' !ах МзтОДЫ НЛХОжДЕНг!и ОЦЕНОК Таким образом, если Π— несмещенная оценка с асимптотической эффективностью е,(О), то ее дисперсия !)О -! при больших и аснмптотически равна [ес(О) ° пУ!(О)) Для аснмптотически нормальных при и-+ со оценок О„полезно другое определение асимптотической эффективности.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
