Г.И. Ивченко, Ю.И. Медведев - Математическая статистика (1115270), страница 13
Текст из файла (страница 13)
Таким образом, соотношение (2.37) можно записать в виде /,(х; 8) = е (Т, (х) — 6)/(Ь (8) — а (6))", откУда следУет, что Т,=Т,(Х)=ш)п(а '(Х„,), Ь !(Х,„,)) о„и . мерная достаточная статистика для О. Аналогично, если а(9) 1, Ь (8) т с возрастанием 8, то пдпомер иая достаточная статистика имеет вид Т. = Т,(Х) =!пах (а-'(Х,п), Ь-'(Х,„,)). Эти два случая исчерпывают ситуации, когда в модели /( (а (6), Ь(0)) существует одномерная достаточная статистика. Обратим внимание на то, что как Т„так и Т, являются функ- пнями исходной двумерной достаточной статистики Т=(Ха!, Х!„!). Это обстоятельство имеет общий характер, т.
е. х!инймальная достаточная статистика есть функция любых других достаточных статистик. В частности, для равномерной модели с иулевь!и сред- ним Й( — 6, 9) одномерная достаточная статистика Т, принимает вид Т. = шах ( — Ха!, Х<,!) = шах (, 'Х,!! (, ) Х<„! '), а для модели Р(9, 0+!) одномерной достаточной статистики не существует. Пример 2.10 (модель Коши, достаточная стапшстика для нее).
Для модели Коши Л'(9) функция правдоподобия имеет вид яя Ц ! + [ч — 6) ь' !=! и здесь нельзя найти статистику Т, дающую факторизацию (2.36)„ размерность которой меньше и. 2. Достаточные статистики и оптимальные оценки. Роль достаточных статистик в теории оценивания раскрывает следующее утверждение.
67 Теорема 2.8 (Рао — Блекуэлла — Колмогорова). Оптимальная оценка, если она существует, является функцией от доспдаточной статистики ". П Пусть Т=Т (Х) — достаточная статистика и Тд = Т, (Х) — цро- иэвольная несмещенная оценка заданной параметрической функ- ции т(0). Рассмотрим функцию Н (д) = Ее (Тд ~ Т = () = ()Т, (х) Е (х1д; 6) г(х. Эта функция не зависит от 6, так как условная плотность д'. (х1(; 6) от параметра не зависит. Далее, статистика Н(Т (Х)) является также несмещенной оценкой т(0), Действительно, если й(й 6)— плотность распределения статистики Т(Х), то ЕеН (Т(Х)) = ) Н (() й ((; 6) Й = ~ Тд (х) [) Е (х ( (; 6) д ((; 6) Й1 дх = = $Т,(х) Е(х; 0)дх=ЕвТ,(Х)=т(6).
Наконец, справедливо неравенство В,Н (Т(Х)) В,Т,(Х), 'УВ, причем равенство имеет место в том н только в том случае, когда Тд=Н(Т). Для доказательства этого заметим, что ОеТд = Ее[Тд — Н(Т)+ Н (Т) — х(0)1а= = Ее [Тд — Н (Т)дда + тчдеН (Т) = гд еН (Т), поскольку математическое ожидание произведения Ее[Тд — Н (Т)ИН (Т) — т (0)) = Ее[(Тд — Н (Т)) Н (Т)[ = = ).[Ее(Т, ~ Т=() — Н(()[Н(()й((; 6) д(=О. В предыдущем неравенстве знак равенства возможен только ° в случае Т, = Н (Т). Таким образом, для любой несмещенной оценки т(9), не являющейся функцией от достаточной статистики, можно указать несмещенную оценку, которая зависит от доста- точно(д статистики и имеет дисперсию меньшую, чем исходная оценка.
Следовательно, оптимальную оценку надо искать среди функций от достаточной ппатистики. ° При отыскании явного вида оптимальных оценок важную роль играет свойство полноты достаточной статистики. По определению, достаточная статистика Т=Т(Х) называется полной, если длн всякой функции гр(Т(Х)) из того, что Еур(Т) =О, 'УВ, следует гр(() =— О на всем множестве значений статистики Т**. ' Частный случай этого утверждения об эффективных .оценках был отмечен в п. 1.
*ч Зго утверждение понимаетея в том смысле, что Ф РЕ (Х дм (х: др(Т (х)) ~ 0)) =О, УЕ. Т 2г9. Если существует полная двстапдочная с функд(ия опд нее является огдгггд лдагпе,иатического ожидания, ЫПстьТ= У ь Т=Т(Х) — полная достаточная статистикаи Н(Т)— произвольная функция от Т. Обозначим ЕеН (Т) = т (0). Из условия полноты следует, что Н(Т) — единственная функция от Т, удовлетворяющая соотношению (2.39), так как если бы была еще какая-нибудь функция Нд(Т), удовлетворяющая (2,39)„ Е,[Н(Т) — Н,(Т)[=О, 'УВ, откуда Нд(()и— м Н((). П о теореме 2.8 оптимальную оценку т (0) надо искать в классе от функций, зависящих от Т.
Но Н (Т) — единственная ф Т, несмещенно оценивающая т(0); следовательно, она и являелся искомой оптимальной оценкой. ° ; ост Итак, пусть в рассматриваемой модели Р существует д аточная статистика Т и требуется оценить з у ствует полная метрическую функцию т(6). Тогда: .*ить задайную па а.*ить з у р () если существует какая-то несмещенная оценка т(6) це уе смещенная оценка, являюи(аяся функцией от Т; т, то су. можно также сказать, что если нет несмещенных оценок вида Н (Т) (т. е. уравнение (2.39) не имеет решения), пю класс аУ несме.
гг(енных оценок т(0) пуст; пю класс т несме. 2 гнк иейо ) оптимальная оценка (когда она существует) все д ф1 ц " т Т, и она однозначно определяется соопдняиение,и (2.39); всег а является 3) оптимальнуто оценку т* можне искать по формуле т* = Н (Т) =- Ее (Тд ~ Т), исходя из любой несмедценной оценки Т, функции т(0). В конкретных задачах прн отыскании оптимальных оценок последний критерий используют редко, так как вычисление условного математического ожидания обычно соп яже ческнми т нос сопряжено с аналити- (2.39 кот ое в рудностямн.
Чаще решают непосредственно уравне ), ор развернутой форме для абсолютно непрерывной нне модели имеет вид $Н(()д((; 0)д(=т(В), деВ гн 9, где й(й 6) — плотность распределения достаточной статистики Т. Для дискретной модели интегрирование в левой части ( . ) вменяется суммированием. Это уравнение в дальнейшем будем называть уравнением несмещенности.
Его можно решать различными способамн, например разлагая правую н левую ю чеву10 чисти од;0 р д по степеням 9 (в случае аналитических фун й (6) (; )) и приравнивая соответствукицие коэффициенты. 3, Примеры применения достаточных статистик. Рассмотрим применение изложенной теории к построению оптимальных оценок для различных параметрических функций т(0). Пример 2.1! (бернуллигвскал ясодель, оцениваниг параясетрссче- скпх фдсскций). Пусть Х=(Х„..., Х„) — выборка из распределех ння 2" (3) он Вс (1, 6). Как отмечалось выше, статистика Т= ~Ч, 'Хс (чпсло еуспехов» в и испытаниях Бернулли), будучи эффективной оценкой для п9, является достаточной. Покажем, что она обла- дает свойством полноты.
Для этого прежде всего заметим, что Хо(Т) =Вс'(п, 9) и, следовательно, распределение Т имеет вид д (1; О) =С'„Ос(! — 0)'-', ! =О, 1, ..., и. Пусть ср(!) — произволь- ная функция, заданная на множестве «О, 1, ..., и,'. Тогда усло- вие Езгр(Т)=0, )уО е=-(О, !), записывается в виде х ~ ц(!)С„'Ос(! — О)"-'=О, ЧО -=(О, 1), с-о хи~ сР (!) С,хс = О, Ух ) О (х = — ) . с=-о Отсюда следует, что все коэффициенты данного многочлена равны нулю, т. е. ср(!) =-О, 1=0, 1, ..., и.
Следовательно, Т вЂ” полная достаточная статистика. Тем самым всякая функция от Т является оптимальной оценкой своего среднего. Так как производящая функция случайной величины Т равна Езгт = ср (г' 9) = «1+(г — 1) 01", то, полагая (а)„=а(а — 1)... (а — к+1), й=-1, имеем Ео(Т)»= х' =(п)»6". д»ср !г; 6! лзх Отсюда и из предыдущего следует, что для любого целого й, 1~ Ь=-.п, оптимальной оценкой степени 0" является статистика (Т)»с(п)е (выше (см.
теорему 2.2) соответствующий результат имел место только для й= 1). Одновременно также получен вывод: более высокие степени 6», й) и, по выборке объема и не под- даются оценке в классе несмещенных оценок. Наконец, восполь- зовавшись теоремой 2.3, сразу получаем, что если т(9) †много- член степени к:=-и: т(0)= ~ аубс', то оптил<альнорс оценкой для с =-о него является статистика т' = ~ ау(Т)с!(п)с. с=о Например, теоретическую дисперсию т(9)=9(1 — 6) распределе- ния Вс'(1; О) оптимально оценивает статистика т" = Т (и — Т)с1п (п — 1)]. 80 (=п1, и!+1, ..., где Ь„(!) = „) ', а(хз)...а(х„) =сое1,1» (г), х + ...+х„=с (2.42) Пример 2.12 (модель степенного ряда, оцениванив паусаясетричгских Оурнкций).
Рассмотрим семейство дискретных распределений типа стеленного ряда, для которых вероятности ((х; 0)=а(х)6»с«(0), х=-), 1+1, ..., !(6)= ~", а(х)0', (2.41) х= С при этом последний ряд имеет ненулевой радиус сходимости Я, в этом случае полагаем (з=(0, Я). Распределения типа (2.41) охватывают многие хорошо извест- ные дискретные распределения с бесконечным множестном значе- ний; в частности, это следуюцие распределения: Пуассона П (9) (! (9) = ео, В = со), отрицательное бииоыиальное Вс'(т, 0) ()(6)=(! — 0)-', В=-1), логарифмическое (у(х; О)=6»с«х1п —,), х=1, 2, ..., Я=1) и т.
д,, а также соответствующие усеченные слева распределения. Приме чан не. астеченным называют распределение, у которого некото- рые значении запрещессы, например усеченным в нуле распределением Луас- 6» сона ивл»етси распределение )(х; 6)=се о-, х=1, 2, ... (константу с нахох! ' дит нз условия нормировки ~~ 1(х; 6)=Ц и в данном случае оиа равна х=с Π— е 6)-с). Отметим, что рассматриваемые распределения являются рас- пределениями экспоненциального типа (см.
п. 3 9 2.2), поэтому из соответствующих результатов для экспоненциальных моделей следует, что если имеется выборка Х=(Х», ..., Х,) из распре- деления (2.41), то статистика Х является эффективной (значит, и оптимальной) оценкой функции т(0) =81'(ОЯ(8).
Также изве- стно, что это единственная (параметрическая функция, для кото- рой существует эффективная оценка. Выясним, используя теорию достаточных статистик, для каких еще параметрических функций в рассматриваемой модели существуют оптимальные оценки и как определить вид этих оценок, Рассмотрим статистику Т = Т (Х) = Х, +... + Х„. В данном случае функция правдоподобия ь (х; 0) =- 8 ™с П а (х,) гу" (8), с=с откуда иа основании критерия факторизации следует, что Т вЂ” до- статочная статистика. Ее распределение 3(й О) имеет вид д(1; 6)=-Ро(Т(Х)=!)=- ~ч', Л(х; 9)=8»Ь„(У)с)х(0), х: т<»С=с Таким образом, Т также имеет распределение типа степенного ряда. Пусть, далее, /ь(1) — произвольная функция, заданная на множестве (п1, п1+1...
), и такая, что Еь/р(Т)=0, ч9 ~ В, т. е. 'Я ц (/) Ь, (1) 8' = О, Ч8 ен/д. /=г/ Отсюда следует, что /Г(/)=О для всех 1, для которых Ь,(/)чьО, т. е. /р(1) =О на множестве всех возможных значений Т. Таким образом, Т вЂ” полная достаточная статистика. Пусть теперь требуется оценить параметрическую функцию т(8), представимую в виде сходжцегося на В степенибго ряда: т(0) =,Я а/0/. Из формулы (2.42) следует, что в данном случае /=г уравнение несмещенностн (2.40) можно записать в виде Я О(1 Ь (1) 8/=) (0) (0) = ~Ч", Ь„(/) 0/,», а/0/ /= / /= / ь — и/ 0ь ~", а/Ь„(й — 1). а/+г г=г приравнивая соответствующие Поскольку зто тождество по 0, коэффициенты, находим / — л/ Н(1)Ь (/)— 1~п1+г, 0 при 1(п1+г.