Г.И. Ивченко, Ю.И. Медведев - Математическая статистика (1115270), страница 11
Текст из файла (страница 11)
Отметим, в частности, общее )(еобходимое условие, состоящее в том, что выборочное прострап- ство 2 йн должно зависеть от неизвестного параметра 9. Рассмотрим некоторые свойства вклада У (Х; 6) для регуляр. ных моделей. Всегда имеет место тождество (по 6) )6(х; 6)бх=! (бх=бхю..дх„) (здесь и далее для дискретных моделей интегрирование заменя- ется суммированием). Если модель регулярна, то, дифференцируя зто тождество по 6, получаем Таким образом, для регулярной модели ЕВУ(Х; 6)=0, УВ Яе. (2.16) Определим теперь функцию информации Фишера, или просто ин- формацию Фишера о параметре 6, содержащуюся в выборке Х: В.
(9) = 1) У(Х; 6) = Е,У*(Х; В), играющую важную роль в статистике. Величину (д!и!(ХП 6) 16 (2.18) называют "также количеством (фии(еровской) информации, содержа- и(ейск в одном наблюдении, Из соотношений (2,15) — (2.!8) непо- средственно следует, что („(В)= п((8), т. е. количество информа- ции, содержащейся в выборке, возрастает пропорционально объ- ему выборки. Если функция !(х; 6) дважды дифференцируема по 6, то, про- дифференцнровав при п=1 выражение (2.!6) еще раз, получим эквивалентное представление для !'(8): 0 ~ (и 1п)(ю 6) ) ( .
8) б + У ~д !п((»; 6) )~ ((х; 9) бх т. е. Пример вычисления информации Фишера для бернуллл(евс((ой модели В((1, 9) имеется в 6 2.1 (формула(2,13)1; для этой модели ! (в) = 1116 (1 — 6)1. Рассмотрим еще одни пример вычисления функции 1(6) для нормальной модели»"(9, о'). здесь вклад одного наблюдения д!п!(Х(', 6) Х( — 6 д~!п/(ХП 6) 1 Отсюда по формуле (2.19) получаем 1(9)=1!аз. Видфункцвя64(6) для некоторых моделей приведен в табл. 2.1.
тК чвг( модель ~ 4'(6, а') ~.4 (и, 6'1 Г(6, »1(Ю(61 В((К 61 ( П(61 ~ ВС(». 61 з' (В) 1/о~ 2/У Л/6~, Вгв й((6 (1 — 6)) !16»ДВ (! — ВР) Приведем пример нерегулярной модели. 66усть Ж($)%)т'(О, 6). 6 в Г 1 г д(1( Здесь из тождества — бхпп! не следует, что ~ — ( — )бх =О, так как при дифференцировании интеграла по верхнему пределу появляется еще одно слагаемое.
В данном случае причина нере- гулярности заключается в том, что выборочное пространство за- висит от неизвестного параметра 8. 2. Неравенство Рао — Крамера и аффективные оценки. Рас- смотрим задачу оценивання заданной параметрической функции т(9) в модели Р =(Р(х; 9), 6 ~6). Предположим, чтомодель У регулярна, функция т(9) дяфференцируема и пусть, как и выше, и»',— класс всех несмещенных оценок с(8). Тогда имеет место следующее утверждение. Теорема 2.4 (неравенство Рао — Крамера).,!(ля любой оценки Т= Т(Х) ~ и»» справедливо неравенство (2.20) Равенслмо здесь и.веет место т(яда и только пкеда, когда Т— линейная функция вклада выборки, и.
е. Т(Х) — т(6)=а(6)У(Х; 6), (2.21) гдг а(8) — некоторая функция от 9. П По условию, ЕВТ (Х) = ~ Т (х) С (х; 6) бх = т (6), 78 я 6. (2.22) Модель У' регулярна, поэтому, дифференцируя зто тождество по 6 н учитывая (2.16), получаем т'(6)= ~ Т(х) ' Е(х; 9)(!х=ЕВ(Т(Х) У(Х; 8))= = сочв(Т(Х), У(Х; 6)). (2.23) Используя неравенство Коши — Буняковского и определение (2.1У), из этого соотиошення получаеи оценку 1т'(9)]'~(„(6) 06Т(Х), 47 причем неравенство здесь обращается в равенство тогда и только тогда, когда (при каждом О) Т(Х) п (/(Х; 8) линейно связаны. В Неравенство (2.20) называется неравенством Рао — Крал!эра.
Оно определяет нижнюю границу дисперсий всех несмещенных оценок заданной параметрической функции т(9) для регулярных моделей. 3 в меч ание. Если Т=Т(Х) — оценка со смешением Ь(Е)./и функция Ь (61 дифференцируема, то, используя вместо соотношения 12.22) тождество )" т (х) л (х; 6) е =т 16) -, ь (61, с помошьво аналогичных рассуждение можно установить неравенство (также называемое неравенством Рао — Крамера) (т' (6)+ь' (6)Р Гает хм .! (6) обобшаювцее (2. 20). Если существует оценка Т* ~ ив' т, для которой нижняя гра- ница Рао — Крамера достигается, то ее называют эффективной.
Эффективная оценка является оптимальной, и, согласно теореме 2,1, она единственна. Из теоремы 2.4 следует, что крите- риел! эффективности оценки являеп!ся представление (2.21). Будем называть этот критерий оптимальности оценки кри!дернем Рвов Крамера. Если для оценки Те выполнено соотношение (2.21), то из формулы (2.23) следует т (9) = — 'О,Т*, а (е) т. е. для дисперсии эффективной оценки справедлива формула Ову' = а (9) т' (0). (2.24) Отметим следующее обстоятельство.
Вклад выборки (/(Х; В) однозначно определяется моделью, поэтому представление (2.21) (когда оно имеет место) единственно и, следовательно, эффектив- ная оценка может существовать только для одной определенной параметрической функции т(В) и не существует ни для какой другой функции параметра 6, отличной от ат(В)+Ь, где а н Ь— константы. 3.
Зкспоиенцмальная модель. Введем важный класс параметрических моделей, называемых экснонен/4иальними, для которых всегда существует эффективная оценка некоторой параметрической функции. По определению, модель У =(Р(х; 6), ВенВ) — эюаоненциальная, если соответствующая функция )'(х; 9) имеет вид ) (х; 9) = ехр (А (8) В (х) + С (8) + О (х) ). (2. 25) Многие часто встречающиеся в приложениях модели удовлетворяют этому условию. В частности, это модели о/" (9, о'), е;()х, В'), Г(6, Л), Вв(Ь, 9), П(6), Вт(г, 8), приведенные в табл.
2.1. Модель 48 Таблица 2,2 Модель ~ т вв! ет о Х=„- ~Х, в=! ! чгт — ~~(Х рР а 'в в=! Х/л Х/Ь Х Х/г оэ (Е. ох) В /" (р, ех) ех 26в/и Гф, Л) В!(Ь, 6) п (е) Вв'(г, 61 6 е е е/(! — 6) ех/Ли 'Е (! — 6)/Ьи 6/и е/(гл (! — 6)х) Коши и» (6), очевидно, не экспоненциальная, а равномерная.! модель. Я(0, 9) хотя и удовлетворяет условию (2.25), но не является регулярной Вклад выборки для экспсненциальной модели равен ч л ивх; в!=я!в! ~ хвхв-;-.с ввв=,х ввв(-.'- Л авхвв;-„—,~„',1, в=! Это равенство можно записать в виде (2.21), если положить Т'=Т*(Х)= — ' '~' В(Х!)' т(9)= л (е ' а(8)= л' ' (2'2$) в'=! Таким образом, для регулярной экспоненциальной модели еуществует эффективная (а значит, и оптимальная) оценка Т' для параметрической функции т(9), где Т" ит(0) определены в (2.26).
При этом согласно формулам (2.24) и (2.26) в ВэаТ* ~ — '„,"', . (2.27) Верно и обратное утверждение: если эффективная оценка дли некоторой функции т(9) существует, то модель является экспоненциальной. Действительно, интегрируя по 9 равенство (2.2!), получаем 1п 7. (Х; 0) = Ах (9) Т (Х) + С! (9) + (.)х (Х). Отсюда следует, что функция /(х; 8) должна иметь вид (2.25). Таким образом, эффективные оценки существуют для некоторых функций т(9) только в случае экспоненциальных моделей. Для перечисленных шести стандартных регулярных экспоненв цнальных моделей вид функции т(О), оптимальной оценки т* для нее и соответствую!цей дисперсии (2.27) приведены в табл. 2.2.
Отметим также, что для (регулярных) экспоненцнальных мо. делей функцию информации 4(9) можно вычислять по формуле ! (9) = т' (6) А' (6). Действительно, из соотношений (2.20) и (2.27) имеем равенство [т' (6)»вг(п! (6)) = т' (6)/(пА' (В)), откуда н следует предыдущее утверждение. 4.
Критерий Бхаттачария оптимальности оценки. Неравенство Рао — Крамера (2.20) дает иеулучшаемую границу дисперсии иесмещеиных оценок (для регулярных моделей) в тех случаях, когда существует эффективная оценка. Однако если этой оценки не супгествует [представление (2.21) не имеет места ни для какой статистики Т(Х)», то можно найти лучшую (т. е. ббльшую) нижнюю границу для дисперсии несмещеииых оценок. Основное условие достижения нижней границы дисперсии в неравенстве (2.20» состоит в существовании оценки Т, для которой Т вЂ” т (9) — лииейд1 Ь 1д/.
ная (для каждого О) функция от — = — —. (Здесь и далее иногда будем для краткости писать просто Л вместо Е(Х; 6).) Предположим, что такой оценки не существует, ио зато имеет место оценка Т*, для которой разность Т' — т(0) являетсялинейиой функцией от 1д1. 1дЧ, 1д'Ъ /. дз> ~. дев' ' ° ' В дв' при некотором г~2. Тогда Т" — оптимальная оценка для т(6). Этот критерий оптимальности, обобщающий критерий Рао — Крамера (2.21), называется критерием Бхапившчария н также основан на принципе достижения нижней границы дисперсии в соот« ветствующем неравенстве. Приведем точную формулировку соотд /.
„д» (в) ветствующего утверждения. Пусть Емг = —, тгю= —; тогда де» 99» имеет место следующая теорема. Теорема 2.5 (неравенство Бхаттачария). Пусть Т=Т(Х) — нгслгггцгннси оценка для т=т (6). Тогда при всех 6 еп е> вувТ) ч ', сг/а;а/, (2.28) г, г ! г/.>ь ьг>! гдг су= вы(9) =Ее ~ — — ), 4, /=1, ..., ., а коэффициенты а! = а; (6) определяются системой уравнений г „У, с;а/=тгггв 4=1,,„., г„ 'Л г=! Если матрица С =!!с!/»! нг вырождгна и С-' = [с~~, то неравенство (2.28) эквивалентно неравенству Г 0еТ~ Х сг/тгггтг11. ь (2.29) г, г=! и талы!о тогда когда г Т вЂ” т = ~1" ,агЕгг!/Ь. г=! (2.30) Практически критерий Бхаттачария (2.30' и ччитывая ста шие ) используют так: р е производные функции прайдоподобия, по бирают такую их линейную комбинацию, чтобы ия, под и- ление вида 42.30' , чт ы получить представд ( .
); при этом последовательно полагают в=2, , .... Если при некотором значении г это удается с слать кция и оптимальная оценка для нее (случаи г = в этой методике соответствует критерию Рао — К аме а . функции). Рассмотрим модель ./" (9, о'). Здесь 1 вг*; >г-, — -в(-„— ',~г.— >г).
г=! н можно проверить, что [лда3 дб, В'вв 'ДЧ 1 — ьв По критерию Бхаттачария отсюда следует, что статистика Т" =. персией) оценка для т(9) = 6'. ьная (т. е. несмещенная с минимальной дис- П 5 Критерии '"т "'льи"ти в с'учае вект'риего пар ет ° мальности оценок относятся к случаю скалярного параметра 9. щим их на случай векторного параметра. Будем пре по- ди=( в, ...,,), т. е. Π— вектор некоторой размерности г. редпологким„что ищется оценка для заданной числовой Функции т(9), диффереицируемой по всем переменным. Исходную модель по-прежнему предполагаем регулярной. Тогда имеют место ду рггый аналог неравенства Рао — Крамера и соующий критерий оптимальности. Тверям ..
ли Т = Т (Х) — произвольная песне!ценная оценка Тееремв 2.0. Если функции т =т(0), то при всех 0 ~ () г ПТ Ц" »Т ~" дг,с,сгэ (2.31) гдг /д! и /. д 1г> 6 1 Яг/=уг/(6)=ев1 дв д ' г> !=1, ...> г г а «озффицигнты сг = сг (0) определяются системой уравнений г Х дт йгггс/ = тг = — 1 = 1, ... /=! Если матрица 1„= 1„(0)=(д//1; не выроясдвна и нврменство (2.31) эквиваленпгио неравенству Г 06Т:~ ~ д"/т,т;. /, /=! Равенство в (2,31) и (2.32) ил/ест место тогда и когда Г 'Кб д 1в-Л Т вЂ” т=~с— ,1 ' дб; 11 =(дУ(м то (2.32) только тогда, (2.33) Если функция правдоподобия 1. (х; 9) дважды днфференци- руема по 9, то, продифференцнровав тождество ~ Е(х; 9)/)х=— 1 сначала по 9ь а потом по 6/, получим /сл1пс!Х; 6) Е /д-'1и/(Хп 61) (2.34) дб/ дб / ! дб; дб/ Матрица 1„(О) — аналог функции информации !„(6) для случая векторного параметра и называется инфорлюционной матрицей выборки, а 1(9) =1/(0) — информационной матрицей одного наблю- дения.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
