М.В. Козлов, А.В. Прохоров - Введение в математическую статистику (1115302), страница 44
Текст из файла (страница 44)
Так как при и- ао !л) (л) ())1 (Хл) 9 (Хл)) 7 (0) 0(л) (л ) л лв( Ре ее — ~< — р й(Х,) —, О, 1 1 9)1 (Хл;9,)1 1 %Ч л лв ! „Ь е ( 1 Лье(Уп!0 — 0( ) (Хл)! ) М) — ).2Ф( — 3)х'-",(6) () — л О, то (46) г (Х„; В), О. Ре Перепишем (45) в виде 7(х); О) .. '7(х„; 0) =-7(к); Ом'(хл)).... 7(х„; О'"'(х„)))( х ехр ( — — /х, (О) (Уп (Π— Вм' (х ))) ) ехр (Л ) (х„; 0)).
(47) Из соотношения (46) вытекает, что при любом б)0 Р,-мера мно. жества (хл; (ехр(г(л)(х„; 6) ) — 1) <б) (48) 250 стрел(нтся к единице при и-)-оо. Если рассмотреть меру Рл лишь на множестве (48), то из (47) получается, что плотность меры Рл с точностью до множителя, близкого к единице, факторизуется и 6'л'(хл) — достаточная статистика этой факторизации. В связи с этим статистику 8(л'(хл), называют агил лготически достаточной.
Напомним, что достаточность статистики означает независимость условного распределения выборки прн условии статистики. Поясним, что в этом отношении можно сказать в случае асимптотической достаточности, записав дискретный вариант соотношения (47): Ре (х ) =-й) (х ) ехр ( — — lх, (0) (Ул (Π— 0'"' (х„)))') ехр (г(л' (хл, О)), ГДЕ д(Хл) =Р,(Хл) ПРП 0=0(л)(Хл). ОтСЮДа ДЛЯ УСЛОВНОЙ ВЕРОЯт- ности выборки х'„прн условии 8'л)(хл) ( получаем выражение (ср. п. 5 $ 15) Ре(хе) а(Х'~)ЕХр(К(л)Щ 811 (491 Ре(хл: 8 '(х„) = !) ~) а(хл)ехр(т)")(х„; 9)1 )*л) )л) где х'л таково, что 0)л)(хе,) =Д Так как веРно (46), то длЯ выборок х'„, имеющих подавляющую Ре-вероятность, условная вероятность (49) асимптотическн не зависит от О.
9. Векторный параметр. Когда параметр 8= (6), ..., Ое) — векторный, то интерес пред. ставляет совместное асимптотическое поведение оценок ГО!'(хл)...., 01"'(х„)) =-0'"'(х„) уравнений правдоподобия д(!" ) (х„; 6) /дО! = О, ! =1, ..., Уг. Прп условиях регулярности, аналогичных (А) — (.0), векторная оценка 6)л)(хл) параметра 8 в повторной выборке является состоятельной (т. е.
каждая ее компонента состоятельна) н асимптотнческн нормальной: распределение случайного вектора (51) У)! (8)л) (Х„) — 8) рассматриваемого по мере Ра имеет пределом й-мерное нормальное распределение Уе(9, lх,'(6)), где 1х,(8) — информационная матрица Фишера отдельного наблюдения. Таким образом, асимптотическая матрица ковариаций (1х,(9)п) ! оценок 6!")(х„) совпадает с нижней границей неравенства Фреше — Рао — Крамера, и потому векторную оценку 9!")(х„) называют (совместно) асимптотнчески эффективной.
Наметим доказательство асимптотической нормальности, которое повторяет рассуждения для скалярного параметра. Запишем линеаризованную в точке 0'= (9'), ..., Оел) систему уравнений правдоподобия )л) )л) д! (х"' в'1 + "Рд'! (х"' (Р1 (8! Ое!) =О, )=.1, ..., й. (521 ав! а аа! ае! ! ! Случайный вектор )л) )л) гад 1!"))Х 8 =( а! (Хлз е) а! (х„; 91 251 представляется в виде суммы независимых одинаково распреде- ленных векторов: л ),йгад ('л(Х(, 9); Мйгад ((Х(; 9)=0, ( ! Мв((йгад )лч(Х,; 6))'(йгад ('м(Х,; 9)))=)х, [9). Кроме того, (л) 7 а( (х7О в) ав(ав, Г а 7(")(х,) в) — В~ ДЕ('Щ7' Обозначив решение системы (52) через 0'"'(х„; вл) =-(О(!"' (х„; 6л)...., 6~")(х„; 6л)), подставляя 9(л)(хл; 9') в (52) и переходя к случайным векторам Х„после элем ентар ных преобр азова ни 0 получаем (л) — — ''~'а*( '""' О') (~л (67(") (Х„; 6) — 07)) = ав) ав( 7 ! — ! = 1, ....
й. (53) По центральной предельной теореме для сумм независимых одинаково распределенных векторов предельное распределение вектора правых частей системы (53) — нормальное й7„(0, (х,(6')). Каждый элемент матрицы системы (53) с ) а 7'"'(х„! в > (54) л ав( ав; сходится по мере Рвл в силу закона больших чисел к своему математическому ожиданию — соответствующему элементу матрицы лх, (вл). Матрица (х, (0л) предполагается положительно определенной, так что с Рвл- вероятностью, сколь угодно близкой к единице, прн л-ллл матрица (54) невырождена. Разрешая систему (53), получаем У7)( вм'(Х„; 6л) — вл) = (л) 1-' Вектор Гл(0(л (х„; 0')-6') представляется, таким образом, в виде 252 произведения асимптотически нормального случайного вектора на случайную матрицу, сходящуюся по вероятности к постоянной матрице /х,'(8'). Обобщая лемму 2, легко вывести отсюда, что вектор )~п(йо'>(Х„; Оа) — Оа) асимптотически нормален по мере Рве с асимптотической матрицей ковариаций, равной (ср.
(1) $10) (/„-,' (8 )) /,, (8 ) (/,,' (8 )) =/-,,' (8 ), где использована симметрия матрпць Фишера. Остается провести оценки остаточных членов разложения по формуле Тейлора, как это делалось для скалярного параметра, и показать, что состоятельный корень Ооо(х„) системы увацнений правдоподобия (50) по вероятности Рие эквивалентен 0~">(х„; 8'): (8,'"'()(,) — 8,')/(6)м ()(„; 8') — 8',) - 1, / =1, ..., й, 18.
Оцениваиие параметров сдвига и масштаба. получаем (55) Ю ()'~) — 1 1 /х,(р, п)=о Мка з а" (У~) 1 й/ () д Систему уравнений правдоподобия Л В Я и'((х; — р)/о) =О, ~), (1+юг-'(х,— р) д'((хг — р)/а)) =0 1 ! 253 Найдем выражение для информационной матрицы Фишера по- вторной выборки из семейства сдвига-масштаба с плотностью а '/((х — р)/а), где /(х) известна. Положив п(х) 1п/(х), имеем /еа(х,; р, а)= — 1по+п((х,— р)/о), д/еп/др = — а-'и' ((х, — р)/о), д/Ф">/до = — о-~ — о-з (х — р) я' ((х, — р)/о), бз/еч/др'= а-'д ((х, — р)/о), дЧпе/до' =о-а + 2о-'(х, — р) и'((х, — р)/а) + + о ~ (хт — р)зя ((хг — р)/б), дз/еч/др до = о-'8' ((х,— р)/о) + о-а (х, — р) и" ((х,— р)/а).
Обозначив через У~=(Х вЂ” р)/а нормированную сл.в. и учитывая, что 0 =М„,,д/ич (Х,; Р, о)/ОР = — о-'Маей' ((Х~ — Р)/о), 0 = Мрлд/ич (Х,; Р, о)/до =о-"Мра (1+ 6-' (Х,— Р) К' ((Хь — Р)/о)], в общем случае приходится решать численно. Оценки уравнений п авдоподобня р<"'(х„), о<"<(х„) асимптотически нормальны о((р, о) (<'х,(р. а) л)-'), где <х,(р, о) определяется формулой (55), Подчеркйем, что асимптотическая ковариацнонная матрица оценок зависит только ат параметра а. Если плотность ((х) симметрична относительно нуля: 1(х) = =)( — х), то п(х) =д<( †«), д'( — х) = — й<'(х), д'"( — х) =й<о(х), откуда Мо,<У<я" (У<) -О. Следовательно, матрица <х,(р, ц), а также матрица <х, (р.
<г) диагональны. Таким образом, матрица ковариацнй двумерного нормального вектора, предельного для случайного вектора Уй(им<(Х„) — р, а<о'(Х„) — ц), является диагональной, т. е. предельное нормальное распределение соответствует независимым компонентам. В таком случае го. ворят, что оценки р«о(Х„) н а<'<(Х„) асимптотически независимы.
Если плотность )(х) несимметрична, та, изменяя начало отсчета, можно обратить внедиагональные элементы матрицы 1х,(0) в нуль. Действительно, положим а=Моду<д~(У<)/Мод<г (У<) (56) и введем новую параметрнзацню, положив )(х) )(х+а), р(х) =)п)(х) й<(х+а), и рассмотрим повторную выборку х<, ..., х„ из распределения а Ч((х — р)/<т). Обозначая через М . операцию математического ожидания по мере с плотностью <г ((((х — «)<а), получаем МадУ<а (У ) =й4-одУ й (У<) =й4од И~ а) а (У а)) = = Мо,< (У, — а) д' (У,) = М<ь<У<р" (У<) — аМодд" (У<) = О, Мо,<~~(У,) =М ., д" (У,) =М., д'(У,— л) =М„<д" (У,), М«<У~<я" (У,) =М,дУ<д" (У,) =-Мод(У,— аЩ'(Уо — а) = = МодУ<й< (У<) — 2аМо,<У<к (У<) +аоМо,<й< (У<) = = МодУ~<у" (У<) — аоМо,<й (Уо) где прп последнем переходе использована формула (56).
Таким образом, О У<я' (У,) — аон" (У,) — 1 ~ ' где а определяется в (56), так что оценки <д<">(х„), ц<"'(х„) асимптотпческп независимы. Точку а называют центром расположения распределения, задаваемого плотностью 1(х). Асимптотическая не- 254 зависимость оценок йоо(х„), а<" 1(х„) облегчает их использование, в частности расчет асимптотических доверительных интервалов. Отметим, что условие регулярности (0) (точнее, его векторный аналог) оказывается слишком ограничительным для данной модели, если рассматривать область параметров †со< +ее, а>0. При а-~.О плотность а-'/((х — и)/а) стремится к бесконечности в окрестности точка х= р и прогзводные по и, а от /(х; р, а) = = 1п(а Ч((х — р)/а)) не будут равномерно по Гь а ограничены никакой функцией й(х).