XVII Математическая статистика (1081432), страница 10
Текст из файла (страница 10)
р(*;бВ)= «р — ( — )), О ев, В ев, ), Вз~/2х ~ 2 Вз то значение функции правдоподобия для выборки хы ..., х„из генеральной совокупности Х в данном случае имеет вид Ь(хы...,хп~ВмВз) — Пр(х;ВыВз) = 1 ( 1 ч з о(х — В1)~ откуда в силу критерия факторизации Неймана — Пирсона (множитель Ь(хм...,х„) = 1) заключаем, что двумерная статис- тика Т= (ТВТз), где 1т т,=х=-~,х;, о и Тз = Е(Х; — Х) 2, 1ю1 является достаточной для вектора параметров (Вмдз). Пример 2.9 (общая нормальная модель). Пусть в эксперименте наблюдается случайная величина Х ° Ж(ВмВ~~) с неизвестными параметрами Вм Вз.
Так как плотность распределения Х имеет вид 83 пи. Понятие достаточкнх статистик Пример 2ЛО. Пусть дана случайная выборка (Хм ..., Х„) из генеральной совокупности Х ° В(О,В), т.е. Х имеет равномерное распределение на интервале (О, В), где  — неизвестный параметр. Покажем, что крайний член еириационного ряда Х1„1 случайной выборки является достаточной статистикой для параметра В, т.е. Т(Хм...,Х„) =Х~„1 — достаточная статистика. Действительно,так как плотность равномерного распределения имеет вид х Е 10, В); р(х;В) = '( о, * ~ (о, в), то выборочное значение функции правдоподобия имеет вид (-,')", х;6(О,В), 1=1,и; 0 в противном случае. Мы видим, что область изменения каждого аргумента х; функции Ь(хы...,х„;В) зависит от параметра В. Рассмотрим статистику Т(х„...,х„) = хро и положим ( -), х; Е (О, В], 1 = 1, и; 0 в противном случае.
~ 1, х; ) О, 1 = 1, и; (х11".,хо) = 1 0 в противном случае. Тогда выборочное значение функции правдоподобия для вы- борки х„можно представить в виде Ь(хм...,х„;В) с д(Т,В) Ь(хм...,х„). 2. ТОЧЕЧНЫЕ ОЦЕНКИ Заметим, что при определении функции Ь(хм...,х„) на х; не наложены ограничения, поскольку х; <Т(х„) =х1„1 <О, 1=1,п. Это значит, что функция п(хм..., х„) не зависит от параметра д. Согласно критерию факторизации, статистика Т(х„) = Х1„1 является достаточной для параметра и. Пример 2.11 (модель Коши).
Пусть имеется случайнал выборка Х„из генеральной совокупности Х - К(В), т.е. Х имеет распределение Коши: 1 р(х'~) ( ( р)з) ' Функция правдоподобия в рассматриваемом случае имеет вид ЦХ„...,Х„;В) = йр(Х;;В) = — „П, в=1 и, 11+(ХФ В) Иэ этого равенства следует, что существует лишь одна статистика Т(Хм...,Х„), которая для выборочного значения функции правдоподобия дает представление (2.7), а именно: тривиальная статистика (Т1(Х„),...,Т„(Й„)) = (Хм ..., Х„), совпадающая с самой случайной выборкой.
Отметим, что из определений эффективности по Рао— Крамеру и достаточных статистик вытекает, что существование эффективных оценок по Рао — Крамеру или достаточных статистик можно ожидать для специальных классов параметрических моделей. Если существование таких оценок установлено, то их можно найти с помощью метода максимального правдоподобия, который изложен в следующем параграфе. 2.3. Методы аодученнх точечных оценок 2.3.
Методы получения точечных оценок Рассмотрим методы определения точечных оценок параметров йм ..., И„, от которых зависит распределение р(х;йм...,й„) генеральной совокупностпи Х. В математической статистике разработано большое число методов оценивания неизвестных параметров по данным случайной выборки, из которых в приложениях наиболее часто используются: — мепюд мв.кентов; — метод максимального правдоподобиц — графический метод (или метод номограмм); — метод наименьших квадратов.
Рассмотрим первые три из них (поеледний рассмотрен ниже, см. 7). Метод моментов. Метод моментов был предложен английским статистиком К. Пирсонам и является одним из первых общих методов оценивания. Он состоит в следующем. Пусть имеется случайная выборка Х„= (Хм ..., Х„) из генеральной совокупности Х, распределение которой р(х;й) известно с точностью до вектора параметров й = (йы ..., 0„). Требуется найти оценку параметра й по случайной выборке Х„. Будем предполагать, что у случайной величины Х существуют первые г моментов: ть = МХ~, й=1,г.
Ясно, что величины ть являются функциями неизвестного нектара параметров й, т.е. т= ть(й). Рассмотрим выборочные моменты ~ц,(Х„) (или же йь(Х„), см. 1.3). Выборочные моменты являются соспюятельными оценками соответствующих моментов генеральной совокупности Х (см. о замечание 2.5), поэтому при большом объеме выборки ть и ть, к=1,г, можно заменить соответственно моментами рь и йь выборки х„. 86 а тОЧЕЧнЫЕ ОЦЕНКИ В методе моментов в качестве точечной оценки д(Х„) = = [61(Х„), ..., о,(Х„)) вектора параметров В берут сшаеппсшиху, значение которой для любой реализации х„случайной выборки Х„получают как решение системы уравнений (2.8) уц, = уц,(д), й = 1, г.
Можно показать*, что при условии непрерывной зависимости решения этой системы от йы к = 1, г, оненхп, полученная методом моментов, является состоятельной и имеет псилепепоееемееесееее нормальное расиределемие, т.е. ее распределение при и -+ оо стремится к нормальному. При этом уравнения (2.8) во многих случаях просты и их решение не вызывает больших вычислительных сложностей. Понятно, что метод моментов не применйм, когда моменты генеральной совокупности нужного порядка не существуют (например, для распределения Коша, у которого не существует даже начальный момент первого порядка — математическое ожидание [ХУЦ).
Пример 2.12. Пусть случайная величина Х имеет еплемараспределенпе с плотностью Ла а-1 е ~* х > О. Г(ее) Дх,Л,ее) = О, х(О, где Л и ее — два неизвестных параметра. Заметим, что этому распределению подчиняется время Х до отказа системы из ее = еп (еп — натуральное число) однотипных элементов, если каждый из т — 1 элементов включается в работу после отказа предыдущего, и время до отказа Х;, 1 = 1, т, 'См:. Ивченко Г.Ич Медведев Ю.И. 87 2.3. Методы получении точечных оненои любого элемента имеет зкспоненциальное распределение — е Л 1 ( Л)= Ле, .>О; о, < о. Найдем с помощью метода моментов оценки неизвестных параметров Л и о. В данном случае, используя определение ламма-функции а также рекуррентное соотношение Г(ах+ 1) = ахГ(о), получим следующие выражения для первого, второго начальных моментов и дисперсии: ГЛ х А Г(о+1) о / Г(о) Г(о)Л Л' о Л~х + л Г(хх+ 2) о(о+ 1) Г(о) Г(о)Л2 Лз о О Х = М(Х2) — (М Х) 2 = п22 — п2~ = —.
Л2 Пусть й„— выборка объема и из генеральной совокупности Х. Находим моменты выборки 121 = и и йз — — й2. Приравнивая а моменты щх — — МХ и п22 — — РХ к соответствующим моментам выборки, получаем систему уравнений -г — =и Л 2 80 "вэ. Ь1етоды получение точечных оценок По определению, оценкой маисимаяьноео правдоподобия параметра д называют статистику В(Х„), значения д которой для любой выборки х„удовлетворяют условию ь(хв1й) = шахЬ(х„;д), лее (2.9) т.е. для выборки функция правдоподобия, как функция аргумента д, достигает максимума.
Если функция 1,(х„;й) дифференцируема как функция аргумента д при любом значении х„из множества Х„значений случайной выборки Х„и максимум ь(х„;й) достигается во внутренней точке из чо, то значение точечной оценки максимального правдоподобия в случае скалярного параметра удовлетворяет уравнению (необходимому условию экстремума (11]) дЬ(х„;В) д1п Ь(х„;О) = О, или ' = О, (2.10) так как при логарифмировании точки экстремума остаются теми же, а уравнение, как правило, упрощается.
Если распределение случайной величины Х зависит от вектора параметров В = (Ом ..., 0„), то второе иэ уравнений (2.10) заменяется системой уравнений д1пь(х„;й) =О, йее1,г. ддь (2.11) Сне Ивченко Г.И., Медведев Ю.И. Уравнения (2.10) и (2.11) называют иравнениями правдоподобия. Для наиболее важных семейств распределений р(х;й) уравнение правдоподобия имеет единственное решение о= (Вы ..., й„). Во многих случаях решение системы (2.11), являющейся, как правило, нелинейной, приходится искать численными методами . 90 и.
ТОЧЕЧНЫЕ ОЦЕНКИ Пример 2.14. Применим метод максимального правдоподобия для оценки параметра 9 = р в биномиальной модели, где р имеет смысл вероятности „успеха" в любом из и независимых повторных испытаний (испытаний по схеме Бернулли), в которых было зафиксировано й „успехов". В рассматриваемом случае значения функции правдоподобия 1,(х;р) есть вероятность появления Й „успехов" в серии из и испытаний. Эта вероятность, как известно, определяется по формуле Бернулли, т.е. 1,(й;р) = С„'р'(1 — р)"-". Находя 1и Цй; р) = 1и ~с + Ип р + (о — й) 1п(1 — р), получаем уравнение правдоподобия (2.10) в виде д1п Цй;р) х и — х др р 1 — р откуда получаем р = й/и.
Нетрудно убедиться в том, что р есть точка максимума Ь(х;р). Следовательно, оценка максимального правдоподобия вероятности р совпадает с относительной частотой „успеха" в п испытаниях. Пример 2.15. Пусть наблюдаемая в зксперименте случайная величина Х вЂ” время работы прибора до отказа — имеет экспоненциальпое распределение с плотностью 1Ле ~, х)0; у(*,л) = ~ О, х<0, где Л вЂ” неизвестный параметр. Применяя метод максимального правдоподобии, найдем точечную оценку для параметра Л. Пусть х„= (хы ..., х„)— 2.3.
!Иетоды получение точечных оценок любая реалиэаиил случайной выборки Х из генеральной совокупности Х. В рассматриваемом случае «Ъ о Цх1,...,х„;Л) =ПЛе ' = Л"ехр( — Л~~ х;), «=1 1пЦх1,...,х„;Л) =п!пЛ вЂ” Л~~ х;. «=! Следовательно, уравнение правдоподобия (2.10) имеет вид а)п1,(х;Л) дЛ Л откуда следует, что Итак, точечной оценкой неизвестного параметра Л является Л(Х„) = 1(Х. Если учесть, что МХ = 1/Л, а наилучшей оценкой МХ = р является выборочное среднее о х=-",> х,, «=! то полученный ответ представляется вполне естественным.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
