Полезная книга, страница 29

Определение 4, Если оценка О, прн и-!-со са 1 асимптотически нормальна с параметрами 10, =), ~,я~ то ее асимптотической эффективностью называется от. ношение ! со(О,) = т! 18!аз т, е. в этом случае за математическое ожидание и дисперсию оценки О мы принимаем математическое ожидание и дисперсию аппроксимирующего нормального закона распределения.

Аналогично, если ес(0) = 2, то оценка будет называться асимпто!ически эффективной. С понятием аснмптотпческой эффективности асимптотически нормальных оценок мы встретимся в следую* щем параграфе, 0 02. Методы нахождения оценок До сих пор мы занимались свойствами оценок параметров, не затрагивая вопроса о способах нх нахожде* ния. Сейчас мы познакомимся с некоторыми методамн нахождения оценок, 1. Метод моментов. Пусть х!, ..., х, — независимая выборка из распределенняс плотностьюр(х; Оь "° » О.), зависящей от г параметров О!, ..., О,.

Предположим, что все моменты тл (О„..., О,) = ~ х р (х; О!, ..., 0„) Их, к = 1,..., г, конечны и что система уравнений Ь = гп (О„..., 0,), однозначно разрешима, причем ее решение О ш ! (Ьр (! ) й 1 г дается непрерывнымн обратными функциями и! !. Прн этих условиях имеет место Теорема 5. Оценки О„, у=1, ..., г, получаемые как решение системы тл — — тл(О„..., О,), й= 1, ..., г, (28) »! ! х"» !1 еде тл = — ! х; — выбороннь!е моменты, состоятеланы. ! 1 Доказательство. Согласно нашим предположе- ниям система (23) нмсст едпнствешюе решение 0~ —— =!и !(и!„..., и,), причем т-! — непрерывные функ- ции. По усиленному закону больших чисел тл сходится п. н, к п2„, а нз непрерывности функций и-! отсюда следует, что Ол прн и-~оо п.

и. сходятся к Ол, Теорема доказана, Метод нахождения оценок, описанный в теореме 1, носит название л!стода моментов, Этот метод дает со- стоятельные оценки, но часто нх эффективность н асимп- тотическая эффективность меньше единицы. 2. Метод наибольшего правдоподобия, Пусть х!, ... .. „ х, — лсзависнмая выборка из распределения с плот- ностью р(х; О), зависящей от параметра О.

Совместную плотность Е. (х; О) = р (х,; 9) ... р(х„; О), рассматриваемую как функцию параметра О, назывшот функцией правдоподобия. Оценкой наибольшего правдо- подобия называется оценка 0=0(х!... х,„), которая обращает в максимум функцию правдоподобия: Т. (х( О) =- шах Е (х; О). Если функция правдоподобия Т.

(х; О) дифференцируема по О, то оценку наибольшего правдоподобия 0 можно найти, решив относительно 0 уравнение правдоподобии ! =0 (20) »20 221 Гл 1Б оцвпксс пхвлмГТРов где 1 ч-~ д!вя р(х; 0) ~ о Ф-1 в-в, х ' д 1вн Р(хс,, 'О) ~ л,с с дО' В=с в=в, В,= — '~ Н(х,). 1 ~ — „, осхэ— м О, Установпм некоторые свойства оценок наибольшего травдоссодобня. Будем предполагать, гго выполнены .ледующпс условня: 1) Пусть параметр О нзменяется в интервале 61 ( < О ( Ов н истинное зпаченне параметра Ов лежит зпутрп этого вптервала.

Предположим, что в этом ннгервале существуют пронзводные —. — —,, —.„. 2) Интеграл ~ р(х; 0)ссх можно два раза днфференщ ровать под знаком интеграла, так что Ов) — ~~=:1 ) р(х; О) ссх) > О, ! дов ~ (Е!(х), н МвЦ Д) = $!1 (х) р(х; О) сХх М, где М нс завнспт от О. Теорема 6. с7ри выполнении углов!си' 1), 2), 3) уравнение правдоподобия (29) отвеет ресиегсие О, которое при и-~ со сходится по вероятности к Ов, 'Эта оиенки наибольшего приедоссодобия осилспготивески нормальна и асимсстотически эфсректссвнв. . Уравненнс правдоподобия (29) равпоспльно уравнению — — = 0 (30) 1. до ОО с'. с д0 в-с Разлажнм — ' „— ' по формуле Тейлора в окрестд !ск в !ся О! ности точкп О,: + !О-О,)' ЬВ(х) где !6(=-1.

Разделив (30) на и н воспользовавшись разложением (31), имеем -„' — д-';"='=В„+В,(Π— О„)+ —,' б Вв(0 — 0,)', (32) в и. методы плхождення оцюгок ~Ъ Г!о закону больших чпсел Вв — МВв = О, В, — МВ, = е — — Ус(0в) (см. (25) нз $6!), Вс —,МВи ! МЗс(в, Л. 11усть теперь Ь > 0 н а > 0 фнкснровппы. Выбираем пв таким, чтобы прн всех и~>ив РОВв(Ь)<РТВс>~(0))'< Р (1Вв ! > 2сИ) < —.. (33) Обозначнм через 5 событие, состоящее в том, что одновремеиго выполняются неравенства 1Вв1(Ьв, Вс( — '! "1, ~В ~ =2М.

В силу (33) Р(В) <а и Р(5) > 1 — ь. Прп 0 — =О, +.-11 уравпепне (32) преобретаст внд Вв +- В,Ь + —, ЬВ Ю =- О, ('14) В множестве Я 1 В,+ 2 ЬВ.У1'~<(М+1) Ь', .1~ (Од! н прн Ус< ~(~ ! 1 знак левой чзспс (31) оп;)сдсля гся 2!М+11 ! д !он Е. знаком члена ~ В Ь. Так как —," непрерывно васс ОО пнснт от О, то в пнтервале (Ов — Ь, Ов+Ь) прн п впв с вероятпостшо > ! — з сущссгву..г корень О. Тшсцм образом, мы доказали нерву!о часть теоремы. Пере- аАЛАчи ГЛ.

Щ ОЦННКН ПАРАМНТРОВ пишем равенство и следуюшем виде: Задачи ~бе+ 81(6 Ое) + (Π— Ое) = О 01он р (х; О) ъ'У~ (0~) а,~-', ~0 1е-е, (6 — О') ~У,(6,) = "-' .. (65) В 1 Π— 0 — — — — бп»вЂ” 11 (8») 2 Х1 (0») Числитель в (35) по центральной предельной теореме асимптотически нормален с параметрами (О, 1), а аин. менатель при и — ~-оо сходится по вероятности к 1.

По. этому случайная величина (6 — Оо)ф1,(О,)и аснмптоти* чески нормальна с параметрами (О, 1), что и доказывает теорему. 1. Случайная величина и подчиняется биномнальному закону распределения Р ((й = й) С»р (1 — р) . Найти песмещенпые й й » †оценки А и ай математического ожидания а = пр и дисперсии ой = прч зтого распределения„считая параметр р неизвестным.

2. Случайная величина й имеет геометрическое распределение Р (1= Ц = рд~, а 1 — р, й = О, 1,2, ... Найти выраженные через 1 несмещенные оценки Л и а' тех же величин а ар и и' лре, что и з задаче 1. 3. Случайная величина $ имеет распределение Пуассона Р (1=а) = й = П (а; й) = — а а. Найти несмещенную оценку Чйй (1) верочтй1 ности П (пга; О) =е ~~ в законе Пуассона со значением озраметра аа, где и 2, 3 ... 4. Пусть хь хь ..., х» — независимая выборка нз семейства распределений У, Найти достаточные статистика в случае, когда У а»» есть: а) семейство пуассоновских распределений р» = — е А1 а О, 1, 2, ...; б) семейство показательных распределений с плот. костью Ле ", х ~ 0; в) семейство равномерных распределений с плотностью — если О~я~с, 1 р (х) = с ' 0 в остальных случаях.

б. По независимой выборке хь „., х» нз нормального распре деления с параметрамн (а, 1) построена несмещенная оценка Л = хы 1 ч'ч Найти несмещенную оценку а=М (х~ ) 2), где х = — лт хг — достал » 1 точнан статистика. 0. Пусть хь ...„ х„ — независимая выборка из равномерно~о в (О, 0) распределения, Найти оценку О наибольшего правдоподобия параметра О, ! м опггзглгнпв повггнтгльпых ггггтггвллов яэч Тогда неравенства (2) можно записать иначея х„,'(Ч) ~О~~х, '„(т)).

(3) Г л а в а 10. ДОВЕРИТЕЛЬНЫЕ ИНТЕРВЛЛЬ! $03. Определение доверительных ннтервалов Пусть хо...,х„ — выборка (далее мы всегда будем предполагать, что она независимая) нз некоторого распределепяя с плотностью р(х; 0) = р(хг, ..., х„; 6), завнсящей от параметра О, которьш может изменяться в нятервале 0„< < О ( Ог. Пусть у(хь ..., х„) — некоторая статистика (т. е. функция от выборки) н Г(х; О) = Р (г! ~~и†функция распределения случайнон велпчнны г! == =у(хг„..., х„), когда вьгборка (1) имеет распрсделпне с плотностью р(кь ..., х,,; 0). Предположим, чп Р(х; 0) сеть убывающая функция от параметра О.

Обозначим хт(0) квзптпль распределения Р(х; О), т. е. ко* рень уравнения Г(х; 0)= 1-у. В этом случае квантнль х (О) есть возрастающая функ. цня от О, Зададимся мальгм числом а» О, например, а=0,05 нлн а=0,01. Пусть а =аг+аз. Прп каждом 0 неравенства х ! я, (О) ~~ Ч,~~ ха, (0) выполняются с вероятностью 1 — а, близкой к еднннце. Обозначим, функцию, обратную к хт(О), т. е. решение уравнення у=х,(0), через 0 = х,; ' (у). Таким обрззом, неравенства (3) прн любом 0 выполняются с вероятностью 1 — а.

Обознггчггм х '(т!)=О(г!), х, (г))=О(г!) н запишем (3) в следующем виде: Ре (0(г!) ч 6 О (г!)) — 1 (4) Интервал О(г)) «О я: 0 (г!) называется г!оеерительныхг интервалога для параметра О, а вероятность 1 — а — доверительной вероятностью. Следует различать смысл нгравенств (2) н (3). В неравенстве (2) прн лгобом О случайная вслнчнна г! попадает в указанный интервал с вероятностью 1 — а, В неравенстве (3) параметр О неслучайный, а концы интервала случайны, поэтому пр-- вильнсе будет говорить, что прп любом 0 довернтел ° пый интервал (со случайпымн коггцаын) покрывает параметр 6 с доверительной вероятностно 1 — а. Довернтелг,ный интервал (4), кроме доверительной вероятности 1 — а, имеет еще одну характеристику — средгпою длину М [О(0) — 0(г!)!!.

й!и должны стараться среди всех доверительных интервалов с доверительной вероят. постыл ! — а выбрать тот, который имеет паггмеггьшуго длину. Если статистика В =- у(хь ..., х„) уже выбрана, то мы лннкегл варьировать разложение а па сумму аг + аг. В дальнейшем мы встретимся со слсдую.цнмя двумя слу чаями. Сл у ~ а и 1.