Б.А. Севастьянов - Курс теории вероятностей и математической статистики (1119910), страница 30
Текст из файла (страница 30)
1а оценки пхехмнтеов стику дополнительные условия, обеспечивающие ееблизость к параметру О. Оценка О = О (хо..., х„) называется несмел(енной, если при любом возможном О МО=О, (3) т. е. среднее значение 0 равно О. Значение свойства (3) можно пояснить на примере больпюго числа М независимых выборок объема и из одного и того же распределения. Обозначим 0; значение оценки (2) для (-й выборки.
Если оценка несмещенная,то М9, =О, Оо..., 9ю независимы и одинаково распределены. Тогда по усиленному закону больших чисел д) + + вн и н "— О. Ю Если конечна дисперсия 09, =- о', то по центральной предельной теореме разность й+ .,+о Ж вЂ” 0 будет (О, о/~/М)-асимптотически нормальна, т. е. при больших У неравенство ! О+...+9, 1 иве ' — О ~< — '= выполняется приближенно с вероятностью 1 — а (здесь и г, — квантиль нормального распределения, опреде. ленная формулой ()4) нз $55). Приведем примеры несмещенных оценок, Если вы.
борка (!) взята из семейства с конечным г-м моментом т,= ~ х'др(х), то выборочный г-й момент и т,= — „~~~ х~ 44) 1 ! будет несмещенной оценкой т„так как Мгй,= — ~ Мх~=т,. л ~ 1 З Ж СТАТИСТИЧЕСКИЕ ОЦЕНКИ И ИХ СВОИСТВА Згз зз= -„~ (х, — х)2 не является несмещенной оценкой дисперсии а2 = = ~ (х — а)2 г(г" (х), так как з2 можно представить в виде 2 17( ) (- )2 л х! Отсгода а л — 1 2 Мз =о- — — = — о-, л л (б) поскольку М(х! — а)2= !!', М(х — а)2= —. Равенство (б) Л' дает нам возможность построить несмещенную оценку дисперсии 2— (6) Заметим, что из несмещенности оценки з', для ое не следует несмещенность оценки з, для о.
Поэтому при большом числе А!выборок (!) для оценки о предпочтительнее 1 т-~ 1 ч пользоваться оценкой ~ ~ з';г, а пе †,, ~ зн, где 1 ! з";, — значение выборочной несмещенной дисперсии (6) для г-й выборки. Заметим, что обычно вместо з'; в (б) польауютея обовна гением з2. Очень часто нас интересуют асимптотические свойства оценок 0„= 0„(х„..., х„) для выборок (г), объема л- ол. Оценка 0„(вернее, по. следовательность оценок 0„) называется состоятельно!!, ЕСЛИ ПРН Л- ов Оиа ЕКОДИтСЯ ПО ВЕРОИтнОСТИ К ПаРаметру 0 0„- О.
В частности, выборочное среднее х есть несмещенная оценка математического ожидания а = ~ х гК(х). Выборочная дисперсия ГЛ. 1К ОЦЕ11КН ПАРАМЕТРОВ Примером состоятельной оценки может служить выборочный т-й момент сй, в (4), так как при конечности п1, и. и. по усиленному закону больших чисел Сй, — -«т, прп п-«оо, а следовательно, и сй, — «т,. Для установления состоятельности оденки О„полезна следуюшая Теорема 1.
Если Мб„-«О и Об„-«0 при и — «оо, то оценка а„ вЂ” состоятельнач. Д о к а з а т е л ь с т в о. По неравенству Чебышева при любом В> 0 Р () 8„— Ма„) > е) ~~ — „" — «О. (у) Из (7) и неравенства ) а„— а) <~ б„— Мб„~+) Мб„— О) следует, что при и-«оо вероятность события ) ΄— 8) > В стремится к нулю, что и требовалось доказать.
С помошью теоремы 1 во многих случаях легко доказывается состоятельность оценок О,, $59, Условные законы распределения Рассмотрим сначала случай, когда вектор $ =($1, „. „., $„) имеет дискретное распределение Р(5=х) = ри(х)=р(х)=р(х„..., х„), где х =(х1, ..., х„) пробегает конечное или счетное множество возможных значений З, р(х) )~ О, ~ р(х) 1. Пусть имеется функция 1(х)=1(х1, ..., х„).
Условным распределением б при условии 1(В) = 1 назовем совокупность условных вероятностей при фиксированном 1: р (х ) 1) = Р ($ = х ) 1 (з) = 1) = Р(Ч*=х С(1) О Р(х) Р(С(Ц-С) 5; р(х') ' (8) х'1тых') 1 Не более чем счетное число вероятностей (8) отличны от нуля; 1 мы выбираем такими, чтобы знаменатель з и. зсловные злконы ехспевдвлвиия 2!7 в (8) ие был равен нулю. Если н(х) — числовая функция от векторного аргумента х =(хь ..., х„), то 1) = = дД) будет случайной величиной.
Ее математическое ожидание равно Мч = Ма(э) = Е а(х) р(х). х Условное математическое ожидание М (д (З) (1(В) = 1» определим с помощью условного распределения (8): М(а(й)) а= )= а (х) л (х) д (х) р (х! 1) = "' "м" ' ° (9) л:воч й Р (х) х:Фпя с Как видно из (9), условное математическое ожидание М (й'(ь) )1(е) =1) есть функция от 1. Обозначим ее д,(1), Подставляя вместо 1 случайную величину т =1Я), мы получаем, что условное математическое ожидание есть случайная величина д1(т), Вычислим математическое ожидание от д1 (т): Мд1 (т) =,Я й, (1) Р (т = 1) =,Я д, (1) Х р (х) = = ,'Е ~: д (х) р (х) = ~ д (х) р (х). Таким образом, мы показали, что ма В) = М (м (а(В)!1(в) = 1)), ()9) т.
е. при вычислении математического ожидания от й(Д сначала монсно вычислить условное математическое ожидание дЯ) при условии 1Д)=1,а затем осредиить это условное математическое ожидание по вероятностям условий. Формула ()О) сохраняет смысл и в том случае, когда 5 имеет не дискретное распределение, а, например, имеет плотность р(х) = р(хь ..., х„).
Пусть плотность р(х) непрерывна в точке х. Тогда при А-~О, 1 = 1, ..., и, Р (х~ ( ~~ < х;+ Ьо 1= ),..., и) = =р(х)Ь, ... Ь„+о(Л1 ... Ь„). гл. и. оцнннн паеамнтеов Вычислим условную вероятность Р(х~ <$~ <х~+д„..., х <$ <х +д 1х, < <В. <.. +Д'„;=.+ 1„....) =' Р1 1 (хь "° х ) а1 ° ° ах+ о(Л1 ° ° а„) ;е ..., ( „,..., „)а +,...а„+ (а „...Д„)' Переходя к пределу по Д,: — О, получаем г дР(х1<$,<х,+д„..„х<$<х+д,„)х~< <Ь <а+До 1= +1, .... ) Р1 ~ (хг...,х„) р$щ„, $ ( и+1 а) где рх ~ (х,„+и ...,х„)= щч ~".
х ° ° ° ~ д, ...1 (хп ..., х, х +и ..., х„)Фх1 ... Фх =1 ° ° - ° "' ° 60 Предел левой части (11) естественно назвать деланной плотностью $о ..., $„при заданных $„,.ц, ..., Вх: )в,...х 11 +,„,е (х„..., х 1х +„..., х )= р ~ (х, „х.х,...,х) р1 ~(х+....,х) Математическое ожидание Мй'($п, Ы= = ~ ... ~ д(хп ..., х„)Щ, ...1„(хп ..., х„) Нх, ...
с(х можно вычислять по формуле (1О), вычислив сначала условное математическое ожидание М (а(Ь $х) Бы+~ =хе+1 ' $ =Хх) = = ~... ~ и (хн ..., х„) Х ХР1,„.1 (1,.„х (х„..., х 1х +и..., х„)с(х,...~Ь,„= °"- ... ~ д'(х, ..., х ) р . (х, ..., х„) Нх ... Фх а Бя условные законы Распеедпле!и!я а(9 и осредняя его затем по р„! (х +„..., х„): т+! '" л й()(М(айс, "., $.) 1~..!. ", ~.)) = = ~ ... ~ р (х ~п ..., х ) с(х, ...
ссх ~ ... д(х!, ..., х„)р., (хп...,х !х +,, ... ° ° 1- ° ";, ..„. "-- ° * ° ..., х„)с(х! ... с!х ... ~ д(х„..., х„) р(х„..., х„)с(х! ... ссх„= Мй($с, ... $„). (12) Формулу (!2) можно вывести и в более общем случае. Пусть имеются дифференцируемые функции (! = сс(х), (! = (2(х), ..., ( = ( (х). Предположим, что к иим можно подобрать функции р! =у;(х), / = 1, ..., п — т, такие, что преобразованис С, задаваемое функциями (!=с!(х), с=) ° - °, пс, 1(! — — у! (х), 1 = 1, ..., и - пс, (13) взаимно однозначно в соответствующей области.
Тогда плотности р!(х) и р„„(С и), где т,=(с(~), т) =у(ф), «=( ° ° ) т)=(т) ° ' т) — ) с=(сп ° ° ° ! ) у= =(у„..., у„„), будут связаны равенством р,(х)=р,ч(( у)(У! (14) где Х вЂ” якобиан преобразования С. Пусть имеется функ- пия д(ьс, ..., $.). Вы1псслим условное математическое ожидание дДс, ..., $„) при условии т=!. Обозначим ху(Су) =- х„1=1, ..., и, х(ду) = (хс(с, у), .. ..., х„(!,у)) функции, задающие обратное преобразо- вание С-'. Тогда М (у (е) ! т = ! ) = =$ ...
$ й'(х((, у)) р, (у (()с(((! . ° . с(6„ ~ ... ~ у(х (1, у)) р,„~ (у !) Уу! ° ° ° пуп-ие ' ' )Рч»(У' гл. и. оценки пхгхмгп ов и м[м(а(и! И= = $ ° ° $ М (у (Ы 3 т = 1) Рт (1) й(~ ° ° с(1т = = $ ... $ д(х(1, у)) Р,(у, 1) йг, ... Н йу, ... йу„ = $ ... $ а (хо, . „х„) Р (хо .., х„) Нх, ... йх„= = М д($) (15) (здесь мы воспользовались равенством (!4) ). в 60. Достаточные статистики Понятие достаточной статистики играет важную роль в теории оценок. Определение 1. Пусть $ =Дь ..., $„) — векторная случайная величина, распределение которой р(х;О) зависит от параметра О, и 1(х) = (11(х), ..., 1 (х))— векторная функция (набор т статистик) от х = (хь ...
.. „ х ). Мы будем называть 1(х) достаточной статистикой, если условное распределение $ = Дь ..., $,) при условии 1® = 1 не зависит от параметра О. Мы будем далее иметь в виду два случая, разобранных в $ 59: либо ре(х; О) — дискретное распределение вероятностей, либо Ре(х; О) — и-мерная плотность и существует взаимно однозначное преобразование С: х = =(хь ..., х„) в (1,у)=(Гь ...1, у„..., у„), за даваемое формулами (13). Как мы увидим ниже, оценки, зависящие только от достаточных статистик, обладают преимуществами по сравнению с другими оценками.
Во-первых, они используют не всю информацию, содержащуюся в выборке (!), а лишь ту ее часть, которая существенна для оценки параметра. Во-вторых, каждой несмещенной оценке 0 с конечной дисперсией соответствует другая несмещенная оценка 6, зависящая от достаточной статистики, с Р() ~ РО. Прежде всего докажем критерий факторизации, по.
зволяющий легко находить достаточные статистики, Ф а. достаточныв статистики 221 Теорема 2, Если распределение р(х; 6) представимо в виде р (х; 6) =д(Е (х); 6) Ее(х), (16) то Е(х) есть достаточная статиста)га. Д о к а з а т е л ь с т в о. Рассмотрим сначала дискрет- ное распределение. Согласно формуле (8) условная ве- роятность $ = х при условна Е(с) = Е равна Е (х)е)= (17) Р (х; 0) х: Я <х1 Е Если выполнено (16), то из (17) получаем я(Е; В)а(х) Ь(х) -(е в) ~'. з( ) 2'. «( ) х, с ~х! х: Ых! ! т. е. Е(х) — достаточная статистпка. Если, наоборот, условная вероятность ра(х)Е) = р(х(Е) не зависит от па- раметра О,то из теоремы умпогкения вероятностей имеем р(.х; 6) =- р(х1е) р1 (е; 6), где р;(Е; 6) — распределение Е, т.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
