Б.Л. ван дер Варден Математическая статистика (1960) (1186203), страница 35
Текст из файла (страница 35)
В соответствии с этим, в силу (7), получаем Е'(х ~ д) = А' (Т вЂ” Ю). (8) Уравнение (1О) $ 37 в данном случае имеет внд Сч 1(Т вЂ” К) Е') = 1. Если теперь Е' заменить выражением (7), то получим Я~ (А'(Т вЂ” Т)Ч =! Гл. )гШ. Оценки неиэвестнык параметров 200 т. е.
информация Х равна производной по й от коэффициента А в формуле (4). Согласно (8), уравнение правдоподобия имеет вид А' (Т вЂ” й) =- О, (11) и так как А' всегда положительно, то это уравнение имеет единственное решение 0 = Т. В силу (8), Ь'(х10) положительна при й ( Т и отрицательна при ь > Т, поэтому о = Т вЂ” точка максимума функции 1. а значит, и функции правдоподобия д(х)й) = е ~ 1 Я Т = т(й). В этом случае Т являстся несмещенной наилучшей оценкой Длг! т(й).
$39. Примеры В некоторых важных случаях все условия 1, 2, 3 Я 3?) и а), б), в) (9 38) оказываются выполненными, Простейшим случаем является следуюп1ий. Пример 25, Оценка среднеео эначенил в нормальном распределении. Пусть результаты иаблюдеиий хг,..., х„представляют собой иеэависимые, одииаково нормально распределенные случайиыс величины с иеиэвестиыи среди иэг зиачсииеье р.. При этом ие имеет никакого значения, известно квадратичное откчоиепие а или иет. Мы предло чожим для простоты, что х .-- 1.
Тогда фуи кпия правдоподобия будет иметь вид (см. й 35, пример 22) 1 — — л.' гх — и)' э д(х'р) —.— е Эту формулу ножка записать так: 1 и — — Б х' Е Б хн —,— н* э а д(х)р.) = е Если выборочное срелпее обозначить буквой М: 1 Ч = — '~" х, и Таким образом, если предположения методом наибольшего наилучшей. Если же условие в) а), б) и в) справедливы, пго оценка, найденная правдоподобия, является несмещенной и не выполняется, то можно положить ь' дд. Примеры 231 то д(х!1») можно будет прслстэвать в апдс пропзнслеппа двух сомнох(птелсй и (» И вЂ” —, и у — — 2.; х' д(х~р) -.— с ° е Первый множитель зависит лишь от М и р, а второй — лишь от х.
Следовательно, условие а) выпас(асио; й» яегяется достаточной оценкой для р. Проверка спрааелливостп условий 1, 2, 3 Я 37) не представляет трута. Выполнение условий б) и в) (з 33) является очевплпым. Хаким образо»(, гыборочкое среднее йх является несмещенной наилучшей оценкой дгя р. Пример 26. Оценка дисперсии г нормальном распределении с изгсстным средним значением. Если среднее значение р известно, то смещением начала коорпинат на оси Ох можно добиться, чтобы было р = О. Тогда плотность совместного распрецелсния тп..., х„, с точностью ло известного постоянного множители, будет равна 1 — и — —,2,'х з»а д(х(т) =. »г е (1) Требуется найти оценку лля д == тз.
Если обозначим ~'хз = пг*, то (1) можно записать так; и ь' -о!пада — — —, д(х( )=е (2) Эта функция имеет внл ехр (Лье + В). Следовательно, оценка У = гз удоплетворяет условиям а) п б). Математическое ожиланпе з' равно а', поэтому условие в) также выполняется, Легко можно убедиться и в спрапслливости условий 1, 2, 3 (Ц 37). 7аким образом, ез = ~'хз(п является несмеи(енной, наилучшей оценкой дгл а.з. Пример 27.
»)(етод наименьших кеадротов, Пусть результаты наблюдений хп ..,, х„прелставляют собой незави- симые, нормально рзспреаеленныс случайные величины с известными квадратичными отклонениями а;,..., а.„оответстненноо. В Ц 26 предпола- галось, что средние значения 2„..., д„наблюдений являются произволь- ными лифферснцируемыми функцнямп неизвестных параметров дл, дз, .. л затем этн функции аппрокспмнровались линейными функциямн.
Сейчас мы прелполон,им, что все бе являются .чинейнымп функциями единстгенного аеизаестного параметра д. Эту теорию можно обобщить на случай несколь- ких параметров, однако для нелинейных функций она будет справеллива лишь приближенно. Посредством полстановок х( = а.гх, общий случай можно свести к частному случаю, котла все х; имеют елпничную дисперсию, поэтому, не мс- нпя обозначений, мы будем считать, что а, =... = ап = 1.
В этих прелпо- ложениях совместная плотность вероятности, с точностью Ло постоян- ного множителя, равна 1 л, (* — ч»)* д(х(д) = е (3) Если в [3) заменить с( соатветствующимн лннейнымп функцнЯмн от д 21 = с;+ а(д (4) (а( и с( прсдпотагэются пзвестнымп], то д(х(Ю) примет впл 1 „- (-Ш' ЗР— т( д(х,'д) = е (5) Гл. У?ГЕ Оценки неизеестнмг нораметрое 202 — ? а( — т( -.-Л(х( 1 я д(х(д) = е (8) где ь''ах — ц ас (7) ~" аа Ясно, что в (6) показатель степени булст макс(гмальным при д = Г. Этот иоказатель равен показателю степени в (3), который, согласно методу наименьших квадратов, также должен быть сделан максимальным. Слеловательно, метод наименьших квадратов приводит к той же оценке Х для иараметра 0, что и метод наибольшего иравдоподобия.
Вычисляя среднее значение 7, найдем, что 2' = д, поэтому оценка 2' являетсн несмещенной. Так как в данном случае условия а) и б) (й 38), а также 1, 2, 3 (1 37] выполнены, то мы получаем результат: У вЂ” несмеценная, наилучшая оценка для д. Случайная величина У подчиняется нормальному распределению с плотностью вероятности й — Л. (т — с1 г 3 2я Дисперсия У равна 1 ! ат = — = ь аа (8) Постоянная й= Ъ'аа в точности совпадает с информацией 7, тан как в данном случае неравенство Фреше обращается в равенство. Если вспомнит(и что посредством преобразований х( = а;х, все дисперсии наблюдений были сделаны равными единице и что благодаря этому все веса также равны единице, то можно убедиться, что (8) согласуется с ранее полученаым результатом (см. $ 31 Б): ае (9) (даа) Пример 2В.
Оценка еероятности. Пусть вероятность р некоторого события неизвестна и пусть в и независимых опытах это событие наступило х раз. Какова наилучшая оценка для р? В данном случае х является дискретной случайной величиной, однако это не может служить иричнной каких-либо затруднений. Рассмотрим функцию правдоподобия, вычисле(м1ую ранее в первом примере Ц 35 с точностью до множителя, зависящего лишь от гх д(х(р) = рх (1 р)н-х (10) Эту функцию можно записать так; ,х1п Р Л- (и — х(1н (1 — р( где й = ~'а( = ~~' аа — постоянная величина, а 1 = ," (х; — с;)а(и т— з соответственно линейная к квадратичная функции от х.
Если й = О, то все а( равны нулю и д(х(0) вообще не зависит от й; в этом случае, по терминодогин $30, параметр д не допускает оценки. Ыо если к.х О, то (5) можно записать так: 203 й ВВ. Условные мотемотические ожидания Если в (! О) положим х = пЬ, где Ь вЂ” частота, то получим Ьп!пя.! ( — Ми!па — р> (12) Это выражение имеет в точности тот же вид, который требуется условиями а) и б) (1 33). Математическое ожидание опенки Ь, как мы знаем, равно р.
Условия 1, 2, 3 (4 37) в данном случае также выполняются. Следовательно, частота Ь является несмещенной, наилучшей оценкой длл вероятности р, т. е. среди всех несмещвнных оценок Ь имеет наименьшую дисперсию. До сих пор во всех рассмотренных случаях для доказательства минимальности дисперсий соответствующих несмещенных оценок мы пользовались тем обстоятельством, что неравенство Фреше обращалось в равенство. Но если условия а) и б) (2 88) не выполняются, то это неравенство не может обратиться в равенство.
Однако существуют другие методы, позволяющие находить песмещенные, наилучшие оценки. Эти методы были разработаны Рао и, при более общих предположениях, Леманном и Шеффе'. Для подготовки к изложению этих методов нам сначала нужно познакомиться с понятием условных математических ожиданий по Колмогорову. 3 40. Условные математические ожидания Случайные величины мы будем обозначать жирными буквами 2, м,е1,х,.... При этом предполагается, что х„...,х„— результаты наблюдений, а все остальные случайные величины являются функциями х: 2 = Т(х)1 и = У(х); .. Пусть 1= У (х); а = У(х);.
— отдельные возможные значения этих функций. Нужно дать определение условного математического ожидания случайной величины и для заданного значения 1 случайной величины 3, Если $ н и принимают лишь конечное число значений, тг, это определение являешься очень простым. Пусть Р(1) — вероятность того, что 2 примет значение, равное й Если Р(1) ф О, то для всех 'Е е и то а пи Е.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
