Б.Л. ван дер Варден Математическая статистика (1960) (1186203), страница 37
Текст из файла (страница 37)
л., причем если ! е Во то е(! ) ьег) .-,1= О. Из множества В, можно исключить те ы>чк>п которые уже принадлежат В„точио так же из В, можно исключить все точки, которые принадлежат В, или В, и 1. Л. Бидоизменеииые таким способом множества В,, В,,... по-прежнему покрывают все множество С. На основа~пи ранее доказанных результатов при любом Ю функцию с,'(и ~ !) можно видоизменить так, чтобы на В, оиа совпалала с функцией С;>(м~ !), соответствующей значению параметра д = Юь Точно так же при любом ь можно,",(и ~ !) видоизменить так, чтобы эта функция для 19 В, совпадала с (',а(и ~ !) и т.д. Таким образом, иам удалось определить функцию Я(м ~ !) при любом 1, пезависимо от ь.
Для всех и и М эта функция удовлетворяет услови>о (3). Действительно, кажлос мпожесзво М можно разложить на счсзисс число подмножеств М,, М„М„..., каждое из хоторых содержится в В,, Л,, Ва,... ссответствсипо, и так как (3) справедливо для каждо>( части, то (3) справедливо и для всего множества М. Этим наше узверждекис полисстьи> доказано. >См. Колмогоров Л Н н Фомин О. В.. Элеегснтытсории функций н фунлннонального анализа, Изл. Мое. ун-за О 954), 39.
— !!рим. лерга. 14 Гь Л. вен дер Варден ° 1062 Гл. У111. Оценки неизвестным параметров 210 $ 42. Применение теории условных математических ожиданий к задаче отыскания наилучших несмещенных оценок А. УЛУЧШЕНИЕ ОЦЕНОК П)сть снова хы..., х„— результаты наблюдений, являющиеся случайными величинами с совместной плотностью вероятности д(х ~ О), зависящей от неизвестного параметра 0. И пусть Ф =- 2'(х) — достаточная статистика, т. е.
д(х ~ О) = е(! ~ О) Ь(х). (1) Кроме того, пусть и = У(х) — некоторая оценка параметра О, обладающая конечным математическим ожиданием и и конечной дисперсией сне. При этом совершенно безразлично, выполняются ли этн предположения лишь для истинного значения параметра 0 нли опи выполняются также и и некоторой окрестности истинного значения. Всс следующие далее утверждения справедливы для тех значений 0, при которых математическое ожидание и дисперсия случайной величины и конечны. Постараемся теперь найти улучшенную оценку х, зависящую только от достаточной статистики Ф: х = л(4).
(2) С этой целью потребуем, чтобы ь принимала такие значения и, которые при каждом фиксированном значении 1 случайной величины $ равны условному математическому ожиданию (,(и ~ г): 0 = е'(С) = Я(и ', 1). (3) Колмогоров доказал', что ев = Г(Ф) является случайной величиной, согласно результатам 941, функция р'(с) = р',(и ~ с) не зависит от 6, а зависит лишь от б Докажем теперь, что математическое сжидание х равно математическому ожиданию и, а дисперсия х не превосходит дисперсии и.
Доказательство целиком основано на свойствах 1 — 4 (9 40). Из 2 и 4 прежде всего следует я(тв | !) = Б(! х ~ !) = ссо(! ( С) уя = Р(1). Далее, из 1 получаем 0,(и — х ~ 1) = йи ~ С) — Ях ~ 1) = Р(1) — Л(1) = (). (б) Так как, согласно 3, Я(и — х) = О, (б) то Я и = Я х. Первое утверждение доказано. Ко л м о го р о и А.
Н., Неемешенные оценке, Изн. АН СССР (сер. мат.), 14 (! 950), 303. — ))ри и. перев. д дг. Применение теории Исеовнык математических ожидании г11 Дисперсия и равна ег,', = Г,',(ге — й)г = ,г(ге — е)' = ~,(ге — е + е — е)' = = 5(и — е)' + 25(и — и) (е — е) + яе — е)в. Разность е — е зависит лишь от Ф. Если мы положим е = р(Ф), то, согласно 4 и (б), получим Я[(и — е) (е — е) ~ 1) = Я(и — е ~ г) р(1) = О, следовательно, в силу 3, Я(гв — е) (е — и) = О. (7) (8) Все это позволяет записать (7) более просто: ет,, =- Я(и — е)' + гт, . (1О) в. интегральное иихвннннв для несмещвнных оцинок На основании только что полученных результатов, при отыскании несмещенных наилучших оценок мы всегда можем ограничяться такими оценками р = Р(у), которые зависят только 14» Отсюда непосредственно следует, что сги ~ Сер ° (!! ) Второе утверждение доказано.
Если бы дисперсия а; была бескопсчной, то, согласно (1О), дисперсия а.„также была бы бесконечной, что противоречиг пера воначальным предположениям. Таким образом, гг~ конечна и г не превосходит х„, Неравенство (11) обращается в равенство тогда и только тогда, когда разность и — е принимает ненулевые значения лишь с ве- роятностью, равной нулю. г Предположение конечносги дисперсии о.„может быть опу- щено. Действительно, если о„бесконечна, то неравенство (11) становится тривиальным. Таким образом, если существует достаточная статистика Ф = Х(х), то для каждой оценки и = Г7(х) параметра д сущестнует улучшенная оценка е = Р(х), обладакгщан свойствами: 1.
Смещение е равно смещению и, следовательно, если и— несмещенная оценка, то е — также несмещенная оценка. 2. Дисперсия е не превосходит дисперсии и. 3, Оценка е зависит лишь от досгаточной статистики Ф = Т(х). Теперь мы снова можем отказаться от жирного шрифта и обозначить результаты наблюдений н их значения через х,,..., х,, достаточную статистику — через У = У(х) и оценки †чер у(х) и р (х) = л'(Т). Гл. Р1г1, Оценки нвазвегтныл параметров 212 от достаточной статистики.
Предположим теперь, что Т имеет плопюсть вероятности у« ~ 6). Несколько обобщая задачу, мы будем искать оценку не для самого параметра О, а для некоторой его функции ез(б). Условие, согласно которому искомая оценка должна быть несмещенной, непосредственно приводит к интегральному уравнению ~ у« ~ ь) У«) д( = ч (тз) (12) где интегрирование производится по всей области возможных значений (оценки 7', Если х' и ст — два решения уравнения (12), то их разность .(1«) должна удовлетворять интегральному уравнению ~ у« ; 'б) .О«) д( = О. (13) Может оказаться, по одноцараметрнческое семейство (д«(ьч)) образует на оси 1 полную систему функций, так что никакая отличная от тождественного нуля функция Р«) не может быть ортогональнои ко всем функцняи д« ~ ь). В этом случае из (2) следует, гго .О«) = О, т. е.
если решение (12) существует, то оно определяется одиозна'шо. Этим самым доказана О сна в и а я т со р ем а. Если У = Т(я) — достаточная статистика для О и семейство (у«! О)) образует полную систему функций, то любая несмещенная оценка для у(ь), зависящая ли(ив от У, является наилучигей оценкой. 2 43. Приложения Метод отыскания несмещенпых, наилучших оценок, пзложенный в 3 42, имеет много применений.
Прежде всего заметим, что этим методом можно было бы воспользоваться во всех предшествующих примерах. Теперь мы укажем несколько новых примеров, из которых первые два заимствованы из книги С. В. Вао, АсЬ апсей Я(аС1ат)еа! МеФЬодя 1п В1ошетг(о ВезеагсЬ, Мету 'дог)с, 1952. Г)ример 20. Распрвдвлвнае Х' с множителем а. Пусть имеется и незавнсимык наблюдения хм..., х„, каждое нз которых подчинясзся распределению Х' с неизвестным множителем а в показателе степени.
Таким образом, плотность вероятности отдельного наблюдения задается формулои 1(х'а) = с ар хе 1 в к (х 0), (1) где с = 1)Г(Р). Если положим ~'х —.— У(х) = 2', то плотность совместного Распределения всех хь ...,х„ будет иметь ннд д(х(х) =- са аар (х ... хо)Р ' "т (2) Гл. 11гй Очепки неизвестных пирамеп.ров И)2 ) у((!2) Р(() а(=О. (13) Может оказаться, что одпопараметрическое семейство (д(1(б)) образует на оси 1 полную систему функций, так по никакая отличная <и тождественного нуля функция Р(1) не может быть ортогональной ко всем функциям у(г ~ б).
В этом случае нз (2) следует, что Р(1) =- О, т. е. если решение (12) существует, то оно определяется однозначно. Этим самым доказана Ос но в н а я теорема. Если 2' = 7(х) — доститсчная статистика для б и семейство (д(( ( ь)) образует полную систему функцггй, то любая несмегценная оценка для ф(б), зависни(ая лигиь от 2", является наилучшей оценкой. $ 43. Приложения Метод отыскания несмещенных, наилучших оценок, изложенный в э 42, имеет много применений. Прежде всего заметим, что этим методом можно было бы воспользоваться во всех предшествуюших примерах. Теперь мы укажем несколько новых примеров, из которых первые два заимствованы из книги С.
1ь. Као, Аг)уапссг( 8(а$1з11са1 МесЬодз 1п В1отегг! с Везеагс1т, 1чеег Уог)с, 1952. Лримвр 29. Распределение Х* с множителем а. Пусть имеется и незаиисимых наблюдении хм..., тгп каждое нз кото рых подчиняется распределению Хз с нензиестным множителем и н показателе степени. Таким образом, плотность неронтностн отдельного наблю. денна задается формулой 1(х(а) = с ав ар ' в "" (х ) О), ()) где в = ) )Г(р). Если ноложям ~~ х .= 2'(х) = 2', то плотность соиместиого распределения всех хм..., хп будет иметь иид В(х~а):= сп апр (х „, х )Р ь — г (2) от достаточной статистики. Предположим теперь, что 7 имеет плотность вероятности д(1 ~ о) Несколько обобщая задачу„ мы будем искать оценку не для самого параметра б, а для некоторон его функции р(ьз).
Условие, согласно которому искомая оценка должна быть несмещенной, непосредственно приводит к интегральному уравнению ~ д(г ( в) х'(х) а( = р(ь), (12) где интегрирование производится по всей области возможных значений (опенки Т. Если л' и 1; — два решения уравнения (12), то их разность Р(() должна удовлетворять интегральному урав- нению ф 43. 1(рилаженил 213 Формула (2) показывает, что Т вЂ” лостаточная статистика. Если от ам..., ла перейдем к новым переменным T, у,,..., у„по формулам а! 797 (3) то все уг будут связаны соотношениел~ ~'19 =- 1, (4) позтому независимыми переменными можно считазь лишь Т и 9„..., уи Если функцию (2) проинтегрировать по переменным (г„..., уа, н области ту,=.б,...,ри~б, ~ 97=1, (б) го получим плоы!ость вероятности случайной велнчины Т: д(7",а) "- с'апя Тир т е (б) Среднее значение случайной величины 1(Т равно а Г[ир — 1) а с'аиа ~ Тня - 'е Тг(Т .— Г(ир) пр — ! о Следовательно, пр — 1 )г(Т) = Т (7) являстск несмещенной оценкой для а.