Левин Б.Р. Теоретические основы статистической радиотехники (3-е издание, 1989) (1141996), страница 75
Текст из файла (страница 75)
задачу 3.9), находим 1(") (а, о') = т, / à — ! и 4 (а, ог) ) ) = [[ — ' г (.— )'- — "] ]= = — р. (Х*(п)) = —" 4 о' 2о4 Таким образом, информационная матрица Фишера имеет вид (14.99) Детерминант этой матрицы равен пг/(2ог), а элементы матри- цы, обратной информационной, У(( )) =ог/и, Ъ(гг) = 2о)/и У((.г) = У(г() = О. 44 ' Л 4 4 Дисперсии и ковариация оценок (14.97) и (14.98) р (а) ог/и, )гг (ог) = 2 о4/(и — 1), т, ((а — а) (ог — ог)) = — т, ~(а— и — 1 4 — а) ~2, '(х,— а)' — п(а — а)' -О.
(-) 40$ Подставляя полученные выражения в (14.58), находим 2о'/[и(п — 1) ! и'э) О, т. е оценки (14.97) и (14.98) не являются совместно эффектив- ными. !4.5.2. Оценки максимального правдоподобия. Из (14.65) и (14.96) получаем систему уравнений максимального правдоподо- бна л — 1п(.„(а, оз) = —, 2; (хь — а) =О, (14.100а) да Ф д 1 л л — !п Е„(а, оа) = — ~ (хь — а)' — — = О. д(Ф 2о'. 4-! 2л® Из уравнения (14.100а) следует Л а = — ~ хю (14.101) л т. е, оценкой максимального правдоподобия среднего значения для нормального распределения является выборочное среднее.
Заметим, что уравнение (14.100а) не зависит от параметра о' нормального распределения. Сравнение !4з(а) с1 оп показывает, что выборочное среднее является несмещенной эффективной оценкой параметра а нормального распределения. Из уравнения (14.1006), подставляя вместо а величину а„, находим оценку максимального правдоподобия дисперсии (14.102) л Таким образом, оценкой максимального правдоподобия дисперсии для нормального распределения является выборочная дисперсия. Эта оценка состоятельная, смещенная, причем согласно (!4.12) смешение д„(оз) = — оз/п. (14.103) Дисперсия оценки (14.102) пз(о~ли) =и~(~~(п — 1)о'/п) = (2о4(п) (! — 1/и).
(14.104) Нижняя граница дисперсии оценок параметра о' нормального распределения в соответствии с неравенством Рао — Крамера рав- на (2о'(п) [1 — 1/п!', т, е. отличается от (14.104) множителем ! — 1)п. При и- со имеем (14.! 006) (14.104а) 1пп и рз (о~л) = 2 ол = У~~~'~' л.+ т. е. оценка (14.102) асимптотически эффективная в соответствии с отмеченными общими свойствами оценок максимального правдоподобия. 406 Заметим, что при априори известном среднем значении а оценка максимального правдоподобия дисперсии нормальной случайной величины имеет вид о„, = — ~', (х — а)'. (14.105) а Оценка (!4.105) — несмещенная, а дисперсия ее равна р, ( а„'„) = 2 о4/и = 'г'„"'" . (14.! 05а) Таким образом, при известном среднем оценка максимального правдоподобия дисперсии нормальной случайной величины эффективная.
!4.5.3. Интервальная оценка среднего значения (дисперсия известна). Наряду с точечными оценками параметров нормального распределения рассмотрим интервальные оценки этих параметров. Предположим, что дисперсия о' известна. Введем нормированную ошибку а оценивания среднего, принимая за точечную оценку й выборочное среднее (14.97) в= (а — й) /(аэ/а) 'г2. (14.106) Вероятность того, что !е~ не превосходит заданного значения еэ РЦе! (в„) =7. (14.107) Из (14.106) следует, что нормированная ошибка оценки среднего представляет гауссовскую случайную величину с нулевым средним и единичной дисперсией.
Поэтому (14.107) можно переписать в виде 2Р (ат) — 1 7 (14. 108а) нли а„=хи тпм (14.1086) где Р(х) — интеграл Лапласа, а ха тп,— процентная точка нормального распределения. Последние два уравнения связывают относительную длину доверительного интервала 2ет для нормированной ошибки и коэффициент доверия 7. Первое из них используется для определения т, если задано ет, а второе — для определения ет, когда дано т.
Доверительный интервал для оцениваемого параметра а можно представить неравенствами а — х<~ тилло'/п(а<а+хм „ц,)'оэ/а. (14.109) Связь между й н а геометрически описывается двумя прямыми, параллельными биссектрисе координатного угла и отсекающими на оси й величины ~хо-,пз $~'аэ/а (рис. 14.2). Для определения нижней и верхней границ доверительного интервала необходимо спроектировать на ось абсцисс точки пересечения этих прямых с прямой й=сопз(. 407 15.4.4.
Интервальная оценка среднего значения (дисперсия неизвестна). Рассмотрим интервальную !' оценку среднего значения гауссовеа Ы /и ! ! ской случайной величины, когда дисперсия ее неизвестна. В качестве точечных оценок среднего и дисперсии используем несмещеиные оценки (14.97) и (14.98). Так же, как и в п. 14.5.3, введем нормироРис. 14дь Определение грани! ванную ошибку оценки. Отличие доверительного интервала будет в том, что для нормировки используется оценка за, так как значение дисперсии оа неизвестно. Таким образом, в качестве нормированной ошибки оценки среднего выбираем величину != (й — а)/(з'/и) нв, (14.110) которая представляет отношение двух независимых случайных величин: гауссовской (Й вЂ” а)/(аа/п)на с нулевым средним и единичной дисперсией и случайной величины (зв/па)ма, распределенной как [)[в(п — 1)) !~в.
Это отношение имеет распределение Стьюдента с (п — 1) степенью свободы [см. (13.103))' (х) = [«/2) ( 1+ х' ) — «м (14 111) ~'н (« — !) Г [(л — !)/2! т и — ! / Функция 5„1(х) при и- оо стремится к плотности стандартного нормального распределения ! ! ха 5„! (х) = ехр ~ — — ). 'р'2п (14.111а) Для больших размеров выборки распределение статистики (14.110) можно считать нормальным и при неизвестной дисперсия, что и следовало ожидать, если иметь в виду состоятельность оценки о'. Однако для небольших п распределение Стьюдента заметно отличается от нормального. Учитывая симметрию распределения Стьюдента, получаем Р ( [! [ ( !т) = 2 [ 8„! (х) ![х = у. (14.1[4) Доверительный интервал для оцениваемого параметра а представляется теперь неравенствами [см.
(14.110) и (14.!12)) а — !т )~'зв/и ( а ( а+ 1„1/ зв/и. (14.113 Более широкий доверительный интервал, который получается при одинаковых размерах выборки и коэффициентах доверия по сравнению с предыдущим случаем известной дисперсии, является платой за неполную информацию о величине дисперсии о' при оценке среднего. ' При «=2 распределение Стьшдента совпадает с распределением Коши.
408 Найдем сначала оптимальную оценку а„,„по критерию максимума апостериорной плотности вероятности оцениваемого параметра а. Используя (14.73), получаем уравнение для определения оценки 6л„: а — а 1 л — + — Х(х, — а)-О. ао а~ откуда 1 1+ (Ф/(лаза)] (, л, ла~ ) +та аа т 1+9' ' л4 ' (14.118) где л Е хь ЛЬ1 (14. 118а) (а — ао)а (а — аа)' 1 — + —, Х(х„— и)'— аа аа заа )1~ — — ~ (хь — а) л 3 а~ а = ехр ( — — (1+ т') (а' — 2аа„„) ~ )с оэ 1-! ) ехр ( — —" (1 + та) (иа — 2иа„, )) ~ ОР ,'(14.119) При л-~аа апостериорная плотность вероятности (14.119) стремится к дельта-функции б(а — а,л).
При данном и и оа/о-~аа 410 — оценка максимального правдоподобия. Оценка (14.118) представляет среднее взвешенное двух величин: оценки максимального правдоподобия а„„и априорного среднего значения аа оцениваемого параметра, причем отношение веса, приписываемого второй величине, к весу первой равно отношению дисперсии оценки максимального правдоподобия к априорной дисперсии. При л-~-ао т'-+() и 1) ., сходится к оценке максимального правдоподобия.
Для заданной выборки х=(хь ...,х ) апостериорная плотность вероятности параметра а и (а) (.„ (а) ((у (а(х) = ) '()ь,()и ОЗ параметры нормальной плотности вероятности (14.119) приближаются к (а~„, а'/л), а при а~/л>>а'о (14.119) переходит в (14.117) . Из (14.118) и (14.119) видно, что оценка а „максимальной апостериорной плотности вероятности совпадает с условным средним оцениваемого параметра т!(а(х). Отсюда следует, что при квадратичной функции потерь оценка является байесовской. Так как апостериорная плотность (14.119) симметрична относительно своей единственной моды а=а ,„, то в соответствии с общим результатом, указанным в п.
14.4.7, при произвольной симметричной функции потерь оценка а ,„ является байесовской. Заметим, что из (14.118) следует л а„„-а„,= — Ех„, л когда априорная дисперсия а'о много больше дисперсии а9л оценки максимального правдоподобия алл, т. е. когда а'о)) а'/а. (14.121) Условие (14.121) выполняется, если при фиксированном (а/ао)' неограниченно увеличивается размер выборки п или если аоо»а' при даннома. Первое означает,чтобайесовская оценка при и-оаа асимптотически переходит в оценку максимального правдоподобия. Второе условие можно трактовать следующим образом: распределение га(а) неизвестного параметра приблизительно равномерное при сопоставлении его с исходным распределением гв(х!а).
По этой причине оценка (14.118) при аоо>)оо переходит в оценку максимального правдоподобия. Когда априорная дисперсия а'о много меньше дисперсии оценки максимального правдоподобия ао/и, байесовская оценка по=а „ ао, т. е. выборочные значения не влияют на оценку, которая принимается равной априорному среднему значению оцениваемого параметра. Подставляя (14.1!8) и (14.1!9) в (14.74), получаем ,7 (а„о ) = ( — (! + то) 1 ) (а — )о Х х ехр ( — — (1 + то) (а — а„„)'1о(а = 2ао л(!+,о) т. е.
апостериорный риск, совпадающий в рассматриваемом случае с условной дисперсией )!о(а!х),— постоянная величина и, следовательно, средний риск ао (л ! л(!+то) ! ао ао о г Нетрудно убедиться, что оценка (14.118) несмещенная, так как ло,(а„ол) = лг, ~ — (а+тоао)) = ао (14,123а) )+ то 4!! Апостериорная плотность (й(а(х) =в(а(а„Кз) Ез(а, К)х х [~в(а1аз, К,) 5„(а, К)да)-', где априорная плотность в(а~аз У~з)=(2Я) л~з(де( Кз) ~(з Х 1 х ехр [ — — (а — а,)' К-„' (а — а,)~ (14.125) (14.125а) и функция правдоподобия 5, (а, К) =(2п)-лн/з (бе1 К)-'Гз х л х ехр — — Х (хз — а)' К вЂ” ' (х„— а) 2 Из (14.124), (14.125) следует [ср.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
