Дженкинс, Ваттс - Спектральный анализ и его приложения (выпуск 1) (1044211), страница 22
Текст из файла (страница 22)
Результат (4.3.!4) имеет много аналогов в спектральном анализе, как будет показано в последующих главах. гоХ в, Хотя еличииы х, мотэт и ие быть реализациями случайных вглияии, удобно тем ие менее называть г выборочиым коэффициентом ко еля между хг и уг. — Прин, перев. Дисперсия прогноза. Если модель (4.3.5) используется для прогноза будущего значения скорости у, соответствующего данному моменту времени х, то наилучшей выборочной оценкой у будет у= О х +з, где а=О является наилучшей выборочной оценкой ошибки. Соответствующая случайная величина имеет дисперсию ч.,!Г1= 'ч. !в!ач. !х)=. ! ** ~х,.
Отсюда 100(1 — а) 7о-ный доверительный интервал для прогнозируемого значения имеет вид а хь ,...(г- —,) ~/»,- ., х ° Интервал (4.3.!5) увеличивается 'с увеличением х, а также выявляет общее правило, заключающееся в том, что точность прогноза зависит от планирования эксперимента, т. е. от выбора хь (4.3.!5) Нормальные уравнения: (Х Х)8'=Х у, (!'!4,1,7) или в скалярной форме р„= О р,, +О р + ... +О р,, (г=-!, 2, „А), где, например, дг р =,~' хг,у,.
г=г 4.3.3. Доверительные области для нескольких параметров Распространение результатов равд. 4.3.2 на случай оценки нескольких параметров наиболее быстро получается с помощью теории матриц. Эти результаты выведены в приложении П4.1, а в настоящем разделе лишь кратко резюмированы. В приложении П4.1 показано, что доверительный интервал заменяется в случае нескольких параметров доверительной областью в й-мерном пространстве параметров О. Показано также, что еше одна интерпретация оптимальности оценок наименьших квадратов состоит в том, что они минимизируют объем доверительной области для параметров. Для любого отдельного параметра это означает, что оценка наименьших квадратов минимизирует длину доверительного интервала по координате, соответствующей этому параметру.
Для У измерений и й параметров результаты, выведенные в приложении П4.1, можно резюмировать следующим образом. 142 Матрица ковариаций оценок: ГП4.1.9) Р Р рч ° ° Рх,. 'л (4.3,17) тга" (Вг) .у (х — х)г (4.3.18) ( П4.1.12) Сон(Вг, 0,,1= хг» (, х)' или в скалярной форме (П4.1.15) где 4.3.4. Ортогональиость или в скалярной форме (4.3.16) Гли 4.
В ведение в теорию статистинескггх выводов С=(Х'Х) 'а', или в скалярной форме Р Рх„х, ° Р Выборочная оценка остаточной дисперсии з'= — (у'у — у'ХО) = 1 (у'у — О Х ХО), з= — '(р — р 0 —... р О,), ( — п),га-ная доверительная область: (Π— 0) Х Х(0 — 0) (!гагу», „(1 — а), или в скалярной форме л,м»~(.Г» и (1 — а))=! Дисперсия прогноза: Чаг ()' ! = о' -',,— х'Сх, (П4.1.18) Чаг !!)') = а'+ ~'„"ь', хухг Сон (»ту, В!).
у=! г=! П р еденных выше результатов расример. Для иллюстрации п ив ! трим частный случай — двухпараметрическую модель: 1',=О,+0»хг+Е!. 4 Д Оиенивание с аомоиглю наименыиих квадратов Выборочные оценки наименьших квадратов О! и О, получаемые из (П4.1.7), выведены в приложении П4.1.2. Они имеют вид 2:хам,'у — 2,ху 2„.х Лг 2„ха — (2„х) гН 2.ху — ~х,~ у гН,Р хг — (2г х) Из (П4.1.19) получаем выборочные оценки ковариаций оценок где выборочная дисперсия эа получается из (П4.1.12); зг ( )' У'; — О, «~Уг — О, ~,Угх!). (4,3.19) Наконец, используя (П4.!.15), получаем 100(1 — сс) %-пуго довери- тельную область для О!, О.: ДГ (О! — 0 г) + (О, — О,) ~ хг! + 2 (О, — 0 !) (О, — 0 г) Х Х ~~хг(2вгу, и г(! — и). (4.3.20) В рассмогренном выше примере оценки наименьших квадратов для параметров модели (4.3,!6) имели отличную от нуля ковариацию, а в уравнение доверительного эллипса для (От, Ог) входило произведение вида (О! — О!) (Ог — Ог).
Типичная доверительная область для модели (4.3.16) показана па рис. 4.4(а), где видно, что осп эллипса наклонены по отношению к осям (О» Ог). Следовательно, нельзя определнть доверительный интервал для О! н О. отдельно, В предельном случае очень высокой корреляции могло бы случиться, что очень широкий диапазон значений выборочных оценок был бы в согласии с данными. Можно, однако, по-новому параметризовать эту задачу, так что полученные оценки будут некоррелированы, т. е. ортогона.!ьны.
— 1 =у= — Ху рг (4.3.22) ~ (хг — х)(уг — у) 2,'(х — х)г н из (П4.1.9) Чаг (т)~~ = — „, 'и' гЯ= Сои [!9» ттз~ = О, (4.3.23) где а Неартаганальные параметры а," Оатаганальные аарамеюрь чем модель Р и с. 4.4. Доверительные области для двух параметров. 4ки Оиенивание с помощью наименьших квадратов Для двухпараметрической модели ортогональная параметризация имеет вид )', = 0 ~ + Оз (х,.
— х) + 2,, (4.3.21) Из (П4,!.7) получаем выборочные оценки наименьших квадратов зз = ~ 2 ~ ~~~' (уь — у) — (Оз) ~ ~(хг — х) ). (4,3.24) 100(1 — сз) %-ная доверительная область для О» Оз является эл- липсом Ф '10ь — 01) + !Оз — Оз) ь (хг — х) <2з тлз л з(1 — а), (4.3.25) который не имеет члена о произведением переменных нз-за отсутствия корреляции между оценками, Типичная доверительная область такого вида показана на рис. 4.4, б. Поскольку в этом случае оси эллипса параллельны осям параметров, можно определить отдельные доверительные интервалы для каждого из двух параметров. Если й)2, то способ вычитания среднего значения х» как это делалось в (4.3.21), не приводит к ортогональной параметрнзации.
Однако при этом оценки становятся ближе к ортогональным, чем без вычитания средних, и, в частности, они будут ортогональны к постоянной составляющей модели. Поэтому лучше подбирать модель вида )'г=О,+Оз(хгз — хз)+Вз(хгз хз)+ ... +Вь(хм — хь)+~,. (4.3,26) г = Оь + Озхм + Озхм + ° ° + Оьхм + Лг . 4.4. Выводы, основание!е на функции т!равдонодобия 147 Гл. 4, Введение в теорию стоп!стинеских вь!садов В приложении П4.1 показано, что результаты этого раздела легко обобщаются на случай, когда Л! имеют произвольную матрицу ковариаций.
4.4. ВЪ|ВОДЫ, ОСНОВАННЪ|Е НА ФУНКЦИИ ПРАВДОПОДОБИЯ 4.4.1. Основной метод Функция правдоподобия была введена в статистику Фишером, но, как отмечалось в равд. 4.2, Фишер использовал ее главным образом для получения оценок максимального правдоподобия, которые можно было бы затем использовать для оценивания в методе выборочных распределений. Использование же метода правдоподобия для выводов ведет свое начало от работ Барнарда 17, 81 и представляет собой совершенно другой подход к статистическим выводам. Подход Барнарда можно коротко сформулировать в утверждении, что распределения вероятностей полезны при описании данных до того, как они собраны, в то время как фуницни правдоподобия полезны при описании данных послс того, как они собраны.
Важнейшая отличительная черта выводов, основанных па правдоподобии, заключается в том, что они очень ясно показывают, что выборочное пространство не связано с оцениванием. Это логично, ибо свойства выборочной оценки должны, несомненно, зависеть от имеющихся данных, а не от данных, которые рногли бы бь)гь получены. Способ получения выводов, основанных на правдоподобии, можно резюмировать в следующем виде: 1. Выборочная плотность вероятности наблюдений предполагается полностью известной, за исключением нескольких неизвестных значений параметров. 2. Функция правдоподобия получается подстановкой в плотность вероятности тех значений, которые получили наблюдения в данном эксперименте. 3. Функция правдоподобия строится как функция от неизвестных параметров.
4. Находятся подходящие способы извлечения и суммирования информации, содержащейся в функции правдоподобия. В качестве простого примера применения метода правдоподобия рассмотрим несколько искусственную задачу оценки среднего значения )с нормальной плотности вероятности, дисперсия которой ое известна. Выборочная плотность вероятности (4.2.1) выборки, до того как собраны данные, имеет вид с ( тн ° ) т1 2 (Х ! ) -~ч)! — е)]). 1=1 После того как данные получены, функция правдоподобия для )с оказывается пропорциональной экспоненте й (р) = К ехр ( — — „,, (х — )к)~~. (4.4,1) Отсюда функция правдоподобия, рассматриваемая как функция от р, с точностью до множителя равна нормальной плотности вероятности со средним значением х и дисперсией ог/и.
В противоположность этому в методе выборочных распределений Х имеет ог) п. нормальное распределение со средним значешшм )к н дисперс ерсией Информация, даваемая функцией правдоподобия (4,4.1), по существу содержится в ее среднем значении х (выборочная оценка максимального правдоподобия) и в ее дисперсии о'7п. Таким образом, точность, с которой оценивается параметр, сразу видна на графике функции правдоподобия. Если функция правдоподобия сплюснута, то пйраметр оценивается неточно, так как значения параметра, удаленные от выборочной оценки максимального правдоподобия, имеют правдоподобие ненамного меньше, чем правдоподобие самой оценки.
Обратно,если функция правдоподобия сконценгрировапа около выборочной оценки максимального правдоподобия, то параметр оценивается с большой точностью. 4.4.2. Свойства функций правдоподобия В этом разделе мы рассмотрим интерпретацию функций правдоподобия и правила комбинирования этих функций. Принцип правдоподобия. Принцип правдоподобия заключается в том, что если два эксперимента приводят к пропорциональным функциям правдоподобия, то выводы, получаемые из этих экспериментов, должны быть одинаковыми. П редположим, например, что 8 транзисторов падве г п ове ке. До р р . До проведения эксперимента число дефектных транзисторов можно описать с помощью случайной величины тх, выборочного пространства т = О, 1, 2, ..., 8 и биномиального распределения вероятностей т8! Рн (') = ( ] р'(1 — р)в ', (4.4.2) П Зт а осле проведения эксперимента, заключающегося ся в проверке транзисторов, оказалось, что три транзистора дефектны, Функция 4.4. Васеодаь основанные на финнции правдоподобия Гя.
4. Введение в теорию статистинеснит ва~еодое 149 правдоподобия в этом случае имеет вид / (р) =ббрз(1 — р)'. (4.4,3) Теперь предположим, что был проведен другой эксперимент, в котором транзисторы проверялись до тех пор, пока не было обнаружено г дефектных. До проведения этого эксперимента число проверенных транзисторов можно описать с помощью случайной величины /т', выборочного пространства и=г, г+1, ..., о н распределения вероятностей Паскаля р,„(и) =1 1р'(1 — р)" ', (4.4,4) -',г 1/ которое дает вероятность того, что для получения г дефектных транзисторов нужно проверить всего и транзисторов.
Если оказалось, что для получения трех дефектных пришлось проверить п = 8 транзисторов, то функция правдоподобия после проведения экспериментов окажется равной / (р) 21рз(1 р)з (4.4.5) Равенство (4.4.5) пропорционально равенству (4.4.3), и, согласно принципу правдоподобия, информация относительно параметра р, содержащаяся в обоих экспериментах, одинакова.
Если же принять метод выборочных распределений, то выводы, которые должны быть сделаны из этих двух экспериментов, будут разными, так как выборочные пространства и распределения вероятностей являются в них различными. Следовательно, доверительный интервал для р в первом эксперименте отличался бы от доверительного интервала во втором. Отметим, что принцип правдоподобия является формальным выражением того факта, что выборочное пространство не связано с оцениванием р.
![](https://s.studizba.com/z.php?f=/templates/si/i/noavatar.png&w=100&h=100&t=1"){kind=avatar}
