Дженкинс, Ваттс - Спектральный анализ и его приложения (выпуск 1), страница 17

Ра г ге п Е., Мос1егп Ргоьамйму Тйеогу апг) Ив Арр!1санопв, Лойп Тт!!еу, Мгегч Уогйа 1960. 3. А и д е г в о и Б. 1., В о х О, Е. Р., Л коу. 51а1. Бос., В1?, 1 (!955). 4. На!6 А., 51а1!в!!ага! Тйеогу тч1!й Епи!пеег!па Арр!!саг!опв, лойп %г!!еу, Мети уогй, 1952. (Русский перевод. Х а л ад А., Математическая статистика с техническими прилогкекияии, М., ИЛ, !956). ПРИЛОЖЕНИЕ ПЗ ! МОМЕНТЫ ЛИНЕЙНЫХ ФУНКЦИИ ОТ СЛУЧАЙНЫХ ВЕЛИЧИН Результаты, выведенные в равд. 3.2.3 для линейных функции от случайных величин, можно записать изящнее в матричных обозначениях.

Таким образом, если Л =(Л, Л„..., Л.), Х =(Х,, Ха ..., Х„) являются строками-векторами, а штрих обозначает транспониро- ванную матрицу, то результат (3,2.15) можно записать в матричной форме в виде е [л х] =л е [х] =л м, где 1в' =Е [Х'] =(Е [Х,], Е [Хв],, Е [Х ]) и и и Чаг ~Д )„Хг~ = ~~~,~ ~)чЛ, Сот [Хг, Хг] (П3.1.3) г=! !=!у=! можно записать в матричной формс в виде Чаг [Л'Х] = Е [Л' (Х вЂ” !в) (Х вЂ” )а)' Л] = !Ь'ЧЛ, (ПЗ,1.4) где Ч=Е[(Х вЂ” !4) (Х вЂ” гх)'] называется матрицей ковариаций случайных величин Хо Эта матрица имеет вид Чаг [Х,] Сот [Х„Ха] ...

Сот [Х,, Ха] Сот [Х,, Х,] Чаг [Хв! ... Сот [Х,, Ха] Ч = . (ПЗ.!.6) Соч[Х„, Х,] Сот [Х„, Х,] ... Чаг [Х„] Матрица ковариаций обладает следующими свойствами: !) так как Сот[Хо Х,] = Соч[Хь Хг], то матрица Ч симметрична, т. с. Ч= Ч', 1!4 Прилож«ни« ПЗ.! Соч [к'Х, ч'Х) =)с"1гт. (ПЗ.!.6) 2) так как дисперсия случайной величины всегда неотрицательна, то выражение (ПЗ.!.4) будет всегда неотрицательным пр . б ре ). Отсюда следует, что матрица «' является неотрицательно определенной, т. е определители У и всех ее главных мино ов не- отрицательны. Наконец, результат (3.2.21) для ковариации между двумя различными линейными функциями от случайных величин Х, можно записать в виде Глава 4 ВВЕДЕНИЕ В ТЕОРИЮ СТАТИСТИЧЕСКИХ ВЫВОДОВ Статистика представляет собой науку обработки данных; как собрать нужный вид данных, как проанализировать их и как использовать результаты анализа для того, чтобы дать разумные практические рекомендации.

Раздел статистики, имеющий дело с развитием общих методов анализа данных, называется теорией статистических выводов. В свою очередь теория статистических выводов состоит из двух частей: критериев значимости н теории оценивания. В критерии значимости имеющийся набор данных проверяется таким образом, чтобы можно было дать ответ, согласуется ли он с конкретной гипотезой относительно некоторой случайной величины, например является ли эта величина нормально распределенной с данным средним значением !х и данным стандартным отклонением о.

В теории оценивания данные используются для оценки значений параметров некоторой предполагаемой плотности вероятности этой случайной величины и для определения точности выборочных оценок. Последний подход обычно лучше соответствует практическим запросам, чем ограниченный ответ типа «да — нет», даваемый критерием значимости. В этой главе мы будем различать два подхода к теории статистических выводов, а именно метод выборочных распределений (загпр1!пд 6)з1г!Ьп!!оп арргоас)з) и метод правдоподобия. Частным случаем метода правдоподобия, имеющим фундаментальную важность при оценивании спектров мощности, является теория наименьших квадратов, обсуждаемая в равд.

4.3. Метод правдоподобия идеально подходит для ситуаций, где по данным нужно оценить небольшой набор параметров. Обладая этим качеством, он не подходит непосредственно для оценивания спектров мощности, которые содержат по существу бесконечное число параметров. Единственный подход, который возможен в этом случае, заключается в использовании выборочного распределения. Однако мы включили метод правдоподобия в эту главу из-за его важности при оценивании параметров в параметрических моделях. 11б 117 Гл. 4, Введение в теорию статистических выводов 4.2.

Применение метода выборочных расврсделснаа 4.1. ИСТОРИЧЕСКОЕ РАЗВИТИЕ ТЕОРИИ СТАТИСТИЧЕСКИХ ВЫВОДОВ Теория вероятностей развивалась, чтобы предсказывать до проведения эксперимента вероятность того, что случайная величина Х лежит между двумя значениями хс и хг. По мере развития теории неизбежно стали появляться также и некоторые виды статистических выводов. Статистические выводы имеют дело с задачей, являющейся обратной по отношению к задаче теории вероятностей, а именно: как использовать данные хь хь ..., ха после эксперимента для того, чтобы сделать выводы о свойствах случайной величины Х. Предположнлк например, что в результате !5 бросаний монеты мы получили 12 гербов и требуется узнать, совместим ли этот результат с предположением о симметричности монеты.

Классическое решение этой задачи представляет собой пример одного из ранних способов получения выводов, известного теперь под названием критерия значимости. Решение использует исключительно вероятностные понятия и состоит в вычислении вероятности получения 12 или более гербов при допущении гипотезы, что монета симметрична. Если эта вероятность мала, то она может рассматриваться как веский признак того, что предположение о симметричности монеты ложно; если вероятность велика, то этот результат пе противоречит гипотезе о том, что монета симметрична.

В упомянутом вьппе примере вероятность получить !2 или более гербов в 15 бросаниях в предположении, что монета симметрична, равна 0,018, пз чего можно заключить, что монета несимметрична, Другим давно известным способом получения выводов был метод наименьших квадратов, открытый Карлом Фридрихом Гауссом (!777 — !855), когда он занимался определением орбит комет по данным наблюдений.

В этой задаче положение орбиты дается принятой формой функциональной зависимости, включающей некоторые измеренные величины и некоторые фиксированные константы, или параметрьч орбиты. Задача оценивания, рассмотренная Гауссом, состояла в определении наилучших оценок этих параметров по данным наблюдений и в нахождении некоторой меры точности этих оценок. За исключением работы Гаусса, положившей начало исследованиям в этом направлении, ббльшая часть теории статистических выводов была развита в ХХ веке. В большинстве случаев она воз. пикала в тех областях, которые обычно называют нефизическими науками, таких, например, как биология, генетика и сельское хозяйство. В этих областях экспериментальные единицы крайне изменчивы, например животные, на которых испытывают лекарства или корма, или земля, на которой сравниваются разные сорта пшеницы.

Из-за этой большой изменчивости существенный прогресс в экспериментировании был невозможен без развития сложных ме- 4.2. ПРИМЕНЕНИЕ МЕТОДА ВЫБОРОЧНЫХ РАСПРЕДЕЛЕНИЙ К СТАТИСТИЧЕСКИМ ВЫВОДАМ В этом разделе будет показано, как метод выборочных распределений можно применить, во-первых, к задачам оценивания, а вовторых, к критериям значимости. 4.2.1. Основной метод В гл. 3 было показано, что прежде чем получить выборку наблюдений хь х, ..., х, полезно посмотреть на них как на реализацию случайных величин Хь Хи ..., Хв, определенных на п-мерном выборочном пространстве. С этим выборочным пространством связана плотность вероятности, называемая выборочнылс распределением, которая, вообще говоря, будет зависеть от набора неизвестных параметров Оь О...,,., Ом Например, если случайные величины независимы и нормально распределены со средним значением Ос и дисперсией Ои то выборочное распределение, связанное с данными, будет следующим: У„...„<х,, х,,..., х„; О,, О) = н ' .

-с!-+Хо,-чт~. (У2аба)" (4.2.1) тоЛов статистического анализа и планирования экспериментов, направленных на собирание информативных данных. С другой стороны, проникновение статистических методов в физические науки происходило медленно. Например, в экспериментальной физике можно с помощью значительных затрат и сложных методов снизить изменчивость от эксперимента к эксперименту настолько, что статистическими вопросами можно будет пренебречь. В противоположность этому в инженерных исследованиях масштаб экспериментирования гораздо шире — от исследовательских работ в лаборатории через стадию опытных установок до промышленных экспериментов в большом масштабе.

В такой ситуации адекватный контроль условий или невозможен, или же неэкономпчен, вследствие чего применение статистических методов является жизненно необходимым. Задачи, встречающиеся в этих экспериментальных областях, стимулировали развитие теории статистических выводов. В этой главе мы обсудим два важных подхода к этой теории. Первый из нпх имеет своим источником теорию вероятностей и называется методом выборочных распределений. Источником второго является теория наименьших квадратов, и он называется методом правдоподобия. 118 Г.т 4.

Введение в теорию статистических выводов 1!9 4.х Применение метода выборочньм распределений Р и с. 4.1. Выборочные распре. в деленна дап двух одспок. в где Ог=р и Ог=аз в использованных раньше обозначениях. Параметры включены в левую часть выражения (4.2.!) выборочной плотности вероятности для того, чтобы показать, что она является функцией не только от х, но также и от неизвестных параметров От ий,. Предположим, что даны наблголения хь хм ..., хи и требуется оценить параметры О, совместной плотности вероятности случайных величин Хь Х, ..., Х„. Применение метода выборочных распределений к задаче оценивания можно резюмировать в трех следующих разделах. 1.

Вслбор формы выборочной плотности вероятности. Сначала делается предположение о разумной форме совместной плотности вероятности наблюдений. Вид этой плотности булет зависеть от различных предположений, таких, как независимость случайных величин Х; и вид функций [;(хе). Ясно, что решения на этой стадии будут зависеть существенным образом от априорных сведений об изучаемой ситуации. Например, если предположение о независимости нсоправдано, то некоторыс из параметров совместной плотности вероятности могут описывать, зависимость между случайныхги величинами Хь В некоторых случаях выводы не очень суще. ственно зависят от предположений, сделанных относительно математической формы совместной плотности вероятности. В других же случаях они могут сильно зависеть от этих предположений, следовательно, требуется некоторое статистическое умение и интуиция для установления точной формы ьюдели.