Лекция №6 (Лекции Облаковой )

Лекция №6

Задача оценки параметров

Пусть - выборка из известного распределения , зависящего от неизвестного параметра .

Задача: оценить значение параметра .

Определение 1. – оценка параметра (функция от выборки)

Определение 2 . Оценка параметра называется несмещенной, если .

Примеры.

1) Выборочное среднее является несмещенной оценкой математического ожидания.

2) Выборочная дисперсия является несмещенной оценкой дисперсии .

Определение 3. Оценка параметра называется состоятельной, если

Примеры.

1) Выборочное среднее является состоятельной оценкой математического ожидания в силу ЗБЧ (теорема Хинчина):

2) Выборочная дисперсия является состоятельной оценкой дисперсии , поскольку

Первое слагаемое в квадратных скобках сходится по вероятности к в силу ЗБЧ, а второе по пункту 1) к . Следовательно,

.

Поскольку то .

Метод моментов.

Пусть – неизвестный параметр для известного закона распределения.

Вычисляются эмпирических и теоретических моментов и решается система из уравнений с неизвестными.

Примеры.

1. Равномерный закон распределения

Оценки по методу моментов:

- оценки по методу моментов

2. Пусть –выборка из нормального распределения с неизвестными параметрами и .

Теоретические моменты: ,

Приравниваем к эмпирическим моментам и находим оценки:

Метод максимального правдоподобия.

Дискретный закон, зависящий от неизвестного параметра

Определение. 1.Функцией правдоподобия случайной выборки из дискретного закона, зависящего от неизвестного параметра , называется

2.Функцией правдоподобия случайной выборки из абсолютно непрерывного закона с плотностью , зависящей от неизвестного параметра , называется

Определение. Значение , при котором достигается максимальное значение функции правдоподобия, называется оценкой максимального правдоподобия.

Примеры. 1 Нормальный закон с неизвестными параметрами и .

Составим функцию правдоподобия

Критические точки:

,

Находим производные второго порядка

Поскольку , – выполнены достаточные условия максимума

Следовательно,

, - ОМП.

2. Равномерное распределение на неизвестном интервале

Составим функцию правдоподобия

Функция правдоподобия примет свое максимальное значение, если разность

, при условии, что все , то есть , - оценки максимального правдоподобия

Доверительные интервалы.

Определение. Доверительным интервалом для одномерного параметра называется любой интервал , , содержащий истинное значение параметра с вероятностью .

- доверительная вероятность

Построение доверительных интервалов для параметров нормального распределения

1. Доверительный интервал для (неизвестного) математического ожидания при известном с.к.о. .

Статистика распределена по нормальному закону с параметрами

Следовательно,

Далее, для квантилей в силу симметрии имеет место соотношение . Разрешаем относительно параметра неравенство :

Таким образом, -доверительный интервал для параметра с доверительной вероятностью .

1. Доверительный интервал для (неизвестного) с.к.о. при известном математическом ожидании .

Рассмотрим статистику .

Поскольку , то , , следовательно, распределена по закону .

Находим квантили и , разрешаем неравенство

относительно :

,

- доверительный интервал для при известном

Теорема. Если –выборка из нормального распределения с параметрами и , то и независимы, и имеет распределение .

1. Доверительный интервал для (неизвестного) с.к.о. при неизвестном математическом ожидании .

Рассмотрим статистику .

По теореме статистика распределена по закону .

Находим квантили и , разрешаем неравенство

относительно :

, - доверительный интервал для при неизвестном .

Примечание. Доверительный интервал для при неизвестном математическом ожидании шире, чем при известном, что объяснятся меньшим количеством информации.

1. Доверительный интервал для (неизвестного) математического ожидания при неизвестном с.к.о. .

По теореме, статистика и независима от статистики , распределенной по закону . Таким образом, отношение распределено по закону Стьюдента с .

Строим доверительный интервал:

Примеры. Пусть

Построим доверительные интервалы