Элементы математической статистики
Лекция 8
Элементы математической статистики.
Пусть исследуется случайная величина с заранее неизвестной функцией распределения F(x).
Множество всех значений этой случайной величины называется генеральной совокупностью (Г С).
Единичное значение случайной величины называется выборкой объема 1.
Совокупность n значений случайной величины образуют выборку объема n.
Выборка имеет то же распределение, что и генеральная совокупность.
Рекомендуемые материалы
Выборочные значения называются вариантами.
Изучая выборку, делают заключение о вероятностных свойствах Г С.
Основные задачи статистики.
1. Оценка неизвестных параметров распределения:
- точечные оценки параметров распределения, например оценка математического ожидания, дисперсии, моментов распределения,
- интервальные оценки – доверительные интервалы – интервалы, в которых находятся параметры распределения с доверительной вероятностью.
2. Проверка статистических гипотез – предположений о законе распределения ГС
или параметрах распределения.
3. Установление формы и степени связи между несколькими случайными переменными.
Эмпирические законы распределения.
Вариационным рядом называются варианты, расположенные в порядке их возрастания (не убывания, если варианты повторяются).
Будем обозначать xk – различные варианты вариационного ряда (k = 1, 2, …), nk – их частоты (число повторений варианты), 
- относительные частоты.
Существуют различные формы закона распределения: ряд распределения, полигон частот, полигон относительных частот, эмпирическая функция распределения, гистограмма (дискретный аналог плотности распределения).
Рассмотрим, например, вариационный ряд 0,0,0,0.0.1,1,3,5,5. Объем выборки n = 10.
Ряд распределения
| xk | 0 | 1 | 3 | 5 |
| nk | 5 | 2 | 1 | 2 |
|
| 1/2 | 1/5 | 1/10 | 1/5 |
Полигон относительных частот имеет тот же вид, но по оси ординат откладываются не частоты nk, а относительные частоты 
(на рисунке черточками отмечены единицы по осям значений и частот).
Эмпирическая функция распределения - аналог функции распределения для дискретных случайных величин, она тоже кусочно постоянна и имеет тот же график, только скачки функции в точках – вариантах происходят на относительные частоты вариант (в примере скачки от 0 на 0,5, затем на 0,2 до 0,7, затем на 0,1 до 0,8 и, наконец на 0,2 до единицы).
Эмпирическая функция распределения формально определяется как
, где 
- число 0,4 членов выборки, меньших x.
Для построения гистограммы приходится приписывать значение частоты варианты некоторому интервалу стандартной ширины (в нашем случае, например, 0,5), лежащему справа от варианты так, чтобы площадь ступени над интервалом равнялась относительной частоте варианты.
Точечные оценки параметров распределения.
Пусть неизвестен параметр распределения
, любая функция 
на выборке 
называется точечной оценкой . Оценки тоже являются случайными величинами.
Требования к оценкам.
1. Несмещенность 
2. Состоятельность 
3. Эффективность (по сравнению с другими оценками) – если дисперсия оценки меньше дисперсий других оценок.
Можно показать, что несмещенная оценка состоятельна, если ее выборочная дисперсия стремится к нулю при 
.
Оценки ищут различными методами: методом моментов, методом максимального правдоподобия, методом наименьших квадратов и др.
Оценка среднего значения ГС (математического ожидания) – выборочное среднее. 
.
Оценка несмещенная, т.к. 
.
Оценка состоятельная, т.к. 
по закону больших чисел.
Оценки дисперсии ГС:
1. Выборочная дисперсия 
Это – смещенная, состоятельная оценка.
2. Несмещенная, состоятельная оценка дисперсии 
Можно показать, что 
.
Пример. Вычислим оценки для приведенного выше ряда распределения
| xk | 0 | 1 | 3 | 5 |
| nk | 5 | 2 | 1 | 2 |
|
| 1/2 | 1/5 | 1/10 | 1/5 |
,
.
Интервальные оценки.
Доверительный интервал – это интервал 
, такой, что 
,
где 
- доверительная вероятность.
Общее правило построения доверительного интервала для любого параметра основано на центральной предельной теореме, по которой при больших n (n>50) оценка 
имеет нормальное распределение с 
, если - несмещенная оценка, а функция распределения случайной величины 
сходится по вероятности при к функции стандартного нормального распределения.
Квантиль
(уровня 
) случайной величины X с функцией распределения F(x) – это такое значение случайной величины X, что 
.
|
| Обозначим |
квантиль нормального распределения уровня 
, где
- функциястандартного нормального распределения. По симметрии плотности нормального распределения 
. Так как 
.
Так как распределение случайной величины стремится к стандартному нормальному распределению, то 
. Отсюда получаем доверительный интервал
.
Доверительные интервалы для параметров нормального закона распределения.
Доверительный интервал для математического ожидания.
Если ГС имеет нормальное распределение, то и любая выборка распределена нормально. Известно, что сумма нормальных случайных величин тоже распределена нормально. Поэтому оценка математического ожидания – выборочное среднее – нормально распределенная случайная величина с 
- известно.
1) Поэтому, если 
известно, то 
, и доверительный интервал для математического ожидания строится так:
с доверительной вероятностью 
. Квантили проще всего искать по таблицам квантилей нормального распределения.
2) Если неизвестно, то нормированная случайная величина 
(вместо подставлена его оценка s) уже не распределена нормально. Она имеет распределение Стъюдента с n-1 степенями свободы. Есть таблицы квантилей распределения Стъюдента. По доверительной вероятности определяют 
, по таблице квантилей определяют квантиль 
уровня 
. Затем по той же схеме строят доверительный интервал для математического ожидания 
.
Если n> 20, то квантиль можно искать по таблицам квантилей нормального распределения.
Доверительный интервал для среднеквадратического отклонения .
Лекция "4.2 Поиск и замена данных" также может быть Вам полезна.
Пусть 
неизвестны. Можно показать, что тогда случайная величина 
имеет 
распределение с (n – 1) степенями свободы. По доверительной вероятности определяют , по таблице квантилей распределения с n – 1 степенями свободы определяют квантили уровней 
и 1 - : 
, 
. Имеет место соотношение
. Строим доверительный интервал для среднеквадратического отклонения
.
Объяснение причин, по которым параметры распределены по Стъюденту или , требуют более глубокого рассмотрения материала. Но для догадки можно использовать два известных результата:
- если x1, …xn распределены нормально, то 
имеет распределение с n степенями свободы
- если x распределена нормально, а y по с n степенями свободы, то случайная величина 
распределена по Стъюденту.
