Проверка статистических гипотез

С1. Лекция 3. Проверка статистических гипотез.

         1. Несмещенные, эффективные и состоятельные оценки.

         2. Выборочная ковариация и выборочная дисперсия.

Вопрос 1. Несмещенные, эффективные и состоятельные оценки.

Поскольку оценки являются случайными переменными, их значения лишь по случайному совпадению могут в точности равняться характеристикам генеральной совокупности. Обычно будет присутствовать определенная ошибка, которая может быть большой или несмещенной, малой, положительной или отрицательной, в зависимости от чисто случайных составляющих величин х в выборке.

Хотя это и неизбежно, на интуитивном уровне желательно, тем не менее, чтобы оценка в среднем за достаточно длительный период была аккуратной. То есть, мы стремимся к тому, математическое ожидание оценки равнялось бы соответствующей характеристике генеральной совокупности. Если это так, то оценка называется несмещенной. Если это не так, то оценка называется смещенной.

С2. Математическое ожидание дискретной случайной величины – это взвешенное среднее всех ее возможных значений, причем в качестве весового коэффициента берется вероятность соответствующего исхода. Его рассчитывают путем перемножения всех возможных значений случайной величины на их вероятности и суммирования полученных произведений. Математически, если случайная величина обозначена как х, то ее математическое ожидание обозначают как М(х).

В виде формулы оно определяется следующим образом:

Рекомендуемые материалы

М(х) = х₁ · р₁ + х₂ · р₂ + … + х_n · р_n = Σ х_i ·р_i               (1)

Рассмотрим простой пример случайной переменной – число очков, выпадающее при бросании лишь одной игральной кости.

С3. В данном случае возможны шесть исходов (по количеству поверхностей кубика). Каждый исход имеет вероятность 1/6, поэтому здесь

             (2)

В данном случае математическим ожиданием случайной переменно является число, которое само по себе не может быть получено при бросании кости.

Математическое ожидание случайной величины часто называют ее средним по генеральной совокупности. Для случайной величины х это значение часто обозначается как μ.

Важной функцией переменной х является ее теоретическая дисперсия, которая характеризует меру разброса для вероятного распределения. Она определяется как математическое ожидания квадрата разности между величиной х и ее средним, т.е. величины (х - μ)², где μ - математическое ожидание х.

Дисперсия обычно обозначается как , и если ясно, о какой переменной идет речь, то нижний индекс может быть опущен.

Часто вместо рассмотрения случайной величины как единого целого можно и удобно разбить ее на постоянную и чисто случайную составляющие, где постоянная составляющая всегда есть ее математическое ожидание. Если х - случайная переменная и μ - ее математическое ожидание, то декомпозиция случайной величины записывается следующим образом:

                                               х = μ + и                                          (3)

где и – это чисто случайная составляющая (в том числе ее среднее значение в регрессионном анализ она обычно представлена случайным членом).

Итак, смещение – это разность между математическим ожиданием оценки и истинным значением оцениваемого параметра, а несмещенная оценка – это оценка, имеющая нулевое смещение.

         Величина х включает две составляющие – μ и . Значение  равно средней чисто случайных составляющих величин х в выборке, и, поскольку математическое ожидание такой составляющей в каждом наблюдении равно нулю, математическое ожидание  равно нулю. Следовательно,

                                                      (4)

Таким образом, можно констатировать, что выборочное среднее

                                       (5),

построенное по данным выборки (х_i) – это несмещенная оценка математического ожидания M(х).

         Соответственно, несмещенность – это желательное свойство оценок.

         Эффективная оценка – это несмещенная оценка, имеющая наименьшую дисперсию среди всех несмещенных оценок.

Если предел оценки по вероятности равен истинному значению характеристики генеральной совокупности, то эта оценка называется состоятельной. Иначе говоря, состоятельной называется такая оценка, которая дает точное значение для большой выборки независимо от входящих в нее конкретных наблюдений.

Состоятельная оценка – это оценка, у которой смещение и дисперсия стремятся к 0 при увеличении объема выборки.

         Вопрос 2. Выборочная ковариация и выборочная дисперсия.

Выборочная ковариация является мерой взаимосвязи между двумя переменными.

Рассмотрим таблицу 1, в которой приведены данные о потребительских расходах на бензин и его реальной цене в США в 1973-1982гг.

Таблица 1

Данные о потребительских расходах на бензин и его реальной цене

в США в 1973-1982гг.

Показатель выборочной ковариации позволяет выразить данную связь единым числом. Для его вычисления мы сначала находим средние (для рассматриваемого выборочного периода) значения цены и спроса на бензин.

Обозначив цену через р и спрос – через у, мы, таким образом, определяем р и у, которые для этой выборки оказываются равными соответственно 143,36 и 26,27. Затем для каждого года вычисляем отклонение величин р и у от средних и перемножаем их (см. таблицу 2).

При наличии n наблюдений двух переменных (х и у) выборочная ковариация между х и у задается формулой:

                               (1)

В нижней клетке последнего столбца таблицы 2 определяется средняя величина (-16,24). Она и является значением выборочной ковариации.

Ковариация в данном случае отрицательна. Так это и должно быть (чем выше реальные цены, тем меньше расходы). Отрицательная связь, как это имеет место в данном примере, выражается отрицательной ковариацией, а положительная связь – положительной ковариацией.

Таблица 2

Дополнительные расчеты для расчета ковариации

Люди также интересуются этой лекцией: 7.5 Складывание административно-бюрократической системы.

Выборочная дисперсия.

Для выборки из n наблюдений х₁,…, х_n выборочная дисперсия определяется как среднеквадратичное отклонение в выборке:

                                  (2)

Определенная таким образом выборочная дисперсия представляет собой смещенную оценку теоретической дисперсии s², определяемая как

                                    (3)