Ковариация и корреляция как меры зависимости переменных

1.8. Ковариация и корреляция как меры зависимости переменных

Мерой линейной зависимости случайных переменных, например таких как роста у₁ и веса у₂, является их ковариация. Также как дисперсии этих переменных представляют собой математические ожидания возведённых в квадрат разностей значений их наблюдений от соответствующих средних

D(у₁)=E(у₁–y₁)²=s₁² и D(у₂)=E(у₂–y₂)²=s₂²,                     (1.8.1)

так и ковариация этих переменных является математическим ожиданием произведения разностей у₁–y₁ и у₂–y₂, то есть,

C(у₁, у₂) =Е[(у₁–y₁)(у₂–y₂)]

=.                              (1.8.2)

Здесь также специальный символ C(у₁, у₂) используется для обозначения ковариации. И если переменные у₁ и у₂ статистически независимы, то их ковариация C(у₁, у₂) равна нулю, но обратное неверно.

На практике, призывники с ростом, отклоняющимся в сторону увеличения (уменьшения) от их среднего роста, имели бы и вес, стремящийся отклоняться в сторону увеличения (уменьшения) от их среднего веса. Таким образом, положительные (отрицательные) разности у₁–y₁ имели бы тенденцию сопровождаться положительными (отрицательными) разностями у₂–y₂ и ковариация между ростом и весом была бы положительная. Однако ковариация между скоростью реакции водителя и количеством потреблённого им алкоголя является отрицательной, так как уменьшение скорости реакции связано с увеличением потреблённого алкоголя, и наоборот.

Ковариация зависит от выбора единиц измерения. Например, если рост измеряется в метрах, а не в сантиметрах, то ковариация тоже изменяется. Безразмерная ковариация, называемая коэффициентом корреляции, обозначается символом r(у₁, у₂) или просто r (греческая буква ро) и получается как математическое ожидание произведения делённой на s₁ разности у₁–y₁ на делённую на s₂ разность у₂–y₂. Следовательно, коэффициент корреляции между случайными переменными у₁ и у₂ находится по формуле

Рекомендуемые материалы

r₁₂=r(у₁, у₂) =Е==.                      (1.8.3)

На основании этого можно также записать C(у₁, у₂)=r₁₂s₁s₂.

Аналогично по данным выборок выборочный коэффициент корреляции между у₁ и у₂ определяется так:

r₁₂=.                            (1.8.4)

Числитель в этом выражении называется выборочной ковариацией между у₁ и у₂, а в знаменателе s₁ и s₂ являются выборочными стандартными отклонениями для у₁ и у₂.

Когда данные получаются последовательно, то обычно, для сделанных один за другим во времени наблюдений существует тенденция быть более сходными, чем те, которые сделаны более обособленно и через большие интервалы времени. Это происходит из-за того, что по ходу времени продолжают действовать возмущающие воздействия.

Если имеется достаточно данных, то корреляцию последовательности наблюдений можно увидеть построением значений каждого наблюдения в зависимости от значения предшествующего ему наблюдения, то есть, у_t от у_t–1. Подобные построения могут быть сделаны для данных, отстоящих друг от друга на один интервал (у_t от у_t–1), два интервала (у_t от у_t–2), три интервала и так далее. При этом коэффициенты корреляции называют коэффициентами автокорреляции. Расстояние между наблюдениями, которые таким образом коррелированы, называется отставанием. Коэффициент автокорреляции выборки с отставанием k определяется выражением:

r_k=.                                           (1.8.5)

Зависимость r_k от k называется выборочной функцией автокорреляции.

Упражнение 1.8.1. Вычислите выборочный коэффициент корреляции для следующих данных:

Ответ: 0,83

Упражнение 1.8.1. Вычислите коэффициент автокорреляции выборки с отставанием k=1 для данных: 3, 6, 9, 8, 7, 5, 4.

Ответ: 0,22