Основы корреляционного анализа

Основы корреляционного анализа.

Наиболее простой вид связи между переменными величинами  --  это функциональная зависимость:y=f(x). Каждому значению x соответствует одно значение y.

В медицине и биологии чаще встречается более сложный вид зависимости, когда каждому x соответствует множество значений y  --  это корреляционная зависимость.

То есть имеем целое «облако» из точек в системе координат. Каждому значению x_i соответствуем множество значений y, среднее арифметическое этих значений y̅_i  называется условным средним.

Таким образом, среди множества точек с изменением x можно выделить точки, соответствующие условным средним y:  y̅₁, y̅₂, y̅₃,….y̅_n. Если соединить эти точки кривой линией, то получим  линию регрессии, а соответствующая ей функция y=y̅(x)  --  функция регрессии.

Точно также, при изменении значений y, каждому y_i соответствует множество значений x, их средние арифметические x̅_i   --  условные средние, соединив их кривой , получаем вторую линию регрессии, ей соответствует функция регрессии: x=x̅(y).

x̅,y̅  --  общие средние. Это средние арифметические, вычисленные по всем значениям x и y.

Следовательно, в отличии от функциональной зависимости, корреляционная зависимость характеризуется двумя линиями регрессии:

Рекомендуемые материалы

уравнение регрессии.

В настоящее время изучение различных корреляций является важным разделом многих биологических дисциплин, поэтому возникает потребность в количественном измерении корреляции. Для этого служит ряд методов, наиболее распространённым из которых является вычисление коэффициента корреляции  --  это количественная характеристика связи (зависимости) между исследуемыми величинами.

1. Дисперсия суммы случайных величин. Корреляционный момент.

X и Y  --  случайные величины.

(1)    Z=X+Y  --   их сумма.

(2)    M[Z]=M[X]+M[Y]

Найдём D[Z]=D[X+Y] , для этого вычтем из уравнения (1) уравнение (2):

(3)    Z-M[Z]=X+Y-M[X]-M[Y]=(X-M[X])-(Y-M[Y])

Для сокращения записи обозначают:

Момент  --  это отклонение каждого значения случайной величины от её математического ожидания.

Возведём уравнение (3) в квадрат:  (Z-M[Z])²=((X-M[X])+(Y-M[Y]))²

ΔZ²=(ΔX+ΔY)²  , тогда

ΔZ²=ΔX²+ΔY²+2·ΔX·ΔY  --  это сумма квадратов отклонений.

Математическое ожидание от суммы квадратов отклонений это дисперсия:

D[Z]=D[X+Y]=M[ΔZ²]=M[ΔX²]+M[ΔY²]+2·M[ΔX·ΔY]=D[X]+D[Y]+2·M[ΔX·ΔY]

Принято обозначение: M[ΔX·ΔY]=K[X,Y]  --  корреляционный момент.

Основное свойства корреляционного момента:  если величины Xи Y независимы, то их корреляционный момент K[X,Y]=0. Обратное утверждение неверно.

Из последнего утверждения следует:

2. Теорема сложения дисперсий.

Если величины Xи Y независимы, то:

D[X+Y]= D[X]+D[Y]

Этой теоремой пользуются в теории погрешностей, при обработке результатов косвенных измерений. Так как входящие в расчётные формулы величины в большинстве случаев независимы, то подсчитывая среднюю квадратическую погрешность, суммируют квадраты всех их погрешностей.

3. Коэффициент корреляции (параметрический).

Корреляционный момент K[X,Y] – размерная величина, то есть зависит от выбора единицы измерения. Это затрудняет сравнение корреляционных моментов различных случайных величин, поэтому удобнее использовать безразмерную величину  --  коэффициент корреляции:

   --  это коэффициент корреляции для генеральной совокупности.

 

      --  средние квадратические отклонения  при n→∞

Но мы имеем дело с выборкой, n конечно, выборочные оценки M[X] и M[Y]  --  это x̅ и y̅  --  общие средние (средние арифметические всех значений X и  Y, которые мы имеем из выборки).

Поэтому для вычисления коэффициента корреляции для выборки, используют формулу:

Свойства коэффициента корреляции:

1). -1≤R[X,Y]≤+1

если R[X,Y]˃0  то корреляция называется положительной,

если R[X,Y]<0  то корреляция называется отрицательной.

2). если R[X,Y]≈1, зависимость между X и Y близка к линейной.

3).  , то X и  Yсвязаны линейной зависимостью:

y=ax+b

x=cx+d

Так как мы имеем дело с выборочной совокупностью, то имеем не множество значений X и  Y, а несколько пар выборочных значений: (x_i,y_i),  i=1 : n.

Так как коэффициент корреляции R[X,Y] вычисляется по выборке, то есть является статистической оценкой  ρ[X,Y]--  коэффициента корреляции генеральной совокупности, то  R[X,Y] вычислен с ошибкой. Встаёт вопрос: достоверно ли значение выборочного коэффициента корреляции?

4. Оценка значимости параметрического коэффициента корреляции.

Проверка коэффициента корреляции на достоверность осуществляется по критерию Стьюдента.

Н₀: ρ=0,следовательно  R[X,Y] не достоверен (то есть коэффициент корреляции генеральной совокупности ρ=0, следовательно зависимости между  XиY нет).

где  σ_R  --  ошибка выборочного коэффициента корреляции R[X,Y]

для n<30                где n-2   число степеней свободы.

В таблице критерия Стьюдента по заданному уровню значимости α и числу степеней свободы: n-2  находим   .

если      Н₀ принимаем.         Вывод:  R  недостоверен, за   висимости между XиY нет.

если      Н₀ отвергаем.         Вывод:  R  достоверен, зависимость (корреляция) между XиY есть.

Если коэффициент корреляции достоверен, то можно переходить к построению линий регрессии и записать уравнение регрессии.

5. Построение линий регрессии.

Коэффициент корреляции R[X,Y]  указывает лишь на наличие связи двух величин, но не даёт возможности судить, как количественно изменяется одна величина относительно другой. Ответ на этот вопрос даёт регрессионный анализ.

Корреляционная зависимость характеризуется двумя линиями регрессии:

Если R[X,Y] =1, то это линейная зависимость:  y=bx+a.

Если R[X,Y] ≠1,то условные средние y̅_I  не лягут на одну прямую, но при R[X,Y] ≈1  (R=0,95,  R=0,85) можно провести усредняющую прямую. Так как имеем две линии регрессии:

то для y=y̅(x):

то для x=x̅(y):

σ(Y)=S_n(Y)           выборочные оценки среднего

σ(X)=S_n(X)           квадратического отклонения.

Так как обе линии регрессии проходят через точку с координатами (x̅,y̅),              где  x̅,y̅ --  общие средние, вычисленные по выборке, то уравнение регрессии имеет вид:

или:

6. Ранговый коэффициент корреляции.

Определить, есть ли связь между признаками  XиY, можно и с помощью рангового коэффициента корреляции. Он менее точен и не может использоваться для построения линий регрессии, но так как ранговый коэффициент корреляции легко вычислить, есть смысл воспользоваться им для первоначальной оценки связи между признаками.

Ранговый коэффициент корреляции вычисляется по формуле:

n  --  число пар x,y (объём выборки).

r_xi  --  ранг по признаку  X

r_yi   --  ранг по признаку  Y.

То есть ранги отдельно расставляются для XиY.

Так как R_{S эксп}  вычислен по выборке, то он также нуждается в проверке на достоверность.

 Для этого R_{S эксп}  сравнивают с R_{S критич} , найденным в таблице ранговой корреляции ,для заданного уровня значимости α и числа степеней свободы n-2.

Н₀:  R_{S эксп}  не достоверен.

Если     |R_{S эксп}| < R_{S критич}          то   R_S ,полученный по выборке не достоверен,           корреляции (зависимости)  между XиY нет.

Если     |R_{S эксп}| ˃ R_{S критич}          то   R_S ,полученный по выборке  достоверен,           корреляция (зависимость)  между XиY есть.

Пример:  По критерию ранговой корреляции выяснить, есть ли корреляция между признаками XиY для уровня значимости α=0,05.

n=10

α=0,05

Н₀:  R_{S эксп}  не достоверен, корреляции нет.

По таблице ранговой корреляции для α=0,05 и числа степеней свободы 10-2=8 находим: R_{S критич}=0,64.

Так как        Н₀  отвергаем.

Вывод: Ранговый коэффициент корреляции достоверен, корреляция между признаками XиY есть.

Вычислим параметрический коэффициент корреляции:

Проверка на достоверность:

Н₀: ρ=0,следовательно  R[X,Y] не достоверен (то есть коэффициент корреляции генеральной совокупности ρ=0, следовательно зависимости между  XиY нет).

В таблице критерия Стьюдента по заданному уровню значимости α=0,05 и числу степеней свободы: n-2=10-2=8  находим   =2,31

Так как      Н₀ отвергаем.         Вывод:  R  достоверен, зави

симость (корреляция) между XиY есть.

Построение линий регрессии:

Уравнение регрессии:

Контрольные вопросы.

1. Что такое корреляция?

2. Дисперсия суммы случайных величин. Корреляционный момент.

Вместе с этой лекцией читают "Литература".

3. Теорема сложения дисперсий.

4. Параметрический коэффициент корреляции .

5. Проверка параметрического коэффициента корреляции на достоверность.

6. Построение линий регрессии.

7. Ранговый коэффициент корреляции.

8. Проверка рангового коэффициента корреляции на достоверность.