Матрица оценки переменных отклика

8.5. Матрица оценки переменных отклика

Ранее было отмечено, что матрица H=X(X^ТX)^–1X^Т симметричная и идемпотентная. Рассмотрим теперь некоторые дополнительные свойства этой матрицы. Эти свойства будут полезны при обсуждении резко выделяющихся значений переменных отклика и влиятельных наблюдений.

В силу (7.5.26), для модели у=b₀1+X₁b₁+e с нормированными факторами вектор  оценки ожидаемых значений переменных отклика принимает вид

=1+X₁,                                                                       (8.5.1)

где X₁= (I–Е/n)X₁D_s^–1. В силу (7.5.30) и (7.5.31), выражение (8.5.1) можно записать так

=1+X₁(X₁^ТX₁)^–1X₁^Ту=11^Ту/п+H₁у

=(Е/п+H₁)у,                                                               (8.5.2)

где матрица H₁=X₁(X₁^ТX₁)^–1X₁^Т. И на основе выражений (8.4.2) и (8.5.2) имеем

H=Е/п+H₁

Рекомендуемые материалы

=Е/п+X₁(X₁^ТX₁)^–1X₁^Т.                                               (8.5.3)

Рассмотрим теперь некоторые свойства элементов h_ij матрицы Н [Hocking (2003) стр.196; Rencher, Schaalje (2008) стр.231; Chatterjee, Hadi (1988) стр.18].

Теорема 8.5. Если матрица Х нормированных значений факторов размеров nxр и ранга р<n с первым столбцом 1 из единиц, то элементы h_ij матрицы Н=X(X^ТX)^–1X^Т обладают следующими свойствами:

1. Элементы по диагонали матрицы H находятся по формуле h_ii=1/п+x_1iс(X₁^ТX₁)^–1x_1iс^Т, где x_1iс= [x_i1, x_i2,..., x_i(р-1)] является i-й строкой матрицы X₁.

2. Значения элементов по диагонали матрицы H находятся в интервале 1/п ≤h_ii ≤1, при i=1, 2, …, n.

3. Значения остальных элементов матрицы H находятся в интервале –0,5 ≤h_ij ≤0,5 для всех i≠j (j=1, 2, …, n).

4. след(H)==р.

Доказательство:

1. Элементы по диагонали матрицы H находятся с использованием выражения (8.5.3). Каждый из них является суммой элемента по диагонали матрицы Е/п равного 1/п и соответствующего элемента по диагонали матрицы X₁(X₁^ТX₁)^–1X₁^Т. Элементы по диагонали этой матрицы можно найти, разделив матрицу X₁ по строкам. При этом квадратичная форма x_1iс(X₁^ТX₁)^–1x_1iс^Т от i-й строки x_1сi матрицы X₁ даёт i-й диагональный элемент матрицы X₁(X₁^ТX₁)^–1X₁^Т. Результат сложения квадратичной формы x_1iс(X₁^ТX₁)^–1x_1iс^Т с 1/п даёт искомый диагональный элемент h_ii матрицы H.
2. Наименьшее значение 1/п неравенства 1/п≤h_ii≤1 получается из выражения (8.5.3). Так как матрица X₁^ТX₁ положительно определённая, то по теореме П.6.5 и её обратная матрица (X₁^ТX₁)^–1 тоже положительно определённая. Следовательно, являющиеся диагональными элементами матрицы X₁(X₁^ТX₁)^–1X₁^Т квадратичные формы х_1ic(X₁^ТX₁)^–1х_1ic^Т все больше нуля. Отсюда 1/п≤h_ii при равенстве, если X₁=О. Поскольку матрица H симметричная и идемпотентная H=HH, то на основе этого можно найти наибольшее значение элементов h_ii. Пусть h_iс будет i-й строкой матрицы H. Тогда i-й диагональный элемент матрицы H является результатом произведения i-й строки h_iс на i-й столбец h_i матрицы H. При этом ввиду симметричности матрицы H, элементы её строк равны соответствующим элементам её столбцов. Поэтому получаем

h_ii=h_iсh_i=[h_i1, h_i2, ..., h_iп]=.

В полученной сумме произведений элементов строк и столбцов можно выделить произведение элементов строки и столбца с одинаковыми значениями индексов и записать это в виде странного на первый взгляд выражения

h_ii=h_iih_ii+.                                            (8.5.4)

Так как h_ii≥1/п, то элементы h_ii имеют положительные значения. Поэтому можно разделить обе части выражения (8.5.4) на h_ii и получить

1=h_ii+/h_ii,                                             (8.5.5)

что означает h_ii≤1, при равенстве, если все h_ij=0.

1. Выражение (8.5.4) можно записать также в виде

h_ii=h_ii²+h_rs²+(–h_rs²),                             (8.5.6)

где h_rs² является некоторым взятым из суммы  произведением соответствующих и расположенных не по её диагонали элементов строки h_iс и столбца h_i матрицы H. Выражение (8.5.6) преобразуется к виду

h_ii–h_ii²=h_rs²+(–h_rs²),

откуда h_rs²≤h_ii–h_ii², при равенстве, когда =h_rs². Максимум разности h_ii–h_ii² равен 1/4. Это получается, если взять производную от h_ii–h_ii² по h_ii и приравнять её нулю. При этом вторая производная получается отрицательной, что указывает на получаемый максимум. Следовательно, так как h_rs² взято из суммы , то при j≠i для любого h_ij имеем h_ij²≤1/4 или –0,5 ≤h_ij ≤0,5.

1. След матрицы H находится так

"7 - Поисковые признаки" - тут тоже много полезного для Вас.

след(H)=след[X(X^ТX)^–1X^Т]

=след[X^ТX(X^ТX)^–1]

=след(I_p)

=р.

□

По пункту 4 теоремы 8.5 видно, что с увеличением п значения h_ii будут уменьшаться.