Анализ модели с нормированными факторами - оценка параметров модели

Глава 8  Анализ модели с нормированными факторами

В предыдущей главе было показано, что анализ данных эксперимента можно проводить, используя линейную модель с нормированной функцией вида

у=Xb+e,                                                        (8.1)

где

у=, X=, b= и e=.

Для оценки параметров этой модели методом наименьших квадратов должны также соблюдаться допущения раздела 7.1, где допущение Е(у)=Xq заменяется на Е(у)=Xb.

8.1. Оценка параметров модели

Функция постулируемой модели (8.1) в матричном виде записывается так

Е(у)=Xb,                                                       (8.1.1)

Рекомендуемые материалы

где полагается, что матрица X нормированных значений факторов имеет полный ранг р по столбцам и, следовательно, матрица X^TX является положительно определённой и имеет обратную. Пусть вектор  оценки получен решением нормальных уравнений

(y–)^ТX=0,                                                   (8.1.2)

как показано в разделе 7.2, то есть, уравнений

(y–X)^ТX=0.

Этот вектор  является вектором оценки методом наименьших квадратов вектора b параметров также из следующих соображений. Функция S(b) суммы квадратов ошибок e модели (8.1) может быть записана в виде

S(b)=[y–Xb]^T[y–Xb]

=(y–+–Xb)^T(y–+–Xb)

=[(y–)^T+(–Xb)^T][(y–)+(–Xb)]

=(y–)^T(y–)+(–Xb)^T(y–)+(y–)^T(–Xb)+(–Xb)^T(–Xb)

=(y–)^T(y–)+(–Xb)^T(–Xb),

так как, в силу (3.9.2),

(y–)^T(–Xb)=(y–)^TX(–b)=0 и (–Xb)^T(y–)=(–b)^TХ^T(y–)=0.

Таким образом, зная, что (y–)^T(y–)=S() - сумма квадратов остатков, то получаем

S(b)=S()+(–b)^ТХ^ТХ(–b).                                 (8.1.3)

При этом, так как матрица X^TX положительно определенная, то функция S(b) принимает минимальное значение при b=. Следовательно, решение нормальных уравнений всегда получается в виде вектора

=(X^TX)^–1X^Тy                                              (8.1.4)

оценки параметров методом наименьших квадратов.

Разложение суммы квадратов ошибок в выражении (8.1.3) может быть удобно представлено в виде таблицы 8.1.1.

Когда для модели (8.1) делается допущение С(y)=С(e)=S=s_к²V, то для оценки параметров и дисперсии применяется рассмотренный в разделе 7.4 обобщенный метод наименьших квадратов. При этом неверное допущение о виде ковариационной матрицы ведёт также к увеличению дисперсий при оценке параметров модели. Известны также другие методы оценки параметров модели и дисперсии для случаев, когда элементы вектора ε ошибок в модели (8.1) имеют отличные от нормального распределения [Box, Draper (2007) стр. 71-76]. Однако в этом случае анализ получаемых результатов надо проводить на основе конкретных распределений отличных от нормального, а это выходит за рамки данной книги.

Таблица 8.1.1. Дисперсионный анализ модели с нормированными факторами

При анализе модели (8.1) большой интерес представляют свойства оценки её параметров и дисперсии в зависимости от числа факторов. При разных используемых в модели числах факторов она может быть адекватной или неадекватной.