Анализ модели с нормированными факторами - оценка параметров модели
Глава 8 Анализ модели с нормированными факторами
В предыдущей главе было показано, что анализ данных эксперимента можно проводить, используя линейную модель с нормированной функцией вида
у=Xb+e, (8.1)
где
у=, X=, b= и e=.
Для оценки параметров этой модели методом наименьших квадратов должны также соблюдаться допущения раздела 7.1, где допущение Е(у)=Xq заменяется на Е(у)=Xb.
8.1. Оценка параметров модели
Функция постулируемой модели (8.1) в матричном виде записывается так
Е(у)=Xb, (8.1.1)
Рекомендуемые материалы
где полагается, что матрица X нормированных значений факторов имеет полный ранг р по столбцам и, следовательно, матрица XTX является положительно определённой и имеет обратную. Пусть вектор оценки получен решением нормальных уравнений
(y–)ТX=0, (8.1.2)
как показано в разделе 7.2, то есть, уравнений
(y–X)ТX=0.
Этот вектор является вектором оценки методом наименьших квадратов вектора b параметров также из следующих соображений. Функция S(b) суммы квадратов ошибок e модели (8.1) может быть записана в виде
S(b)=[y–Xb]T[y–Xb]
=(y–+–Xb)T(y–+–Xb)
=[(y–)T+(–Xb)T][(y–)+(–Xb)]
=(y–)T(y–)+(–Xb)T(y–)+(y–)T(–Xb)+(–Xb)T(–Xb)
=(y–)T(y–)+(–Xb)T(–Xb),
так как, в силу (3.9.2),
(y–)T(–Xb)=(y–)TX(–b)=0 и (–Xb)T(y–)=(–b)TХT(y–)=0.
Таким образом, зная, что (y–)T(y–)=S() - сумма квадратов остатков, то получаем
S(b)=S()+(–b)ТХТХ(–b). (8.1.3)
При этом, так как матрица XTX положительно определенная, то функция S(b) принимает минимальное значение при b=. Следовательно, решение нормальных уравнений всегда получается в виде вектора
=(XTX)–1XТy (8.1.4)
оценки параметров методом наименьших квадратов.
Разложение суммы квадратов ошибок в выражении (8.1.3) может быть удобно представлено в виде таблицы 8.1.1.
Когда для модели (8.1) делается допущение С(y)=С(e)=S=sк2V, то для оценки параметров и дисперсии применяется рассмотренный в разделе 7.4 обобщенный метод наименьших квадратов. При этом неверное допущение о виде ковариационной матрицы ведёт также к увеличению дисперсий при оценке параметров модели. Известны также другие методы оценки параметров модели и дисперсии для случаев, когда элементы вектора ε ошибок в модели (8.1) имеют отличные от нормального распределения [Box, Draper (2007) стр. 71-76]. Однако в этом случае анализ получаемых результатов надо проводить на основе конкретных распределений отличных от нормального, а это выходит за рамки данной книги.
Таблица 8.1.1. Дисперсионный анализ модели с нормированными факторами
Источники дисперсии | Степени свободы | Суммы квадратов |
Регрессия | р | (–b)ТХТХ(–b) |
Остатки | Информация в лекции "22. Бюджет телерадиокомпании" поможет Вам. n–р | S() |
Итого | n | S(b) |
При анализе модели (8.1) большой интерес представляют свойства оценки её параметров и дисперсии в зависимости от числа факторов. При разных используемых в модели числах факторов она может быть адекватной или неадекватной.