Приложение О Дифференциальное исчисление векторов и матриц

П.15. Дифференциальное исчисление векторов и матриц

Производные функций векторов и матриц

Пусть u=f(x) - функция переменных вектора х^T=[x₁, x₂,..., x_р] и ∂u/∂x₁, ∂u/∂x₂,..., ∂u/∂x_р - частные производные её по этим переменным. Определим ∂u/∂х в виде

=                                                   (П.15.1)

Представляющие интерес две специфические функции следующие: u₁=a^Тx и u₂=x^ТAx. Их производные по вектору х приведены в следующих двух теоремах.

Теорема П.15.1. Пусть u₁=a^Тx=x^Тa, где a^Т= [а₁, а₂,..., а_р] - вектор постоянных. Тогда

===а.                              (П.15.2)

Доказательство:

==a_i.

Рекомендуемые материалы

Таким образом, в силу (П.15.1), получаем

==а.

□

Теорема П.15.2. Пусть u₂=x^TAx, где А - симметричная матрица постоянных. Тогда

==2Ax.                                               (П.15.3)

Доказательство: Покажем, что выражение (П.15.3) справедливо для частного случая, где А размеров 3х3. Этот пример можно обобщить для симметричной матрицы А любых размеров. Пусть

х= и А==.

Тогда x^TAx=x₁²a₁₁+2x₁x₂a₁₂+2x₁x₃a₁₃+x₂²a₂₂+2x₂x₃a₂₃+x₃²a₃₃ и имеем

=2x₁a₁₁+2x₂a₁₂+2x₃a₁₃=2а_1сx

=2x₁a₁₂+2x₂a₂₂+2x₃a₂₃=2а_2сx

=2x₁a₁₃+2x₂a₂₃+2x₃a₃₃=2а_3сx.

Таким образом, в силу (П.2.3), (П.2.19) и (П.15.1), получаем

==2=2Ax.

□

Пусть теперь U=f(X) - функция переменных x₁₁, x₁₂,..., x_pp, являющихся элементами матрицы X=Х_рр, и ∂U/∂x₁₁, ∂U/∂x₁₂,..., ∂U/∂x_рр - частные производные её по этим переменным. Аналогично выражению (П.15.1), определим ∂U/∂Х в виде

=.                               (П.15.4)

Представляющими интерес двумя функциями этого типа являются U₁=след(XA) и U₂=ln[det(X)] для положительно определённой матрицы X.

Теорема П.15.3. Пусть U₁=след(XA), где X=Х_рр - положительно определённая матрица переменных и A=А_рр - матрица постоянных значений. Тогда,

==A+A^T–диагA.                          (П.15.5)

Доказательство: Заметим, что след(XA)= [см. доказательство пункта 2 теоремы П.11]. Так как x_ij=x_ji, то ∂[след(XA)]/∂x_ij=а_ij+а_ji, если i≠j, и ∂[след(XA)]/∂x_ii=а_ii. Результат следует.

□

Теорема П.15.4. Пусть U₂=ln[det(X)], где матрица X=Х_рр положительно определенная. Тогда,

=2X^–1–диаг(X^–1).                                  (П.15.6)

Доказательство: см. [Harville (2008) стр.310].

□

Производные обратных матриц и определителей

Пусть матрица А=А_nn невырожденная с элементами а_ij, являющимися функциями скалярной переменной х. Определим ∂A/∂x как матрицу размеров nхn с элементами ∂а_ij/∂x. Часто представляет интерес производная от обратной матрицы ∂A^–1/∂x. Кроме этого, если матрица А положительно определённая, то производная ∂{log[det(А)]}/∂x также часто бывает необходима.

Теорема П.15.5. Пусть матрица A невырожденная порядка n с производной ∂A/∂x. Тогда,

∂A^–1/∂x=–A^–1(∂A/∂x)A^–1                               (П.15.7)

Доказательство: Так как матрица А невырожденная, то имеем

A^–1A=I.

Производная этого выражения получается в виде

A+A^–1=O.

Отсюда

A= –A^–1,

и, умножая последнее выражение справа на A^–1, получаем

∂A^–1/∂x=–A^–1(∂A/∂x)A^–1.

□

Теорема П.15.6. Пусть матрица А=А_nn положительно определённая. Тогда,

=след(A^–1).                                               (П.15.8)

Доказательство: Так как матрица А положительно определённая, то её спектральное разложение (по теореме П.12.4) можно записать в виде MLM^Т, где M - ортогональная матрица и L - диагональная матрица с диагональю из положительных собственных значений l_i. Применяя теорему П.12.5, получаем

=

=

=

=след(L^–1).

Теперь

A^–1=ML^–1M^Т

=ML^–1M^Т

=ML^–1M^Т

=.

Применяя пункты 1 и 2 теоремы П.11, имеем

след(A^–1)=след().

Так как M ортогональная, то M^ТM=I. Отсюда следует, что

=О

и

след()=след()=0.

Таким образом, след(A^–1)=след() и результат следует.

□

Нахождение максимума или минимума функции вектора

Рассмотрим функцию u=f(х) от р переменных вектора х. Во многих случаях можно найти максимум или минимум функции u, решая систему р уравнений

=0.                                                           (П.15.9)

14.1. Физическое моделирование - лекция, которая пользуется популярностью у тех, кто читал эту лекцию.

Иногда требуется определить максимум или минимум функции u при q ограничениях на переменные вектора х. Обозначим ограничения в виде h₁(x)=0, h₂(х)=0,…, h_q(х)=0 или более кратко h(х)=0. Нахождение максимума или минимума функции u при ограничениях h(х)=0 часто может осуществляться методом множителей Лагранжа. Обозначим l - вектор q неизвестных постоянных (множителей Лагранжа) и пусть у^Т=[х^Т, l^Т]. Тогда функция Лагранжа v=u+l^Тh(х). Максимум или минимум функции u, при ограничениях h(х)=0, получается решением системы уравнений

=0

или, равносильно, решением уравнений

+ l=0 и h(х)=0                                 (П.15.10)

где

=.