Отчёт по практике: Отчет по учебной практике - ИУ1 - Гаусса-Ньютона

Задание
Реализовать метод Гаусса-Ньютона и метод Левенберга-Марквардта для решения задач с нелинейным методом наименьших квадратов для общих векторных случаев.
Введение
Алгоритм Гаусса-Ньютона используется для решения задач нелинейным методом наименьших квадратов. Алгоритм является модификацией метода Ньютона для нахождения минимума функции. В отличие от метода Ньютона, алгоритм Гаусса-Ньютона может быть использован только для минимизации суммы квадратов, но его преимущество в том, что метод не требует вычисления вторых производных, что может оказаться существенной трудностью. Алгоритм Левенберга-Марквардта — метод оптимизации, направленный на решение задач о наименьших квадратах. Является альтернативой методу Ньютона. Может рассматриваться как комбинация последнего с методом градиентного спуска или как метод доверительных интервалов.