lopt5 (1013497), страница 2
Текст из файла (страница 2)
Для уменьшения числа обращений матрицы Гессе применяетсяупрощенный метод Ньютона, в котором обращение осуществляется один раз – в началь-ной точке x 0 :( ) ( )x k +1 = x k − t k H −1 x 0 ∇f x k , k = 0, 1,… .В. МЕТОД МАРКВАРДТАСтратегия поискаСтратегия метода Марквардта (Marquardt) состоит в построении последовательности точек x k , k = 0,1, … , таких, что f x k +1 < f x k , k = 0,1, … . Применяется в слу-{ }() ( )чаях, когда на какой-либо итерации (итерациях) выполняется условие det H ( x k ) ≈ 0 , чтоприводит к значительным погрешностям вычисления обратной матрицы.{ }Точки последовательности x k вычисляются по правилу[ ( )x k +1 = x k − H x k + μ k E] ∇f (x ) , k = 0,1,… ,−1kгде точка x 0 задается пользователем, E – единичная матрица, μ k – последовательность[ ( )положительных чисел, таких, что матрица H x k + μ k E]−1положительно определена.Как правило, число μ 0 назначается как минимум на порядок больше, чем самый( )E ) ∇f (x )⎞⎟ < f (x ),⎠большой элемент матрицы H x 0 , а в ряде стандартных программ полагается μ 0 = 104 .( ( )−1μkkkто μ k +1 =.
В противном случаеf ⎛⎜ x k − H x k + μ k2⎝μ k +1 = 2μ k . Легко видеть, что алгоритм Марквардта в зависимости от величины μ k накаждом шаге по своим свойствам приближается либо к алгоритму Ньютона, либо к алгоритму градиентного спуска.Если50.